为了高效地从 www.52pdf.net 获取施耐德按钮开关选型指南,我们采用带偏好的爬虫,并使用优先级队列来管理待爬取的网页。
表1.4 带偏好的爬虫TODO优先级队列及访问记录
| 步骤 | 优先级队列 (TODO) | 已访问 (Visited) |
|---|---|---|
| 1 | A, D, B, C, E, F | null |
| 2 | B, C, E, F | A |
| 3 | C, E, F | A, D |
| 4 | E, F | A, D, B |
| 5 | F, H | A, D, B, C |
| 6 | G, H | A, D, B, C, E |
| 7 | | A, D, B, C, E, F |
说明:
- TODO队列中的网页按照优先级排序,优先级高的网页会优先爬取。
- Visited表记录已经爬取过的网页,避免重复爬取。
暂无评论