java实现的搜索引擎网络爬虫 使用了队列 重复爬取检测 使用Java实现了一个简单的网页爬取程序,使用“广度优先搜索”对整个互联网进行爬取,对每个URL进行MD5摘要并且放在HashTable中,防止网页中的“死循环”,采用了队列的方式存储还未解析的网页。