扎姆 Zam Search是一个演示Web项目,显示了一个完整的服务搜索整体。 它可以在分布式服务器上运行,也可以在单个服务器上运行,并且作为一组服务将:服务搜索网站,使用域列表和深度设置对Web进行爬网,将结果存储在数据库中并为搜索结果编制索引。 尽管打包在一起,但也应该有可能将3个主要服务分开按比例扩展。 在下面,您将以ubuntu实例为例,对软件包中使用的技术以及如何在本地运行和部署项目进行说明。 快乐(负责任)刮! 特征 设置为对所需的任何域进行爬网,并停留在该域内或允许其外 设置索引以使用自定义选项(例如深度)进行爬网 遵守robots.txt 设置书签,以便可以在几天内为网站建立索引(在设置了爬网限制的情况下很有用) 索引对结果进行爬网以每小时显示一次,也可以将其设置为长时间(实时时间不是很大的过渡,也许以后会变大!) 域上的索引可以每小时,每周或每个域运行有意义的索