网络蜘蛛webspider开源系统

wqyxc 43 0 GZ 2018-12-15 12:12:17

稳定的网络蜘蛛,可以并行抓取多个站点,BS架构控制系统,使用httpsqs 和淘宝的tair可以作为分布式爬虫基础,去重能力强,存储系统为mysql,可以用sphinx等做索引,原始版本

用户评论
请输入评论内容
评分:
Generic placeholder image 卡了网匿名网友 2018-12-15 12:12:17

谢谢楼主的资源。

Generic placeholder image 卡了网匿名网友 2018-12-15 12:12:17

很有参考性。感谢楼主