Python 本项目在Celery分布式爬虫的基础上构建监控方案Demo
本项目在 Celery 分布式爬虫的基础上构建监控方案 Demo,在编写 Statsd InfluxDB 方案代码进行调研过程中,转向了 Prometheus 的怀抱 ,使用 Grafana 对监控序列进行可视化,爬虫部分目前只完成对下载和解析进行简单解耦,反爬部分和代码结构优化等后续会陆续进行完善
文件列表
Python-本项目在Celery分布式爬虫的基础上构建监控方案Demo.zip
(预估有个13文件)
CrawlerMonitor-master
celery_metrics.json
18KB
LICENSE
1KB
monitor.py
14KB
xueqiu.py
6KB
utils.py
483B
README.md
3KB
conf
supervisor.ini
378B
program.ini
333B
暂无评论