mr roboto::robot:处理并解析网站的robots.txt文件并提取可操作的信息 源码
罗博托先生 Roboto先生旨在处理和解析网站的robots.txt文件,从而提供了一个简单的界面来验证是否允许使用特定路径。 Mr-Roboto尚未准备好生产,因此不应在任何关键任务代码库中使用。
文件列表
mr-roboto-master.zip
(预估有个11文件)
mr-roboto-master
index.js
3KB
package.json
557B
mr-roboto.sublime-project
233B
test
match.js
4KB
index.js
77B
util.js
709B
package-lock.json
86KB
.npmignore
49B
暂无评论