遇见数据集

Bad Spiders - Misbehaving Web-Crawlers Dataset

收藏
kaggle2026-06-15 更新2024-03-07 收录
官方服务:

资源简介:

Crawlers that went into the "Disallowed" parts of a website ignoring robots.txt

无视robots.txt(机器人排除协议文件),擅自进入网站"Disallowed(禁止访问)"区域的网络爬虫

创建时间:
2022-09-12
二维码
社区交流群
二维码
科研交流群
商业服务