湖中沉 发表于 2012-9-21 12:49:40

百度spider不支持Crawl-delay设置的通知

站长之家（Chinaz.com）9月21日消息：百度站长平台昨日发布公告称，百度spider不再支持Crawl-delay的设置，如果想让配置网站针对百度spider的访问频率，可以使用百度站长平台的抓取压力反馈工具。以下是公告内容全文：尊敬的各位用户，亲爱的站长们，大家好：近期，我们收到一些对Crawl-delay用法的询问，现明确百度对网站访问频率不再参考该设置，即不支持Crawl-delay配置，如果您希望配置网站针对百度spider的访问频率，建议您使用百度站长平台的抓取压力反馈工具，先查询网站在百度近一个月的天级抓取量趋势图，可调节百度spider每天访问您网站的抓取压力上限，供百度参考，避免百度spider对站点抓取压力过大，造成网站服务器负载及抓取异常。

冰深 发表于 2012-9-22 08:46:09

额，我的新站刚上线，还没有用到这个...
页: [1]
查看完整版本: 百度spider不支持Crawl-delay设置的通知