禁止搜索引擎/蜘蛛抓取的规则文件 robots.txt模板

时间:2015-09-03 10:03:08
【文件属性】:
文件名称:禁止搜索引擎/蜘蛛抓取的规则文件 robots.txt模板
文件大小:582B
文件格式:TXT
更新时间:2015-09-03 10:03:08
robots模板 屏蔽蜘蛛抓取 禁止搜索引擎/蜘蛛抓取的规则文件 robots.txt模板 参照你们写就可以了,很简单的。这里的规则针对所有的搜索引擎,如果只针对百度 把User-agent: * 修改为 User-agent: baidu 即可,以此类推。

网友评论

  • 还不错,学习一下!
  • 有一定基础来修改使用,初级应用还是OK.