怎样查看网站robots.txt内容

如题所述

robots文件一般放在网站根目录,所以想查看它很简单,

只需要在你的网站URL后面输入:robots.txt 

以百度的robots为例:www.baidu.com/robots.txt


如果觉得有用记得点个赞!

温馨提示:内容为网友见解,仅供参考
第1个回答  2017-11-10
robots.txt文件应该放在网站根目录下,用好robots是很容易为你网站提权的。
robots.txt其实就是个记事本文件,这个文件应该放到网站的根目录
如想让蜘蛛抓取你的所有页面,可以上传一个空的记事本文件命名为“robots.txt”上传到根目录即可本回答被提问者采纳
相似回答