seo工作者应该不陌生，robots.txt文件是每一个搜索引擎蜘蛛到你的网站之后要寻找和访问的第一个文件，robots.txt是你对搜索引擎制 定的一个如何索引你的网站的规则。通过该文件，搜索引擎就可以知道在你的网站中哪些文件是可以被索引的，哪些文件是被拒绝索引的，我们就可以很方便地控制 搜索索引网站内容了。 robots.txt文件的作用： 1、屏蔽网站内的死链接。 2、屏蔽搜索引擎蜘蛛抓取站点内重复内容和页面。 3、阻止搜索引擎索引网站隐私性的内容。 因此建立robots.txt文件是很有必要的，网站中重复的内容、页面或者404信息过多，搜索引擎蜘蛛就会认为该网站价值较低，从而降低对该网站的“印象分”，这就是我们经常听到的“降低权重”，这样网站的排名就不好了。 robots.txt文件需要注意的最大问题是：必须放置在一个站点的根目录下，而且文件名必须全部小写。 robots.txt文件的基本语法只有两条，第一条是：User-agent，即搜索引擎蜘蛛的名称；第二条是：Disallow，即要拦截的部分。 内容比较多这里只写了一部分，希望刚建好博客的童鞋们，希望各大搜索引擎尽快收录的，一定要去我的博客看完全文，并且有我的博客robots.txt的写法。