必须读: 谷歌解析古怪的Robots.txt
Angsuman Chakraborty
2008年7月7日
谷歌查寻马胃蝇蛆(Googlebot)解析robots.txt文件发现站点的被排除的部分象所有好webbots的。 然而不同于其他马胃蝇蛆,谷歌马胃蝇蛆不同地表现,当您有所有马胃蝇蛆的一个部分(*)时并且具体一个部分Googlebot的。
假设您有一个部分在所有马胃蝇蛆的robots.txt从开始:
用户代理: *
我们也假设,您没有任何部分明确地被瞄准对Googlebot。 在这种情况下谷歌马胃蝇蛆遵照全球性方针(可适用对所有马胃蝇蛆)。 明确地现在增加一个部分象这样的Googlebot的:
用户代理: Googlebot
我假设,它将遵照所有马胃蝇蛆的两个方针(*)并且具体方针Googlebot的。 根据robots.txt谷歌Web站点管理员的验查员用工具加工,在这样案件Googlebot只依从为Googlebot明确地瞄准的方针并且忽略所有马胃蝇蛆的全球性方针(*),既使当方针是非重复的。
其他马胃蝇蛆包括那谷歌不展示这种气质。
归档在 公司之下, 谷歌, 标题新闻, SEO, 网 |
|
RSS 2.0 |
Trackback 这篇文章 |
给这篇文章发电子邮件
您可以也喜欢读 |





































2008年7月7日在11:44上午
对于感兴趣的任何人,这robots.txt的用户指南:
http://www.robotstxt.org/robotstxt.html
2008年7月22日在2:54上午
从谷歌Web站点管理员工具的另外一参考
http://www.google.com/support/webmasters/bin/answer.py?answer=40360&query=robot&topic=&type=