谷歌查寻马胃蝇蛆(Googlebot)解析robots.txt文件发现站点的被排除的部分象所有好webbots的。 然而不同于其他马胃蝇蛆,谷歌马胃蝇蛆不同地表现,当您有所有马胃蝇蛆的一个部分(*)时并且具体一个部分Googlebot的。

假设您有一个部分在所有马胃蝇蛆的robots.txt从开始:
用户代理: *

我们也假设,您没有任何部分明确地被瞄准对Googlebot。 在这种情况下谷歌马胃蝇蛆遵照全球性方针(可适用对所有马胃蝇蛆)。 明确地现在增加一个部分象这样的Googlebot的:
用户代理: Googlebot

我假设,它将遵照所有马胃蝇蛆的两个方针(*)并且具体方针Googlebot的。 根据robots.txt谷歌Web站点管理员的验查员用工具加工,在这样案件Googlebot只依从为Googlebot明确地瞄准的方针并且忽略所有马胃蝇蛆的全球性方针(*),既使当方针是非重复的。
其他马胃蝇蛆包括那谷歌不展示这种气质。