谷歌无法抓取我网站的robots.txt文件,请帮助我

时间:2014-09-14 作者:Gurjyot Singh

今天我收到一封来自谷歌网站管理员的邮件,说谷歌机器人无法找到机器人。我的网站的txt文件。我还试图通过http://www.mydomain.com/robots.txt 但文件不在那里。相反,消息显示如下。

“用户代理:*不允许:/wp admin/

网站地图:http://www.mydomain.com/sitemap.xml“”

请帮帮我,我需要找到机器人在哪里。位于wordpress中的txt文件?如何让它再次被谷歌抓取?或者如果我需要创造一个新的机器人。txt文件那么怎么做呢?我该如何处理之前的机器人。txt文件??

1 个回复
最合适的回答,由SO网友:Rarst 整理而成

今天我收到一封来自谷歌网站管理员的邮件,说谷歌机器人无法找到机器人。我的网站的txt文件。

这实际上并不是一个问题(至少从爬行的角度来看,这可能是因为从爬行中排除了文件主要用于的内容)。这个robots.txt 对于要爬网的站点来说,这两者都不是必需的。

我还试图通过http://www.mydomain.com/robots.txt 但文件不在那里。相反,消息显示如下。

这实际上是robots.txt. :) 这就是其中的规则。

如果您的安装没有物理robots.txt WordPress以外的文件将为虚拟文件提供服务,使用do_robots() 生成它。

很难说谷歌为什么不访问该文件(因为你似乎能够访问)。这可能是暂时的问题,会自行解决,否则您可能想联系主机并询问是否有什么东西可能会干扰谷歌机器人访问您的网站。

结束

相关推荐

使用WordPress页面编辑器将Google地图放置到WordPress页面中

我正在为一家餐厅创建一个网站,我有自己想要的工作代码。显示地图。在地图下面,我有一个有两个输入的表单。第一个输入允许用户指定他们想要的方向,第二个输入已经填写完毕,设置为餐厅的位置。提交时,方向显示在同一页上。我的问题是,代码在简单的html页面上运行良好,但当我尝试使用编辑页面中的文本选项卡,使用WordPress管理面板将代码添加到页面时,会显示地图,但表单似乎不起作用。这是工作代码<div id=\"map-content\"> <iframe width=\"