Questions about Robots.txt

时间:2011-04-15 作者:Laxmidi

我需要一些机器人方面的帮助。txt。

在“隐私设置”下,我选择“我希望我的博客对所有人都可见,包括搜索引擎…”

据我所知,WordPress会自动创建一个机器人。txt文件。但是,我需要从自动生成的机器人中排除一个页面。txt文件。假设该页面名为“myPage”。如何防止我的页面被索引?

如果我自己制造静态机器人。txt是否会被WordPress的动态版本覆盖?

还有WordPress的自动生成机器人。txt是否排除不应编制索引的wp admin等文件?

非常感谢。

-拉克西米迪

1 个回复
最合适的回答,由SO网友:Rev. Voodoo 整理而成

您可以在根目录中创建一个名为robots的文件。txt,如果您还没有

用户代理:*
不允许:/myPage

是这一页的格式。不允许,只允许。不包括遵循上述格式的页面

WP可能没有生成机器人。txt,我相信只有当你想让你的网站不被索引的时候,它才会有

我不确定WP是否有内置的机制来不索引您的管理内容。。。。但我的从未被编入索引。如果您担心,请阻止您添加的整个目录

不允许:/wp admin/

每行一个条目/不允许

结束

相关推荐

用于WordPress多站点安装的robots.txt存储在哪里?

谷歌网站管理员工具可以看到它,但我找不到它。你知道它是如何生成的,或者它的文件结构在哪里吗?我在我的根目录中看不到该文件。我的网站位于http://mikewills.me 还有机器人。txt文件URL为http://mikewills.me/robots.txt.最后,谷歌没有为我的网站编制索引,我正试图找出如何编辑机器人。txt,以便允许索引。我已经更改了隐私选项以允许索引,但这并没有更新机器人。txt。