robots.txt阻止抓取工具访问页面

用户名

我试图找到如何阻止搜寻器访问我的链接的方法,如下所示:

site.com/something-search.html

我想阻止所有/ something- *

有人能帮我吗?

User-agent: *
Disallow: /something-

这会阻止所有路径以开头的URL /something-,例如,可从http://example.com/robots.txt以下位置访问的robots.txt

  • http://example.com/something-
  • http://example.com/something-foo
  • http://example.com/something-foo.html
  • http://example.com/something-foo/bar

仍将允许以下URL:

  • http://example.com/something
  • http://example.com/something.html
  • http://example.com/something/

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章