深圳网站优化推广公司 版权所有

粤ICP备15021922号 XML地图

深圳网站推广公司

SEO网站优化robots.txt使用中常见的误区

编辑:深圳网站优化公司 | 日期:2021-06-12 21:26 | 人气:

网站制作公司圣玺网络(www.sino-web.net):误区1.Allow包含的范围超过Disallow,并且位置在Disallow前面。

  比如有很多人这样写:

  User-agent: *

  Allow: /

  Disallow: /mulu/

  想让所有蜘蛛抓取本站除/mulu/下面的url之外的所有页面,禁止抓取/mulu/下面的所有url。

  SEO网站优化搜索引擎蜘蛛执行的规则是从上到下,这样会造成第二句命令失效。也就是说禁止抓取/mulu/目录这条规则是无效的。正确的是Disallow应该在Allow之上,这样才会生效。

  误区2.Disallow命令和Allow命令之后没有以斜杠”/”开头。

  这个也很容易被忽视,比如有人这样写Disallow: 123.html ,这种是没有效果的。斜杠”/”表示的是文件对于根目录的位置,如果不带的话,自然无法判断url是哪个,所以是错误的。

  正确的应该是Disallow: /123.html,这样才能屏蔽/123.html这个文件,这条规则才能生效。

  误区3.屏蔽的目录后没有带斜杠”/”。

  也就是比如想屏蔽抓取/mulu/这个目录,有些人这样写Disallow: /mulu。那么这样是否正确呢?

  首先这样写(Disallow: /mulu)确实可以屏蔽/mulu/下面的所有url,不过同时也屏蔽了类似/mulu123.html这种开头为/mulu的所有页面,效果等同于Disallow: /mulu*。

  正确的做法是,如果只想屏蔽目录,那么必须在结尾带上斜杠”/”。
本文发布于深圳网站制作公司圣玺网络http://www.sino-web.net/
深圳市圣玺网络技术有限公司擅长提供布吉区域网站建设、网页设计制作、网站优化推广、SEO按天按效果付费、万词霸屏包年推广、抖音获客霸屏、百度爱采购等关键词SEO排名广告服务!
本文由网上采集发布,不代表本站立场,转载联系作者并注明出处:http://www.amerbiz.com/wztg/8458.html
X

截屏,微信识别二维码

微信号:15019448256

(点击微信号复制,添加好友)

  打开微信