SEO網站優化robots.txt使用中常見的誤區
比如有很多人這樣寫:
User-agent: *
Allow: /
Disallow: /mulu/
想讓所有蜘蛛抓取本站除/mulu/下面的url之外的所有頁面,禁止抓取/mulu/下面的所有url。
SEO網站優化搜索引擎蜘蛛執行的規則是從上到下,這樣會造成第二句命令失效。也就是說禁止抓取/mulu/目錄這條規則是無效的。正確的是Disallow應該在Allow之上,這樣才會生效。
誤區2.Disallow命令和Allow命令之后沒有以斜杠”/”開頭。
這個也很容易被忽視,比如有人這樣寫Disallow: 123.html ,這種是沒有效果的。斜杠”/”表示的是文件對于根目錄的位置,如果不帶的話,自然無法判斷url是哪個,所以是錯誤的。
正確的應該是Disallow: /123.html,這樣才能屏蔽/123.html這個文件,這條規則才能生效。
誤區3.屏蔽的目錄后沒有帶斜杠”/”。
也就是比如想屏蔽抓取/mulu/這個目錄,有些人這樣寫Disallow: /mulu。那么這樣是否正確呢?
首先這樣寫(Disallow: /mulu)確實可以屏蔽/mulu/下面的所有url,不過同時也屏蔽了類似/mulu123.html這種開頭為/mulu的所有頁面,效果等同于Disallow: /mulu*。
正確的做法是,如果只想屏蔽目錄,那么必須在結尾帶上斜杠”/”。
本文發布于北京網站制作公司尚品中國http://www.londe303.com/
推薦新聞
更多行業-
網站建設對企業發展有哪些作用?
如今,互聯網已經滲透到我們生活的方方面面。從手機到電腦,從寬帶到5G網...
2020-11-11 -
網絡安全風險評估
網絡安全風險評估是近年迅邃發展起來的一個腸興研究課月.也是網絡安全銀城...
2014-06-20 -
在做SEO優化之前如何選擇關鍵詞
關鍵詞是做SEO優化最關注的東西,通過它可以體現我們自己的價值,因為用...
2015-11-29 -
網站建設合理的網站結構設置也對后期的優化有利?
網站本身的結構可以影響網站的權重分布和網站優化的結果。只有合理的網站結...
2020-10-27 -
如何讓一個網站建設設計與眾不同
網站制作不僅要懂得模仿和復制,更要有特色、有個性、與眾不同,給用戶留下...
2021-12-10 -
堅持網站優化排名才是SEO的理念
堅持做一件事不容易,做一件事容易。這是筆者一個朋友說的而SEO優化就貴...
2012-06-26
預約專業咨詢顧問溝通!
免責聲明
非常感謝您訪問我們的網站。在您使用本網站之前,請您仔細閱讀本聲明的所有條款。
1、本站部分內容來源自網絡,涉及到的部分文章和圖片版權屬于原作者,本站轉載僅供大家學習和交流,切勿用于任何商業活動。
2、本站不承擔用戶因使用這些資源對自己和他人造成任何形式的損失或傷害。
3、本聲明未涉及的問題參見國家有關法律法規,當本聲明與國家法律法規沖突時,以國家法律法規為準。
4、如果侵害了您的合法權益,請您及時與我們,我們會在第一時間刪除相關內容!
聯系方式:010-60259772
電子郵件:394588593@qq.com