淺談百度抓取淘寶那點事
大家都知道大概是“百度有啊”上線之前，淘寶網為了避免百度惡意抓取，直接屏蔽了百度蜘蛛，也就是當時鬧得沸沸揚揚的robots.txt協議 。
就算是現在打開淘寶的robots.txt協議，依然可以看到淘寶還在屏蔽百度的蜘蛛。
可是事實上真的如此么
事實證明淘寶的robots.txt文件根本對百度蜘蛛起不到任何作用。
小弟推測百度之所以這么做是因為百度考慮到戰略方向的問題，因為查詢了一下發現一些知名店鋪在百度的排名都很不錯。足以證明百度對淘寶這種店鋪的重要性。更加戲曲化的是天貓網（淘寶商城）也是使用robots.txt協議的。同樣屏蔽了百度蜘蛛。
還有一種可能就是淘寶網以及天貓網的權重太高了，導致了百度蜘蛛不遵循搜索引擎協議而進行的抓取。不過對于這種事情可以聯想到前些日子，一淘網惡意抓取京東商城以及新蛋網等的商品數據，也是不遵循搜索引擎規則的。
直到現在京東商城等也在屏蔽一淘網的蜘蛛，
小編想說的是現在的搜索引擎為了自身利益而不遵循互聯網協議的規則，是值得反思的，呼吁這種互聯網大公司能在整個IT行業樹立標榜。
推薦新聞
更多行業-
網站建設后SEO文章知識點總結
一、抒寫SEO文章心得體會 通過這段時間的文章抒寫，了解到了一些知識...
2019-09-03 -
真實流量來源于網站細節建設
北京網站建設公司尚品中國：現在一個目標客戶購買產品，都要上網查看一些相...
2012-08-14 -
用戶體驗設計的發展趨勢
CSS+XHTML無疑是目前最普及和最受用的表現模式，但技術的進步永遠...
2014-08-02 -
網站設計建設的定制對網站今后的發展非常關鍵
免費獲得一個商業網站聽起來不錯，但大多數模板中臃腫的代碼實際上損害了你...
2020-04-08 -
新建設的網站如何做長尾關鍵詞排名？
只要做過優化的人都知道，如果用戶通過長尾關鍵詞進入網站，咨詢的轉化率很...
2020-04-06 -
[北京網站制作]網站進行軟文營銷塑造的是品牌 賺的是流量和排名
網站進行軟文營銷塑造的是品牌 賺的是流量和排名很多人都知道軟文營銷所帶...
2011-10-25
預約專業咨詢顧問溝通！
尚品專注高端網站建設，系統平臺開發，微信小程序及APP開發服務
免責聲明
非常感謝您訪問我們的網站。在您使用本網站之前，請您仔細閱讀本聲明的所有條款。
1、本站部分內容來源自網絡，涉及到的部分文章和圖片版權屬于原作者，本站轉載僅供大家學習和交流，切勿用于任何商業活動。
2、本站不承擔用戶因使用這些資源對自己和他人造成任何形式的損失或傷害。
3、本聲明未涉及的問題參見國家有關法律法規，當本聲明與國家法律法規沖突時，以國家法律法規為準。
4、如果侵害了您的合法權益，請您及時與我們,我們會在第一時間刪除相關內容!
聯系方式：010-60259772
電子郵件：394588593@qq.com
