淺談百度抓取淘寶那點事
大家都知道大概是“百度有啊”上線之前，淘寶網為了避免百度惡意抓取，直接屏蔽了百度蜘蛛，也就是當時鬧得沸沸揚揚的robots.txt協(xié)議 。
就算是現(xiàn)在打開淘寶的robots.txt協(xié)議，依然可以看到淘寶還在屏蔽百度的蜘蛛。
可是事實上真的如此么
事實證明淘寶的robots.txt文件根本對百度蜘蛛起不到任何作用。
小弟推測百度之所以這么做是因為百度考慮到戰(zhàn)略方向的問題，因為查詢了一下發(fā)現(xiàn)一些知名店鋪在百度的排名都很不錯。足以證明百度對淘寶這種店鋪的重要性。更加戲曲化的是天貓網（淘寶商城）也是使用robots.txt協(xié)議的。同樣屏蔽了百度蜘蛛。
還有一種可能就是淘寶網以及天貓網的權重太高了，導致了百度蜘蛛不遵循搜索引擎協(xié)議而進行的抓取。不過對于這種事情可以聯(lián)想到前些日子，一淘網惡意抓取京東商城以及新蛋網等的商品數(shù)據(jù)，也是不遵循搜索引擎規(guī)則的。
直到現(xiàn)在京東商城等也在屏蔽一淘網的蜘蛛，
小編想說的是現(xiàn)在的搜索引擎為了自身利益而不遵循互聯(lián)網協(xié)議的規(guī)則，是值得反思的，呼吁這種互聯(lián)網大公司能在整個IT行業(yè)樹立標榜。
推薦新聞
更多行業(yè)-
電商動漫周邊產品行業(yè)SEO
電商動漫周邊產品行業(yè)SEO07年那是我剛剛畢業(yè)的時候，07年那是我對未...
2011-12-01 -
網站設計過程中常見的問題及對應方案
網站已經成為企業(yè)宣傳、品牌建設和產品推廣的重要途徑。然而，在進行網站設...
2023-05-26 -
電子商務網站規(guī)劃特點
由于電子商務網站的建設耗資巨大，歷時較長，技術復雜且涉及面廣，網站開發(fā)...
2015-01-07 -
網站建設流程圖及所需資料
網站建設流程圖網站制作流程基本步驟：第一步 客戶提出建站申請1．客戶提...
2012-07-21 -
網站建設中圖片都有哪些使用方法？
網站建設中圖片使用方法，經常上網的人都會預覽成千上萬網站，會感覺到有的...
2020-02-07 -
seo關鍵字密度及權重值
seo關鍵字密度及權重值 用戶向搜索引擎提交關鍵字查詢信息后，搜索引擎...
2011-11-02
預約專業(yè)咨詢顧問溝通！
尚品專注高端網站建設，系統(tǒng)平臺開發(fā)，微信小程序及APP開發(fā)服務
免責聲明
非常感謝您訪問我們的網站。在您使用本網站之前，請您仔細閱讀本聲明的所有條款。
1、本站部分內容來源自網絡，涉及到的部分文章和圖片版權屬于原作者，本站轉載僅供大家學習和交流，切勿用于任何商業(yè)活動。
2、本站不承擔用戶因使用這些資源對自己和他人造成任何形式的損失或傷害。
3、本聲明未涉及的問題參見國家有關法律法規(guī)，當本聲明與國家法律法規(guī)沖突時，以國家法律法規(guī)為準。
4、如果侵害了您的合法權益，請您及時與我們,我們會在第一時間刪除相關內容!
聯(lián)系方式：010-60259772
電子郵件：394588593@qq.com
