新手站長在網(wǎng)站建設的時候,因為一些操作,導致正常的網(wǎng)站無法被搜索引擎爬蟲訪問,進而使搜索引擎認為該頁面是死鏈接。除了頁面無法打開,一下的幾個點都可以導致網(wǎng)站死鏈的產(chǎn)生。
以下小編就給出一些死鏈的產(chǎn)生情況,本次文章素材來自百度公開課搜索引擎課程,具備相對的權(quán)威性。其他搜索引擎同樣可以參考該篇文章來進行設置。
減少死鏈的產(chǎn)生,是從事SEO工作工作者必修課。
HTTP/HTTPS設置不當引起死鏈
問題場景:
1.HTTP可訪問 ,HTTPS不可訪問
2.HTTP不可訪問 ,HTTPS可訪問
建議:
整站行為一致,保證所有的URL正常訪問,另外百度方面不建議HTTP與HTTPS共生。
封禁引起死鏈
問題場景:
1.用戶可以正常訪問,爬蟲不能。(爬蟲抓取的是錯誤的頁面)
一些網(wǎng)站因為特殊性,導致用戶可以正常訪問,但是當爬蟲訪問時,卻返回一個錯誤的頁面。
2.PC端可訪問,搜索引擎APP不能訪問
搜索引擎爬蟲可以訪問PC端頁面,但是不能訪問APP。百度官方的公開課說到這個APP訪問,暗指是支持APP內(nèi)訪問的一個分析,來作為一個綜合評估參考。所以,不屏蔽百度APP對網(wǎng)站的訪問。
3.DNS封禁
有些特定的DNS服務商會封禁搜索引擎爬蟲來抓取域名的內(nèi)容。這種在少數(shù),畢竟目前主流域名廠商,已經(jīng)主流的DNS廠商都沒有做DNS封禁。
4.服務器站點策略封禁
有些服務器自帶的安全策略會屏蔽百度蜘蛛的抓取,這種情況會產(chǎn)生死鏈(網(wǎng)頁URL鏈接,但是無內(nèi)容)。當這種情況在整個網(wǎng)站出現(xiàn),會導致搜索引擎判斷網(wǎng)站為一個劣質(zhì)網(wǎng)站。會被降權(quán)。
建議:
合理的使用站長資源工具,來診斷站點是否能正常抓取
識別百度爬蟲(雙向DNS解析認證)解除封禁
對spider不公開內(nèi)容設置robots協(xié)議封禁/設置死鏈,導致返回404
不建議使用額外的技術(shù)手段封禁百度爬蟲。
對百度APP可以訪問
DNS變更引起死鏈
問題場景:
站點更新DNS解析,將域名的IP變更,IP1變?yōu)镮P2,中間有時間差。
當站點的更換域名解析的IP后,因為有些DNS并不能做到立即響應解析(一般為24小時)。我們拿24小時為例,中間有曾時間差,導致搜索引擎蜘蛛無法抓取,會評定為死鏈。
這個時候可以預留4-5天的緩存期,讓爬蟲來更新這個DNS
建議:
更換DNS后,使用站長資源平臺工具來抓取測試,查看網(wǎng)站是否能正常抓取。
不建議頻繁更換DNS的IP,如必須變更請,給爬蟲抓取預留緩沖時間。
我們專注高端建站,小程序開發(fā)、軟件系統(tǒng)定制開發(fā)、BUG修復、物聯(lián)網(wǎng)開發(fā)、各類API接口對接開發(fā)等。十余年開發(fā)經(jīng)驗,每一個項目承諾做到滿意為止,多一次對比,一定讓您多一份收獲!