2016-10-26 分類(lèi): 網(wǎng)站建設(shè)
關(guān)于每個(gè)查找引擎優(yōu)化從業(yè)者來(lái)說(shuō),爬蟲(chóng)每天都來(lái)咱們的網(wǎng)站抓取網(wǎng)頁(yè),這是一個(gè)非常有價(jià)值的資源。但是,在這中心,由于爬蟲(chóng)類(lèi)的無(wú)序匍匐,它必然會(huì)糟蹋一些爬蟲(chóng)類(lèi)的匍匐資源。在此進(jìn)程中,咱們需求處理查找引擎爬蟲(chóng)重復(fù)抓取咱們網(wǎng)頁(yè)的問(wèn)題。
·新發(fā)生的頁(yè)面,沒(méi)有被抓取過(guò)的
·發(fā)生了一段時(shí)間,遲遲不被抓取的
·發(fā)生了一段時(shí)間,卻一向沒(méi)收錄的
·發(fā)生好久的頁(yè)面,但最近更新了
·包含內(nèi)容更多的聚合頁(yè)面,如首頁(yè)、列表頁(yè)
關(guān)于上述類(lèi)別,咱們定義了哪個(gè)類(lèi)別最需求按次序進(jìn)行爬網(wǎng)。
關(guān)于大型網(wǎng)站,查找引擎抓取器抓取過(guò)多的資源,而關(guān)于小型網(wǎng)站,抓取稀缺的資源。因而,咱們?cè)诖酥?,咱們不是在企圖處理查找導(dǎo)致的重復(fù)匍匐問(wèn)題,而是在企圖處理查找引擎盡可能快地匍匐咱們想要匍匐的頁(yè)面的問(wèn)題。這個(gè)想法有必要糾正!
接下來(lái),咱們來(lái)談?wù)勗趺醋尣檎乙媾老x(chóng)最快地抓取咱們想要抓取的頁(yè)面。
爬蟲(chóng)是抓取網(wǎng)頁(yè)并從該網(wǎng)頁(yè)中找到更多鏈接的進(jìn)程。然后這一次咱們需求知道,假如咱們想更有可能被crawler抓取,咱們需求提供更多的鏈接,以便查找引擎crawler能夠找到咱們想要抓取的網(wǎng)頁(yè)。
新發(fā)生的頁(yè)面,沒(méi)有被抓取過(guò)的
這種頁(yè)面通常是文章頁(yè)面。關(guān)于這種頁(yè)面,咱們的網(wǎng)站每天都會(huì)發(fā)生大量的頁(yè)面,所以咱們會(huì)在更多的頁(yè)面中給出這部分鏈接。例如,主頁(yè)、頻道頁(yè)面、列/列表頁(yè)面、主題聚合頁(yè)面,甚至文章頁(yè)面本身都需求有一個(gè)最新的文章部分,以便等候爬蟲(chóng)在抓取咱們的任何網(wǎng)頁(yè)時(shí)找到最新的文章。
與此同時(shí),幻想有這么多頁(yè)面鏈接到新文章,鏈接傳遞權(quán)重,然后新文章被捕獲,權(quán)重不低。包容性的速度將顯著提高。
關(guān)于那些長(zhǎng)時(shí)間沒(méi)有被包含在內(nèi)的人,你也可以考慮體重是否太低。我會(huì)給內(nèi)部鏈條更多的支撐,并傳遞一些重量。應(yīng)該有包容的可能性。當(dāng)然,也有可能不包含它,那么您有必要依賴(lài)于內(nèi)容本身的質(zhì)量。以前,有一篇文章專(zhuān)門(mén)談到內(nèi)容質(zhì)量,歡迎咱們閱讀:什么內(nèi)容容易被百度評(píng)為高質(zhì)量?jī)?nèi)容?
因而,為了處理查找引擎爬蟲(chóng)重復(fù)匍匐的問(wèn)題,咱們不是最終的處理方案。由于查找引擎爬蟲(chóng)本質(zhì)上是無(wú)序的,咱們只能經(jīng)過(guò)網(wǎng)站的架構(gòu)、引薦算法、運(yùn)營(yíng)策略等進(jìn)行干預(yù)。這樣爬蟲(chóng)可以給咱們更抱負(fù)的抓取作用。
新聞名稱(chēng):SEO優(yōu)化怎么去解決搜索引擎重復(fù)的問(wèn)題
網(wǎng)站鏈接:http://www.rwnh.cn/news33/52633.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站內(nèi)鏈、定制開(kāi)發(fā)、網(wǎng)站制作、品牌網(wǎng)站設(shè)計(jì)、靜態(tài)網(wǎng)站、手機(jī)網(wǎng)站建設(shè)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容