2023-04-21 分類(lèi): 網(wǎng)站建設(shè)
對(duì)于各位站長(zhǎng)來(lái)說(shuō),百度的收錄是關(guān)心的重中之重。了解百度蜘蛛的爬行規(guī)律從而更好的改善收錄情況也是必須要掌握的。很多網(wǎng)站目前使用的都是虛擬空間,都能夠提供日志。
日志是指在網(wǎng)站根目錄下的logfiles文件夾里面日期.txt文本文件有很多介紹通過(guò)http查看返回命令的那種辦法來(lái)查看蜘蛛,這里就不介紹了。
現(xiàn)在更多的網(wǎng)站是沒(méi)有提供可以通過(guò)軟件來(lái)查看的日志格式。
更多的是類(lèi)似下面的日志格式,如下:
03:28:34 GET /goods.php 202.108.7.205 200 34696 390
第一 03:28:34 訪問(wèn)時(shí)間
第二 GET /goods.php 訪問(wèn)的頁(yè)面 get表示獲取
第三 202.108.7.205 訪問(wèn)網(wǎng)站的源IP
第四 200 成功訪問(wèn)
第五 34696 390 表示記錄的內(nèi)容大小
都是這種格式的日志如何去分析了,一個(gè)一個(gè)看的頭都大了。北京禮品網(wǎng)站的日志記錄每天都有1M多,上千條記錄豈不是會(huì)看都頭暈眼花。
注意了,告訴大家一個(gè)竅門(mén)。經(jīng)過(guò)長(zhǎng)期觀察發(fā)現(xiàn),百度的蜘蛛的來(lái)源服務(wù)器IP地址都是屬于一個(gè)域下面的通個(gè)網(wǎng)段。什么意思了,就是全部都是以202.108開(kāi)頭的IP,IP地址都是類(lèi)似于202.108.X.X。這個(gè)網(wǎng)段的IP地址是位于北京網(wǎng)通電報(bào)大樓,屬于全國(guó)互聯(lián)網(wǎng)核心骨干機(jī)房,現(xiàn)在此IP段已經(jīng)絕跡了。(基本上全被大網(wǎng)站使用了,如新浪、雅虎等)那么調(diào)出你的日志,用ctrl+f查找一下有沒(méi)有這個(gè)網(wǎng)段的IP。有的話(huà)那這個(gè)就是百度蜘蛛的訪問(wèn)地址了,然后就查找一下訪問(wèn)的時(shí)間,那么就可以找出來(lái)百度蜘蛛訪問(wèn)你網(wǎng)站的時(shí)間規(guī)律了。對(duì)于大家按照蜘蛛爬行時(shí)間來(lái)更新網(wǎng)站內(nèi)容的作用那是杠杠的啊。
網(wǎng)站題目:了解百度蜘蛛的爬行規(guī)律
文章路徑:http://www.rwnh.cn/news/255947.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供關(guān)鍵詞優(yōu)化、自適應(yīng)網(wǎng)站、App設(shè)計(jì)、搜索引擎優(yōu)化、企業(yè)網(wǎng)站制作、定制網(wǎng)站
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話(huà):028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容