用戶(hù)代理UA中BLEXBot是什么蜘蛛，需要屏蔽這個(gè)爬蟲(chóng)嗎

2024-04-07 分類(lèi)：網(wǎng)站建設(shè)

BLEXBot這個(gè)蜘蛛也是最近爬的比較厲害的一個(gè)，屬于一家美國(guó)的反向鏈接查詢(xún)網(wǎng)站（WebMeUp）的蜘蛛程序，它會(huì)大量的抓取我們的網(wǎng)站鏈接，所以一旦我們發(fā)現(xiàn)有他的抓取的蹤跡，就會(huì)發(fā)現(xiàn)他真的是大量的抓取你的鏈接。

這個(gè)蜘蛛理論上除了耗費(fèi)我們的服務(wù)器資源之外，也沒(méi)什么壞處，但對(duì)在國(guó)內(nèi)建站只面向國(guó)內(nèi)用戶(hù)的站長(zhǎng)來(lái)說(shuō)，屏蔽是比較好的選擇。

實(shí)測(cè)這個(gè)BLEXBot蜘蛛比較自覺(jué)，使用robot協(xié)議禁止以后它就不再爬了，值得表?yè)P(yáng)。
User-agent: BLEXBot
Disallow:/

還是為了防止哪天不講武德搞偷襲，徹底在服務(wù)器規(guī)則禁止更好：
if($http_user_agent ~*"BLEXBot")
{return403;}

畢竟robot只是個(gè)協(xié)議，屬于約定，尊不遵守還是看這些公司自己的設(shè)定。

本文題目：用戶(hù)代理UA中BLEXBot是什么蜘蛛，需要屏蔽這個(gè)爬蟲(chóng)嗎
本文地址：http://www.rwnh.cn/news29/322579.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供App開(kāi)發(fā)、網(wǎng)站導(dǎo)航、商城網(wǎng)站、網(wǎng)站制作、網(wǎng)站營(yíng)銷(xiāo)、App設(shè)計(jì)

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話(huà)：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源：創(chuàng)新互聯(lián)

猜你還喜歡下面的內(nèi)容

中文字幕日韩精品一区二区免费_精品一区二区三区国产精品无卡在_国精品无码专区一区二区三区_国产αv三级中文在线

用戶(hù)代理UA中BLEXBot是什么蜘蛛，需要屏蔽這個(gè)爬蟲(chóng)嗎

用戶(hù)代理UA中BLEXBot是什么蜘蛛，需要屏蔽這個(gè)爬蟲(chóng)嗎