1. 背景
創(chuàng)新互聯(lián)公司網(wǎng)站建設(shè)十年堅(jiān)持,服務(wù)企業(yè)網(wǎng)站設(shè)計(jì)、響應(yīng)式網(wǎng)站建設(shè)等網(wǎng)站建設(shè)服務(wù)。上1000+企業(yè)的合作經(jīng)驗(yàn),幫助我們?yōu)榉?wù)企業(yè)不斷提升價(jià)值。為企業(yè)建設(shè)開發(fā)網(wǎng)站和維護(hù),主推個(gè)性化定制型網(wǎng)站設(shè)計(jì)在使用selenium瀏覽器渲染技術(shù),爬取網(wǎng)站信息時(shí),一般來(lái)說(shuō),速度是很慢的。而且一般需要用到這種技術(shù)爬取的網(wǎng)站,反爬技術(shù)都比較厲害,對(duì)IP的訪問頻率應(yīng)該有相當(dāng)?shù)南拗啤K?,如果想提升selenium抓取數(shù)據(jù)的速度,可以從兩個(gè)方面出發(fā):
第一,提高抓取頻率,出現(xiàn)驗(yàn)證信息時(shí)進(jìn)行破解,一般是驗(yàn)證碼或者用戶登錄。
第二,使用多線程 + 代理IP, 這種方式,需要電腦有足夠的內(nèi)存和充足穩(wěn)定的代理IP 。
2. 為chrome設(shè)置代理IP
from selenium import webdriver chromeOptions = webdriver.ChromeOptions() # 設(shè)置代理 chromeOptions.add_argument("--proxy-server=http://202.20.16.82:10152") # 一定要注意,=兩邊不能有空格,不能是這樣--proxy-server = http://202.20.16.82:10152 browser = webdriver.Chrome(chrome_options = chromeOptions) # 查看本機(jī)ip,查看代理是否起作用 browser.get("http://httpbin.org/ip") print(browser.page_source) # 退出,清除瀏覽器緩存 browser.quit()
本文題目:selenium+python設(shè)置爬蟲代理IP的方法-創(chuàng)新互聯(lián)
網(wǎng)頁(yè)網(wǎng)址:http://www.rwnh.cn/article10/epego.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供微信小程序、網(wǎng)頁(yè)設(shè)計(jì)公司、企業(yè)建站、網(wǎng)站內(nèi)鏈、全網(wǎng)營(yíng)銷推廣、建站公司
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容