小編給大家分享一下python爬蟲ip代理池如何做,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
10多年的江門網(wǎng)站建設(shè)經(jīng)驗,針對設(shè)計、前端、開發(fā)、售后、文案、推廣等六對一服務(wù),響應(yīng)快,48小時及時工作處理。網(wǎng)絡(luò)營銷推廣的優(yōu)勢是能夠根據(jù)用戶設(shè)備顯示端的尺寸不同,自動調(diào)整江門建站的顯示方式,使網(wǎng)站能夠適用不同顯示終端,在瀏覽器中調(diào)整網(wǎng)站的寬度,無論在任何一種瀏覽器上瀏覽網(wǎng)站,都能展現(xiàn)優(yōu)雅布局與設(shè)計,從而大程度地提升瀏覽體驗。成都創(chuàng)新互聯(lián)從事“江門網(wǎng)站設(shè)計”,“江門網(wǎng)站推廣”以來,每個客戶項目都認(rèn)真落實執(zhí)行。
定義代理IP
proxie = { 'http' : 'http://xx.xxx.xxx.xxx:xxxx', 'http' : 'http://xxx.xx.xx.xxx:xxx', .... }
使用代理
response = requests.get(url,proxies=proxies)
如何使用呢?
首先使用 git clone 將源代碼拉到你本地
接著在你 clone 下來的文件目錄中
安裝相關(guān)所需的 python 模塊:
pip3 install -r requirements.txt
接著就可以運行 run.py 了:
代理池開始運行
* Running on http://0.0.0.0:5555/ (Press CTRL+C to quit)
開始抓取代理
獲取器開始執(zhí)行
Crawling http://www.66ip.cn/1.html 正在抓取 http://www.66ip.cn/1.html 抓取成功 http://www.66ip.cn/1.html 200 成功獲取到代理 201.69.7.108:9000 成功獲取到代理 111.67.97.58:36251 成功獲取到代理 187.32.159.61:51936 成功獲取到代理 60.13.42.154:9999 成功獲取到代理 106.14.5.129:80 成功獲取到代理 222.92.112.66:8080 成功獲取到代理 125.26.99.84:60493 ...
運行 run.py 你就可以訪問你的代理池了,比如隨機(jī)獲取一個代理 ip 地址:
這樣訪問之后就會獲取到一個代理 ip。
以上是python爬蟲ip代理池如何做的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學(xué)習(xí)更多知識,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道!
當(dāng)前文章:python爬蟲ip代理池如何做
URL分享:http://www.rwnh.cn/article46/gopohg.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供搜索引擎優(yōu)化、全網(wǎng)營銷推廣、定制網(wǎng)站、品牌網(wǎng)站制作、網(wǎng)站策劃、網(wǎng)站制作
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)