今天給大家分享的是如何在爬取數(shù)據(jù)的時(shí)候防止 IP被封，今天給大家分享兩種方法，希望大家可以認(rèn)真學(xué)習(xí)，再也不用擔(dān)心被封IP啦。

十年的正藍(lán)網(wǎng)站建設(shè)經(jīng)驗(yàn)，針對(duì)設(shè)計(jì)、前端、開(kāi)發(fā)、售后、文案、推廣等六對(duì)一服務(wù)，響應(yīng)快，48小時(shí)及時(shí)工作處理。營(yíng)銷型網(wǎng)站建設(shè)的優(yōu)勢(shì)是能夠根據(jù)用戶設(shè)備顯示端的尺寸不同，自動(dòng)調(diào)整正藍(lán)建站的顯示方式，使網(wǎng)站能夠適用不同顯示終端，在瀏覽器中調(diào)整網(wǎng)站的寬度，無(wú)論在任何一種瀏覽器上瀏覽網(wǎng)站，都能展現(xiàn)優(yōu)雅布局與設(shè)計(jì)，從而大程度地提升瀏覽體驗(yàn)。創(chuàng)新互聯(lián)從事“正藍(lán)網(wǎng)站設(shè)計(jì)”,“正藍(lán)網(wǎng)站推廣”以來(lái)，每個(gè)客戶項(xiàng)目都認(rèn)真落實(shí)執(zhí)行。

第一種：

降低訪問(wèn)速度，我們可以使用 time模塊中的sleep，使程序每運(yùn)行一次后就睡眠1s，這樣的話就可以大大的減少ip被封的幾率

第二種：

為了提高效率，我們可以使用代理 ip來(lái)解決，ip是億牛云的動(dòng)態(tài)轉(zhuǎn)發(fā)代理，以下是代理配置過(guò)程的示例

Selenium ?

     from   selenium   import  webdriver

     import   string

     import   zipfile

 

     # 代理服務(wù)器

    proxyHost = "t.16yun.cn"

    proxyPort = "31111"

 

     # 代理隧道驗(yàn)證信息

    proxyUser = "username"

    proxyPass = "password"

 

     def   create_proxy_auth_extension (proxy_host, proxy_port,

                                   proxy_username, proxy_password,

                                   scheme= 'http' , plugin_path= None ):

         if  plugin_path is None :

            plugin_path = r 'C:/{}_{}@t.16yun.zip' .format(proxy_username, proxy_password)

 

        manifest_json = """        {            "version": "1.0.0",            "manifest_version": 2,            "name": "16YUN Proxy",            "permissions": [                "proxy",                "tabs",                "unlimitedStorage",                "storage",                "",                "webRequest",                "webRequestBlocking"            ],            "background": {                "scripts": ["background.js"]            },            "minimum_chrome_version":"22.0.0"        }        """

 

        background_js = string.Template(

             """            var config = {                mode: "fixed_servers",                rules: {                    singleProxy: {                        scheme: "${scheme}",                        host: "${host}",                        port: parseInt(${port})                    },                    bypassList: ["foobar.com"]                }              };

            chrome.proxy.settings.set({value: config, scope: "regular"}, function() {});

            function callbackFn(details) {                return {                    authCredentials: {                        username: "${username}",                        password: "${password}"                    }                };            }

            chrome.webRequest.onAuthRequired.addListener(                callbackFn,                {urls: [""]},                ['blocking']            );            """

        ).substitute(

            host=proxy_host,

            port=proxy_port,

            username=proxy_username,

            password=proxy_password,

            scheme=scheme,

        )

 

         with  zipfile.ZipFile(plugin_path, 'w' ) as  zp:

            zp.writestr( "manifest.json" , manifest_json)

            zp.writestr( "background.js" , background_js)

 

         return  plugin_path

 

    proxy_auth_plugin_path = create_proxy_auth_extension(

        proxy_host=proxyHost,

        proxy_port=proxyPort,

        proxy_username=proxyUser,

        proxy_password=proxyPass)

 

    option = webdriver.ChromeOptions()

 

    option.add_argument( "--start-maximized" )

     # 如報(bào)錯(cuò) chrome-extensions

     # option.add_argument("--disable-extensions")

    option.add_extension(proxy_auth_plugin_path)

 

    driver = webdriver.Chrome(chrome_options=option)

 

    driver.get( "http://httpbin.org/ip" )

好 了，今天關(guān)于 python學(xué)習(xí)的分享就到這里，上邊的那段代碼可以直接使用，但是里邊的代理應(yīng)該已經(jīng)過(guò)期，大家在使用的時(shí)候可能需要聯(lián)系代理商開(kāi)通服務(wù)，最后呢希望大家能夠收藏起來(lái)，要記得做筆記哦。好記性不如爛筆頭。

網(wǎng)站名稱：python學(xué)習(xí)-Selenium爬蟲(chóng)之使用代理ip的方法
本文路徑：http://www.rwnh.cn/article48/jgjhep.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供關(guān)鍵詞優(yōu)化、全網(wǎng)營(yíng)銷推廣、、Google、網(wǎng)站制作、網(wǎng)站導(dǎo)航

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)