中文字幕日韩精品一区二区免费_精品一区二区三区国产精品无卡在_国精品无码专区一区二区三区_国产αv三级中文在线

python爬蟲簡單的添加代理以及編寫進(jìn)行訪問的實現(xiàn)代碼

python爬蟲簡單的添加代理以及編寫進(jìn)行訪問的實現(xiàn)代碼,針對這個問題,這篇文章詳細(xì)介紹了相對應(yīng)的分析和解答,希望可以幫助更多想解決這個問題的小伙伴找到更簡單易行的方法。

10多年的三臺網(wǎng)站建設(shè)經(jīng)驗,針對設(shè)計、前端、開發(fā)、售后、文案、推廣等六對一服務(wù),響應(yīng)快,48小時及時工作處理。營銷型網(wǎng)站的優(yōu)勢是能夠根據(jù)用戶設(shè)備顯示端的尺寸不同,自動調(diào)整三臺建站的顯示方式,使網(wǎng)站能夠適用不同顯示終端,在瀏覽器中調(diào)整網(wǎng)站的寬度,無論在任何一種瀏覽器上瀏覽網(wǎng)站,都能展現(xiàn)優(yōu)雅布局與設(shè)計,從而大程度地提升瀏覽體驗。創(chuàng)新互聯(lián)建站從事“三臺網(wǎng)站設(shè)計”,“三臺網(wǎng)站推廣”以來,每個客戶項目都認(rèn)真落實執(zhí)行。

在使用python對網(wǎng)頁進(jìn)行多次快速爬取的時候,訪問次數(shù)過于頻繁,服務(wù)器不會考慮User-Agent的信息,會直接把你視為爬蟲,從而過濾掉,拒絕你的訪問,在這種時候就需要設(shè)置代理,我們可以給proxies屬性設(shè)置一個代理的IP地址,代碼如下:

<?php
 // 要訪問的目標(biāo)頁面
 $url = "http://httpbin.org/ip";
 $urls = "https://httpbin.org/ip";
 
 // 代理服務(wù)器
 define("PROXY_SERVER", "tcp://t.16yun.cn:31111");
 
 // 隧道身份信息
 define("PROXY_USER", "16YUN123");
 define("PROXY_PASS", "123456");
 
 $proxyAuth = base64_encode(PROXY_USER . ":" . PROXY_PASS);
 
 // 設(shè)置 Proxy tunnel
 $tunnel = rand(1,10000);
 
 $headers = implode("\r\n", [
 "Proxy-Authorization: Basic {$proxyAuth}",
 "Proxy-Tunnel: ${tunnel}",
 ]);
 $sniServer = parse_url($urls, PHP_URL_HOST);
 $options = [
 "http" => [
 "proxy" => PROXY_SERVER,
 "header" => $headers,
 "method" => "GET",
 'request_fulluri' => true,
 ],
 'ssl' => array(
 'SNI_enabled' => true, // Disable SNI for https over http proxies
 'SNI_server_name' => $sniServer
 )
 ];
 print($url);
 $context = stream_context_create($options);
 $result = file_get_contents($url, false, $context);
 var_dump($result);
 
 // 訪問 HTTPS 頁面
 print($urls);
 $context = stream_context_create($options);
 $result = file_get_contents($urls, false, $context);
 var_dump($result);?>

在代碼中的目標(biāo)網(wǎng)站是檢測代理是否訪問成功,如果訪問成功就會返回代理ip,如果代理返回

異常有可能是代理的配置沒有正確,那就需要對配置的代理信息進(jìn)行檢查。

關(guān)于python爬蟲簡單的添加代理以及編寫進(jìn)行訪問的實現(xiàn)代碼問題的解答就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,如果你還有很多疑惑沒有解開,可以關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道了解更多相關(guān)知識。

當(dāng)前標(biāo)題:python爬蟲簡單的添加代理以及編寫進(jìn)行訪問的實現(xiàn)代碼
網(wǎng)頁鏈接:http://www.rwnh.cn/article28/jiecjp.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供動態(tài)網(wǎng)站、網(wǎng)站建設(shè)云服務(wù)器、服務(wù)器托管、標(biāo)簽優(yōu)化建站公司

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

成都seo排名網(wǎng)站優(yōu)化
明溪县| 蕲春县| 年辖:市辖区| 塔城市| 颍上县| 甘南县| 古蔺县| 万全县| 孟津县| 涞水县| 咸宁市| 陆川县| 武宣县| 营山县| 萝北县| 日喀则市| 盱眙县| 嘉峪关市| 新干县| 方山县| 香格里拉县| 三河市| 峨山| 棋牌| 普洱| 恩平市| 亳州市| 红原县| 平远县| 高尔夫| 广东省| 利辛县| 张家港市| 华阴市| 九台市| 永州市| 汶川县| 奉新县| 永康市| 苗栗市| 洪湖市|