這篇文章主要介紹“怎么用python爬蟲(chóng)豆瓣電影數(shù)據(jù)”，在日常操作中，相信很多人在怎么用python爬蟲(chóng)豆瓣電影數(shù)據(jù)問(wèn)題上存在疑惑，小編查閱了各式資料，整理出簡(jiǎn)單好用的操作方法，希望對(duì)大家解答”怎么用python爬蟲(chóng)豆瓣電影數(shù)據(jù)”的疑惑有所幫助！接下來(lái)，請(qǐng)跟著小編一起來(lái)學(xué)習(xí)吧！

目前創(chuàng)新互聯(lián)已為近千家的企業(yè)提供了網(wǎng)站建設(shè)、域名、網(wǎng)頁(yè)空間、網(wǎng)站托管運(yùn)營(yíng)、企業(yè)網(wǎng)站設(shè)計(jì)、渾南網(wǎng)站維護(hù)等服務(wù)，公司將堅(jiān)持客戶導(dǎo)向、應(yīng)用為本的策略，正道將秉承"和諧、參與、激情"的文化，與客戶和合作伙伴齊心協(xié)力一起成長(zhǎng)，共同發(fā)展。

下面我們從 國(guó)內(nèi)高匿代理IP 獲得代理IP數(shù)據(jù)。

import os
import time
import requests
from bs4 import BeautifulSoup
#num獲取num頁(yè) 國(guó)內(nèi)高匿ip的網(wǎng)頁(yè)中代理數(shù)據(jù)def
fetch_proxy(num):
    #修改當(dāng)前工作文件夾
    os.chdir(r'/Users/apple888/PycharmProjects/proxy IP')
    api = 'http://www.xicidaili.com/nn/{}'
    header = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS
                            X 10_12_3) AppleWebKit/537.36 (KHTML,
                     like Gecko) Chrome/56.0.2924.87 Safari/537.36'}
    fp = open('host.txt', 'a+', encoding=('utf-8'))    
   for i in range(num+1):
        api = api.format(1)
        respones = requests.get(url=api, headers=header)
        soup = BeautifulSoup(respones.text, 'lxml')
        container = soup.find_all(name='tr',attrs={'class':'odd'})        
       for tag in container:            
           try:
                con_soup = BeautifulSoup(str(tag),'lxml')
                td_list = con_soup.find_all('td')
                ip = str(td_list[1])[4:-5]
                port = str(td_list[2])[4:-5]
                IPport = ip + '\t' + port + '\n'
                fp.write(IPport)            
           except Exception as e:
                print('No IP！')
        time.sleep(1)
    fp.close()

我們準(zhǔn)備抓 國(guó)內(nèi)高匿代理IP網(wǎng) 的十個(gè)頁(yè)面的代理

但是有代理IP還不行，因?yàn)槲覀儾恢肋@代理能不能用，是否有效。

下面我們用百度網(wǎng)進(jìn)行檢驗(yàn)（大公司不怕咱們短時(shí)間內(nèi)高頻率訪問(wèn)），上代碼：

import os
import time
import requests
from bs4 import BeautifulSoup
def test_proxy():
    N = 1
    os.chdir(r'/Users/apple888/PycharmProjects/proxy IP')
    url = 'https://www.baidu.com'
    fp = open('host.txt', 'r')
    ips = fp.readlines()
    proxys = list()    
   for p in ips:
        ip = p.strip('\n').split('\t')
        proxy = 'http:\\' + ip[0] + ':' + ip[1]
        proxies = {'proxy': proxy}
        proxys.append(proxies)    
      for pro in proxys:        
           try:
            s = requests.get(url, proxies=pro)
            print('第{}個(gè)ip：{} 狀態(tài){}'.format(N,pro,s.status_code))        except Exception as e:
            print(e)
        N+=1

到此，關(guān)于“怎么用python爬蟲(chóng)豆瓣電影數(shù)據(jù)”的學(xué)習(xí)就結(jié)束了，希望能夠解決大家的疑惑。理論與實(shí)踐的搭配能更好的幫助大家學(xué)習(xí)，快去試試吧！若想繼續(xù)學(xué)習(xí)更多相關(guān)知識(shí)，請(qǐng)繼續(xù)關(guān)注創(chuàng)新互聯(lián)網(wǎng)站，小編會(huì)繼續(xù)努力為大家?guī)?lái)更多實(shí)用的文章！

本文題目：怎么用python爬蟲(chóng)豆瓣電影數(shù)據(jù)
鏈接URL：http://www.rwnh.cn/article32/jicipc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站設(shè)計(jì)公司、網(wǎng)站排名、App設(shè)計(jì)、關(guān)鍵詞優(yōu)化、網(wǎng)站設(shè)計(jì)、面包屑導(dǎo)航

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)