小編給大家分享一下Python爬蟲如何實(shí)現(xiàn)球迷速成,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
成都創(chuàng)新互聯(lián)公司專注于企業(yè)營(yíng)銷型網(wǎng)站建設(shè)、網(wǎng)站重做改版、禹城網(wǎng)站定制設(shè)計(jì)、自適應(yīng)品牌網(wǎng)站建設(shè)、H5場(chǎng)景定制、商城網(wǎng)站開發(fā)、集團(tuán)公司官網(wǎng)建設(shè)、外貿(mào)網(wǎng)站建設(shè)、高端網(wǎng)站制作、響應(yīng)式網(wǎng)頁(yè)設(shè)計(jì)等建站業(yè)務(wù),價(jià)格優(yōu)惠性價(jià)比高,為禹城等各大城市提供網(wǎng)站開發(fā)制作服務(wù)。還有4天就世界杯了,作為一個(gè)資深(偽)球迷,必須要實(shí)時(shí)關(guān)注世界杯相關(guān)新聞,了解各個(gè)球隊(duì)動(dòng)態(tài),這樣才能在一堆球迷中如(大)魚(吹)得(特)水(吹),迎接大家仰慕的目光!
給大家分享一個(gè)快速了解相關(guān)信息的辦法:刷論壇!我們來(lái)一起做個(gè)虎撲論壇的爬蟲吧!
抓包獲取虎撲論壇相關(guān)帖子內(nèi)容,逐條顯示!
先來(lái)觀察下網(wǎng)頁(yè),打開論壇首頁(yè),選擇國(guó)際足球
然后往下拉,找到世界杯相關(guān)內(nèi)容
這里就是我們的目標(biāo)了,所有相關(guān)的新聞都會(huì)在這里顯示,用F12打開“開發(fā)者工具”然后往下瀏覽看看數(shù)據(jù)包
注意箭頭指向的那幾個(gè)地方!
這就是剛才瀏覽的新聞所在的json包,來(lái)看看具體數(shù)據(jù)是什么
ok,標(biāo)題、地址、發(fā)布時(shí)間包括來(lái)源都已經(jīng)出現(xiàn)了!我們可以直接抓取json數(shù)據(jù)然后取出相關(guān)內(nèi)容!
再進(jìn)入具體新聞頁(yè)面看看
世界杯快到了,看我用Python爬蟲實(shí)現(xiàn)(偽)球迷速成!
所有的文本內(nèi)容,都在<div class="artical-main-content">
這個(gè)標(biāo)簽下的<p></p>標(biāo)簽內(nèi),我們可以用xpath直接取div下的所有文本內(nèi)容!
這里就不一 一說(shuō)明了,直接上代碼,并錄個(gè)小的GIF圖片給大家看看效果
#Q群542110741 # -*- coding:utf-8 -*- import requests from lxml import etree header = { 'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:60.0) Gecko/20100101 Firefox/60.0', 'Host':'soccer.hupu.com', 'Referer':'https://soccer.hupu.com/'} i = 0 while 1: #構(gòu)建循環(huán)頁(yè)面翻頁(yè) url = 'https://soccer.hupu.com/home/latest-news?league=世界杯&page=' i += 1 #獲取json數(shù)據(jù),一頁(yè)20個(gè) html = requests.get(url+str(i),headers=header).json()['result'] for info in html: time_r = info['time']#發(fā)布時(shí)間 title = info['title']#標(biāo)題 url_r = info['url']#新聞鏈接 origin = info['origin']#來(lái)源 print(title) print('發(fā)布時(shí)間:',time_r,' '*5,'來(lái)自:',origin) head = header head['Host'] = 'voice.hupu.com'#更改header中Host參數(shù) html_r = requests.get(url_r,headers=head)#獲取新聞詳情 html_r.encoding = 'utf-8'#編碼格式指定 #獲取div下的所有文本 datas = etree.HTML(html_r.text).xpath('//div[@class="artical-content-read"]')[0].xpath('string(.)').strip() print('\n'+'內(nèi)容:'+'\n'*2,datas,'\n') #可由用戶手動(dòng)退出循環(huán) if input('任意鍵繼續(xù),“q”退出') in ['q', 'Q']: exit()
以上是“Python爬蟲如何實(shí)現(xiàn)球迷速成”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對(duì)大家有所幫助,如果還想學(xué)習(xí)更多知識(shí),歡迎關(guān)注創(chuàng)新互聯(lián)成都網(wǎng)站設(shè)計(jì)公司行業(yè)資訊頻道!
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無(wú)理由+7*72小時(shí)售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢(shì),專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。
本文題目:Python爬蟲如何實(shí)現(xiàn)球迷速成-創(chuàng)新互聯(lián)
分享URL:http://www.rwnh.cn/article48/dochhp.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供外貿(mào)網(wǎng)站建設(shè)、網(wǎng)站營(yíng)銷、網(wǎng)站設(shè)計(jì)公司、電子商務(wù)、網(wǎng)站策劃、品牌網(wǎng)站設(shè)計(jì)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容