【Python案例】爬取某bo热搜榜并做动态数据展示
目錄
- 前言
- 正文
- 基本開發(fā)環(huán)境
- 相關(guān)模塊的使用
- 需求數(shù)據(jù)來(lái)源分析
- 代碼實(shí)現(xiàn)
- 動(dòng)態(tài)數(shù)據(jù)展示
前言
嗨嗨,大家好啊
最近有沒有在某bo吃瓜啊,今年的瓜好像不少哦,近期的李某某事件真的令我大為震驚🤣
現(xiàn)在的藝人明星還是那句話:該稅的稅,不該睡的別睡。
正文
基本開發(fā)環(huán)境
- Python 3.6
- Pycharm
相關(guān)模塊的使用
import requests import parsel import csv import time安裝Python并添加到環(huán)境變量,pip安裝需要的相關(guān)模塊即可。
需求數(shù)據(jù)來(lái)源分析
熱搜榜數(shù)據(jù), 每次刷新上面的熱度數(shù)值都是會(huì)發(fā)生邊改變,每隔一段時(shí)間可以爬取一下榜單數(shù)據(jù),然后可以做一個(gè)數(shù)據(jù)展示。
熱搜榜數(shù)據(jù)內(nèi)容還是比較好爬的, 因?yàn)槭庆o態(tài)網(wǎng)頁(yè)數(shù)據(jù)內(nèi)容, 如果大家有認(rèn)真看過(guò)之前的問(wèn)題,那么這個(gè)網(wǎng)站還是很好爬取的。
代碼實(shí)現(xiàn)
需要源碼、教程,或者是自己有關(guān)python不懂的問(wèn)題,都可以來(lái)這里哦 https://jq.qq.com/?_wv=1027&k=j1rUTY72 這里還有學(xué)習(xí)資料與免費(fèi)課程領(lǐng)取
每一分鐘爬取一次數(shù)據(jù)內(nèi)容
import requests import parsel import csv import timef = open('熱榜.csv', mode='a', encoding='utf-8', newline='') csv_writer = csv.DictWriter(f, fieldnames=['時(shí)間','排名','標(biāo)題','熱度', ]) csv_writer.writeheader() while True:now_time = int(time.time())timeArray = time.localtime(now_time)date = time.strftime("%Y-%m-%d %H:%M:%S", timeArray)url = '網(wǎng)站'headers = {'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.90 Safari/537.36',}response = requests.get(url=url, headers=headers)selector = parsel.Selector(response.text)trs = selector.css('#pl_top_realtimehot tbody tr')[:11]for tr in trs:num = tr.css('td.td-01.ranktop::text').get()if num:if num.isdigit():title = tr.css('.td-02 a::text').get()hot = tr.css('.td-02 span::text').get()dit = {'時(shí)間': date,'排名': num,'標(biāo)題': title,'熱度': hot,}print(dit)csv_writer.writerow(dit)time.sleep(60)動(dòng)態(tài)數(shù)據(jù)展示
- 需要源碼、教程,或者是自己有關(guān)python不懂的問(wèn)題,都可以來(lái)這里哦 https://jq.qq.com/?_wv=1027&k=j1rUTY72 這里還有學(xué)習(xí)資料與免費(fèi)課程領(lǐng)取
好啦,今天的分享到這里就結(jié)束了 ~
對(duì)文章有問(wèn)題的,或者有其他關(guān)于python的問(wèn)題,可以在評(píng)論區(qū)留言或者私信我哦
覺得我分享的文章不錯(cuò)的話,可以關(guān)注一下我,或者給文章點(diǎn)贊(/≧▽≦)/
總結(jié)
以上是生活随笔為你收集整理的【Python案例】爬取某bo热搜榜并做动态数据展示的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: Vue Element-ui上传图片踩坑
- 下一篇: higig、higig+、higig2