python爬取歌曲评论_python 爬取歌曲评论的简单示例
這篇文章主要為大家詳細(xì)介紹了python 爬取歌曲評(píng)論的簡(jiǎn)單示例,具有一定的參考價(jià)值,可以用來參考一下。
感興趣python 爬取歌曲評(píng)論的簡(jiǎn)單示例的小伙伴,下面一起跟隨512筆記的小編羅X來看看吧。
一、抓數(shù)據(jù)
要想做成詞云圖表,首先得有數(shù)據(jù)才行。于是需要一點(diǎn)點(diǎn)的爬蟲技巧。
基本思路為:抓包分析、加密信息處理、抓取熱門評(píng)論信息
1.抓包分析
我們首先用瀏覽器打開網(wǎng)易云音樂的網(wǎng)頁版,進(jìn)入薛之謙《摩天大樓》歌曲頁面,可以看到下面有評(píng)論。接著F12進(jìn)入開發(fā)者控制臺(tái)(審查元素)。
接下來就要做的是,找到歌曲評(píng)論對(duì)應(yīng)的url,并分析驗(yàn)證其數(shù)據(jù)跟網(wǎng)頁現(xiàn)實(shí)的數(shù)據(jù)是否吻合
整理思路,分析api并模擬發(fā)送請(qǐng)求,獲取json解析就好了
2.加密信息處理
然后經(jīng)過測(cè)試,直接把瀏覽器上這倆數(shù)據(jù)拿過來就可以。但是要想真正的解決這個(gè)加密處理,還需要有點(diǎn)加解密的只是存儲(chǔ)
3.抓取熱門評(píng)論信息
二、數(shù)據(jù)可視化
在獲得相關(guān)評(píng)論數(shù)據(jù)后,我們將其做成圖表與詞云圖,將讓人看起來更直觀。
接下來需要在自己電腦上安裝需要相關(guān)的安裝包: pyecharts(圖表包)、matplotlib(繪圖功能包)、 WordCloud(詞云包)
pyecharts:https://github.com/pyecharts/pyecharts(下載源碼解壓到python目錄cmd進(jìn)入pyecharts目錄輸入命令python setup.py install)
WordCloud官網(wǎng):https://amueller.github.io/word_cloud/index.html
WordCloud下載地址:https://github.com/amueller/word_cloud
其中,pyecharts 是一個(gè)用于生成 Echarts 圖表的類庫(kù)。 Echarts 是百度開源的一個(gè)數(shù)據(jù)可視化 JS 庫(kù),主要用于數(shù)據(jù)可視化,同時(shí)pyecharts 兼容 Python2 和 Python3
# 512筆記網(wǎng) (www.512pic.com)
import requests
import json
from pyecharts import Bar
from wordcloud import WordCloud
import matplotlib.pyplot as plt
url = 'http://music.163.com/weapi/v1/resource/comments/R_SO_4_551816010?csrf_token=568cec564ccadb5f1b29311ece2288f1'
headers = {
'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36',
'Referer':'http://music.163.com/#/album?id=38388012',
'Origin':'http://music.163.com',
'Host':'music.163.com'
}
#加密數(shù)據(jù),直接拿過來用
user_data = {
'params': 'vRlMDmFsdQgApSPW3Fuh93jGTi/ZN2hZ2MhdqMB503TZaIWYWujKWM4hAJnKoPdV7vMXi5GZX6iOa1aljfQwxnKsNT+5/uJKuxosmdhdBQxvX/uwXSOVdT+0RFcnSPtv',
'encSecKey': '46fddcef9ca665289ff5a8888aa2d3b0490e94ccffe48332eca2d2a775ee932624afea7e95f321d8565fd9101a8fbc5a9cadbe07daa61a27d18e4eb214ff83ad301255722b154f3c1dd1364570c60e3f003e15515de7c6ede0ca6ca255e8e39788c2f72877f64bc68d29fac51d33103c181cad6b0a297fe13cd55aa67333e3e5'
}
response = requests.post(url,headers=headers,data=user_data)
data = json.loads(response.text)
hotcomments = []
for hotcommment in data['hotComments']:
item = {
'nickname':hotcommment['user']['nickname'],
'content':hotcommment['content'],
'likedCount':hotcommment['likedCount']
}
hotcomments.append(item)
#獲取評(píng)論用戶名,內(nèi)容,以及對(duì)應(yīng)的獲贊數(shù)
content_list = [content['content'] for content in hotcomments]
nickname = [content['nickname'] for content in hotcomments]
liked_count = [content['likedCount'] for content in hotcomments]
bar = Bar("熱評(píng)點(diǎn)贊示例圖")
bar.add( "點(diǎn)贊數(shù)",nickname, liked_count, is_stack=True,mark_line=["min", "max"],mark_point=["average"])
bar.render()
content_text = " ".join(content_list)
wordcloud = WordCloud(font_path=r"C:\simhei.ttf",max_words=200).generate(content_text)
plt.figure()
plt.imshow(wordcloud,interpolation='bilinear')
plt.axis('off')
plt.show()
# End 5.1.2筆記-www.512pic.com
注:關(guān)于python 爬取歌曲評(píng)論的簡(jiǎn)單示例的內(nèi)容就先介紹到這里,更多相關(guān)文章的可以留意512筆記的其他信息。
關(guān)鍵詞:爬取
總結(jié)
以上是生活随笔為你收集整理的python爬取歌曲评论_python 爬取歌曲评论的简单示例的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 国际版 Moto G53 5G 即将开售
- 下一篇: python聊天程序程序代码_pytho