日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程语言 > python >内容正文

python

Python实现抓取CSDN博客首页文章列表

發布時間:2025/3/15 python 23 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Python实现抓取CSDN博客首页文章列表 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

1、使用工具:
Python3.5
BeautifulSoup
2、抓取網站:
csdn首頁文章列表 http://blog.csdn.net/
3、分析網站文章列表代碼:

4、實現抓取代碼:

__author__ = 'Administrator' import urllib.request import re from bs4 import BeautifulSoup######################################################## # # 抓取csdn首頁文章http://blog.csdn.net/?&page=1 # # 參數baseUrl是要訪問的網站地址 # ######################################################## class CsdnUtils(object):def __init__(self):user_agent='Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36'self.headers ={'Cache-Control':'max-age=0','Connection':'keep-alive','Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8','User-Agent':user_agent,}self.contentAll=set()def getPage(self,url=None):request=urllib.request.Request(url,headers=self.headers)response=urllib.request.urlopen(request)soup=BeautifulSoup(response.read(),"html.parser")#print(soup.prettify())return soupdef parsePage(self,url=None,page_num=None):soup=self.getPage(url)itemBlog=soup.find_all('dl','blog_list clearfix')cnArticle=CsdnUtilsprint("========================第",page_num,"頁======================================")for i,itemSingle in enumerate(itemBlog):cnArticle.num=icnArticle.author=itemSingle.find('a','nickname').stringcnArticle.postTime=itemSingle.find('label').stringcnArticle.articleView=itemSingle.find('em').stringcnArticle.title=itemSingle.find('h3',"tracking-ad").stringcnArticle.url=itemSingle.find("h3").find("a").get("href")print("數據:",cnArticle.num+1,'\t',cnArticle.author,'\t',cnArticle.postTime,'\t',cnArticle.articleView,'\t',cnArticle.title,'\t',cnArticle.url)####### 執行 ######## if __name__ =="__main__":#要抓取的網頁地址'http://blog.csdn.net/?&page={}'.format(i+1),i+1)url = "http://blog.csdn.net"cnblog=CsdnUtils()for i in range(0,2):cnblog.parsePage(url,i+1)

5、執行結果:

轉載于:https://www.cnblogs.com/luweiwei/p/5968459.html

總結

以上是生活随笔為你收集整理的Python实现抓取CSDN博客首页文章列表的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。