日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程语言 > python >内容正文

python

Python使用aiohttp异步爬取糗事百科

發布時間:2025/3/20 python 27 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Python使用aiohttp异步爬取糗事百科 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
from bs4 import BeautifulSoup import aiohttp # 代替requests import asyncio from urllib import parseheaders={'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.198 Safari/537.36','Referer': 'https://www.qiushibaike.com/' }async def getPage(i):print('i的值為:',i)url='https://www.qiushibaike.com/8hr/page/{}/'.format(i)async with aiohttp.ClientSession(headers=headers) as session:async with session.get(url) as resp:print(resp.status) # 打印狀態碼print('第{}頁'.format(i))html=await resp.text()soup=BeautifulSoup(html,'lxml')lis=soup.select('.recmd-content')for li in lis:title=li.get_text()href=parse.urljoin('https://www.qiushibaike.com/',li['href'])print(title)print(href)if __name__ == '__main__':loop=asyncio.get_event_loop() # 獲取事件循環tasks=[getPage(i) for i in range(1,11)] # 創建任務loop.run_until_complete(asyncio.wait(tasks)) # 執行任務loop.close() # 執行之后關閉

?

總結

以上是生活随笔為你收集整理的Python使用aiohttp异步爬取糗事百科的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。