python爬蟲 asyncio aiohttp aiofiles 多任務(wù)異步協(xié)程爬取圖片
main.py

"""=== coding: UTF8 ===""" # requests.get()同步代碼 -> 異步操作aiohttp import asyncio import aiohttp import aiofilesurls = ["https://img.lianzhixiu.com/uploads/allimg/202109/9999/d1eeaa0450.jpg","https://img.lianzhixiu.com/uploads/allimg/202109/9999/6747451f08.jpg","https://img.lianzhixiu.com/uploads/allimg/202108/9999/88abd53cc1.jpg"]async def aioDownload(url):# 發(fā)送請求# 得到圖片內(nèi)容# 保存到文件print("開始下載")name = url.rsplit("/", 1)[1] # 從右邊切一次，得到[1]位置的內(nèi)容async with aiohttp.ClientSession() as session: # 相當(dāng)于requestsasync with session.get(url) as resp: # 相當(dāng)于resp = requests.get()# 請求回來了，aiofiles寫入文件，async with aiofiles.open(name, mode='wb') as f: # 創(chuàng)建文件await f.write(await resp.content.read()) # 讀取內(nèi)容是異步的，需要await掛起，resp.text()print("下載完成")async def main():# 準(zhǔn)備異步協(xié)程對象列表tasks = []for url in urls:task = asyncio.create_task(aioDownload(url))tasks.append(task)await asyncio.wait(tasks)""" ======================================== 主函數(shù)功能測試 ======================================== """ if __name__ == '__main__':# 一次性啟動(dòng)多個(gè)任務(wù)# asyncio.run(main())loop = asyncio.get_event_loop()loop.run_until_complete(main())

關(guān)注公眾號(hào)，獲取更多資料

總結(jié)

以上是生活随笔為你收集整理的python爬虫 asyncio aiohttp aiofiles 单线程多任务异步协程爬取图片的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。