日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程语言 > python >内容正文

python

利用python爬虫(part12)--随机获取UserAgent

發布時間:2023/12/19 python 40 豆豆
生活随笔 收集整理的這篇文章主要介紹了 利用python爬虫(part12)--随机获取UserAgent 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

學習筆記


fake_useragent模塊

通常,我都是自己在網上找User-Agent,然后寫一個模塊,把收集到的User-Agent一股腦塞進這個模塊中,爬蟲的時候再import這個模塊,隨機調用模塊里的User-Agent。

現在,有一個fake_useragent模塊,可以在線隨機生成User-Agent供我們使用,似不似很方便?


  • 語法
from fake_useragent import UserAgent ua = UserAgent() user_agent = ua.random
  • 舉個例子

我們向測試網站(http://httpbin.org/get, 當我們向這個網站發起請求時,網站會返回我們的請求頭)發起請求, 并打印出網站響應給我們的內容:

from fake_useragent import UserAgent import requestsurl = 'http://httpbin.org/get' ua = UserAgent() headers = {'User-Agent':ua.random} html = requests.get(url, headers = headers).content.decode('utf-8') print(html)

輸出:

{"args": {}, "headers": {"Accept": "*/*", "Accept-Encoding": "gzip, deflate", "Host": "httpbin.org", "User-Agent": "Mozilla/5.0 (compatible; MSIE 10.0; Windows NT 7.0; InfoPath.3; .NET CLR 3.1.40767; Trident/6.0; en-IN)", "X-Amzn-Trace-Id": "Root=1-5e915065-2d8689c8c024b608cb156ba0"}, "origin": "60.171.97.20", "url": "http://httpbin.org/get" }[Finished in 4.1s]

可以看到fake_useragent模塊的確幫助我們生成了一個User-Agent。

總結

以上是生活随笔為你收集整理的利用python爬虫(part12)--随机获取UserAgent的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。