User-Agent(用户代理)是什么
User-Agent(用戶代理)是什么
User-Agent 即用戶代理,簡稱“UA”,它是一個特殊字符串頭。網站服務器通過識別 “UA”來確定用戶所使用的操作系統版本、CPU 類型、瀏覽器版本等信息。而網站服務器則通過判斷 UA 來給客戶端發送不同的頁面。
我們知道,網絡爬蟲使用程序代碼來訪問網站,而非人類親自點擊訪問,因此爬蟲程序也被稱為“網絡機器人”。絕大多數網站都具備一定的反爬能力,禁止網爬蟲大量地訪問網站,以免給網站服務器帶來壓力。本節即將要講解的 User-Agent 就是反爬策略的第一步。
網站通過識別請求頭中 User-Agent 信息來判斷是否是爬蟲訪問網站。如果是,網站首先對該 IP 進行預警,對其進行重點監控,當發現該 IP 超過規定時間內的訪問次數, 將在一段時間內禁止其再次訪問網站。
常見的 User-Agent 請求頭,如下所示:
常見的 User-Agent 匯總表
| Mac | Chrome | Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.75 Safari/537.36 |
| Mac | Firefox | Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0 |
| Mac | Safari | Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/12.0.3 Safari/605.1.15 |
| Windows | Edge | Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36 Edge/18.17763 |
| Windows | IE | Mozilla/5.0 (Windows NT 10.0; WOW64; Trident/7.0; rv:11.0) like Gecko |
| Windows | Chrome | Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.121 Safari/537.36 |
| iOS | Chrome | Mozilla/5.0 (iPhone; CPU iPhone OS 7_0_4 like Mac OS X) AppleWebKit/537.51.1 (KHTML, like Gecko) CriOS/31.0.1650.18 Mobile/11B554a Safari/8536.25 |
| iOS | Safari | Mozilla/5.0 (iPhone; CPU iPhone OS 8_3 like Mac OS X) AppleWebKit/600.1.4 (KHTML, like Gecko) Version/8.0 Mobile/12F70 Safari/600.1.4 |
| Android | Chrome | Mozilla/5.0 (Linux; Android 4.2.1; M040 Build/JOP40D) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.59 Mobile Safari/537.36 |
| Android | Webkit | Mozilla/5.0 (Linux; U; Android 4.4.4; zh-cn; M351 Build/KTU84P) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30 |
使用上表中的瀏覽器 UA,我們可以很方便的構建出 User-Agent。通過在線識別工具,可以查看本機的瀏覽器版本以及 UA 信息,如下所示:
當前瀏覽器UA信息
| 瀏覽器版本 | 88.0.4324.182 |
| 系統平臺 | Windows |
| UA信息 | Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/88.0.4324.182 Safari/537.36 |
若想更多地了解瀏覽器 UA 信息(包含移動端、PC端)可參考《常用瀏覽器User-Agent》。
爬蟲程序UA信息
下面,通過向 HTTP 測試網站(http://httpbin.org/)發送 GET 請求來查看請求頭信息,從而獲取爬蟲程序的 UA。代碼如下所示:
#導入模塊 import urllib.request #向網站發送get請求 response=urllib.request.urlopen('http://httpbin.org/get') html = response.read().decode() print(html)程序運行后,輸出的請求頭信息如下所示:
{"args": {},#請求頭信息"headers": {"Accept-Encoding": "identity","Host": "httpbin.org","User-Agent": "Python-urllib/3.7", #UserAgent信息包含在請求頭中!"X-Amzn-Trace-Id": "Root=1-6034954b-1cb061183308ae920668ec4c"},"origin": "121.17.25.194","url": "http://httpbin.org/get" }從輸出結果可以看出,User-Agent 竟然是 Python-urllib/3.7,這顯然是爬蟲程序訪問網站。因此就需要重構 User-Agent,將其偽裝成“瀏覽器”訪問網站。
注意:httpbin.org 這個網站能測試 HTTP 請求和響應的各種信息,比如 cookie、IP、headers 和登錄驗證等,且支持
GET、POST 等多種方法,對 Web 開發和測試很有幫助。
重構爬蟲UA信息
下面使用urllib.request.Request()方法重構 User-Agent 信息,代碼如下所示:
from urllib import request # 定義變量:URL 與 headers url = 'http://httpbin.org/get' #向測試網站發送請求 #重構請求頭,偽裝成 Mac火狐瀏覽器訪問,可以使用上表中任意瀏覽器的UA信息 headers = { 'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0'} # 1、創建請求對象,包裝ua信息 req = request.Request(url=url,headers=headers) # 2、發送請求,獲取響應對象 res = request.urlopen(req) # 3、提取響應內容 html = res.read().decode('utf-8') print(html)程序的運行結果,如下所示:
{"args": {},"headers": {"Accept-Encoding": "identity","Host": "httpbin.org",#偽裝成了Mac火狐瀏覽器"User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0","X-Amzn-Trace-Id": "Root=1-6034a52f-372ca79027da685c3712e5f6"},"origin": "121.17.25.194","url": "http://httpbin.org/get" }上述代碼重構了 User-Agent 字符串信息,這樣就解決了網站通過識別 User-Agent 來封殺爬蟲程序的問題。當然這只是應對反爬策略的第一步。重構 UA 也可以通過其他模塊實現,比如 requests 模塊,這在后續內容會做相應介紹。
總結
以上是生活随笔為你收集整理的User-Agent(用户代理)是什么的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: User-Agent详解
- 下一篇: Unity3D学习笔记之四完善Prefa