【Python3 爬虫】03_urllib.error异常处理
urllib.error可以接受來自u(píng)rllib.request產(chǎn)生的異常。urllib.error有兩個(gè)方法:①URLError ②HTTPError
URLError
URLError產(chǎn)生的原因
①網(wǎng)絡(luò)無連接,即本機(jī)無法上網(wǎng)
②連接不到特定的服務(wù)器
③服務(wù)器不存在
運(yùn)行結(jié)果表明:連接超時(shí)
HTTPError
HTTPError是URLError的子類,在你利用URLopen方法發(fā)出一個(gè)請(qǐng)求時(shí),服務(wù)器上都會(huì)對(duì)應(yīng)一個(gè)應(yīng)答對(duì)象response,其中他包含一個(gè)數(shù)字“狀態(tài)碼”,例如response是一個(gè)重定向,需定位到別的地址獲取文檔,urllib將對(duì)此進(jìn)行處理。
其他不能處理的,URLopen會(huì)產(chǎn)生一個(gè)HTTPError,對(duì)應(yīng)相應(yīng)的狀態(tài)碼,HTTP狀態(tài)碼表示HTTP協(xié)議所返回的響應(yīng)的狀態(tài)。狀態(tài)碼歸結(jié)如下:
100:繼續(xù)? 客戶端應(yīng)當(dāng)繼續(xù)發(fā)送請(qǐng)求。客戶端應(yīng)當(dāng)繼續(xù)發(fā)送請(qǐng)求的剩余部分,或者如果請(qǐng)求已經(jīng)完成,忽略這個(gè)響應(yīng)。
101: 轉(zhuǎn)換協(xié)議? 在發(fā)送完這個(gè)響應(yīng)最后的空行后,服務(wù)器將會(huì)切換到在Upgrade 消息頭中定義的那些協(xié)議。只有在切換新的協(xié)議更有好處的時(shí)候才應(yīng)該采取類似措施。
102:繼續(xù)處理?? 由WebDAV(RFC 2518)擴(kuò)展的狀態(tài)碼,代表處理將被繼續(xù)執(zhí)行。
200:請(qǐng)求成功????? 處理方式:獲得響應(yīng)的內(nèi)容,進(jìn)行處理
201:請(qǐng)求完成,結(jié)果是創(chuàng)建了新資源。新創(chuàng)建資源的URI可在響應(yīng)的實(shí)體中得到??? 處理方式:爬蟲中不會(huì)遇到
202:請(qǐng)求被接受,但處理尚未完成??? 處理方式:阻塞等待
204:服務(wù)器端已經(jīng)實(shí)現(xiàn)了請(qǐng)求,但是沒有返回新的信 息。如果客戶是用戶代理,則無須為此更新自身的文檔視圖。??? 處理方式:丟棄
300:該狀態(tài)碼不被HTTP/1.0的應(yīng)用程序直接使用, 只是作為3XX類型回應(yīng)的默認(rèn)解釋。存在多個(gè)可用的被請(qǐng)求資源。??? 處理方式:若程序中能夠處理,則進(jìn)行進(jìn)一步處理,如果程序中不能處理,則丟棄
301:請(qǐng)求到的資源都會(huì)分配一個(gè)永久的URL,這樣就可以在將來通過該URL來訪問此資源??? 處理方式:重定向到分配的URL
302:請(qǐng)求到的資源在一個(gè)不同的URL處臨時(shí)保存???? 處理方式:重定向到臨時(shí)的URL
304:請(qǐng)求的資源未更新???? 處理方式:丟棄
400:非法請(qǐng)求???? 處理方式:丟棄
401:未授權(quán)???? 處理方式:丟棄
403:禁止???? 處理方式:丟棄
404:沒有找到???? 處理方式:丟棄
500:服務(wù)器內(nèi)部錯(cuò)誤? 服務(wù)器遇到了一個(gè)未曾預(yù)料的狀況,導(dǎo)致了它無法完成對(duì)請(qǐng)求的處理。一般來說,這個(gè)問題都會(huì)在服務(wù)器端的源代碼出現(xiàn)錯(cuò)誤時(shí)出現(xiàn)。
501:服務(wù)器無法識(shí)別? 服務(wù)器不支持當(dāng)前請(qǐng)求所需要的某個(gè)功能。當(dāng)服務(wù)器無法識(shí)別請(qǐng)求的方法,并且無法支持其對(duì)任何資源的請(qǐng)求。
502:錯(cuò)誤網(wǎng)關(guān)? 作為網(wǎng)關(guān)或者代理工作的服務(wù)器嘗試執(zhí)行請(qǐng)求時(shí),從上游服務(wù)器接收到無效的響應(yīng)。
503:服務(wù)出錯(cuò)?? 由于臨時(shí)的服務(wù)器維護(hù)或者過載,服務(wù)器當(dāng)前無法處理請(qǐng)求。這個(gè)狀況是臨時(shí)的,并且將在一段時(shí)間以后恢復(fù)
HTTPError實(shí)例產(chǎn)生后會(huì)有一個(gè)code屬性,這就是服務(wù)器發(fā)送的相關(guān)錯(cuò)誤號(hào)。因?yàn)閡rllib可以為你處理重定向,也就是3開頭的代號(hào)可以被處理,并且100-299范圍的號(hào)碼指示成功,所以你只能看到400-599的錯(cuò)誤號(hào)碼。
下面我們寫一個(gè)例子來感受一下,捕獲的異常是HTTPError,它會(huì)帶有一個(gè)code屬性,就是錯(cuò)誤代號(hào),另外我們又打印了reason屬性,這是它的父類URLError的屬性。
404
Not Found
結(jié)果分析:錯(cuò)誤代碼是404,錯(cuò)誤原因是Not Found找不到網(wǎng)頁
HTTPError與URLError一起使用
最后值得注意的一點(diǎn)是,如果想用HTTPError和URLError一起捕獲異常,那么需要將HTTPError放在URLError的前面,因?yàn)镠TTPError是URLError的一個(gè)子類。如果URLError放在前面,出現(xiàn)HTTP異常會(huì)先響應(yīng)URLError,這樣HTTPError就捕獲不到錯(cuò)誤信息了。
使用hasattr函數(shù)判斷URLError含有的屬性,如果含有reason屬性表明是URLError,如果含有code屬性表明是HTTPError
總結(jié)
以上是生活随笔為你收集整理的【Python3 爬虫】03_urllib.error异常处理的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 回归与梯度下降法及实现原理
- 下一篇: websocket python爬虫_p