初識Python爬蟲

• 互聯網
• • • • • 簡單來說互聯網是由一個個站點和網絡設備組成的大網，我們通過瀏覽器訪問站點，站點把HTML、JS、CSS代碼返回給瀏覽器，這些代碼經過瀏覽器解析、渲染，將豐富多彩的網頁呈現我們眼前；
• 一、什么是爬蟲
• • • • • 網絡爬蟲（又被稱為網頁蜘蛛，網絡機器人，在FOAF社區中間，更經常的稱為網頁追逐者），是一種按照一定的規則，自動地抓取萬維網信息的程序或者腳本。另外一些不常使用的名字還有螞蟻、自動索引、模擬程序或者蠕蟲。
        • 如果我們把互聯網比作一張大的蜘蛛網，數據便是存放于蜘蛛網的各個節點，而爬蟲就是一只小蜘蛛，沿著網絡抓取自己的獵物（數據）
        • 爬蟲指的是：向網站發起請求，獲取資源后分析并提取有用數據的程序;
        • 從技術層面來說就是 通過程序模擬瀏覽器請求站點的行為，把站點返回的HTML代碼/JSON數據/二進制數據（圖片、視頻） 爬到本地，進而提取自己需要的數據，存放起來使用；
  • 二、爬蟲的基本流程：
  • • • • 用戶獲取網絡數據的方式：
        • 方式1：瀏覽器提交請求--->下載網頁代碼--->解析成頁面
        • 方式2：模擬瀏覽器發送請求(獲取網頁代碼)->提取有用的數據->存放于數據庫或文件中
        • 爬蟲要做的就是方式2；
        • 其實，爬蟲的過程和瀏覽器瀏覽網頁的過程是一樣的。道理大家應該都明白，就是當我們在鍵盤上輸入網址點擊搜索之后，通過網絡首先會經過DNS服務器，分析網址的域名，找到了真正的服務器。然后我們通過HTTP協議對服務器發出GET或POST請求，若請求成功，我們就得到了我們想看到的網頁，一般都是用HTML, CSS, JS等前端技術來構建的，若請求不成功，服務器會返回給我們請求失敗的狀態碼，常見到的503，403等。
      • 1、發起請求
      • • 使用http庫向目標站點發起請求，即發送一個Request
        • Request包含：請求頭、請求體等
        • Request模塊缺陷：不能執行JS 和CSS 代碼
      • 2、獲取響應內容
      • 如果服務器能正常響應，則會得到一個Response
      • Response包含：html，json，圖片，視頻等
      • 3、解析內容
      • • 解析html數據：正則表達式（RE模塊），第三方解析庫如Beautifulsoup，pyquery等
        • 解析json數據：json模塊
        • 解析二進制數據:以wb的方式寫入文件
      • 4、保存數據
      • • 數據庫（MySQL，Mongdb、Redis)
        • 文件
    • 三、、 request
    • • • 1、請求方式：
        • 2、請求的URL
        • url編碼
        • 3、請求頭
        • 4、請求體
        • 請求體
    • 總結爬蟲流程：

互聯網

簡單來說互聯網是由一個個站點和網絡設備組成的大網，我們通過瀏覽器訪問站點，站點把HTML、JS、CSS代碼返回給瀏覽器，這些代碼經過瀏覽器解析、渲染，將豐富多彩的網頁呈現我們眼前；

一、什么是爬蟲

網絡爬蟲（又被稱為網頁蜘蛛，網絡機器人，在FOAF社區中間，更經常的稱為網頁追逐者），是一種按照一定的規則，自動地抓取萬維網信息的程序或者腳本。另外一些不常使用的名字還有螞蟻、自動索引、模擬程序或者蠕蟲。

如果我們把互聯網比作一張大的蜘蛛網，數據便是存放于蜘蛛網的各個節點，而爬蟲就是一只小蜘蛛，沿著網絡抓取自己的獵物（數據）

爬蟲指的是：向網站發起請求，獲取資源后分析并提取有用數據的程序;

從技術層面來說就是 通過程序模擬瀏覽器請求站點的行為，把站點返回的HTML代碼/JSON數據/二進制數據（圖片、視頻） 爬到本地，進而提取自己需要的數據，存放起來使用；

二、爬蟲的基本流程：

用戶獲取網絡數據的方式：

方式1：瀏覽器提交請求—>下載網頁代碼—>解析成頁面

方式2：模擬瀏覽器發送請求(獲取網頁代碼)->提取有用的數據->存放于數據庫或文件中

爬蟲要做的就是方式2；

其實，爬蟲的過程和瀏覽器瀏覽網頁的過程是一樣的。道理大家應該都明白，就是當我們在鍵盤上輸入網址點擊搜索之后，通過網絡首先會經過DNS服務器，分析網址的域名，找到了真正的服務器。然后我們通過HTTP協議對服務器發出GET或POST請求，若請求成功，我們就得到了我們想看到的網頁，一般都是用HTML, CSS, JS等前端技術來構建的，若請求不成功，服務器會返回給我們請求失敗的狀態碼，常見到的503，403等。

1、發起請求

使用http庫向目標站點發起請求，即發送一個Request

Request包含：請求頭、請求體等

Request模塊缺陷：不能執行JS 和CSS 代碼

2、獲取響應內容

如果服務器能正常響應，則會得到一個Response

Response包含：html，json，圖片，視頻等

3、解析內容

解析html數據：正則表達式（RE模塊），第三方解析庫如Beautifulsoup，pyquery等

解析json數據：json模塊

解析二進制數據:以wb的方式寫入文件

4、保存數據

數據庫（MySQL，Mongdb、Redis)

文件

三、、 request

1、請求方式：

常見的請求方式：GET / POST

2、請求的URL

url全球統一資源定位符，用來定義互聯網上一個唯一的資源 例如：一張圖片、一個文件、一段視頻都可以用url唯一確定

url編碼

網頁的加載過程是：
加載一個網頁，通常都是先加載document文檔，
在解析document文檔的時候，遇到鏈接，則針對超鏈接發起請求

3、請求頭

User-agent：請求頭中如果沒有user-agent客戶端配置，服務端可能將你當做一個非法用戶host；
cookies：cookie用來保存登錄信息
#####請求頭需要注意的參數：

(1）Referrer：訪問源至哪里來（一些大型網站，會通過Referrer 做防盜鏈策略；所有爬蟲也要注意模擬)

（2）User-Agent:訪問的瀏覽器（要加上否則會被當成爬蟲程序）

（3）cookie：請求頭注意攜帶

4、請求體

請求體

如果是get方式，請求體沒有內容 （get請求的請求體放在 url后面參數中，直接能看到） 如果是post方式，請求體是format data ps： 1、登錄窗口，文件上傳等，信息都會被附加到請求體內 2、登錄，輸入錯誤的用戶名密碼，然后提交，就可以看到post，正確登錄后頁面通常會跳轉，無法捕捉到post

總結爬蟲流程：

爬取—>解析—>存儲

參考博客: https://www.cnblogs.com/sss4/p/7809821.html

總結

以上是生活随笔為你收集整理的Python爬虫简介的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。