js逆向 签名参数解析 驾考数据科目一科目三题库爬虫分享 python scrapy
注:本篇意在學習,如有侵權,請聯系刪除
之前有用selenium抓取科目一試題,但是只能抓到題干和試題答案,抓不到試題分析還有答題技巧,因為接口中有一個叫做? ?_r? ? ?的簽名參數是加密過的,扣JS又太麻煩, 今天比較閑就想著來試試
環境:
windows10? ? ? ? ?
python?
scrapy
mysql
廢話不多說
?首先分析數據接口url的參數
https://api2.jiakaobaodian.com/api/open/question/question-list.htm?_r=115588757061507390094&questionIds=888800%2C893400%2C888600%2C895800%2C890700%2C1162800%2C876400%2C880000%2C879800%2C875700? (注此鏈接點擊一次即失效,因為每個_r只能用一次)
questionIds這個很明顯后面是跟的題目的id中間有逗號用urlencode轉碼即可? ? 不轉也行 首先說一下題目id從哪來,下面這個url
https://api2.jiakaobaodian.com/api/open/exercise/sequence.htm?_r=115154426246160380075&carType=car&cityCode=110000&course=kemu3
course參數后面跟的值就是kemu幾,此處是科目三,cityCode這個參數后面是跟的城市代碼,有一些城市的題目數量是不同的,但是全國的話題目數量是最多的,110000就是全國的城市代碼,這里可以看到這個接口里也是有_r 這個簽名存在的,那么接下來就進入正題
首先可以看到在network中 想要的數據是XHR類型的,想找到參數_r是怎么來的, 第一步先在
這個位置給所有的XHR數據傳輸打上斷點,
然后咱們手動點擊下一題,一般點擊25下,就會有數據傳輸,因為他每次是25個題目數據一起傳出來的
首先看到是在這停的,可以看到這個時候_r 已經有值了,那么我搜索e.paramString 看看他的_r是在哪傳過來的,
然后搜索到了這里,可以看到這個時候_r還是沒有值的,哪就在這下了個斷點,
接著來,就調到了這里
斷點是我后來加的,此時請忽略,看下張圖
這個時候我發現,s(1)他的值,就是我要找的_r? 接下來測試下
把他帶入到url試一下,果然是它,知道是那個函數了,哪就扣它。然后就像上面那張圖,下了那么多斷點,n += parseInt(o[a]);? ? 在這個地方 發現他會循環好多次調到下圖
會調到這里來,接下來就好起來了,
看這兩張圖能看到 _r=? t+o+n ,
那么把這個還有return s(1)那個粘到同一個js中,來用python來試一下
把這個值帶入url一試,果然,就是它就是它,接下來就創建scrapy 項目,直接調用s()函數就ok了,_r簽名已經ok了,接下來就是抓取數據了。給大家看下結果
結果這里說下哈,圖片存base64或者 字節流的話,打開表速度會慢一些,所以分貝把科目一科目三的圖片和動圖(動圖是mp4格式)下載到了本地,,這里給圖片存了一個網絡地址字段,一個本地地址字段,這篇講的是小汽車的數據,其他車型的,原理也是一樣的。
數據+源碼 :??數據+源碼 點這里
總結
以上是生活随笔為你收集整理的js逆向 签名参数解析 驾考数据科目一科目三题库爬虫分享 python scrapy的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 第三章 同步 Windows程序设计 王
- 下一篇: 用python做股票智能投顾模型_如何用