日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 编程语言 > python >内容正文

python

爬取广州所有停车场数据(Python)

發(fā)布時(shí)間:2025/4/16 python 31 豆豆
生活随笔 收集整理的這篇文章主要介紹了 爬取广州所有停车场数据(Python) 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

目標(biāo)地址 http://www.gzjt.gov.cn/gzjt/tcc/list_tt.shtml

上面url是廣州交通的地址。朋友想要我?guī)兔θプサ剿械膹V州停車場所在的詳細(xì)地址。

一開始去查這個(gè)網(wǎng)頁的時(shí)候,感覺還是很迷惑的。因?yàn)槭莿?dòng)態(tài)網(wǎng)頁,所以我得先捕捉漏洞。然后,通過漏洞去抓到對(duì)應(yīng)的數(shù)據(jù)有關(guān)的地址。

經(jīng)過大概十幾分鐘,比較幸運(yùn),找到了對(duì)應(yīng)的漏洞。(個(gè)人猜測,可能是因?yàn)槭钦W(wǎng)站,所以,防護(hù)的效果雖然也是有,但是并不那么高深。

然后,我查了下,總共只有318頁的數(shù)據(jù),也就沒有做多協(xié)程,就直接開了單線程,然后直接一路開過去就好了~
用時(shí)大概就30秒?,也還是能接受的~
(有個(gè)不太理解,就是不清楚,這個(gè)是不是限制了周圍所有的)


代碼運(yùn)行效果

就是會(huì)在代碼所在目錄去找,看看有沒有名為Data的文件夾。沒有就創(chuàng)建一個(gè)。
之后,再根據(jù)特定捕捉到的漏洞,進(jìn)行爬蟲,把對(duì)應(yīng)的信息寫入這個(gè)文件夾中,然后存儲(chǔ)為json格式的文件。并轉(zhuǎn)成可以看中文的格式的編碼。這樣讓我的Teamates,就算不懂代碼,也可以直接點(diǎn)開這個(gè)文件來看數(shù)據(jù)。

代碼如下

import requests import os import jsondef getAllJson(Session, data, headers):url = 'http://219.136.133.163:8000/Pages/Commonpage/AsyGetData.asmx/GetParkList'res = Session.post(url, data=data, headers=headers)res.encoding = 'utf-8'with open('./Data/' + data['cp'] + '.json', 'w') as f:json.dump(res.json(), f, ensure_ascii=False)if __name__ == '__main__':headers = {'X-Requested-With': 'XMLHttpRequest','User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36'}pageSession = requests.Session()url = 'http://219.136.133.163:8000/Pages/Commonpage/AsyGetData.asmx/GetParkList'pageSession.get(url, headers=headers)data = {'cp': '1','ps': '10','kw': '','lon': 'undefined','lat': 'undefined','type': 'undefined'}if not os.path.exists('./Data'):os.mkdir('./Data')for i in range(318):data['cp'] = str(i + 1)getAllJson(pageSession, data, headers)

總結(jié)

以上是生活随笔為你收集整理的爬取广州所有停车场数据(Python)的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。