用python批量下载网络图片大全_实战干货:用 Python 批量下载百度图片!
為了做一個圖像分類的小項目,需要制作自己的數據集。要想制作數據集,就得從網上下載大量的圖片,再統一處理。
這時,一張張的保存下載,就顯得很繁瑣。那么,有沒有一種方法可以把搜索到的圖片直接下載到本地電腦中呢?
有啊!用python吧!
我以“泰迪”、“柯基”、“拉布拉多”等為關鍵詞,分別下載了500張圖片。下一篇,我打算寫一個小狗分類器,不知道各位意見如何!
結果演示:
首先,打開百度圖片首頁,注意下圖url中的index
接著,把頁面切換成傳統翻頁版(flip),因為這樣有利于我們爬取圖片!
對比了幾個url發現,pn參數是請求到的數量。通過修改pn參數,觀察返回的數據,發現每頁最多只能是60個圖片。
注:gsm參數是pn參數的16進制表達,去掉無妨
然后,右鍵檢查網頁源代碼,直接(ctrl+F)搜索 objURL
這樣,我們發現了需要圖片的url了。
2.把圖片鏈接保存到本地
現在,我們要做的就是將這些信息爬取出來。注:網頁中有objURL,hoverURL…但是我們用的是objURL,因為這個是原圖那么,如何獲取objURL?用正則表達式!那我們該如何用正則表達式實現呢?其實只需要一行代碼…
results = re.findall('"objURL":"(.*?)",', html)
核心代碼:
1.獲取圖片url代碼:
# 獲取圖片url連接
def get_parse_page(pn,name):
for i in range(int(pn)):
# 1.獲取網頁
print('正在獲取第{}頁'.format(i+1))
# 百度圖片首頁的url
# name是你要搜索的關鍵詞
# pn是你想下載的頁數
url = 'https://image.baidu.com/search/flip?tn=baiduimage&ie=utf-8&word=%s&pn=%d' %(name,i*20)
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/53.0.2785.104 Safari/537.36 Core/1.53.4843.400 QQBrowser/9.7.13021.400'}
# 發送請求,獲取相應
response = requests.get(url, headers=headers)
html = response.content.decode()
# print(html)
# 2.正則表達式解析網頁
# "objURL":"http://n.sinaimg.cn/sports/transform/20170406/dHEk-fycxmks5842687.jpg"
results = re.findall('"objURL":"(.*?)",', html) # 返回一個列表
# 根據獲取到的圖片鏈接,把圖片保存到本地
save_to_txt(results, name, i)
2.保存圖片到本地代碼:
# 保存圖片到本地
def save_to_txt(results, name, i):
j = 0
# 在當目錄下創建文件夾
if not os.path.exists('./' + name):
os.makedirs('./' + name)
# 下載圖片
for result in results:
print('正在保存第{}個'.format(j))
try:
pic = requests.get(result, timeout=10)
time.sleep(1)
except:
print('當前圖片無法下載')
j += 1
continue
# 可忽略,這段代碼有bug
# file_name = result.split('/')
# file_name = file_name[len(file_name) - 1]
# print(file_name)
#
# end = re.search('(.png|.jpg|.jpeg|.gif)$', file_name)
# if end == None:
# file_name = file_name + '.jpg'
# 把圖片保存到文件夾
file_full_name = './' + name + '/' + str(i) + '-' + str(j) + '.jpg'
with open(file_full_name, 'wb') as f:
f.write(pic.content)
j += 1
核心代碼:
pic = requests.get(result, timeout=10)
f.write(pic.content)3.主函數代碼:
# 主函數
if __name__ == '__main__':
name = input('請輸入你要下載的關鍵詞:')
pn = input('你想下載前幾頁(1頁有60張):')
get_parse_page(pn, name)
使用說明:
# 配置以下模塊
import requests
import re
import os
import time
# 1.運行 py源文件
# 2.輸入你想搜索的關鍵詞,比如“柯基”、“泰迪”等
# 3.輸入你想下載的頁數,比如5,那就是下載 5 x 60=300 張圖片
創作挑戰賽新人創作獎勵來咯,堅持創作打卡瓜分現金大獎總結
以上是生活随笔為你收集整理的用python批量下载网络图片大全_实战干货:用 Python 批量下载百度图片!的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 如何通过vs2017的Dockerfil
- 下一篇: python嵌入到qt_在Qt图形用户界