python实现简单爬虫抓取图片
生活随笔
收集整理的這篇文章主要介紹了
python实现简单爬虫抓取图片
小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
最近在學(xué)習(xí)python,正如大家所知,python在網(wǎng)絡(luò)爬蟲(chóng)方面有著廣泛的應(yīng)用,下面是一個(gè)利用python程序抓取網(wǎng)絡(luò)圖片的簡(jiǎn)單程序,可以批量下載一個(gè)網(wǎng)站更新的圖片,其中使用了代理IP的技術(shù)。
import urllib.request import os import random def url_open(url):req=urllib.request.Request(url)#為請(qǐng)求設(shè)置user-agent,使得程序看起來(lái)更像一個(gè)人類req.add_header('User-Agent','Mozilla/5.0 (Windows NT 6.1; WOW64; rv:43.0) Gecko/20100101 Firefox/43.0')#代理IP,使用戶能以不同IP訪問(wèn),從而防止被服務(wù)器發(fā)現(xiàn)'''iplist=['1.193.162.123:8000','1.193.162.91:8000','1.193.163.32:8000']proxy_support=urllib.request.ProxyHandler({'http':random.choice(iplist)})opener=urllib.request.build_opener(proxy_support)opener.addheaders=[('User-Agent','Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.154 Safari/537.36 LBBROWSER')]urllib.request.install_opener(opener)'''response=urllib.request.urlopen(req)html=response.read()return html def get_page(url):html=url_open(url).decode('utf-8')a=html.find('current-comment-page')+23b=html.find(']',a)#print(html[a:b])return html[a:b]def find_imgs(url):html=url_open(url).decode('utf-8')img_addrs=[]a=html.find('img src=')while a!=-1:b=html.find('.jpg',a,a+140)if b!=-1:if html[a+9]!='h':img_addrs.append('http:'+html[a+9:b+4])else:img_addrs.append(html[a+9:b+4])else:b=a+9a=html.find('img src=',b)for each in img_addrs:print(each+'我的打印')return img_addrsdef save_imgs(folder,img_addrs):for each in img_addrs:#print('one was saved')filename=each.split('/')[-1]with open(filename,'wb') as f:img=url_open(each)f.write(img)def download_mm(folder='ooxx',pages=10):os.mkdir(folder)os.chdir(folder)url="http://jandan.net/ooxx/"page_num=int(get_page(url))for i in range(pages):page_num=page_num-1page_url=url+'page-'+str(page_num)+'#comments'img_addrs=find_imgs(page_url)save_imgs(folder,img_addrs)if __name__=='__main__':download_mm()完成
運(yùn)行結(jié)果
總結(jié)
以上是生活随笔為你收集整理的python实现简单爬虫抓取图片的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: Qt实用快捷键(较全面)
- 下一篇: caffe下matlab、python的