python爬取收费漫画_python爬取收费漫画_Python爬虫,爬取腾讯漫画实战
先上個爬取的結(jié)果圖
最后的結(jié)果為每部漫畫按章節(jié)保存
運行環(huán)境
ide vs2019
python3.7
chrome、chromedriver
chrome和chromedriver的版本需要相互對應(yīng)
先上代碼,代碼非常簡短,包含空行也才50行,多虧了python強大的庫
import os
import time
import requests
from selenium import webdriver
from lxml import etree
def getchapterurl(url):
headers = {
"user-agent": "mozilla/5.0 (macintosh; intel mac os x 10_13_4) applewebkit/537.36 (khtml, like gecko) chrome/66.0.3359.139 safari/537.36"
}
part_url = "http://ac.qq.com"
res = requests.get(url, headers=headers)
html=res.content.decode()
el = etree.html(html)
li_list = el.xpath('//*[@id="chapter"]/div[2]/ol[1]/li')
for li in li_list:
for p in li.xpath("./p"):
for span in p.xpath("./span[@class='works-chapter-item']"):
item = {}
list_title = span.xpath("./a/@title")[0].replace(' ', '').split(':')
if list_title[1].startswith(('第', '序')):
getchapterfile(part_url + span.xpath("./a/@href")[0], list_title[0],list_title[1])
def getchapterfile(url,path1,path2):
#path = os.path.join(path)
#漫畫名稱目錄
path=os.path.join(path1)
if not os.path.exists(path):
os.mkdir(path)
#章節(jié)目錄
path=path+'\\'+path2
if not os.path.exists(path):
os.mkdir(path)
chrome=webdriver.chrome()
#"http://ac.qq.com/comicview/index/id/505435/cid/2"
chrome.get(url)
time.sleep(4)
imgs = chrome.find_elements_by_xpath("//div[@id='mainview']/ul[@id='comiccontain']//img")
for i in range(0, len(imgs)):
js="document.getelementbyid('mainview').scrolltop="+str((i) * 1280)
chrome.execute_script(js)
time.sleep(3)
print(imgs[i].get_attribute("src"))
with open(path+'\\'+str(i)+'.png', 'wb') as f:
f.write(requests.get(imgs[i].get_attribute("src")).content)
chrome.close()
print('下載完成')
if __name__ == '__main__':
getchapterurl('http://ac.qq.com/comic/comicinfo/id/505435')
簡單解釋
輸入一個漫畫的url即可爬取該漫畫所有的章節(jié),由于是模擬用戶爬取的,所以速度方面有點慢,我試了下爬取銀魂前70章,用了1個半小時,代碼中的sleep可以適當簡短點已加快爬取的速度
付費的漫畫是沒有辦法爬取的
談一下過程中遇到的坑
騰訊的漫畫網(wǎng)站打開章節(jié)時沒有把所有圖片的url都加載出來,所以我在這里用的方式是使用selenium來模擬用戶操作,每次打開頁面以后使用js操作滾動條下拉
最后再貼下代碼庫,其實貼出的代碼已經(jīng)是所有的代碼了
如您對本文有疑問或者有任何想說的,請點擊進行留言回復(fù),萬千網(wǎng)友為您解惑!
總結(jié)
以上是生活随笔為你收集整理的python爬取收费漫画_python爬取收费漫画_Python爬虫,爬取腾讯漫画实战的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 题注自动带章节编号 and怎样删除Wor
- 下一篇: python在tk界面播放本地视频_tk