Python爬虫之xpath的详细使用（爬虫）
生活随笔
收集整理的這篇文章主要介紹了
Python爬虫之xpath的详细使用（爬虫）
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
一、簡介
XPath 是一門在 XML 文檔中查找信息的語言。XPath 可用來在 XML 文檔中對元素和屬性進行遍歷。XPath 是 W3C XSLT 標準的主要元素，并且 XQuery 和 XPointer 都構(gòu)建于 XPath 表達之上。
? 參照
二、安裝
pip3 install lxml
三、使用
1、導(dǎo)入
from?lxml?import?etree
2、基本使用
from lxml import etreewb_data = """<div><ul><li class="item-0"><a href="link1.html">first item</a></li><li class="item-1"><a href="link2.html">second item</a></li><li class="item-inactive"><a href="link3.html">third item</a></li><li class="item-1"><a href="link4.html">fourth item</a></li><li class="item-0"><a href="link5.html">fifth item</a></ul></div>""" html = etree.HTML(wb_data) print(html) result = etree.tostring(html) print(result.decode("utf-8"))從下面的結(jié)果來看，我們打印機html其實就是一個python對象，etree.tostring(html)則是不全里html的基本寫法，補全了缺胳膊少腿的標簽。
<Element html at 0x39e58f0> <html><body><div><ul><li class="item-0"><a href="link1.html">first item</a></li><li class="item-1"><a href="link2.html">second item</a></li><li class="item-inactive"><a href="link3.html">third item</a></li><li class="item-1"><a href="link4.html">fourth item</a></li><li class="item-0"><a href="link5.html">fifth item</a></li></ul></div></body></html>3、獲取某個標簽的內(nèi)容(基本使用)，注意，獲取a標簽的所有內(nèi)容，a后面就不用再加正斜杠，否則報錯。
寫法一
html = etree.HTML(wb_data) html_data = html.xpath('/html/body/div/ul/li/a') print(html) for i in html_data:print(i.text)<Element html at 0x12fe4b8> first item second item third item fourth item fifth item寫法二（直接在需要查找內(nèi)容的標簽后面加一個/text()就行）
html = etree.HTML(wb_data) html_data = html.xpath('/html/body/div/ul/li/a/text()') print(html) for i in html_data:print(i)<Element html at 0x138e4b8> first item second item third item fourth item fifth item4、打開讀取html文件
#使用parse打開html的文件 html = etree.parse('test.html') html_data = html.xpath('//*')<br>#打印是一個列表，需要遍歷 print(html_data) for i in html_data:print(i.text) html = etree.parse('test.html') html_data = etree.tostring(html,pretty_print=True) res = html_data.decode('utf-8') print(res)打印： <div><ul><li class="item-0"><a href="link1.html">first item</a></li><li class="item-1"><a href="link2.html">second item</a></li><li class="item-inactive"><a href="link3.html">third item</a></li><li class="item-1"><a href="link4.html">fourth item</a></li><li class="item-0"><a href="link5.html">fifth item</a></li></ul> </div>5、打印指定路徑下a標簽的屬性（可以通過遍歷拿到某個屬性的值，查找標簽的內(nèi)容）
html = etree.HTML(wb_data) html_data = html.xpath('/html/body/div/ul/li/a/@href') for i in html_data:print(i)打印： link1.html link2.html link3.html link4.html link5.html6、我們知道我們使用xpath拿到得都是一個個的ElementTree對象，所以如果需要查找內(nèi)容的話，還需要遍歷拿到數(shù)據(jù)的列表。
查到絕對路徑下a標簽屬性等于link2.html的內(nèi)容。
html = etree.HTML(wb_data) html_data = html.xpath('/html/body/div/ul/li/a[@href="link2.html"]/text()') print(html_data) for i in html_data:print(i)打印： ['second item'] second item7、上面我們找到全部都是絕對路徑（每一個都是從根開始查找），下面我們查找相對路徑，例如，查找所有l(wèi)i標簽下的a標簽內(nèi)容。
html = etree.HTML(wb_data) html_data = html.xpath('//li/a/text()') print(html_data) for i in html_data:print(i)打印： ['first item', 'second item', 'third item', 'fourth item', 'fifth item'] first item second item third item fourth item fifth item8、上面我們使用絕對路徑，查找了所有a標簽的屬性等于href屬性值，利用的是/---絕對路徑，下面我們使用相對路徑，查找一下l相對路徑下li標簽下的a標簽下的href屬性的值，注意，a標簽后面需要雙//。
html = etree.HTML(wb_data) html_data = html.xpath('//li/a//@href') print(html_data) for i in html_data:print(i)打印： ['link1.html', 'link2.html', 'link3.html', 'link4.html', 'link5.html'] link1.html link2.html link3.html link4.html link5.html9、相對路徑下跟絕對路徑下查特定屬性的方法類似，也可以說相同。
html = etree.HTML(wb_data) html_data = html.xpath('//li/a[@href="link2.html"]') print(html_data) for i in html_data:print(i.text)打印： [<Element a at 0x216e468>] second item10、查找最后一個li標簽里的a標簽的href屬性
html = etree.HTML(wb_data) html_data = html.xpath('//li[last()]/a/text()') print(html_data) for i in html_data:print(i)打印： ['fifth item'] fifth item11、查找倒數(shù)第二個li標簽里的a標簽的href屬性
html = etree.HTML(wb_data) html_data = html.xpath('//li[last()-1]/a/text()') print(html_data) for i in html_data:print(i)打印： ['fourth item'] fourth item12、如果在提取某個頁面的某個標簽的xpath路徑的話，可以如下圖：
//*[@id="kw"]?
解釋：使用相對路徑查找所有的標簽，屬性id等于kw的標簽。
常用
#!/usr/bin/env python # -*- coding:utf-8 -*- from scrapy.selector import Selector, HtmlXPathSelector from scrapy.http import HtmlResponse html = """<!DOCTYPE html> <html><head lang="en"><meta charset="UTF-8"><title></title></head><body><ul><li class="item-"><a id='i1' href="link.html">first item</a></li><li class="item-0"><a id='i2' href="llink.html">first item</a></li><li class="item-1"><a href="llink2.html">second item<span>vv</span></a></li></ul><div><a href="llink2.html">second item</a></div></body> </html> """ response = HtmlResponse(url='http://example.com', body=html,encoding='utf-8') # hxs = HtmlXPathSelector(response) # print(hxs) # hxs = Selector(response=response).xpath('//a') # print(hxs) # hxs = Selector(response=response).xpath('//a[2]') # print(hxs) # hxs = Selector(response=response).xpath('//a[@id]') # print(hxs) # hxs = Selector(response=response).xpath('//a[@id="i1"]') # print(hxs) # hxs = Selector(response=response).xpath('//a[@href="link.html"][@id="i1"]') # print(hxs) # hxs = Selector(response=response).xpath('//a[contains(@href, "link")]') # print(hxs) # hxs = Selector(response=response).xpath('//a[starts-with(@href, "link")]') # print(hxs) # hxs = Selector(response=response).xpath('//a[re:test(@id, "i\d+")]') # print(hxs) # hxs = Selector(response=response).xpath('//a[re:test(@id, "i\d+")]/text()').extract() # print(hxs) # hxs = Selector(response=response).xpath('//a[re:test(@id, "i\d+")]/@href').extract() # print(hxs) # hxs = Selector(response=response).xpath('/html/body/ul/li/a/@href').extract() # print(hxs) # hxs = Selector(response=response).xpath('//body/ul/li/a/@href').extract_first() # print(hxs)# ul_list = Selector(response=response).xpath('//body/ul/li') # for item in ul_list: # v = item.xpath('./a/span') # # 或 # # v = item.xpath('a/span') # # 或 # # v = item.xpath('*/a/span') # print(v)常用?
總結(jié)
以上是生活随笔為你收集整理的Python爬虫之xpath的详细使用（爬虫）的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： twisted系列教程八–延迟的诗
- 下一篇： 打印Python当前版本详细信息