當(dāng)前位置：首頁 >

python爬虫（8）--Xpath语法与lxml库

發(fā)布時間：2025/3/15 26 豆豆

生活随笔收集整理的這篇文章主要介紹了 python爬虫（8）--Xpath语法与lxml库小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

?

1.XPath語法

XPath 是一門在 XML 文檔中查找信息的語言。XPath 可用來在 XML 文檔中對元素和屬性進(jìn)行遍歷。XPath 是 W3C XSLT 標(biāo)準(zhǔn)的主要元素，并且 XQuery 和 XPointer 都構(gòu)建于 XPath 表達(dá)之上。

節(jié)點關(guān)系

（1）父（Parent）

每個元素以及屬性都有一個父。

在下面的例子中，book 元素是 title、author、year 以及 price 元素的父：

<book><title>family</title><year>2007</year><price>78</price> </book>

（2）子（Children）

元素節(jié)點可有零個、一個或多個子。

在上面的例子中，title、author、year 以及 price 元素都是 book 元素的子

（3）同胞（Sibling）

擁有相同的父的節(jié)點

在上面的例子中，title、author、year 以及 price 元素都是同胞

（4）先輩（Ancestor）

某節(jié)點的父、父的父，等等。

在下面的例子中，title 元素的先輩是 book 元素和 bookstore 元素

<bookstore> <book><title>family</title><year>2007</year><price>78</price> </book> </bookstore>

（5）后代（Descendant）

某個節(jié)點的子，子的子，等等。

在下面的例子中，bookstore 的后代是 book、title、author、year 以及 price 元素

選取節(jié)點

XPath 使用路徑表達(dá)式在 XML 文檔中選取節(jié)點。節(jié)點是通過沿著路徑或者 step 來選取的。

下面列出了最有用的路徑表達(dá)式：

實例

在下面的表格中，我們已列出了一些路徑表達(dá)式以及表達(dá)式的結(jié)果：

謂語（Predicates）

謂語用來查找某個特定的節(jié)點或者包含某個指定的值的節(jié)點。

謂語被嵌在方括號中。

實例

在下面的表格中，我們列出了帶有謂語的一些路徑表達(dá)式，以及表達(dá)式的結(jié)果：

選取未知節(jié)點

XPath 通配符可用來選取未知的 XML 元素。

實例

在下面的表格中，我們列出了一些路徑表達(dá)式，以及這些表達(dá)式的結(jié)果：

選取若干路徑

通過在路徑表達(dá)式中使用“|”運算符，您可以選取若干個路徑。

實例

在下面的表格中，我們列出了一些路徑表達(dá)式，以及這些表達(dá)式的結(jié)果：

XPath 運算符

下面列出了可用在 XPath 表達(dá)式中的運算符：

運算符描述實例返回值

\|	計算兩個節(jié)點集	//book \| //cd	返回所有擁有 book 和 cd 元素的節(jié)點集
+	加法	6 + 4	10
–	減法	6 – 4	2
*	乘法	6 * 4	24
div	除法	8 div 4	2
=	等于	price=9.80	如果 price 是 9.80，則返回 true。如果 price 是 9.90，則返回 false。
!=	不等于	price!=9.80	如果 price 是 9.90，則返回 true。如果 price 是 9.80，則返回 false。
<	小于	price<9.80	如果 price 是 9.00，則返回 true。如果 price 是 9.90，則返回 false。
<=	小于或等于	price<=9.80	如果 price 是 9.00，則返回 true。如果 price 是 9.90，則返回 false。
>	大于	price>9.80	如果 price 是 9.90，則返回 true。如果 price 是 9.80，則返回 false。
>=	大于或等于	price>=9.80	如果 price 是 9.90，則返回 true。如果 price 是 9.70，則返回 false。
or	或	price=9.80 or price=9.70	如果 price 是 9.80，則返回 true。如果 price 是 9.50，則返回 false。
and	與	price>9.00 and price<9.90	如果 price 是 9.80，則返回 true。如果 price 是 8.50，則返回 false。
mod	計算除法的余數(shù)	5 mod 2	1

2.lxml用法

初步使用

首先我們利用它來解析 HTML 代碼，先來一個小例子來感受一下它的基本用法。

from lxml import etreetext=''' <div><ul><li class="item-0"><a href="link1.html">first item</a></li><li class="item-1"><a href="link2.html">second item</a></li><li class="item-inactive"><a href="link3.html">third item</a></li><li class="item-1"><a href="link4.html">fourth item</a></li><li class="item-0"><a href="link5.html">fifth item</a></ul> </div> ''' html = etree.HTML(text) result = etree.tostring(html) print result

首先使用 lxml 的 etree 庫，然后利用 etree.HTML 初始化，然后我們將其打印出來。

其中，這里體現(xiàn)了 lxml 的一個非常實用的功能就是自動修正 html 代碼，應(yīng)該注意到了，最后一個 li 標(biāo)簽，其實把尾標(biāo)簽刪掉了，是不閉合的。不過，lxml 因為繼承了 libxml2 的特性，具有自動修正 HTML 代碼的功能。

所以輸出結(jié)果是這樣的

<html><body><div><ul><li class="item-0"><a href="link1.html">first item</a></li><li class="item-1"><a href="link2.html">second item</a></li><li class="item-inactive"><a href="link3.html">third item</a></li><li class="item-1"><a href="link4.html">fourth item</a></li><li class="item-0"><a href="link5.html">fifth item</a></li></ul> </div> </body></html>

不僅補全了 li 標(biāo)簽，還添加了 body，html 標(biāo)簽。

文件讀取

除了直接讀取字符串，還支持從文件讀取內(nèi)容。比如我們新建一個文件叫做 hello.html，內(nèi)容為上面的text

html = etree.parse('hello.html') result = etree.tostring(html) print result

利用 parse 方法來讀取文件，同樣可以得到相同的結(jié)果。

XPath實例測試

依然以上一段程序為例

（1）獲取所有的 <li> 標(biāo)簽

html = etree.parse('hello.html') print type(html) result = html.xpath('//li') print result print len(result) print type(result) print type(result[0])

運行結(jié)果

可見，etree.parse 的類型是 ElementTree，通過調(diào)用 xpath 以后，得到了一個列表，包含了 5 個 <li> 元素，每個元素都是 Element 類型

（2）獲取 <li> 標(biāo)簽的所有 class

html = etree.parse('hello.html') print type(html) result = html.xpath('//li/@class') print result

運行結(jié)果

<type 'lxml.etree._ElementTree'> ['item-0', 'item-1', 'item-inactive', 'item-1', 'item-0']

（3）獲取 <li> 標(biāo)簽下 href 為 link1.html 的 <a> 標(biāo)簽

html = etree.parse('hello.html') result = html.xpath('//li/a[@href="link1.html"]') print result

（4）獲取 <li> 標(biāo)簽下的所有 <span> 標(biāo)簽

?/ 是用來獲取子元素的，而 <span> 并不是 <li> 的子元素，所以，要用雙斜杠

result = html.xpath('//li//span')

（5）獲取 <li> 標(biāo)簽下的所有 class，不包括 <li>

result = html.xpath('//li/a//@class')

（6）獲取最后一個 <li> 的 <a> 的 href

result = html.xpath('//li[last()]/a/@href') #['link5.html']

（7）獲取倒數(shù)第二個元素的內(nèi)容

result = html.xpath('//li[last()-1]/a')

（8）獲取 class 為 item-1 的標(biāo)簽名

result = html.xpath('//*[@class="item-1"]') print result[0].tag

轉(zhuǎn)載于:https://www.cnblogs.com/lzhc/p/8302235.html

總結(jié)

以上是生活随笔為你收集整理的python爬虫（8）--Xpath语法与lxml库的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。