為什么要學(xué)習(xí)正則表達(dá)式

實(shí)際上爬蟲(chóng)一共就四個(gè)主要步驟：

明確目標(biāo)：需清楚目標(biāo)網(wǎng)站

爬：將所有的目標(biāo)網(wǎng)站的內(nèi)容全部爬下來(lái)

取：在爬下來(lái)的網(wǎng)站內(nèi)容中去掉對(duì)我們沒(méi)有用處的數(shù)據(jù)，只留取我們需要的數(shù)據(jù)

處理數(shù)據(jù)：按照我們想要的方式存儲(chǔ)和使用留取的數(shù)據(jù)

我們?cè)谇懊娴陌咐飳?shí)際上都省略了第3步，也就是“取”的步驟。因?yàn)槲覀僤own下了的數(shù)據(jù)是全部的網(wǎng)頁(yè)，這些數(shù)據(jù)很龐大并且很混亂，其中大部分的東西是我們不關(guān)心的，因此我們需要將之按我們的需要過(guò)濾和匹配出來(lái)。

那么對(duì)于文本的過(guò)濾和者規(guī)則的匹配，最強(qiáng)大的就是正則表達(dá)式了。

那么什么是正則表達(dá)式：

• 正則表達(dá)式，又稱規(guī)則表達(dá)式，通常被用來(lái)檢索、替換那些符合某個(gè)規(guī)則的文本。
• 正則表達(dá)式是對(duì)字符串操作的一種邏輯公式，就是用事先定義好的一些特定字符及這些特定字符的組合，組成一個(gè)“規(guī)則字符串”，這個(gè)“規(guī)則字符串”用來(lái)表達(dá)對(duì)字符串的一種過(guò)濾邏輯。

給定一個(gè)正則表達(dá)式和另一個(gè)字符串，我們可以達(dá)到如下的目的：

• 給定的字符串是否符合正則表達(dá)式的過(guò)濾邏輯（“匹配”）
• 通過(guò)正則表達(dá)式，從文本字符串中獲取我們想要的特定部分（“過(guò)濾”）

正則表達(dá)式規(guī)則

Python的re模塊

在Python中，我們可以使用內(nèi)置的re模塊來(lái)使用正則表達(dá)式。

有一點(diǎn)需要特別注意的是，正則表達(dá)式使用對(duì)特殊字符進(jìn)行黑底，所以如果我們要使用原始字符串，只需要加一個(gè)r前綴：r'i love\t\.\tpython'

re模塊的一般使用步驟如下：

使用compile()函數(shù)將正則表達(dá)式的字符串形式編譯為一個(gè)Pattern對(duì)象

通過(guò)Pattern對(duì)象提供的一系列方法對(duì)文本進(jìn)行匹配查找，獲得匹配結(jié)果，一個(gè)Match對(duì)象。

最后使用Match對(duì)象提供的屬性和方法獲得信息，根據(jù)需要進(jìn)行其他操作。

compile函數(shù)

compile函數(shù)用于編譯正則表達(dá)式，生成一個(gè)Pattern對(duì)象，它的一般使用形式如下：

#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi'import re# 將正則表達(dá)式編譯成Pattern對(duì)象 pattern = re.compile('\d+')

在上面，我們已將一個(gè)正則表達(dá)式編譯成Pattern對(duì)象，接下來(lái)，我們就可以利用pattern的一系列方法對(duì)文本匹配查找了。

Pattern對(duì)象的一些常用方法主要有：

• match()方法：從起始位置開(kāi)始查找，一次匹配
• search()方法：從任何位置開(kāi)始查找，一次匹配
• findall()方法：全部匹配，返回列表
• finditer()方法：全部匹配，返回迭代器
• split()方法：分割字符串，返回列表
• sub()方法：替換

match()方法

match()方法用于查找字符串的頭部（也可以指定起始位置），它是一次匹配，只要找到了一個(gè)匹配的結(jié)果就返回，而不是查找所有匹配的結(jié)果。它的一般使用形式如下：

match(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數(shù)，指定字符串的起始和終點(diǎn)位置，默認(rèn)值分別是0和len(string)。因此，當(dāng)你不指定pos和endpos時(shí)，match()方法默認(rèn)匹配字符串的頭部。

當(dāng)匹配成功時(shí)，返回一個(gè)Match對(duì)象，如果沒(méi)有匹配上，則返回None。

>>> import re >>> pattern = re.compile(r'\d+') # 用于匹配至少一個(gè)數(shù)字>>> m = pattern.match('one12twothree34four') # 查找頭部，沒(méi)有匹配 >>> print m None>>> m = pattern.match('one12twothree34four', 2, 10) # 從'e'的位置開(kāi)始匹配，沒(méi)有匹配 >>> print(m) None>>> m = pattern.match('one12twothree34four', 3, 10) # 從'1'的位置開(kāi)始匹配，正好匹配 >>> print(m) # 返回一個(gè) Match 對(duì)象 <_sre.SRE_Match object; span=(3, 5), match='12'>>>> print(m.group(0)) # 可省略 0 12 >>> print(m.start(0)) # 可省略 0 3 >>> print(m.end(0)) # 可省略 0 5 >>> print(m.span(0)) # 可省略 0 (3, 5)

在上面，當(dāng)匹配成功時(shí)返回一個(gè)Match對(duì)象，其中：

• group([group1,...])方法用于獲得一個(gè)或多個(gè)分組匹配的字符串，當(dāng)要獲得整個(gè)匹配的子串時(shí)，可直接使用group()或group(0)
• start([group])方法用于獲取分組匹配的子串在整個(gè)字符串中的起始位置（子串第一個(gè)字符的索引），參數(shù)默認(rèn)值為0
• end([group])方法用于獲取分組匹配的子串在整個(gè)字符串中的結(jié)束位置（子串最后一個(gè)字符的索引 + 1），參數(shù)默認(rèn)值為0
• span([group])方法返回(start(group), end(group))

再看一個(gè)例子：

>>> import re >>> pattern = re.compile(r'([a-z]+) ([a-z]+)', re.I) # re.I 表示忽略大小寫(xiě) >>> m = pattern.match('Hello World Wide Web')>>> print(m) # 匹配成功，返回一個(gè) Match 對(duì)象 <_sre.SRE_Match object; span=(0, 11), match='Hello World'>>>> print(m.group(0)) # 返回匹配成功的整個(gè)子串 Hello World>>> print(m.span(0)) # 返回匹配成功的整個(gè)子串的索引 (0, 11)>>> print(m.group(1)) # 返回第一個(gè)分組匹配成功的子串 Hello>>> print(m.span(1)) # 返回第一個(gè)分組匹配成功的子串的索引 (0, 5)>>> print(m.group(2)) # 返回第二個(gè)分組匹配成功的子串 World>>> print(m.span(2)) # 返回第二個(gè)分組匹配成功的子串 (6, 11)>>> print(m.groups()) # 等價(jià)于 (m.group(1), m.group(2), ...) ('Hello', 'World')>>> print(m.group(3)) # 不存在第三個(gè)分組 Traceback (most recent call last):File "<stdin>", line 1, in <module> IndexError: no such group

search()方法

search()方法用于查找字符串的任何位置，它也是一次匹配，只要找到了一個(gè)匹配的結(jié)果就返回，而不是查找所有匹配的結(jié)果，它的一般使用形式如下：

search(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數(shù)，指定字符串的起始和終點(diǎn)位置，默認(rèn)值分別是0和len(string)。

當(dāng)匹配成功時(shí)，返回一個(gè)Match對(duì)象，如果沒(méi)有匹配上，則返回None。

如下例子：

>>> import re >>> pattern = re.compile('\d+') >>> m = pattern.search('one12twothree34four') >>> print(m) <_sre.SRE_Match object; span=(3, 5), match='12'> >>> print(m.group()) 12 >>> m = pattern.search('one12twothree34four', 10, 30) >>> print(m) <_sre.SRE_Match object; span=(13, 15), match='34'> >>> print(m.group()) 34 >>> print(m.span()) (13, 15)

再看一個(gè)例子：

#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi'import re# 將正則表達(dá)式編譯成Pattern對(duì)象 pattern = re.compile(r'\d+')# 使用search() 查找匹配的子串，不存在匹配的子串時(shí)，返回None m = pattern.search('hello 123 456 789') # 若這里使用match()，返回Noneif m:print("matching string:", m.group())print("position:", m.span())

執(zhí)行結(jié)果：

matching string: 123 position: (6, 9)

findall()方法

上面的match()和search()方法都是一次匹配，只要找到了一個(gè)匹配的結(jié)果就返回。然而，在大多數(shù)時(shí)候，我們需要搜索整個(gè)字符串，獲得所有匹配的結(jié)果。

findall()方法的使用形式如下：

findall(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數(shù)，指定字符串的起始和終點(diǎn)位置，默認(rèn)值分別是0和len(string)。

findall()以列表形式返回全部能匹配的子串，如果沒(méi)有匹配成功，則返回一個(gè)空列表。

如下：

>>> import re >>> pattern = re.compile(r'\d+') # 匹配數(shù)字 >>> res1 = pattern.findall('hello 123 456 789') >>> res2 = pattern.findall('one1two2three3four4', 0, 16) >>> print(res1) ['123', '456', '789'] >>> print(res2) ['1', '2', '3']

再看一個(gè)例子：

>>> import re >>> pattern = re.compile(r'\d+\.\d+') # 匹配小數(shù) >>> res = pattern.findall("3.1415926, 'big', 110, 95.5") >>> print(res) ['3.1415926', '95.5']

finditer()方法

finditer()方法的行為跟findall()的行為類似，也是搜索整個(gè)字符串，獲得所有匹配的結(jié)果。但它返回一個(gè)順序訪問(wèn)每一個(gè)匹配結(jié)果（Match對(duì)象）的迭代器。

如下：

#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi'import repattern = re.compile(r'\d+')res_iter1 = pattern.finditer("hello 123 456 789") res_iter2 = pattern.finditer("one1two2three3four4", 0, 16)print(res_iter1) print(res_iter2)print("res_iter1......") for m1 in res_iter1:print("matching string:{}, position:{}".format(m1.group(), m1.span()))print("res_iter2......") for m2 in res_iter2:print("matching string:{}, position:{}".format(m2.group(), m2.span()))

執(zhí)行結(jié)果：

<callable_iterator object at 0x00ADF7F0> <callable_iterator object at 0x00ADF230> res_iter1...... matching string:123, position:(6, 9) matching string:456, position:(10, 13) matching string:789, position:(14, 17) res_iter2...... matching string:1, position:(3, 4) matching string:2, position:(7, 8) matching string:3, position:(13, 14)

split()方法

spilt()方法按照能夠匹配的子串將字符串分割后返回列表，它的使用形式如下：

split(string[, maxsplit])

其中，maxsplit用于指定最大分割次數(shù)，不指定將全部分割。

如下：

?

>>> import re >>> pattern = re.compile(r'[\s\,\;]+') >>> print(pattern.split('a,b;; c d')) ['a', 'b', 'c', 'd']

sub()方法

sub()方法用于替換。它的使用形式如下：

sub(repl, string[, count])

其中，repl可以是字符串也可以是一個(gè)函數(shù)：

• 如果repl是字符串，則會(huì)使用repl去替換字符串每一個(gè)匹配的子串，并返回替換后的字符串，另外，repl還可以使用id的形式來(lái)引用分組，但不能使用編號(hào)0
• 如果repl是函數(shù)，這個(gè)方法應(yīng)當(dāng)只接受一個(gè)參數(shù)（Match對(duì)象），并返回一個(gè)字符串用于替換（返回的字符串中不能再引用分組）
• count用于指定最多替換次數(shù)，默認(rèn)全部替換

如下：

#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi'import repattern = re.compile(r'(\w+) (\w+)') # \w: [A-Za-z0-9]string = 'hello 123, hello 456'print(pattern.sub('hello world', string)) # 我是分割線 print("*" * 30)print(pattern.sub(r'\2 \1', string))# 我是分割線 print("*" * 30)def func(m):return 'hi ' + m.group(2)print(pattern.sub(func, string))# 我是分割線 print("*" * 30)# 最多替換一次 print(pattern.sub(func, string, 1))

執(zhí)行結(jié)果：

hello world, hello world ****************************** 123 hello, 456 hello ****************************** hi 123, hi 456 ****************************** hi 123, hello 456

匹配中文

在某些情況下，我們想匹配文本中的漢字，中文的unicode編碼范圍主要在[u4e00-u9fa5]，這里說(shuō)主要是因?yàn)檫@個(gè)范圍并不完整，比如沒(méi)有包括全角（中文）標(biāo)點(diǎn)，不過(guò)，在大部分情況下，應(yīng)該是夠用的。

例如：要想把字符串s = "您好，世界。hello world!"中的中文提取出來(lái)，可以這么做

#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi'import restring = "你好，世界。hello world!"pattern = re.compile(r"[\u4e00-\u9fa5]+")res = pattern.findall(string)print(res)

執(zhí)行結(jié)果

['你好', '世界']

?

轉(zhuǎn)載于:https://www.cnblogs.com/mayi0312/p/7206343.html

總結(jié)

以上是生活随笔為你收集整理的爬虫——正则表达式re模块的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。