jieba库详解
jieba是優(yōu)秀的中文分詞第三方庫(kù)
中文文本需要通過分詞獲得單個(gè)的詞語
jieba是優(yōu)秀的中文分詞第三方庫(kù),需要額外安裝
jieba庫(kù)提供三種分詞模式,最簡(jiǎn)單只需安裝一個(gè)函數(shù)。
jieba庫(kù)是通過中文詞庫(kù)的方式來識(shí)別分詞的。
安裝命令如下:
點(diǎn)擊windows+r,進(jìn)入命令提示符輸入cmd,進(jìn)入界面后,輸入pip install jieba。即可安裝,示例如下:
安裝界面如下:?
jieba庫(kù)分詞依靠中文詞庫(kù)
利用一個(gè)中文詞庫(kù),確定漢字之間的關(guān)聯(lián)概念
漢字間概率大的組成詞組,形成分詞結(jié)果
除了分詞,用戶還可以添加自定義的詞組。
jieba分詞的三種模式:
精確模式、全模式、搜索引擎模式
精確模式:把文本精確的切分開,不存在冗余單詞
全模式:把文本中所有可能的詞語都掃描出來,有冗余。
搜索引擎模式:在精確模式基礎(chǔ)上,對(duì)長(zhǎng)詞進(jìn)行切分。
jieba庫(kù)的主要方法如下:
1.jieba.lcut(s) 精確模式,返回一個(gè)列表類型的分詞結(jié)果
代碼示例如下:
import jieba a=jieba.lcut("約翰沃爾是NBA超級(jí)巨星") print(a)運(yùn)行界面如下:
2.jieba.lcut(s,cut_all=True)全模式,返回一個(gè)列表類型的分詞結(jié)果,存在冗余。
代碼示例如下:
import jieba a=jieba.lcut("約翰沃爾是NBA超級(jí)巨星",cut_all=True) print(a)運(yùn)行界面如下:
?3.jieba.lcut_for_search(s)搜索引擎模式。
代碼示例如下:
import jieba a=jieba.lcut_for_search("中華人民共和國(guó)是偉大的") print(a)運(yùn)行界面如下:4.?
4.jieba.add_word(w),向分詞詞典增加新詞w。
代碼示例如下:
import jieba a=jieba.add_word("奇才隊(duì)控球后衛(wèi)約翰沃爾是NBA超級(jí)巨星") b=jieba.lcut("奇才隊(duì)控球后衛(wèi)約翰沃爾是NBA超級(jí)巨星") print(b)運(yùn)行界面如下:
jieba.lcuts(s),能夠?qū)⒆址畇進(jìn)行精確的分詞處理,并且返回一個(gè)列表類型。?
?
總結(jié)
- 上一篇: Guice学习(一)
- 下一篇: 在linux系统中查看组管理信息命令,L