第03课:动手实战中文文本中的关键字提取
前言
關(guān)鍵詞提取就是從文本里面把跟這篇文章意義最相關(guān)的一些詞語(yǔ)抽取出來(lái)。這個(gè)可以追溯到文獻(xiàn)檢索初期,關(guān)鍵詞是為了文獻(xiàn)標(biāo)引工作,從報(bào)告、論文中選取出來(lái)用以表示全文主題內(nèi)容信息的單詞或術(shù)語(yǔ),在現(xiàn)在的報(bào)告和論文中,我們依然可以看到關(guān)鍵詞這一項(xiàng)。因此,關(guān)鍵詞在文獻(xiàn)檢索、自動(dòng)文摘、文本聚類/分類等方面有著重要的應(yīng)用,它不僅是進(jìn)行這些工作不可或缺的基礎(chǔ)和前提,也是互聯(lián)網(wǎng)上信息建庫(kù)的一項(xiàng)重要工作。
關(guān)鍵詞抽取從方法來(lái)說(shuō)主要有兩種:
第一種是關(guān)鍵詞分配:就是給定一個(gè)已有的關(guān)鍵詞庫(kù),對(duì)于新來(lái)的文檔從該詞庫(kù)里面匹配幾個(gè)詞語(yǔ)作為這篇文檔的關(guān)鍵詞。
第二種是關(guān)鍵詞提取:針對(duì)新文檔,通過(guò)算法分析,提取文檔中一些詞語(yǔ)作為該文檔的關(guān)鍵詞。
目前大多數(shù)應(yīng)用領(lǐng)域的關(guān)鍵詞抽取算法都是基于后者實(shí)現(xiàn)的,從邏輯上說(shuō),后者比前者在實(shí)際應(yīng)用中更準(zhǔn)確。
下面介紹一些關(guān)于關(guān)鍵詞抽取的常用和經(jīng)典的算法實(shí)現(xiàn)。
基于 TF-IDF 算法進(jìn)行關(guān)鍵詞提取
在信息檢索理論中,TF-IDF 是 Term Frequency - Inverse Document Frequency 的簡(jiǎn)寫。TF-IDF 是一種數(shù)值統(tǒng)計(jì),用于反映一個(gè)詞對(duì)于語(yǔ)料中某篇文檔的重要性。在信息檢索和文本挖掘領(lǐng)域,它經(jīng)常用于因子加權(quán)。TF-IDF 的主要思想就是:如果某個(gè)詞在一篇文檔中出現(xiàn)的頻率高,也即 TF 高;并且在語(yǔ)料庫(kù)中其他文檔中很少出現(xiàn),即 DF 低,也即 IDF 高,則認(rèn)為這個(gè)詞具有很好的類別區(qū)分能力。
TF 為詞頻(Term Frequency),表示詞 t 在文檔 d 中出現(xiàn)的頻率,計(jì)算公式:
總結(jié)
以上是生活随笔為你收集整理的第03课:动手实战中文文本中的关键字提取的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 第06课:动手实战基于 ML 的中文短文
- 下一篇: 第02课:简单好用的中文分词利器 jie