jieba 结巴分词详解
生活随笔
收集整理的這篇文章主要介紹了
jieba 结巴分词详解
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
- 🔗 運行環境:python3
- 🚩 作者:K同學啊
- 🥇 精選專欄:《深度學習100例》
- 🔥 推薦專欄:《新手入門深度學習》
- 📚 極品專欄:《Matplotlib教程》
- 📔 選自專欄:《自然語言處理NLP-實例教程》
- 🧿 優秀專欄:《Python入門100題》
📌 結巴分詞代碼
import jieba# 如果你需要自定義專有名詞,請加上這行代碼 jieba.load_userdict('dict.txt')job_title= pd.DataFrame() job_title["title_jieba"] = df["job_title"].apply(lambda x:' '.join(jieba.cut(x))) job_title[:3]你可能還需要📌去除停用詞的代碼
with open("my_stop_words.txt", "r") as f:stopwords = f.readlines()stopwords_list = [] for each in stopwords:stopwords_list.append(each.strip('\n'))def remove_stopwords(ls): # 去除停用詞ls = ls.split(" ")return [word for word in ls if word not in stopwords_list]job_title['去除停用詞后的數據']=job_title["title_jieba"].apply(lambda x: remove_stopwords(x)) job_title總結
以上是生活随笔為你收集整理的jieba 结巴分词详解的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: proguard android 配置,
- 下一篇: 存储过程知识总结【一】