搜索词扩展实战
搜索詞擴展實戰
- 實戰中使用到的搜索詞擴展方法
- word2vec詞向量相關性方法
- LDA相關性方法
- 搜索詞對 -- 置信度、支持度
- 搜索詞、購買物 -- 置信度
- 基于業務規則的擴展方法
- 結論
- 思考
實戰中使用到的搜索詞擴展方法
我們做這個任務的目的是為了售賣搜索詞包,因此我們本身就有一個完整的搜索詞包,搜索詞包中的搜索詞都是規則的,不存在用戶雜七雜八的搜索關鍵詞。
word2vec詞向量相關性方法
對源站上的文本先進行分詞,特別是搜索詞包中的關鍵詞要預先加入分詞辭典,將文章中的那些關鍵詞進行正確的分詞。得到分詞后的文本后進行語言模型詞向量學習,將文章中的每個詞都進行向量化。
提取出搜索詞包中的搜索詞的詞向量,進行詞向量相似度計算,取每個搜索詞最相近的topn擴展詞,取為一個搜索詞包。
LDA相關性方法
與word2vec方法類似
搜索詞對 – 置信度、支持度
這種方法主要基于大規模的用戶搜索行為,當兩個詞同時被大量用戶同時搜索的話,我們可以認為這兩個詞相關性更高,可以作為搜索詞-擴展詞關系。
搜索詞、購買物 – 置信度
這種方法主要基于大規模用戶的搜索-購買行為,在這里有個前提:用戶的搜索詞首先要進行一個簡單的規范化映射。例如:用戶搜索“a6l”,需要先將它映射為“奧迪A6L”
當有大量用戶在購買“奧迪A6L”之前都搜索了“寶馬5系”,那么我們可以認為“奧迪A6L”和“寶馬5系”是一對相關性很強的搜索詞-擴展詞,那么可以將“寶馬5系”納入“奧迪A6L”的搜索擴展詞包。
基于業務規則的擴展方法
主要是一些業務規則,將某些對應品類很類似的關鍵詞聚合在一起,融為一對搜索詞-擴展詞。
結論
上述word2vec、LDA都是基于關鍵詞向量相似的方法進行擴展詞挖掘的,其都是基于源站上現存的文本進行近義詞學習,本質上與搜索詞擴展無關,但是我們可以認為與搜索詞相近的詞就是擴展詞,但是也是基于這種特性,導致搜索詞擴展并沒有真正從業務角度進行擴展詞挖掘,本質上只是在進行同義詞挖掘,因為同義詞不一定可以作為擴展詞使用。在某種意義上這也是這兩種方法是上述方法效果最差的原因。
“搜索詞對 – 置信度、支持度”和“搜索詞、購買物 – 置信度”本質上都是在計算條件概率,但是由于關鍵詞和用戶的搜索行為掛鉤,因此這兩種方法看似簡單,但是實際上效果在上述方法中最優。
思考
由上面可以看出,當關鍵詞和用戶的搜索行為掛鉤后,才能更好的挖掘搜索擴展詞。因此后面可以考慮將用戶的搜索行為構成圖網絡,進行圖網絡挖掘。
總結
- 上一篇: 编辑审稿时不会从头看到尾!所以论文应该这
- 下一篇: 假设检验-U检验、T检验、卡方检验、F检