推薦模型中雙塔模型早已經普及.一個塔學用戶表達.一個塔學item表達.很多雙塔模型用各種各樣的in-batch負采樣策略.十方也是如此.往往使用比較大的batchsize,效果會比較好,但是由于內存限制,訓練效率會比較低.這篇論文《Cross-Batch Negative Sampling for Training Two-Tower Recommenders》發現encoder的輸出在warming up的訓練過程后就比較穩定了,基于此提出一個高效負采樣的方法Cross Batch Negative Sampling (CBNS),該方法充分使用了最近編碼過的item embedding來加速訓練過程.

CBNS

關于問題定義就不贅述了，雙塔已經寫了很多了，計算用戶與item相似度也是用簡單的點積。loss最典型的就是用sampled softmax:

提升訓練效率，最好使的就是batch內負采樣了，如下圖(a)所示。

參考sampled softmax機制,論文修改上述公式為:

其中q(I)為采樣偏差。接下來就要說到cross-batch negative sampling，這個方法可以解決in-batch負采樣中，存在batch size受到gpu顯存大小，從而影響模型效果。在訓練過程中，我們往往認為過去訓練過的mini-batches是無用廢棄的，論文中則認為這些信息可以反復利用在當前負采樣中因為encoder逐漸趨于穩定。論文中用下式評估item encoder特征的偏移:

如上圖(b)所示，在早期學習率較大的時候，encoder編碼相同item的變化是很大的，隨著訓練過程的推進，學習率逐漸降低，特征逐漸趨向于穩定,如下圖所示

這時候我們可以充分利用穩定的embedding作為負樣本。但是用歷史的embedding會給梯度帶來偏差，論文有證明這個偏差影響是很小的:

考慮到訓練前期embedding波動較大，在warm up過程中先使用簡單的in-batch內負采樣,然后使用一個FIFO memory bank，存放M個歷史item embedding

q(I)表示第i個item的采樣概率。CBNS的softmax如下式所示:

在每次迭代結束，都會把當前mini-batch的embedding和采樣概率加入memory bank.在下次訓練過程中,除了使用batch內負樣本,同時也會從memory bank中拉取負樣本.

實驗

對比不同采樣策略下的表現:

以及在不同模型下驗證集的召回和NDCG曲線:

同時論文還對比了M大小/負樣本數對效果的影響:

參考文獻

雙塔模型中的負采樣

更多精彩，盡在 煉丹筆記

總結

以上是生活随笔為你收集整理的双塔模型中的负采样的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。