一、結論

使用id類特征效果很好，很重要

dropout對模型性能影響較大

dnn層數對模型性能影響大

同樣數據特征的情況下，deepfm比lr在AUC（ROC）的效果好0.02～0.03

只使用id類特征（用戶id，物品id）比使用全部特征（包含用戶id，物品id）的AUC值差0.005左右，但是訓練速度和預測速度大幅度提升。

二、應用場景

2.1 指標選擇

應用deepfm和lr模型的目的是給召回階段的候選集合排序，故選擇AUC為模型離線評測的指標。同時關注loss的變化情況。

2.2 數據情況

此實驗對數據集是推薦領域對用戶曝光和點擊的數據。

模型的訓練集是前2天到n天的數據（n可以調整）

模型的驗證集是前1天的數據

三、實驗數據

默認參數：epoch=1；optimizer=adam；loss=cross entropy；batch=256；

實驗id特征embedding（隱向量）dnn結構dropoutAUCloss

1	uid,itemid	10	dnn=(128,128)	0	AUC=0.731	loss=1.18
2	uid,itemid	2	dnn=(128,128)	0	AUC=0.733	loss=1.12
3	uid,itemid	4	dnn=(128,128)	0	AUC=0.731	loss=1.08
4	uid,itemid	3	dnn=(128,128)	0.85	AUC=0.746	loss=1.17
5	uid,itemid	3	dnn=(128,128)	0.65	AUC=0.736	loss=1.11
6	uid,itemid	3	dnn=(256,256)	0.85	AUC=0.744	loss=1.07
7	uid,itemid	3	dnn=(64,64)	0.85	AUC=0.745	loss=1.24
8	uid,itemid	3	dnn=(64,64,64)	0.85	AUC=0.770	loss=0.667
9	uid,itemid	3	dnn=(128,128,128)	0.85	AUC=0.772	loss=0.800

結合訓練時間，性能等實際情況，最優等參數如下：

特征： uid,itemid
embedding：3
dnn結構：(128,128,128)
dropout：0.85

四、實驗思考

不同等應用場景，模型的性能指標應該有所差異

數據分布不一致對模型有怎樣對影響

在推薦場景中，訓練和驗證數據是否應該排除top數據

還有哪些特征對排序模型有較大的用處（統計類特征）

為什么僅僅使用id類特征能夠有較好的效果？

怎樣在深度學習網絡中快速調參（正好看到一篇論文）
https://arxiv.org/pdf/2006.06863.pdf

總結

以上是生活随笔為你收集整理的DeepFM调参总结的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。