在推薦系統(tǒng)和計算廣告業(yè)務(wù)中，點(diǎn)擊率CTR（click-through rate）和轉(zhuǎn)化率CVR（conversion rate）是衡量流量轉(zhuǎn)化的兩個關(guān)鍵指標(biāo)。準(zhǔn)確的估計CTR、CVR對于提高流量的價值，增加廣告及電商收入有重要的指導(dǎo)作用。業(yè)界常用的方法有人工特征工程 + LR（Logistic Regression）、GBDT（Gradient Boosting Decision Tree） + LR、FM模型。在這些模型中，FM近年來表現(xiàn)突出，分別在由Criteo和Avazu舉辦的CTR預(yù)測競賽中奪得冠軍。

因子分解機(jī)（Factorization Machine, FM）是由Steffen Rendle提出的一種基于矩陣分解的機(jī)器學(xué)習(xí)算法，其主要用于解決數(shù)據(jù)稀疏的業(yè)務(wù)場景（如推薦業(yè)務(wù)），特征怎樣組合的問題。

paper指出FM與SVM相比，有如下優(yōu)勢：

• FM可以實現(xiàn)非常稀疏數(shù)據(jù)參數(shù)估計，而SVM會效果很差，因為訓(xùn)出的SVM模型會面臨較高的bias；
• FMs擁有線性的復(fù)雜度, 可以通過 primal 來優(yōu)化而不依賴于像SVM的支持向量機(jī)；

一、FM原理

1. 為什么進(jìn)行特征組合？

在feed流推薦場景中，根據(jù)user和item基礎(chǔ)信息（clicked：是否點(diǎn)擊；userId：用戶ID；userGender：用戶性別；itemTag：物品類別），來預(yù)測用戶是否對物品感興趣（點(diǎn)擊與否，二分類問題）。源數(shù)據(jù)如下：

clicked	userId	userGender	itemTag
1	1	男	籃球
0	1	男	化妝品
0	2	女	籃球
1	2	女	化妝品

?由于userGender和itemTag特征都是categorical類型的，需要經(jīng)過獨(dú)熱編碼（One-Hot Encoding）轉(zhuǎn)換成數(shù)值型特征。

clicked	userId	userGender_男	userGender_女	itemTag_籃球	itemTag_化妝品
1	1	1	0	1	0
0	1	1	0	0	1
0	2	0	1	1	0
1	2	0	1	0	1

經(jīng)過One-Hot編碼之后，大部分樣本數(shù)據(jù)特征是比較稀疏的。上面的樣例中，每個樣本有5維特征，但平均僅有3維特征具有非零值。實際上，這種情況并不是此例獨(dú)有的，在真實應(yīng)用場景中這種情況普遍存在。例如，CTR/CVR預(yù)測時，用戶的性別、職業(yè)、教育水平、品類偏好，商品的品類等，經(jīng)過One-Hot編碼轉(zhuǎn)換后都會導(dǎo)致樣本數(shù)據(jù)的稀疏性。特別是商品品類這種類型的特征，如商品的三級品類約有1000個，采用One-Hot編碼生成1000個數(shù)值特征，但每個樣本的這1000個特征，有且僅有一個是有效的（非零）。由此可見，數(shù)據(jù)稀疏性是實際問題中不可避免的挑戰(zhàn)。

One-Hot編碼的另一個特點(diǎn)就是導(dǎo)致特征空間大。例如，商品三級類目有1000維特征，一個categorical特征轉(zhuǎn)換為1000維數(shù)值特征，特征空間劇增。

同時通過觀察大量的樣本數(shù)據(jù)可以發(fā)現(xiàn)，某些特征經(jīng)過關(guān)聯(lián)之后，與label之間的相關(guān)性就會提高。例如，“男性”與“籃球”、“女性”與“化妝品”這樣的關(guān)聯(lián)特征，對用戶的點(diǎn)擊有著正向的影響。換句話說：男性用戶很可能會在籃球有大量的瀏覽行為；而在化妝品卻不會有。這種關(guān)聯(lián)特征與label的正向相關(guān)性在實際問題中是普遍存在的。因此，引入兩個特征的組合是非常有意義的。

2. 如何組合特征？

多項式模型是包含特征組合的最直觀的模型。在多項式模型中，特征和的組合采用表示，即和都非零時，組合特征才有意義。從對比的角度，本文只討論二階多項式模型。模型的表達(dá)式如下：

其中，?代表樣本的特征數(shù)量，是第個特征的值，?是模型參數(shù)。

從公式來看，模型前半部分就是普通的LR線性組合，后半部分的交叉項即特征的組合。單從模型表達(dá)能力上來看，FM的表達(dá)能力是強(qiáng)于LR的，至少不會比LR弱，當(dāng)交叉項參數(shù)全為0時退化為普通的LR模型。

從上面公式可以看出，組合特征的參數(shù)一共有個，任意兩個參數(shù)都是獨(dú)立的。然而，在數(shù)據(jù)稀疏性普遍存在的實際應(yīng)用場景中，二次項參數(shù)的訓(xùn)練是很困難的。其原因是：每個參數(shù)的訓(xùn)練需要大量和都非零的樣本；由于樣本數(shù)據(jù)本來就比較稀疏，滿足和都非零的樣本將會非常少。訓(xùn)練樣本的不足，很容易導(dǎo)致參數(shù)不準(zhǔn)確，最終將嚴(yán)重影響模型的性能。

3.?如何解決二次項參數(shù)的訓(xùn)練問題呢？

矩陣分解提供了一種解決思路。在model-based的協(xié)同過濾中，一個rating矩陣可以分解為user矩陣和item矩陣，每個user和item都可以采用一個隱向量表示。比如在下圖中的例子中，我們把每個user表示成一個二維向量，同時把每個item表示成一個二維向量，兩個向量的點(diǎn)積就是矩陣中user對item的打分。

任意的實對稱矩陣都有個線性無關(guān)的特征向量。并且這些特征向量都可以正交單位化而得到一組正交且模為1的向量。故實對稱矩陣可被分解成：

其中為正交矩陣，為實對角矩陣。

類似地，所有二次項參數(shù)可以組成一個對稱陣?（為了方便說明FM的由來，對角元素可以設(shè)置為正實數(shù)），那么這個矩陣就可以分解為?，?的第列(?)便是第維特征()的隱向量。換句話說，特征分量?和的交叉項系數(shù)就等于對應(yīng)的隱向量與對應(yīng)的隱向量的內(nèi)積，即每個參數(shù)，這就是FM模型的核心思想。

為了求出，我們需要求出特征分量的輔助向量?,?的輔助向量?,?表示隱向量長度（實際應(yīng)用中），轉(zhuǎn)換過程如下圖所示：

?矩陣對角線上面的元素即為交叉項的參數(shù)。

FM的模型方程為（本文不討論FM的高階形式）：

其中，?是第維特征的隱向量，??代表向量點(diǎn)積。隱向量的長度為?，包含?個描述特征的因子。根據(jù)公式，二次項的參數(shù)數(shù)量減少為?個，遠(yuǎn)少于多項式模型的參數(shù)數(shù)量。所有包含的非零組合特征（存在某個，使得?）的樣本都可以用來學(xué)習(xí)隱向量，這很大程度上避免了數(shù)據(jù)稀疏性造成的影響。

顯而易見，上述是一個通用的擬合方程，可以采用不同的損失函數(shù)用于解決回歸、二元分類等問題，比如可以采用MSE（Mean Square Error）損失函數(shù)來求解回歸問題，也可以采用Hinge/Cross-Entropy 損失來求解分類問題。當(dāng)然，在進(jìn)行二元分類時，FM的輸出需要經(jīng)過sigmoid變換，這與Logistic回歸是一樣的。直觀上看，FM的復(fù)雜度是?。但是，通過公式(3)的等式，FM的二次項可以化簡，其復(fù)雜度可以優(yōu)化到。由此可見，FM可以在線性時間對新樣本作出預(yù)測。

采用隨機(jī)梯度下降法SGD求解參數(shù)

由上式可知，的訓(xùn)練只需要樣本的特征非0即可，適合于稀疏數(shù)據(jù)。

在使用SGD訓(xùn)練模型時，在每次迭代中，只需計算一次所有?的?，就能夠方便得到所有的梯度，上述偏導(dǎo)結(jié)果求和公式中沒有，即與無關(guān)，只與有關(guān)，顯然計算所有的的復(fù)雜度是?，模型參數(shù)一共有?個。因此，FM參數(shù)訓(xùn)練的復(fù)雜度也是。綜上可知，FM可以在線性時間訓(xùn)練和預(yù)測，是一種非常高效的模型。

二、FFM原理

1. 特征組合為什么引入field？

同樣以feed流推薦場景為例，我們多引入user維度用戶年齡信息，其中性別和年齡同屬于user維度特征，而tag屬于item維度特征。在FM原理講解中，“男性”與“籃球”、“男性”與“年齡”所起潛在作用是默認(rèn)一樣的，但實際上不一定。FM算法無法捕捉這個差異，因為它不區(qū)分更廣泛類別field的概念，而會使用相同參數(shù)的點(diǎn)積來計算。

在FFM（Field-aware Factorization Machines?）中每一維特征（feature）都?xì)w屬于一個特定和field，field和feature是一對多的關(guān)系。如下表所示：

field	user field(U)					item field(I)
clicked	userId	userGender_男	userGender_女	userAge_[20.30]	userAge_[30,40]	itemTag_籃球	itemTag_化妝品
1	1	1	0	1	0	1	0
0	1	1	0	1	0	0	1
0	2	0	1	0	1	1	0
1	2	0	1	0	1	0	1

FFM模型認(rèn)為不僅跟有關(guān)系，還跟與相乘的所屬的Field有關(guān)系，即成了一個二維向量，是隱向量長度，是Field的總個數(shù)。設(shè)樣本一共有個特征,?個field，那么FFM的二次項有個隱向量。而在FM模型中，每一維特征的隱向量只有一個。FM可以看作FFM的特例，是把所有特征都?xì)w屬到一個field時的FFM模型。?

其中，是第的特征所屬的字段。如果隱向量的長度為，那么FFM的二次參數(shù)有個，遠(yuǎn)多于FM模型的個。此外，由于隱向量與field相關(guān)，FFM二次項并不能夠化簡，時間復(fù)雜度是。?
需要注意的是由于FFM中的latent vector只需要學(xué)習(xí)特定的field，所以通常：

2. 如何組合特征？

還是以feed流場景為例，說明FFM是如何組合特征的。輸入記錄如下：

clicked	userId	userGender(U)	userAge(U)	itemTag(I)
1	1	男	[20,30]	籃球

FM模型交叉項為：

?

而FFM模型特征交叉項為：

FFM在做latent vector的inner product的時候，必須考慮到其他特征所屬的字段。例如

中男性和年齡[20,30]均為user field，所以不區(qū)分field；

和中男性、年齡[20,30]屬于user field，而籃球?qū)儆趇tem field，所以要考慮特征的latent vector。

三、xlearn實現(xiàn)

實現(xiàn)FM & FFM的最流行的python庫有：LibFM、LibFFM、xlearn和tffm。其中，xLearn是一款高性能，易于使用且可擴(kuò)展的機(jī)器學(xué)習(xí)軟件包，包括FM和FFM模型，可用于大規(guī)模解決機(jī)器學(xué)習(xí)問題。xlearn比libfm和libffm庫快得多，并為模型測試和調(diào)優(yōu)提供了更好的功能。這里以xlearn實現(xiàn)FM和FFM算法。

1. FM實現(xiàn)

數(shù)據(jù)來自Kaggle預(yù)測泰坦尼克號的生存數(shù)據(jù)集，xlearn可以直接處理csv以及l(fā)ibsvm格式數(shù)據(jù)來實現(xiàn)FM算法，但對于FFM必須是libsvm格式數(shù)據(jù)。

1.1 python代碼

import xlearn as xl

# 訓(xùn)練

fm_model = xl.create_fm() # 使用xlearn自帶的FM模型

fm_model.setTrain("./fm_train.txt") # 訓(xùn)練數(shù)據(jù)

# 參數(shù):

# 0. 二分類任務(wù)

# 1. learning rate: 0.2

# 2. lambda: 0.002

# 3. metric: accuracy

param = {'task':'binary', 'lr':0.2,

'lambda':0.002, 'metric':'acc'}

# 使用交叉驗證

fm_model.cv(param)

1.2 運(yùn)行

[ ACTION ? ? ] Start to train ...
[ ACTION ? ? ] Cross-validation: 1/3:
[------------] Epoch ? ? ?Train log_loss ? ? ? Test log_loss ? ? ? Test Accuarcy ? ? Time cost (sec)
[ ? 10% ? ? ?] ? ? 1 ? ? ? ? ? ?0.520567 ? ? ? ? ? ?0.519509 ? ? ? ? ? ?0.770270 ? ? ? ? ? ? ? ?0.00
[ ? 20% ? ? ?] ? ? 2 ? ? ? ? ? ?0.462764 ? ? ? ? ? ?0.504741 ? ? ? ? ? ?0.787162 ? ? ? ? ? ? ? ?0.00
[ ? 30% ? ? ?] ? ? 3 ? ? ? ? ? ?0.451524 ? ? ? ? ? ?0.499556 ? ? ? ? ? ?0.790541 ? ? ? ? ? ? ? ?0.00
[ ? 40% ? ? ?] ? ? 4 ? ? ? ? ? ?0.446151 ? ? ? ? ? ?0.497348 ? ? ? ? ? ?0.787162 ? ? ? ? ? ? ? ?0.00
[ ? 50% ? ? ?] ? ? 5 ? ? ? ? ? ?0.443402 ? ? ? ? ? ?0.494840 ? ? ? ? ? ?0.793919 ? ? ? ? ? ? ? ?0.00
[ ? 60% ? ? ?] ? ? 6 ? ? ? ? ? ?0.440488 ? ? ? ? ? ?0.494532 ? ? ? ? ? ?0.793919 ? ? ? ? ? ? ? ?0.00
[ ? 70% ? ? ?] ? ? 7 ? ? ? ? ? ?0.439055 ? ? ? ? ? ?0.493156 ? ? ? ? ? ?0.804054 ? ? ? ? ? ? ? ?0.00
[ ? 80% ? ? ?] ? ? 8 ? ? ? ? ? ?0.438151 ? ? ? ? ? ?0.493404 ? ? ? ? ? ?0.800676 ? ? ? ? ? ? ? ?0.00
[ ? 90% ? ? ?] ? ? 9 ? ? ? ? ? ?0.437012 ? ? ? ? ? ?0.492352 ? ? ? ? ? ?0.807432 ? ? ? ? ? ? ? ?0.00
[ ?100% ? ? ?] ? ?10 ? ? ? ? ? ?0.436463 ? ? ? ? ? ?0.492059 ? ? ? ? ? ?0.804054 ? ? ? ? ? ? ? ?0.00
[ ACTION ? ? ] Cross-validation: 2/3:
[------------] Epoch ? ? ?Train log_loss ? ? ? Test log_loss ? ? ? Test Accuarcy ? ? Time cost (sec)
[ ? 10% ? ? ?] ? ? 1 ? ? ? ? ? ?0.529570 ? ? ? ? ? ?0.491618 ? ? ? ? ? ?0.798658 ? ? ? ? ? ? ? ?0.00
[ ? 20% ? ? ?] ? ? 2 ? ? ? ? ? ?0.474390 ? ? ? ? ? ?0.477966 ? ? ? ? ? ?0.788591 ? ? ? ? ? ? ? ?0.00
[ ? 30% ? ? ?] ? ? 3 ? ? ? ? ? ?0.461248 ? ? ? ? ? ?0.470482 ? ? ? ? ? ?0.785235 ? ? ? ? ? ? ? ?0.00
[ ? 40% ? ? ?] ? ? 4 ? ? ? ? ? ?0.456666 ? ? ? ? ? ?0.469640 ? ? ? ? ? ?0.788591 ? ? ? ? ? ? ? ?0.00
[ ? 50% ? ? ?] ? ? 5 ? ? ? ? ? ?0.452902 ? ? ? ? ? ?0.468955 ? ? ? ? ? ?0.788591 ? ? ? ? ? ? ? ?0.00
[ ? 60% ? ? ?] ? ? 6 ? ? ? ? ? ?0.450912 ? ? ? ? ? ?0.467620 ? ? ? ? ? ?0.785235 ? ? ? ? ? ? ? ?0.00
[ ? 70% ? ? ?] ? ? 7 ? ? ? ? ? ?0.449447 ? ? ? ? ? ?0.467692 ? ? ? ? ? ?0.785235 ? ? ? ? ? ? ? ?0.00
[ ? 80% ? ? ?] ? ? 8 ? ? ? ? ? ?0.447781 ? ? ? ? ? ?0.466430 ? ? ? ? ? ?0.781879 ? ? ? ? ? ? ? ?0.01
[ ? 90% ? ? ?] ? ? 9 ? ? ? ? ? ?0.447122 ? ? ? ? ? ?0.466931 ? ? ? ? ? ?0.785235 ? ? ? ? ? ? ? ?0.00
[ ?100% ? ? ?] ? ?10 ? ? ? ? ? ?0.446272 ? ? ? ? ? ?0.466597 ? ? ? ? ? ?0.788591 ? ? ? ? ? ? ? ?0.00
[ ACTION ? ? ] Cross-validation: 3/3:
[------------] Epoch ? ? ?Train log_loss ? ? ? Test log_loss ? ? ? Test Accuarcy ? ? Time cost (sec)
[ ? 10% ? ? ?] ? ? 1 ? ? ? ? ? ?0.544947 ? ? ? ? ? ?0.470564 ? ? ? ? ? ?0.781145 ? ? ? ? ? ? ? ?0.00
[ ? 20% ? ? ?] ? ? 2 ? ? ? ? ? ?0.491881 ? ? ? ? ? ?0.448169 ? ? ? ? ? ?0.794613 ? ? ? ? ? ? ? ?0.00
[ ? 30% ? ? ?] ? ? 3 ? ? ? ? ? ?0.479801 ? ? ? ? ? ?0.442210 ? ? ? ? ? ?0.794613 ? ? ? ? ? ? ? ?0.00
[ ? 40% ? ? ?] ? ? 4 ? ? ? ? ? ?0.475032 ? ? ? ? ? ?0.438578 ? ? ? ? ? ?0.804714 ? ? ? ? ? ? ? ?0.00
[ ? 50% ? ? ?] ? ? 5 ? ? ? ? ? ?0.472111 ? ? ? ? ? ?0.436720 ? ? ? ? ? ?0.808081 ? ? ? ? ? ? ? ?0.00
[ ? 60% ? ? ?] ? ? 6 ? ? ? ? ? ?0.470067 ? ? ? ? ? ?0.435224 ? ? ? ? ? ?0.811448 ? ? ? ? ? ? ? ?0.00
[ ? 70% ? ? ?] ? ? 7 ? ? ? ? ? ?0.468599 ? ? ? ? ? ?0.434378 ? ? ? ? ? ?0.811448 ? ? ? ? ? ? ? ?0.00
[ ? 80% ? ? ?] ? ? 8 ? ? ? ? ? ?0.466845 ? ? ? ? ? ?0.434049 ? ? ? ? ? ?0.811448 ? ? ? ? ? ? ? ?0.00
[ ? 90% ? ? ?] ? ? 9 ? ? ? ? ? ?0.466121 ? ? ? ? ? ?0.433529 ? ? ? ? ? ?0.811448 ? ? ? ? ? ? ? ?0.00
[ ?100% ? ? ?] ? ?10 ? ? ? ? ? ?0.465646 ? ? ? ? ? ?0.433083 ? ? ? ? ? ?0.814815 ? ? ? ? ? ? ? ?0.00
[------------] Average log_loss: 0.463913
[------------] Average Accuarcy: 0.802486
[ ACTION ? ? ] Finish Cross-Validation
[ ACTION ? ? ] Clear the xLearn environment ...
[------------] Total time cost: 0.04 (sec)

2. FFM實現(xiàn)

數(shù)據(jù)來自Criteo點(diǎn)擊率預(yù)測挑戰(zhàn)賽中CTR數(shù)據(jù)集的一個微小（1％）抽樣，首先我們需要將其轉(zhuǎn)換為xLearn所需的libffm格式以擬合模型。?

2.1 python代碼

import xlearn as xl

# 訓(xùn)練

ffm_model = xl.create_ffm() # 使用FFM模型

ffm_model.setTrain("./FFM_train.txt") # 訓(xùn)練數(shù)據(jù)

ffm_model.setValidate("./FFM_test.txt") # 校驗測試數(shù)據(jù)

# param:

# 0. binary classification

# 1. learning rate: 0.2

# 2. regular lambda: 0.002

# 3. evaluation metric: accuracy

param = {'task':'binary', 'lr':0.2,

'lambda':0.002, 'metric':'acc'}

# 開始訓(xùn)練

ffm_model.fit(param, './model.out')

# 預(yù)測

ffm_model.setTest("./FFM_test.txt") # 測試數(shù)據(jù)

ffm_model.setSigmoid() # 歸一化[0,1]之間

# 開始預(yù)測

ffm_model.predict("./model.out", "./output.txt")

2.2 運(yùn)行

[ ACTION ? ? ] Initialize model ...
[------------] Model size: 5.56 MB
[------------] Time cost for model initial: 0.01 (sec)
[ ACTION ? ? ] Start to train ...
[------------] Epoch ? ? ?Train log_loss ? ? ? Test log_loss ? ? ? Test Accuarcy ? ? Time cost (sec)
[ ? 10% ? ? ?] ? ? 1 ? ? ? ? ? ?0.600614 ? ? ? ? ? ?0.534322 ? ? ? ? ? ?0.770000 ? ? ? ? ? ? ? ?0.00
[ ? 20% ? ? ?] ? ? 2 ? ? ? ? ? ?0.541555 ? ? ? ? ? ?0.536250 ? ? ? ? ? ?0.770000 ? ? ? ? ? ? ? ?0.00
[ ? 30% ? ? ?] ? ? 3 ? ? ? ? ? ?0.521822 ? ? ? ? ? ?0.530098 ? ? ? ? ? ?0.770000 ? ? ? ? ? ? ? ?0.00
[ ? 40% ? ? ?] ? ? 4 ? ? ? ? ? ?0.505286 ? ? ? ? ? ?0.537378 ? ? ? ? ? ?0.770000 ? ? ? ? ? ? ? ?0.00
[ ? 50% ? ? ?] ? ? 5 ? ? ? ? ? ?0.492967 ? ? ? ? ? ?0.528159 ? ? ? ? ? ?0.770000 ? ? ? ? ? ? ? ?0.00
[ ? 60% ? ? ?] ? ? 6 ? ? ? ? ? ?0.483819 ? ? ? ? ? ?0.533365 ? ? ? ? ? ?0.775000 ? ? ? ? ? ? ? ?0.00
[ ? 70% ? ? ?] ? ? 7 ? ? ? ? ? ?0.472950 ? ? ? ? ? ?0.537750 ? ? ? ? ? ?0.770000 ? ? ? ? ? ? ? ?0.00
[ ? 80% ? ? ?] ? ? 8 ? ? ? ? ? ?0.465698 ? ? ? ? ? ?0.531461 ? ? ? ? ? ?0.775000 ? ? ? ? ? ? ? ?0.00
[ ? 90% ? ? ?] ? ? 9 ? ? ? ? ? ?0.457841 ? ? ? ? ? ?0.531676 ? ? ? ? ? ?0.770000 ? ? ? ? ? ? ? ?0.00
[ ?100% ? ? ?] ? ?10 ? ? ? ? ? ?0.450092 ? ? ? ? ? ?0.531530 ? ? ? ? ? ?0.770000 ? ? ? ? ? ? ? ?0.00
[ ACTION ? ? ] Early-stopping at epoch 8, best Accuarcy: 0.775000
[ ACTION ? ? ] Start to save model ...
[------------] Model file: ./model.out
[------------] Time cost for saving model: 0.00 (sec)
[ ACTION ? ? ] Finish training
[ ACTION ? ? ] Clear the xLearn environment ...
[------------] Total time cost: 0.05 (sec)
----------------------------------------------------------------------------------------------
? ? ? ? ? ?_
? ? ? ? ? | |
? ? ?__ ?_| | ? ? ___ ?__ _ _ __ _ __
? ? ?\ \/ / | ? ?/ _ \/ _` | '__| '_ \?
? ? ? > ?<| |___| ?__/ (_| | | ?| | | |
? ? ?/_/\_\_____/\___|\__,_|_| ?|_| |_|

? ? ? ? xLearn ? -- 0.36 Version --
----------------------------------------------------------------------------------------------

[------------] xLearn uses 4 threads for prediction task.
[ ACTION ? ? ] Load model ...
[------------] Load model from ./model.out
[------------] Loss function: cross-entropy
[------------] Score function: ffm
[------------] Number of Feature: 9991
[------------] Number of K: 4
[------------] Number of field: 18
[------------] Time cost for loading model: 0.00 (sec)
[ ACTION ? ? ] Read Problem ...
[------------] First check if the text file has been already converted to binary format.
[------------] Binary file (./FFM_test.txt.bin) found. Skip converting text to binary.
[------------] Time cost for reading problem: 0.00 (sec)
[ ACTION ? ? ] Start to predict ...
[------------] The test loss is: 0.531461
[ ACTION ? ? ] Clear the xLearn environment ...
[------------] Total time cost: 0.00 (sec)

參考資料

https://zhuanlan.zhihu.com/p/37963267

https://blog.csdn.net/hiwallace/article/details/81333604

https://blog.csdn.net/john_xyz/article/details/78933253

https://blog.csdn.net/tmb8z9vdm66wh68vx1/article/details/79091671

總結(jié)

以上是生活随笔為你收集整理的FM,FFM及其实现的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。