程序化廣告交易中的點擊率預估

指標

? 廣告點擊率預估是程序化廣告交易框架的非常重要的組件，點擊率預估主要有兩個層次的指標：

? ? ?1. 排序指標。排序指標是最基本的指標，它決定了我們有沒有能力把最合適的廣告找出來去呈現給最合適的用戶。這個是變現的基礎，從技術上，我們用AUC來度量。

? ? ?2. 數值指標。數值指標是進一步的指標，是競價環節進一步優化的基礎，一般DSP比較看中這個指標。如果我們對CTR普遍低估，我們出價會相對保守，從而使得預算花不出去或是花得太慢；如果我們對CTR普遍高估，我們的出價會相對激進，從而導致CPC太高。從技術上，我們有Facebook的NE(Normalized Entropy)還可以用OE(Observation Over Expectation)。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ??

框架

? 工業界用得比較多的是基于LR的點擊率預估策略，我覺得這其中一個重要的原因是可解釋性，當出現bad case時越簡單的模型越好debug，越可解釋，也就越可以有針對性地對這種bad case做改善。但雖然如此，我見到的做廣告的算法工程師，很少有利用LR的這種好處做模型改善的，遺憾….. 最近DNN很熱，百度宣布DNN做CTR預估相比LR產生了20%的benefit，我不知道比較的benchmark，但就機理上來講如果說DNN比原本傳統的人工feature engineering的LR高20%，我一點也不奇怪。但如果跟現在增加了FM和GBDT的自動高階特征生成的LR相比，我覺得DNN未必有什么優勢。畢竟看透了，DNN用線性組合+非線性函數(tanh/sigmoid etc.)來做高階特征生成，GBDT + FM用樹和FM來做高階特征生成，最后一層都是非線性變換。從場景上來講，可能在擬生物的應用上(如視、聽覺)上DNN這種高階特征生成更好，在廣告這種情境下，我更傾向于GBDT + FM的方法。

??整個CTR預估模塊的框架，包含了exploit/explore的邏輯。

? ? ? ??

? 單純點擊率預估算法的框圖如下;

? ? ? ? ? ?

Step-by-step

1. 數據探索(data exploration)

? 主要是基礎特征(raw feature/fundamental feature)的粗篩和規整。

??展示廣告的場景可以表述為”在某場景下，通過某媒體向某用戶展示某廣告”，因此基礎特征就在這四個范圍內尋找：

? ?場景 – 當時場景，如何時何地，使用何種設備，使用什么瀏覽器等

? ?廣告 – 包括廣告主特征，廣告自身的特征如campaign、創意、類型，是否重定向等

? ?媒體 – 包括媒體(網頁、app等)的特征、廣告位的特征等

? ?用戶 – 包括用戶畫像，用戶瀏覽歷史等

? 單特征選擇的方法有下面幾種：

? ? 1. 簡單統計方法，統計特征取值的覆蓋面和平衡度,對dominant取值現象很顯著的特征，要選擇性地舍棄該特征或者是歸并某些取值集到一個新的值，從而達到平衡的目的。

? ? 2. 特征選擇指標，特征選擇主要有兩個目的，一是去除冗余的特征，也就是特征之間可能是互相冗余的；二是去無用，有些特征對CTR預估這個任務貢獻度很小或沒有，對于這類特征選擇，要小小地做，寧不足而不過分，因為單特征對任務貢獻度小，很有可能后面再組合特征生成時與其他特征組合生成很有效的組合特征，所以做得不能太過。

? ? ? a) 去冗余。主要是特征間的相關性，如Pearson相關性，或者指數回歸(從泰勒定理的角度它可以模擬高階的多項式特征)。

? ? ? b) 去無用。主要是信息增益比。

2. 特征組合

? 兩派方法：

? ? FM系列 ?-?對于categorical feature，一般把他們encode成one hot的形式，特征組合適合用FM。

? ?Tree系列 -?對于numerical feature和ordinal feature, 特征組合可以使用決策樹類的，一般用random forest或GBDT。其中GBDT的效果應該更好，因為boosting方法會不斷增強對錯判樣本的區分能力。

?

? 對于廣告點擊率預估，同時擁有這三類特征。所以一個簡單的方法就是級聯地使用這兩個方法，更好地進行特征組合。

? ? ? ? ?

3. LR

? a. OWL-QN

? ? ? 這個是batch訓練的方法，主要用于處理L1正則下的LR最優化。

? b. Online learning(FTRL and Facebook enhancement)

? ? ? 在線學習，及時反饋點擊信息，不斷演化LR模型，從而為新廣告更快收斂。

4. 預測CTR可信嗎?

? 任何一個特征向量輸入到這個CTR預測算法，算法都會像模像樣地給你輸出一個預測CTR。但這個CTR真的可信嗎？我們知道機器學習是典型data driven的，當訓練數據中某種情況的數據不足時，這種情況下的預測值很有可能被其他數據拉偏。所以，肯定會有預測值不可信的情況，那我們怎么判斷當前的預測CTR的可信度呢？

? Google在提出FTRL算法的同時伴隨提出了一個預測CTR可信度的方法，想法很簡單：訓練數據越多則可信度越高。下圖公式中指訓練集中第i維feature非零的訓練向量的個數。normalization到[0, 1]的方法很多，需要根據總業務數據量以及先驗CTR來最終確定。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?

5. 修修補補

? 后面的事情就是在前述的框架的基礎上，根據bad case修修補補了。比如說，現在認為在不同的點擊率區段，影響點擊率的特征的權重是一致的，但實際發現是不一樣的，就可以按照點擊率的區間劃分，做分區間模型(據說阿里用的MLR就是這個東東)。這些都不出上面的框架，是在分析數據之后做的細化，逃不脫“分段逼近”這個大圈。

總結

以上是生活随笔為你收集整理的程序化广告交易中的点击率预估的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。