一些 one-stage 的目標檢測器通常會產(chǎn)生很多數(shù)量的 anchor box，但是只有極少數(shù)是正樣本，導致正負樣本數(shù)量不均衡。這里假設我們計算分類損失函數(shù)為交叉熵公式。

由于在目標檢測中，大量的候選目標都是易分樣本，這些樣本的損失很低，但是由于數(shù)量極不平衡，易分樣本數(shù)量相對來說太多，最終主導了總的損失，但是模型也應該關注那些難分樣本（難分樣本又分為普通難分樣本和特別難分樣本，后面即將講到的GHM就是為了解決特別難分樣本的問題）。

梯度模長g：\(g\) 正比于檢測的難易程度，\(g\) 越大則檢測難度越大，\(g\) 從交叉熵損失求梯度得來
\[ g=|p-p^*|= \begin{cases} 1-p, & \text{if p* = 1} \\ p, & \text{if p* = 0} \end{cases} \]
\(p\) 是模型預測的概率，\(p^*\) 是 Ground-Truth 的標簽（取值為1或者0）；

\(g\) 正比于檢測的難易程度，\(g\) 越大則檢測難度越大；

梯度模長與樣本數(shù)量的關系：梯度模長接近于 0 時樣本數(shù)量最多（這些可歸類為易分樣本），隨著梯度模長的增長，樣本數(shù)量迅速減少，但是當梯度模長接近于 1 時樣本數(shù)量也挺多（這些可歸類為難分樣本）。如果過多關注難分樣本，由于其梯度模長比一般樣本大很多，可能會降低模型的準確度。因此，要同時抑制易分樣本和難分樣本！

抑制方法之梯度密度 \(G(D)\)： 因為易分樣本和特別難分樣本數(shù)量都要比一般樣本多一些，而我們要做的就是衰減 單位區(qū)間數(shù)量多的那類樣本，也就是物理學上的密度概念。
\[ GD(g) = \frac{1}{l_{\epsilon}}\sum_{k=1}^{N}\delta_{\epsilon}(g_k, g) \]
\(\delta_{\epsilon}(g_k, g)\) 表示樣本 \(1 \sim N(樣本數(shù)量)\) 中，梯度模長分布在 \((g-\frac{\epsilon}{2}, g+\frac{\epsilon}{2} )\) 范圍內(nèi)的樣本個數(shù)，\(l_{\epsilon}(g)\) 代表了 \((g-\frac{\epsilon}{2}, g+\frac{\epsilon}{2} )\) 區(qū)間的長度；

最后對每個樣本，用交叉熵 \(CE\) \(\times\) 該樣本梯度密度的倒數(shù)即可。