最近在 貓狗識別 項目中，不知為何準確率（訓練集準確率和驗證集準確率）一直處于0.5左右，這說明網(wǎng)絡根本沒有學習。后來查閱了許多他人的經(jīng)驗，并做了總結(jié)。

首先談談我的是如何解決的：

• 網(wǎng)絡結(jié)構(gòu)：AlexNet
• 優(yōu)化器：Adam （這里正是問題所在）
• 框架：PyTorch

關于優(yōu)化器，我最開始使用的的是 torch.optim.Adam()，但是訓練100個Epoch后，準確率始終在 49% ~ 50%。

解決方法： 換個優(yōu)化器！我使用的是 torch.optim.SGD()，其他的或許也行，但我還沒有嘗試。

Note：

出現(xiàn)以上問題時，我們會發(fā)現(xiàn) loss 是 0.69，這是因為輸出 0， 1 的概率都是0.5，而 \(-\ln 0.5=0.69\) 。

---

網(wǎng)絡上也有一些解決方法，可以對照檢查自己的代碼：

訓練數(shù)據(jù)需要打亂，要檢查每此batch是否都是一個類別，如果是，則沒有辦法優(yōu)化；

檢查網(wǎng)絡是不是沒有回傳梯度，而是只做了前向運算；

檢查輸入數(shù)據(jù)是否有做標準化，可能直接傳入 \(0 \sim 255\) 像素進去了；

二分類問題中 0.5 的 acc 接近隨機猜測的值，可以檢查下標簽是否標錯；

檢查參數(shù)有沒有初始化；

檢查第一層的卷積輸出是否正常，是不是全 0 之類的；

嘗試不同的 Learning Rate；

檢查是否在 logit 那層加了激活函數(shù)，導致 logits 有問題，例如全為 0，經(jīng)過 softmax 后就是 0.5了

轉(zhuǎn)載于:https://www.cnblogs.com/xxxxxxxxx/p/11508020.html

總結(jié)

以上是生活随笔為你收集整理的在二分类问题中，准确率一直处于50%上下的解决方法的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。