防止过拟合的方法
解決過擬合有兩個方向:
減少特征,人為選擇簡單模型;
保留所有特征,但是減少每個特征的權重;
1、simpler model structure
2、regularization
正則化,解決過擬合的一種方法。
http://www.cnblogs.com/jianxinzhou/p/4083921.html
3、data augmentation
4、dropout
在每個mini-batch中,按概率刪掉一部分神經元,刪掉的這部分神經元的輸出就設為0。反向傳播時,就不更新這些神經元的參數。
在下一個mini-batch中,恢復這些刪掉的神經元,再選一批神經元刪掉。
5、Bootstrap/Bagging
6、ensemble
訓練多個模型,然后組合這多個模型。但不僅訓練起來費時,測試起來多個模型也很費時
7、early stopping
8、utilize invariance
9、Bayesian
轉載于:https://www.cnblogs.com/mengmengmiaomiao/p/7602857.html
總結
- 上一篇: Java数据库 高级查询
- 下一篇: django 基于 form 验证 确认