深度学习中 epoch,[batch size], iterations概念解释
生活随笔
收集整理的這篇文章主要介紹了
深度学习中 epoch,[batch size], iterations概念解释
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
one?epoch:所有的訓(xùn)練樣本完成一次Forword運算以及一次BP運算
batch size:一次Forword運算以及BP運算中所需要的訓(xùn)練樣本數(shù)目,其實深度學(xué)習(xí)每一次參數(shù)的更新所需要損失函數(shù)并不是由一個{data:label}獲得的,而是由一組數(shù)據(jù)加權(quán)得到的,這一組數(shù)據(jù)的數(shù)量就是[batch size]。當(dāng)然batch size 越大,所需的內(nèi)存就越大,要量力而行
iterations(迭代):每一次迭代都是一次權(quán)重更新,每一次權(quán)重更新需要batch size個數(shù)據(jù)進行Forward運算得到損失函數(shù),再BP算法更新參數(shù)。
轉(zhuǎn)載于:https://www.cnblogs.com/ylHe/p/8629119.html
創(chuàng)作挑戰(zhàn)賽新人創(chuàng)作獎勵來咯,堅持創(chuàng)作打卡瓜分現(xiàn)金大獎總結(jié)
以上是生活随笔為你收集整理的深度学习中 epoch,[batch size], iterations概念解释的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: JavaScript表单验证示例
- 下一篇: (机器学习/计算机视觉/深度学习)代码