nn.ReLU() 和 nn.ReLU(inplace=True)中inplace的作用
生活随笔
收集整理的這篇文章主要介紹了
nn.ReLU() 和 nn.ReLU(inplace=True)中inplace的作用
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
inplace
作用:
1.用relu后的變量進(jìn)行替換,直接把原來的變量覆蓋掉
2.節(jié)省了內(nèi)存
缺點(diǎn):
有時(shí)候出現(xiàn)梯度回傳失敗的問題,因?yàn)橹暗淖兞勘惶鎿Q了,找不到之前的變量了
參考這篇文章
總結(jié)
以上是生活随笔為你收集整理的nn.ReLU() 和 nn.ReLU(inplace=True)中inplace的作用的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【SpringBoot 2】(六)配置文
- 下一篇: 【SSM面向CRUD编程专栏 6】spr