• 在下面的代碼中，在每次l.backward()前都要trainer.zero_grad()，否則梯度會累加。

num_epochs = 3 for epoch in range(num_epochs):for X, y in data_iter:l = loss(net(X), y)trainer.zero_grad()l.backward()trainer.step()l = loss(net(features), labels)print(f'epoch {epoch + 1}, loss {l:f}')

• trainer.step()在參數迭代的時候是如何知道batch_size的？
  因為loss = nn.MSELoss()，均方誤差是對樣本總量平均過得到的，所以trainer.step()使用的是平均過的grad。
  參考資料：

https://zh-v2.d2l.ai/chapter_linear-networks/linear-regression-concise.html

總結

以上是生活随笔為你收集整理的pytorch之trainer.zero_grad()的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。