pytorch報錯：RuntimeError: CUDA out of memory. Tried to allocate 132.00 MiB (GPU 2; 3.95 GiB total capacity; 3.41 GiB already allocated; 37.88 MiB free; 98.29 MiB cached)

如果是訓練時遇到該問題，說明模型的參數太多了，將模型的參數減少該問題就解決了，改小batch_size是不能解決的（我將batch_size設為1都沒解決，而且報錯時的內存數據都沒變）

如果是測試時遇到該問題，在測試代碼前面加上：with torch.no_grad():

with torch.no_grad():# test process

ps：程序運行中可以通過watch -n 0.1 -d nvidia-smi命令來實時查看GPU占用情況，按Ctrl+c退出：

因為我使用的是2號GPU，當我的程序一運行，可以看到2號GPU的占用內存從1MiB一直飆升，直至接近4043MiB，然后就報錯上面的RuntimeError

總結

以上是生活随笔為你收集整理的RuntimeError: CUDA out of memory. Tried to allocate 132.00 MiB (GPU 2; 3.95 GiB total capacity; 3.41的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。