Pytorch GPU顯存充足卻顯示out of memory的解決方式

今天在測試一個pytorch代碼的時候顯示顯存不足，但是這個網絡框架明明很簡單，用CPU跑起來都沒有問題，GPU卻一直提示out of memory.

在網上找了很多方法都行不通，最后我想也許是pytorch版本的問題，原來我的pytorch版本是0.4.1，于是我就把這個版本卸載，然后安裝了pytorch1.1.0，程序就可以神奇的運行了，不會再有OOM的提示了。雖然具體原因還不知道為何，這里還是先mark一下，具體過程如下：

卸載舊版本pytorch：

conda uninstall pytorch

安裝pytorch1.1.0，按照官網上的辦法，我的CUDA版本是9.0：

conda install pytorch torchvision cudatoolkit=9.0 -c pytorch

大功告成!

以上這篇Pytorch GPU顯存充足卻顯示out of memory的解決方式就是小編分享給大家的全部內容了，希望能給大家一個參考，也希望大家多多支持我們。

時間： 2020-01-11

如果在python內調用pytorch有可能顯存和GPU占用不會被自動釋放,此時需要加入如下代碼 torch.cuda.empty_cache() 我們來看一下官方文檔的說明 Releases all unoccupied cached memory currently held by the caching allocator so that those can be used in other GPU application and visible in nvidia-smi. Note e

Pytorch GPU運算過程中會出現:"cuda runtime error(2): out of memory"這樣的錯誤.通常,這種錯誤是由于在循環中使用全局變量當做累加器,且累加梯度信息的緣故,用官方的說法就是:"accumulate history across your training loop".在默認情況下,開啟梯度計算的Tensor變量是會在GPU保持他的歷史數據的,所以在編程或者調試過程中應該盡力避免在循環中累加梯度信息. 下面舉個栗子: 上代

本文適合多GPU的機器,并且每個用戶需要單獨使用GPU訓練. 雖然pytorch提供了指定gpu的幾種方式,但是使用不當的話會遇到out of memory的問題,主要是因為pytorch會在第0塊gpu上初始化,并且會占用一定空間的顯存.這種情況下,經常會出現指定的gpu明明是空閑的,但是因為第0塊gpu被占滿而無法運行,一直報out of memory錯誤. 解決方案如下: 指定環境變量,屏蔽第0塊gpu CUDA_VISIBLE_DEVICES = 1 main.py 這句話表示只有第1塊

Pytorch 訓練時有時候會因為加載的東西過多而爆顯存,有些時候這種情況還可以使用cuda的清理技術進行修整,當然如果模型實在太大,那也沒辦法. 使用torch.cuda.empty_cache()刪除一些不需要的變量代碼示例如下: try: output = model(input) except RuntimeError as exception: if "out of memory" in str(exception): print("WARNING: out of

在使用Pytorch進行神經網絡訓練時,有時會遇到訓練學習率不下降的問題.出現這種問題的可能原因有很多,包括學習率過小,數據沒有進行Normalization等.不過除了這些常規的原因,還有一種難以發現的原因:在計算loss時數據維數不匹配. 下面是我的代碼: loss_function = torch.nn.MSE_loss() optimizer.zero_grad() output = model(x_train) loss = loss_function(output, y_train)

背景 在公司用多卡訓練模型,得到權值文件后保存,然后回到實驗室,沒有多卡的環境,用單卡訓練,加載模型時出錯,因為單卡機器上,沒有使用DataParallel來加載模型,所以會出現加載錯誤. 原因 DataParallel包裝的模型在保存時,權值參數前面會帶有module字符,然而自己在單卡環境下,沒有用DataParallel包裝的模型權值參數不帶module.本質上保存的權值文件是一個有序字典. 解決方法 1.在單卡環境下,用DataParallel包裝模型. 2.自己重寫Load函數,靈活.

如下所示: device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")#第一行代碼 model.to(device)#第二行代碼 首先是上面兩行代碼放在讀取數據之前. mytensor = my_tensor.to(device)#第三行代碼 然后是第三行代碼.這句代碼的意思是將所有最開始讀取數據時的tersor變量copy一份到device所指定的GPU上去,之后的運算都在GPU上

最近接觸layui,比較簡潔美觀的一款ui,但也有很多小坑,記錄一下實現省市區下拉三級聯動更新回顯的問題 form.on('select(uprovinceId)', function(data){ initCityList('change'); }); 這里面有個問題就是 選擇的時候 如果 請選擇 的value 是"" 空字符串,當選擇從河北省變到請選擇時不會觸發這個監聽事件

總結

以上是生活随笔為你收集整理的python运行提示显卡内存不足_Pytorch GPU显存充足却显示out of memory的解决方式的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。