RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the ‘spawn’ start method

問題出現的背景：在一個使用 cuda 對模型訓練進行加速的程序中，想要使用多進程對模型測試進行加速。

解決的辦法：因為我是比較熟悉 python 中多進程的使用，所以，把模型測試部分的所有變量都改成普通的python變量或numpy變量這種（也就是不要有pytorch的cuda類型的張量），然后這樣操作就不會有問題了。就比如：user_embedding = user_embedding.cpu().numpy() 先將原本cuda類型的張量變成cpu類型的張量，再將pytorch張量轉變為 numpy的ndarray類型變量，這樣是不會出錯的。

原因：在Python3中使用 spawn 或 forkseverver 啟動方法才支持在進程之間共享CUDA張量。而我是用的multiprocessing 是使用 fork 創建子進程，不被 CUDA 運行時所支持。

但是我這里不需要共享CUDA張量，就把他變更為cpu變量就行，有共享CUDA變量需求的可以去看看文檔改變一下使用的多進程的方法。

創作挑戰賽新人創作獎勵來咯，堅持創作打卡瓜分現金大獎

總結

以上是生活随笔為你收集整理的Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。