python 深度学习模型训练 多GPU下如何调用
生活随笔
收集整理的這篇文章主要介紹了
python 深度学习模型训练 多GPU下如何调用
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
原文鏈接《pytorch指定多塊GPU運行代碼》, 一起來圍觀吧
https://blog.csdn.net/OneQuestionADay/article/details/111691486?utm_source=app
查看GPU狀態和信息
nvidia-smi
1
在這里插入圖片描述在這里插入圖片描述
定時刷新狀態,-n(秒),每秒刷新一次
watch -n 1 nvidia-smi
1
指定可見GPU
終端跑程序指定GPU
CUDA_VISIBLE_DEVICES=0 python XXX.py
1
或者在python文件中加入
import os
os.environ[“CUDA_VISIBLE_DEVICES”] = “0”
1
2
多塊GPU可選
os.environ[“CUDA_VISIBLE_DEVICES”] = “0,1,2,3”
1
pytorch使用單GPU
model = model.cuda()
1
pytorch使用多GPU
model = torch.nn.DataParallel(model, device_ids=[0,1,2,3]).cuda()
1
使用了gpu0,1,2,3 共4塊同時跑
總結
以上是生活随笔為你收集整理的python 深度学习模型训练 多GPU下如何调用的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 解放军苦战大杨湖
- 下一篇: 定向士官部队会强制退伍吗?