分別使用CPU和GPU進(jìn)行Pytorch中的Tensor（張量）計(jì)算，測(cè)試Tensor在兩種不同運(yùn)算設(shè)備上的計(jì)算速度差異。

設(shè)備：

服務(wù)器：Dell EMC Power Edge R740

CPU：Intel Xeon Gold 5117 * 2

Memory：64G

GPU：NVIDIA Tesla T4 16G * 1

Python Version：3.8

CUDA Version：11.4

Pytorch Version：1.9.0

分別使用三種不同尺寸的Tensor進(jìn)行平方運(yùn)算測(cè)試，單次測(cè)試進(jìn)行10萬次平方運(yùn)算，分別在CPU和GPU上進(jìn)行20次測(cè)試，時(shí)長(zhǎng)取20次測(cè)試的平均結(jié)果。

Code：

import warnings warnings.filterwarnings('ignore')import torch import timeif torch.cuda.is_available():device=torch.device('cuda:0')print('The current device is GPU. ',end='\n\n') else:device=torch.device('cpu')print('The current device is CPU. ',end='\n\n')a=torch.normal(mean=0, std=1, size=(32,128,128))b=a.clone() d=a.clone() d=d.to(device)Test_times=20time_cost=0 for _ in range(Test_times):time_0=time.time()for i in range(100000):c=b**2time_1=time.time()time_cost=time_cost + time_1-time_0 time_cost=time_cost/Test_timesprint(f'Average CPU Time : {time_cost:.5f} ')time_cost=0 for _ in range(Test_times):time_2=time.time()for i in range(100000):e=d**2time_3=time.time()time_cost=time_cost + time_3-time_2 time_cost=time_cost/Test_timesprint(f'Average GPU Time : {time_cost:.5f} ')

Result：

1.? ??32*64*64

2.? ??32*128*128

3.? ??32*256*256

Analysis：

從測(cè)試結(jié)果來看，無論何種尺寸的張量計(jì)算，在GPU上的運(yùn)算速度都要遠(yuǎn)快于CPU。

?

?

?

總結(jié)

以上是生活随笔為你收集整理的Pytorch CPU Tensor与GPU Tensor的运算速度对比测试的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。