根據lewes6369的TensorRT-yolov3改寫了一版基本實現可以推理視頻和圖片、可以多線程并行加速的TensorRT-yolov3模型，在win10系統和Linux上都成功的進行了編譯。

源碼和編譯方式詳見我的github。
win10版源碼可以在這里下載。

搭建環境

ubuntu16 & win10 TensorRT 5.1 CUDA 9.0 or CUDA 10.0

測試效果

ModelGPUModeInferenceFPS

yolov3_608	GTX 1060	fp32	58ms	15
yolov3_608	GTX 1060	int8	38ms	18
yolov3_608	p40	fp32	20ms	40
yolov3_608	p40	int8	13ms	50

總結

以上是生活随笔為你收集整理的tensorRT在yolo上的使用的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。