AI芯片算力比较
1. 算力
TOPS(Tera Operations Per Second),1 TOPS代表處理器每秒鐘可進行一萬億次(10^12)操作
FLOPS(floating-point operations per second),每秒所執行的浮點運算次數,1 TFLOPS(tera FLOPS)等于每秒一萬億(=10^12)次的浮點運算
因浮點運算對性能要求較高,在保證AI精度的同時可將浮點數轉為整數進行計算,可大幅降低計算資源的消耗,提高計算性能,可分為INT8, INT4, INT16,INT32, INT后的數字表示整數的位數。
2. 監控SoC芯片
| 0.8TOPS |
| 0.8TOPS |
| 4.0 TOPS |
| 3.0TOPS(INT8) |
| 4.0 TOPS |
| 6.0TOPS |
?
3. AI芯片
| INT8: 3TOPS |
| INT8: 2TOPS, INT16: 1TOPS, INT32:0.25TOPS |
| INT8: 4TOPS, INT16: 2TOPS, INT32:0.5TOPS |
| INT8: 8TOPS, INT16: 4TOPS, INT32:1TOPS |
| 5 TOPS |
| INT8: 16TOPS, FP16: 8TOPS |
| INT8: 640TOPS, FP16: 320 TFLOPS |
4. PCIE加速卡/GPU
?
| INT4: 256TOPS, INT8: 128TOPS, INT16: 64TOPS | 70 |
| INT4: 256TOPS, INT8: 128TOPS, INT16: 64TOPS | 150 |
| 7.1FLOPS | 160 |
| 8.1FLOPS, INT4: 260TOPS, INT8: 130TOPS, FP16/FP32:65TOPS | 70 |
| 11.2FLOPS | 265 |
| 12Tops | ? |
| 13.6FLOPS | 280 |
| 14FLOPS | 250 |
?
?
?
總結
- 上一篇: TGA格式图片文件分析
- 下一篇: 解析AI人机协同的未来展望