TVM圖優(yōu)化與算子融合
計算圖的定義
Computational graphs: a common way to represent programs in deep learning frameworks
對于圖優(yōu)化來說，有很多種圖優(yōu)化手段：
Operator Fusion
Constant Parameter Path Pre-Computation
Static Memory Reuse Analysis
Data Layout Transformation
AlterOpLayout
SimplifyInference
計算圖優(yōu)化層（Optimizing Computational Graphs）
這個層級結(jié)構(gòu)實際上是針對各種硬件后端生成了同一種運算符的微調(diào)版本，即對其中的張量運算進行了相關(guān)優(yōu)化。

張量優(yōu)化層（tensor optimization layer）
Schedule Space
TVM提出 Schedules 的概念，指的是一種將計算描述（張量運算）降低到后端（底層）優(yōu)化實現(xiàn)的特定規(guī)則。這也是TVM實現(xiàn)的核心。
其理念是對 Schedules 空間和用于遍歷此空間的轉(zhuǎn)換進行建模,從而提供生成低級代碼的不同方法。TVM的 Schedules 空間如圖所示：

總結(jié)

以上是生活随笔為你收集整理的TVM图优化与算子融合的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。