目錄

• 簡介
• 動機
• 方法
• 實驗

簡介

本文出自華為諾亞方舟，作者是韓凱。
文章鏈接

動機

本文動機是，在ViT基礎上，編碼patch內的pixel之間的結構信息。

方法

使用兩個transformer，外transformer負責編碼大小為$16\times 16$的patch之間的關系，內transformer負責編碼大小為$4\times 4$的super-pixel之間的關系。

實驗

本文方法的實驗結果也很好。

與50位技術專家面對面20年技術見證，附贈技術全景圖

總結

以上是生活随笔為你收集整理的arXiv 2021《Transformer in Transformer》论文笔记的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。