目錄

• 簡介
• 動機(jī)
• 方法
• 實驗

簡介

本文出自華為諾亞方舟，作者是韓凱。
文章鏈接

動機(jī)

本文動機(jī)是，在ViT基礎(chǔ)上，編碼patch內(nèi)的pixel之間的結(jié)構(gòu)信息。

方法

使用兩個transformer，外transformer負(fù)責(zé)編碼大小為$16\times 16$的patch之間的關(guān)系，內(nèi)transformer負(fù)責(zé)編碼大小為$4\times 4$的super-pixel之間的關(guān)系。

實驗

本文方法的實驗結(jié)果也很好。

與50位技術(shù)專家面對面20年技術(shù)見證，附贈技術(shù)全景圖

總結(jié)

以上是生活随笔為你收集整理的arXiv 2021《Transformer in Transformer》论文笔记的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。