文章目錄

• 2021
• • TENT: FULLY TEST-TIME ADAPTATION BY ENTROPY MINIMIZATION
• 2022
• • On-the-Fly Test-time Adaptation for Medical Image Segmentation

2021

TENT: FULLY TEST-TIME ADAPTATION BY ENTROPY MINIMIZATION

code: https://github.com/DequanWang/tent

摘要： 在測(cè)試過(guò)程中，一個(gè)模型必須調(diào)整自己，以推廣到新的和不同的數(shù)據(jù)。在這種完全測(cè)試時(shí)間自適應(yīng)的設(shè)置下，模型只有測(cè)試數(shù)據(jù)及其自己的參數(shù)。我們建議通過(guò)測(cè)試熵最小化(tten1)來(lái)適應(yīng)：我們通過(guò)模型的預(yù)測(cè)的熵來(lái)優(yōu)化置信度。我們的方法估計(jì)歸一化統(tǒng)計(jì)和優(yōu)化通道仿射轉(zhuǎn)換，以在線更新每批。帳篷減少了損壞的ImageNet和CIFAR-10/100上圖像分類的泛化錯(cuò)誤，并在ImageNet-C上達(dá)到一個(gè)新的最先進(jìn)的錯(cuò)誤。帳篷處理從SVHN到MNIST/MNIST/M/USPS的數(shù)字識(shí)別，從俠盜獵車手到城市景觀的語(yǔ)義分割，以及VisDA-C基準(zhǔn)上的無(wú)源域適應(yīng)。這些結(jié)果是在測(cè)試時(shí)間優(yōu)化的一個(gè)時(shí)期內(nèi)實(shí)現(xiàn)的，而不改變訓(xùn)練。

2022

On-the-Fly Test-time Adaptation for Medical Image Segmentation

code: https://github.com/jeya-maria-jose/on-the-fly-adaptation

摘要： 基于深度學(xué)習(xí)的醫(yī)學(xué)成像解決方案的一個(gè)主要問(wèn)題是，當(dāng)一個(gè)模型在不同于其訓(xùn)練的數(shù)據(jù)分布上進(jìn)行測(cè)試時(shí)，性能下降。將源模型適應(yīng)于測(cè)試時(shí)的目標(biāo)數(shù)據(jù)分布是解決數(shù)據(jù)移位問(wèn)題的一種有效的解決方案。以前的方法通過(guò)使用熵最小化或正則化等技術(shù)將模型適應(yīng)于目標(biāo)分布來(lái)解決這個(gè)問(wèn)題。在這些方法中，模型仍然通過(guò)使用完整測(cè)試數(shù)據(jù)分布的無(wú)監(jiān)督損失反向傳播更新。在現(xiàn)實(shí)世界的臨床環(huán)境中，實(shí)時(shí)將模型適應(yīng)于新的測(cè)試圖像更有意義，并避免在推理過(guò)程中由于隱私問(wèn)題和部署時(shí)缺乏計(jì)算資源而導(dǎo)致的模型更新。為此，我們提出了一種新的設(shè)置-動(dòng)態(tài)適應(yīng)，它是零鏡頭和情景性的（即，該模型一次適應(yīng)于單個(gè)圖像，并且在測(cè)試期間也不執(zhí)行任何反向傳播）。為了實(shí)現(xiàn)這一點(diǎn)，我們提出了一個(gè)新的自適應(yīng)UNet框架，其中每個(gè)卷積塊都配備了一個(gè)自適應(yīng)的批處理歸一化層，以適應(yīng)相對(duì)于域代碼的特征。域代碼是使用在大量醫(yī)學(xué)圖像語(yǔ)料庫(kù)上訓(xùn)練的預(yù)先訓(xùn)練的編碼器生成的。在測(cè)試期間，模型只接受新的測(cè)試圖像，并根據(jù)測(cè)試數(shù)據(jù)生成一個(gè)域代碼來(lái)適應(yīng)源模型的特征。我們驗(yàn)證了在二維和三維數(shù)據(jù)分布變化上的性能，與以前的測(cè)試時(shí)間自適應(yīng)方法相比，我們獲得了更好的性能。

總結(jié)

以上是生活随笔為你收集整理的Test-time Adaptation论文合集的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。