Lifelong Person Re-Identification via Adaptive Knowledge Accumulation论文笔记
Lifelong Person Re-Identification via Adaptive Knowledge Accumulation
Abstract
提出LReID,設(shè)計(jì)了Adaptive Knowledge Accumulation框架:知識(shí)表示和知識(shí)操作能力。相比于其他競(jìng)爭(zhēng)對(duì)手的性能好5.8%mAP
Introduction
目前的深度學(xué)習(xí)方法訓(xùn)練過(guò)程收到固定數(shù)據(jù)集的嚴(yán)重限制,為了克服,提出了終生學(xué)習(xí)的方法。與傳統(tǒng)的終生學(xué)習(xí)不同,1.LReID進(jìn)一步考慮在未學(xué)習(xí)過(guò)域上的泛化能力。2.其次,LReID更關(guān)注細(xì)粒度,其數(shù)據(jù)集的類間外觀變化明顯小于傳統(tǒng)的增量學(xué)習(xí)數(shù)據(jù)集,如CIFAR-100,ImageNet等。提出AKA框架解決問(wèn)題。
Related Work
相關(guān)工作較少,現(xiàn)有的工作由于由于訓(xùn)練集和測(cè)試集之間的領(lǐng)域差距相對(duì)較小,因此它們的設(shè)置在保持所學(xué)知識(shí)的同時(shí)提高泛化能力方面的挑戰(zhàn)性較小。
Lifelong Person Re-Identification
數(shù)據(jù)集為其中Dtr為訓(xùn)練圖片和標(biāo)簽。
為測(cè)試圖片和標(biāo)簽。
訓(xùn)練集和測(cè)試集是不相關(guān)的,也就是測(cè)試集中的人是沒(méi)有出現(xiàn)在訓(xùn)練集中的,在第t個(gè)培訓(xùn)步驟中,只有可用,以前域中的數(shù)據(jù)不再可用。
Adaptive Knowledge Accumulation
Knowledge Representation
其中為一個(gè)完全連通圖,AS代表邊,VS代表頂點(diǎn)。
AKG與其相似,其計(jì)算如下:
那么如果把 gs.看成一道道題,那么通過(guò)題得到的知識(shí)積累起來(lái)的結(jié)果,我們把其看成 gk.
Knowledge Operation
進(jìn)一步將“操作”分解為知識(shí)轉(zhuǎn)移和知識(shí)積累。
知識(shí)轉(zhuǎn)移:我們通過(guò)在基于原型的關(guān)系圖和知識(shí)圖之間創(chuàng)建鏈接來(lái)連接gs與gk,其。
AC通過(guò)以下式子來(lái)計(jì)算:
gj為一個(gè)連接圖,其公式如下,代表積累知識(shí)與當(dāng)前知識(shí):
將兩者通過(guò)圖卷積網(wǎng)絡(luò)連接起來(lái):
通過(guò)該操作可以將當(dāng)前知識(shí)融合到積累知識(shí)中去。我們現(xiàn)在只需要獲取了積累知識(shí)的當(dāng)前領(lǐng)域知識(shí),也就是 。
之后融合兩個(gè)當(dāng)前領(lǐng)域知識(shí)(一個(gè)獲取了累計(jì)的知識(shí),一個(gè)未獲取)。
之后進(jìn)行一個(gè)三元組損失,希望融合的知識(shí)有個(gè)較好得改變(較好的改變也就是希望 比好,也就是希望
能夠積累好的知識(shí),用于改變 得到好的 ,這部分就會(huì)指導(dǎo) 獲得好的積累知識(shí)!
希望積累好的知識(shí)讓新任務(wù)變得更好,但同時(shí)也希望通過(guò)新任務(wù)更新后的積累知識(shí)應(yīng)該與更新前的積累知識(shí)差的不是特別多,可以有改變,但是不能改的太多。否則就會(huì)造成災(zāi)難性遺忘,因此再添加一個(gè)損失函數(shù)。
總體損失函數(shù)為:
單詞
performed 執(zhí)行,表演(perform的過(guò)去分詞形式)
exploit 開發(fā),開拓;剝削;開采
distillation 蒸餾,凈化;[化工]蒸餾法;精華,蒸餾物
vertices n. 至高點(diǎn);天頂;頭頂(vertex的復(fù)數(shù))
vertex n. 頂點(diǎn);[昆] 頭頂;[天] 天頂
leverage n. 手段,影響力;杠桿作用;杠桿效率
aggregate n. 合計(jì);集合體;總計(jì);集料
adj. 聚合的;集合的;合計(jì)的
v. 集合;聚集;合計(jì)
utilize v. 利用
Motivated adj. 有動(dòng)機(jī)的;有積極性的
vt. 使產(chǎn)生動(dòng)機(jī);激發(fā)……的積極性(motivate 的過(guò)去式和過(guò)去分詞)
propagate v. 散播,宣傳(觀點(diǎn)、信仰等);傳播(運(yùn)動(dòng)、光 線、聲音等);(動(dòng)植物等)繁殖,使繁殖
vi. 繁殖;增殖
retrieval n. 找回,取回;(計(jì)算機(jī)系統(tǒng)信息的)檢索;恢復(fù),挽回
總結(jié)
以上是生活随笔為你收集整理的Lifelong Person Re-Identification via Adaptive Knowledge Accumulation论文笔记的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: JLink EDU v7.58 变砖修复
- 下一篇: gradient_accumulatio