題目: Multi-View Multi-Instance Multi-Label Learning based on Collaborative Matrix Factorization

會(huì)議: AAAI 2019

論文: https://arxiv.org/pdf/1905.05061.pdf

1 Motivation

1、現(xiàn)有的M3L方法僅僅探索了部分實(shí)體（包，實(shí)例和標(biāo)簽）之間的關(guān)系，而這些實(shí)體之間的關(guān)系可以給M3L方法提供豐富的上下文信息，因此，現(xiàn)有的M3L方法性能次優(yōu)；

2、大部分的MIML算法僅關(guān)注單視圖數(shù)據(jù)，但是，在實(shí)際應(yīng)用中，通常可以通過不同的視圖來表示多實(shí)例多標(biāo)簽對象。

2 Related work

由于包之間以及實(shí)例之間存在多種類型的關(guān)系,與最近大量研究的MIML任務(wù)相比，從多視圖包中學(xué)習(xí)更加困難和挑戰(zhàn)。當(dāng)前已有不少研究工作致力于解決這樣一種挑戰(zhàn)。如表1所示：

盡管這些方法在努力解決多視圖MIML學(xué)習(xí)問題，但是這些方法僅考慮了包之間和實(shí)例之間有限的關(guān)系類型。

3 Methodology

所提模型主要包括兩部分，一部分是異質(zhì)網(wǎng)絡(luò)的構(gòu)建，另一部分是協(xié)同關(guān)系矩陣分解。

3.1 Heterogeneous Network Construction

1、construct a subnetwork of instances for each feature view

利用高斯熱核為每個(gè)特征視圖中的實(shí)例構(gòu)建子網(wǎng)，其中為第v個(gè)視圖中m個(gè)實(shí)例的平均歐氏距離。

2、construct a bag subnetwork for each feature view

利用豪斯多夫距離為每個(gè)試圖中的包構(gòu)建子網(wǎng)

3、construct a subnetwork of labels

利用cosine相似度來量化標(biāo)簽相關(guān)性，其中和為兩個(gè)標(biāo)簽，是標(biāo)簽c在所有包中的分布。

以上三部分便構(gòu)建完了實(shí)例-實(shí)例，包-包，標(biāo)簽-標(biāo)簽的子網(wǎng)，另外，通過數(shù)據(jù)集的信息，作者繼續(xù)構(gòu)建包-實(shí)例，包-標(biāo)簽，實(shí)例-標(biāo)簽之間的數(shù)據(jù)矩陣。

4、The bag-instance inter-relational data matrix .

5、The bag-label relational matrix .

6、The instance-label relational data matrix . 初始，實(shí)例-標(biāo)簽的數(shù)據(jù)矩陣未知，設(shè)為0.

3.2 Collaborative Matrix Factorization

論文所提方法M3Lcmf的目標(biāo)函數(shù)所下所示：

M3Lcmf有兩個(gè)預(yù)測項(xiàng)：實(shí)例-標(biāo)簽的聯(lián)系和包-標(biāo)簽的聯(lián)系。除了直接利用趨近，作者增加了一個(gè)整合項(xiàng)。這個(gè)整合項(xiàng)受多實(shí)例學(xué)習(xí)原理的驅(qū)動(dòng)，即包的標(biāo)簽取決于其實(shí)例的標(biāo)簽。另外，此整合項(xiàng)可以反向指導(dǎo)和的學(xué)習(xí)。

由目標(biāo)函數(shù)的前三項(xiàng)可以看出，M3Lcmf構(gòu)建了包-實(shí)例，包-標(biāo)簽，實(shí)例-標(biāo)簽之間的關(guān)系。按照流行正則的思想，促使有著高相似性的數(shù)據(jù)點(diǎn)在低維空間內(nèi)相似，構(gòu)成MR(G)，利用圖拉普拉斯矩陣來構(gòu)建包-包，實(shí)例-實(shí)例，標(biāo)簽-標(biāo)簽之間的關(guān)系。

最后，可以利用優(yōu)化好的和來獲取實(shí)例-標(biāo)簽的相關(guān)性矩陣：，同樣，要將實(shí)例的標(biāo)簽進(jìn)一步映射到相應(yīng)的包上，作者利用來趨近包-標(biāo)簽相關(guān)性矩陣。因此，M3Lcmf既可以實(shí)現(xiàn)包級預(yù)測也可以實(shí)現(xiàn)實(shí)例級預(yù)測。

Experiments

Datasets

前五個(gè)數(shù)據(jù)集為包級的數(shù)據(jù)集，后四個(gè)為實(shí)例級的數(shù)據(jù)集。

Metric

1、Ranking Loss (RankLoss),

2、macro AUC (Area Under receiver operating Curve)

3、Average Recall (AvgRecall),

4、Average F1-score (AvgF1).

Results

1、Prediction Results at the Bag-Level

• M3Lcmf優(yōu)于MIMLmix和M2IL：M3Lcmf利用了更多對象之間的關(guān)系；

• M3Lcmf優(yōu)于MIML方法（MIMLNN, MIMLfast 和 MIMLSVM）：MIML相比于M3Lcmf利用了更少的實(shí)體之間的關(guān)系；

• MIMLRBF性能逼近M3Lcmf：盡管MIMLRBF利用了更少的實(shí)體關(guān)系，但是MIMLRBF利用神經(jīng)網(wǎng)絡(luò)來獲取特征表示。

2、Prediction Results at the Instance-Level

M3Lcmf性能最優(yōu)，MIMLmix第二，MIMLfast第三是因?yàn)镸IMLmix沒有利用包-包聯(lián)系和實(shí)例-實(shí)例之間的關(guān)系，MIMLfast在此基礎(chǔ)上，還沒有利用實(shí)例-標(biāo)簽的關(guān)系。

3、Contribution of Different Types of Relations

說明實(shí)體之間的各種關(guān)系都有助于M3L方法的學(xué)習(xí)。

參數(shù)敏感實(shí)驗(yàn)詳情請見原論文。

參考文獻(xiàn)

[Nguyen, Zhan, and Zhou 2013] Nguyen, C. T.; Zhan, D. C.; and Zhou, Z. H. 2013. Multi-modal image annotation with multi-instance multi-label lda. In IJCAI, 1558–1564.

[Nguyen et al. 2014] Nguyen, C. T.; Wang, X.; Liu, J.; and Zhou, Z. H. 2014. Labeling complicated objects: multi-view multi-instance multi-label learning. In AAAI, 2013–2019.

[Yang et al. 2018] Yang, Y.; Wu, Y.-F.; Zhan, D.-C.; Liu, Z.- B.; and Jiang, Y. 2018. Complex object classification: A multi-modal multi-instance multi-label deep network with optimal transport. In KDD, 2594–2603.

[Li et al. 2017] Li, B.; Yuan, C.; Xiong, W.; Hu, W.; Peng, H.; Ding, X.; and Maybank, S. 2017. Multi-view multi-instance learning based on joint sparse representation and multi-view dictionary learning. TPAMI 39(12):2554–2560.

[Zhou et al. 2008] Zhou, Z. H.; Zhang, M. L.; Huang, S. J.; and Li, Y. F. 2008. Miml: A framework for learning with ambiguous objects. Corr Abs 2012.

[Huang, Gao, and Zhou 2018] Huang, S.-J.; Gao, W.; and Zhou, Z.-H. 2018. Fast multi-instance multi-label learning. TPAMI 99(1):1–14.

[Zhang and Wang 2009] Zhang, M. L., and Wang, Z. J. 2009. Mimlrbf: Rbf neural networks for multi-instance multi-label learning. Neurocomputing 72(16-18):3951–3956.

往期精彩回顧適合初學(xué)者入門人工智能的路線及資料下載機(jī)器學(xué)習(xí)及深度學(xué)習(xí)筆記等資料打印機(jī)器學(xué)習(xí)在線手冊深度學(xué)習(xí)筆記專輯《統(tǒng)計(jì)學(xué)習(xí)方法》的代碼復(fù)現(xiàn)專輯 AI基礎(chǔ)下載機(jī)器學(xué)習(xí)的數(shù)學(xué)基礎(chǔ)專輯溫州大學(xué)《機(jī)器學(xué)習(xí)課程》視頻 本站qq群851320808，加入微信群請掃碼：

總結(jié)

以上是生活随笔為你收集整理的【论文解读】多视图多示例多标签的协同矩阵分解的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。