背景

Problem: 因為純數(shù)據(jù)驅(qū)動方法無法勝任復雜的機器學習任務(wù)。

Solution: 將專家知識融入神經(jīng)網(wǎng)絡(luò)??圖神經(jīng)網(wǎng)絡(luò)。e.g. 知識圖譜和神經(jīng)網(wǎng)絡(luò)融合，基于知識的大規(guī)模訓練(大型知識庫)

    劉知遠：In fact, 從無結(jié)構(gòu)文本中抽取結(jié)構(gòu)化知識形成大規(guī)模知識圖譜后，這些知識反過來可以融入深度學習模型中，幫助我們更好地實現(xiàn)對自然語言的理解。他認為這是深度學習模型與知識圖譜不斷互相正反饋的過程。如果能構(gòu)建更大更精確的知識圖譜，nlp model能更好更魯棒。

應(yīng)用

1. 代碼缺陷檢測(software defect detection in the field of software engineering)

• 語義(semantics). hongyu zhang教授團隊用word embedding和lstm提取java代碼every token的語義信息及其之間的依存關(guān)系。
• 語法(syntax). AST抽取代碼語法結(jié)構(gòu)，用GNN進行判別。

[3] Zhang, Z., Sun, H. & Zhang, H. Developer recommendation for Topcoder through a meta-learning based policy model. Empir Software Eng 25, 859–889 (2020). https://doi.org/10.1007/s10664-019-09755-0

[4] Jian Zhang, Xu Wang, Hongyu Zhang, Hailong Sun, Yanjun Pu, and Xudong Liu. 2020. Learning to Handle Exceptions.

總結(jié)

以上是生活随笔為你收集整理的深度学习～图神经网络GNN的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。