【ZiDongHua 之技術(shù)文章區(qū)收錄關(guān)鍵詞：自動化研究所   人工智能  腦機(jī)交互  】
　　
　　自動化所團(tuán)隊提出圖主干網(wǎng)絡(luò)模型：一種超越消息傳遞范式的圖學(xué)習(xí)新框架
　　
　　中國科學(xué)院自動化研究所神經(jīng)計算與腦機(jī)交互團(tuán)隊（NeuBCI）針對圖級任務(wù)開發(fā)了一種新框架，目標(biāo)打破“以結(jié)點和邊為中心”的傳統(tǒng)思維方式、克服傳統(tǒng)消息傳遞范式中長程問題、信息瓶頸等挑戰(zhàn)。
　　
　　多年來，消息傳遞范式一直作為圖神經(jīng)網(wǎng)絡(luò)（GNN）的基礎(chǔ)，在廣泛的應(yīng)用中取得了顯著的成功。盡管這種范式在多種任務(wù)中展示出了巨大的潛力，但它也給圖級任務(wù)（graph-level tasks）帶來了一些意想不到的挑戰(zhàn)，如長程問題（long-range problem）、信息瓶頸（information bottleneck）、過度擠壓現(xiàn)象（over-squashing phenomenon）和有限的表達(dá)能力（limited expressivity）。
　　
　　為此，中國科學(xué)院自動化研究所神經(jīng)計算與腦機(jī)交互團(tuán)隊（NeuBCI）針對圖級任務(wù)開發(fā)了一種新框架，目標(biāo)打破“以結(jié)點和邊為中心”的傳統(tǒng)思維方式、克服傳統(tǒng)消息傳遞范式中的上述挑戰(zhàn)。其核心思想在于，圖級任務(wù)通常不需要像結(jié)點級任務(wù)那樣為每個結(jié)點學(xué)習(xí)極其準(zhǔn)確的表示。
　　
　　具體而言，所提出的框架首先使用樹分解（tree decomposition）算法從原始圖中提取一顆骨架樹，隨后將骨架樹分解為不同級別的主干（亦可形象地稱為“樹干”），并運(yùn)用長短期記憶（LSTM）網(wǎng)絡(luò)沿著主干相應(yīng)的路徑學(xué)習(xí)各級主干的表示，最后結(jié)合各級主干的表示創(chuàng)建原始圖的表示。深入的理論分析與全面的實驗驗證進(jìn)一步證明了所提出的模型在捕獲長程信息和緩解過度擠壓問題方面的優(yōu)越性，從而為圖級任務(wù)提供了新的見解。
　　
　
　　
　　(a) GTR在分子圖上的流程示意圖
　　
　
　　(b) GTR在社交網(wǎng)絡(luò)上的流程示意圖
　　
　　圖1.  所提出的模型圖主干網(wǎng)絡(luò)（Graph Trunk Network, GTR）在兩類圖上的流程示意圖。首先（左列），從真實世界場景中提取圖數(shù)據(jù)結(jié)構(gòu)，以構(gòu)建原始圖。其次（中列），使用樹分解算法從原始圖中提取骨架樹。最后（右列），將骨架樹分解為不同級別的主干，并結(jié)合各級主干的表示創(chuàng)建原始圖的表示。
　　
　　該研究成果已經(jīng)發(fā)表在人工智能領(lǐng)域頂級期刊 IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI)，相關(guān)代碼也已開源。神經(jīng)計算與腦機(jī)交互團(tuán)隊的博士研究生黃中昱為論文第一作者，何暉光研究員為論文通訊作者，康奈爾大學(xué)博士研究生王贏珩、微軟亞洲研究院李朝卓研究員參與了合作研究。該研究得到了基金委、中國科學(xué)院以及CAAI-華為MindSpore學(xué)術(shù)獎勵基金及智能基座等項目的支持。
　　
　　論文鏈接：
　　
　　https://ieeexplore.ieee.org/document/10330013
　　
　　代碼鏈接：
　　
　　https://github.com/zhongyu1998/GTR