面向多GPU的圖神經(jīng)網(wǎng)絡(luò)訓(xùn)練加速

摘要： 圖神經(jīng)網(wǎng)絡(luò)由于其強(qiáng)大的表示能力和靈活性最近取得了廣泛的關(guān)注.隨著圖數(shù)據(jù)規(guī)模的增長和顯存容量的限制,基于傳統(tǒng)的通用深度學(xué)習(xí)系統(tǒng)進(jìn)行圖神經(jīng)網(wǎng)絡(luò)訓(xùn)練已經(jīng)難以滿足要求,無法充分發(fā)揮GPU設(shè)備的性能.如何高效利用GPU硬件進(jìn)行圖神經(jīng)網(wǎng)絡(luò)的訓(xùn)練已經(jīng)成為該領(lǐng)域重要的研究問題之一.傳統(tǒng)做法是基于稀疏矩陣乘法,完成圖神經(jīng)網(wǎng)絡(luò)中的計算過程,當(dāng)面對GPU顯存容量限制時,通過分布式矩陣乘法,把計算任務(wù)...