高性能異構(gòu)加速器MiniGo算子優(yōu)化方法
國(guó)防科技大學(xué)學(xué)報(bào)
頁(yè)數(shù): 10 2024-01-30
摘要: 根據(jù)高性能異構(gòu)加速器的特性和MiniGo的訓(xùn)練模式提出了一種高效的并行計(jì)算方法。對(duì)片上計(jì)算資源進(jìn)行合理規(guī)劃,實(shí)現(xiàn)異構(gòu)設(shè)備之間的流水并行優(yōu)化;根據(jù)異構(gòu)設(shè)備間存在共享存儲(chǔ)段設(shè)計(jì)了共享內(nèi)存編碼模式,減少數(shù)據(jù)傳輸開銷;根據(jù)數(shù)字信號(hào)處理簇內(nèi)具有多計(jì)算資源的特點(diǎn)結(jié)合算子計(jì)算-訪存特性設(shè)計(jì)了不同的算子并行計(jì)算優(yōu)化策略。同時(shí),面向TensorFlow實(shí)現(xiàn)了一個(gè)易于使用的高性能計(jì)算庫(kù)。實(shí)驗(yàn)結(jié)果顯...