基于鯤鵬和昇騰異構(gòu)平臺(tái)的單節(jié)點(diǎn)HPL-AI設(shè)計(jì)與優(yōu)化
華南理工大學(xué)學(xué)報(bào)(自然科學(xué)版)
頁(yè)數(shù): 10 2024-02-15
摘要: 鑒于低精度浮點(diǎn)運(yùn)算擁有更快的運(yùn)算速度,越來(lái)越多的高性能應(yīng)用采用混合精度方案進(jìn)行加速,而同樣采用該方案來(lái)加速的AI(人工智能)大模型也受到廣泛關(guān)注。最近,HPL-AI(High Performance LINPACK for Accelerator Introspection)基準(zhǔn)測(cè)試被提出,用于評(píng)估高性能系統(tǒng)的混合精度運(yùn)算性能。針對(duì)該基準(zhǔn)測(cè)試,本研究在鯤鵬和昇騰異構(gòu)平臺(tái)上設(shè)計(jì)并...