多模態(tài)高精度非線性激活函數(shù)協(xié)處理器設(shè)計(jì)
計(jì)算機(jī)輔助設(shè)計(jì)與圖形學(xué)學(xué)報(bào)
頁數(shù): 9 2024-04-30
摘要: 針對(duì)片上部署非線性激活函數(shù)產(chǎn)生的精度損失以及硬件資源開銷大的問題,提出一種基于三分法指數(shù)方法的多模態(tài)高精度非線性激活函數(shù)協(xié)處理器設(shè)計(jì).首先分析激活函數(shù)在不同擬合參數(shù)下的近似誤差以及運(yùn)算量,為設(shè)計(jì)提供指導(dǎo);然后設(shè)計(jì)一種模塊化的硬件框架,通過復(fù)用指數(shù)、對(duì)數(shù)、sigmoid模塊并結(jié)合浮點(diǎn)計(jì)算單元,能夠以較低的面積開銷部署多種激活函數(shù).在Xilinx的Vertix系列FPGA上完成原型...