基于注意力機(jī)制和微分跟蹤器的寬度學(xué)習(xí)系統(tǒng)
深圳大學(xué)學(xué)報(bào)(理工版)
頁數(shù): 11 2024-08-20
摘要: 寬度學(xué)習(xí)系統(tǒng)(broad learning system, BLS)具有模型結(jié)構(gòu)簡單、訓(xùn)練效率高、易于解釋等優(yōu)勢,但存在特征學(xué)習(xí)能力不足以及泛化性能不穩(wěn)定的缺點(diǎn).為緩解此問題,提出一種基于自注意力機(jī)制和微分跟蹤器(tracking differentiator, TD)的寬度學(xué)習(xí)系統(tǒng),記為A-TD-BLS.在模型結(jié)構(gòu)上,A-TD-BLS在原始BLS模型的基礎(chǔ)上引入了自注意力機(jī)制...