51黑料吃瓜在线观看,51黑料官网|51黑料捷克街头搭讪_51黑料入口最新视频

設(shè)為首頁(yè) |  加入收藏
首頁(yè)首頁(yè) 期刊簡(jiǎn)介 消息通知 編委會(huì) 電子期刊 投稿須知 廣告合作 聯(lián)系我們
一種基于知識(shí)蒸餾和注意力損失的時(shí)間增量學(xué)習(xí)系統(tǒng)

作者: 李明愛(ài);徐裕超; 
單位:1.北京工業(yè)大學(xué)信息科學(xué)技術(shù)學(xué)院2.計(jì)算智能與智能系統(tǒng)北京市重點(diǎn)實(shí)驗(yàn)室3.數(shù)字社區(qū)教育部工程研究中心
關(guān)鍵詞: 腦電信號(hào);運(yùn)動(dòng)想像;增量學(xué)習(xí);知識(shí)蒸餾;注意力機(jī)制; 
分類號(hào):
出版年·卷·期(頁(yè)碼):2024·43·6(575-583)
摘要:

目的 基于深度學(xué)習(xí)的運(yùn)動(dòng)想像腦機(jī)接口技術(shù)在智能康復(fù)領(lǐng)域具有很好的發(fā)展前景。然而,運(yùn)動(dòng)想像腦電信號(hào)(motor imagery-electroencephalogram, MI-EEG)是一種非平穩(wěn)信號(hào),其數(shù)據(jù)分布和特征空間會(huì)隨著康復(fù)進(jìn)程的推進(jìn)而發(fā)生變化,這會(huì)導(dǎo)致卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network, CNN)模型的識(shí)別能力下降。為改善運(yùn)動(dòng)想像解碼模型對(duì)時(shí)間的自適應(yīng)性,本文提出一種基于知識(shí)蒸餾和注意力損失的時(shí)間增量學(xué)習(xí)系統(tǒng)(session-incremental learning system, SILS)。方法 首先,對(duì)運(yùn)動(dòng)想象腦電信號(hào)進(jìn)行帶通濾波和下采樣等預(yù)處理,以增強(qiáng)與運(yùn)動(dòng)想象相關(guān)的信息;其次,設(shè)計(jì)一種多分支雙注意力多模塊卷積神經(jīng)網(wǎng)絡(luò)對(duì)多導(dǎo)聯(lián)MI-EEG進(jìn)行多尺度時(shí)間特征和空間特征的提取與整合,并基于注意力機(jī)制增強(qiáng)通道和空間維度的關(guān)鍵信息;然后,利用知識(shí)蒸餾技術(shù)及注意力損失改善增量時(shí)期解碼模型持續(xù)學(xué)習(xí)新知識(shí)和保留舊知識(shí)的能力;進(jìn)一步,基于最近鄰法挑選少量?jī)?yōu)質(zhì)舊樣本進(jìn)行數(shù)據(jù)回放,提升增量模型的抗遺忘性能力;最后,基于BCI Competition IV Dataset 2b公開(kāi)數(shù)據(jù)集進(jìn)行大量實(shí)驗(yàn)研究,通過(guò)可塑性和穩(wěn)定性兩項(xiàng)指標(biāo)驗(yàn)證SILS性能。結(jié)果 SILS對(duì)第1~5階段的數(shù)據(jù)依次取得79.21%、79.05%、89.06%、88.38%和88.47%的平均準(zhǔn)確率,第5階段的SILS對(duì)第1~4時(shí)段(session)數(shù)據(jù)的平均遺忘率分別為9.72%、9.10%、9.88%和6.04%。結(jié)論 SILS具有自動(dòng)調(diào)整模型參數(shù),保持持續(xù)學(xué)習(xí)和自我更新的能力,表現(xiàn)出很好的時(shí)間適應(yīng)性和性能穩(wěn)定性。

參考文獻(xiàn):

服務(wù)與反饋:
文章下載】【加入收藏
提示:您還未登錄,請(qǐng)登錄!點(diǎn)此登錄
 
友情鏈接  
地址:北京安定門外安貞醫(yī)院內(nèi)北京生物醫(yī)學(xué)工程編輯部
電話:010-64456508  傳真:010-64456661
電子郵箱:[email protected]