為何人腦能每天學(xué)習(xí)新事物,而且不必拋棄舊有記憶為新記憶騰出儲存空間?正在開發(fā)模仿人腦的機器算法之研究人員,試圖尋找各種答案。電子設(shè)計模塊
一個相對較新的算法解決方案,是以生物學(xué)家在神經(jīng)生成(neurogenesis)──也就是新腦細胞(神經(jīng)元)的成長,以及舊腦細胞的消滅,還有這些腦細胞之間的大大小小連結(jié)(較強或較弱的突觸);主要是在海馬回(hippocampus)內(nèi)──方面的最新發(fā)現(xiàn)為基礎(chǔ)。
IBM Research的一個研究團隊假設(shè),神經(jīng)生成是海馬回內(nèi)稀疏字典學(xué)習(xí)(Sparse dictionary learning)的關(guān)鍵;他們認為,其功能是將最高效率的大腦編碼保持在最新狀態(tài)。
為了證實他們對于海馬回內(nèi)的神經(jīng)生長、死亡功能之假設(shè),IBM Research研究人員開發(fā)了神經(jīng)生成在線字典學(xué)習(xí)(neurogenetic online dictionary learning,NODL)算法,號稱表現(xiàn)超越標(biāo)準(zhǔn)的ODL算法,透過建立更精簡的表示方法(representation),改善了重建的準(zhǔn)確度。
IBM是在8月底于澳洲墨爾本舉行的IJCAI 2017國際人工智能聯(lián)合會上發(fā)表其最新研究成果;IBM Research的AI基礎(chǔ)研究團隊科學(xué)家Irina Rish接受EE Times專訪時表示:“人們總是認為,所有的腦細胞都是跟我們一起誕生,這些細胞可能會死亡,但是不會有新的腦細胞出生;但事實證明,很多大腦的干細胞(stem cells)是可以被打開,例如可取代受損的細胞。”
她表示,在海馬回內(nèi)的大腦干細胞一直處于開啟狀態(tài),以制造新的神經(jīng)元支持更好的大腦編碼;同樣的,糟糕的編碼會讓該神經(jīng)元死亡。IBM的研究團隊用標(biāo)準(zhǔn)化影像數(shù)據(jù)集來評估其NODL算法;從圖中可見NODL (藍色)表現(xiàn)超越ODL (紫色),藉由建立了更精簡的表示方法改善了重建準(zhǔn)確度(來源:IBM Research)
Rish是專攻人工智能的計算機科學(xué)家,她第一份工作是在IBM的機器學(xué)習(xí)團隊,研究如何利用AI來診斷疾??;后來她轉(zhuǎn)調(diào)IBM的運算神經(jīng)科學(xué)(computational neuroscience)團隊,現(xiàn)在則是加入AI基礎(chǔ)研究實驗室(AI Foundations Lab),負責(zé)開發(fā)深度學(xué)習(xí)以外模擬人腦各方面微妙功能的算法:“我們是第一個針對海馬回干細胞神經(jīng)元生/死功能進行詳盡分析的團隊。”
IBM在IJCAI大會上,以“神經(jīng)生成啟發(fā)字典學(xué)習(xí):適應(yīng)世界變化的在線模型”(Neurogenesis-Inspired Dictionary Learning: Online Model Adaption in a Changing World)為題,分享了其神經(jīng)生成在線字典學(xué)習(xí)模型,具備能適應(yīng)環(huán)境改變的加強能力,并展示了其NODL算法在準(zhǔn)確度上超越標(biāo)準(zhǔn)ODL的成果。
Rish的團隊并沒有嘗試模仿海馬回內(nèi)的神經(jīng)生成,因為歐盟的Blue Brain研究項目正在進行這方面的研究;IBM研究人員試圖揭開神經(jīng)生成功能奧秘,然后將結(jié)果導(dǎo)入軟件算法,以執(zhí)行相同的功能。Rish的團隊并假設(shè)海馬回中的齒狀回(dentate gyrusof),能改善認知功能,包括識別與分辨圖形。
深度學(xué)習(xí)算法通常是模仿人腦的神經(jīng)可塑性(neuroplasticity)──也就是突觸的使用增加就能使之強化,反之突觸很少使用就會萎縮;而神經(jīng)生成透過新生成稀疏神經(jīng)網(wǎng)絡(luò)來完成全新任務(wù),又藉由讓老舊、很少使用的神經(jīng)元死亡來徹底抹除過時任務(wù),如此為機器學(xué)習(xí)添加全新的面向,能定義全新的感知數(shù)據(jù)集「字典」、同時淘汰舊的,以響應(yīng)環(huán)境的改變。