【儀表網(wǎng) 研發(fā)快訊】近日，上海交通大學電子信息與電氣工程學院計算機科學與工程系鄭偉龍團隊在類腦智能領域取得重要進展，相關研究成果以“Rapid context inference in a thalamocortical model using recurrent neural networks”(基于遞歸神經網(wǎng)絡的丘腦皮層模型中的快速情境推斷)為題在國際著名期刊《Nature Communications》上發(fā)表。
 

研究背景
 

　　情境是一個抽象的目標、記憶和外部線索的集合，這些信息有助于產生適當?shù)男袨榉磻?。人類和動物基于變化的情境信息表現(xiàn)出靈活的決策能力。這種靈活性體現(xiàn)在能夠生成情境依賴的學習行為，并快速、靈活地適應新情境，而不覆蓋先前的學習。為了實現(xiàn)這些目標，情境推斷是支撐認知靈活性許多方面的基本過程。來自人類和動物研究的實驗證據(jù)強調了情境推斷的重要性。研究表明，情境推斷障礙與認知靈活性降低與多種心理障礙疾病(如精神分裂癥)相關聯(lián)。
 

　　情境推斷背后的神經機制仍然在研究中，例如其相關神經生理機制和計算理論。已有研究表明，前額皮層(PFC)在認知靈活性中發(fā)揮著關鍵作用。PFC接收來自其他腦區(qū)(包括皮層、丘腦和杏仁核)的多種輸入，同時也輸出到這些腦區(qū)。在這些腦區(qū)中，內側背丘腦(MD)最近受到特別關注，因為它與PFC之間有著密集的投射關系。近期研究表明，MD調節(jié)PFC神經元動態(tài)及其有效連接，以支持適應性行為。具體而言，MD神經元增強局部皮層的連接性，并維持PFC中的規(guī)則表示。MD編碼情境信息(刺激呈現(xiàn)的統(tǒng)計規(guī)律)，并調節(jié)PFC神經元反應。通過這種方式，MD維持與情境相關的PFC表征，同時抑制與情境無關的表征。小鼠行為表現(xiàn)的實驗結果表明，情境推斷可以在僅僅幾次試驗內迅速發(fā)生。除了在情境推斷中的作用外，MD還與一系列其他認知功能有關。這些發(fā)現(xiàn)強調了丘腦皮層相互作用在推斷時間情境中的關鍵作用，這是認知靈活性的一個重要組成部分。
 

　　近年來，遞歸神經網(wǎng)絡(RNN)被廣泛用于前額皮層(PFC)動態(tài)的計算建模。盡管神經網(wǎng)絡在各種認知任務中表現(xiàn)良好，但當任務按順序學習時，它們通常會遭遇嚴重的性能下降，稱為災難性遺忘。在這種情況下，整個神經網(wǎng)絡在學習新任務時需要重新訓練，而不保護對過去任務的先前學習知識。持續(xù)學習或終身學習在動態(tài)環(huán)境中對人類學習至關重要，使模型能夠同時解決不同的任務而不發(fā)生干擾。學術界提出了許多持續(xù)學習方法，主要分為三種策略：基于重放的方法、基于正則化的方法和基于架構的方法。然而，大多數(shù)持續(xù)學習方法在訓練過程中需要明確的任務標簽。例如，提供任務標簽的獨熱編碼向量作為模型的輸入。在執(zhí)行任務時，如何快速而準確地從神經表征中推斷出任務標簽或時間情境信息尚不清楚。在本研究中，研究團隊展示了將丘腦皮層神經環(huán)路的生物特性融入神經網(wǎng)絡，可以幫助網(wǎng)絡在僅僅幾次試驗內持續(xù)推斷時間情境信息，并在動態(tài)變化的環(huán)境中實現(xiàn)持續(xù)學習。
 

　　為了開發(fā)快速的在線情境推斷計算模型，研究團隊在本研究中提出了新穎的雙系統(tǒng)遞歸神經網(wǎng)絡模型，包含MD丘腦模塊和PFC模塊。模型采用基于赫布學習的突觸可塑性，以無監(jiān)督的方式在PFC和MD之間進行，使MD模塊能夠通過整合試驗中的情境相關活動來推斷時間情境。MD投射對PFC的任務表征進行調控，以避免不同任務表征之間的干擾。研究團隊訓練網(wǎng)絡實現(xiàn)情境依賴決策任務，這與動物實驗小鼠接受的注意力引導行為任務相似。PFC-MD神經網(wǎng)絡結果與小鼠的PFC和MD的神經記錄一致。研究團隊發(fā)現(xiàn)，PFC-MD網(wǎng)絡在靈活切換時間情境任務方面優(yōu)于僅有PFC的模型。研究團隊還評估了模型在更一般的認知任務上的性能，并將模型性能與現(xiàn)有的生物學上合理的持續(xù)學習方法進行了比較。實驗結果表明，PFC-MD神經網(wǎng)絡在持續(xù)學習和知識遷移方面具有計算優(yōu)勢。
 

　　研究亮點
 

　　認知靈活性是一種使人類和動物能夠在各種情境中表現(xiàn)出適當行為的基本能力。前額皮層(PFC)與內側背丘腦(MD)之間的丘腦皮層相互作用被認為對推斷時間情境至關重要?？焖偾榫惩茢嗍钦J知靈活性的重要組成部分。然而，負責情境推斷的相關神經機制仍不清楚。為了解決這一問題，研究團隊提出了一個利用赫布可塑性規(guī)則的PFC-MD神經網(wǎng)絡模型，以支持快速的在線情境推斷。具體而言，模型中的MD丘腦能夠在較少次試驗中從前額葉皮層輸入推斷時間情境信息。這個主要是利用本研究設計的具有pre-synaptic trace和自適應閾值的前額皮層到丘腦突觸可塑性規(guī)則，以及丘腦winner-take-all歸一化來實現(xiàn)的。此外，丘腦模塊能夠調控前額皮層中與情境無關的神經元活動，從而促進持續(xù)學習。研究團隊通過讓模型順序學習各種認知任務來評估其性能。實驗結果表明，引入類似丘腦神經模塊減輕了對先前任務的災難性遺忘，并展示了向未來任務學習的知識遷移能力。研究團隊的研究利用了丘腦皮層神經環(huán)路的神經網(wǎng)絡特性來實現(xiàn)快速情境推斷和持續(xù)學習。
 

　　研究內容
 

圖1 具有突觸可塑性的PFC-MD模型框架
 

　　研究團隊設計了具有赫布學習規(guī)則的皮層-丘腦神經網(wǎng)絡模型，在PFC至MD的連接中推斷時間情境，并在PFC中實現(xiàn)MD門控。傳統(tǒng)的人工神經網(wǎng)絡針對單一情境或任務進行優(yōu)化，容易遭遇災難性遺忘。在新情境或任務中，舊情境或任務中學習到的關鍵模型參數(shù)被改變。研究團隊提出了具有pre-synaptic and post-synaptic trances、自適應閾值和winner-take-all機制的突觸可塑性規(guī)則，以使神經網(wǎng)絡能夠推斷時間情境并實現(xiàn)持續(xù)學習。
 

圖2 PFC-MD神經網(wǎng)絡模型中對時間情境的選擇性編碼
 

　　研究團隊提出的模型與Rikhye及其同事的實驗結果一致。分類結果顯示，PFC中可以解碼到規(guī)則和情境信息，而MD中只能解碼到情境信息。研究團隊提出的PFC與MD之間的可塑性規(guī)則選擇性地使MD能夠從PFC獲取情境信息。該可塑性規(guī)則支持快速的在線情境推斷。另外，MD在各種噪聲條件下的情境解碼表現(xiàn)優(yōu)于PFC。
 

圖3 在更復雜的認知任務上實現(xiàn)快速MD情境推斷
 

　　研究團隊研究了PFC-MD模型在需要動態(tài)處理輸入和在遞歸網(wǎng)絡中學習的更復雜任務中的魯棒性，例如各種認知功能，包括工作記憶、決策、分類和抑制控制等任務。為了使模型能夠泛化到更加復雜的認知任務，研究團隊通過添加一個新的PFC-ctx模塊，提出了新的丘腦皮層相互作用方式，將任務學習和情境推斷分為兩個路徑。通過整合試驗中PFC-ctx的神經活動，MD能夠選擇性地編碼時間情境。情境編碼的模型結果顯示了PFC-ctx與MD之間顯著的性能差距，這與小鼠實驗數(shù)據(jù)中PFC快速放電神經元和MD神經元之間的性能差距一致。
 

圖4 MD模塊支持PFC中的持續(xù)學習
 

　　除了推斷時間情境，MD對PFC有兩種不同的效應：乘法效應和加法效應，分別是特定于情境的神經連接增強和神經活動抑制。通過引入MD模塊，不同情境/任務之間的神經表征變得不相交，從而促進PFC內的有效群體編碼，實現(xiàn)持續(xù)學習。PFC-MD模型的表現(xiàn)優(yōu)于其他持續(xù)學習模型，主要得益于MD介導的抑制。PFC-MD模型對學習的情境知識具有權重保護機制。
 

圖 5 PFC-MD模型的正向遷移與任務相似性測量
 

　　人類和動物的大腦不僅僅是避免遺忘，還表現(xiàn)出在從先前學習的任務中轉移知識的高度靈活性，這一現(xiàn)象稱為正向遷移。具體而言，正向遷移指的是先前學習的任務能夠提升相關未來任務的表現(xiàn)和學習效率。為了使PFC-MD模型具備正向遷移的能力，模型允許不同認知任務共享一部分PFC神經元。除了抑制與任務無關的PFC神經元外，任務選擇性MD神經元還維持了一些在不同任務中共同的PFC神經元活動。MD至PFC的投射可以根據(jù)任務相似性進行調整。因此，對應于MD至PFC效應的不相交或重疊，PFC中的任務表征可以是完全模塊化的或部分模塊化的。實驗結果表明，具有重疊效應的PFC-MD模型在持續(xù)學習和正向遷移方面表現(xiàn)出對更相似任務的性能提升。
 

　　研究團隊
 

　　上海交通大學電子信息與電氣工程學院計算機科學與工程系仿腦計算與機器智能研究中心鄭偉龍副教授為該論文的唯一第一作者和共同通訊作者，上海交通大學為該論文的第一單位和共同通訊單位。論文合作者還包括德克薩斯大學奧斯汀分校Zhongxuan Wu、麻省理工學院的Ali Hummos和Guangyu Robert Yang，以及塔夫茨大學醫(yī)學院的Michael M. Halassa。該工作得到了國家自然科學基金、科技創(chuàng)新2030重大項目和上海浦江人才計劃等項目的資助。
 

　　鄭偉龍，上海交通大學計算機科學與工程系長聘教軌副教授，博士生導師。入選國家級高層次海外青年人才和上海市海外高層次青年人才。他于2018年在上海交通大學計算機科學與工程系獲得博士學位，之后在哈佛大學醫(yī)學院麻省總醫(yī)院和麻省理工學院從事博士后研究，長期從事腦認知與智能、情感計算、腦機交互、類腦計算理論與模型等方面研究。在國際高水平會議和期刊發(fā)表研究論文100余篇，多篇論文入選ESI高被引論文。榮獲IEEE Transactions on Autonomous Mental Development最佳論文獎、IEEE Transactions on Affective Computing最佳論文獎、ACM Multimedia Top Paper Award、中國人工智能學會優(yōu)秀博士學位論文獎以及吳文俊人工智能自然科學一等獎，入選上海市浦江人才項目、小米青年學者、微軟亞洲研究院鑄星計劃、AI華人青年學者榜單、2023全球前2%科學家年度影響力榜單。目前擔任IEEE Transactions on Affective Computing編委。