人工智慧模型很強大，但它們在生物學上是否合理？
一項將神經科學和機器學習聯繫起來的新研究為星形膠質細胞在人腦中的潛在作用提供了見解。
來源: MIT NEWS
人工神經網路，無處不在的機器學習模型，可以訓練完成許多任務，之所以被稱為，是因為它們的架構受到生物神經元處理人腦資訊的方式的啟發。
大約六年前，科學家們發現了一種新型的更強大的神經網路模型，稱為轉換器。這些模型可以實現前所未有的性能，例如通過以近乎人類般的精度從提示生成文本。例如， 轉換器是ChatGPT 和Bard等AI系統的基礎。雖然變形金剛非常有效，但它也很神秘：與其他受大腦啟發的神經網路模型不同，目前尚不清楚如何使用生物元件構建它們。
現在，麻省理工學院、麻省理工學院-IBM沃森人工智慧實驗室和哈佛醫學院的研究人員提出了一個假設，可以解釋如何使用大腦中的生物元素來構建轉換器。他們認為，由神經元和其他稱為星形膠質細胞的腦細胞組成的生物網路可以執行與轉換器相同的核心計算。
最近的研究表明，星形膠質細胞是大腦中豐富的非神經元細胞，與神經元交流並在一些生理過程中發揮作用，如調節血流。但科學家們仍然缺乏對這些細胞在計算上的作用的清晰理解。
隨著本周以開放獲取格式發表在《美國國家科學院院刊》上的這項新研究，研究人員從計算的角度探索了星形膠質細胞在大腦中的作用，並製作了一個數學模型，展示了如何使用它們與神經元一起構建生物學上合理的轉換器。
他們的假設提供了一些見解，可以激發未來對人類大腦如何工作的神經科學研究。與此同時，它可以幫助機器學習研究人員解釋為什麼轉換器在各種複雜任務中如此成功。
“大腦甚至遠遠優於我們開發的最好的人工神經網路，但我們並不真正知道大腦是如何工作的。思考生物硬體和大規模人工智慧網路之間的聯繫具有科學價值。這是人工智慧的神經科學和神經科學的人工智慧，「麻省理工學院-IBM沃森人工智慧實驗室的研究人員，該研究論文的高級作者Dmitry Krotov說。
與Krotov一起發表論文的是主要作者Leo Kozachkov，麻省理工學院腦與認知科學系的博士後;和Ksenia V。 卡斯塔年卡，哈佛醫學院神經生物學助理教授，麻省綜合研究所助理研究員。
生物學上的不可能變得合理
轉換器的工作方式與其他神經網路模型不同。例如，為自然語言處理訓練的遞歸神經網路會將句子中的每個單詞與由前一個單詞確定的內部狀態進行比較。另一方面，轉換器一次比較句子中的所有單詞以生成預測，這一過程稱為自我注意。
Krotov解釋說，為了使自我注意力起作用，轉換器必須將所有單詞準備好在某種形式的記憶中，但由於神經元的交流方式，這在生物學上似乎是不可能的。
然而，幾年前，研究一種稍微不同類型的機器學習模型（稱為密集相關記憶）的科學家意識到，這種自我注意機制可能發生在大腦中，但前提是至少三個神經元之間存在通信。
“我突然發現第三個，因為在神經科學中眾所周知，這些被稱為星形膠質細胞的細胞，它們不是神經元，與神經元形成三向連接，稱為三方突觸，” Kozachkov 說。
當兩個神經元通信時，突觸前神經元將稱為神經遞質的化學物質發送到突觸中，將其連接到突觸後神經元。有時，星形膠質細胞也連接起來——它在突觸周圍纏繞著一條細長的觸手，形成一個三方（三部分）突觸。一個星形膠質細胞可能形成數百萬個三方突觸。
星形膠質細胞收集一些流經突觸接頭的神經遞質。在某些時候，星形膠質細胞可以向神經元發出信號。因為星形膠質細胞在比神經元更長的時間尺度上運作——它們通過緩慢提高鈣反應然後降低鈣反應來產生信號——這些細胞可以保存和整合從神經元傳達給它們的資訊。通過這種方式，星形膠質細胞可以形成一種記憶緩衝區， Krotov 說。
“如果你從這個角度考慮，那麼星形膠質細胞對於我們在轉換器內執行注意力操作所需的精確計算是非常自然的，”他補充道。
構建神經元-星形膠質細胞網路
有了這一見解，研究人員形成了他們的假設，即星形膠質細胞可以在轉換器的計算方式中發揮作用。然後，他們著手建立一個神經元-星形膠質細胞網路的數學模型，該模型將像轉換器一樣運行。
他們採用了構成轉換器的核心數學，並根據對文獻和神經科學家合作者的指導，開發了星形膠質細胞和神經元在大腦中交流時所做的事情的簡單生物物理模型。
然後他們以某些方式組合模型，直到他們得出描述轉換器自我注意力的神經元 – 星形膠質細胞網路的方程。
“有時，我們發現我們想要實現的某些事情無法合理地實施。因此，我們必須考慮解決方法。論文中有一些東西非常仔細地近似轉換器架構，以便能夠以生物學上合理的方式匹配它，“ Kozachkov 說。
通過他們的分析，研究人員表明，他們的生物物理神經元 – 星形膠質細胞網路理論上與變壓器匹配。此外，他們通過將圖像和文本段落提供給變壓器模型並將回應與其類比的神經元 – 星形膠質細胞網路的響應進行比較來進行數值類比。兩人都以類似的方式回應提示，證實了他們的理論模型。
“星形膠質細胞在一個多世紀的大腦記錄中保持電沉默，是大腦中最豐富但探索最少的細胞之一。釋放我們大腦另一半計算能力的潛力是巨大的，「羅格斯大學計算機科學副教授Konstantinos Michmizos說，他沒有參與這項工作。“這項研究開闢了一個引人入勝的迭代迴圈，從瞭解智能行為如何真正出現在大腦中，到將破壞性假設轉化為展示類似人類智慧的新工具。
研究人員的下一步是從理論到實踐的飛躍。他們希望將模型的預測與生物實驗中觀察到的預測進行比較，並利用這些知識來完善或可能反駁他們的假設。
此外，他們研究的一個含義是星形膠質細胞可能參與長期記憶，因為網路需要存儲資訊才能在未來對其採取行動。進一步的研究可以進一步調查這個想法， Krotov 說。
“由於很多原因，星形膠質細胞對認知和行為非常重要，它們的運作方式與神經元根本不同。我對這篇論文的最大希望是它催化了一系列計算神經科學對神經膠質細胞的研究，特別是星形膠質細胞，“Kozachkov補充道。
※版權所有，歡迎媒體聯絡我們轉載；登錄本網按讚、留言、分享，皆可獲得 OCTOVERSE 點數（8-Coin），累積後可兌換獎品，相關辦法以官網公布為準※
