系統結合光子和電子以實現更快、更環保的計算
“Lightning”系統通過一種新的抽象層將光子連接到電腦的電子元件，創建了第一個光子電腦原型，以滿足即時機器學習推理請求。
來源: MIT NEWS
電腦正處於一個轉折點。由於在可負擔的微晶片上安裝更多的晶體管的物理限制，預測每年電子晶片上的晶體管數量將翻倍的摩爾定律正在減速。隨著對能夠支持越來越複雜的人工智慧模型的高性能電腦的需求增加，電腦性能的提升也在減緩。這種不便促使工程師探索擴展電腦性能的新方法，但解決方案仍不明確。
光子計算是滿足機器學習模型不斷增長的計算需求的一種潛在解決方案。這些系統不使用晶體管和電線，而是利用光子（微觀光粒子）在類比領域中執行計算操作。激光產生這些小束能量，它們像科幻電影中以光速飛行的太空船一樣以光速移動。當將光子計算核心添加到可程式化加速器（如網路卡（NIC）及其增強版本SmartNIC）中時，硬體可以插入標準電腦以實現超高速計算。
麻省理工學院的研究人員現在利用光子技術加速現代計算，並在機器學習中展示了其能力。他們的光子-電子可重配置的SmartNIC“Lightning”有助於深度神經網路（模仿大腦處理信息的機器學習模型）完成推理任務，如圖像識別和聊天機器人（如ChatGPT）中的語言生成。該原型的新穎設計實現了令人印象深刻的速度，創造了第一個能夠滿足實時機器學習推理請求的光子電腦系統。
儘管具有潛力，但實施光子電腦設備的一個主要挑戰是它們是被動的，這意味著它們缺乏記憶或指令來控制數據流動，不像它們的電子對應物。以前的光子電腦系統面臨這個瓶頸，但Lightning消除了這個障礙，以確保光子和電子組件之間的數據傳輸順利運行。
麻省理工學院電腦科學與人工智能實驗室（CSAIL）的助理教授Manya Ghobadi小組的博士後研究員Zhizhen Zhong表示：“光子計算在加速繁重的線性計算任務（如矩陣乘法）方面顯示出顯著優勢，同時它需要電子來處理其他任務：內存訪問、非線性計算和條件邏輯。這導致需要在光子和電子之間交換大量數據，以完成像機器學習推理請求這樣的現實世界計算任務。控制光子和電子之間的數據流動是過去最先進的光子計算工作的致命缺點。即使你有一台超快的光子計算機，如果沒有足夠的數據來驅動它，它就只是一台閒置運行的超級電腦，無法進行任何合理的計算。”
Ghobadi是麻省理工學院電機工程與電腦科學系（EECS）的副教授，也是CSAIL的成員，她和她的團隊同事是第一個識別並解決這個問題的人。為了實現這一壯舉，他們結合了光子的速度和電子計算機的數據流控制能力。
在Lightning之前，光子和電子計算方案獨立運行，使用不同的語言。該團隊的混合系統使用可重配置的計數-操作抽象來跟踪數據路徑上的所需計算操作，將光子連接到電腦的電子組件。這種編程抽象作為兩者之間的統一語言，控制數據流動的訪問。由電子攜帶的信息被轉化為光子形式的光，以光速協助完成推理任務。然後，光子被轉換回電子，將信息傳遞給電腦。
通過將光子學與電子學無縫連接，新型的計數動作抽象使得Lightning的快速實時計算頻率成為可能。以往的嘗試使用了一種停-行方法，這意味著數據會被一個更慢的控制軟體阻礙，該軟體對其移動做出所有決策。該論文的高級作者Ghobadi表示：“在沒有計數動作程式抽象的光子計算系統中，就像不知道如何駕駛一輛蘭博基尼一樣困難。你會怎麼做？你可能一手拿著駕駛手冊，然後踩離合器，然後查看手冊，然後放掉剎車，然後查看手冊，來回如此。這是一種停-行操作，因為對於每個決策，你都必須諮詢某個更高層次的實體告訴你該做什麼。但這不是我們的駕駛方式；我們學會駕駛後，就可以在不查看手冊或駕駛規則的情況下使用肌肉記憶。我們的計數動作程式抽象在Lightning中充當肌肉記憶。它可以在運行時無縫地驅動系統中的電子和光子。”
環保解決方案
目前，完成基於推理的機器學習任務（如ChatGPT和BERT）需要大量的計算資源。它們不僅昂貴——一些估計顯示，ChatGPT每個月需要300萬美元的運行費用——而且對環境有害，可能排放的二氧化碳超過平均人的兩倍。Lightning使用比電子在電線中移動更快的光子，同時產生較少的熱量，使其能夠以更高的頻率進行計算，同時更節能。
為了衡量這一點，Ghobadi小組將他們的設備與標準的圖形處理單元、數據處理單元、智能網卡和其他加速器進行了比較，通過合成一個Lightning晶片。該團隊觀察到，Lightning在完成推理請求時更節能。Ghobadi實驗室的研究生和論文的合著者之一Mingran Yang表示：“我們的合成和模擬研究表明，與最先進的加速器相比，Lightning將機器學習推理的功耗降低了數個數量級。”作為一種更具成本效益和更快速的選擇，Lightning為數據中心提供了一種潛在的升級方案，以減少其機器學習模型的碳足跡，同時加快用戶的推理響應時間。
※版權所有，歡迎媒體聯絡我們轉載；登錄本網按讚、留言、分享，皆可獲得 OCTOVERSE 點數（8-Coin），累積後可兌換獎品，相關辦法以官網公布為準※
