為什麼OpenAI、微軟等公司要自行開發晶片？
隨著生成式人工智慧技術的需求增長，雲服務提供者如微軟、谷歌和AWS，以及大型語言模型（LLM）提供商如OpenAI，據稱都在考慮開發自己的AI工作負載自訂晶片。
來源: NETWORKWORLD
最近幾周，有關一些公司，特別是OpenAI和微軟，因晶片短缺而努力開發自己的自訂晶片來處理生成式AI工作負載的猜測一直佔據著頭條新聞。
OpenAI據傳正在尋求收購一家公司，以推進其晶片設計計畫，而微軟據報導正在與AMD合作生產一款代號為Athena的自訂晶片。
谷歌和AWS已經分別開發了用於AI工作負載的自有晶片，谷歌使用了Tensor處理單元（TPU），而AWS則使用了Trainium和Inferentia晶片。
但是，是什麼因素推動這些公司自行研發晶片？根據分析師和專家的說法，答案在於處理生成式AI查詢的成本以及目前可用晶片的效率，主要是圖形處理單元（GPU）。目前，Nvidia的A100和H100 GPU主導了AI晶片市場。
IDC的研究經理Nina Turner表示：“GPU可能不是生成式AI工作負載的最有效處理器，自訂晶片可能有助於解決他們的問題。”
TechInsights的副主席Dan Hutcheson指出，GPU是通用設備，恰巧在AI的基本數學操作——矩陣求逆中非常高效。
“它們的運行成本非常昂貴。我認為這些公司正在尋找一種針對他們工作負載進行了優化的處理器架構，以應對成本問題，” Hutcheson說。
根據Turner的說法，使用自訂晶片可能使微軟和OpenAI等公司減少功耗，改進計算互聯或記憶體存取，從而降低查詢成本。
據研究公司SemiAnalysis的報告，OpenAI每天的ChatGPT運營成本約為694,444美元，每個查詢的成本為36美分。
“AI工作負載並不專門需要GPU，”Turner說，儘管GPU在並行處理方面表現出色，但也有其他架構和加速器更適合進行此類基於AI的操作。
自訂晶片的其他優勢包括控制對晶片的訪問以及專門為LLM設計項目以提高查詢速度，Turner說。
研發自訂晶片並不容易
一些分析師還將設計自訂晶片的行為比作蘋果為其設備生產晶片的戰略。正如蘋果從通用處理器轉向自訂晶片以提高其設備性能一樣，生成式AI服務提供者也希望專門化其晶片架構，根據Forrester的研究總監Glenn O’Donnell的說法。
“儘管目前Nvidia的GPU非常流行，但它們也是通用設備。如果您真的想讓事情變得更快，您需要一款針對特定功能進行了優化的晶片，例如影像處理或專門的生成式AI，”O’Donnell解釋道，他補充說，自訂晶片可能是解決這種情況的答案。
然而，專家表示，對於任何公司來說，開發自訂晶片可能並不容易。
Gartner的副總裁和分析師Gaurav Gupta表示：“高投資、長的設計和開發週期、複雜的供應鏈問題、人才稀缺、能夠證明支出的足夠數量以及對整個過程的瞭解不足等多個挑戰，是開發自訂晶片的障礙。”
O’Donnell的觀點得到了一些大型技術公司收購初創公司來開發自己的自訂晶片或與具有相關專業知識的公司合作的例子的支持。AWS在2015年收購了以色列初創公司Annapurna Labs以開發其產品的自訂晶片。穀歌則與Broadcom合作製造其AI晶片。
OpenAI或微軟的晶片短缺可能不是主要問題
雖然OpenAI據稱正在尋求收購初創公司以開發支援其AI工作負載的自訂晶片，但專家認為這一計畫可能與晶片短缺無關，而更多地與支援LLM的推理工作負載有關，因為微軟不斷為其應用添加AI功能，並為其生成式AI服務簽約客戶。
根據Omdia的首席分析師Alexander Harrowell的說法，OpenAI可能具有一些現有供應商無法滿足的需求，他認為可能是購買成本較低且更便宜的推理部分，而不是大規模GPU，甚至頂級的Sapphire Rapids處理器。他補充說，他的觀點是基於首席執行官Sam Altman的言論，即GPT-4不太可能進一步擴大規模，而更需要改進。與生成式AI相比，擴展LLM需要更多的計算能力。推理是使用經過訓練的LLM來生成更準確的預測或結果的過程。
此外，分析師表示，對於OpenAI來說，收購大型晶片設計公司可能不是一個明智的決策，因為設計並準備生產晶片大約需要1億美元。
Turner表示，ChatGPT製造商可以考慮收購擁有AI加速器的初創公司，她補充說，這種舉措更經濟合算。
為支援推理工作負載，收購目標可能包括矽谷公司，如Groq、Esperanto Technologies、Tenstorrent和Neureality，Harrowell表示，如果OpenAI願意放棄Nvidia的GPU，並從僅雲端的方法過渡到本地部署，那麼SambaNova也可能是一個潛在的收購目標。
※版權所有，歡迎媒體聯絡我們轉載；登錄本網按讚、留言、分享，皆可獲得 OCTOVERSE 點數（8-Coin），累積後可兌換獎品，相關辦法以官網公布為準※
