英特爾建造了大型AI超級電腦:Xeon與Gaudi2相遇

Author Avatar

OctoVerse

Joined: Feb 2022

Stability AI 首次使用英特爾的 Xeon + Gaudi2 超級電腦。

來源: Tomeshardware

英特爾於週二宣佈,其 Gaudi2 加速器在人工智慧(AI)工作負載方面進行了全球首次大規模部署。這台與戴爾合作建造的超級電腦將由Stability AI用於其生成式AI應用。

英特爾的新超級電腦基於該公司最新的英特爾Xeon處理器,運行多達4,000個英特爾Habana Gaudi2 AI硬體加速器。假設每台機器採用八個Habana Gaudi2處理器的OAM形態因數(這是OAM機器的典型形態),該機器最多可擁有500個節點。鑒於英特爾的Gaudi2在某些應用中提供了與Nvidia的H100相當的強大性能,這台超級電腦應該非常強大。我們可能會看到7-8 FP16 ExaFLOPS的AI性能。

英特爾和戴爾沒有透露他們是否將繼續合作開發AI超級電腦。與此同時,對於晶片設計師來說,世界上最大的伺服器供應商之一擁有PowerEdge機器,其搭載了Xeon可擴展處理器和專為AI工作負載開發的Habana Gaudi2加速器,這一點非常重要。這些機器旨在處理大規模訓練和基礎推理。

除了戴爾,阿裡巴巴雲表示,第四代Xeon在其模型服務平臺DashScope程式中,當與高級矩陣擴展(Intel AMX)加速器和各種軟體優化一起使用時,可以實現3倍的推理速度。

英特爾的處理器驅動著眾多超級電腦,甚至包括Nvidia的DGX H100系統,用於AI和高性能計算(HPC)應用,但該公司自己的AI加速器和計算GPU並不令人滿意,迄今為止,基於Gaudi / Gaudi2或Ponte Vecchio的AI部署非常少。與Stability AI一起使用Gaudi2,將會有其他公司選擇嘗試的情況,這將是非常有趣的。

※版權所有,歡迎媒體聯絡我們轉載;登錄本網按讚、留言、分享,皆可獲得 OCTOVERSE 點數(8-Coin),累積後可兌換獎品,相關辦法以官網公布為準※

新增留言