英特爾介紹新AI超算：配4000片Gaudi 2 AI加速器

IT之家 9 月 20 日消息，英特爾在 2023 年 On 技術(shù)創(chuàng)新大會上，宣布將為 Stability AI 公司研發(fā)全新一代的 AI 超算，配有 4000 片 Gaudi 2 AI 加速器以及英特爾第五代至強(qiáng)處理器，從而滿足未來的 AI 場景需求。

微軟在新聞稿中并未披露該 AI 超算的算力，在官方宣傳中僅表示在上線之后會位列前 15 名。

英特爾已經(jīng)設(shè)法縮小了 Gaudi AI 加速器與 NVIDIA H100 等競爭對手之間的差距，盡管無法提供和 Hopper GPU 相同的性能潛力，但至少提供了更好的 TCO。

英特爾在今年 7 月召開的活動中，正式推出第二代 Gaudi 深度學(xué)習(xí)加速器 ——Habana? Gaudi?2，主要應(yīng)用于加速 AI 訓(xùn)練及推理。IT之家匯總該款處理器參數(shù)信息：

24 個可編程 Tensor 處理器核心（TPCs）

21 個 100Gbps（RoCEv2）以太網(wǎng)接口

96GB HBM2E 內(nèi)存容量

2.4TB / 秒的總內(nèi)存帶寬

48MB 片上 SRAM

集成多媒體處理引擎

英特爾目前已經(jīng)著手開發(fā) Gaudi 3，采用 5nm 工藝節(jié)點(diǎn)，提高 4 倍 BFloat16 能力、2 倍計(jì)算能力、1.5 倍網(wǎng)絡(luò)帶寬和 1.5 倍 HMB 能力（提高到 144 GB）。