谷歌推出超級電腦架構(gòu)Hypercomputer，整合主流深度學(xué)習(xí)框架

谷歌推出超級電腦架構(gòu)Hypercomputer，整合主流深度學(xué)習(xí)框架

IT之家 12 月 7 日消息，谷歌今日在推出全新大語言模型 Gemini 1.0、云端 AI 芯片 TPU v5p 外，還推出了超級電腦架構(gòu) AI Hypercomputer。

IT之家獲悉，AI Hypercomputer 電腦架構(gòu)號稱“軟硬結(jié)合”，整合了為 AI 優(yōu)化的硬件、開源軟件、主流深度學(xué)習(xí)框架，并號稱采用靈活的定價模式，便于商業(yè)及研究部門使用。

谷歌介紹稱，傳統(tǒng)深度學(xué)習(xí)硬件主要憑借硬件性能來加強(qiáng) AI 計算速度，而 AI Hypercomputer 超級電腦架構(gòu)實現(xiàn)了“軟硬結(jié)合”，利用軟件與硬件的協(xié)同式設(shè)計，提升 AI 訓(xùn)練效率。

谷歌聲稱，AI Hypercomputer 支持 JAX、TensorFlow 與 PyTorch 等深度學(xué)習(xí)框架，以及 Multislice Training 與 Multihost Inferencing 等軟件，還深度整合了谷歌 Kubernetes Engine（GKE）與 Compute Engine 兩款基礎(chǔ)架構(gòu)服務(wù)。

IT之家同時發(fā)現(xiàn)，谷歌強(qiáng)調(diào)了 AI Hypercomputer 在定價費率方面的獨特性，谷歌聲稱該 AI 結(jié)構(gòu)提供了更靈活的消費模式，使用了一項名為“Dynamic Workload Scheduler”的平臺計費基準(zhǔn)，提供“Flex Start”與“Calendar”。

Flex Start 主要用來微調(diào)模型，承載學(xué)術(shù)實驗及較短的訓(xùn)練任務(wù)，或進(jìn)行蒸餾、離線推理及批量性的任務(wù)，計費標(biāo)準(zhǔn)主要基于 AI 任務(wù)所使用的 GPU 與 TPU 量。

而 Calendar 模式則可替 AI 任務(wù)預(yù)留開始時間，適用于需要精確開始時間及模型訓(xùn)練持續(xù)時間的任務(wù)，計費標(biāo)準(zhǔn)主要基于時間長度。