AI2.0需要怎樣的AI基礎設施？《新一代人工智能基礎設施白皮書》有答案｜科技觀察

封面新聞記者 邊雪

近日，商湯科技智能產業研究院與中國信息通信研究院云計算與大數據研究所，中國智能算力產業聯盟，人工智能算力產業生態聯盟，聯合發布《新一代人工智能基礎設施白皮書》（以下簡稱《白皮書》）。

《新一代人工智能基礎設施白皮書》（圖源商湯科技）

封面新聞記者注意到，《白皮書》不僅明確了“新一代AI基礎設施”的定義、特點和價值，還首次提出“新一代AI基礎設施評估體系”，為AI 2.0時代智算產業發展提供重要參考。

新一代AI基礎設施成為AI 2.0時代“新基建”

公開數據顯示，過去四年，大模型參數量以年均400%復合增長，AI算力需求增長超過15萬倍，遠超摩爾定律。以CPU為中心的傳統計算基礎設施已無法滿足大模型、生成式AI的新要求。大模型訓練對數據質量和效率的需求，企業應用生成式AI對于MaaS（大模型即服務）的需求，也都給AI基礎設施提出了全新要求。

AI 2.0時代，需要新一代的基礎設施來支撐大模型的訓練與推理、生成式AI應用的規?；涞兀浜诵囊?，如計算、存儲、網絡以及數據服務都要做精細化的設計和重構，而非簡單的服務器或GPU實例堆砌。

《白皮書》明確了新一代AI基礎設施的定義：以大模型能力輸出為核心平臺，集成算力資源、數據服務和云服務，專門設計用于最大限度提升大模型和生成式AI應用的表現：數據準備與管理、大模型訓練、推理、模型能力調用、生成式AI應用部署。企業通過新一代AI基礎設施開發和運行生成式AI業務和客戶應用程序，以及基模型和行業模型的訓練與微調。

《白皮書》指出，新一代AI基礎設施的建設將降低大模型開發和應用門檻，在政企服務、產業和科研創新等方面創造更大社會價值：面向產業，將加快推進傳統產業上下游各個環節的智能化轉型，催生新業態、新模式的不斷涌現。面向科研，可加速科學實驗的自動化和智能化，激發人工智能驅動科學研究（AI for Science）的新范式。面向政務，將原本分散、碎片化的政務應用，通過“一模通辦” 為政務服務提質增效。

首次提出新一代AI基礎設施評估體系

商湯科技引領新一代AI基礎設施

當前，新一代AI基礎設施市場處于高速競爭的初級階段，云計算、AI原生、硬件系統等各類廠商均有各自優勢。為了給企業用戶提供AI基礎設施選型的可靠性指導，《白皮書》首次提出了“新一代AI基礎設施評估體系”。通過產品技術、戰略愿景、市場生態三大維度、十二個評估指標，對AI基礎設施廠商綜合能力進行定性和定量的全面評估。

《白皮書》選取了十二家最具代表性的AI基礎設施廠商。商湯科技的新一代AI基礎設施 SenseCore商湯大裝置，在各個評估指標的得分均超過廠商平均分，并在市場響應、市場認知、產品戰略、工程化建設四個評估指標拿到滿分，成為新一代AI基礎設施市場的領導者。

《白皮書》指出，商湯在產品服務能力呈現出較強的產品實力和技術積累，不僅超前布局了算力基礎設施，還在MaaS平臺以及自身大模型業務的賦能下，形成了整套AI基礎設施產品架構，滿足客戶大模型訓練、生成式AI應用的大規模落地需求。

據悉，SenseCore商湯大裝置作為商湯推出的AI基礎設施產品與解決方案，總體算力規模目前已達6800P，在支持商湯自身大模型研發的同時，也支持外部客戶訓練大模型和應用部署。今年以來，共有超1000個參數量數十億至上千億的大模型在大裝置上完成訓練，實現了領跑行業的技術迭代進度，并支持了數十款生成式AI應用。

《白皮書》最后指出，隨著新一代AI基礎設施的邊際成本持續下降、邊際效益持續增長，AI將普惠每一個人。

【如果您有新聞線索，歡迎向我們報料，一經采納有費用酬謝。報料微信關注：ihxdsb，報料QQ：3386405712】