SK海力士展示生成式AI加速卡AiMX原型:基于GDDR6-AiM構建
去年SK海力士宣布,已開發出具備計算功能的下一代內存半導體技術,首款基于該技術的產品為GDDR6AiM(AcceleratorinMemory/內存加速器),將計算功能添加到速率為16 Gbps的GDDR6上。
近日在AI Hardware & Edge AI Summit 2023上,SK海力士展示了基于內存計算功能技術打造的AiMX加速卡原型產品,里面搭載了GDDR6AiM,專門用于生成式人工智能(AI),比如ChatGPT。SK海力士還在配備了AiMX加速卡的服務器系統上演示了Meta的opt13b模型,與采用普通的GPU系統相比,數據處理時間縮短了10倍以上,而功耗僅為五分之一。
SK海力士表示,AiMX是一種比傳統GPU更低成本、更低功耗、性能更高的解決方案,未來將繼續開發引領人工智能時代的存儲技術。作為一種能夠處理大量數據的低功耗高速存儲器解決方案,SK海力士認為AiMX將在數據密集型生成式人工智能系統的發展中發揮關鍵作用。由于生成式人工智能的性能會隨著對更多數據的訓練而提高,更加凸顯了對應用于該系統的高性能產品的需求。
除了SK海力士以外,三星也有著相同的看法,在內存上集成的AI處理器,使其可以執行CPU、GPU、ASIC或FPGA的操作,未來還會將這項稱為PIM (processinginmemory) 的技術擴展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3內存上。三星在今年的Hot Chips 2023上還公布了HBMPIM和LPDDRPIM的最新研究成果,在AMD Instinct MI100上配備了HBMPIM內存,并將其應用于生成式人工智能。
-
鄭欽文今晚出戰!中央5臺直播節目表:CCTV5、CCTV5+播出乒乓球!
2025-06-12
-
臺風“蝴蝶”明日或將登陸,華南大部將有大到暴雨
2025-06-12
-
寧德紅日燃氣灶維修(如何自行解決常見問題)
2025-06-07
-
ws08m360ti故障(WS08M360Ti故障分析及解決辦法)
2025-06-07
-
萬和燃氣灶熄火維修(如何自行處理常見故障)
2025-06-07


