SK海力士展示生成式AI加速卡AiMX原型:基于GDDR6-AiM構(gòu)建
去年SK海力士宣布,已開(kāi)發(fā)出具備計(jì)算功能的下一代內(nèi)存半導(dǎo)體技術(shù),首款基于該技術(shù)的產(chǎn)品為GDDR6AiM(AcceleratorinMemory/內(nèi)存加速器),將計(jì)算功能添加到速率為16 Gbps的GDDR6上。
近日在AI Hardware & Edge AI Summit 2023上,SK海力士展示了基于內(nèi)存計(jì)算功能技術(shù)打造的AiMX加速卡原型產(chǎn)品,里面搭載了GDDR6AiM,專門(mén)用于生成式人工智能(AI),比如ChatGPT。SK海力士還在配備了AiMX加速卡的服務(wù)器系統(tǒng)上演示了Meta的opt13b模型,與采用普通的GPU系統(tǒng)相比,數(shù)據(jù)處理時(shí)間縮短了10倍以上,而功耗僅為五分之一。
SK海力士表示,AiMX是一種比傳統(tǒng)GPU更低成本、更低功耗、性能更高的解決方案,未來(lái)將繼續(xù)開(kāi)發(fā)引領(lǐng)人工智能時(shí)代的存儲(chǔ)技術(shù)。作為一種能夠處理大量數(shù)據(jù)的低功耗高速存儲(chǔ)器解決方案,SK海力士認(rèn)為AiMX將在數(shù)據(jù)密集型生成式人工智能系統(tǒng)的發(fā)展中發(fā)揮關(guān)鍵作用。由于生成式人工智能的性能會(huì)隨著對(duì)更多數(shù)據(jù)的訓(xùn)練而提高,更加凸顯了對(duì)應(yīng)用于該系統(tǒng)的高性能產(chǎn)品的需求。
除了SK海力士以外,三星也有著相同的看法,在內(nèi)存上集成的AI處理器,使其可以執(zhí)行CPU、GPU、ASIC或FPGA的操作,未來(lái)還會(huì)將這項(xiàng)稱為PIM (processinginmemory) 的技術(shù)擴(kuò)展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3內(nèi)存上。三星在今年的Hot Chips 2023上還公布了HBMPIM和LPDDRPIM的最新研究成果,在AMD Instinct MI100上配備了HBMPIM內(nèi)存,并將其應(yīng)用于生成式人工智能。
- 1空調(diào)毯(什么是空調(diào)毯?有哪些使用方法?)
- 2索尼電視客服24小時(shí)電話(如何快速聯(lián)系并解決問(wèn)題)
- 3方太燃?xì)庠?4小時(shí)客服熱線(如何快速聯(lián)系并解決問(wèn)題)
- 4富新防盜門(mén)開(kāi)鎖(富新防盜門(mén)開(kāi)鎖服務(wù):保護(hù)您家庭安全的首選)
- 5沈陽(yáng)吸油煙機(jī)維修(如何找到專業(yè)的維修服務(wù))
- 6電視怎么顯示圖像怎么回事啊(電視顯示圖像原理揭秘)
- 7usb轉(zhuǎn)ttl壞了怎么修(USB轉(zhuǎn)TTL壞修法探究)
- 8匯川變頻器報(bào)警故障代碼大全(如何快速解決報(bào)警問(wèn)題)
- 9天然氣公司投訴電話95158(如何正確使用并有效投訴)
- 10天津有線電視客服電話96596(如何快速找到并聯(lián)系客服)。
-
臺(tái)風(fēng)“蝴蝶”明日或?qū)⒌顷懀A南大部將有大到暴雨
2025-06-12
-
寧德紅日燃?xì)庠罹S修(如何自行解決常見(jiàn)問(wèn)題)
2025-06-07
-
ws08m360ti故障(WS08M360Ti故障分析及解決辦法)
2025-06-07
-
萬(wàn)和燃?xì)庠钕ɑ鹁S修(如何自行處理常見(jiàn)故障)
2025-06-07


