Meta工程師：明年全球AI推理用電量?jī)H需新增兩座核電站即可滿足

Meta工程師：明年全球AI推理用電量?jī)H需新增兩座核電站即可滿足

IT之家 11 月 14 日消息，Meta 生成式人工智能工程總監(jiān)謝爾蓋?埃杜諾夫近日在硅谷數(shù)字工人論壇上分享了他對(duì)人工智能推理需求的預(yù)測(cè)。他認(rèn)為，明年全球新增的人工智能應(yīng)用推理需求，如果使用合理規(guī)模的語(yǔ)言模型，僅需兩座核電站的發(fā)電量就可以滿足。

圖源 Pexels

人工智能推理是指利用已經(jīng)訓(xùn)練好的人工智能模型，在實(shí)際場(chǎng)景中進(jìn)行各種任務(wù)，如生成文本、回答問(wèn)題、識(shí)別圖像等。埃杜諾夫表示，他通過(guò)簡(jiǎn)單的數(shù)學(xué)計(jì)算，估計(jì)了明年全球推理需求的用電量。他假設(shè)，明年全球會(huì)新增 100 萬(wàn)到 200 萬(wàn)個(gè) Nvidia H100 圖形處理器，每個(gè)處理器的功率約為 1 千瓦。如果每個(gè)處理器每天運(yùn)行 24 小時(shí)，每人每天可生成 10 萬(wàn)個(gè)“token”。他認(rèn)為以人類規(guī)模來(lái)看，這用電量尚屬合理。全球僅需新增兩座核電站，就可以提供足夠電力。

不過(guò)IT之家注意到，埃杜諾夫也指出，人工智能的發(fā)展還面臨著一些挑戰(zhàn)和限制，其中之一是數(shù)據(jù)量的問(wèn)題。目前，人工智能模型的訓(xùn)練需要大量的數(shù)據(jù)，而公開的互聯(lián)網(wǎng)數(shù)據(jù)已經(jīng)不足以支撐下一代模型的訓(xùn)練。下一代模型可能需要 10 倍的數(shù)據(jù)量，這意味著需要更多的專業(yè)領(lǐng)域的數(shù)據(jù)，或者更多的多模態(tài)數(shù)據(jù)，如視頻、音頻等。另一個(gè)挑戰(zhàn)是供應(yīng)鏈的問(wèn)題。由于全球芯片產(chǎn)能的緊張，人工智能模型的改進(jìn)速度也會(huì)受到影響。因此，研究人員正努力提高模型的效率，以減少對(duì)數(shù)據(jù)和硬件的依賴。例如，Salesforce 公司開發(fā)了 Blib2，這是一種能夠自動(dòng)調(diào)整模型大小的技術(shù)，可以根據(jù)不同的任務(wù)和資源需求，動(dòng)態(tài)地縮小或擴(kuò)大模型。

業(yè)內(nèi)專家普遍認(rèn)為，語(yǔ)言模型在兩年內(nèi)將為企業(yè)帶來(lái)巨大價(jià)值。埃杜諾夫預(yù)計(jì)，三四年內(nèi)我們將知曉當(dāng)前技術(shù)是否能實(shí)現(xiàn)通用人工智能。