生成式AI時代已至 亞馬遜云科技如何引領(lǐng)云上創(chuàng)新？

從蒸汽機、電氣再到如今的互聯(lián)網(wǎng)，每一次工業(yè)革命的背后都代表著科技的飛速發(fā)展和人類文明的巨大進步，如今隨著生成式AI的火熱發(fā)展和廣泛應(yīng)用，以人工智能為代表的新一輪科技浪潮正在引領(lǐng)整個社會走向第四次工業(yè)革命，作為一種模擬人類智能的前沿技術(shù)，AI可以通過自主學(xué)習(xí)、推理和和自我修正等方式，實現(xiàn)自主的決策和行動，并在醫(yī)療保健、金融、交通、教育等領(lǐng)域發(fā)揮重要作用。

在這種背景下，很多企業(yè)都希望抓住生成式AI的紅利，積極利用生成式AI為業(yè)務(wù)賦能，加速自身數(shù)智轉(zhuǎn)型的進程，不過高昂的開發(fā)成本和技術(shù)投入也讓不少企業(yè)望而卻步，而作為云計算的探索開創(chuàng)者，亞馬遜云科技這些年來始終踐行創(chuàng)新實踐，用來幫助客戶突破復(fù)雜的技術(shù)，實現(xiàn)對科技的惠普。

“亞馬遜云科技為千行百業(yè)應(yīng)用生成式AI降低門檻，重塑每個產(chǎn)業(yè)，改變每個人的生活。這其中就包括如何兼顧規(guī)模與成本，真正讓業(yè)務(wù)收益，如何選擇最適合業(yè)務(wù)場景的模型，如何用企業(yè)自己的數(shù)據(jù)定制并快速行動，當然還有如何充分保護數(shù)據(jù)的安全隱私的前提下負責(zé)人的應(yīng)用生成式AI，因此亞馬遜云科技選擇在應(yīng)用生成式AI的端到端的三個層面進行持續(xù)投入。”亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建表示。

自研芯片創(chuàng)新夯實基礎(chǔ)設(shè)施

早在13年前，亞馬遜云科技就看到了GPU加速計算芯片的價值，并成為了第一家將GPU部署到云端的云服務(wù)提供商，現(xiàn)在GPU服務(wù)器已經(jīng)廣泛用于HPC、視頻、AI的工作負載等等多種應(yīng)用。足見亞馬遜云科技對底層硬件的重視程度。

現(xiàn)如今面對生成式AI的熱潮，亞馬遜云科技在今年推出了用于生成式AI和機器學(xué)習(xí)訓(xùn)練的專用芯片Amazon Trainium2處理器，與第一代相比，性能提升高達整整四倍，而延遲只有第一代的1/10，并針對數(shù)千億甚至數(shù)萬億參數(shù)的大模型訓(xùn)練做了特別的調(diào)優(yōu)。

但只有硬件顯然是不夠的，高效率的軟硬結(jié)合可以更好地釋放硬件潛力，因此亞馬遜云科技還推出了Amazon Neuron軟件開發(fā)工具包，可以幫助用戶通過很少的代價來更好、更快捷地使用定制化的訓(xùn)練和推理芯片。兼容性方面，Amazon Neuron支持Tensorflow、PyTorch這樣常用的ML框架，客戶通常只需要幾行代碼，就能夠利用他們已有的知識構(gòu)建訓(xùn)練和推理管道，來移植到這些全新的硬件上來。

在本次re:Invent 2023全球大會期間，亞馬遜云科技還和英偉達共同宣布了幾項最新合作：亞馬遜云科技將提供首款搭載NVIDIA Grace Hopper超級芯片和亞馬遜云科技Ultra Clusters技術(shù)的云AI超級計算機；首款使用NVIDIA最新芯片GH200 NVL32 的NVIDIA DGX云即將登錄亞馬遜云科技；此外，兩家公司將共同開展“Project Ceiba”合作項目，將全球最快的GPU驅(qū)動AI超級計算機和NVIDIA DGX云超級計算機用于NVIDIAAI的訓(xùn)練、研發(fā)、定制化模型的開發(fā)，它將擁有1.6萬個最新的GH200超級芯片，提供高達65 ExaFLOPS的驚人算力。

最后，為了提高分布式環(huán)境下模型訓(xùn)練的效率，亞馬遜云科技提供了Amazon SageMaker HyperPod，能夠自動管理多達上千臺機器的大規(guī)模訓(xùn)練環(huán)境，自動檢測和定位硬件故障，并且能夠更換故障的實例和更改配置來自動規(guī)避所遇到的這些問題。此外Amazon SageMaker HyperPod還能自動備份，從上次所保持的檢查點來恢復(fù)訓(xùn)練，從而將訓(xùn)練時間大幅縮短40%。

通過基礎(chǔ)模型構(gòu)建和拓展生成式AI

對很多企業(yè)來說，自身在AI方面的需求是隨著業(yè)務(wù)場景和行業(yè)屬性而變化的，所謂一個模型走天下的情況在現(xiàn)實世界幾乎不可能存在。模型選的太復(fù)雜，可能會大材小用，選擇能力不足的模型，則會白白浪費企業(yè)的成本投入。

因此針對模型選擇，亞馬遜云科技為諸多企業(yè)提供了全托管式生成式AI服務(wù)Amazon Bedrock，Amazon Bedrock是利用大模型構(gòu)建和擴展生成式人工智能應(yīng)用的最簡單方法。各行各業(yè)的客戶已經(jīng)在使用Amazon Bedrock 重塑他們的用戶體驗、產(chǎn)品和流程，并將人工智能帶入他們的業(yè)務(wù)核心。

目前Amazon Bedrock已經(jīng)實現(xiàn)了對Anthropic Claude 2.1和Meta LLama 270B的支持。前者為企業(yè)提供了先進的關(guān)鍵功能，包括業(yè)界領(lǐng)先的200K標記上下文窗口，而后者則適用于大規(guī)模任務(wù)，如語言建模、文本生成和對話系統(tǒng)。

此外，由亞馬遜云科技自己構(gòu)建并由Amazon Bedrock獨占的基礎(chǔ)模型Amazon Titan也包含了多種用例，例如能將文本轉(zhuǎn)換為向量的Amazon Titan Text Embeddings；可以支持聊天機器人問答或文本摘要的Amazon Titan Text Lite；可用于開放式文本生成和對話聊天的Amazon Titan Text Express；能夠創(chuàng)建豐富的多模態(tài)搜索和推薦體驗的Amazon Titan Multimodal Embeddings多模態(tài)嵌入模型；以及能夠使用自然怨言提示生成高質(zhì)量圖像的Amazon Titan Image Generator等等。

在模型定制方面，Amazon Bedrock支持多種定制化技術(shù)，包括通過Amazon Titan Text Embedding實現(xiàn)的RAG增強檢索生成；對Meta Llama2、Cohere環(huán)境進行微調(diào)的能力以及持續(xù)預(yù)訓(xùn)練。

“持續(xù)預(yù)訓(xùn)練是一個使用大量未標記數(shù)據(jù)，比如內(nèi)部報告、財務(wù)計劃或者研究成果等等原始文本來提升大模型對于定制領(lǐng)域的知識和推理能力。也就是說這種方式，如果您想在您的專業(yè)領(lǐng)域擁有專業(yè)的大模型最有效的工具，它可以產(chǎn)生一個實際的大模型的實例，在您的私有環(huán)境下跟您的數(shù)據(jù)相結(jié)合，進行持續(xù)地訓(xùn)練，這種環(huán)境無疑是作為一個深度定制化的最有效方式。”陳曉建總結(jié)道。

在模型集成方面，Amazon Bedrock的代理功能可以使生成式AI應(yīng)用跨公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)。通過代理功能，客戶在進行訪問權(quán)限等簡單設(shè)置后即可用自然語言編寫要求，隨后代理即可自動分析請求并將其分解為邏輯序列，以及采取相應(yīng)的行動。

最后在數(shù)據(jù)安全和隱私方面，Amazon Bedrock不會保存任何客戶數(shù)據(jù)用于底層模型的訓(xùn)練，且所有數(shù)據(jù)在傳輸和靜態(tài)時均經(jīng)過加密，同時支持GDPR和HIPAA等標準。

定制AI助手實現(xiàn)“開箱即用”

對很多企業(yè)來說，將生成式AI引入工作場景中后，往往會發(fā)現(xiàn)效果并不盡如人意，由于通用的生成式AI應(yīng)用不了解企業(yè)的業(yè)務(wù)、數(shù)據(jù)、客戶、運營或者員工，因此能力會被極大限制，針對這一現(xiàn)狀，亞馬遜云科技在今年的re:Invent 2023上推出了專為企業(yè)業(yè)務(wù)量身定制的生成式人工智能工作助手Amazon Q。

Amazon Q的推出對企業(yè)來說意義非凡，首先它是亞馬遜云科技的專家，由亞馬遜云科技17年來積累的知識和經(jīng)驗訓(xùn)練而成，可以在多種界面回答客戶提出的各種亞馬遜云科技相關(guān)的專業(yè)問題，例如在Amazon CodeWhisperer中回答開發(fā)人員的各種代碼相關(guān)的問題并附上可一鍵實施的代碼，并提供代碼轉(zhuǎn)換功能。

其次，它也是企業(yè)業(yè)務(wù)的專家，其擁有40多個兼容流行數(shù)據(jù)源的內(nèi)置連接器，并支持自定義連接器，企業(yè)可以輕松將其連接至其業(yè)務(wù)數(shù)據(jù)和系統(tǒng)中。Amazon Q可使用身份驗證系統(tǒng)來確認用戶職能和訪問權(quán)限，并支持指定話題屏蔽或關(guān)鍵詞過濾等管理控制功能。

然后，它也是商業(yè)智能專家，支持將其引入多種服務(wù)和應(yīng)用中以提供基于生成式AI的幫助。將Amazon Q引入BI應(yīng)用Amazon QuickSight中，它能夠在幾秒鐘內(nèi)響應(yīng)用戶要求，創(chuàng)建精準且美觀的月度業(yè)務(wù)變化的相關(guān)描述。

最后，它也是聯(lián)絡(luò)中心專家，將Amazon Q引入云聯(lián)絡(luò)中心應(yīng)用Amazon Connect中，它能夠根據(jù)實時對話檢測客戶問題，并能夠自動回復(fù)、給出建議以及提供相關(guān)資料。

當然，生成式AI的潛力不止于此，隨著物聯(lián)網(wǎng)的發(fā)展和信息化的普及，在未來越來越多的數(shù)據(jù)都會產(chǎn)生自邊緣測，如何快速地將數(shù)據(jù)整合到數(shù)據(jù)湖中并將其用于生成式AI是未來的重要方向，亞馬遜云科技也在圍繞這一方向展開技術(shù)創(chuàng)新。

“亞馬遜云科技針對生成式AI所提供的三層的工作不光是為底層開發(fā)人員構(gòu)建的，無論是對使用大模型環(huán)境的人員，或者對大模型并不了解的只是想使用生成式AI的業(yè)務(wù)人員，我們都提供了完整的解決方案。當然在生成式AI時代，擁有強大的模型是遠遠不夠的，通過亞馬遜云科技構(gòu)建的強大數(shù)據(jù)基石，企業(yè)可以具備全面的數(shù)據(jù)能力，并使這些能力能夠在不同的環(huán)境中打通，在不同的產(chǎn)品之間流通，并且在應(yīng)用中實現(xiàn)可治理和可管理。”陳曉建在最后表示。

(8487332)