蘋果取得技術突破：可在iPhone上運行大型語言模型

蘋果取得技術突破：可在iPhone上運行大型語言模型

IT之家 12 月 21 日消息，蘋果的人工智能研究人員表示，他們已取得一項重大突破，通過一種創(chuàng)新的閃存利用技術，成功地在內存有限的 iPhone 和其他蘋果設備上部署了大型語言模型（LLM）。這一成果有望讓更強大的 Siri、實時語言翻譯以及融入攝影和增強現(xiàn)實的尖端 AI 功能登陸未來 iPhone。

近年來，像 ChatGPT 和 Claude 這樣的 LLM 聊天機器人風靡全球。它們能夠進行流暢的對話、撰寫不同風格的文本，甚至生成代碼，展現(xiàn)出強大的語言理解和生成能力。然而，這些模型有一個致命弱點：它們極其“吃”數(shù)據(jù)和內存，普通手機根本無法滿足其運行需求。

為了突破這一瓶頸，蘋果研究人員開辟了一條新路，將目光投向了手機中普遍存在的閃存，也就是儲存應用和照片的地方。在題為“閃存中的 LLM：利用有限內存實現(xiàn)高效的大型語言模型推理（LLM in a flash: Efficient Large Language Model Inference with Limited Memory）”的論文中，研究人員提出了一種巧妙的閃存利用技術，將 LLM 模型的數(shù)據(jù)存儲在閃存中。作者指出，與傳統(tǒng)用于運行 LLM 的 RAM 相比，閃存在移動設備中更為豐富。

IT之家注意到，他們的方法巧妙地利用兩種關鍵技術繞過限制，從而最小化數(shù)據(jù)傳輸并最大化閃存內存吞吐量：

• 窗口化（Windowing）：可以將其視為一種回收利用的方法。AI 模型不會每次都加載新數(shù)據(jù)，而是會重復使用部分已處理的數(shù)據(jù)。這減少了頻繁讀取內存的需要，讓整個過程更加流暢高效。

• 行列捆綁（RowColumn Bundling）： 這種技術類似于你讀一本書時，不是逐字逐句地閱讀，而是成段地閱讀。通過更有效地分組數(shù)據(jù)，可以從閃存中更快地讀取數(shù)據(jù)，從而加速 AI 理解和生成語言的能力。

論文指出，這項技術可以讓 AI 模型的運行規(guī)模達到 iPhone 可用內存的兩倍。這意味著標準處理器 （CPU） 的速度提高了 45 倍，圖形處理器 （GPU） 的速度提高了 2025 倍?！斑@一突破對于在資源有限的環(huán)境中部署先進的 LLM 至關重要，極大地擴展了它們的適用性和可訪問性，” 研究人員寫道。

更快更強的 iPhone AI

人工智能效率的突破為未來的 iPhone 開辟了新的可能性，例如更先進的 Siri 功能、實時語言翻譯以及攝影和增強現(xiàn)實中復雜的 AI 驅動功能。該技術還為 iPhone 在設備上運行復雜的人工智能助手和聊天機器人奠定了基礎，據(jù)悉蘋果已經開始著手這項工作。

蘋果開發(fā)的生成式 AI 最終可能被整合到其 Siri 語音助手中。2023 年 2 月，蘋果舉辦了人工智能峰會，并向員工介紹了其大型語言模型工作。據(jù)彭博社報道，蘋果的目標是打造一個更智能的 Siri，與 AI 深度集成。蘋果計劃更新 Siri 與信息應用程序的交互方式，讓用戶能夠更有效地處理復雜問題和自動完成句子。除此之外，傳聞蘋果還計劃將 AI 添加到盡可能多的蘋果應用程序中。

Apple GPT：口袋里的超級大腦

據(jù)報道，蘋果正在研發(fā)自己的生成式 AI 模型，代號為“Ajax”，旨在與 OpenAI 的 GPT3 和 GPT4 競爭，擁有 2000 億個參數(shù)，暗示其在語言理解和生成方面具有高度復雜性和強大的能力。Ajax 在內部被稱為“Apple GPT”，旨在統(tǒng)一蘋果機器學習開發(fā)，這表明蘋果將 AI 更深入地整合到其生態(tài)系統(tǒng)中。

據(jù)最新報道，Ajax 被認為比早期的 ChatGPT 3.5 更加強大。然而，一些消息人士也指出，OpenAI 的新模型可能已經超越了 Ajax 的能力。

The Information 和分析師 Jeff Pu 均聲稱，蘋果將在 2024 年底左右，也就是 iOS 18 發(fā)布之時，在 iPhone 和 iPad 上提供某種形式的生成式 AI 功能。Pu 在 10 月份表示，蘋果將在 2023 年建設數(shù)百臺 AI 服務器，2024 年還將建設更多服務器。據(jù)報道，蘋果將提供云端 AI 和設備端處理 AI 相結合的解決方案。