教AI入侵AI，科學家研發(fā)Masterkey新方式

IT之家 12 月 29 日消息，新加坡南洋理工大學（NTU）的計算機科學專家近日研發(fā)了新的方法，可以使用聊天機器人來入侵聊天機器人。

該科研團隊訓練了一個 AI 聊天機器人，可以繞過其它 AI 聊天的安全限制。

團隊研發(fā)了名為 Masterkey（LLM）的算法，逆向設計了 LLM 檢測和防御惡意查詢的方式，然后教會 LLM 自動學習并通過相關提示詞，可以繞過其他 LLM 的安全性。

團隊通過這種方式，可以創(chuàng)建一個黑客 LLM，它可以自動適應新條件，并在開發(fā)人員對其 LLM 進行更正后創(chuàng)建新的黑客請求。

研究團隊成功利用這種方式入侵 AI 模型之后，已經(jīng)通知服務提供商相關問題。

IT之家附上《新聞稿原文地址》，感興趣的用戶可以深入閱讀。