全球首個AI安全研究所將在英國成立

IT之家 10 月 27 日消息，綜合 CNBC、路透社等報道，當地時間周四，英國首相蘇納克宣布計劃成立世界上第一個 AI 安全研究所，并于 11 月 12 日舉行 AI 安全峰會。此次峰會將匯聚世界各國 AI 公司、政府、民間團體和相關領域專家，旨在討論如何通過國際協調行動來降低 AI 帶來的風險。

蘇納克在演講中表示，這個即將成立的研究所將推動世界對 AI 安全的認識，并將對新型 AI 技術進行仔細研究、評估與測試，以便了解每種新模式的能力，并探索從“偏見和誤導”等社會危害到“最極端風險”的所有風險。

蘇納克稱，“AI 可以讓制造化學或生物武器變得更容易，但這項技術也會被犯罪分子所利用。在最不可能但最極端的情況下，人類甚至有可能通過有時被稱為超級智能的 AI，在 AI 面前完全失控。”

此外，在下周舉行的 AI 安全峰會上，蘇納克將提議成立一個“真正全球化的專家小組”—— 該小組的成員由與會國家和組織提名，屆時還將發布一份 AI 科學現狀報告。

另據IT之家此前報道，英國反壟斷監管機構 CMA（競爭與市場管理局）上個月提出了管理 AI 模式的新標準，涵蓋了問責、訪問和透明度等事宜。CMA 當時公布的監管原則中，包括 AI 開發人員和部署人員應對輸出內容負責、不得從事反競爭行為等內容。