首屆AI峰會落幕，《布萊奇利宣言》能否防止“智能叛變”？

來源：環(huán)球時報

【環(huán)球時報報道 記者 崔瑾玥 陳子帥】近日，首屆人工智能安全峰會在英國布萊奇利莊園落下帷幕。峰會發(fā)布《布萊奇利宣言》（以下簡稱《宣言》），稱“人工智能帶來巨大機遇，有潛力增強人類福祉、和平和繁榮，并已部署在日常生活的許多領(lǐng)域”。《宣言》同時也認(rèn)為，對于前沿人工智能技術(shù)有意識濫用或者無意識控制方面的問題，可能會引發(fā)巨大風(fēng)險。人工智能時代的全球治理難點及挑戰(zhàn)有哪些？中國的人工智能企業(yè)在發(fā)展中應(yīng)關(guān)注哪些方面？

“關(guān)鍵人物聚集在一起，本身就是成就”

全球人工智能安全峰會的舉辦地 “布萊奇利莊園”是位于倫敦以北55英里的一處莊園。第二次世界大戰(zhàn)期間，被稱為“計算機科學(xué)之父”“人工智能之父”的英國人艾倫·圖靈在莊園中參與了密碼破譯，開創(chuàng)了計算機科學(xué)和人工智能的基本理論。英國將峰會選址于此，折射出不少深意。

此次出席峰會的代表來自歐盟和全球28個國家。包括英國首相蘇納克、聯(lián)合國秘書長古特雷斯、歐盟委員會主席馮德萊恩、意大利總理梅洛尼、美國副總統(tǒng)哈里斯、中國科技部副部長吳朝暉，以及來自微軟、OpenAI、特斯拉、谷歌等多家企業(yè)的高管悉數(shù)到場。英國科學(xué)、創(chuàng)新和技術(shù)大臣米歇爾·多尼蘭表示，如此之多的關(guān)鍵人物聚在一起，本身就是一項成就。

中國科學(xué)院自動化研究所研究員、人工智能倫理與治理中心主任、國家新一代人工智能治理專委會委員曾毅受邀參與了人工智能安全峰會，并見證了《宣言》的簽署。他告訴《環(huán)球時報》記者，人工智能安全峰會的未來還有空間做得更好。“正如我在圓桌研討會內(nèi)容總結(jié)時所說的，如果明年的會議能夠有40個，甚至是更多國家受邀參加，那一定是更圓滿的。真正包容性的國際合作，一定要更有勇氣地傾聽更多不同的聲音，更有胸懷接受差異，更有智慧交流互鑒。”根據(jù)外媒消息，第二屆人工智能安全峰會將在韓國舉行，之后是法國。

“機器人永遠不是人類”

《宣言》簽署的背景是世界各國科技企業(yè)在ChatGPT推出之后，不斷研發(fā)推出大模型產(chǎn)品的“競賽式的激烈競爭狀態(tài)”。以中國為例，近期包括螞蟻集團、網(wǎng)易有道、學(xué)而思、昆侖萬維和知乎等在內(nèi)的多家公司公開宣布旗下大模型已通過備案，正式開放。這是繼9月中國第一批大模型獲得備案以來，第二批正式向公眾開放的大模型產(chǎn)品。據(jù)國內(nèi)媒體梳理統(tǒng)計，通過《生成式人工智能服務(wù)管理暫行辦法》備案的公司已有至少17家。

與快速發(fā)展并行的風(fēng)險來自何處？《宣言》中將其定義為對于前沿人工智能技術(shù)“有意識濫用”和“無意識控制”。“比如在國外有的網(wǎng)站上，有的生成式人工智能模型已經(jīng)被用于生成惡意代碼，協(xié)助復(fù)雜的創(chuàng)作，以及更有欺騙性和惡意的電子郵件入侵活動，上述行為構(gòu)成‘有意識的濫用’。而由于大量訓(xùn)練數(shù)據(jù)本身可能存在瑕疵或問題，因此其就可能生成一些全新的錯誤的東西，但同時使人們又可能對其很相信，產(chǎn)生的‘人工智能幻覺’，則屬于‘無意識控制’。”中國社會科學(xué)院法學(xué)研究所教授姚佳告訴《環(huán)球時報》記者，人工智能在開發(fā)階段首先就應(yīng)追求價值對齊。研發(fā)人員需要在模型層面堅持使人工智能理解、遵從人類價值、偏好、倫理等原則，防止歧視、欺騙等有害輸出以及濫用行為。

在上述可能的風(fēng)險下，人工智能在快速發(fā)展中是否會產(chǎn)生“智能叛變”，有意或無意識地傷害到人類？據(jù)韓聯(lián)社8日報道，韓國一名工人在生產(chǎn)線上慘遭工業(yè)機器人誤殺，原因是該工業(yè)機器人沒能將這名工人與生產(chǎn)線上正在處理的農(nóng)產(chǎn)品箱子區(qū)分開。對此上海人工智能專家咨詢委員會委員、達闥機器人創(chuàng)始人、董事長黃曉慶告訴《環(huán)球時報》記者，來自AI的“智慧”賦能于人形機器人后，機器人會變得更聰明。但無論何種情況下，開發(fā)者首先應(yīng)確保“機器人在任何情況下都不能出現(xiàn)傷害人類的操作”。對此，黃曉慶稱人類應(yīng)開發(fā)建立有效的防火墻機制，“無論是采取特別的指令，還是借助云端控制系統(tǒng)，開發(fā)者應(yīng)該牢記，倫理層面，機器人永遠不是人類，保護人類才是核心出發(fā)點。”

“聯(lián)合國這個平臺才最為合適”

《布萊奇利宣言》中提出，世界范圍內(nèi)“共同關(guān)注的人工智能安全風(fēng)險”，各國可能會制定基于風(fēng)險的政策，細(xì)化風(fēng)險等級以及治理方式，從而加強安全、促進發(fā)展。姚佳告訴記者，我國在人工智能領(lǐng)域的立法進程已走在世界前列。“近年來陸續(xù)頒布實施的管理辦法、規(guī)定，以及規(guī)范和倡議總體上已較為充分。國家正在堅持發(fā)展與安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，鼓勵人工智能創(chuàng)新發(fā)展，并進行有效引導(dǎo)、科學(xué)治理。”今年6月，《國務(wù)院2023年度立法工作計劃》明確將《人工智能法》納入計劃，屆時將更好地推動技術(shù)發(fā)展與風(fēng)險規(guī)制雙重目標(biāo)的實現(xiàn)。

放眼全球協(xié)調(diào)，國際社會對人工智能技術(shù)的治理是否已經(jīng)形成合力？對外經(jīng)濟貿(mào)易大學(xué)國際關(guān)系學(xué)院學(xué)者梁懷新告訴《環(huán)球時報》記者，總體而言，國際社會對人工智能技術(shù)濫用的治理，尚處于“倡議形成期”，國際共識與治理合力不斷形成，但具有國際法約束力、并被各方均認(rèn)可的治理規(guī)章尚需不斷完善，特別是亟需針對人工智能技術(shù)算法黑箱、相關(guān)平臺被西方國家控制或“捕獲”、人工智能技術(shù)產(chǎn)業(yè)化過程中的利益分配等問題進行具體的規(guī)制。

值得一提的是，今年10月“一帶一路”國際合作高峰論壇期間，中國發(fā)布《全球人工智能治理倡議》，并在其中提出“積極支持在聯(lián)合國框架下討論成立國際人工智能治理機構(gòu)，協(xié)調(diào)國際人工智能發(fā)展、安全與治理重大問題”。

“盡管本屆人工智能安全峰會并不是一次只有西方的會議。但更為深刻、廣泛、最具包容性和全面意義的全球人工智能治理確實只有聯(lián)合國這個平臺才最為合適。”曾毅告訴記者。