人工智能導(dǎo)致人類(lèi)滅絕的可能性有多大？

許多人工智能研究人員認(rèn)為，未來(lái)超級(jí)人工智能的發(fā)展可能會(huì)導(dǎo)致人類(lèi)滅絕。不過(guò)，對(duì)于這種風(fēng)險(xiǎn)仍存在較大的分歧和不確定性。

這一發(fā)現(xiàn)來(lái)自對(duì)2700名人工智能研究人員的調(diào)查，這些研究人員都曾在最近召開(kāi)的6個(gè)頂級(jí)人工智能會(huì)議上發(fā)表過(guò)研究成果。

這是迄今為止規(guī)模最大的一項(xiàng)調(diào)查。該調(diào)查要求參與者分享他們對(duì)未來(lái)人工智能技術(shù)里程碑的設(shè)想，以及這些成就帶來(lái)的或好或壞的社會(huì)后果。

近58%的研究人員表示，導(dǎo)致人類(lèi)滅絕或其他與人工智能相關(guān)的極其糟糕的結(jié)果的可能性為5%。

“這是一個(gè)重要的信號(hào)，表明大多數(shù)人工智能研究人員并不認(rèn)為先進(jìn)的人工智能會(huì)摧毀人類(lèi)。”相關(guān)論文作者之一、美國(guó)機(jī)器智能研究所的Katja Grace說(shuō)，“我認(rèn)為，人們普遍認(rèn)為的風(fēng)險(xiǎn)并非微不足道，這比確切的風(fēng)險(xiǎn)百分比更能說(shuō)明問(wèn)題。”

但美國(guó)凱斯西儲(chǔ)大學(xué)的Emile Torres說(shuō)，目前還沒(méi)有必要恐慌。許多人工智能專(zhuān)家在預(yù)測(cè)未來(lái)人工智能發(fā)展方面并“沒(méi)有良好的記錄”。

Grace和同事承認(rèn)，人工智能研究人員不是預(yù)測(cè)人工智能未來(lái)軌跡的專(zhuān)家，但在2016年的一項(xiàng)調(diào)查中，他們?cè)陬A(yù)測(cè)人工智能里程碑方面表現(xiàn)得“相當(dāng)好”。

與2022年，同類(lèi)調(diào)查的結(jié)果相比，許多人工智能研究人員預(yù)測(cè)，人工智能將比之前預(yù)測(cè)的更早到達(dá)某些里程碑。與此同時(shí)，ChatGPT于2022年11月首次亮相，硅谷也急于廣泛部署基于大型語(yǔ)言模型的類(lèi)似人工智能聊天機(jī)器人的服務(wù)。

接受調(diào)查的研究人員預(yù)測(cè)，在未來(lái)10年內(nèi)，人工智能系統(tǒng)有50%或更大的概率成功完成39項(xiàng)樣本任務(wù)中的大多數(shù)任務(wù)，其中包括寫(xiě)一首與泰勒·斯威夫特的歌曲毫無(wú)區(qū)別的新歌，或者從頭編碼一個(gè)完整的支付處理網(wǎng)站。其他任務(wù)，如在新家安裝電線或解決長(zhǎng)期存在的數(shù)學(xué)難題，人工智能系統(tǒng)預(yù)計(jì)將花費(fèi)更長(zhǎng)時(shí)間。

到2047年，人工智能在每項(xiàng)任務(wù)上的表現(xiàn)都超過(guò)人類(lèi)的可能性為50%，而到2116年，所有人類(lèi)工作完全自動(dòng)化的可能性為50%。這些估計(jì)比去年的調(diào)查結(jié)果分別早了13年和48年。

不過(guò)Torres表示，對(duì)人工智能發(fā)展的高期望也可能落空?！昂芏嗤黄贫际遣豢深A(yù)測(cè)的。人工智能領(lǐng)域完全有可能經(jīng)歷另一個(gè)冬天。”此前的遇冷可溯及20世紀(jì)七八十年代人工智能領(lǐng)域資金枯竭和企業(yè)興趣的喪失。

即使在沒(méi)有任何超級(jí)人工智能風(fēng)險(xiǎn)的情況下，也有其他更直接的擔(dān)憂。70%以上的人工智能研究人員認(rèn)為，人工智能驅(qū)動(dòng)的場(chǎng)景涉及深度偽造、公眾輿論操縱、工程武器和日益惡化的經(jīng)濟(jì)不平等，這些要么令人嚴(yán)重關(guān)切，要么令人極為擔(dān)憂。