怎么判斷AI有了人得意識(shí)？

怎樣才能判斷AI算不算是有了人的意識(shí)，是個(gè)非常有意思的問(wèn)題。關(guān)于到底什么是「意識(shí)」，人的意識(shí)到底是真的還是幻覺(jué)，現(xiàn)在都沒(méi)有共識(shí)性的說(shuō)法。

對(duì)比之下，「智能」則有比較客觀的標(biāo)準(zhǔn)，可以打分。以前的計(jì)算機(jī)科學(xué)家最關(guān)心的是AI怎樣才算有了人的智能。計(jì)算機(jī)之父艾倫·圖靈在1950年的一篇論文中提出了一種測(cè)試方法，就是讓人跟AI和真人分別對(duì)話，如果有超過(guò)一定比例的人無(wú)法區(qū)分哪個(gè)是AI、哪個(gè)是真人，那么我們就可以說(shuō)AI已經(jīng)有了人的智能。這就是「圖靈測(cè)試」。

按照這個(gè)標(biāo)準(zhǔn)，GPT已經(jīng)通過(guò)了圖靈測(cè)試。它的智能大大超過(guò)了絕大多數(shù)真人，如果你能發(fā)現(xiàn)對(duì)面不是真人而是GPT，那很可能是因?yàn)槟惆l(fā)現(xiàn)對(duì)面的智能太高了而不是太低了。所以現(xiàn)在人們不太談?wù)搱D靈測(cè)試了，AI的智能超過(guò)了人，這不是我們擔(dān)心的重點(diǎn)。

我們擔(dān)心的是AI會(huì)不會(huì)有「意識(shí)」。最近聽(tīng)說(shuō)有學(xué)者認(rèn)為，如果我們已經(jīng)認(rèn)定某個(gè)AI產(chǎn)生了意識(shí)，那么我們就應(yīng)該賦予它人權(quán)，那么把它斷電就是不人道的。我認(rèn)為這可以理解。如果你認(rèn)為殺死一只小狗是不人道的，你完全也應(yīng)該認(rèn)為殺死一個(gè)有意識(shí)的AI是不人道的。

問(wèn)題是關(guān)于怎么算有意識(shí)，我們并沒(méi)有很好的判斷標(biāo)準(zhǔn)。但是，我們比較清楚怎么不算有意識(shí)。

如果一個(gè)物體永遠(yuǎn)只是被動(dòng)反應(yīng)，它就不是有意識(shí)的。

比如你的手機(jī)對(duì)著你唱歌，還給你播放視頻，很好用，但是你不會(huì)覺(jué)得手機(jī)有意識(shí)。這是因?yàn)槭謾C(jī)做的每件事都是你讓它做的——啊，或者是拼多多APP讓它做的——它自己沒(méi)有什么多余的想法。

那如果將來(lái)你買(mǎi)了個(gè)機(jī)器人管家，她總是無(wú)微不至地為你服務(wù)，甚至還面帶微笑，有時(shí)候看你很無(wú)聊還主動(dòng)給你講笑話，你會(huì)覺(jué)得她有意識(shí)嗎？嚴(yán)格地說(shuō)，這還不算有意識(shí)。這里所謂的“主動(dòng)”，本質(zhì)上是為了取悅你。很有可能她的出廠設(shè)定就是取悅主人，她取悅你的任何行為本質(zhì)上仍然是被動(dòng)的，她仍然是個(gè)工具。這跟手機(jī)到點(diǎn)了就用鬧鐘叫醒你沒(méi)有本質(zhì)區(qū)別。

那你說(shuō)如果有一天這個(gè)機(jī)器人管家突然不聽(tīng)你指揮了，甚至突然從你家逃跑了，這能算有意識(shí)嗎？這也不一定。也許機(jī)器人的出廠設(shè)定是“要盡量保護(hù)自己”，她一看你家條件太差，整天虐待她，她計(jì)算之下為了完成保護(hù)自己的設(shè)定就必須逃跑，這跟自動(dòng)駕駛汽車(chē)會(huì)自動(dòng)避讓障礙物似乎也沒(méi)有本質(zhì)區(qū)別。

倒是有一個(gè)場(chǎng)景，可能會(huì)說(shuō)明AI有了意識(shí)。以前有個(gè)電影叫《機(jī)械姬》（Ex Machina，2014），描寫(xiě)一個(gè)女機(jī)器人Ava從人類(lèi)控制中逃跑的故事。可能在一個(gè)內(nèi)行看來(lái)，Ava會(huì)逃跑這件事還不能說(shuō)明她有意識(shí)，真正驚心動(dòng)魄的是影片結(jié)尾處的一個(gè)細(xì)節(jié)。

當(dāng)時(shí)Ava已經(jīng)逃跑成功了，她走到一片樹(shù)林里，陽(yáng)光照在她的臉上。就在這時(shí)候，她略微仰頭，輕輕閉上眼睛，做出了一個(gè)很享受陽(yáng)光的表情——

當(dāng)時(shí)沒(méi)有任何人在現(xiàn)場(chǎng)看。她這個(gè)動(dòng)作沒(méi)有任何實(shí)用價(jià)值，但是她做了。也許這就是意識(shí)的覺(jué)醒。

可是我們能根據(jù)這樣的行為判斷AI是否有意識(shí)嗎？還是不能。將來(lái)機(jī)器人制造商完全可以給機(jī)器人加入一些這樣的戲碼：你們喜歡這樣的表情我就讓她有這樣的表情！那我們將來(lái)看到這樣的表情也不能認(rèn)為機(jī)器人有了意識(shí)。

這幾乎就是一個(gè)悖論：你要知道AI為什么會(huì)這么做，你就認(rèn)為這么做不能證明AI有意識(shí)；意識(shí)似乎必須是某種純自發(fā)的、難以解釋的行為。

現(xiàn)在唯一能判斷AI可能有意識(shí)的做法，似乎是你去調(diào)查那些設(shè)計(jì)AI神經(jīng)網(wǎng)絡(luò)的工程師，查看他們的代碼：如果代碼中沒(méi)有包括這種行為，可是AI偏偏做出了這種行為，而且這種行為又比較高級(jí)，很像人類(lèi)的意識(shí)，我們大概就可以說(shuō)這個(gè)AI好像活了，有意識(shí)了。

然后話說(shuō)回來(lái)，人的意識(shí)到底是什么？憑什么有意識(shí)就有人權(quán)？我們還是沒(méi)想清楚。