怎么判斷AI有了人得意識？

怎樣才能判斷AI算不算是有了人的意識，是個非常有意思的問題。關于到底什么是「意識」，人的意識到底是真的還是幻覺，現在都沒有共識性的說法。

對比之下，「智能」則有比較客觀的標準，可以打分。以前的計算機科學家最關心的是AI怎樣才算有了人的智能。計算機之父艾倫·圖靈在1950年的一篇論文中提出了一種測試方法，就是讓人跟AI和真人分別對話，如果有超過一定比例的人無法區分哪個是AI、哪個是真人，那么我們就可以說AI已經有了人的智能。這就是「圖靈測試」。

按照這個標準，GPT已經通過了圖靈測試。它的智能大大超過了絕大多數真人，如果你能發現對面不是真人而是GPT，那很可能是因為你發現對面的智能太高了而不是太低了。所以現在人們不太談論圖靈測試了，AI的智能超過了人，這不是我們擔心的重點。

我們擔心的是AI會不會有「意識」。最近聽說有學者認為，如果我們已經認定某個AI產生了意識，那么我們就應該賦予它人權，那么把它斷電就是不人道的。我認為這可以理解。如果你認為殺死一只小狗是不人道的，你完全也應該認為殺死一個有意識的AI是不人道的。

問題是關于怎么算有意識，我們并沒有很好的判斷標準。但是，我們比較清楚怎么不算有意識。

如果一個物體永遠只是被動反應，它就不是有意識的。

比如你的手機對著你唱歌，還給你播放視頻，很好用，但是你不會覺得手機有意識。這是因為手機做的每件事都是你讓它做的——啊，或者是拼多多APP讓它做的——它自己沒有什么多余的想法。

那如果將來你買了個機器人管家，她總是無微不至地為你服務，甚至還面帶微笑，有時候看你很無聊還主動給你講笑話，你會覺得她有意識嗎？嚴格地說，這還不算有意識。這里所謂的“主動”，本質上是為了取悅你。很有可能她的出廠設定就是取悅主人，她取悅你的任何行為本質上仍然是被動的，她仍然是個工具。這跟手機到點了就用鬧鐘叫醒你沒有本質區別。

那你說如果有一天這個機器人管家突然不聽你指揮了，甚至突然從你家逃跑了，這能算有意識嗎？這也不一定。也許機器人的出廠設定是“要盡量保護自己”，她一看你家條件太差，整天虐待她，她計算之下為了完成保護自己的設定就必須逃跑，這跟自動駕駛汽車會自動避讓障礙物似乎也沒有本質區別。

倒是有一個場景，可能會說明AI有了意識。以前有個電影叫《機械姬》（Ex Machina，2014），描寫一個女機器人Ava從人類控制中逃跑的故事。可能在一個內行看來，Ava會逃跑這件事還不能說明她有意識，真正驚心動魄的是影片結尾處的一個細節。

當時Ava已經逃跑成功了，她走到一片樹林里，陽光照在她的臉上。就在這時候，她略微仰頭，輕輕閉上眼睛，做出了一個很享受陽光的表情——

當時沒有任何人在現場看。她這個動作沒有任何實用價值，但是她做了。也許這就是意識的覺醒。

可是我們能根據這樣的行為判斷AI是否有意識嗎？還是不能。將來機器人制造商完全可以給機器人加入一些這樣的戲碼：你們喜歡這樣的表情我就讓她有這樣的表情！那我們將來看到這樣的表情也不能認為機器人有了意識。

這幾乎就是一個悖論：你要知道AI為什么會這么做，你就認為這么做不能證明AI有意識；意識似乎必須是某種純自發的、難以解釋的行為。

現在唯一能判斷AI可能有意識的做法，似乎是你去調查那些設計AI神經網絡的工程師，查看他們的代碼：如果代碼中沒有包括這種行為，可是AI偏偏做出了這種行為，而且這種行為又比較高級，很像人類的意識，我們大概就可以說這個AI好像活了，有意識了。

然后話說回來，人的意識到底是什么？憑什么有意識就有人權？我們還是沒想清楚。