騙你沒商量？！當ChatGPT走入搜索引擎

英國《自然》周刊網站2月13日發表題為《人工智能聊天機器人走入搜索引擎——你能相信這些結果嗎？》的文章，作者是克里斯·斯托克爾沃克，文章編譯如下：

在聊天機器人ChatGPT以其驚人的像人類一樣寫作和回答問題的能力令世界驚嘆數月后，人工智能正在走入互聯網搜索領域。

全球三大搜索引擎——谷歌、必應和百度——上周表示，它們將把ChatGPT或類似的人工智能技術整合到自己的搜索產品中，讓人們能夠直接獲得答案或參與對話，而不僅僅是在輸入單詞或問題后收到一長串網頁鏈接。這將如何改變人們與搜索引擎之間的關系？這種人機互動形式是否存在風險？

微軟公司的搜索引擎必應使用的技術與ChatGPT相同，后者是由加利福尼亞州舊金山的開放人工智能研究中心開發的。但這三家公司都在使用大型語言模型（LLM）。LLM通過呼應它們在大型數據庫中遇到的文本的統計模式來創造令人信服的句子。谷歌于2月6日宣布的人工智能搜索引擎“巴德”目前正由一小群測試人員使用。微軟的版本現已廣泛推出，盡管在不受限的訪問方面仍需等待。百度將于3月份推出“文心一言”人工智能聊天機器人。

在三大搜索引擎宣布這些消息之前，一些規模較小的公司已經發布了人工智能搜索引擎。駐舊金山的計算機科學家阿拉溫德·斯里尼瓦斯去年8月與他人共同創立了“困惑”人工智能公司——這是一個基于LLM的智能搜索引擎，能用英語會話和回答問題。斯里尼瓦斯說：“搜索引擎的發展正在進入一個新階段，你可以真正開始與它們對話，就像你跟朋友交談那樣。”

與傳統的互聯網搜索相比，這種人機對話帶有更強的私密性，這可能有助于改變人們對搜索結果的看法。瑞士蘇黎世大學的計算社會科學家亞歷山德拉·烏爾曼說，與獨立的搜索引擎相比，人們可能天生就會更相信與他們對話的聊天機器人給出的答案。

位于蓋恩斯維爾的佛羅里達大學一個研究團隊在2022年發現，對那些與亞馬遜和百思買等公司使用的聊天機器人進行互動的參與者來說，對話越像人類之間的互動，他們就越信任該公司。

這可能是有益的，它能使搜索變得更快、更順暢。但鑒于人工智能聊天機器人也會犯錯，這種信任感的增強可能會帶來問題。谷歌的“巴德”聊天機器人在技術演示中對有關詹姆斯·韋布空間望遠鏡的問題給出了錯誤的回答。就ChatGPT而言，對于它不知道答案的問題，它有一種創造虛構答案的傾向——有些人稱之為“幻覺”。

谷歌的一位發言人說，聊天機器人“巴德”的錯誤“凸顯了嚴格測試流程的重要性，本周谷歌將通過我們值得信賴的測試計劃啟動這項工作”。但一些人認為，這樣的錯誤——假設它們被發現了——非但沒有增強使用者的信任，反而可能導致用戶對基于聊天的互聯網搜索失去信心。駐加利福尼亞州芒廷維尤的計算機科學家、搜索引擎Neeva的首席執行官斯里達爾·拉馬斯瓦米說：“早期認知會產生非常大的影響。”Neeva是一個由LLM驅動的搜索引擎，于1月份推出。由于投資者對未來感到擔憂并拋售股票，“巴德”的這個錯誤使谷歌市值蒸發了1000億美元。

令答案不準確問題雪上加霜的是人工智能搜索相對缺乏透明度。通常情況下，搜索引擎會向用戶展示其來源——一長串網頁鏈接——并讓他們自行決定該相信哪些內容。相比之下，很少有人知道LLM是根據什么數據進行訓練的——是《不列顛百科全書》還是八卦博客？

烏爾曼說：“（人工智能驅動的搜索）如何運作完全不透明，如果語言模型出現失誤、制造幻覺或傳播錯誤信息，那可能會產生非常大的影響?！?/p>

烏爾曼說，如果搜索機器人犯了足夠多的錯誤，那么它們非但不會憑借其對話能力增加用戶的信任，反而有可能顛覆用戶對搜索引擎的看法，認為它們不再是公正的真相仲裁者。

她進行的一項尚未公開發表的研究顯示，目前用戶對搜索引擎的信任度很高。她研究了人們如何看待谷歌用來增強搜索體驗的現有功能，即所謂的“精選摘要”（被認為與搜索特別相關的頁面摘要出現在鏈接上方）和“知識面板”（谷歌在回應關于某人或某組織的搜索時自動生成摘要）。烏爾曼的調查發現，近80%的受訪者認為這些功能是準確的，大約70%的受訪者認為它們是客觀公正的。

數據科學平臺抱抱臉公司的首席倫理學家吉婭達·皮斯蒂利說，由聊天機器人驅動的搜索模糊了機器與人類之間的區別。該公司倡導負責任地使用人工智能技術。她對企業如此迅速地采用人工智能技術感到擔憂。皮斯蒂利說：“我們總是在沒有任何控制或沒有相應的教育框架來了解該如何使用這些技術的情況下拋出這些新技術?！?/p>

來源：參考消息網