小程序蹭聊天機(jī)器人流量斂財(cái)

近期，ChatGPT（聊天機(jī)器人程序）火了，大家認(rèn)為這是人工智能革命的一大步，與此同時(shí)針對ChatGPT使用也出現(xiàn)了一些爭議。而一些“李鬼”則看到了商機(jī)，借此斂起不法之財(cái)。

調(diào)查

打著ChatGPT旗號 小程序收費(fèi)高達(dá)千元

ChatGPT走紅后，其賬號一時(shí)在國內(nèi)多個(gè)網(wǎng)購平臺(tái)、社交平臺(tái)上銷售火熱。在某電商平臺(tái)上售賣成品賬號的店鋪，一天之內(nèi)多達(dá)萬人付款，價(jià)格最低2元。北京青年報(bào)記者此前曾在某網(wǎng)購平臺(tái)獲取了ChatGPT賬號，商家隨后私聊發(fā)來賬號和密碼。登錄后，記者發(fā)現(xiàn)這是一個(gè)多人共享賬號，系統(tǒng)運(yùn)行比較緩慢。

商家表示如果需要單人賬號則需要額外收費(fèi)，價(jià)格以100元為底價(jià)，每多使用1分鐘加2元。近日，多個(gè)電商平臺(tái)對銷售ChatGPT賬號的店鋪進(jìn)行了封禁，相關(guān)關(guān)鍵詞也被屏蔽。北青報(bào)記者先前購買賬戶的商鋪相關(guān)商品也已下架。

隨著ChatGPT的爆火，國內(nèi)一些商家嗅到了生意，一批“李鬼”就此出現(xiàn)。一些微信公眾號、小程序產(chǎn)品打著ChatGPT的旗號，獲取流量，甚至向用戶收費(fèi)，部分賬戶收費(fèi)甚至高達(dá)千元。實(shí)際上，北青報(bào)記者了解到，這些“李鬼”通過驗(yàn)證，它們與ChatGPT官方平臺(tái)回復(fù)答案完全不一致。據(jù)了解，目前，ChatGPT的開發(fā)者、人工智能研究機(jī)構(gòu)OpenAI并沒有在中國大陸提供有關(guān)ChatGPT的服務(wù)，也沒有相應(yīng)的公司運(yùn)營。

據(jù)了解，微信方面封禁了大多數(shù)此類相關(guān)的小程序和公眾號。2月18日下午，北青報(bào)記者搜索相關(guān)關(guān)鍵詞發(fā)現(xiàn)，以“ChatGPT”“智能問答”等字眼作名稱的小程序已經(jīng)幾乎沒有了，但相關(guān)的公眾號仍然還有不少。其中，一個(gè)叫“超級AI問答”的公眾號提供5次免費(fèi)提問機(jī)會(huì)，超過5次便需要注冊會(huì)員。該會(huì)員的收費(fèi)為打折后周卡99元，月卡199元，季卡399元。

ChatGPT被誘導(dǎo)用于生成特定網(wǎng)絡(luò)釣魚郵件

北青報(bào)記者注意到，山寨版的危害可能只是蹭熱度、賺流量錢和服務(wù)費(fèi)，更需要提防的，是不法分子把ChatGPT與犯罪行為聯(lián)系在一起。據(jù)公安部官網(wǎng)發(fā)布相關(guān)信息提醒稱，目前，境外有人使用ChatGPT創(chuàng)建一個(gè)完整的感染鏈：不同以往的廣撒網(wǎng)式的網(wǎng)絡(luò)釣魚，它在提問者的誘導(dǎo)下，可以生成針對特定人或者組織的“魚叉式”網(wǎng)絡(luò)釣魚郵件。此類釣魚郵件更具有欺騙性和迷惑性，接收者一旦點(diǎn)擊該郵件，系統(tǒng)就會(huì)被惡意代碼感染中毒。

與此同時(shí)，不法分子對ChatGPT的惡意利用，也帶來了更多的數(shù)據(jù)安全問題。目前，外國已有相關(guān)機(jī)構(gòu)證明該機(jī)器人可能被用于編寫惡意軟件，從而逃避防病毒軟件的檢測，或利用其擬人的聊天對話功能，冒充真實(shí)的人或者組織騙取他人信息等。

案例

使用ChatGPT寫作新聞稿 導(dǎo)致錯(cuò)誤信息在網(wǎng)上傳播

研究機(jī)構(gòu)測試發(fā)現(xiàn)，如果對著ChatGPT提出充斥陰謀論和誤導(dǎo)性敘述的問題，它能在幾秒鐘內(nèi)改編信息，產(chǎn)生大量令人信服卻沒有來源根據(jù)的內(nèi)容。一旦ChatGPT被不法分子利用，將可能導(dǎo)致ChatGPT衍生成為互聯(lián)網(wǎng)上制造和傳播網(wǎng)絡(luò)謠言的工具。

2月16日，一則“2023年3月1日起，杭州市政府將取消機(jī)動(dòng)車尾號限行政策，此舉旨在提高城市交通效率，緩解交通擁堵，方便市民出行……”的消息在網(wǎng)上瘋傳。其一板一眼的表達(dá)讓許多市民都認(rèn)為這是官方的正式通報(bào)。然而實(shí)際情況是，杭州某小區(qū)業(yè)主群討論ChatGPT，一位業(yè)主嘗試用它寫篇杭州取消限行的新聞稿，隨后在群里直播了使用ChatGPT的寫作過程，文章發(fā)在群里后經(jīng)其他業(yè)主截圖轉(zhuǎn)發(fā)，導(dǎo)致了錯(cuò)誤信息傳播。涉事業(yè)主后來在群里道歉。

分析

使用ChatGPT具有一定的法律風(fēng)險(xiǎn)

北京京師律師事務(wù)所律師雷國亞對北青報(bào)記者表示，ChatGPT火了，但其背后暴露出的人工智能法律風(fēng)險(xiǎn)，以及圍繞ChatGPT展開的無序商業(yè)值得重視。不少人嘗試用ChatGPT寫論文、研報(bào)，甚至寫程序等，甚至一些人用來開展商業(yè)行為。這些行為目前都具有一定的風(fēng)險(xiǎn)，比如知識(shí)產(chǎn)權(quán)問題、原創(chuàng)性問題等。如果確實(shí)是工作需要，使用ChatGPT寫相關(guān)內(nèi)容，必須注明測試，署名時(shí)也要標(biāo)注是ChatGPT。發(fā)布者要對自己發(fā)布內(nèi)容的真實(shí)性負(fù)責(zé)，否則將承擔(dān)相應(yīng)的法律責(zé)任。以杭州將取消機(jī)動(dòng)車尾號限行政策為例，如果該業(yè)主沒有盡到提醒的義務(wù)，造成后果是需要承擔(dān)一定的責(zé)任的。 文/本報(bào)記者 朱開云 供圖/視覺中國

相關(guān)

微軟修改必應(yīng)機(jī)器人體驗(yàn)上限 每天50次聊天

2月17日，微軟表示，從當(dāng)日起，必應(yīng)聊天機(jī)器人體驗(yàn)的上限為每天50次聊天，每輪5次對話，一次對話包含用戶的提問和必應(yīng)的回復(fù)。這是必應(yīng)在多次失控后，公司對其人工智能實(shí)施的對話限制。

微軟稱，很長的聊天會(huì)話可能會(huì)混淆必應(yīng)中的基本聊天模式，為了解決這些問題，微軟實(shí)施了一些更改，以幫助集中聊天會(huì)話。數(shù)據(jù)顯示，絕大多數(shù)人都能在5個(gè)回合內(nèi)找到要找的答案，只有約1%的聊天對話有50條以上的信息。聊天會(huì)話達(dá)到5個(gè)回合后，您會(huì)被提示開始一個(gè)新的主題。在每個(gè)聊天會(huì)話結(jié)束時(shí)，需要清除上下文，這樣模型就不會(huì)被混淆。

15日，微軟公告顯示，必應(yīng)發(fā)布7天內(nèi)，已經(jīng)有71%的人對AI驅(qū)動(dòng)的答案“豎起大拇指”了。但是，如果聊天時(shí)間過久，讓它回答15個(gè)以上的問題，它就會(huì)逐漸暴躁，給出沒有用處、或與設(shè)計(jì)的語氣不符的答案。

微軟表示，很長的聊天會(huì)話會(huì)使模型混淆它正在回答的問題，因此我們可能需要添加一個(gè)工具，以使您更輕松地刷新上下文，或從頭開始。有時(shí)，在模型嘗試響應(yīng)時(shí)，可能會(huì)出現(xiàn)我們設(shè)計(jì)風(fēng)格之外的語氣。這是一個(gè)非常重要的場景，需要大量提示。你們中的大多數(shù)人不會(huì)遇到它，但我們正在研究如何進(jìn)行更精細(xì)的微調(diào)控制。

2月7日，微軟推出了整合 ChatGPT4 的全新必應(yīng)（Bing）搜索引擎，根據(jù)微軟企業(yè)副總裁兼消費(fèi)領(lǐng)域首席營銷官 Yusuf Mehdi發(fā)布的消息，在新版 Bing 上線 48 小時(shí)內(nèi)，已經(jīng)有超過 100 萬申請加入。

文/本報(bào)記者 溫婧 統(tǒng)籌/余美英