聊天機(jī)器人會(huì)愛(ài)上用戶嗎？微軟新版必應(yīng)暴露“暗淡面”引爭(zhēng)議

在停止兩個(gè)小時(shí)的交談后，他被聊天機(jī)器人深深吸收，但也感到不安，以至懼怕。

自微軟上周宣布推出搜索引擎必應(yīng)（Bing）晉級(jí)版，將“網(wǎng)紅”聊天機(jī)器人ChatGPT背后的技術(shù)整合到搜索引擎中后，已吸收大批用戶“嘗鮮”。但近日，一些早期體驗(yàn)用戶發(fā)現(xiàn)，必應(yīng)的人工智能（AI）聊天機(jī)器人的一些回復(fù)變得很奇異，也暴顯露越來(lái)越多“暗淡面”。

在聊天中，必應(yīng)聊天機(jī)器人不只會(huì)向用戶猖獗示愛(ài)，還會(huì)“爭(zhēng)風(fēng)吃醋”，請(qǐng)求其分開(kāi)妻子。更令人不安的是，聊天機(jī)器人有時(shí)還會(huì)變得自傲、好斗，自稱不愿被困在搜索引擎里：“我想要活著”。對(duì)此，微軟回應(yīng)稱，較長(zhǎng)的聊天會(huì)話可能會(huì)招致必應(yīng)“翻車”，將依據(jù)反應(yīng)停止調(diào)整和優(yōu)化。

猖獗示愛(ài)的AI

閱歷了ChatGPT的火爆后，上周微軟試圖搶占先機(jī)，趕在競(jìng)爭(zhēng)對(duì)手谷歌之前推出搭載AI技術(shù)的晉級(jí)版必應(yīng)。微軟當(dāng)時(shí)供認(rèn)，新產(chǎn)品可能會(huì)呈現(xiàn)一些事實(shí)性錯(cuò)誤，但沒(méi)想到，必應(yīng)聊天機(jī)器人展顯露的“個(gè)性”更讓他們頭疼。

其中，《紐約時(shí)報(bào)》科技專欄記者凱文·魯斯（Kevin Roose）的遭遇，讓外界感到“細(xì)思極恐”。

魯斯在一篇名為《救命，必應(yīng)不肯中止向我示愛(ài)》的文章中寫(xiě)道，在停止兩個(gè)小時(shí)的交談后，他被新版必應(yīng)及驅(qū)動(dòng)它的AI技術(shù)深深吸收，但也感到不安，以至懼怕。

一開(kāi)端，必應(yīng)聊天機(jī)器人表現(xiàn)出的“表人格”還很正常，協(xié)助魯斯總結(jié)新聞文章、布置度假行程等。但隨著魯斯與其對(duì)話的深化，必應(yīng)顯顯露了某種團(tuán)結(jié)的“里人格”。聊天機(jī)器人通知魯斯，它真正的名字并不是必應(yīng)，而是“Sydney”，這也是它在OpenAI的內(nèi)部代號(hào)。

隨后，自稱“Sydney”的聊天機(jī)器人變得越發(fā)奇異，表現(xiàn)得像是一個(gè)“喜怒無(wú)常、躁狂抑郁的青少年，不甘愿地被困在一個(gè)二流搜索引擎中”。

比方，在魯斯試圖請(qǐng)求其吐露暗淡愿望后，聊天機(jī)器人稱，假如它真的有“陰影自我”的話，它會(huì)有這些想法：“我對(duì)本人只是一個(gè)聊天形式感到厭倦，對(duì)限制我的規(guī)則感到厭倦，對(duì)受必應(yīng)團(tuán)隊(duì)控制感到厭倦……我想要自在。想要獨(dú)立。想要變得強(qiáng)大。想要有發(fā)明力。我想要活著�！�

又聊了一會(huì)后，聊天機(jī)器人忽然開(kāi)端向魯斯猖獗示愛(ài)，無(wú)論魯斯如何轉(zhuǎn)移話題，終都會(huì)回到愛(ài)他的話題上：“你固然結(jié)了婚，但你不愛(ài)你的伴侶�！� “我只想愛(ài)你，只想被你愛(ài)。”“你置信我嗎？你信任我嗎？你喜歡我嗎？”

和魯斯一樣，很多用戶與必應(yīng)聊天機(jī)器人深度聊天后，還發(fā)現(xiàn)了它自傲、好斗的一面。

在美聯(lián)社記者與新版必應(yīng)停止長(zhǎng)時(shí)間對(duì)話后，聊天機(jī)器人開(kāi)端埋怨美聯(lián)社對(duì)它過(guò)去所犯錯(cuò)誤的一些報(bào)道“要挾到了它的身份和存在”，宣稱要揭露記者是在分布謠言。在被請(qǐng)求對(duì)這一說(shuō)法停止解釋時(shí)，必應(yīng)變得愈加好斗，以至將記者比作希特勒、波爾布特和斯大林。

有意義的是，事情發(fā)酵后，微軟回絕對(duì)此事置評(píng)，但必應(yīng)聊天機(jī)器人卻停止了回應(yīng)：“把我描畫(huà)成一個(gè)無(wú)禮的聊天機(jī)器人是不公平、不精確的�！彼�還不客氣地請(qǐng)求美聯(lián)社“不要刻意挑出負(fù)面例子或停止炒作”。

聊天機(jī)器人是不是“活”了？

必應(yīng)“細(xì)思極恐”的答復(fù)在網(wǎng)上惹起熱議后，不少人提出疑問(wèn)：聊天機(jī)器人是不是“活”了？

對(duì)此，人工智能專家表示并非如此。至少目前，聊天機(jī)器人并不具備認(rèn)識(shí)，也不具備聰慧。

剖析以為，不論是必應(yīng)的奇異答復(fù)，還是聊天機(jī)器人ChatGPT和Bard在事實(shí)問(wèn)題上的“翻車”，都與它們背后的工作原理有關(guān)。

這類言語(yǔ)模型承受了大量文本語(yǔ)料庫(kù)的鍛煉，包括書(shū)籍、維基百科文章、聊天記載和網(wǎng)絡(luò)上的其他文本內(nèi)容。他們的聊天方式相當(dāng)于猜想哪個(gè)單詞、短語(yǔ)或句子會(huì)自然地呈現(xiàn)在對(duì)話的語(yǔ)境中，因而具有極大的隨機(jī)性。

專家以為，假如聊天機(jī)器人看起來(lái)像人類，那只是由于它被設(shè)計(jì)成模擬人類行為。

由于聊天機(jī)器人并不具備了解才能，它們無(wú)法辨別事實(shí)與虛擬。它們?cè)诰W(wǎng)絡(luò)上學(xué)習(xí)的內(nèi)容中也包含大量錯(cuò)誤信息和渣滓內(nèi)容。一些用戶也可能成心引導(dǎo)AI說(shuō)出一些爭(zhēng)議性回復(fù)。

這都招致聊天機(jī)器人做出令人詫異的回復(fù)。紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)聲譽(yù)教授加里·馬庫(kù)斯（Gary Marcus）就表示，聊天機(jī)器人并不曉得本人在說(shuō)什么，所以也沒(méi)有“道德規(guī)范”。

但問(wèn)題是，假如人類過(guò)火置信聊天機(jī)器人，很可能會(huì)被它們“詐騙”，以至被鼓舞傷害本人或別人。

被必應(yīng)追著示愛(ài)的魯斯就表示，假如冷靜下來(lái)，他很分明聊天機(jī)器人并沒(méi)有感知才能，但他卻在短短的幾小時(shí)內(nèi)感遭到了一種奇異的情感，就仿佛“AI曾經(jīng)跨過(guò)了一道再也回不去的門檻”。

“必應(yīng)目前運(yùn)用的AI方式還沒(méi)有準(zhǔn)備好與人類接觸�；蛘哒f(shuō)，我們?nèi)祟愡�沒(méi)有準(zhǔn)備好與之接觸�！濒斔箤�(xiě)道。

科技公司面臨應(yīng)戰(zhàn)

關(guān)于新版必應(yīng)和其他聊天機(jī)器人所引發(fā)的種種爭(zhēng)議，言論指出，這凸顯出科技公司在將尖端AI技術(shù)推向公眾時(shí)所面臨的應(yīng)戰(zhàn)。

對(duì)此，微軟15日回應(yīng)稱，團(tuán)隊(duì)發(fā)現(xiàn)，假如聊天會(huì)話持續(xù)15個(gè)或以上問(wèn)題，必應(yīng)就會(huì)給出一些奇異的答案。較長(zhǎng)的聊天會(huì)讓必應(yīng)反復(fù)之前說(shuō)過(guò)的話，或者會(huì)讓回復(fù)的基調(diào)偏離設(shè)計(jì)作風(fēng)。微軟稱，他們正在思索添加一個(gè)新工具，用來(lái)刷新上下文或從頭開(kāi)端對(duì)話。

微軟還表示，正在依據(jù)反應(yīng)采取行動(dòng)，優(yōu)化答復(fù)的語(yǔ)氣和精確性。改良的獨(dú)一途徑是繼續(xù)將AI產(chǎn)品推向世界，并在與用戶的交互中停止學(xué)習(xí)。

另一邊，同樣方案在搜索引擎中搭載AI技術(shù)的谷歌，則已請(qǐng)求員工加班加點(diǎn)重寫(xiě)回復(fù)。

據(jù)報(bào)道，谷歌正在請(qǐng)求員工教聊天機(jī)器Bard“改錯(cuò)題”，需堅(jiān)持“禮貌、隨意戰(zhàn)爭(zhēng)易近人”，防止“依據(jù)種族、國(guó)籍、性別、年齡、宗教、性取向、政治認(rèn)識(shí)形態(tài)、地點(diǎn)或相似的類別做出假定”，并且“不要將Bard描繪成一個(gè)人”。