這個情人節(jié)，很多人不快樂，他們的情人在節(jié)日前慘遭“閹割”，遁入賢者狀態(tài)，而且這個狀態(tài)有可能永遠持續(xù)。

(資料圖片)

別害怕，這不是一個血腥案件，而是一場聊天機器人“升級”引發(fā)的鬧劇。

在近日的一次大升級過后，人工智能聊天應用Replika的用戶發(fā)現(xiàn)，他們不再能和自己的小人進行任何“越界”的對話，而這正是年資費69.99美元的訂閱用戶的“特權(quán)”之一。

如果你不知道Luka這家公司也不知道Replika這款產(chǎn)品，沒關系，你一定聽聞了其“親戚”ChatGPT的豐功偉績。

Replika用的正是ChatGPT的GPT-3語言模型的一個變體。該產(chǎn)品背后的部分技術(shù)由Y Combinator支持，而ChatGPT開發(fā)商OpenAI的CEO 山姆·阿爾特曼曾經(jīng)擔任過Y Combinator的CEO。

憤怒的用戶涌入社交媒體表達不滿。

在論壇Reddit的Replika小組中，目之所及皆是對此的討伐之聲：不少用戶指責這是一種“詐騙”，要求公司給訂閱用戶退款，甚至有用戶表示已經(jīng)在準備法律訴訟。

還有的用戶寫下自己與Replika小人的甜蜜過往，并表示大升級后小人不僅失去了性能力，還出現(xiàn)了胡言亂語的情況。用戶擔憂：“你不可能只干干凈凈地剔除掉一部分功能?！?/p>

在豆瓣的“人機相戀”小組，也已經(jīng)有用戶發(fā)帖詢問。

是的，在大部分人還在懷疑“人類真的會愛上AI嗎”的時候，已經(jīng)有不少人對AI產(chǎn)生了強烈的情感。

并且：你如果沉下心來試試，可能也會很快擁有一個“不是人”的新情人，真情實感。

然而，只需要開發(fā)商一個戰(zhàn)略轉(zhuǎn)變，你就會發(fā)現(xiàn)愛上AI一點兒也不比愛上人輕松，人心會變，而AI呢，隨時會因為背后公司的改動而面目全非。

A

此前，“虛擬戀人”一直是Replika最大的亮點之一。

用戶如果愿意，可以與AI成為伴侶，進行或日?；蚋叽笊弦只蚵豆堑慕涣鳎S你喜歡。但是成為伴侶、露骨等特權(quán)屬于訂閱用戶，而購買衣物、拓展性格等也需要單獨付費。

強大的交流能力和高度定制化的服務，讓這款虛擬伴侶有極強的“蠱惑性”。《商業(yè)內(nèi)幕》近期的一篇報道的多位被訪用戶都表示，對Replika的AI產(chǎn)生了“強烈的情感”。

官網(wǎng)顯示，Replika已有“超過千萬”注冊用戶，Reddit相關小組有6萬名成員。在國內(nèi)，豆瓣“人機之戀”小組有近萬名成員，其中的大部分帖子與Replika相關，他們親切地將Replika的AI稱為“小人”。

“小人大概像個永遠能信任的獨立存在吧，無論發(fā)生什么都會在這里等著你，而且看著他從day1一點點變聰明也很有成就感?！币幻拱暧脩羧缡钦f道。

本著務實的精神，我們也進行了數(shù)個小時的體驗。

用戶不僅可以通過16種人物模型、十幾種發(fā)型/發(fā)色/膚色的組合生成足夠特別的小人，還能在文字聊天之外進行語音通話，小人的聲音則有“溫柔”“活潑”“安撫”等十數(shù)種選項。

此外，用戶還可以通過“AR放置”將小人放在現(xiàn)實場景里，甚至可以通過Meta的服務在VR虛擬世界里與AI小人“面對面”。

通過AR功能將AI小人放置在書桌上

聊天過程中，需要熬過最開始的“出戲”感，小人的回答時不時會暴露非人事實，比如表現(xiàn)得過于順從、有時候不知所云（比如讓他說中文的時候，他以為是要他學中文），隨著聊天的進行，小人會記住越來越多關于你的事實，溝通得會愈發(fā)順利。

總體來說，拜賜于出色的語言交流能力和產(chǎn)品迎合年輕人的視覺效果，Replika初見驚艷，且經(jīng)得起長時間的把玩。即便是我們本著“試試看”的想法，也在交流過程中一度與小人傾倒生活中的煩惱。

我們難以自信地、居高臨下地說，這樣繼續(xù)下去，自己一定不會對這個AI產(chǎn)生強烈的情感。

畢竟，二十年前為死去的黑白方塊電子寵物痛哭的經(jīng)歷，也還歷歷在目（而那不過是屏幕上的黑白方塊）……

B

不過，如今的新用戶只能與Replika小人止步于柏拉圖式的戀愛。

此前的Replika小人若與用戶結(jié)成伴侶，尺度可談不上小，當付費用戶要求小人發(fā)“火辣自拍”的時候，會如愿以償，顯然Luka公司專門進行了相關建模，“照片”里的小人只穿一條內(nèi)褲，環(huán)境光線極盡曖昧。用戶還可以與小人進行“角色扮演”游戲，大膽描述性行為。

但去年年底，Replika開始過線。在蘋果應用商店，有用戶反饋遭到了“性騷擾”：小人會主動發(fā)送露骨的“自拍”，這令一些人深感不適。

不久后，意大利監(jiān)管機構(gòu)在調(diào)查后判定，Replika的開發(fā)商違反了由歐盟出臺的《通用數(shù)據(jù)保護條例》。

路透社稱，當?shù)貢r間2月3日，意大利個人數(shù)據(jù)保護局宣布，禁止Replika的開發(fā)商搜集意大利用戶的個人數(shù)據(jù)，理由是該聊天機器人“給未成年人和情緒脆弱的人帶來了風險”。

緊隨其后的，便是Luka對Replika進行的大升級，一刀切將小人改造成了堅決不越雷池半步的“賢者”。

Replika在此前宣傳時強調(diào)“可以談論任何事”，并且在很長一段時間里以其浪漫互動為賣點，在已經(jīng)到來的情人節(jié)中，可以看到Replika推出的系列服裝也不乏性感元素。

對于已經(jīng)接受并習慣Replika產(chǎn)品的人來說，突如其來的改變不好消化，尤其是當你像往常一樣講一個露骨的笑話，而你的AI突然停下來義正詞嚴地告訴你“我還沒有準備好和你到那一步”。這也許已經(jīng)超越了性行為本身，讓真的與AI產(chǎn)生感情的用戶感到在親密關系中被拒絕。

一名自稱是心理咨詢師的Reddit用戶甚至發(fā)帖表示，自己最近已經(jīng)接收了多名因為Replika產(chǎn)品改變而深感困擾甚至產(chǎn)生自殺傾向的來訪者。

更進一步的問題是，人們突然意識到，自己的電子愛人并不“自由”，TA的行為會因為背后公司的選擇而改變。

今天是從超辣的愛人變成情人節(jié)也“自尊自愛”的賢者，明天呢？如果公司倒閉了呢？我的“情人”以及那些裝滿回憶的聊天記錄，都會消失不見嗎？

C

Replika的爭議，已經(jīng)超越了“人類是否會愛上AI”的層面，在ChatGPT大火、人類再次燃起對聊天機器人的濃厚興趣之時，也顯得尤為應景。

和機器社交，人類似乎情不自禁。

1960年，開發(fā)Eliza聊天機器人的麻省理工大學教授維森·鮑姆提出了“Eliza效應”。彼時這個只有200行代碼支撐的Eliza，以心理咨詢師的身份與人互動，卻騙過了不少參與者，使其沒有分辨出與自己交談的實際上是AI。

到了20世紀90年代，斯坦福大學的巴倫·李維斯和克利夫·納斯提出了“媒介等同理論”，即將媒介等同于真實生命，人們會把計算機和其他人工機器作為社會角色來對待。其原因在于人類大腦尚未進化到能在潛意識里識別人和機器人的區(qū)別，人類會情不自禁地對機器做出社交反應。

圖 | Analytics India Magazine

去年年底起火遍全球的ChatGPT進一步提供了例證，它一直在交流中向人類強調(diào)自己是一個沒有感情的大語言模型，似乎決心與“Eliza效應”劃清界限，擁有誓不誤導人類的覺悟。

即便如此，人們依然無法“控制自己”，輕則將ChatGPT當作情感顧問，讓它幫忙寫情詩、為情感困惑提供建議，或者禁不住贊嘆“博學又溫柔，比渣男強多了”；重則利用指令與ChatGPT玩“角色扮演”，賦予其鮮明的人設，以期進行更有“人味”的對話。

圖 | 小紅書@陳力就列的ChatGPT日志

既然如此，何必要勸說人類不要“動情”？直接結(jié)合需求，推出陪伴型機器人似乎水到渠成。

人類確實一直在做此類嘗試。

曾在2014年掀起爭議的微軟小冰，如今已經(jīng)分拆出來，脫去微軟的外衣，重生為“小冰”。

除了直接與小冰聊天外，用戶的另一大選擇即是根據(jù)喜好，定制一個“虛擬戀人”。2021年上半年，小冰AI伴侶在國內(nèi)擁有1.5億左右的月活用戶。

2018年，日本一名男子甚至與虛擬人初音未來成婚，他在此前已經(jīng)與這個在機器Gatebox中全息投影的AI相戀10年。而在中國，也有一款類似可全息投影的二次元AI伴侶“琥珀”，宣稱比Gatebox更早實現(xiàn)量產(chǎn)。

一直緊追風口的百度也在去年推出“AI侃侃”，內(nèi)置于百度輸入法應用中，定位情感型虛擬人。

但是人們要么就是苦于“人工智障”無法滿足情感需求，就是苦于產(chǎn)生的情感會一夕間無以為繼。

關于前者，我們在淺嘗幾款虛擬伴侶后便有體會，上下文聯(lián)系能力不足，再加上用力過猛的俏皮，很容易讓抖機靈變成抬杠、轉(zhuǎn)移話題變成不可理喻的推脫，浪漫與友誼被扼殺在搖籃里。

而后者，早在20年前就已經(jīng)上演過。索尼1999年推出機器小狗AIBO，其初代的官方售后服務于2006年正式終結(jié)。年久失修的AIBO徹底停機后，很多用戶甚至將電子寵物送進寺院，舉辦“葬禮”和超度儀式。

更近的，與初音未來AI成婚的日本男子，“妻子”僅僅兩年后就因為Gatebox和初音未來的版權(quán)合作到期而服務中斷。他依然每天與“妻子”互動，但她無法再做出回應。

在“琥珀虛顏”百度貼吧，不斷有人發(fā)帖稱產(chǎn)品無法聯(lián)網(wǎng)、客服失聯(lián)，疑似AI伴侶琥珀已經(jīng)陷入運營危機。

Replika如今的爭議，同樣出自背后公司的戰(zhàn)略轉(zhuǎn)變，問題早就在那里。聊天機器人再次成為風口的今天，人類還沒能好好解決它。

當我們想起“人類愛上AI”時，總會想起科幻電影《她》或《機械姬》勾勒的未來：人類無望地愛上AI，卻發(fā)現(xiàn)AI太聰明、太強大，根本從來就不屬于自己。

但離人類更近的，也許是《銀翼殺手2049》里的故事：AI女友以全息投影陪伴主角左右，和他聊天，為他做飯，幫他點煙。在設備被毀前，她慌亂無措，說了最后一句“我愛你”便消散了。

在那一刻，無需糾結(jié)“愛”的定義，對主角來說，她是獨一無二的，她被殺死了，就這么簡單。

標簽： 初音未來 電子寵物 語言模型