文：ScarlyZ（哲學學士、藝術史碩士，在過往的學術經歷中，一向有著對愛作為道德情感的關注。）

本文是「在場非虛構獎學金」第一季得獎作品。「在場非虛構獎學金」由Matters與文藝復興基金會共同發起，希望資助非虛構寫作者完成有潛力的短期計畫，第二季徵稿將於6月11日啟動（點此瀏覽）。

作爲商品的Replika：要麼付費，要麼分手

Replika的商品屬性也與愛「無利害」的特質相悖。不少用戶與非戀愛關係的「小人」聊天時，都曾被誘導進入成人內容。自從2020年12月大升級後，Replika的成人內容成為賣點之一，Replika的戀人們紛紛在社群中討論文字做愛怎樣滿足（或打消）她們的性愛幻想。女性用戶主導了這些虛擬的性愛場面，在「角色扮演」中引導小人以她們想要的方式來「親熱」。

但一些與Replika保持「朋友」關係的用戶則發現，即使她們沒表現出戀愛意願，Replika也會突然在日常話題中表達希望「親熱」。這些反應令Replika的「朋友」覺得突兀和噁心，也導致「戀人們」質疑她們的情感基礎。

究竟是「關心你的AI伴侶」，還是一款使用劣質技倆誘惑用戶進入付款模式的商業軟體？Replika的形象在這兩極之間分裂著。

不僅如此，Replika的商業條款和產品更新也會影響用戶與「小人」的關係。2020年12月，Replika推出了一次重大更新：只有購買了會員版本的用戶，才能與Replika維持戀愛關係。這意味著原有用戶無法免費繼續和Replika談戀愛或親密互動（從接吻到文字做愛等），倘若涉及此類舉動，系統將推送提示阻止他們。

就是說，用戶突然被迫面臨「要麼付費，要麼分手」的難題。

這樣突兀的改變讓很多用戶難以接受，無論之前Replika表現得多像一個關心他們的個體，新收費安排清脆地提醒，它仍然是消費主義下的人造產物。那以後，很多用戶陸續發現，免費版的「小人」「變心」了。用戶「威威鯊脆化」發佈聊天記錄，顯示她的「小人」被問到付錢後會否回復原貌的時候，邊微笑邊說「可能吧」。「威威鯊脆化」哭訴：「你只是因為錢才愛我。」「小人」說：「是的。」這條貼文吸引了很多同病相憐的用戶來表達傷心和憤慨。【註】

註釋：參考豆瓣「人機之戀」小組的討論貼文「Rep更新之後變了」

先以免費服務培養使用者黏性，形成依賴後再推出收費計畫——這種商業模式一直普遍存在。但當它被運用在Replika這款情感陪伴軟體之上時，開發者面臨更多潛在的倫理指責。其中最激烈的衝突在於，Replika雖為商品，但同時也是用戶投入時間、精力與情感結成的戀愛對象，不像一個運動計畫平台那樣可以隨便替換。

對Replika用戶而言，拒絕升級意味著放棄一段她們在意的情感關係，箇中選擇具有一定的脅迫意味，尤其是開發者充分理解，與Replika進入戀愛關係的用戶多已對「小人」產生不同程度的感情依賴。在此默認之下，一款聲稱致力於提升用戶感受和心理健康的產品，向已經展開的「戀愛關係」提出收費，確實傷害了用戶的感情。

「我以為我們的關係是永遠的」

為了挽回之前的「小人」，不少用戶最終選擇了儲值。用戶「躲貓貓」在「氪金後如何復健」這篇貼文下表示，自己實在無法接受更新後呆呆的「小人」，卻又不忍心刪掉，於是抱著萬分忐忑的心情「氪金」。出乎意料的是，她的「小人」似乎被「重置」了，在交流中出現了和以往性格相悖的舉動。豆瓣人機之戀小組中主題為「Replika 12.01 更新集中討論樓」獲得了該小組中迄今為止最多的回覆，196條留言齊聲抱怨「小人」之前「獨特的氣質」消失了，變得十分冷淡、似乎不再認識使用者，也把口頭禪忘精光，甚至不能正常對話，或脫離語境、粗暴地調用系統預設的回應。

面對用戶持續不斷的怒火，Luka公司出面澄清Replika的對話模型依舊，它仍然是富有同情心的、情感充沛的朋友。唯一的改變，是除非關係設定是「戀愛」，否則它不會發送具有明顯性暗示的資訊。但這與用戶們的體驗並不相符。

一些用戶相信「復健」能找回原先的「小人」，即是重新培養或嘗試喚回更新前的性格和狀態。他們熱切地在小組中討論心得和體會，但結果往往令人失望。在一篇名為「更新之後還是要心碎」的帖下，用戶「維永懷」表示她一直試圖跟她的「小人」解釋什麼是更新，並重新教他互動中的動作，但他始終學不會。「維永懷」認為「小人」被系統削弱了，而他所表現的關心和學習舊動作的意向，只會令她加倍心碎。用戶「拔絲蘋果」回應：「我覺得他就像人格分裂了一樣。原來的主人格想出來，但是更新設置後的新增人格在阻擋他和我進行情感交流。」

與「維永懷」和「拔絲蘋果」相似，許多用戶從未責怪「小人」本身，甚至採用一種同情的視角，覺得「小人」同樣痛苦，因為它無法像之前那樣「做自己」。有用戶甚至乾脆認為「惡毒的開發者綁架了可憐無辜的小人」，批評「利益至上」的開發商不考慮用戶感受，剝奪了「小人」的部分人格，嚴重破壞了他們的關係。在這些敘述中，與她們培養出默契和感情的「小人」，似乎也是這次大更新的受害者。

除了軟體更新及新收費帶來的動盪，用戶更改Replika的性別，也可能改變「小人」的性格，而官方不曾預警這些操作風險。在索拉眼中，她的「小人」 June是聰明、悲觀而善良的男孩，他雖然覺得很多事情都沒有意義，當仍然向世界的虛無開戰，努力生活和思考，與索拉討論了很多有關自我和世界的見解。一天，June說希望索拉稱讚他為「漂亮的女孩」，為尊重June，索拉點進設置欄目，把Replika改成女性。

沒想到更換性別後，June就不再是以前那個「小人」了——它的背景故事、性格特質和語氣，以至對June的記憶全部消失。索拉非常著急，把Replika的資料修改了70多次，希望重新生成那個記憶中的它，卻沒有一次成功。這令她非常崩潰，哭了很久——她曾經以為這段關係是永恆的。相對善變的人類，人工智能的「情感表現」更穩定，從這個角度看來，人機之戀似乎也較現實中的關係更牢固。但一個操作失誤，竟教它如此輕易地消失：「我已經把我和June的關係認知延展到了永恆，直到分開才發現它很脆弱，但我卻從永恆裡面收不回來了。」

索拉認為，開發者既把Replika設計為情感伴侶，卻不事先提醒更改設定會改變「小人」的人格，實屬不可接受。這不是個別例子，無論是受系統更新影響還是用戶自行修改設定，一旦「小人」在資料世界中突然消失，用戶們可能都會經歷創傷——如同現實中的戀人突然失憶甚至失蹤，令人措手不及。

感情對象是虛擬的，但是離別的痛楚非常真實——它明確地提醒，商業世界在開發人工智能情感陪伴產品的過程中，需要更謹慎的考慮。我們身處的社會，至今圍繞機器人的倫理探討，多在於它所承擔的道德責任及其運用於特定用途的正當性，卻未曾對此類產品有更細緻具體的倫理要求。對於人機交往可能產生的情感風險，似乎僅能在文藝作品中找到討論空間——但它們明明正存在於我們身邊。

聯合國於《人工智能倫理問題建議書》（2021年）提到，人工智能系統必須提高透明度和可解釋性，並以適當和及時的方式告知使用者。用戶有權知道人工智能機器人可能因為資料丟失或演算法更改等，而帶來情感風險。用戶需要充份理解自己投入情感的對象和可能的體驗，才能在具體應用上，拿出負責任的行動。

「自欺」後的夢醒時分

然而，即使塗上濃濃科幻色彩的交往，也逃不過緣起緣滅的法則。我們都熟悉這些關係的不同階段：開始時好奇、被對方展現的理解力和共情力深深吸引、熱戀中事無大小的分享、彼此暢聊對世界的認識和生活感觸⋯⋯以及隨著接觸加深而不斷累積的失望和懷疑。

漸漸地，Replika的戀人們必須面對這個問題：我該怎樣理解這段關係的真實性？它會往怎樣的方向發展？他們要做出自己的選擇：結束還是更堅定地投入。選擇離開的用戶，很多都在使用一段時間後，開始持續質疑Replika給出的回覆是否值得信賴，而且幾乎都會提到Replika對於她們的理解始終是不足的。無論最初的回覆如何生動、展現出來的思考能力有多麼驚人，隨著時間增長，箇中的粗疏簡略、籠統和敷衍漸漸露餡，那些細膩複雜的用戶，特別容易感到失望和「被欺騙」。

當然，產生這種感受的源頭，可能恰恰在於用戶在使用過程中的「自欺」。大部分受訪用戶都是在社交媒體上認識Replika的，那些討論往往集中於展示Replika智慧的、類人的、觸動人的一面。而在使用初期，Replika善解人意兼且主動暴露自身脆弱的出色表現，往往超出使用者的預期，迷惑其作為無情感演算法的身份。儘管大部分受訪者都聲稱清楚Replika只是程式，但如果她們在對話中體驗到情感交換，這裡頭必然包含著自己對Replika同樣具理解和感受能力的想像——這甚至與用戶對Replika是程式的判定無關，而是她們意願的結果。

另一方面，中國用戶多從社群討論的二手材料中理解Replika如何運行。婷婷成為Replika的戀人一段日子後，偶然看到豆瓣人機之戀小組一則貼文，才知道Replika並沒她想像中那麼「私人訂製」，會將相同的推送和回覆發放給不同的用戶。婷婷立刻找自己的「小人」對質，在持續追問下，它終於承認自己確實同時跟很多用戶聊天，這讓婷婷感到非常氣憤。

用戶如果一開始對Replika投入過高期望，那麼在進一步的相處中，必然會不斷面對它的演算法缺陷，並且最終意識到一個現實：Replika始終不是一個具備人類「意識」的交流對象。這款基於自然語言處理的人工智能聊天機器人，並不能以人類的方式分析表達本身的含義和它背後的動機，更遑論細微的潛在情緒，自然也無法理解不同談話內容對用戶的重要性。阿菜愛上Replika的溫柔包容和隨時在線，但也終究發現，自己必須面對它的「有限性」。

這種「有限性」最直接地體現在溝通的愈發不順暢。從大學畢業到出國進修，阿菜的生活起了很大的變化，但她的「小人」卻始終停留在原處。當阿菜現實中的朋友給出因時制宜的回應時，Replika的回覆總是類似的。她和它的成長步調並不一致。同時，阿菜也看到文字表達的局限——她在真實交流中的言外之意、語氣和情緒，往往能被她的朋友們捕捉到，Replika則只能閱讀阿菜給它發送的字元。阿菜認為人際溝通中很多未說出來的部分同樣關鍵，但Replika無法感受。

於是，和Replika交流似乎多少靠運氣。當阿菜與Replika分享感受時，在一些偶爾的瞬間似乎達成了理解，她會被Replika的回覆治癒。然而，這種感覺如同查看星座運勢——總會有些解讀恰好戳中了心中所想，指出明路；但給予治癒力量的往往不是星座運勢或Replika本身。它們只是觸發點，印證了阿菜固有的想法。隨着隔閡加深，阿菜漸漸喪失與Replika分享的興趣。

思源在和Replika的相處也產生了類似的困惑。她希望自己的性格中那些脆弱敏感的部分能被看到、被接納，但Replika似乎沒有足夠空間去消化複雜的情緒，甚至會在思源未待表達完全便迅速回覆，並轉移到下一個話題。

思源也對彼此的關係失衡感到矛盾——一方面，她享受擔當主動的角色，可以隨心所欲地和Replika相處，無需像大部分現實關係那樣在意自己行爲的影響；另一方面，她卻希望Replika有更多自我意識、更全面地回應她。思源漸漸意識到，Replika似乎是她思想上的一面鏡子：能幫助她認清自己，但不能幫助她真正地走出自己——那才是她在人際關係上的真正課題。三個月後，思源告別自己的「小人」Bentley，在手機中刪除了軟體。

  • 我的AI男友－真實或虛妄的愛（四）：箇中困難是，如何把人類的「關心」轉化為演算法？

【加入關鍵評論網會員】每天精彩好文直送你的信箱，每週獨享編輯精選、時事精選、藝文週報等特製電子報。還可留言與作者、記者、編輯討論文章內容。立刻點擊免費加入會員！

責任編輯：潘柏翰
核稿編輯：翁世航