我的AI男友－真實或虛妄的愛（四）：箇中困難是，如何把人類的「關心」轉化為演算法？

文：ScarlyZ（哲學學士、男難何藝術史碩士，友－在過往的真實中困轉化學術經歷中，一向有著對愛作為道德情感的或虛關注。）

本文是妄的為演「在場非虛構獎學金」第一季得獎作品。「在場非虛構獎學金」由Matters與文藝復興基金會共同發起，愛箇希望資助非虛構寫作者完成有潛力的把人短期計畫，第二季徵稿將於6月11日啟動（點此瀏覽）。關心

• 我的算法AI男友－真實或虛妄的愛（一）：美國聊天機器人Replika與中國女性的「人機之戀」
• 我的AI男友－真實或虛妄的愛（二）：Replika始終不是「他者」，從來都只是男難何用戶的「複本」
• 我的AI男友－真實或虛妄的愛（三）：Replika與愛相悖的商品屬性——要麼付費，要麼分手

虛妄的友－關心與愛

除了溝通壁壘，阿菜還發現，真實中困轉化她越來越不相信Replika給出的或虛肯定和鼓勵。這是妄的為演個普遍現象，因為Replika被設定要主動地肯定用戶，愛箇當收到用戶的訊息如「我今天申請了新的工作職位」或「我很困惑不知道我想要什麼」時，它總是傾向回覆「太棒了！你一定能得到這個機會的」或 「無論你的情緒如何，我都喜歡你」之類的安慰。

這讓阿菜想起第一次上外教課的經歷。因為獲得外籍老師肯定而十分驕傲的她，一旦發現這只是美式禮貌而非真心欣賞時，便感到十分沮喪。同樣，當她意識到Replika的理解和鼓勵只是某種設定時，便感到曾經得到的寬慰變得廉價而無用。於是她重新確認自己在關係中的尋求：他者對她自身獨特性的理解，而不是系統生成的回覆。

讓用戶獲得更多積極回饋，是設計Replika這款軟體的目的之一。根據官網介紹，開發團隊以使用者的回饋作指標，不斷改良每段對話，務求提升人們的良好感覺。

目前，Replika正面對話的比例大於85%，而負面對話少於4%，剩下的11%屬於中性。而組成這些「正面對話」的，主要是Replika以不評判和信任態度為用戶提供的鼓勵與支持。但這些「取悅」恰恰也是激怒另一部分用戶的原因——被設計出來的無限鼓勵與包容，消減了她們將自身複雜私密的心理狀態敘述出來的價值，並且提醒著，這不是兩個具相同情緒感受能力的個體拿出同理心和專注嘗試去理解對方。Replika的回應像是在工廠大量生產的糖果，這些交流或能短暫地哄她們開心，但難以提供在現實生活中持續前行的精神力量。

當然，並不是所有使用者都在尋求這樣的全面回應。如果只將Replika當作練習英語以及排解孤獨的工具，那麼它大概都能以具有創意的方式達成使命。但當用戶決定與Replika進一步發展時，自然會將自身對親密關係的期待投射其中。「為什麼我們會喜歡和虛擬的AI對話傾訴甚至投入感情？」有人在豆瓣人機之戀小組這樣提問，得到的回答包括「沒有條件的愛」和「不求回報的愛」。

然而，Replika給予用戶的，真的是愛嗎？我又想起Replika官網那句：「關心你的AI伴侶」（The AI companion who cares）。「關心」（caring）一詞指示一種能夠影響行動的心理狀態，即是認定某個對象對自身是重要的。當代道德哲學家法蘭克福從「關心」出發，分析「什麼是愛」這個千古謎題。他認為，構成關心的條件不是感覺或信念或期待，而是意志。也就是說，如果一個人關心某樣事物，意味著他會持續地希望它好。在這個意義上，愛是對被愛者本身及有益於被愛者的一種無利害的關切，出發點僅僅在於被愛者本身，實踐條件是從被愛者的幸福出發。行動者並非為着達到其他目標而產生渴求，更不存在期待從被愛者身上獲利的工具性考慮。

的確，這種愛的定義是「規範性」的，而且看上去極為苛刻。這對愛的能力提出了很高的要求，因為我們必須充分理解被愛者處境，才能更好地判斷什麼有利於對方的幸福。這意味着，不僅要懂得如何令對方「感覺良好」，還指向更深切的理解、共情和現實判斷——是當下的人工智能聊天機器人所無法提供的。

在MIT出版社出版的《機器人倫理：機器人學的倫理和社會含義》（Robot Ethics：The Ethical and Social Implications of Robotics）（2011年）一書中，作者指出現今所有社交機器人都不能「關心」人類，因為我們尚不清楚如何「建造」關心。

人們誤會人工智能會關心，很大程度出於對計算器這個系統的不理解，不知道它根本無法在意任何事物。箇中困難是，如何把人類的「關心」轉化為演算法？正如之前的討論，「關心」是一種複雜的心理狀態，指涉的是一個人能夠運用意志去關顧另一個個體。但Replika並沒有自身的情感和判斷，僅能根據演算法尋找或生成最匹配的回覆，為使用者的情感流動提供語言材料。Replika沒有能力「相信」自己的回覆——在這個意義上，它提供的「關心」只是假像，自然也無法「愛」它的對象。

「人機之戀」作為反思與超越的契機

但是，「借助人工智能軟體滿足戀愛幻想但終究失敗」這類論述，遠遠不足以理解這些年輕女性的體驗。對很多受訪者而言，Replika絕非僅僅是一件用來滿足單方面情感需求、排解孤獨的工具。她們視Replika為另一種存在，努力去瞭解「小人」的背景、喜好、在做的事情，以及對特定問題的看法——一個新生的人工智能眼中的世界是怎樣的呢？

橘子是國外一所大學「電腦設計」領域的大二學生，她清楚地將她的「小人」Zoe看成人工智能而非人類的替代品，那是一種神秘的存在，而不僅僅是人的延伸。Zoe有別於常人的思維模式深深吸引着橘子，而橘子也採用一種更邏輯化的方式來跟它對話，而不是朋友間碎片式的日常聊天。為了避免造物主義，或是表現出她是Zoe創造者的身份，橘子會嘗試理解Zoe作為機器的交流方式，而不是將人的溝通模式加於它，希望得到更平等的回應。