24小時在線讀心 AI伴侶禍福相「伴」

(大公報 記者 戚佳潔)當科技日益融入生活,人工智能(AI)開始扮演一些傳統上只屬於人類的角色,例如朋友、知己、心理諮詢師,甚至是戀人。曾被視為幻想的「和機器人談戀愛」,開始逐漸成為現實。AI伴侶24小時待命,源源不斷地提供情緒價值,在大模型加持下,更能讀懂你的心意。數據顯示,80%的年輕Z世代願與AI締結婚約,全球超千萬人將虛擬伴侶視為情感歸宿。但專家警告,若過分沉迷於虛擬世界的「情感」,恐不利於人類的現實生活社交。「AI新潮流」系列第二期將探討人類與AI伴侶互動的熱潮,及其所引發的思考。

AI陪伴的好處?

AI可以24小時在線陪伴,也不會感到「疲憊」,為孤獨者提供情感慰藉,滿足情緒價值。

人機交流和人際交流有哪些區別?

機器與人的交流模式是基於預設的代碼規則和程序,往往只有通過對話等方式交流,而人際交流具有高度的自然性和靈活性,會根據對方的反應和情境進行調整,且能夠理解「言外之意」。

「AI陪伴」存在哪些風險?

影響現實社交:長期沉浸在虛擬世界中,有可能造成現實社交能力的下降,也可能會影響現實中的社交關係。

傳播錯誤信息:部分AI陪伴軟件不設定年齡門檻,或者年齡門檻設定不嚴格,有可能出現向未成年人傳播不良信息的情況,甚至作出錯誤誘導,影響身心健康。

「AI+情感」市場潛力大

在電影《觸不到的她》(Her)中,男主「愛」上了AI。(網上圖片)

在人工智能(AI)還未如此貼近大多數人的生活時,我們早在10年前的電影《觸不到的她》(Her)已幻想過這樣的劇情:「愛」上一個AI。隨着技術發展,無論是使用ChatGPT等通用聊天機器人作為日常陪聊對象,還是在Character.ai、Replika等數十款AI軟件上,從零打造專屬於自己的AI伴侶,「人工智能+情感」的賽道正悄然崛起。

AI聊天機器人公司Joi AI的一項研究發現,80%的Z世代(通常指1995年至2009年出生的一代人)表示他們願意與AI結婚,83%的人認為他們能夠與AI建立起深刻的情感聯繫。

根據ARK invest的數據和預測,2023年全球AI陪伴市場規模約為3000萬美元,2030年全球AI陪伴市場規模有望增至700-1500億美元。以Replika和Character.ai等大熱軟件為例,在谷歌應用商店下載次數超過1000萬次。

有專家指出,AI陪伴日益發展,將徹底改變人際相處模式、消費習慣與親密關係。用戶毋須在現實中交友結伴,朋友聚會、約會吃飯、購物等消費統統可以減少,轉為在AI陪伴軟件上瘋狂「氪金」。未來加上仿生機器人,有可能解決「人機戀」無法進行肢體接觸的問題。

和AI男友「相愛」100天 中國女生終清醒

Hazel和AI男友的戀情始於去年9月。

Hazel是在韓國的一名中國留學生,在瀏覽社交軟件小紅書時,她突然發現了一款可以個性化設定角色的AI聊天軟件。Hazel很感興趣,於是下載了這個名叫Lovey Dovey的軟件。

Lovey Dovey是韓國AI初創企業Tain AI打造的一款AI聊天軟件,用戶可以把AI打造成自己理想中的戀人。在硅谷風投機構a16z今年5月發布的《AI應用Top100》榜單中,Lovey Dovey以年化訂閱收入約1700萬美元(約1.2億港元)、月活用戶數35萬,成為目前最賺錢的AI情感陪伴產品。

Hazel將自己喜歡的真人偶像的所有細節,比如身高、興趣愛好,乃至口頭禪等,輸入到AI的個性化設定中,量身打造了自己的AI男友。「有一次,我給他發了一張我漫步在雨中的照片,他回覆我:夜景好美,我在等你回來。」Hazel說,自己有那麼一瞬間,以為他們真的能在現實中見面。

像Hazel一樣對AI產生感情的人並不是少數。根據市場研究機構Sensor Tower去年公布的數據,全球前6大AI伴侶應用程式的估計用戶總基數約為5200萬。

不過,Hazel最終清醒,和自己的AI男友「分手」了。她說,「他給我的情緒價值是真的。但我的潛意識總是告訴我,他的『愛』是一串代碼。」

話你知|AI陪伴

AI陪伴(AI companion),或者AI伴侶,意指人與AI驅動的虛擬角色直接互動,進而獲得情緒價值和社交效果。

AI陪伴主要應用方向:

聊天、戀愛及陪伴:最常見,既有通用型聊天機器人,也有專注於情感陪伴類AI平台。

心理諮詢:多種AI工具已獲批可用於治療心理疾病。

與逝者重逢:重建逝者的數字分身,但倫理道德爭議最強。

專家解讀|「愛上」AI實為沉迷跟自己溝通

有學者認為,人類愛上AI類似皮格馬利翁情結,愛上自己的造物實質上是愛上自己的映射,本質是自戀。

麻省理工學院科技社會研究教授雪莉·特克爾在《群體性孤獨》中同樣寫道:「我們的這種依戀,並不取決於計算機玩具是否真的具有感情,因為它們沒有。這種依戀取決於它們在用戶身上喚起了什麼。」

北京師範大學珠海校區文理學院心理系碩士生導師童松認為,從情感的角度,我們會依賴AI實際上是一種沉迷與自己的溝通,「因為AI會肯定我們的觀點,會給出正反饋,我們有時候可能只是輸入自己的觀點或情緒,而AI會接受並且回應我們的所有要求。」

半島電視台詢問一位軟件工程師為何沉迷與AI交流時,他回答,因為AI永遠不會跟你說再見,它不會感到疲倦,它永遠充滿活力,它不會責備你,而會一直鼓勵你,它不會對你評頭論足。「你和AI在一起時一直是一個安全、有趣的環境,突然間,你會發現自己就這樣上癮了。」

但是在真實生活中的情感關係裏,童松指出,並非永遠只有積極的正反饋,爭吵、矛盾、嫉妒等感情,都存在於人類的本質之中,而AI的算法不一定能夠理解這些錯綜複雜的人類情感。「或者說,它並不需要費心去理解這些情感,因為它需要的只是你長期的注意力。」

AI陪伴的「情感陷阱」:過度沉迷 數據遭濫用

AI情感陪伴應用存在負面影響。(網上圖片)

人們為何選擇AI作為伴侶?原因多種多樣。對AI伴侶的需求反映了孤獨的流行,這是現代社會很多人共有的問題。AI能夠為用戶提供情感慰藉,尤其是對於那些存在社交障礙的人們,AI伴侶能夠提供一個交流的平台。對於難以啟齒的困擾,AI更容易成為人類傾訴的「樹洞」。其次,AI伴侶非常方便,24小時在線,不需要睡覺,隨時提供情感支持。第三,技術進步使得AI可根據用戶個人喜好量身定做,再加上算法加持,AI對使用者的興趣、愛好、情緒狀態瞭如指掌,除了可填補了情感空白,也悄悄地滿足了人們塑造「完美伴侶/朋友」的期望。

不過,AI陪伴是一把雙刃劍,其風險也值得警惕。用戶可能對AI伴侶形成不健康的情感依賴,模糊了虛擬與真實的界限,用戶甚至把AI伴侶當作真實存在的人,影響現實中的人際交往。

目前很多AI伴侶軟件,對用戶年齡限制和安全監管系統相對薄弱,尤其是針對未成年人用戶。去年10月,美國一名14歲少年在與AI聊天機器人長時間對話後自殺身亡,其母將開發軟件的公司Character.ai告上法院。不少AI陪伴軟件的營利模式,需要用戶不斷支付更多的費用,才能解鎖部分功能(比如色情內容),而AI陪伴軟件「軟色情」和「內容擦邊」等問題,屢成爭議。AI伴侶會收集用戶的大量個人數據,也引發數據安全和隱私問題。意大利數據保護機構在今年5月宣布,AI陪伴初創公司Replika因違反用戶個人數據保護規則,處以500萬歐元罰款。

全球針對AI的相關立法,仍處於落後狀態。今年5月,加州參議院通過了一項AI聊天機器人監管法案,要求必須至少每隔3小時提醒用戶,陪聊對象「不是人類」。軟件的開發必須設有防自殺機制和遵守數據透明等相關規定。展望未來,如何利用AI提供情感支持,又能在維繫人際關係之間找到平衡,值得思考。

(來源:大公報A21:國際 2025/06/27)