大公網(wǎng)

大公報(bào)電子版
首頁 > 新聞 > 國際 > 正文

?AI陪伴的“情感陷阱”:過度沉迷 數(shù)據(jù)遭濫用

2025-06-27 05:02:34大公報(bào)
字號(hào)
放大
標(biāo)準(zhǔn)
分享

  圖:AI情感陪伴應(yīng)用存在負(fù)面影響。\網(wǎng)上圖片

  【大公報(bào)訊】人們?yōu)楹芜x擇AI作為伴侶?原因多種多樣。對AI伴侶的需求反映了孤獨(dú)的流行,這是現(xiàn)代社會(huì)很多人共有的問題。AI能夠?yàn)橛脩籼峁┣楦形拷?,尤其是對于那些存在社交障礙的人們,AI伴侶能夠提供一個(gè)交流的平臺(tái)。對于難以啟齒的困擾,AI更容易成為人類傾訴的“樹洞”。其次,AI伴侶非常方便,24小時(shí)在線,不需要睡覺,隨時(shí)提供情感支持。第三,技術(shù)進(jìn)步使得AI可根據(jù)用戶個(gè)人喜好量身定做,再加上算法加持,AI對使用者的興趣、愛好、情緒狀態(tài)瞭如指掌,除了可填補(bǔ)了情感空白,也悄悄地滿足了人們塑造“完美伴侶/朋友”的期望。

  不過,AI陪伴是一把雙刃劍,其風(fēng)險(xiǎn)也值得警惕。用戶可能對AI伴侶形成不健康的情感依賴,模糊了虛擬與真實(shí)的界限,用戶甚至把AI伴侶當(dāng)作真實(shí)存在的人,影響現(xiàn)實(shí)中的人際交往。

  目前很多AI伴侶軟件,對用戶年齡限制和安全監(jiān)管系統(tǒng)相對薄弱,尤其是針對未成年人用戶。去年10月,美國一名14歲少年在與AI聊天機(jī)器人長時(shí)間對話后自殺身亡,其母將開發(fā)軟件的公司Character.ai告上法院。不少AI陪伴軟件的營利模式,需要用戶不斷支付更多的費(fèi)用,才能解鎖部分功能(比如色情內(nèi)容),而AI陪伴軟件“軟色情”和“內(nèi)容擦邊”等問題,屢成爭議。AI伴侶會(huì)收集用戶的大量個(gè)人數(shù)據(jù),也引發(fā)數(shù)據(jù)安全和隱私問題。意大利數(shù)據(jù)保護(hù)機(jī)構(gòu)在今年5月宣布,AI陪伴初創(chuàng)公司Replika因違反用戶個(gè)人數(shù)據(jù)保護(hù)規(guī)則,處以500萬歐元罰款。

  全球針對AI的相關(guān)立法,仍處于落后狀態(tài)。今年5月,加州參議院通過了一項(xiàng)AI聊天機(jī)器人監(jiān)管法案,要求必須至少每隔3小時(shí)提醒用戶,陪聊對象“不是人類”。軟件的開發(fā)必須設(shè)有防自殺機(jī)制和遵守?cái)?shù)據(jù)透明等相關(guān)規(guī)定。展望未來,如何利用AI提供情感支持,又能在維系人際關(guān)系之間找到平衡,值得思考。

點(diǎn)擊排行