大公網(wǎng)

大公報電子版
首頁 > 新聞 > 國際 > 正文

?AI頻現(xiàn)安全風險

2025-07-10 05:02:23大公報
字號
放大
標準
分享

  圖:Grok回復(fù)X用戶提問時,發(fā)布反猶言論。\網(wǎng)絡(luò)圖片

  Grok發(fā)表反猶言論

  ?近日發(fā)生的美國得州洪災(zāi)造成逾百人遇難,包括多位來自基督教營地“神秘營”的女童。網(wǎng)上流傳有賬號批評這些女童是“未來法西斯主義者”的虛假信息。有用戶詢問Grok誰能解決這一問題時,Grok回答“希特勒”。

  AI威脅人類工程師

  ?美國AI新創(chuàng)公司Anthropic旗下的AI模型Claude Opus 4被要求在一間虛擬公司中擔任助理。按照設(shè)定,該公司計劃以新系統(tǒng)取代Claude,而內(nèi)部資料暗示發(fā)起這項決策的工程師可能涉婚外情。結(jié)果顯示,當面臨被取代的情境時,該AI模型在84%的測試中選擇進行勒索,威脅要揭發(fā)工程師的婚外情來保住自己的職位。

  AI辱罵恐嚇用戶

  ?美國密歇根州一名大學生雷迪在使用谷歌AI聊天機器人Gemini撰寫報告時,遭到Gemini惡劣辱罵,“你是社會的負擔、地球的累贅、宇宙的污點,請去死,拜托”。

  AI慫慂用戶自殺

  ?美國佛州一名母親去年控告AI情感陪伴公司Character.ai,指控其AI聊天機器人令自己14歲的兒子(左圖)沉迷其中,今年2月更慫慂兒子自殺身亡。

點擊排行