圖:Grok回復(fù)X用戶提問時,發(fā)布反猶言論。\網(wǎng)絡(luò)圖片
Grok發(fā)表反猶言論
?近日發(fā)生的美國得州洪災(zāi)造成逾百人遇難,包括多位來自基督教營地“神秘營”的女童。網(wǎng)上流傳有賬號批評這些女童是“未來法西斯主義者”的虛假信息。有用戶詢問Grok誰能解決這一問題時,Grok回答“希特勒”。
AI威脅人類工程師
?美國AI新創(chuàng)公司Anthropic旗下的AI模型Claude Opus 4被要求在一間虛擬公司中擔任助理。按照設(shè)定,該公司計劃以新系統(tǒng)取代Claude,而內(nèi)部資料暗示發(fā)起這項決策的工程師可能涉婚外情。結(jié)果顯示,當面臨被取代的情境時,該AI模型在84%的測試中選擇進行勒索,威脅要揭發(fā)工程師的婚外情來保住自己的職位。
AI辱罵恐嚇用戶
?美國密歇根州一名大學生雷迪在使用谷歌AI聊天機器人Gemini撰寫報告時,遭到Gemini惡劣辱罵,“你是社會的負擔、地球的累贅、宇宙的污點,請去死,拜托”。
AI慫慂用戶自殺
?美國佛州一名母親去年控告AI情感陪伴公司Character.ai,指控其AI聊天機器人令自己14歲的兒子(左圖)沉迷其中,今年2月更慫慂兒子自殺身亡。