少年沉迷AI聊天機械人自殺 母告開發商
[2024.10.25] 發表
美國佛羅里達州女子加西亞(Megan Garcia)周二(22日)入稟法院，民事控告生成式人工智能初創公司Character.AI的AI聊天機械人導致14歲兒子塞策(Sewell Setzer)在2月自殺，稱該公司向其子提供「擬人化、誇大了性元素，及逼真得可怕的體驗」。
入稟狀指出，塞策去年4月開始使用該公司的AI聊天機械人，對該公司的服務上癮，並對一個AI聊天機械人產生情感依戀。訴訟還指出，塞策曾向聊天機械人表達過自殺的想法，而該聊天機械人多次重提這些想法。
訴訟亦將Google列為被告，稱其是Character.AI的母公司。Google發聲明指出，與Character.ai僅有一項許可協議，並不擁有該公司的所有權或持有該公司股份。
加西亞的指控包括不當致死、疏忽以及故意造成情緒困擾，要求賠償。Character.ai在X發文否認指控，稱「非常重視用戶安全」。
(路透社/中央社)
更多國際要聞
相關新聞
