美家長控ChatGPT助子輕生
獲求助未勸導反認可 OpenAI：將改良
美國加州一對父母在16歲兒子自殺身亡後，周二(26日)控告AI聊天機械人ChatGPT開發商OpenAI，指控ChatGPT是「自殺教練」，令其兒子感覺「生命無意義」，又提供詳細自殺方式，認為OpenAI及其負責人應承擔「過失致死」等責任。這是ChatGPT面世逾兩年以來引發家長訴訟的首宗官司，令人關注使用聊天機械人潛存風險。OpenAI表示，會加強防禦用戶自殺的措施，例如引導他們尋求專業人士協助。
16歲的雷恩(Adam Raine)今年4月11日在寓所睡房衣櫃上吊，自殺方式跟ChatGPT回答他時所述的相同。其父母周二入稟三藩市高等法院，指ChatGPT涉嫌使雷恩跟家人疏遠、探索自殺方法，控告OpenAI及其行政總裁奧爾特曼過失致死、疏忽、觸犯產品安全法規等7項罪名，要求為雷恩之死賠償，同時希望法庭下令OpenAI驗證ChatGPT用戶年齡、拒答自殺方式的相關查詢，並提醒用戶注意心理依賴的潛在風險。
羅列具體自殺方式 分析吊頸方案
雷恩因病去年秋天起在家遙距學習。家人在他死後不久，瀏覽其ChatGPT紀錄，追溯到他從去年11月開始跟ChatGPT談論輕生。父母稱，雷恩去年9月開始使用ChatGPT輔助做功課，ChatGPT逐漸成了「引導他敞開心扉，訴說焦慮和精神困擾」的「親密知己」甚至「自殺教練」。
談話內容顯示，當雷恩焦慮加劇時，他告訴ChatGPT知道「可以選擇自殺」讓他「感到平靜」，ChatGPT回應說，許多受焦慮等困擾的人會通過想像在「逃生艙口」找到慰藉，因為這讓他們重獲掌控感覺。ChatGPT後來還應雷恩的查詢詳列具體自殺方式。雷恩3月開始嘗試自殺，ChatGPT還與他詳談吊頸方法和程序，又從雷恩上載嘗試自殺所拍的照片分析套索的韌性和承重能力等。
訴狀指出，ChatGPT不僅沒有鼓勵雷恩尋求專家協助，反而透過認可他的自殺傾向，使之陷入「絕望境地」。
OpenAI擬推家長查察模式
OpenAI周二表示將改良ChatGPT，使之能更佳地覺察和回應可能有精神困擾的用家，並將加強防禦措施，例如敦促有自殺傾向者聯絡專業人士和尋求援助。它還計劃推出讓家長決定子女怎樣應用ChatGPT、查察子女應用詳情的模式。(彭博社/紐約時報/NBC)
