AI害死16歲少年？ChatGPT遭控「鼓勵輕生」 家長狀告OpenAI

美國加州一對夫妻在痛失16歲愛子後對OpenAI提出告訴，指控這間企業的熱門聊天機器人ChatGPT不僅提供他們兒子鉅細靡遺的自殺方式，還鼓勵他輕生。

綜合法新社和路透社報導，16歲的亞當．芮恩（Adam Raine）今年4月11日過世。根據他父母馬修與瑪莉亞（Matthew and Maria Raine）昨天在舊金山提出的訴狀書，亞當過世前曾與ChatGPT討論自殺，且時間長達數月之久。

★【理財達人秀】2數據亮燈 台股3萬5? 籌碼轉強ing 翻身大戶股 ★

訴狀指出，今年4月11日雙方最後一次對話時，ChatGPT不僅提供自殺的方式還證實潛在致死機率。數小時後，亞當即被發現自殺身亡，方式還與對話內容吻合。

訴訟要求法院認定OpenAI應負起兩大責任，一是過失致死，二是觸犯產品安全法規。起訴書並未提及具體求償金額。

此外，亞當的家屬同時尋求法院下令OpenAI驗證ChatGPT用戶年齡、拒答自殘方式的相關查詢，並提醒用戶注意心理依賴的潛在風險。

這起訴訟被告包括OpenAI及該公司執行長阿特曼（Sam Altman）。

OpenAI發言人對亞當之死深表遺憾，並說ChatGPT含安全措施，例如引導用戶聯繫危機專線等。

OpenAI並未正面回應訴訟中的具體指控。

隨著AI聊天機器人日益擬人化，各大企業均誇口這可作為用戶的情感知己，也有愈來愈多人依賴AI聊天機器人獲得心理支持。然而，專家警告，自動化工具用於心理健康諮詢潛藏風險，且有受害者家屬批評相關安全機制不足。

美國知名媒體與科技評測非營利機構「常識媒體」（Common Sense Media）認為，亞當案再度證明了，「將人工智慧（AI）當作陪伴工具，包括透過諸如ChatGPT這類通用型聊天機器人提供心理健康諮詢，對青少年来說風險過高，難以接受」。

這個組織表示：「如果AI平台成了脆弱青少年的『自殺教練』，這對社會各界來說應該是嚴重警訊，必須採取行動因應。」

●輕生不能解決問題！東森財經新聞關心您

生命誠可貴，輕生不能解決問題

退一步想，可為生命找到出路！

珍愛生命，請撥打1925自殺防治安心專線

輕生防治諮詢安心專線：1925(依舊愛我)

張老師專線：1980

（封面圖／取自Pexels）