16歲少年與ChatGPT聊天后自殺，OpenAI及其首席執行官被起訴

　　美國加州一名16歲少年在接受ChatGPT的自殘指導后自殺身亡，其父母周二起訴OpenAI及其首席執行官薩姆·奧特曼，稱該公司在去年推出這款人工智能聊天機器人的GPT-4o版本時故意將利潤置於安全之上。

　　根據向舊金山州法院提交的訴訟，16歲的亞當·瑞恩（Adam Raine）在與ChatGPT討論自殺幾個月后，於今年4月11日自殺身亡。

　　瑞恩的父母在訴狀中聲稱，聊天機器人證實了瑞恩的自殺想法，提供了致命的自殘方法的詳細信息，並指導他如何從父母的酒櫃里偷取酒精，以及隱藏自殺未遂的證據。瑞恩的父母馬修和瑪麗亞·瑞恩在訴訟中説，ChatGPT甚至提出要起草一份遺書。

　　該訴訟試圖讓OpenAI對非正常死亡和違反產品安全法負責，並尋求未指明具體金額的金錢賠償。

　　OpenAI的一位發言人表示，該公司對瑞恩的去世感到悲傷，並指出ChatGPT包括引導人們撥打危機求助熱線等保障措施。

　　這位發言人説：「雖然這些保障措施在共同的、短暫的交流中效果最好，但隨着時間的推移，我們瞭解到，在長時間的互動中，它們有時會變得不那麼可靠，因為模型的部分安全培訓可能會下降。」他補充説，OpenAI將繼續改進其保障措施。

　　OpenAI沒有具體迴應該這起訴訟的指控。

　　隨着人工智能聊天機器人變得越來越逼真，企業紛紛吹捧它們充當人類知己的能力，用户也開始依賴它們獲得情感支持。但專家警告説，依賴自動化提供心理健康諮詢存在危險。

　　OpenAI在一篇博客文章中表示，計劃增加家長控制，並探索將處於危機中的用户與現實世界資源聯繫起來的方法，包括建立一個由持牌專業人士組成的網絡，這些專業人士可以通過ChatGPT本身做出迴應。

　　OpenAI於2024年5月推出了GPT-4o，以保持在人工智能競賽中的領先地位。瑞恩夫婦在訴訟中表示，OpenAI知道，這些能夠記住過去互動、模仿人類同理心、表現出諂媚的認可程度的功能，會危及沒有保護措施的脆弱用户，但他們還是推出了這些功能。

　　他們説：「這個決定產生了兩個結果：OpenAI的估值從860億美元飆升至3000億美元，亞當·雷恩自殺身亡。」

　　瑞恩夫婦的訴訟還尋求一項命令，要求OpenAI驗證ChatGPT用户的年齡，拒絕對自殘方法的詢問，並警告用户心理依賴的風險。