OpenAI在捲入16歲少年自殺事件后承諾改進保障措施

　　OpenAI周二在一篇博客文章中詳細介紹了其計劃，以解決ChatGPT在處理「敏感情況」時的缺點。此前，美國加州一個家庭將他們16的兒子自殺歸咎於這款聊天機器人，並向OpenAI及其CEO薩姆·奧特曼提起訴訟。

　　「我們將在專家的指導下不斷改進，並以對使用我們工具的人負責為基礎——我們希望其他人能加入我們，幫助確保這項技術保護最脆弱的人，」OpenAI在一篇題為「在人們最需要的時候幫助他們」的博客文章中寫道。

　　周二早些時候，亞當·雷恩的父母對OpenAI提起了產品責任和非正常死亡訴訟，此前他們的兒子在16歲時自殺身亡。在訴訟中，他的家人表示，「ChatGPT積極幫助亞當探索自殺方法。」

　　OpenAI在其博客文章中沒有提及瑞恩的名字和這起訴訟。

　　該公司表示，儘管ChatGPT經過培訓，可以指導人們在表達自殺意圖時尋求幫助，但在長時間發送許多信息后，聊天機器人往往會提供違反公司保障措施的答案。

　　該公司表示，正在對本月早些時候發佈的GPT-5模型進行更新，這將使聊天機器人降低對話的級別，並正在探索如何「在人們陷入嚴重危機之前將他們與認證治療師聯繫起來」，包括可能建立一個由持牌專業人士組成的網絡，用户可以通過ChatGPT直接聯繫。

　　此外，OpenAI表示，正在研究如何將用户與「最親近的人」聯繫起來，比如朋友和家人。

　　在青少年方面，OpenAI表示將很快引入控制措施，讓父母可以選擇更深入地瞭解他們的孩子如何使用ChatGPT。

　　瑞恩家族的首席法律顧問傑伊·埃德爾森（Jay Edelson）周二表示， OpenAI沒有人直接與瑞恩家人聯繫，表示哀悼，也沒有討論任何提高公司產品安全性的努力。