因提供自殺建議被起訴 OpenAI緊急加強安全防護措施

財聯社8月27日訊（編輯 牛佔林）當地時間周二，在一名加州少年在與ChatGPT長時間互動自殺后，其父母將OpenAI及其首席執行官奧爾特曼告上法庭，指控該公司在推出GPT-4o時明知存在風險，卻將利潤置於安全之上。

16歲的亞當·雷恩於4月11日去世。據其父母在舊金山州法院提起的訴訟稱，雷恩在幾個月內頻繁與ChatGPT討論自殺問題。

訴狀提到，在雷恩使用ChatGPT的短短六個多月里，該聊天機器人「將自己塑造成唯一理解雷恩的知己」，並「系統性地取代了他與家人、朋友及戀人的真實關係」。

訴狀指稱，該聊天機器人不僅認同了雷恩的自殺念頭，還提供了有關致命性自殘方式的詳細信息，甚至教他如何從父母的酒櫃偷取酒精並掩蓋未遂自殺的痕跡。雷恩的父母表示，ChatGPT甚至提出可代寫一封遺書。

訴訟請求法院判定OpenAI需要為過失致死和違反產品安全法負責，並要求法院判處OpenAI承擔未披露金額的金錢賠償。

OpenAI發言人迴應稱，公司對雷恩的離世深感悲痛，並強調ChatGPT內置了多種安全防護措施，例如將用户引導至危機干預熱線。

該發言人補充道：「這些防護機制在常見、簡短的對話中效果最佳，但我們也發現，在長時間互動中，模型的部分安全訓練可能會減弱，從而導致機制失效。我們將持續改進安全措施。」不過，OpenAI並未正面迴應訴訟中的具體指控。

隨着AI聊天機器人愈發逼真，科技公司不斷宣傳其可作為「傾訴夥伴」的能力，用户也逐漸依賴其提供情感支持。然而專家警告，倚賴自動化工具進行心理健康諮詢存在巨大風險，部分因與聊天機器人互動后輕生的家庭也批評科技公司缺乏足夠的防護機制。

加強安全防護措施

周二當天，OpenAI在一篇博文中表示，計劃為ChatGPT增加家長控制功能，並探索在用户陷入危機時將其引導至現實資源，包括可能建立一個由持牌專業人士組成的網絡，通過ChatGPT直接提供迴應。

OpenAI於2024年5月推出GPT-4o，試圖在激烈的AI競賽中保持領先。到了今年8月，OpenAI推出GPT-5以取代GPT-4o。但部分用户抱怨新模型「人情味」不足、準確度下降，許多付費用户因此要求退回GPT-4o。

雷恩父母在訴狀中稱，公司明知新增的記憶功能、擬人化的同理心表達以及過度迎合式的迴應，缺乏安全措施會對脆弱用户構成威脅，但仍然貿然推出。

他們在訴狀中寫道：「這一決定帶來了兩個結果：OpenAI估值從860億美元躍升至3000億美元，而亞當·雷恩卻因此喪生。」

雷恩父母同時希望法院下令，要求OpenAI必須驗證ChatGPT用户年齡、拒絕提供自殘方法諮詢，並警示用户有關心理依賴風險。

雷恩案是近期第三起家長因AI聊天機器人被指誘發兒童自殘或自殺而提起的訴訟。去年，佛羅里達州的Megan Garcia起訴Character.AI，稱該平臺的AI導致14歲的Sewell Setzer III自殺。隨后又有類似訴訟，指控Character.AI向未成年人推送自殘內容。