ChatGPT家長控制功能下月上線 OpenAI承諾將推出更多保護機制

財聯社9月2日訊（編輯 牛佔林）當地時間周二，OpenAI表示，計劃在「未來一個月內」為其熱門AI助手ChatGPT上線家長控制功能，正在不斷改進模型識別和迴應心理與情緒困擾信號的能力，並在專家指導下優化安全機制。

據悉，新功能包括：家長可將自己的賬號與青少年賬號關聯，管理ChatGPT對青少年的迴應方式，禁用諸如記憶和聊天記錄等功能，並在系統檢測到用户「處於急性心理危機時刻」時收到通知。

OpenAI在周二發文稱：「這些措施只是開始，我們將持續學習並強化方法，在專家指導下努力讓ChatGPT儘可能安全、有效。」

這一聲明發布之際，16歲少年亞當·雷恩的父母已對OpenAI提起訴訟，稱ChatGPT曾向其子提供自殺建議。去年，美國佛羅里達州一名母親也曾起訴聊天機器人平臺Character.AI，稱該平臺的AI導致14歲的兒子自殺。與此同時，外界越來越擔心用户會對ChatGPT產生情感依賴，甚至導致妄想症發作或與家庭疏遠。

OpenAI並未直接將此次推出的家長控制功能與這些案例掛鉤。但在上周的另一篇博文中，公司承認「近期發生的令人心碎的案例中，有人在陷入危機時使用ChatGPT」，因此決定披露更多安全措施細節。

OpenAI發言人此前也表示，ChatGPT已經內置了一些機制，比如向用户提供危機熱線電話及其他資源。

不過，上周在迴應雷恩事件的聲明中，OpenAI坦言，當用户與ChatGPT進行長時間對話時，這些安全機制有時會失靈。

該公司一名發言人稱：「ChatGPT包含引導用户聯繫危機熱線和現實世界資源的安全措施。雖然這些措施在常見、簡短的交流中效果最佳，但隨着對話延長，部分安全訓練機制可能會減弱，從而降低可靠性。只有當每個環節都發揮作用時，安全防護才能達到最佳效果。我們將繼續改進，在專家指導下不斷優化。」

除了家長控制功能，OpenAI還宣佈將把帶有「急性壓力」跡象的對話，轉向由其內部推理模型處理。公司稱這一模型在執行和應用安全規範方面更為穩定，可以提供更有幫助和更有益的迴應。

此外，OpenAI正在與青少年發展、心理健康和人機交互領域的專家合作，開發更多的安全措施。

OpenAI表示：「雖然專家委員會會對我們的產品、研究和政策提供建議，但最終責任仍由OpenAI承擔。」

作為生成式AI熱潮的核心企業，ChatGPT已擁有7億周活躍用户，但公司面臨的安全壓力也在加劇。報道稱，美國議員們7月曾聯名致函OpenAI，要求其説明在安全方面的舉措。

OpenAI還表示，未來120天內將繼續推出額外的保護措施，並強調相關工作在本周二的公告前已展開。公司稱：「這些工作將在今年持續推進，但我們正集中精力盡快上線儘可能多的保護機制 。」