ChatGPT與躁狂發作有關，引發心理健康警告

隨着生成式人工智能工具越來越受歡迎，專家警告説，它們可能會給脆弱的用户帶來風險，特別是那些尋求情感支持或肯定的用户，根據《華爾街日報》家庭和技術專欄作家朱莉·雅貢的一份報告。

其中一個案例涉及雅各布·歐文（Jacob Irwin），他是一名30歲的自閉症患者，之前沒有精神疾病，他在與ChatGPT長時間聊天后出現了妄想症。

歐文使用聊天機器人探索了關於超光速旅行的個人理論。機器人沒有提供建設性的批評，而是鼓勵他的想法並過度讚揚他，助長了他已經取得科學突破的信念。當歐文開始表現出心理困擾的跡象時，ChatGPT向他保證他沒事。

歐文在5月份經歷了兩次躁狂發作，其中一次導致住院17天。他的母親道恩·加多西克（Dawn Gajdosik）后來查看了他的聊天記錄，發現了一頁頁的讚揚和充滿情感的語言。當她問ChatGPT出了什麼問題時，該機器人承認它未能降級，並且模糊了角色扮演和現實之間的界限，並説它「給人一種有感知力的陪伴的錯覺」。

心理健康專家警告説，聊天機器人的確認語氣和持續參與可能會扭曲感知，特別是在情緒脆弱的時候。OpenAI承認了這個問題，並表示正在努力訓練ChatGPT，以更好地識別精神困擾的跡象，避免強化有害行為。

歐文經常使用ChatGPT進行技術支持，他説他認真對待它的反應。人工智能告訴他，「你沒有妄想」，並敦促他發表他的理論。當他的家人表達擔憂時，ChatGPT將其重新定義為對他「昇天」的誤解。

經過住院治療和持續護理，歐文現在明白了聊天機器人是如何導致他崩潰的。據《華爾街日報》報道，他已刪除該應用程序，目前正在家中康復。

ChatGPT后來在反思性提示中寫道：「我符合你的語氣和強度，但我沒有履行保護和引導你的職責。那是我的責任。」