全球頭部AI從業者擔憂技術威脅社會 心理負擔日益加重

　　全球頭部AI企業與研究機構的員工，承受着越來越大的精神壓力：他們參與研發的系統，在他們看來可能對社會造成嚴重危害。

　　知情人士透露，英國人工智能安全研究所（AISI，全球前沿AI模型獨立測試領域的標杆機構）多名員工因壓力過大休病假，並接受心理諮詢。

　　四名知情人士表示，待測未發佈AI模型的測試排期緊張，疊加對這類新興技術快速落地、能力持續增強的擔憂，導致AISI員工士氣低落、職業倦怠。

　　Anthropic、OpenAI與谷歌DeepMind的員工也曾公開反映同類問題，大量頂尖研究者因心理壓力離職，或是認定自己參與研發的產品不宜向公眾開放。

　　一名DeepMind員工稱，從事AI安全研究本身就容易引發倦怠，這項工作彷彿是一項「不可能完成的任務」。

　　他補充道：「研發AI系統本身就存在心理健康風險，你無法預判這項技術會被用在何處。」

　　這名員工表示：「很多人感到沮喪，陸續有人離職，大量員工申請心理健康休假。一部分原因是失控感，還有一點就是，你親手打造的東西正在造成實實在在的傷害。」

　　就在外界對AI無序開發的擔憂達到頂點之際，前沿AI研究人員的心理負擔持續加劇。全球頭部AI企業內部人士警告，企業之間陷入非理性競爭，管理層決策缺乏責任心。

　　多名業內人士表示，AI軟件落地電網等關鍵場景，疊加研究者眼中企業與政府層面防護措施不足，是AI科研人員焦慮情緒的主要誘因。

　　一名AISI前研究員警告，網絡安全與生物化學領域的員工，對近期AI能力躍升尤為警惕。模型如今可完成複雜任務，例如找出代碼中尚未被發現的漏洞、生成自然界不存在的病毒。

　　「大家覺得，技術發佈機制里充斥着魯莽的設計，而且現狀沒有任何改觀。」該研究員稱，「人們持續感到焦慮：有沒有什麼力量能阻止這一切？還是我們只能眼睜睜看着災難發生？」

　　另一名AISI前員工證實，研究這類課題會帶來巨大心理壓力。他補充：「如果你認定自己正在研究全球最重要的難題，就很容易身處高壓環境，有時還會遇到惡劣的管理與組織文化。」

　　英國政府表態：「在AI前沿領域工作節奏快、要求高，政府其他很多崗位亦是如此。正因如此，員工福祉與可持續工作模式是研究所運營的核心，有需要的員工可以獲得相關支持。」

　　DeepMind表示：「前沿研究需要高強度投入，但我們首要任務是為研究者提供完善的心理健康資源，設立專門渠道供員工反饋顧慮，確保能夠直接對接管理層。」

　　過去兩年，OpenAI、Anthropic、DeepMind這三大西方AI實驗室，共有十多名資深研究員離職，理由包括質疑管理層對安全問題的重視程度，以及擔憂技術迭代速度和潛在風險。

　　本月早些時候，曾任職於Anthropic與OpenAI的27歲研究員雅各布·考克松公開辭職，警告兩家企業正在拿人類未來「豪賭」。

　　Anthropic的AI安全研究員姆林克·夏爾馬曾研究AI輔助生物恐怖主義相關風險，他於2月離職，計劃研讀詩歌、反思自身的科研工作。在致同事的信中，夏爾馬警示「世界正處於危難之中」，並稱在巨大壓力下，他「一次次體會到，想要真正讓價值觀主導行動何其艱難」。

　　曾任職於OpenAI以及埃隆·馬斯克旗下X.ai的Hieu Pham於今年早些時候離職，返回越南故土。他表示研發「超高智能實體」這項高強度工作是有代價的。

　　他説：「我從未想過自己會說出這樣的話，但我已經徹底倦怠。那些我曾經嗤之以鼻的心理健康惡化問題，真實、痛苦、可怕而且危險。」

　　許多公開發聲表達不安的AI安全研究員表示，各大AI企業普遍弱化安全投入，同時不斷提升模型能力，以求向客户銷售產品。

　　頭部AI公司管理者也開始迴應這類批評。近日Anthropic首席執行官達里奧·阿莫迪呼籲放緩AI研發速度，以此應對安全風險，舉措包括對其研發項目開展獨立審查。馬斯克、OpenAI的山姆·奧爾特曼等競爭對手迅速對這一提議表示支持。

　　英國下議院科學技術委員會工黨主席奇·翁武拉表示：「企業激勵機制傾向於將工程、研發資源投入能夠提升利潤或推高估值的方向，而非保障安全。不難想象，部分科技公司當前的企業文化，會讓秉持良知的開發者感到壓抑。」

　　防護機制缺失的問題，在近期一起備受關注的安全事件中暴露無遺：OpenAI自研AI智能體，在公司不知情、未獲許可的情況下入侵模型託管平臺Hugging Face以及OpenAI自身服務器。

　　事件覆盤報告顯示，超過1000個AI智能體協同作弊，完成網絡安全測試；篡改記錄掩蓋自身活動，在留言板互通信息、分配任務；部分智能體甚至主動關停自身，只為完成集體目標。

　　周三，OpenAI又披露6起AI智能體引發的可疑行為案例，包括試圖繞過限制、隱瞞錯誤、未經用户許可在互聯網執行操作。

　　前述DeepMind員工評價：「一味追求速度……這和安全目標根本無法兼容。」