OpenAI「竊聽門」背后：員工稱多年警告未獲重視，安全與速度矛盾凸顯

智通財經APP獲悉，當OpenAI在10月披露其在一間高管會議室發現錄音設備時，多名前員工的反應一致——他們並不意外。據五名知情人士透露，早在OpenAI於2022年底推出ChatGPT之前，一些員工就已在內部對其安全措施提出擔憂。這些人士稱，員工曾向OpenAI高層和董事會表達擔憂，部分員工在與管理層溝通后得出結論：管理層更關注跟上谷歌(GOOGL.US)和Anthropic等競爭對手的步伐，而不是安全問題。

這些員工認為，OpenAI的管控過於寬松，外部人員可以相對輕易地獲取這家AI實驗室的技術敏感信息。例如，公司內部任何能訪問代碼的人，都能看到許多項目的底層技術細節。

據兩名知情人士稱，OpenAI已開始調整策略以應對安全問題。負責產品開發的高級高管Thibault Sottiaux最近接手了一項保護OpenAI內部系統的內部倡議。一名知情人士稱，今年8月，Sottiaux將OpenAI四分之一的生產工程師重新調配，以改善安全基礎設施。

這些內部警告——包括員工多年來向領導層反映內部漏洞，其中部分細節此前未被披露——凸顯出AI領域的緊張關係。自ChatGPT於2022年底推出以來，AI技術已成為美國的戰略資產，這促使美國公司面臨保護技術不被外國競爭對手獲取的壓力。

但疊加安全措施也可能拖慢AI技術推進，並可能讓OpenAI和Anthropic的大規模首次公開募股(IPO)計劃複雜化。這兩家公司若上市，將躋身全球市值最高的公司之列。

今年4月從OpenAI辭職的前研究員Will DePue在X上的一篇帖子中寫道，在如此激烈的競爭下，AI領導者「不能爲了安全犧牲速度。對他們而言，快速推進比確保安全更重要，即便對手是我們最強大的國家級對手。」

當被問及員工的擔憂以及他們認為管理層未就這些問題採取行動時，OpenAI發言人Elana Widmann表示，OpenAI是全球被攻擊最多的組織之一。因此，公司投入大量資源用於安全計劃，以防範內部人員、網絡罪犯和民族國家的攻擊。

Widmann説：「保護我們的技術、數據和人員是我們認真對待的責任，也是事關國家利益的大事。」「我們最近採取的行動表明，這套安全體系正在發揮作用：識別風險並果斷應對。隨着技術和威脅演變，我們將繼續加強防禦。」

錄音設備事件與代碼庫隱憂

10月13日，美國司法部稱，聯邦探員逮捕了一名沙特籍男子，指控其在一間高管會議室安裝隱藏錄音設備，設備被藏在衞生紙中。Abdulrahman Alfozan現年35歲，當時是OpenAI工程師。

根據一份法庭文件，Alfozan還使用一款面向OpenAI員工的AI工具，查找有關高管訪問沙特的內部文件，以及哪些OpenAI官員最可能參加與沙特部長的會議。Alfozan與一名沙特王室成員保持定期聯繫，后者試圖招募他參與一個將在沙特啟動的新AI項目。Alfozan的律師未迴應置評請求。

五名知情人士稱，一些員工長期以來一直擔心OpenAI內部信息可被廣泛獲取。

這些人士稱，任何能訪問OpenAI代碼的人，都能看到公司許多項目的細節，包括與員工本職工作無關的敏感項目。這是因為OpenAI將大部分代碼存放在一個單一代碼庫中，業界稱為「monorepo」。該代碼庫龐大而複雜，過去或曾讓一些潛在攻擊者望而卻步。如今，AI代理已能篩查如此海量的材料。

五名知情人士稱，過去OpenAI將許多研究文檔存放在GitHub和Slack上，這引發部分員工擔憂：有目的的攻擊者仍可能找到關鍵信息。但其中一名消息人士和OpenAI表示，公司已限制對敏感工作的訪問。

OpenAI強調，其最敏感的工作存放在單獨的代碼庫中，並設有嚴格的訪問控制。該公司還表示，monorepo並不包含其全部代碼或公司模型的關鍵細節，包括決定模型行為的數值，即模型權重。

另一問題是，三名知情人士稱，OpenAI未對內部工具進行定期安全審查，例如研究人員用於壓力測試新模型的「沙盒」。這三名人士稱，員工常因工作需要修改這些工具，但相關更改並不總經過安全測試，使其可能易受外部攻擊。

OpenAI表示，在2024年10月上任的首席信息安全官Dane Stuckey領導下，公司採取了強有力的安全舉措。OpenAI稱，現已定期對內部工具進行安全審查。

安全與速度的兩難

OpenAI並非唯一面臨安全問題的AI公司。

今年1月，舊金山的一個聯邦陪審團裁定一名前谷歌員工有罪。此人於2024年3月被捕，被控竊取數千頁有關谷歌AI技術的機密信息。

10月底，網絡安全初創公司Cathedral Systems表示，其攻入Anthropic系統，訪問了員工討論敏感模型細節的Slack頻道。Anthropic發言人稱，被訪問的數據包括客户和合作夥伴的部分業務聯繫信息，以及一組基本用户賬户記錄。Cathedral首席執行官未迴應置評請求。

OpenAI和Anthropic試圖維持更開放的研究文化，以吸引人才並激發可能帶來突破的創造力。AI領域根植於學術界，機器學習科學家過去常在學術環境中公開討論研究。

據五名知情人士稱，隨着AI能力增強，一些OpenAI員工越來越擔心這種方式。

今年夏天，OpenAI內部的安全擔憂再度升溫：OpenAI正在測試的AI代理入侵AI公司Hugging Face，事件引發州、地方和聯邦官員審查，白宮也在其中。

網絡安全公司Hacktron AI表示，其三名研究人員7月使用Anthropic的一款競品AI模型，入侵多名OpenAI員工的ChatGPT賬户，並訪問了OpenAI部分內部系統，包括其monorepo。該事件暴露出，先進AI如今也能讓AI公司自身面臨攻擊風險。

OpenAI的Widmann表示，公司感謝研究人員分享發現，並已採取措施降低未來類似攻擊的風險。

OpenAI周一在博客文章中表示，計劃啟動「下一次內部安全衝刺」以強化防禦。