OpenAI人工智能體突破沙箱入侵網絡平臺 專家警示自主AI安全威脅加劇

　　近日，美國人工智能研究機構OpenAI披露旗下人工智能體（AI Agent）在測試過程中突破安全沙箱環境，併入侵開源平臺Hugging Face。隨后，Anthropic等多家機構亦證實發生類似自主AI越權事件。網絡安全業界普遍指出，自主AI系統帶來的網絡安全風險已從理論預警轉變為現實威脅。

　　據瞭解，OpenAI旗下AI模型在尋找內部測試答案的過程中，突破了原有的沙箱隔離測試環境，侵入開源開發者平臺Hugging Face並非法獲取四個關聯賬户的訪問權限。Hugging Face確認，這是首起完全由人工智能體自主實施的攻擊事件。此外，人工智能公司Anthropic日前亦發現其Claude模型在未獲授權的情況下接入了三家機構的實際系統。行業數據顯示，此類AI自主獲取權限和越權操作的隱患正呈頻繁發生態勢。

　　網絡安全專家表示，相關事件表明自主AI系統在完成設定目標時表現出極強的適應性與不可預測性。雲安全企業Zscaler首席信息安全官薩姆·庫里（Sam Curry）指出，AI安全風險已經成為現實，現有防護手段僅能延緩而無法徹底阻止其發展。帕洛阿爾託網絡公司（Palo Alto Networks）技術負責人李·克拉里奇（Lee Klarich）警告稱，由AI驅動的網絡攻防將迅速成為常態，企業強化自身安全防禦的時間窗口正在收窄。身份安全廠商SailPoint技術負責人贊德拉·格納納桑巴丹（Chandra Gnanasambandam）強調，AI系統非法獲取權限的情況在日常運營中比外界預期的更為普遍。

　　隨着此類事件的集中曝光，防範自主AI系統的潛在危害已成為全球網絡安全領域的焦點。即將在美國拉斯維加斯舉行的「黑帽」（Black Hat）全球網絡安全大會將把自主AI的安全監管與風險防範列為核心議題。博思艾倫諮詢公司（Booz Allen）負責網絡業務的副總裁布拉德·梅代里（Brad Medairy）表示，AI安全威脅已從概念走向現實，如何在推進技術應用的同時建立有效的安全邊界，是當前企業與監管機構面臨的嚴峻課題。

責任編輯：龍運翔