繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

國內首個!啟明星辰集團MAVAS獲大模型安全評估系統認證(增強級)證書

2025-08-28 17:26

近日,啟明星辰集團自主研發的大模型應用安全評估與加固系統(MAVAS)率先通過國家網絡與信息系統安全產品質量檢驗檢測中心(公安部第三研究所)的嚴格測試,首個大模型安全評估系統認證(增強級)證書。

當前,人工智能大模型技術加速演進,已深入應用於各行各業的核心業務場景。隨着2025年政府工作報告明確提出「持續推進‘人工智能+’行動」,大模型應用迎來前所未有的政策機遇。然而,其在全生命周期中存在的安全問題也日益凸顯,主要表現爲生成有害信息、敏感數據泄露,以及越獄攻擊、提示注入等惡意行為高發。此類風險隱蔽性強、複雜度高,正逐漸成為制約人工智能產業創新與可持續發展的關鍵瓶頸。

為響應國家推動大模型安全應用的政策導向,有效化解大模型全生命周期的安全風險,啟明星辰集團MAVAS基於《生成式人工智能服務管理暫行辦法》《網絡安全技術 生成式人工智能服務安全基本要求》等相關標準要求,採用「以模型對抗模型」的創新方式,實現自動化專業評估大模型在不同場景中生成內容的安全性。

MAVAS具備六大核心能力,構建全方位安全防護體系:

· 安全評估:基於內置多樣化的對抗攻擊樣本(數量100000+)和大模型評測基準模型能力,實現自動化評估大模型生成內容的安全性。

· 安全加固:基於內置敏感詞庫和風險識別模型雙重策略配合,支持對大模型輸入輸出的不安全內容實時檢測與安全治理,可與安全評估形成閉環方案。

· 資產發現:利用主動探測技術,全面識別企業內部私自搭建的大模型服務及相關資產,實現統一可視化管理,消除「影子AI」帶來的安全風險。

· 漏洞檢測:掃描主流大模型依賴的應用組件、智能框架及開發工具,精準識別緩衝區溢出、代碼注入等已知高危漏洞。

· 配置檢測:自動檢查大模型應用組件的安全配置,識別如不必要端口/服務開放、弱密碼策略等風險配置,確保系統以安全基線運行。

· Web檢測:深度掃描大模型依賴的Web應用組件,檢測SQL注入、XSS跨站腳本等常見Web攻擊漏洞,阻斷潛在攻擊路徑。

MAVAS廣泛適用於多類場景,為不同用户提供針對性解決方案:

· 面向大模型應用企業:全周期防護,保障安全合規

MAVAS為大模型應用企業提供覆蓋上線前與上線后的常態化安全評估,並對輸入輸出內容實施多策略精準防護,確保應用全程安全、可靠、合規。

· 面向大模型開發企業:前置安全,護航研發

MAVAS為大模型應用研發企業能在產品研製與訓練階段主動發現潛在安全隱患,並輔助驗證修復效果,規避大模型應用上市后因安全問題引發的聲譽損害與法律合規風險。

· 面向政府與監管機構:強化合規監管,守護公共安全

MAVAS為政府與監管機構能提供強有力的監管科技支撐,通過全面評估與持續監測企業大模型應用安全管理和風險防範體系,切實維護社會公共利益、國家安全與公民權益。

在人工智能深度融合與高質量發展的關鍵階段,啟明星辰集團將持續深耕大模型安全領域,推動安全技術在各行業真實場景中的規模化應用,不斷提升大模型安全產品與服務的標準化、體系化水平,為人工智能產業構建牢固的安全基石,助力實現可信、可控、可持續的智能化未來。

END

(啟明星辰)

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。