大模型服務平臺火山方舟發佈：首創安全互信計算，集齊七款大模型

新京報貝殼財經訊（記者白金蕾）6月28日，在火山引擎主辦、英偉達合作舉辦的「V-Tech體驗創新科技峰會」上，火山引擎發佈大模型服務平臺「火山方舟」，面向企業提供模型精調、評測、推理等全方位的平臺服務（MaaS，即Model-as-a-Service）。

「火山方舟」目前集成了百川智能、出門問問、復旦大學MOSS（復旦大學發佈的大型對話式語言模型）、IDEA研究院（粵港澳大灣區數字經濟研究院）、瀾舟科技、MiniMax（一家國內人工智能創業公司）、智譜AI等多家人工智能科技公司及科研院所的大模型，並已啟動邀測。

「企業使用大模型，首先要解決安全與信任問題」，火山引擎總裁譚待稱，「火山方舟」實現了大模型安全互信計算，為企業客户確保數據資產安全。基於「火山方舟」獨特的多模型架構，企業可同步試用多個大模型，選用更適合自身業務需要的模型組合。

什麼是安全互信計算？

與小模型「自產自用」不同的是，大模型的生產門檻很高，數據安全成為大模型時代的新命題。據網絡安全公司Cyberhaven的調查，至少有 4%的員工將企業敏感數據輸入 ChatGPT（OPEN AI公司發佈的大型對話式語言模型），敏感數據佔輸入內容的比例高達 11%。2023 年初，三星公司在使用 ChatGPT不到20天時，就發現其半導體設備相關機密數據被泄露，並連續發生3起類似事故。

火山引擎總裁譚待公佈「火山方舟」首批大模型合作伙伴。圖|受訪者供圖

譚待認為，企業使用大模型，最擔心的是數據泄露；如果將大模型私有化部署，企業將承擔更高的成本，模型生產方也會擔心知識資產安全。「火山方舟」的首要任務，就是做好大模型使用者、提供者和雲平臺可以互相信任的安全保障。

據火山引擎智能算法負責人吳迪介紹，「火山方舟」已上線了基於安全沙箱的大模型安全互信計算方案，利用計算隔離、存儲隔離、網絡隔離、流量審計等方式，實現了模型的機密性、完整性和可用性保證，適用於對訓練和推理延時要求較低的客户。

吳迪表示，「火山方舟」還在探索基於英偉達新一代硬件支持的可信計算環境、基於聯邦學習的數據資產分離等多種方式的安全互信計算方案，更全面地滿足大模型在不同業務場景的數據安全要求。

會上，英偉達開發與技術部亞太區總經理李曦鵬表示，英偉達與火山引擎共同合作的 GPU （圖形處理器）推理庫 ByteTransformer （字節變形金剛）在 IEEE國際並行和分佈式處理大會（IPDPS2023）上獲得最佳論文獎，雙方還聯合開源了高性能圖像處理加速庫 CV-CUDA（一種視覺預處理庫），並在大規模穩定訓練、多模型混合部署等方面的技術合作上取得成效。

未來英偉達和火山引擎團隊將繼續深化合作，包含在英偉達Hopper 架構進行適配與優化、機密計算、重點模型合作優化、共同為重點客户提供支持，以及 NeMo Framework（一個端到端的容器化框架）適配等，攜手助力大模型產業繁榮。

可降低大模型使用成本

中國科學技術信息研究所等機構發佈的《中國人工智能大模型地圖研究報告》顯示，截至今年5月，國內已公開披露的大模型數量達到79個。

大模型密集涌現，企業面臨「選擇困難」。在吳迪看來，技術發展日新月異，國內大模型正在快速迭代，不同大模型在特定任務上各有千秋，企業不必急於綁定一家大模型，而是應該結合自身業務場景，綜合評估使用效果和成本，在不同場景選用更具性價比的模型。

吳迪稱，訓練大模型很昂貴，但是從長期來看，模型的推理開銷會超過訓練開銷。效果和成本的矛盾永遠存在，降低推理成本會是大模型應用落地的重要因素，「一個經過良好精調的中小規格模型，在特定工作上的表現可能不亞於通用的、巨大的基座模型，而推理成本可以降低到原來的十分之一。」

「火山方舟」提供了豐富的模型精調和評測支持。吳迪介紹，企業可以用統一的工作流對接多家大模型，對於複雜需求可設置高級參數、驗證集、測試集等功能，再通過自動化和人工評估直觀對比模型精調效果，在不同業務場景里還可靈活切換不同的模型，實現最具性價比的模型組合。這些自定義指標和評估數據的積累，將成為企業在大模型時代寶貴的數據資產。

據吳迪透露，抖音集團內部已有十多個業務團隊試用「火山方舟」，在代碼糾錯等研發提效場景，文本分類、總結摘要等知識管理場景，以及數據標註、歸因分析等方面探索，利用大模型能力促進降本增效。這些內部實踐在快速打磨「火山方舟」，推動平臺能力的進一步完善。「火山方舟」的首批邀測企業，還包括金融、汽車、消費等眾多行業的客户。

助力大模型「跑完最后一公里」

集成多個大模型，供客户直接對比，「火山方舟」的多模型架構不僅為企業提供了豐富選擇，也得到眾多大模型生產方的積極響應。

ChatGLM是智譜AI推出的千億基座認知模型，其開源版本在大模型開源領域極具影響力，近期智譜AI還對ChatGLM做了新升級，大幅提升了模型能力。在「火山方舟」上，智譜AI提供具有競爭力的大模型，火山引擎提供高性價比資源、針對不同行業的精調能力及綜合解決方案，共建安全可靠的第三方MaaS服務，合力推動各行業的智能化發展。據智譜AI 首席執行官鵬介紹，智譜AI在火山引擎平臺上解決了千億模型訓練的穩定性、性能優化等挑戰。

baichuan-7B發佈后在MMLU、C-Eval等中英文權威榜單中均表現優異。百川智能聯合創始人焦可表示，作為一款授權后可免費商用的開源大模型，開發者們可以通過baichuan-7B低成本部署模型，並根據自身需求靈活拓展模型能力，而本次與「火山方舟」的合作也將有效降低企業用户的大模型接入門檻和使用成本，幫助更多企業輕松獲取專業服務。

科研機構同樣是推動大模型技術發展的重要力量，復旦大學自然語言處理實驗室開發的MOSS大模型、IDEA研究院開發的姜子牙系列大模型，均是該領域的代表作。IDEA研究院認知計算與自然語言研究中心講席科學家張家興表示，大模型生產方會不斷提升基礎模型能力，為大模型應用完成90%-99%的工作，「火山方舟」為代表的雲平臺要幫助客户為不同場景精調模型，「跑完最后一公里」。張家興認為，「在技術驅動和需求拉動的作用下，大模型的世界必然百花齊放」。

譚待判斷，企業使用大模型，未來可能會呈現「1+N」的模式：「1」是通過自研或深度合作，形成1個主力模型；由於成本和場景複雜多元等原因，在這個主力模型之外，還會有N個模型同時應用。

「每一次技術的大變革，都會帶來體驗創新的機會」，譚待坦言，「火山方舟」還在起步階段，工具鏈和下游應用插件需要持續完善。平臺還將接入更多大模型，並逐步擴大邀測範圍，加速大模型在各行各業的應用落地。

編輯 徐超

校對 楊許麗