繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

模型之外,檢索決定成敗

2026-10-29 11:30

面向AI智能體的精準檢索:數據層纔是智能體落地的關鍵

  今天,具備感知、規劃、工具與記憶能力的智能體,把檢索推到了舞臺中央。AI驅動的精準檢索是一項強大的工具,可以從特定來源中提取相關的上下文數據,增強AI模型。隨着大模型能力的持續突破,AI智能體正在從概念驗證走向企業真實的業務系統。很多團隊把希望寄託在大模型上,卻忽略了檢索準確度纔是決定AI應用或智能體決策質量與託管成本的關鍵所在。

數據與檢索能力是企業AI真正的護城河

  如今,企業可以獲取同類大模型能力,模型層面的優勢極易被複制,難以構成真正的競爭壁壘。真正決定企業AI能力高下的,是其自身的數據資產——企業掌握了哪些信息?對外做出了怎樣的承諾?業務發生了哪些實時變化?這些獨屬於企業自身的數據狀態,纔是別人拿不走、抄不去的核心差異。

  如果企業的數據分佈在多個系統中並形成了分散式架構,加之仍存在其他僵化的傳統數據庫,且構建人工智能所需的各項要素均被分別引入,就會導致系統複雜性日益加劇。數據層不僅會直接影響AI性能,還與企業成本密切相關。很多企業常常會忽視,很多企業常常會忽視,真正成本更多來源於無效檢索帶來的額外消耗,比如提示詞內知識片段冗余增加、輸出 token 增多、智能體執行步驟疊加,最終導致智能體有效能力下降。

  AI是概率性的,它不像傳統軟件那樣具有預定義的規則和邏輯。相反,它會根據AI模型的訓練方式和檢索到的數據生成響應或採取行動。那就意味着,AI有產生錯誤輸出的風險。當AI無法訪問正確的數據時,它會生成看似合理但不正確的信息。這也是企業落地AI的一大阻礙,對準確性不容有失的關鍵業務場景尤為突出。這也説明,檢索最相關的數據對於AI應用程序能否提供高質量、上下文準確的結果至關重要。

  過去,檢索和向量搜索一直作為獨立解決方案進行管理,開發者依賴於拼湊而成的獨立組件來構建AI驅動的應用程序,這些組件的次優選擇,例如嵌入模型,可能會導致低相關性的數據檢索和低質量的生成輸出。這種分散的方法對開發者來説既複雜、昂貴、效率低下,又煩瑣。如今,藉助由Voyage AI模型提供支持的MongoDB Atlas自動嵌入功能,顯著提高了搜索和檢索的準確性。我們將搜索、向量搜索、嵌入表示和重排序功能原生集成於MongoDB Atlas中,而非依賴獨立的系統。這正是Voyage AI的用武之地——它在我們持續提升檢索質量的過程中發揮着核心作用,而這一質量最終決定了AI智能體能否給出正確的答案。

以檢索為核心,構建面向AI智能體的技術底座

  AI智能體的核心工作流程是,原始數據先完成預處理、文本分塊,經由嵌入模型生成向量嵌入,存入具備原生向量搜索能力的數據庫;用户發起查詢時,查詢請求同樣向量化,和庫內已建立向量索引的數據做匹配檢索。AI智能體在每項任務中會多次執行檢索操作,因此初始階段的一次檢索結果異常,都可能連鎖引發后續諸多問題。

  AI智能體的核心工作流程

  隨着項目進入生產階段,許多企業發現其現有數據堆棧難以支撐大規模的上下文感知型、檢索密集型工作負載。開發者不得不疲於應對由運營數據庫、向量存儲和模型API組成的混搭架構,而在速度和可靠性至關重要的階段,這套架構不僅會增加技術複雜度、造成系統延迟,還會帶來運營層面的風險。這種碎片化架構已成為AI創新的主要障礙,同時也對客户體驗產生了實際影響。當AI服務規模不斷擴大,能夠在實際運營環境中實現服務穩定擴展的數據結構的重要性也日益凸顯。要將實時產生的數據應用於人工智能應用程序,就必須對現有的數據架構進行相應的調整。

  為支持開發者將AI應用推向生產階段,目前,MongoDB智能數據平臺現已原生集成至開發者構建應用所用的AI工具中。在生產環境中運行智能體,需要將其連接到真實的運營數據與智能體記憶。在此之前,團隊必須自行構建並維護這一連接。日前,MongoDB Atlas託管式MCP服務器已正式發佈,它將作為一種內置於Atlas的服務,以遠程和全託管的形式提供,團隊無需執行任何安裝、運維或升級操作,可使用原有的Atlas憑證和訪問控制完成連接,管理員可統一管控智能體對運營數據的訪問權限。截至目前,MongoDB MCP服務器的每周安裝量已超過3萬次,開發者可輕松地將MongoDB Atlas接入Claude Code、Codex、Grok Build和Devin。

深度優化應用場景,賦能多模態業務落地

  我們欣喜地看到,MongoDB所應用的Voyage AI嵌入模型在檢索嵌入基準測試(Retrieval Embedding Benchmark,RTEB)中位居榜首。但我們不能只追求指標跑分,必須融入企業完整業務體系,兼顧真實業務價值,才能讓更多客户看到精準檢索帶來實實在在的業務改變。

  Voyage AI嵌入模型在檢索嵌入基準測試(RTEB)中位居榜首

  英國《金融時報》的搜索功能因不同團隊和產品而有所不同,爲了讓讀者輕松找到感興趣的新聞,他們使用了由Voyage AI模型提供支持的MongoDB Atlas自動嵌入功能。如今,該功能已統一整合到MongoDB平臺,在日均超10萬次的檢索中提升了AI語義搜索的準確度,並且有效控制了成本。在法律AI領域,檢索質量至關重要——必須在正確的時間調取到有效的證據。法律AI平臺Eve藉助Atlas嵌入與重排序API,在案件處理的每個環節都能找到最相關的資料。LG Uplus基於MongoDB Atlas平臺構建了依託於文檔模型的Agent Assist系統,該工具僅用四個月便開發完成,併成為公司AI聯絡中心(AICC)的關鍵組成部分。除了將資源效率提升30%之外,還將平均通話處理時長縮短了7%。

  近日,Voyage 重排序模型的最新一代產品——Rerank 3 系列正式面世。重排序器是檢索流程中的第二階段。第一階段(通常採用嵌入表示與向量搜索)從大型語料庫中篩選出一組候選文檔列表;隨后,重排序器將每個候選文檔與查詢語句進行評分,並對列表進行重新排序,使最相關的文檔位於列表頂端。由於重排序器僅處理短列表,因此相較於嵌入模型,它可對每個文檔實現更高精度的評分,且僅需一次API調用即可集成至現有檢索系統中,無需重新建索引。如今,代碼生成智能體會發起大量進入我們重排序系統的查詢,且被重排序的文檔長度也顯著增加。Rerank 3 系列模型帶來了最顯著的改進。Rerank 3 系列是作為 Rerank 2.5 的升級版本而設計的,無需對代碼進行任何修改,其 API、32K 的上下文長度、指令遵循能力以及定價均與Rerank 2.5 保持一致。

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。