AI 洞察 | IBM： 2025 年的 AI Agent：預期與現實 （下）

圖片來自網絡

（接上期文章）

敍事三：AI orchestrators 將管理 AI Agent 網絡

該場景所設想的 「新常態」 是：多個 AI Agent 將被整合到 「orchestrator uber-models（編排者超級模型）」 之下，由后者負責管理整體項目流程。

企業將藉助 AI orchestration（人工智能編排技術），統籌多個 AI Agent 及其他機器學習（ML）模型協同工作，並利用特定專業能力完成各項任務。

合規是人工智能良性應用的關鍵

Gajjar 認為，這一預測不僅可信，而且極有可能成為現實。她表示：「我們正處於這一變革的初始階段，但變革速度很快。今年，AI orchestrators 完全可能成為企業人工智能系統的核心 — 連接多個 AI Agent、優化人工智能工作流程，並處理多語言和多媒體數據。」 不過，她同時提醒，在缺乏適當保障措施的情況下，不應貿然推進。

Gajjar 警示道：「與此同時，要擴大這些系統的規模，就需要強有力的合規框架，以確保一切順利運行，同時不忽視問責制。2025 年或許會成為我們從試驗階段邁向大規模應用的一年，我非常期待看到企業如何在速度與責任之間取得平衡。」

對於企業而言，在採用最新創新技術的同時，必須以同等的熱情投入到數據與人工智能的治理及合規工作中，這一點至關重要。

發展並非一帆風順

Hay 指出：「未來將會出現 AI orchestrator，它們將與多個AI Agent 協同工作。大型模型將扮演 orchestrator 的角色，而小型模型則負責處理特定的限制性任務。」

然而，Hay 預測，隨着 AI Agent 的不斷發展與完善，工作流程將從 「編排式」 向 「單 AI Agent 式」 轉變。「當這些獨立的 AI Agent 能力足夠強大時，人們會轉而選擇‘依靠這一個 AI Agent 就能完成端到端的所有工作’。」

Hay 認為，隨着模型的發展，這種演變會呈現 「反覆拉鋸」 的態勢。「單 AI Agent 的能力會達到一個極限，之后人們又會迴歸到多 AI Agent 協作的模式。在多 AI Agent 框架與‘全能型單 AI Agent’之間，會不斷切換。」 儘管人工智能模型將主導項目流程，但 Hay 堅信，人類始終會參與其中（即 「人類在環路中」，human-in-the-loop， HITL）。

編排並非始終是正確解決方案

在 Ashoori 看來，是否需要 「meta-orchestrator（元編排者）」 並非既定結論，最終取決於預期的使用場景。她解釋道：「這是一個架構層面的決策。從定義上來説，每個 AI Agent 都應具備自主判斷能力 — 判斷是否需要與其他 AI Agent 協調、是否需要調用一系列工具，或是是否需要補充數據。不一定需要一個‘頂層中間 Agent’來監控所有 AI Agent，並指揮它們如何行動。」

不過，在某些情況下，「meta-orchestrator」 可能確有必要。Ashoori 推測：「有時你可能需要明確，如何組合使用多個專業 AI Agent 來實現目標。這種情況下，你或許會決定創建一個專門充當 orchestrator 的 AI Agent。」

Danilevsky 則建議企業：首先要明確哪些工作流程可以、且應該轉化為 AI Agent 驅動模式，以及能帶來多大的投資回報率（ROI），然后再據此制定人工智能戰略。「未來會不會出現一些由 AI Agent 構成的 orchestration 流程？當然會。但企業里的所有流程都應該通過 AI Agent orchestration 來運行嗎？答案是否定的，那樣行不通。」

敍事四：Agents 將輔助人類工作者

關於未來一年 Agent 應用的主流展望是：Agent 將輔助（而非必然取代）人類工作者。支持者表示，在人類主導的高效工作流程中，Agent 將扮演 「貢獻者」 的角色。

然而，在企業人工智能應用的相關討論中，「人工智能導致失業」 的擔憂始終存在。隨着 Agent 能力不斷增強，企業領導者會推動 「人機協作」，還是會選擇用人工智能工具取代人類員工？

Agents 應是工具，而非替代品

Ashoori 認為，未來的最佳發展路徑是：信任員工，讓他們自主決定在各自工作中如何最優地使用人工智能。她解釋道：「我們應當賦予員工權力，讓他們決定如何利用 Agent，但並非在所有情況下都用 Agent 取代人類。」 有些工作職能非常適合交給 Agent 處理，但在另一些工作中，人類的參與是無法替代的。「比如，Agent 可以轉錄會議內容並生成摘要，但你不會讓 Agent 來代替你和我進行這場對話。」

Danilevsky 與 Ashoori 觀點一致，他指出，在工作場所應用 Agent 的過程中，難免會經歷 「成長的陣痛」。「仍會出現這樣的情況：一旦任務變得複雜，就必須依靠人類。」 儘管企業領導者可能會爲了削減短期成本而裁員，但 Agent 的應用 「最終會更多地穩定在‘輔助角色’上。人類必須始終參與其中，Agent 為人類提供幫助，而最終決策仍由人類做出。」Danilevsky 在描述其 「人類在環路中」（HITL）的人工智能願景時如此説道。

Hay 則提出了一條工作場所人工智能可持續應用的路徑。「如果我們能正確運用人工智能，它將成為人類的輔助工具，幫助我們把工作做得更好。若應用得當，人工智能能讓我們擺脫繁瑣，去從事更有趣的工作。」 但與此同時，他也能想象到另一種未來：人工智能被過度優先考慮。「確實存在一種風險：如果應用方式不當、方向錯誤，最終可能會變成‘人類輔助人工智能’，而非‘人工智能輔助人類’。」

Gajjar 也提醒，不應過度依賴人工智能。「我認為 AI Agent 不會在一夜之間取代人類工作，但它們肯定會重塑我們的工作方式。重複性強、價值較低的任務已經在被自動化處理，這讓人們得以投身更具戰略性和創造性的工作。儘管如此，企業在引入人工智能時必須深思熟慮。治理框架 — 比如那些聚焦公平性、透明度和問責制的框架 — 將起到關鍵作用。」

開源人工智能催生新機遇

在 Hay 看來，開源人工智能模型的一大優勢在於，它為未來 AI Agent 市場的形成以及開發者后續的商業化變現打開了大門。Hay 表示：「我認為開源 Agent 是關鍵。藉助開源模式，任何人都能開發 Agent，讓它完成實用任務，甚至還能借此創辦自己的公司。」

Hay 認為，在享受人工智能帶來的收益之余，還需考量其可能引發的 「成長陣痛」 與組織架構調整問題，對於 「全球南方」（Global South）地區而言，這一點尤為重要。

大型語言模型（LLMs）能生成文本形式的輸出結果，即便在網絡連接不穩定的地區，用户也可通過短信獲取這些內容。Hay 稱：「對於網絡接入條件不佳的國家，人工智能能在低帶寬環境下運行，且成本還在不斷降低 — 這種賦能作用非常令人振奮。」

總結思考：治理與戰略是 AI Agent 成功落地的關鍵

在與四位專家的交流過程中，有兩個核心主題被反覆提及。除了前文探討的四大場景外，要在當前人工智能爆發式發展的浪潮中找到可持續路徑，企業及企業領導者還需認可以下兩個理念：

人工智能治理是實現合規應用與負責任使用的基礎。

以經濟價值為核心的完善人工智能戰略，將助力企業實現人工智能的可持續應用。

治理的必要性

Gajjar 強調：「隨着 AI Agent 深度融入業務運營，企業需要治理框架來監控其運行表現，並確保問責機制落地。這正是 IBM負責任的人工智能’（Responsible AI）理念的優勢所在 — 核心就是要確保人工智能與人類協同而非對立，從一開始就構建可信賴、可審計的系統。」

Ashoori 描繪了 AI Agent 可能出現的一種失誤場景：「如今使用 AI Agent，本質上是藉助大型語言模型（LLM），讓它代表你執行操作。要是它在操作中連接到某個數據集，並刪除了大量敏感記錄，該怎麼辦？」

Danilevsky 指出：「技術本身沒有自主意識，無法承擔責任。」 她認為，在意外數據泄露或刪除等風險面前，「風險的影響規模會更大。人類在一定時間內所能處理的事務有限，但技術完成任務的速度更快，且可能在我們毫無察覺的情況下操作。」

而當這類問題發生時，不能簡單將責任歸咎於人工智能，進而免除相關人員的責任。Hay 警示道：「企業中必然會有人因這些操作而承擔相應的責任與問責。」

Ashoori 表示：「因此，當前的挑戰在於透明度，以及對 AI Agent 每一項操作的可追溯性。你需要準確瞭解正在發生的一切，能夠對操作進行跟蹤、追溯並加以控制。」

在 Danilevsky 看來，自由試驗是實現可持續發展的路徑。她稱：「讓人們實際去體驗、搭建這項技術，並嘗試找出其漏洞，這其中藴含着巨大價值。」 同時，她也提醒開發者，在選擇使用何種模型、向模型輸入何種數據時需保持謹慎：「有些服務商可能會收集你所有的數據，所以務必多加留意。」

為何人工智能戰略至關重要

Danilevsky 預測：「當前的人工智能熱潮無疑是由‘錯失恐懼’（FOMO）推動的，當這項技術逐漸常態化后，熱度自然會降温。我認為到那時，人們會更清楚地知道哪些應用可行，哪些不可行。」Gajjar 補充道：「重點還應放在將 AI Agent 融入生態系統中，讓它們能夠持續學習、不斷適應，從而推動長期效率提升。」

Danilevsky 及時引導大家理性看待預期，並將討論拉回到可驗證的業務需求上。她表示：「企業需要警惕‘爲了用工具而找問題’的心態。大型語言模型（LLMs）剛出現時就有過這種情況 — 人們會説‘第一步：我們要用上 LLMs；第二步：再想想用它們來做什麼’。」

Hay 建議企業提前為 AI Agent 的應用做好準備：「價值將屬於這類組織 — 它們整合自身私有數據，並以特定方式進行梳理，讓 AI Agent 能基於這些文檔開展調研工作。」 每家企業都擁有大量寶貴的專有數據，將這些數據轉化為可支撐 AI Agent 工作流程的資源，有助於實現正向投資回報率（ROI）。

Ashoori 指出：「藉助 AI Agent，企業有機會利用其專有數據和現有企業工作流程，實現差異化競爭與規模擴張。對企業而言，去年是試驗與探索之年，如今它們需要擴大這種影響力，將生成式人工智能的投資回報率最大化。而 AI Agent 正是實現這一目標的關鍵。」

（全文完）

文章來源：

IBM官網：https://www.ibm.com/think/insights/ai-agents-2025-expectations-vs-reality