熱門資訊> 正文
2025-10-23 11:34
在分佈式機器學習逐步走向應用化、產品化的當下,邊緣計算與隱私保護成為支撐智能化發展的兩大支柱。在這一背景下,一家領先的智能算法研究企業微算法科技宣佈成功開發出一項重要創新技術:一種用於無線網絡中分裂學習(Split Learning, SL)的新型低複雜度聯盟形成博弈(Coalition Formation Game, CFG)算法。該算法有效緩解了因設備性能差異所導致的「掉隊者」(straggler)問題,在保障隱私的同時顯著提高了訓練效率與模型準確率,為邊緣AI系統的工程落地提供了堅實支撐。
這項創新技術的問世,不僅從理論上構建了全新的協作機制,也在實證中表現出了卓越的性能。在多個公開數據集上的測試顯示,該算法能以最短的時間完成協同訓練,且始終如一地實現最高的預測準確率,突破了當前主流SL方法在異構設備環境中普遍存在的延迟與精度損耗瓶頸。
隨着智能終端、物聯網設備和邊緣服務器廣泛部署,傳統的雲中心化機器學習框架逐漸暴露出數據安全、通信瓶頸和資源浪費等問題。分裂學習作為一種新型跨設備協作訓練方法,提供了兼顧隱私和性能的解決方案。與聯邦學習(Federated Learning)不同,SL並不需要在本地完成整個模型訓練,而是將深度模型拆分為多個層級,通過設備與邊緣服務器協作完成訓練過程。
這種設計在大大減少終端計算負擔的同時,也使得數據始終保留在本地,最大限度保障了隱私。但SL對設備和網絡資源的同步要求極高,一旦存在「掉隊者」,即計算能力較弱或通信不暢的設備,將會導致整體訓練節奏被拉慢,模型訓練難以收斂,嚴重影響部署效率和用户體驗。
為解決該問題,微算法科技(NASDAQ:MLGO)研發團隊提出了「聯盟形成博弈」(Coalition Formation Game, CFG)理論框架,將設備之間的協作關係抽象為一個多主體動態博弈過程。在這一機制中,每個設備不僅是訓練節點,更是具有理性選擇能力的智能體,能夠根據自身資源情況、自身期望收益(如訓練時間縮短、能耗降低、準確率提升等)動態參與或退出不同的訓練聯盟。
CFG算法核心的出發點,是實現訓練過程中的節點聚類。通過對設備訓練能力的評估,系統引導資源相近、能力相當的設備形成高效協作的「微集羣」(micro-cluster),並在這些微集羣中執行SL訓練的前半部分。在后端,邊緣服務器對多個微集羣返回的中間表示進行統一處理,完成整體模型更新。
微算法科技算法以「訓練延迟最小化」與「模型準確率最大化」為雙重目標函數,構建設備對聯盟的「偏好函數」,驅動設備理性決策聯盟歸屬。該偏好函數基於如下幾方面構建:
本地計算資源(CPU、GPU、內存)使用效率;
通信帶寬與平均延迟;
歷史訓練表現(例如每輪訓練所需時間、貢獻度);
能耗消耗模型;
聯盟規模(避免集羣過大造成聚合瓶頸)。
設備間通過信息交換完成聯盟協商,並最終決定加入或離開某一聯盟。這一動態過程採用了改進的馬爾可夫轉移機制,並通過數學證明確保算法在有限步驟內收斂至納什穩定狀態,即不存在設備希望通過退出或轉換聯盟來提升自身收益。
在系統實現層面,微算法科技該算法結合了多種智能邊緣協作優化技術。整個訓練框架可劃分爲如下幾個關鍵模塊:
資源感知調度器:該模塊部署在邊緣服務器上,負責周期性採集各設備的資源狀況、訓練進展和網絡狀態,通過構建資源-性能向量,預測潛在掉隊者。調度器將訓練節點劃分爲候選集並觸發CFG模塊進行聯盟協商。
設備本地協商器:部署於各終端設備,設備根據自身計算-通信狀態,通過偏好函數自主判斷是否加入某一聯盟。若當前聯盟導致訓練延迟或能耗飆升,設備可主動申請退出並重新尋找最優聯盟。
聯盟優化器:該模塊執行CFG的核心算法,採用增強型分佈式策略更新機制,依據歷史訓練記錄進行聯盟結構的動態重構。聯盟優化器引導聯盟內部設備同步訓練、同步割層選擇,並自動調整通信頻率以應對網絡抖動。
模型融合引擎:該部分部署在邊緣服務器,通過聚合微集羣返回的中間梯度或嵌入表示,實現全局模型參數更新。在一定時間窗口內融合結果反饋至各聯盟,觸發下一輪局部訓練。
此外,CFG算法在SL架構中的一個關鍵優勢,是其對割層(split layer)的資源適配能力。每個設備根據自身能力選擇「合適的割層深度」,如低算力設備選擇在淺層切割,僅參與前幾層的訓練,算力較強設備可參與更深層的前向和反向傳播,極大提升訓練效率與公平性。
微算法科技(NASDAQ:MLGO)CFG算法作為邊緣智能協同機制的一次突破創新,為分佈式深度學習系統提供了新範式。該算法的應用潛力遠不止於SL框架,更可擴展至,智慧城市交通系統、工業物聯網(IIoT)、車聯網(V2X)系統以及醫療影像邊緣識別等場景。進一步優化方向包括結合強化學習策略實現更智能的聯盟形成策略,利用圖神經網絡對設備拓撲進行建模以增強聚類智能,乃至構建跨邊緣服務器的聯盟層級結構,構建大規模異構邊緣學習網絡。
隨着邊緣計算與協作AI的不斷深化,「掉隊者」問題逐漸成為制約智能系統規模化部署的瓶頸。微算法科技 CFG算法以博弈論為理論基礎,以分裂學習為技術依託,打破了傳統協作模型對同步性和同質性的依賴,為異構設備提供了靈活、高效、穩定的協同訓練機制。這一技術不僅標誌着分佈式學習範式向智能協作演進的重要一步,也為邊緣AI的產業化、產品化提供了可行路徑。未來,CFG算法將在智慧城市、工業自動化、醫療輔助診斷等多個領域持續釋放其價值,為智能社會建設提供更強動力。