1、1/90摘要摘要邊緣計算作為下一代無線網絡的關鍵技術，推動了網絡與計算設施的邊緣化。更加靠近用戶終端的邊緣服務器可使得業務的服務時延大大降低，并能夠應對不斷涌現的新型場景。同時，人工智能的迅速發展對邊緣計算的性能提升具有顯著推動作用，有助于邊緣計算設備應對急劇增加的邊緣側數據。因此，可將邊緣數據的計算本地性和人工智能的強計算能力相結合，即邊緣智能，來增強邊緣側的數據處理能力，提高無線通信系統的整體性能，并改善用戶的服務體驗。邊緣智能近年來研究火熱并處于快速發展階段，因此本白皮書旨在分析當前邊緣智能的研究進展。主要包括：（1）6G 邊緣智能網絡和基礎設施：首先分析面向 6G 網絡的邊緣內生智能架

2、構；然后對邊緣智能算力基礎設施進行介紹，包括邊緣智能硬件和云平臺；最后描述邊緣智能網絡基礎設施，包括邊緣智能接入網和核心網。（2）邊緣內生智能的關鍵技術：從模型輕量化、邊云協同智能、邊緣智能化部署和深度邊緣節點這幾個方面分別進行介紹，并對無線聯邦學習中的邊緣智能進行詳細的講解，包括聯邦學習中的模型稀疏化和模型量化。（3）邊緣內生智能應用：分析智慧交通、智能制造和智能節能等面向邊緣內生智能的典型應用。2/90目錄目錄1.引言.41.1 背景.41.2 邊緣計算與邊緣內生智能發展概述.41.3 邊緣內生智能的重要性.52.6G 邊緣智能網絡和基礎設施.72.1 面向 6G 的邊緣內生智能架構.72

3、.1.1 架構整體概述.72.1.2 內生智能面的設計與實現.82.2 邊緣智能算力基礎設施.112.2.1 邊緣智能硬件.112.2.2 邊緣智能云平臺.192.3 邊緣智能網絡基礎設施.282.3.1 邊緣智能接入網.282.3.2 邊緣智能核心網.363.邊緣內生智能的關鍵技術.433.1 模型輕量化.433.1.1 剪枝.443.1.2 知識蒸餾.453.1.3 量化.473.1.4 NAS.483.2 邊云協同智能.493.2.1 聯邦學習.493.2.2 分割學習.513.2.3 模型分割.523.3 無線聯邦學習中的邊緣智能.543.3.1 無線聯邦學習.543.3.2 聯邦學習

4、中的模型稀疏化.573.3.3 聯邦學習的模型量化.603.4 邊緣智能化部署.633.4.1 無線側智能化驅動力.633.4.2 智能化部署.633.4.3 算力部署.663.5 深度邊緣節點.673.5.1 深度邊緣節點的無線網絡可編程.693.5.2 深度邊緣節點的網元融合.693.5.3 深度邊緣節點的跨域 AI 設計.724.邊緣內生智能應用.754.1 智慧交通.754.1.1 智慧交通邊緣計算系統概述.754.1.2 智慧交通邊緣計算類型.764.1.3 智慧交通邊緣計算應用.784.2 智能制造.803/904.2.1 智能制造邊緣計算系統概述.804.2.2 智能制造邊緣計算

5、類型.824.2.3 智能制造邊緣計算應用.834.3 智能節能.864.3.1 場景概述.864.3.2 對邊緣智能的潛在需求與應用.865.邊緣內生智能的發展與挑戰.876.致謝.904/901.引言引言1.1 背景背景從 1G 到 5G，通信技術經歷了多次升級和變革，顯著提高了數據傳輸速率，降低了延遲，并擴大了網絡覆蓋范圍。然而，隨著物聯網和人工智能等技術的飛速發展，萬物互聯且應用場景日益復雜，現有的網絡架構已無法滿足新的需求。因此，作為下一代通信技術，6G 必須具備更高的性能和更強大的智能化能力，推動邊緣側網絡從“萬物互聯”向“智能互聯”轉變。為了更好地適應未來多樣化且復雜的用戶請求和

6、應用場景，將智能技術融入通信系統的設計和實現，內生智能的概念應運而生1。近年來，人工智能（AI）的理論與技術得到了進步，并廣泛應用于工業場景。但是大部分的 AI 服務通常部署在云服務器上。隨著“萬物互聯”時代的到來、終端設備數量和生成的數據迅速增加。集中式數據處理的形式即把所有的數據上傳至云端的形式無法滿足用戶低時延的需求。因此，邊緣計算隨著物聯網（IoT）以及人工智能的發展而出現。然而，目前對邊緣計算的研究實施無法滿足復雜的業務場景。因此，邊緣內生智能有潛力成為邊緣計算的下一個研究熱點2。邊緣內生智能能夠在原生網絡中實現各個單元之間的自我動態感知以及自我優化的能力，打破了原有外掛式 AI 架

7、構，通過將 AI 深度融入至網絡各層中以提 高系統整體網絡效能，并實現網絡架構中整體生命周期的自主感知以及自我管理3。1.2 邊緣計算與邊緣內生智能發展概述邊緣計算與邊緣內生智能發展概述邊緣計算邊緣計算：為了緩解云數據中心的處理壓力，邊緣計算的概念被提出。邊緣計算是一種將計算過程從中心服務器遷移到設備邊緣的技術。它的核心思想是將網絡、計算、存儲和應用服務整合到一個靠近數據源頭的平臺上，可以就近提供服務。這種技術有助于減少云計算的處理負載和解決數據傳輸延遲的問題，滿足用戶在實時業務、應用智能、安全與隱私保護等方面的需求。5/90邊緣內生智能邊緣內生智能：邊緣智能是邊緣計算發展到一定程度后的下一個

8、階段。隨著邊緣計算和人工智能技術的快速發展和迭代，邊緣智能的概念應運而生，在邊緣執行人工智能算法，這是更復雜的數據分析任務。在邊緣節點，特別是在移動設備和物聯網設備上部署人工智能應用，就需要邊緣計算支持。首先，邊緣節點需要提供相應的硬件和編程庫，以滿足人工智能的基本操作。其次，需要一個邊緣計算平臺來實現邊緣節點的資源管理和任務調度。最后，需要解決云端協作式人工智能中的任務卸載和數據安全問題4。隨著人工智能技術的不斷發展，邊緣設備智能化程度得到了提升。最初，邊緣智能主要關注在邊緣設備上運行人工智能算法和模型，以實現數據的快速處理和響應。這種方式的智能化程度相對較低，因為邊緣設備的功能和性能有限，

9、無法實現復雜的人工智能算法和模型的運行5。隨著技術的不斷發展，邊緣設備的性能和智能化程度得到了顯著提升。在這個過程中，邊緣內生智能的概念逐漸興起。邊緣內生智能強調將人工智能技術集成到邊緣設備中，使其具備自主的數據處理和分析能力。這種方式使得邊緣設備能夠更好地適應復雜的應用場景，提高數據處理和響應的速度和效率6。1.3 邊緣內生智能的重要性邊緣內生智能的重要性邊緣內生智能的重要性包含如下方面：（1）在網絡邊緣側生成的數據需通過 AI 完全釋放其潛能：由于移動設備數量激增，設備端將產生大量的數據（例如音頻、圖片和視頻）。此時 AI 算法的引入將是必不可少的，因為它能夠快速分析這些龐大的數據量，并從

10、中提取特征，從而做出高質量的決策，提高了數據處理的效率和可靠性。這有助于減少人工干預和錯誤率，提高業務的效率和可靠性7。（2）邊緣內生智能以更豐富的數據和應用場景擴展智能算法部署范圍：傳統的云計算模式中數據源一般會上傳并存儲至云端，因為云端具有非常高的計算性能8。然而，隨著萬物互聯時代的快速發展，傳統的云計算模式逐漸向邊緣計算模式轉變。未來邊緣側將會產生海量的物聯網數據，若上述數據需要全部上傳至云端進行 AI 算法處理，那么將會占據大量的帶寬資源并為云計算數據中心帶來非常大的計算壓力。面對上述挑戰，通過將云端計算能力下沉至邊緣，實現6/90了低延遲的數據處理，從而實現高性能的邊緣智能處理模式9

11、。（3）邊緣內生智能具有更好的系統可用性和可擴展性：AI 技術己經在日常生活中的許多數字產品與服務中取得了巨大的成功，如視頻監控、智能家居等。AI 也是創新前沿的關鍵驅動力，如自動駕駛、智能金融。因此，AI 應該更接近人、數據和終端設備，在實現上述目標的過程中，由于數據處理在本地進行，所以當中央服務器遇到問題時，邊緣設備仍然可以繼續運行。此外，隨著新應用的添加或現有應用的升級，邊緣設備可以輕松擴展或修改，提供了更好的靈活性。（4）邊緣內生智能增強了人工智能應用的可用性和可訪問性：由于邊緣設備的處理能力增強，更多的人工智能應用可以在設備上運行，而不僅僅是依賴云服務器。這增加了人工智能的可用性和可

12、訪問性10。參考文獻參考文獻1 S.Talwar,N.Himayat,H.Nikopour,F.Xue,G.Wu and V.Ilderem,“6G:Connectivity in the Era of Distributed Intelligence,”IEEE CommunicationsMagazine,vol.59,no.11,pp.45-50,Nov.2021.2 M.Elsayed and M.Erol-Kantarci,“AI-Enabled Future Wireless Networks:Challenges,Opportunities,and Open Issues,”IE

13、EEVehicular TechnologyMagazine,vol.14,no.3,pp.70-77,Sep.2019.3 S.Deng,H.Zhao,W.Fang,J.Yin,S.Dustdar and A.Y.Zomaya,“EdgeIntelligence:The Confluence of Edge Computing and Artificial Intelligence,”IEEE Internet of Things Journal,vol.7,no.8,pp.7457-7469,Aug.2020.4 M.Pan,W.Su and Y.Wang,“Review of Resea

14、rch on the Curriculum forArtificialIntelligence and Industrial Automation based on Edge Computing,”2021 International Conference on Networking and Network Applications(NaNA),Lijiang City,China,2021,pp.222-226.5Y.Xiao,G.Shi,Y.Li,W.Saad and H.V.Poor,“Toward Self-Learning EdgeIntelligence in 6G,”IEEE C

15、ommunications Magazine,vol.58,no.12,pp.34-40,Dec.2020.6 H.Hu and C.Jiang,“Edge Intelligence:Challenges and Opportunities,”2020International Conference on Computer,Information and TelecommunicationSystems(CITS),Hangzhou,China,2020,pp.1-5.7 M.Mukherjee,R.Matam,C.X.Mavromoustakis,H.Jiang,G.Mastorakis a

16、nd M.Guo,“Intelligent Edge Computing:Security and Privacy Challenges,”IEEECommunications Magazine,vol.58,no.9,pp.26-31,Sep.2020.8Y.Sun,B.Xie,S.Zhou and Z.Niu,“MEET:Mobility-Enhanced EdgeinTelligence for Smart and Green 6G Networks,”IEEE CommunicationsMagazine,vol.61,no.1,pp.64-70,Jan.2023.9 Q.Cui,Z.

17、Gong,W.Ni,Y.Hou,X.Chen,X.Tao,P.Zhang,“Stochastic OnlineLearningforMobileEdgeComputing:LearningfromChanges,”IEEECommunications Magazine,vol.57,no.3,pp.63-69,Mar.2019.7/9010 M.Yao,M.Sohul,V.Marojevic and J.H.Reed,“Artificial Intelligence Defined5G Radio Access Networks,”IEEE Communications Magazine,vo

18、l.57,no.3,pp.14-20,Mar.2019.2.6G 邊緣智能網絡和基礎設施邊緣智能網絡和基礎設施2.1 面向面向 6G 的邊緣內生智能架構的邊緣內生智能架構作為下一代無線網絡的關鍵使能技術，多接入邊緣計算（Multi-access EdgeComputing,MEC）能夠支撐大量的新興業務。隨著人工智能（ArtificialIntelligence,AI）的不斷發展，其在 MEC 中的應用越來越廣泛，但 AI 在 5G 網絡中僅作為外掛式應用來協助 MEC。6G 網絡中的 MEC 將在設計之初考慮 AI，并將其作為 MEC 系統的組成部分，以此來提高 MEC 的靈活性和開放性，更

19、好地應對不斷涌現的應用場景和用戶需求。由此，邊緣內生智能架構被提出，本架構基于 AI 功能的解耦和重構來為用戶提供定制化的 AI 服務。2.1.1 架構整體概述架構整體概述邊緣內生智能架構由“四層三面”組成，如圖 2.1 所示。其中，“四層”包含基礎設施層、虛擬化層、功能層和應用層；“三面”包含控制面、AI 面和管理編排（management and orchestration，MANO）面。圖 2.1 邊緣內生智能架構8/90（一一）四層：）四層：基礎設施層：基礎設施層：位于邊緣內生智能架構的最下層、涵蓋了系統中的所有通信、存儲和計算資源。其中，通信資源包括 WiFi、互聯網等；存儲資源包括

20、內存、硬盤驅動器（Hard Disk Drive，HDD）和固態驅動器（Solid State Drive，SSD）等；計算資源包括中央處理器（Central Processing Unit，CPU）、圖形處理器（Graphics Processing Unit，GPU）等。虛擬化層虛擬化層：位于基礎設施層之上，將底層資源抽象為資源池供上層的網絡功能使用。當業務需求到來時，虛擬化層可創建 Docker 容器并使其在資源池上運行，來供給網絡功能以保障其正常運轉，進而保證定制化的 AI 服務。功能層：功能層：位于虛擬化層之上，包含被解耦的網絡功能，即控制功能和 AI 功能，以及一條服務總線。不同的

21、網絡功能能夠根據業務需求進行實時的激活、釋放和重組，并通過服務總線串聯。應用層應用層：位于邊緣內生智能架構的最上層，包含多樣化的網絡應用。應用層與用戶直接交互，并在用戶請求到達時，自動調用功能層的網絡功能和虛擬化層的 Docker 容器來為用戶提供服務。（二二）三面：）三面：控制面：控制面：負責從基礎設施層到應用層的控制信令傳輸和處理。MANO 面面：將控制面的服務請求轉化為 MANO 指令，并對系統的功能和資源進行協調和管理。MANO 面包含虛擬基礎設施管理器（VirtualizedInfrastructure Manager,VIM），功能 MANO 和應用 MANO，分別用于對資源、功能

22、和應用的管理編排。AI 面面：也叫做內生 AI 面，作為邊緣內生智能架構的核心面，用于學習用戶和網絡的行為和需求，實現網絡的自運營。其虛擬化層為 AI 應用提供運行環境庫，如 pytorch、tensorflow 等，可根據應用請求和資源狀態進行選擇；其虛擬化層包含被解耦的 AI 功能和一條服務總線；其應用層包含一個模板選擇器和一個智能算法模型庫，用于實現邊緣內生智能的靈活重構。2.1.2 內生智能面的設計與實現內生智能面的設計與實現在邊緣內生智能架構中，基于微服務的 AI 面被解耦為獨立的 AI 功能，AI9/90功能可被按需激活和調用；在應用請求到來時，被解耦的 AI 功能可以按需組合來為

23、用戶提供 AI 服務，以實現內生智能。（一一）內生智能面解耦：）內生智能面解耦：如圖 2.1 所示，在內生智能面中，AI 服務被解耦為數據采集功能（DataCollection Function,DCF），數據預處理功能（Data Preprocessing Function,DPF），模型訓練功能（Model Training Function,MTF），模型驗證功能（Model ValidationFunction,MVF）以及數據存儲功能（Data Storage Function,DSF），各功能介紹如下：DCF：采集 AI 模型訓練所需的原始數據并生成相應的訓練數據集。DPF：對包含

24、無效成分的原始數據進行預處理，通過數據采樣、特征提取和降維等操作將原始數據中的無效或偏移內容移除，將其轉化為 AI 模型訓練所需的數據格式。MTF：根據業務需求選擇相應的 AI 算法，訓練 AI 算法的核心模型。MVF：在模型訓練或實時推理的過程中評估 AI 模型的性能。DSF：存儲和管理 AI 面的所有數據及 AIF 的相關參數。不同 AI 功能之間通過統一的服務總線進行通信與交互。同時，AI 功能可通過服務總線與控制功能進行信息傳遞，并根據業務類型由功能 MANO 來激活。（二二）內生智能面重構：）內生智能面重構：邊緣內生智能重構借鑒了模板與實例化思想，依據業務類型進行 AI 功能激活、運

25、行環境配置和資源分配，以實現定制化的 AI 服務。模板：模板：通過提取和抽象一類邊緣智能業務的共性為其提供通用的解決方案。邊緣內生智能模板涉及模板信息（Template information,Tinf）和模板標識符（Template identifier,Tid）兩個關鍵要素。其中，模板信息包含 AI 應用的組成元素，即應用所需的 AIF 類型、資源和運行環境，存儲在智能算法模型庫中。模板標識符用于區分不同 AI 應用對應模板的標識，存儲在模板選擇器中。在模板使用前，需對模板進行預定義操作，即根據特定 AI 應用需求定義該應用所需的功能激活、資源分配和運行環境配置相關參數。實例化實例化：根據

26、模板中定義的參數，創建 AI 應用實例，以對 AI 服務請求做出響應。如圖 2.2 所示，邊緣內生智能的實例化流程包含以下步驟：10/901）MANO 對應用層持續監測，在接收到應用請求時向模板選擇器發送模板選擇請求2）模板選擇器更具應用類型選擇相應的模板，并將其 Tid 發送至智能算法模型庫來請求 Tinf3）智能算法模型庫提取模板對應 Tinf，并將其反饋回模板選擇器4）模板選擇器將收到的 Tinf 發送至 MANO 面5）MANO 面根據收到的 Tinf 進行實例化操作：（a）配置應用所需的運行環境庫（b）分配所需資源（c）激活相關 AIF圖 2.2 邊緣內生智能實例化流程11/902.

27、2 邊緣智能邊緣智能算力算力基礎設施基礎設施2.2.1 邊緣智能硬件邊緣智能硬件隨著技術的飛速發展，邊緣智能硬件逐漸成為了物聯網、人工智能和云計算三大技術交匯的焦點。這種智能硬件不僅具備實時、高效的數據處理能力，還能夠在網絡邊緣進行智能決策，從而大大減輕了云端的數據處理壓力，提高了整體系統的響應速度和效率。在客戶需求方面，邊緣智能硬件面向各行各業，從環境適應性、實時性、安全性、穩定性等各方面都提出了較高的需求。例如，在智能制造領域，可以通過邊緣智能硬件對環境惡劣的工廠生產線上的各種數據進行實時采集、處理和分析，實現生產過程的自動化和智能化。在醫療領域，可以通過邊緣智能硬件對病人的生理數據進行分

28、析，實現遠程醫療和智能化診斷。在技術特點方面，邊緣智能硬件采用了先進的算法和數據處理技術，可以實現高效的數據處理和分析。同時，它還采用了多種傳感器、通信技術和軟件定義，可以實現與各種設備和系統的互聯互通。此外，邊緣智能硬件還具有低功耗、高可靠性等特點，可以滿足各種惡劣環境下的使用需求。在產品形態方面，邊緣智能硬件可以以各種形式出現，如智能攝像頭、智能傳感器、智能機器人、邊緣服務器等。這些設備可以與各種設備和系統進行連接，實現數據的共享和協同處理。同時，它們還可以通過云端進行遠程管理和控制，實現設備的遠程監控和維護。(一一)邊緣智能硬件需求邊緣智能硬件需求如下表所示，從硬件部署位置與數據中心的距

29、離來看，邊緣智能可分為近邊緣（Near Edge）和遠邊緣（Far Edge）。近邊緣主要是云計算的下沉，功能上與云數據中心類似，具備強大且綜合的計算能力，硬件產品形態包括一體化機柜、重邊緣服務器等。遠邊緣更加側重于邊緣現場的應用，功能上與具體應用有很強的相關性，如數據聚合/轉換、協議解析、工業控制、AI 推理等，硬件產品形態的形式豐富多樣，比如工控機、PLC、網關、MEC 等。12/90功能功能產品示例產品示例近邊緣近邊緣Near Edge深度邊緣計算區域數字中心、CDN（內容分發網絡）、電信數據中心、托管服務商深度邊緣計算本地數據中心，重邊緣服務器，微數據中心（一體化機柜）遠邊緣遠邊緣Fa

30、r Edge聚合分析和控制、數據管理AI Box、MEC、HCI（超融合基礎設施）聚合、轉換、過濾、數據縮減、轉發網關、小單元、路由器、接入點模擬數字轉換（傳感器）、發送控制數據（執行器）、直接分析/控制工控機、PLC（可編程邏輯控制器）、DCS（分散性控制器）等邊緣計算硬件產品具備自己的獨特性，與云計算和端計算的硬件產品形態存在明顯差異。究其原因，邊緣計算面臨以下幾個主要需求：1.復雜多樣的應用場景復雜多樣的應用場景：（1）邊緣部署領域的多樣性需要不同的基礎設施組合。邊緣部署跨越許多行業應用、用戶場景和垂直領域，包括廣泛的基礎設施解決方案，從產品形態、配置到管理工具等，使邊緣解決方案生態系統

31、高度復雜化。（2）邊緣計算在電信、公用事業、制造業和金融業等行業增長迅速。電信運營商積極構建邊緣計算平臺，引領市場發展。其他行業，尤其是公用事業、制造業、金融業也在通過部署專用的邊緣計算來加速邊緣計算用戶場景的效率，如工業互聯網、電網管理、智能商業大廳等。（3）人工智能、機器學習、大模型、異構計算等技術的蓬勃發展進一步推動了邊緣計算市場的增長。計算密集型分析工作負載在許多行業領域和用例中變得無處不在，以釋放其潛力對于尚未開發的數據，其中大部分駐留或生成在邊緣。預計 AI 原生計算能力趕上新的分析平臺的性能需求將推動許多新的邊緣基礎設施部署將增長。而 AI 應用的多樣性也使得邊緣計算硬件、軟件、

32、服務和解決方案的需求變得更多豐富。2.長生命周期產品訴求長生命周期產品訴求：（1）在以交通、醫療、能源、工業為代表的眾多行業的邊緣計算應用中，如軌道交通控制系統、中大型醫療設備、變電站/配電站采集控制單元、工業控制 DCS/MES 等，往往需要經歷漫長的產品設計、研發、測試驗證、實施運行和13/90后期維護等階段。因此，邊緣計算產品 5-7 年甚至更長的生命周期對于這些應用場景來說尤為關鍵，這不僅意味著更高的穩定性，也意味著更低的后期維護成本；（2）長生命周期面向的是整個業務系統，不僅包括邊緣計算硬件設備，也包括運行在硬件設備上的平臺、業務應用、協議以及產生的數據；（3）同時，長生命周期也不僅

33、僅包含運行時間，也包括了硬件設備的后續持續供應、服務、更新，以及平臺、業務應用等的持續迭代等；3.嚴苛的工作環境嚴苛的工作環境：（1）更嚴苛的物理環境由于邊緣計算部署位置分散，面臨的物理環境復雜，對應的溫度、濕度、電磁輻射等環境條件都參差不齊?？傮w來說，邊緣計算的物理環境可以分為室內和戶外。與數據中心統一規劃和管理的機房環境不同，邊緣計算的室內環境通常為普通機房，或者是如工廠車間、零售門店之類的人機共處的環境。這類環境中往往空調制冷能力有限、空氣潔凈度也無法與數據中心相比。因此，防塵、溫度的要求會略高一些，在人機共處的情況下，還對邊緣計算設備的噪音有一定要求。邊緣計算的戶外環境更加復雜和嚴苛，

34、環境溫度可能達到-2060，防水、防雷擊、抗震等指標要求對邊緣計算硬件設備也造成了很大的挑戰。（2）更嚴格的數據安全環境邊緣計算的飛速發展也將網絡攻擊威脅引入了網絡邊緣，而常見的應對手段仍然是較為傳統的網絡安全防護技術，很難抵抗邊緣計算中多源、跨域的入侵和攻擊。邊緣計算架構的節點計算能力、存儲能力和能量均受限，現有的安全防護手段不能完全適用于邊緣節點，攻擊單個計算節點或服務節點的成本較原本功能強大的中心服務器大大降低，因此更容易獲得攻擊者的關注。網絡邊緣更貼近萬物互聯的設備，涉及大量的用戶個人隱私數據；網絡邊緣的通信、決策方式一旦被攻擊會更直接地影響到系統功能的實現，攻擊者單次攻擊成果不菲。邊

35、緣計算架構下，攻擊的更低成本、更高收入使其面臨著不容忽視的安全威脅。安全威脅存在于邊緣計算節點本身、邊緣管理節點和層與層之間等多個環節。此外網絡邊緣存在資源受限、軟硬件異構性大、海量終端分布廣等特征，傳統的數據中心安全防護方案無法適用。14/904.分布式部署分布式部署：邊緣計算更接近數據的產生地，不同于云計算的集中式部署，邊緣計算更多的是分散部署到不同的區域或位置。隨著邊緣計算、云邊協同的發展，現場管理精益化的需求日益明顯。同時，邊緣智能、物聯管控、軟件定義邊緣和 5G/6G專網等技術方向使得分布式部署可以充分滿足邊緣計算場景對于低延時、高吞吐以及應用靈活部署調度等方面的需求，持續推動邊緣計

36、算在客戶現場的部署和應用。當有數百或數千個位置時，管理所有這些計算節點成為了一個巨大的挑戰，同時還需要考慮到后續在邊緣側的進一步擴展。對于高度參與物聯網的企業來說，有些情況下，這些企業會發現自己需要管理數百萬個不同的端點。這就是需要盡可能多地自動化操作的地方，因為這樣就不需要人來管理日?；顒?。（二）邊緣計算的技術特點（二）邊緣計算的技術特點1.邊緣異構加速計算邊緣異構加速計算：在邊緣計算的碎片化市場中，非結構化數據占到 80%，大量并行計算和復雜模式識別僅憑 CPU 難以高效處理，CPU+智能算力（GPU/FPGA/ASIC 等）的異構計算更高效的處理不同的工作負載，同時帶來能耗的顯著優化，是

37、后摩爾時代的科技趨勢。非結構化數據碎片化客戶應用場文本視頻位置信息傳感器音頻圖片AR/VR工業實時控制自動駕駛數字孿生多媒體處理AIoT異構計算多樣工作負載的高效、低耗處理中國信通院預測，到 2023 年智能算力（GPU/FPGA/ASIC 等）占總算力規模的 70%非結構化數據涉及大量并行計算和復雜模式識別 僅憑 CPU 難以進行高效處理圖 2.3 應用場景多樣性推動邊緣異構加速計算發展2.邊緣軟件定義邊緣軟件定義：隨著邊緣計算在各種行業和場景的應用，軟件定義逐漸成為邊緣計算領域的重要技術趨勢。通過運用通用化的硬件、軟硬解耦等方式可有效的提高硬件資源的利用率、降低硬件成本、提升邊緣硬件資源的

38、可管理性。應用場景包括軟件定義 5G 網絡、軟件定義工控設備、軟件定義邊緣安全、軟件定義汽車等。以軟件定義工控設備為例，典型代表就是軟硬件解耦和分布式控制的新一代的 PLC。它滿足可靠、易用的同時，擁有數據互操作性、內生信息安全，既滿足傳統應用自15/90動化系統運行過程和控制相關的實時數據處理，也可以服務新型應用，如非實時數據的分析、存儲、運算等要求。3.原生邊緣智能原生邊緣智能：邊緣 AI 是指 AI 算法運行在邊緣設備上或靠近邊緣的服務器上。邊緣場景復雜多樣，原生邊緣智能更強調在邊緣側進行模型訓練與推理，這與云原生有本質區別?；诙嗳蝿辗夯男袠I預訓練模型，在邊緣場景下基于邊緣的數據在邊

39、緣側的微調壓縮和量化，形成邊緣側的小模型將是一種主流趨勢。隨著大模型的發展和應用，大模型將進一步推動人工智能在邊緣長尾場景落地，這也提出了更強的邊緣原生智能算力需求。（三）邊緣計算硬件產品形態（三）邊緣計算硬件產品形態邊緣智能硬件產品形態多種多樣，本章節主要介紹四種典型的智能邊緣硬件產品形態：邊緣服務器、工業計算機、網關和邊緣一體化機柜。1.邊緣服務器邊緣服務器：邊緣服務器被定義為部署在邊緣數據中心或靠近邊緣現場的服務器，包括用于邊緣計算場景的通用服務器（general-purpose）和專為邊緣場景設計的邊緣優化型服務器（edge-optimized）。其中用于邊緣計算場景的通用服務器（ge

40、neral-purpose）與用于數據中心場景的通用服務器在硬件上幾乎沒有差別，往往應用于環境相對友好的場景中。邊緣優化型服務器（edge-optimized）與通用服務器相比，在外觀、功能、穩定性等多方面進行了優化（如下表），例如低能耗、更寬的工作溫度范圍、多種安裝方法、安全性和 OT 集成等。從產品形態來看，邊緣優化型服務器（edge-optimized）又可以細分為定制型邊緣服務器（purpose-built）和邊緣微服務器（micro server）定制型邊緣服務器（purpose-built）是針對特定功能進行設計和構建，部署在安防、視頻監控等特定用例中的小型服務器，具有特定的外形尺

41、寸、低能耗、廣泛的工作溫度和多種接口類型等特性，以適應惡劣環境。通常不會部署在標準數據中心，而是部署在邊緣數據中心。邊緣微服務器是一種堅固耐用的融合計算設備，專為各種環境條件下的現場嵌入式使用場景而設計的微型服務器，能夠提供企業級計算和管理功能。16/90邊緣優化型服務器（邊緣優化型服務器（edge-optimized）特性）特性設計設計具有更寬的溫度范圍、防潮、防塵、耐腐蝕、抗震、電磁兼容性等特點。機箱機箱比通用服務器更小機箱深度，以適應現有基站站點、邊緣數據中心或特定的工業現場位置。操作與維護操作與維護自動操作和維護以及遠程控制，最大限度地減少手動操作和維護。提供統一的運維管理界面。安全安

42、全在復雜的部署環境下，需要防止潛在的網絡攻擊，以確保數據的安全性、高可用性和一致性，并在硬件層面防止惡意破壞。I/O前端 I/O 設計，提供更方便的操作和部署。安裝方式安裝方式多種安裝方式，如壁掛式安裝。安裝和拆卸簡單。功耗功耗低能耗，可限制直流、交流、布線等。網絡網絡高可靠性、低延遲、無線支持等。2.工業計算機工業計算機：工業計算機是專為工業場景設計的計算機，具有豐富的輸入輸出接口，能夠連接各種工業控制系統設備，如傳感器、執行器、儀表等；同時具有較高的可靠性和穩定性，能夠適應各種惡劣的工作環境。隨著工業互聯網的發展，工業計算機和邊緣計算的結合將越來越緊密。通過將人工智能、大數據分析等技術應用

43、于邊緣計算，工業計算機將變得更加智能，能夠實現更高效、更精準的自動化控制和決策。工業計算機有以下特點：可靠性可靠性：工業計算機具有在粉塵、煙霧、高/低溫、潮濕、震動、腐蝕和快速診斷和可維護性，其 MTTR（Mean Time to Repair）一般為 5min，MTTF10萬小時以上，而普通 PC 的 MTTF 僅為 1000015000 小時。實時性實時性：工業計算機對工業生產過程進行實時在線檢測與控制，對工作狀況的變化給予快速響應，及時進行采集和輸出調節（看門狗功能這是普通 PC所不具有的），遇險自復位，保證系統的正常運行。擴充性擴充性：工業計算機由于采用底板+CPU 卡結構，因而具有很

44、強的輸入輸出功能，最多可擴充 20 個板卡，能與工業現場的各種外設、板卡如與道控制17/90器、視頻監控系統、車輛檢測儀等相連，以完成各種任務。兼容性兼容性：能同時利用 ISA 與 PCI、PCIE 及 PICMG 資源，并支持各種操作系統，多種語言匯編，多任務操作系統。上架式工控機嵌入式工控機塔式工控機工業一體機/工業顯示圖 2.4 工業計算機示意圖3.邊緣網關邊緣網關：邊緣網關是具有邊緣計算能力的物聯網網關，對海量終端數據進行本地分析處理。邊緣網關和基于云的物聯網平臺共同組成了邊緣計算物聯網架構。邊緣網關通常支持豐富的工業物聯網接口（如 PLC、RF、RS-485、DI）和協議，靈活接入各

45、種傳感器和終端。同時開放軟硬件資源，支持容器部署。行業應用可按需部署在容器中，實現接入終端設備數據本地處理。而物聯網平臺可以與各種行業應用系統互聯，實現終端設備的智能連接。18/90行業應用路燈配電設施電梯控制器傳感器&終端Internet云化物聯網平臺5G/4G/ETH邊緣計算網關IP 化 PLC/RF/RS485/DI容器管理行業 APP圖 2.5 邊緣計算物聯網架構示意圖隨著計算技術的提升，更小型化更高效的處理器使算力下放。傳統的數據通信及轉換作用的網關，被賦予了更多的任務和期待。各種復雜協議的解析轉換，先分析再傳輸，邊緣快速決策等等，大大提升了端-邊-云的綜合效率。不斷更新制程的處理器

46、，異構加速等等，使 CPU/GPU/NPU 等算力和功耗比不斷提升。而隨著 5G、6G 通信技術的提升，更快速、更可靠的無線通信逐步替代部分有線數據傳輸，使部署更加靈活。4.邊緣一體化機柜邊緣一體化機柜：邊緣一體化機柜是集成邊緣服務器節點、交換機、存儲、PDU、配電、機架空調等多種設備的整機柜產品，以整機柜形式為最小產品顆粒度，集成業務所需機柜內設備，并預裝客戶應用軟件，可實現 IT 設備快速邊緣部署及業務快速上線，并能在無機房場景部署邊緣應用。邊緣一體機化機柜主要組成部分包括服務器、交換機、配電箱、PDU、UPS、電池包、機架式空調、應急風扇、監控顯示屏、監控主機、動環偵測網關、煙感偵測器、

47、溫濕度偵測器、水浸偵測器、照明、前后門開關偵測器等。與數據中心機柜相比，邊緣一體化機柜需要考慮更多復雜邊緣計算用戶環境的影響因素，如防塵、防水、無法外掛空調機柜等。行業 APP19/90智能照明與門磁單元配電單元水浸應急風扇溫濕度UPSIT 設備PDU電池模塊制冷設備圖 2.6 邊緣一體化機柜示意圖2.2.2 邊緣智能云平臺邊緣智能云平臺如 2.1.1 所述，邊緣計算設備數量繁多，千差萬別，分散部署到不同的區域或位置。為了協同使用這些設備，減小應用適配難度，降低部署、運營管理的復雜度，需要一個分布式的軟件平臺在解決這些問題的同時，滿足日益增長的智能化應用需求。邊緣智能云平臺就是這樣的分布式軟件

48、平臺，它采用云原生技術，是部署在邊緣和云上的系統，實現以容器為載體的微服務的統一、快速部署?？傮w架構包括三個主要部分：邊側、云側和協同機制。邊側邊側：這部分包括邊緣硬件及運行在上面的邊側內生智能平臺。邊緣硬件可以是單個邊緣設備，也可以是多個邊緣設備組成的邊緣集群。邊側內生智能平臺是邊緣智能云平臺的關鍵組成部分，它提供了在邊緣設備上使用容器運行應用程序和服務的解決方案。邊側內生智能平臺提供邊緣計算環境中所需的基礎設施和服務，包括容器編排、數據存儲、安全性管理和監控等功能。云側云側：這部分包括云側計算系統和云側管理平臺。云側計算系統是運行在云端的數據中心，可以是一個位于云端的運行邊側內生智能平臺的

49、集群，也可以是一個運行云原生平臺的集群。它與上述位于邊側的邊側系統進行協同工作，例如20/90它可以接收來自邊側的數據，并進行大規模數據處理和分析，同時將處理后的數據反饋給邊側設備。云側管理平臺則是對邊側和云側計算系統統一管理、調度和監控，對應用服務統一編排和生命周期管理，以確保系統的正常運行和服務的有效提供。協同機制協同機制：這部分包括云邊通信協議、云邊數據同步和云邊應用協同。云邊通信協議是邊側和云側進行數據傳輸和通信的規范和標準，它保證了數據傳輸的穩定和安全。云邊數據同步是邊側和云側的數據進行同步和協調的過程，它保證了數據的完整性和一致性。云邊應用協同是邊側和云側的應用程序進行協同工作的過

50、程，它實現了應用程序的分布式計算和智能化服務。圖 2.7 邊緣智能內生云平臺總體架構如圖 2.7 給出了一種邊緣智能云平臺實現，它與各種邊緣設備深度融合，以軟硬一體機的形式提供便捷的邊緣計算賦能。平臺支持多邊緣計算、存儲、網絡、輕量虛擬化及全融合管理，提供包括 4G/5G，WiFi，固網等多網絡邊緣接入及網絡感知能力，支持邊緣應用和資源動態感知調度、跨邊緣智能編排及云邊協同，以及統一自主的智能運維管理。在云側，提供多邊緣集群管理，云邊資源協同、應用分發及業務數據交互等能力，可以部署于客戶云數據中心或公有云上。在邊側，基于為邊緣打造的邊緣計算服務器，構建軟硬件一體化、計算存儲網絡全融合的異構輕量

51、級邊緣計算平臺，通過多接入能力無縫接入實現數據本地分流，將數據匯聚在邊緣側進行計算，為用戶節省數據傳輸的同時提供低時延、高可靠的服務，提供面向多接入智能應用場景的新型 ICT 基礎設施。主流邊緣智能云平臺一般有如下特點：方便應用上線方便應用上線：通過容器或虛機承載邊緣應用，并提供便捷的導入應用鏡像界面。21/90靈活數據接入靈活數據接入：支持 4G、5G、WIFI、寬帶等不同形式的數據接入，將數據卸載到邊緣平臺進行處理和計算，并將結果及時反饋到生產系統或者上傳到云端。高效應用管理高效應用管理：能夠感知應用的類型以及對資源的使用情況，實時調整資源分配，無縫進行擴縮容。優化應用賦能：優化應用賦能：

52、針對特定類型的應用進行針對性資源優化。例如 GPU 虛擬化使同樣算力能支持更多的 AI 或其它強 GPU 應用。極簡部署極簡部署/運維：運維：以全融合一體機形式部署的邊緣計算平臺實現開箱插電即用、自動組網、故障時整機替換。具有智能運維能力，實時監控收集多維度運維數據，自動故障告警、修復。輕量全局安全防護輕量全局安全防護：使用統一身份認證服務提供帳號鑒權功能，利用其它相關上下文信息（身份、威脅/可信評估、角色、位置/時間、設備配置等）加強安全策略，且提供邊緣平臺上動態和靜態數據的加密。下面分章節對邊側內生智能平臺、云側運維管理平臺和協同機制這三部分做詳細介紹。（一）邊端內生智能平臺（一）邊端內生

53、智能平臺邊側內生智能平臺也是基于容器技術和 K8S 的編排管理能力實現。容器相比物理機和虛擬機，具有輕量級、部署簡單、支持多環境、啟動時間短、易擴容、易遷移等特點，能解決邊緣設備異構嚴重的問題。Kubernetes 已經成為云和數據中心內容器編排的主流選項，它使用微服務和容器來封裝功能模塊，然后通過聲明管理的編排工具來管理和部署這些功能模塊。作為云側業務的延伸，邊側采用相同或相似的技術是符合邏輯的選擇。但是為了適配邊緣設備做到更輕量，在邊側使用邊緣內生的 Kubernetes 發行版：K3s，Kubeedge，MicroK8s 等輕量的云原生平臺。這些都是經過認證的 Kubernetes 發行

54、版，完全支持 K8s API，同時提供更低的footprint和更高的可靠性。它們可以在x86和Arm硬件上運行，支持GPU、NPU、VPU 等異構器件。邊緣節點與中心云之間的網絡環境復雜，邊緣節點可能因為某些原因與中心云斷聯。由于邊緣節點數量眾多，環境復雜，IT 運維人員難以及時對斷聯節點進行維護恢復，邊側云原生平臺需具備離線自治能力，從而保障邊緣側業務的連續性和可靠性。22/90圖 2.8 用于 MEC 的邊側內生智能平臺圖 2.8 展示的邊側內生智能平臺是用于 MEC(Multi-Access Edge Computing)的一種實現。它基于 K3s 以及軟硬一體化的輕量級虛擬化，以輕量

55、級虛擬化為內核驅動的計算存儲融合的基礎資源服務，搭載針對應用的快速接入、靈活編排和彈性資源管理支撐，以及邊緣集群和云中心交互框架等核心技術能力，提供低延時、可靠、彈性、協同、安全的邊緣計算服務。作為在網絡邊緣側構建的新型微數據中心，可以快速靈活集成第三方應用，接受統一的遠程運維管理，開放網絡基礎管道能力，提供實時智能的應用服務，能夠在基于 5G 的 MEC 邊緣云模式下承載多種應用場景。該平臺足夠精簡，可以運行于單臺服務器或由多臺服務器組成的集群上。主要功能包含：邊緣端管理：邊緣端管理：提供管理邊緣節點所有能力的邊端控制臺邊緣容器：邊緣容器：提供基于 Kubernetes 的容器統一編排，管理

56、能力安全容器安全容器：采用輕量級虛擬機來運行用戶的容器實例，使得用戶同時擁有虛擬機的安全和容器技術的迅速和易管理性，為邊緣節點提供絕佳的安全性及性能保證輕量級虛擬化：輕量級虛擬化：提供秒級啟動、低內存占用的輕量級虛擬化能力鏡像管理：鏡像管理：提供對虛擬機鏡像上傳、更新、刪除、分類管理等功能虛擬機模板：虛擬機模板：創建可以保存虛擬機配置的模板硬件加速：硬件加速：提供不同類型的加速器，包括 GPU 卡等，通過硬件和加速器的融合實現對邊緣硬件的優化23/90網絡隔離：網絡隔離：提供基于虛擬網絡層面的子網二層隔離，保障網絡通信安全邊緣端智能運維邊緣端智能運維：提供豐富的邊端告警管理，自定義告警規則，滿

57、足靈活多樣的智能運維需求訪問控制：訪問控制：支持基于用戶組的訪問控制（二）云側運維管理平臺（二）云側運維管理平臺邊緣節點的數量非常龐大，邊緣設備的類型非常多樣，邊緣設備的應用繁雜而且邊緣環境又非常復雜，傳統的數據中心運維方式面臨巨大的挑戰，無法保證廣泛分布的邊緣業務低成本的穩定和持續運行。邊緣計算需要創新的技術來實現邊緣節點接入、應用部署、運維的自動化和智能化。在 LF Edge 的 Akraino 項目中，提出了一種零接觸業務配置和維護（ZeroTouch Provisioning and Operations，ZTP）的概念，它要求相關技術支持多應用和服務的集成、編排和交付，背后是利用 O

58、NAP（Open Network Automation Platform）來實現的。這樣的設計使得管理維護邊緣計算成本將大大降低，同時能夠滿足硬件資源的限制和成本的限制?！皹嫿ㄒ淮?，推送到任意地點”的邊緣 DevOps 在邊緣使用云技術，將邊緣節點視為 CI/CD 流程的構建目標，將云端倉庫視為在這些邊緣系統的可信代碼源?；谌萜鞯拇虬绞綔p少了將應用程序部署到特定邊緣硬件的工作量。對于邊緣設備本身的運維需要輕量化的機制對邊緣節點的網絡流量、CPU 利用率、進程、內存等方面的狀態進行采集，并實時為運維人員提供一個系統、全面的邊緣節點狀態監控。另外還需要有故障自檢能力，當預知潛在故障將要發生時，

59、能夠采取恰當的措施進行預防性維護。當檢測到故障已經發生，需要根據監控的數據進行根因定位，然后采取恰當措施進行自我修復。對于實在無法自動修復的問題，通知運維人員。云側運維管理平臺既是實現以上功能的邊緣云平臺組件。它可以看做邊緣集線器，處于中心地位，實際部署于云或數據中心，與被管理的邊緣節點通過網絡連接。除了管理眾多的邊緣節點設備和邊側云原生平臺，也實現與云邊資源的協同調度。其自身也是云原生的，由容器化微服務組成，可以很容易的部署在云原生平臺中，實現云邊統一運維管理。24/90圖 2.9 云側運維管理平臺功能示例圖 2.9 展示了一款云側運維管理平臺叫做集中管理平臺 CMO（CentralMana

60、gement and Orchestration），負責云邊協同管理，總體設計目的是為邊緣云構建云邊統一管理平臺，通過云邊資源、數據、應用一體化管理，為用戶邊緣計算業務提供上線、部署、調度、優化、協同等全生命周期自動化保障。CMO 功能包括：異構邊緣節點異構邊緣節點/集群管理：集群管理：統一的異構邊緣接入框架，支持接入 MEC、輕邊緣集群進行統一納管統一邊緣資源管理統一邊緣資源管理：一站式邊緣集群、節點及資源視圖，支持多類型邊緣管理框架應用智能編排部署應用智能編排部署：統一應用編排模型，適配不同邊緣，批量應用部署及基于策略的智能調度豐富的云邊協同機制：豐富的云邊協同機制：云邊數據協同框架，支持

61、應用分發，數據同步邊緣智能運維邊緣智能運維：統一邊緣監控及告警，邊緣云一體機故障發現及管理，運用大數據分析，智能算法，多維度健康分析，快速定位，快速修復，提升自動化運維效率安全管理安全管理：包含容器鏡像掃描，漏洞分析，智能檢測，基于不同粒度和策略的云端數據庫審計（三）協同機制（三）協同機制1.云邊協同云邊協同：25/90圖 2.10 云邊協同的能力與內涵（ECC 邊緣計算參考架構 3.0）對于行業數字化轉型應用來說，如果將所有數據發送到云端計算，就會在帶寬使用上面臨瓶頸，而且應用的時延無法得到保證。如果完全依賴基于邊緣的分布式體系結構，邊緣系統和應用程序管理非常復雜，邊緣節點的局限性使得應用的

62、可擴展性和高可用性都難以實現。因此，需要云計算和邊緣計算的協同融合以減少延遲、提高可擴展性、增強對信息的訪問量，并使業務開發變得更加敏捷。邊側云原生平臺不是單一的部件，也不是單一的層次，而是涉及到 EC-laaS、EC-PaaS、EC-SaaS 的端到端開放平臺。因此根據邊緣計算參考架構 3.0 云邊協同的能力與內涵涉及 IaaS、PaaS、SaaS 各層面的全面協同，主要包括六種協同：資源協同、數據協同、智能協同、應用管理協同、業務管理協同、服務協同。資源協同資源協同是指邊緣計算節點與云端之間的資源管理和調度協同。邊緣計算節點提供計算、存儲、網絡、虛擬化等基礎設施資源，具有本地資源調度管理能

63、力，同時可與云端協同，接受并執行云端資源調度管理策略，包括邊緣計算節點的設備管理、資源管理以及網絡連接管理。云端提供全局視角的資源調度，使得邊緣節點的資源利用更加實時有效。數據協同數據協同是指邊緣計算節點與云端之間的數據交互與協同。在云邊協同中，邊緣計算節點主要負責現場/終端數據的采集、處理和分析，并將處理結果以及相關數據上傳到云端。云端提供海量數據的存儲、分析與價值挖掘。邊緣與云的數據協同支持數據在邊緣與云之間可控、有序地流動，形成完整的數據流轉路徑，26/90高效、低成本地對數據進行生命周期管理與價值挖掘。智能協同智能協同是指邊緣計算節點與云端之間的智能處理和能力協同。邊緣計算節點按照 A

64、I（人工智能）模型執行推理，實現分布式智能，而云端則開展 AI 的集中式模型訓練，并將模型下發至邊緣計算節點。這種協同方式可以實現分布式智能和集中式智能的有效結合，提高 AI 處理的效率和精度，同時也降低了 AI 處理的成本。云端主要提供應用開發、測試環境，以及應用的生命周期管理能力，包括應用的推送、安裝、卸載、更新、監控及日志等。應用管理協同應用管理協同是指邊緣計算節點提供應用部署與運行環境，并對本節點多個應用的生命周期進行管理和調度；云端主要提供應用開發、測試環境，以及應用的生命周期管理能力，包括應用的推送、安裝、卸載、更新、監控及日志等。業務管理協同業務管理協同是指邊緣計算節點主要提供模

65、塊化、微服務化的應用/數字孿生/網絡等實例；云端主要提供按照客戶需求實現應用/數字孿生/網絡等的業務編排能力，按需為客戶提供相關網絡增值業務。服務協同服務協同是指 EC-SaaS(邊緣計算 SaaS)與云端 SaaS 在用戶應用層面的服務質量、服務能效等的協同。聯邦學習是使用云邊協同機制的典型智能應用范式。傳統的方式將采集的設備傳輸到云端進行模型訓練，這會面臨一些問題：一是帶寬與延遲的消耗；二是數據保存在云端則會有嚴重的隱私泄露隱患。在這種場景下，云邊協同進行模型的協同訓練則是一個很好的選擇。得益于邊緣端的數據收集能力，最終訓練出來的模型的泛化性能會更好。其中邊緣端負責數據的收集以及部分的模型

66、訓練，云端負責將邊緣端的模型更新聚合并且發送回邊緣端。以人臉識別應用為列，傳統訓練過程需要由邊緣端收集人臉數據，同時與中心服務器進行直接的數據交互，而直接的數據交互勢必導致隱私的泄露問題。而云邊協同下的人臉識別模型訓練不需要將人臉數據上傳至中心服務器，這就防止了某種程度的隱私泄露問題。KubeEdge 的 Sedna 組件是基于 KubeEdge 提供的邊云協同能力，實現 AI 的跨邊云協同訓練和協同推理能力。它支持現有 AI 類應用無縫下沉到邊緣，快速實現跨邊云的增量學習、聯邦學習、協同推理等能力，最終達到降低邊緣 AI 服務構建與部署成本、提升模型性能、保護數據隱私等效果。Sedna 應用

67、場景包括27/90邊云協同增量學習、聯邦學習、終身學習和聯合推理等。圖 2.11 Sedna 架構圖2.邊緣節點間協同邊緣節點間協同：由于云邊通信穩定性和帶寬、流量成本的影響，在某些場景下，需要依靠邊緣節點間的相互協作來完成智能作業任務。該場景下，本地邊緣節點間存在較好的網絡條件，通信穩定、帶寬高、基本免費。但邊緣單節點的處理能力有限，無法單獨完成某些偶發的復雜的任務，但多個邊緣節點協同可滿足任務的計算、存儲等需求。邊邊協同往往是在云端組件的協調控制之下完成的。因此邊邊協同可以看做是云邊協同的一種應用場景，即控制面在云側，業務面在邊側。邊邊協同與普通的云邊協同的差別主要在要解決多邊之間的網絡互

68、通。圖 2.12 EdgeMesh 架構圖EdgeMesh 是 KubeEdge 在邊緣場景下實現邊緣節點互通的一個解決方案。EdgeMesh 作為 KubeEdge 集群的數據面組件，為應用程序提供了簡單的服務發28/90現與流量代理功能，從而屏蔽了邊緣場景下復雜的網絡結構。在邊緣計算場景下，網絡拓撲較為復雜，不同區域中的邊緣節點往往網絡不互通，并且應用之間流量的互通是業務的首要需求。EdgeMesh 滿足邊緣場景下的新需求（如邊緣資源有限、邊云網絡不穩定、網絡結構復雜等），即實現了高可用性、高可靠性和極致輕量化：高可用性高可用性：利用 LibP2P 提供的能力，來打通邊緣節點間的網絡，將邊

69、緣節點間的通信分為局域網內和跨局域網。局域網內的通信采用節點間直接通信，跨局域網的通信在打洞成功時 Agent 之間建立直連隧道，否則通過中繼轉發流量。高可靠性高可靠性（離線場景離線場景）：元數據通過 KubeEdge 邊云通道下發并保存在本地，無需訪問云端 apiserver；EdgeMesh 內部集成輕量的節點級 DNS 服務器，服務發現不依賴云端 CoreDNS。極致輕量化：極致輕量化：每個節點有且僅有一個 Agent，節省邊緣資源。2.3 邊緣智能網絡基礎設施邊緣智能網絡基礎設施2.3.1 邊緣智能接入網邊緣智能接入網邊緣計算部署在靠近物或數據源頭的網絡邊緣側，涉及客戶現場網絡、運營商

70、網絡和邊緣數據中心網絡，融合了計算、網絡、應用等能力，就近提供邊緣智能服務，滿足行業數字化在敏捷聯接、實時業務、數據優化、應用智能等方面的關鍵需求。運營商是邊緣計算網絡基礎設施主要提供者，在邊緣計算產業聯盟（ECC）與網絡 5.0 產業和技術創新聯盟（N5A）聯合發布的運營商邊緣計算網絡技術白皮書 中將從用戶系統到邊緣計算系統所經過的網絡基礎設施定義為ECA（Edge ComputingAccess，邊緣計算接入網絡），運營商在邊緣計算和網絡融合方面進行了深入研究和實踐，本章節重點對 ECA 中涉及的關鍵技術進行分析。29/90圖 2.13 邊緣計算網絡基礎設施示意圖（運營商邊緣計算網絡技術白

71、皮書）在邊緣智能接入網中，園區網包括企業的內部網、廠區內的局域網等，常見網絡技術有 L2/L3 局域網、WIFI、TSN（時間敏感網絡）、現場總線等。接入網需支持移動用戶和固定用戶同時接入，在移動網絡中，需要提供如2G/3G/4G/5G 等接入方式。在固定網絡中，需要提供光接入網絡 PON、以及各類專線等接入方式。運營商通過邊緣計算提供同時連接 MBB 和 FBB 接入網絡，以及在兩張網絡上的云業務交互。在邊界網關，移動網絡通過用戶面 UPF 下沉，解決移動性管理、業務分流、計費、QoS 等問題，固定網絡則通過寬帶接入設備BRAS/BRAS-UP 進行分流。邊緣計算的部署位置和業務的多樣性對網

72、絡的接入范圍、性能指標如時延、帶寬、高并發等方面提出了新的需求，因此需要 ECA 網絡通過以下關鍵技術實現：（1）云網融合云網融合：針對業務現場人、機、物等不同設備的接入需求，運營商會根據邊緣業務應用的區域位置不同而建設多張接入網絡，增加 CAPEX 投資。同時隨著業務應用的不斷調整變化，要求網絡具備靈活性，助力新業務敏捷上線，對 OPEX 提出了更高的要求。所以 ECA 需要采用云網融合技術滿足運營商降低CAPEX 和 OPEX 的需求。（2）異構計算異構計算：不同的邊緣計算應用具有不同的業務特性，在 CDN 中需要提供高帶寬的視頻服務，在智能制造中需要提供低時延的確定性網絡，在智能交通中需

73、要高可靠性連接和低時延需求。由于邊緣設備的多樣性和資源的有限性，因此需要結合不同類型的計算資源如鯤鵬、ARM、X86、GPU、NPU、FPGA 等在 ECA 中進行異構計算。（3）智能內生智能內生：不同的業務訴求對于智能化的要求不同，越來越多的業務30/90應用要求網絡具體智能化能力，能實現對網絡資源的實時調整，如對于不同的業務提供不同的 QOS 服務能力，同時將對時延不敏感的業務調度到其它空閑節點進行計算，以確保本地的高優先級業務得到及時處理，因此需要在 ECA 中需要內生智能。（一）邊緣智能接入網技術特點（一）邊緣智能接入網技術特點1.云網融合云網融合：邊緣智能接入網打破了固網、移動兩張網

74、絡在歷史上獨立發展的煙囪式建設現狀，促使傳統相對僵化封閉的網絡架構逐步向簡潔、敏捷、開放、集約的新型網絡轉變，云網融合是一項關鍵的技術。在發展歷程上要經過網絡云化、云網一體和融合開放三個階段，最終將傳統上相對獨立的云計算資源和網絡設施融合形成一體化供給、一體化運營、一體化服務的體系。（1）第一個階段為網絡云化，在固定網絡和移動通信網絡中存在大量傳統設備，例如防火墻、交換機、NAT 等，在移動通信網絡中有無線基站、核心網等。這些設備的特點是軟硬件集成、內部采用封閉的架構實現，而且都是專有設備，每個設備實現專用的功能，為煙囪式獨立建設。網絡云化則是通過 SDN 和NFV 技術，從傳統煙囪式架構演變

75、為軟硬件解耦、開放、云化的架構。最底層采用通用硬件，例如服務器、交換機、存儲等。針對特殊的計算或網絡轉發需求，也會通過加速硬件來輔助。在硬件之上，通過虛擬化技術，以及 Linux/KVM、QEMU、OpenStack 等開源代碼被廣泛應用，形成了我們統稱為云操作系統的中間層。所有的網絡功能都通過軟件實現，以上層應用的形式運行。通用硬件加速硬件超融合一體機云操作系統vRANv5GvBRASvCPE 圖 2.14 軟硬解耦、開放的云化網絡31/90這樣的架構有三方面的優點：采用通用硬件和專有硬件相比可以大幅降低成本。通過軟件定義、虛擬化和云化的技術實現網絡功能，可以快速實現新業務的上線和既有業務的

76、升級換代，同時降低網絡的運營維護成本。在開放、解耦的架構中，不同的軟硬件組件可以選擇不同廠家的產品，避免廠商綁定，從而降低成本，促進產業的繁榮和創新。在這階段的建設過程中，網絡設備通過 SDN、NFV 等技術實現虛擬化和云化，主要面向中心云，例如運營商核心網、數據中心交換機、防火墻等。網絡功能的云化多數仍處于軟件化和虛擬化，并未達到云網一體的云原生設計。（2）第二階段云網真正形成一體，網絡功能從設計到交付均采用云原生的理念，包括微服務化、容器化、DevOps、持續交付。另外，邊緣云、企業私有云、運營商通信云、公有云這些不同能力、不同位置的云資源池，它們既可以承載網絡功能，又可以承載業務應用，相

77、互協同，形成無所不在的算力與網絡。在移動網絡中，5G 核心網數據面下沉到邊緣云，云桌面、云游戲這些場景又代表了將終端側的計算上移至云里面，端、邊、云、網相互協同。在固網領域，通過云網關在 BRAS 節點附近部署，為用戶提供基于二層內網方式的邊緣云側應用，包括云桌面、云 NAS 等，云網關負責按需轉發邊緣應用，提供用戶與邊緣應用的交互接口。此類場景屬于邊緣云內的增值服務，后續增值應用會逐步增加。（3）第三個階段為行業融合，智能開放，本階段具有兩方面特點：一方面云網基礎設施與 AI、大數據、區塊鏈等新技術進一步結合，創造出更加智能化的云網基礎設施。另一方面，這些基礎設施的能力也進一步向上層開放，不

78、同的行業應用可以根據其需求靈活地配置、調用，甚至于動態定制云網基礎設施的能力，形成行業應用和云網基礎設施深度融合。在邊緣智能接入網絡中，云網融合在運營商網絡中已經進行了很多的實踐。首先在無線網絡，從基站到核心網，全球運營商都在推動云化。核心網從 EPC開始做 NFV 虛擬化、云化，到現在 5G 核心網已經基本完全云化。無線基站云化的節奏，很多海外運營商在第一步就開始推動宏站的云化，國內則是先從室內小基站的云化落地。對于有線網絡，寬帶接入網關、BRAS 等設備也都在推動云化的進程。32/902.異構計算異構計算：在邊緣智能接入網絡中，網絡云化的一個重要特點是采用 COTS（CommodityOf

79、f-The-Shelf 商用現成品或技術）的通用硬件，而通信網元在性能、實時性、可靠性等方面都有非常嚴苛的要求，如何基于通用硬件來滿足這些特有要求面臨著很多挑戰：（1）CPU 指令集是面向眾多應用需求而設計，SIMD 指令早期的引入是面向多媒體軟件存在大量向量運算的需求。5G 物理層的很多算法也可以利用 CPU的向量指令集來優化性能，但是，CPU 向量計算單元的數量、能夠支持的向量位寬、向量運算的時延等均有限，而且向量計算單元的功耗通常要遠高于其他類型計算單元。（2）CPU 微架構的設計會產生不確定的時延，從而影響實時性。比如 CPU的多級 cache、內存預取等機制都是為了優化內存訪問的性能

80、，但是一旦發生cache miss、TLB miss、page fault 等現象時，相應指令的時延會大幅增加，造成了性能的不確定性。CPU 微架構中有大量的設計都會有這樣的特點，例如分支預測、指令調度等都存在很多預測算法，預測準確時，CPU 性能得到優化，但一旦預測錯誤，就會觸發一系列的恢復機制，增加額外的性能開銷。這些性能的不確定性，都會對通信中對實時性要求高的運算帶來挑戰。（3）通用 CPU 是為多任務共享 CPU 而設計，線程的調度、切換都會對性能和實時性造成影響。目前常用的技術手段是通過 CPU 核隔離、核綁定、中斷親和性等方式來減少線程在運行中受到外部事件的影響，但是這些技術的配置

81、、優化比較復雜，而且往往會造成 CPU 資源的浪費。在 5G 接入基站協議棧中，物理層包含大量計算密集，實時性要求高的操作。以 3GPP 規定的 5G 控制信道編碼方式 Polar 編碼為例，在信道編碼鏈中，polar編碼是重要一環，polar 碼在編碼過程中需要進行復雜的羅內克積矩陣運算，導致 polar 碼的運算過程復雜，對算力要求高。同樣 5G 在 FFT 和 IFFT 中需要完成 4096 階級數計算，需要極高計算性能。因此 5G 物理層的性能和實時性需求對通用 CPU 的處理能力帶來了極大的挑戰。面對以上問題，CPU 結合硬件加速器的異構架構目前在云網融合的工作中已經被廣泛采用，比如

82、在 5G 基站中，通用 CPU 可以運行 RAN 的層二及以上協議棧，而物理層整體可以交給加速硬件來33/90執行。加速硬件的形態可以包括 FPGA、DSP、ASIC、GPU 等。CPU 和加速硬件的組成關系也可以有多種方案：加速器以獨立加速卡的形式，插到通用服務器的 PCI-E 槽位中。CPU 與加速芯片集成封裝，他們之間通過 PCI-E 接口。CPU 和加速器單元深度集成，形成單芯片 SoC 方案。這三種方案，在性能、功耗、成本等方面逐步優化，但靈活性也逐級降低。圖 2.15 異構計算硬件形態CPU 和加速硬件之間有兩種調用模式：Lookaside 模式和 inline 模式。在Looka

83、side 模式下，加速硬件的調用類似軟件系統的函數調用，當應用程序執行到需要硬件加速的部分時，CPU 通過 API 調用加速硬件，加速硬件處理完成后，CPU 繼續執行程序的后續部分。Lookaside 模式比較適合加速硬件只支持物理層的部分功能，例如 LDPC 編解碼等。在 Inline 模式下，加速器支持物理層 LowPHY、High PHY 或者整個物理層，當上行數據進入基站后，首先數據會在加速器中完成整個物理層處理，然后交給 CPU 處理上層協議棧部分。異構計算對軟件也帶來很多新的需求。從云資源池的角度，在調度虛擬機或容器的具體運行服務器節點時，云平臺調度器需要能夠感知每個服務器節點的硬

84、件能力，哪些節點具有什么類型的加速硬件，同時也需要感知虛機或容器承載的應用有哪些硬件需求，從而在調度或遷移的時候能夠匹配相應的硬件。從軟硬件解耦的角度，5G 基站軟件期望有統一標準化的API，適配不同的加速硬件，從而降低基站軟件開發的復雜度，提高可移植性。開放式無線電接入網絡聯盟定義 AAL（Acceleration Abstraction Layer）為加速硬件抽象層，使應用程序更容易使用和控制硬件加速器，完成對硬34/90件加速器的調度和管理，以充分利用硬件資源，這項工作目前還在進行中。圖 2.16 開放式無線電接入網絡聯盟 AAL 標準化3.算力內生：算力內生：邊緣計算將計算從集中式數據

85、中心下沉到通信網絡接入網的邊緣位置，通過在物理位置上將網絡與計算融合，以分布式方式在更接近用戶的網絡邊緣提供低時延的計算服務，滿足低延遲高帶寬的場景，如視頻加速等。雖然邊緣計算物理位置上部署在邊緣網絡內，但在邏輯上，計算和網絡的編排與調度系統仍然是相互獨立的，缺乏靈活的動態性，導致無法實現網絡和計算在控制面的統一，難以及時響應實時和移動業務的需求。在網元級算力內生一體化方案中，通信行業的主要廠商實現方案主要分為兩類：（1）通過在網絡設備上增加獨立的算力板卡或專用算力服務器來實現算力和網絡的硬件融合。例如，在 5G 基帶單元（BBU）上增加額外的算力板卡，以提供額外的計算能力。（2）算力內生網絡

86、（Computing Native Network，CNN）。這種方案不需要增加額外的硬件設備，而是通過解耦大量 5G 基帶單元的閑置算力與通信業務，為計算應用提供靈活、實時且低成本的算力支持。算力內生35/90網絡將算力與通信網絡緊密結合，以滿足各種計算需求。這兩種方案的提出推動通信領域的算力與網絡的融合，以提供更強大的計算能力和靈活性。算力內生網絡基于 5G、云原生和人工智能等 ICT 技術，為全行業提供連接、算力和應用服務。該網絡構建在 3GPP 5G 網絡協議之上，通過虛擬化技術實現了通信業務與物理 CPU 核的解耦。算力以“vCPU 核”為基本單位進行量化，通過虛擬機和 hyperv

87、isor 多核 CPU 虛擬化技術將空閑算力與通信服務算力隔離，在基站內利用網元空閑算力承載計算任務。這種解耦方式確保了通信業務的 QoS 優先保障，并實現了嚴格的內生算力邊界隔離。同時，通過設置計算資源和通信資源之間的安全邊界以保護通信服務的穩定性，并實時智能調整安全邊界，確保通信服務的優先性和服務質量的穩定。目前，算力內生技術已經成功應用于某電力專網項目的 XR 遠程專家輔助維修。某電站每年都要進行長達一個月的設備停運檢修，這期間只有經過嚴格訓練的工作人員穿戴特制防護服才能進入電廠進行檢修。當檢修遇到困難時，工作人員無法離開電廠求助，導致整個維修流程嚴重延誤，造成嚴重的經濟損失。通過算力內

88、生網絡，維修工程師、遠程專家和檢修業務之間建立了更緊密的聯系。通過隨維修人員移動的 5G AR 眼鏡終端，通過無線接入到 5G 網絡，提供復雜維修過程的可視化和實時交互。遠程專家可以通過 AR 進行遠程指導維修任務。算力內生網絡不僅為 AR 遠程專家輔助提供了 5G 高帶寬、低延遲的高清互動視頻數據傳輸，還能支持場景渲染和圖像分發的計算服務調度，使維修人員可以隨時與遠程專家分享所見影像，以獲得專家的實時分析和指導，降低維修成本和提升維修效率?；谒懔壬W絡，移動網絡基礎設施從單純的提供連接服務演進為提供連接服務+計算服務的新型通算一體基礎設施，可以滿足 AI 所需的連接和分布式計算服務，從而

89、更好地支持面向 6G 的通感算智一體化演進。（二）邊緣智能接入網未來演進（二）邊緣智能接入網未來演進本章節介紹了邊緣智能接入網的云網融合、異構計算、智能內生這三大關鍵技術，這些技術目前正在進行和落地開展中。面向未來 6G 網絡架構，2023 年12 月 IMT-2030（6G）推進組在6G 網絡架構展望白皮書中面向 ITU-R 最新36/90的場景需求和關鍵能力指標，從服務范圍和服務能力的擴展、網絡自身能力的增強等方面對 6G 網絡總體架構進行了增強和細化，并提出了平臺化服務網絡的總體方向。未來邊緣智能接入網將是通信技術、算力網絡、AI 技術等深度融合的新一代通信系統，呈現出極強的跨學科、跨領

90、域發展特征，在 5G 網絡的基礎上全面支持數字化變革，技術上體現如下特征：云原生技術作為 6G 網絡發展的基石，將進一步促進網絡的革新發展。算力網絡成為通信系統的底層基礎資源，網絡和計算的融合已經成為新的發展趨勢。以 ChatGPT 為代表的 AI 大模型技術成為 6G 時代的重要應用，對網絡帶來重大影響。區塊鏈等分布式技術，將助力網絡的集中+分布的協同發展。2.3.2 邊緣智能核心網邊緣智能核心網伴隨各行業數字化轉型的深入，智能制造、智慧交通及工業互聯網等應用場景的發展，toB 業務從生產輔助進入行業生產核心環節,許多新的業務場景提出了對 SLA（Service Level Agreemen

91、t，服務級別協議）的差異化需求，帶來了網絡運營的復雜性。把智能融入網絡業務、體驗、運維和綠色等方面，是 5G/6G 新空間、新業態持續拓展的需求，是實現數智化轉型的關鍵。而網絡復雜度的指數級增長，也是走向智能化的重要驅動力。這就要求智能內生的網絡架構，需具備實時感知、建模預測、多維決策的能力，以網絡智能優化實現資源按需調度，達到覆蓋與容量最優協同，使運維智能化、簡便化實現站點自規劃自開通自排障，以智能綠色實現性能節能雙優，全方位推進網絡智能化的轉型。同時，智能終端連接數也在快速增長、數據規模指數擴大。面對海量數據，傳統中心云在時效性、傳輸距離、安全性等方面的不足使得其在工業制造、自動駕駛、遠程

92、醫療等場景下明顯力不從心。云計算已經無法滿足新業務對帶寬、時延等方面的需求，將網絡及算力向邊緣推進已成為必須，邊緣智能算力網絡成為滿足此類需求的不二選擇。1.智能化演進智能化演進：37/90上述網絡的發展演進意味著核心網要管理的數據量更大、更復雜。目前的核心網仍缺乏足夠的智能來提供按需服務和更高的網絡資源利用效率。因此，需要通過分布式智能節點的協同提供全局 AI 能力，實現智能內生。這要求網絡通過原生支持 AI 將 AI 能力作為網絡的基本服務,實現 AI即服務(AlaaS),使網絡能夠自學習、自演進,并賦能行業 AI,構筑全行業的泛在智能生態系統即“智能內生”。智能內生從字面意思來看可以分成

93、“智能”和“內生”兩個部分。首先,“智能”表示以 AI/ML 作為核心技術,用于網絡自身的感知、分析、最優決策,AI技術因其具有強大的學習、分析和決策能力,以及分布式的網絡 AI 能力,與終端 AI、云 AI 相互協作,實現全行業的智能泛在,體現無處不在的 AI 理念。其次,“內生”意味著“與生俱來”,即在開始設計 6G 網絡時就要支持 AI 應用在網絡中的無縫運行,這些 AI 應用包括網絡自身的 AI 應用以及行業 AI 應用。2.邊緣化部署邊緣化部署：基于服務化架構（Service Base Architecture）的核心網可以支持輕量化的 NFV 部署，提供了按需設計的網絡功能滿足不同

94、場景的移動性，QoS 相關的需求;基于新的架構和新的功能可以根據行業場景靈活部署。UPF 下沉混合組網下沉混合組網，UPF、MEC 下沉至企業的工廠、園區，此方式可提供數據隔離、按需定制的 5G 專網服務，按需疊加行業應用所需的 5G本地網應用，5G 融合定位，低時延、高可靠等專網差異化增值業務。但與公網共用 5GC 控制面，信令數據、網絡功能等仍依賴公共網絡實現，網絡質量受公網實時狀況影響。輕量化輕量化 5GC 獨立組網獨立組網，在企業的工廠、園區下沉 AMF、SMF、UDM、PCF 網元，對于控制面完全下沉，輕量化核心網本地獨立新建；構建一張增強帶寬、低時延、物理封閉的基礎連接網絡，實現用

95、戶數據與公眾網絡數據完全隔離，且不受公眾網絡變化影響。UPF 行業用戶專用獨享；數據面、信令面均與公眾網絡嚴格隔離；核心網內的能力可更大限度地開放給行業；可滿足行業更多的定制化需求；（一）邊緣智能核心網智能化演進（一）邊緣智能核心網智能化演進38/903GPP 在 Rel-15 即予以定義了 NWDAF，全稱是網絡數據分析功能（Network Data Analytics Function）,作為核心網絡 AI+大數據引擎，它是核心網中的一個重要組成部分。其在核心網中對 NF、AF、OAM 收集原始數據，并對原始數據進行智能分析，輸出分析數據給 NF、AF、OAM 等，用于優化網絡和業務。NW

96、DAF 旨在網絡中簡化核心網數據的生成和使用方式，以及生成洞察并根據這些洞察采取行動，他負責數據分析和智能決策，以優化網絡性能和增強最終用戶體驗。圖 2.17 NWDAF 智能框架示意圖在 Rel-18 中繼續研究涉及 AI 在網絡中 NWDAF 的增強：通過聯邦學習與移動通信技術結合，構建面向商用的數據隱私保護方案，從而充分利用電信網的海量數據；在模型訓練及推理階段，通過考慮執行結果作為模型的輸入數據，使模型可以基于結果進行優化來提升模型分析準確性；與網管域智能化分析網元 MDAF 聯動，利用網管側的智能化分析結果，增加網絡側分析輸入信息，從而提高分析準確性。1.NWDAF 網絡服務特點網絡

97、服務特點：邊緣計算的核心思想是將計算任務叢云端移到離用戶更近的網絡邊緣,減少了數據傳輸的延遲和帶寬消耗。NWDAF 具有數據采集、生成模型、智能分析等功能，它將網絡數據分析功能部署在網絡邊緣節點上,可以實時捕獲和分析網絡數據,提供實時的網絡監控和安全防護。它還可以從上下行帶寬、時延、抖動等多維指標，智能判斷用戶業務體驗狀態，并觸發網絡側進行保障。這有效減少了數據傳輸的延遲,提高了數據處理的效率。39/90同時，在架構上 NWDAF 和所有的核心網元進行連接，基于標準化的服務接口，向 PCF/OAM/AF 提供按需、快速、精準的智能分析服務，支持多場景靈活部署，滿足不同層級的應用要求，使能網絡功

98、能實體，實現運營商網絡低成本、高效率的智能閉環。在具體業務保障中，通過與 UPF、PCF 等多網元系統性協作，結合實時感知、智能識別、數據分析，構建用戶體驗基線，實現按需觸發的動態保障機制，并為終端用戶提供有效的感知保障，實現數據業務體驗保障的端到端閉環服務。2.NWDAF 相關應用場景相關應用場景：NWDAF 是一個數據感知分析網元，以網絡數據為基礎對網絡進行自動感知和分析，并參與到網絡規劃、建設、運維、網優、運營全生命周期中，使得網絡易于維護和控制，提高網絡資源使用效率，提升用戶業務體驗。NWDAF 適用于各種業務場景,特別是對于大規模的物聯網和移動互聯網應用來說,具有重要意義。首先,在物

99、聯網應用中,NWDAF 可以實時監控和分析物聯網設備數據,提供實時數據分析和決策支持。其次,在移動互聯網應用中,NWDAF 可提供實時的網絡監控和安全防護,保護用戶的隱私和數據安全。NWDAF 還可以應用于智能交通、智能制造、智慧城市等領域。以下列舉了部分應用場景：（1）對網絡中大量數據分析處理提高系統效率智能數據采集智能數據采集：最大限度減少了訪問/聚合云到中心位置之間的數據移動。高效集成和測試高效集成和測試：內置/預先測試的 NWDAF 交付和不同代(2G/3G/4G/5G)之間的開箱即用互聯功能。更簡單的編排更簡單的編排：內置 NWDAF 是云原生網絡功能的一部分,可以部署在同一編排流程

100、中。（2）終端參數的定制或優化NWDAF 通過收集用戶連接管理、移動性管理、會話管理、接入的業務等信息，利用可靠分析和預測模型，對不同類型用戶進行評估和分析，構建用戶畫像，確定用戶的移動軌跡和業務使用習慣，以及預測用戶行為，網絡基于分析和預測40/90數據，優化用戶移動性管理參數和無線資源管理參數等。（3）業務（路徑）的優化車聯網是網絡的重要技術，在車聯網的自動駕駛場景中，車輛即將經過的基站的網絡性能（例如 QoS 信息、業務負荷）預測對提高車聯網的服務質量有著重要作用。例如車聯網服務器可以基于網絡性能的預測信息判斷是否繼續保持無人駕駛模式。NWDAF 通過收集網絡性能、特定區域業務負荷等信息

101、，利用可靠網絡性能分析和預測模型，實現對網絡性能的統計和預測，輔助 AF 優化參數。（4）AF 對業務參數的優化車聯網是網絡的重要技術，在車聯網的自動駕駛場景中，車輛即將經過的基站的網絡性能（例如 QoS 信息、業務負荷）預測對提高車聯網的服務質量有著重要作用。例如車聯網服務器可以基于網絡性能的預測信息判斷是否繼續保持無人駕駛模式。NWDAF 通過收集網絡性能、特定區域業務負荷等信息，利用可靠網絡性能分析和預測模型，實現對網絡性能的統計和預測，輔助 AF 優化參數?？偟膩碚f，在智能化領域,相較于單獨提供 AI 算法等外掛的方式，NWDAF實現的是核心網的智能功能內生方式。但面對數據獲取困難、數

102、據質量難以保證、例如運營商的海量數據存在 UE 數據隱私保護、異廠家無法共享、端到端數據無法共享、跨域數據無法共享、第三方數據不能直接共享等現實問題，各 AI 模型的應用效果缺乏有效的驗證和保障手段等,這些因素讓 NWDAF 難以采集有效且全面的數據進行建模，導致模型評估效果不理想，人工智能的性能和效率低于預期。面對多域融合、泛在連接、資源異構的 6G 網絡,增量式、補丁式的能力增強難以滿足大規模組網下的多樣化、多元化服務需求,面對上述挑戰,6G 網絡需要內生智能的統一網絡架構設計,即在架構層面將網絡連接與人工智能三要素中的算力、算法及數據完成深度融合,將安全、AI 等核心技術能力內置在 6G

103、 架構中,并滲透到各領域、各網絡、各單元的全生命周期中,通過內生設計實現安全、AI等核心技術能力與通信網絡最深程度的融合。構建網絡內完整的智能體系,從而實現智能服務的高效與高質量保障。全新 6G 智能內生需實現多方面能力:通信網絡與 AI 計算的深度融合，傳統網絡中提供 AI 服務需要通信和計算協41/90議之間頻繁的交互與協調，6G 需要一套通算融合的內生 AI 協議，實現對計算和通信的協同管控與承載，滿足 AI 所需的連接和分布式計算服務、以及基于 AI 的連接和計算融合控制需求，在編排管理、控制面、用戶面三個維度實現計算和通信深度融合。AI 要素資源的自動化集成。通過聯邦學習、算網一體等

104、技術方式，在網絡內部將 AI 要素資源（連接、算力、算法、數據）形成自動化融合，支持 AI 要素間的交互和集成,提供本地自動化集成 AI 運行環境,實現 AI 工作流的高效運轉,滿足 AI 服務運行結果的實時反饋。解決當前 AI 技術在網絡應用中效率低不準確的問題,AI 服務近數據源、近服務對象部署的設計可滿足 AI 服務的實時性需求。網絡端到端的智能化協同。通過分布式訓練，多區域節點間的聯邦訓練、聯合推理、多智能體協同技術,實現終端、無線接入、核心網和應用服務端到端的多節點間智能業務協作，實現從單節點智能到分布式多節點智能的演進,解決從單領域問題到解決復雜系統問題的升級。減少傳統集中式 AI

105、 計算模式造成的大量數據傳輸開銷,緩解數據傳輸中的數據隱私問題。（二）（二）邊緣智能核心網邊緣化部署邊緣智能核心網邊緣化部署邊緣智能核心網對傳統網絡架構進行了重構，以網絡功能（NF）的方式重新定義了網絡實體，同時引入軟件定義網絡（SDN）/網絡功能虛擬化（NFV）技術實現網絡云化。各 NF 對外按獨立的功能（服務）提供功能實現并可互相調用，即將一個 NF 進一步拆分成若干個自包含、自管理、可重用的 NF 服務。NF 相互之間解耦，具備獨立升級、獨立彈性的能力，具備標準接口與其他 NF 服務互通的能力，并且可通過編排工具根據不同的需求進行編排和實例化部署。邊緣智能核心網對外體現為 AMF、SMF

106、、UPF、UDM 四個網元。其中，UPF作為 5G 網絡和多接入邊緣計算（MEC，Multi-Access Edge Computing）之間的連接錨點，它如何將用戶數據流分流至 MEC 平臺，是真正實現網絡與業務深度融合及落地應用的關鍵步驟。它應該支持通過靈活可增減的硬件滿足不同場景下對算力、網絡傳輸的要求。在實際部署時，UPF 可以按照不同業務場景對時延、帶寬、可靠性等差異化的需求靈活部署；針對邊緣級 UPF，可部署于企業機房，通過超高帶寬、超低42/90時延和超高可靠的連接提升工業控制的效率和自動化水平；UPF 基于數據網絡標識（DNN，Data Network Name）或 IP 地址

107、等識別用戶，并根據分流策略對用戶流量進行分流，對需要本地處理的數據流進行本地轉發和路由，避免流量迂回，降低數據轉發時延。這讓企業生產數據能在園區內終結，可滿足企業數據不出園區需求，與公眾網數據安全隔離，確保生產的安全可靠，可根據企業需求開放專享 UPF 的數據調度能力以及數據承載的 QoS 調度能力，滿足企業一定的定制化需求。圖 2.18 5G UPF 下沉邊緣部署架構不同于以上基于公有網絡實現的部署方案，信令數據、網絡功能等仍依賴公有網絡實現，網絡質量受公網實時狀況影響，面向高端制造、交通運輸、航空服務等領域的大中型企業以及礦井、油田、碼頭、核電、軍隊等局域封閉場景，就會對網絡可靠性、穩定性

108、、安全隔離性、數據保密性、網絡控制權等特性的要求不能完全滿足；此類行業場景更傾向于使用 5G 組網、切片和邊緣計算等技術，采用核心網全下沉方式為行業用戶構建一張增強帶寬、低時延、物理封閉的基礎連接網絡。在核心網全獨立下沉部署方式中，數據面網元以及部分或全部信令面網元下沉獨享。獨享的信令面網元可按需部署在企業園區內。核心網給企業終端簽約專屬切片標識和 DNN，企業終端接入網絡時，基站會根據切片標識將信令發送至企業專享信令面網元，信令面網元會根據簽約的切片標識和 DNN，將數據面承載建立在企業獨享 UPF 上。終端發送的數據包轉發方式與混合專網一致，采取單節點部署或者異機房容災等，數據面和信令面均

109、與公眾網絡隔離，不受公眾網絡影響。43/90圖 2.19 5G 輕量化核心網全下沉部署架構此方式讓核心網內的能力可更大限度地開放給行業；可滿足行業更多的定制化需求；數據面與信令面的網元可異廠家設備組網，給予運營商和企業更多的產品選擇權；行業對網絡的自主可控完全掌握在自己手中。3.邊緣內生智能的關鍵技術邊緣內生智能的關鍵技術3.1 模型輕量化模型輕量化近年來，隨著人工智能技術的快速發展，深度神經網絡（DNN）獲得了越來越多的關注。DNN 已被廣泛地應用于各個領域并取得了優異的效果，如目標檢測、圖像分類、自然語言處理和醫學診斷等。然而，隨著任務復雜度的增加，DNN 的參數量日益增加，模型結構也變得

110、愈加復雜，這帶來了極大的存儲與計算資源需求。此外，隨著移動設備的普及和邊緣計算的興起，DNN 模型在邊緣設備上的部署需求也日益增加。然而，邊緣設備資源相對有限，這為 DNN 模型的部署帶來了困難。為了解決這一現實問題，模型壓縮和加速技術，一種以獲得輕量化的模型為目的的技術被提出，并逐漸成為 DNN 領域的熱點技術之一。具體的，模型壓縮是指通過各種技術手段減少 DNN 的模型大小、計算復雜度和計算量，并維持模型的精度相較壓縮前無明顯損失。到目前為止，模型壓縮技術主要包括剪枝、蒸餾、量化、神經架構搜索（NAS）等。44/903.1.1 剪枝剪枝剪枝是模型壓縮中的一項重要技術，最早可追溯至 20 世

111、紀 90 年代初，可以將預先訓練好的深度神經網絡修剪為更小的網絡。如圖 3.1，在 DNN 中，由于網絡的參數量多和結構復雜，其中一部分參數對模型的整體性能貢獻較小，可以將其視作為冗余參數，因此將它們修剪后，在降低計算復雜度的同時并不會顯著地影響模型的性能。如果在剪枝后，對網絡進行微調，還有可能跳出之前網絡的局部最小值，進一步提高網絡準確性。隨著研究的進展，模型剪枝技術也分為了結構化剪枝和非結構化剪枝兩種。圖 3.1 剪枝示意圖對于卷積神經網絡，結構化剪枝也稱為通道剪枝。顧名思義，是以通道為基礎單元進行剪枝。當刪除一個通道后，輸出特征圖中的對應通道也被刪除。通道指的是卷積神經網絡中的某一卷積層

112、的卷積核，也稱作濾波器。結構化剪枝的基本思想是識別和刪除對模型貢獻度較小的通道，以達到減少模型大小、降低計算量的效果。結構化剪枝的一般步驟為：1）獲得預先訓練好的模型；2）根據剪枝準則對模型中的通道進行重要性分析；3）根據設定的剪枝率對模型的冗余通道進行刪減；4）對刪減后的模型進行微調，彌補因剪枝引入的性能損失。剪枝中通道的重要性評估方法有很多種，典型的是用通道中權重的范數來衡量通道的重要性，如 L1、L2 范數。還有利用卷積核中不同通道之間的關系來確定冗余通道，如：FPGM 通過幾何中位數進行通道修剪；聚類剪枝1112（Cluster Pruning,CP）通過聚類方法確認冗余通道并重建，最

113、后利用通道添加操作來等效對冗余通道的刪除，這種方法省去了微調步驟。影響剪枝效果的因素還有剪枝率的設置，通常劃分為靜態的剪枝率和動態的剪枝率，即模型不同層的剪枝率是否相同，前者操作簡便，但忽略了不同層之間差異和剪枝敏感度。動態的剪枝率可以利用基于深45/90度強化學習的濾波器剪枝方案實現，在模型剪枝過程中聯合優化每層剪枝標準和剪枝率的選擇。非結構化剪枝的剪枝對象是模型中的個別權重，而不是整個通道或層，這與結構化剪枝相對。這種剪枝方法不考慮模型結構的特定組織方式，而是獨立地選擇要剪枝的權重，它可以產生更高的壓縮比。非結構化剪枝基于啟發式方法，例如權重大小、梯度和 Hessian 等統計數據。由于非

114、結構化剪枝是在權重粒度上對冗余參數進行刪減的，因此其產生的稀疏性是不規則的，這對硬件層面提供加速帶來了挑戰?？煞指钅Ｊ教囟嘀匦藜舴椒?3可以根據卷積核內在特征找到不同模式，再利用卷積核等效分解將稀疏核分解為并行分支，可以使模型在硬件層得到加速，克服非結構化剪枝硬件加速難的問題。移位剪枝14（Shift Pruning,SP）將空間卷積轉換為 1x1 卷積和移位操作，同時滿足硬件兼容性和高壓縮比，如圖 3.2 所示。圖 3.2 SP 算法 3x3 卷積分解的示意圖3.1.2 知識蒸餾知識蒸餾知識蒸餾作為模型壓縮中的一項重要技術，最早在 2015 年由 Hinton 提出。不同于剪枝，知識蒸餾不

115、會對原始模型結構進行修改，而是構建一個較小的輕量化模型，在訓練好的性能優良的大型模型監督下，對小模型進行訓練，以獲得更好的性能和精度。這個大型模型稱作教師模型，輕量化模型稱作學生模型。如圖3.3，知識蒸餾系統由三個關鍵組件組成：知識、蒸餾算法和師生架構。知識是指在教師模型中所包含的信息，通常是由深度神經網絡學到的復雜模式、特征和規律。知識由教師模型傳遞給學生模型，實現性能優化和模型壓縮。教師模型的知識蒸餾方法可以分為以下三種：基于響應的知識、基于特征的知識和基于關系的知識?；陧憫闹R來自教師模型的最終層的輸出，主要思想是讓學生模型去直接模仿教師模型的預測，其利用軟目標進行知識傳遞?；谔卣?/p>

116、46/90的知識來自教師模型中間層的輸出特征圖，主要思想是匹配教師和學生的特征激活?；陉P系的知識探討了不同層之間的關系和不同數據樣本之間的關系，并由學生模型進行模仿。圖 3.3 知識蒸餾中的師生框架蒸餾算法可以分為三類：離線蒸餾、在線蒸餾和自蒸餾。離線蒸餾中的教師模型是預先訓練好的，在蒸餾過程中不對教師模型進行訓練，只對學生模型進行訓練，因此這種蒸餾方法被稱為離線蒸餾，其優點是簡單便于實現，但是訓練開銷過大且學生模型過于依賴教師模型。在線蒸餾中，教師模型和學生模型同時更新，是一種端到端的訓練方法，其進一步提高了學生模型的性能，克服了離線蒸餾的局限性。深度交互學習方法提出的在線蒸餾是將任何一個

117、網絡都可作為學生模型，其余網絡為教師模型，互相學習，以協作方式工作。在線知識蒸餾中，多種類型知識集成也是一種提高蒸餾效果的方法。如圖 3.4 所示，一種運用于在線蒸餾的新型多尺度特征提取和融合方法使用了多尺度特征15，并用雙重注意力和特征融合生成更準確的特征，與軟目標集成在一起進行蒸餾。自蒸餾是一種教師和學生模型使用相同的網絡的蒸餾方法，模型可以將網絡深層的知識蒸餾到淺層部分，或者將早期知識轉移到后期模型。教師模型和學生模型之間的結構差異也會影響到知識蒸餾的效果，為了減少教師模型和學生模型的容量差異，出現了很多學生模型結構，如：1）簡單的淺層模型；2）教師模型的簡易量化版本；3）具有高效操作的

118、小型模型；4）具有優化的全局網絡結構的小型模型；5）和教師模型一致的學生模型。知識蒸餾結合其他模型壓縮方法也可以提高優化效果，如通過聚類的剪枝蒸餾方法，將剪枝和蒸餾進行結合，在原始模型的監督下對模型使用聚類實現冗余通道的重建和等效刪除。47/90圖 3.4 用于在線知識蒸餾的多尺度特征提取和融合（MFEF）示意圖3.1.3 量化量化量化是指將訓練好模型的參數和激活值從高精度轉換為低精度的過程，通常從 n 位降低到 m 位，其中 n m，減少了模型的存儲開銷和運行功耗，加快了計算速度，如圖 3.5 所示。量化用途廣泛，可以運用于大多數的模型和硬件，比如現場可編程門陣列和專用集成電路，它們可以配置

119、為使用任何類型的數值表示形式，例如整點、浮點。量化可以根據是否需要再訓練分為兩種類別：量化感知訓練（Quantization-aware training,QAT）和訓練后量化（Post-training quantization,PTQ）。QAT 涉及對神經網絡參數進行量化，然后重新訓練它，可以使它能根據新量化的值進行調整和學習。但有時數據量不夠時無法進行重新訓練，因此我們使用 PTQ。量化感知訓練是指在對模型量化后，重新使用訓練數據對模型進行微調的方法。因為模型在量化后，可能會將擾動帶入模型的參數中，使模型偏離其收斂點，因此為了保證模型的性能，在模型量化后增加微調這一步驟，使模型更好地收斂

120、。步驟一般如下：(1)量化權重；(2)使用浮點輸入和激活對模型執行前向訓練；(3)使用浮點梯度對量化模型執行后向傳遞；(4)使用浮點梯度更新權重，然后返回步驟(1)。當訓練數據不可用時，則采用訓練后量化方法。PTQ 利用校準數據對預訓練模型進行校準，以計算剪切范圍和比例因子，然后根據校準的結果對模型進行48/90量化，但這通常會以犧牲可實現的精度為代價，因為至少需要 4 位數據進行存儲。圖 3.5 量化感知訓練（QAT）和訓練后量化（PTQ）的流程圖3.1.4 NAS神經架構搜索（Neural Architecture Search,NAS）是一種模型壓縮技術，旨在自動化神經網絡結構的設計和優

121、化過程，如圖 3.6 所示。NAS 的目標是通過搜索最佳的神經網絡結構，以提高模型的性能、減少模型大小和計算量，從而達到更高的效率和性能。NAS 的三個重要方面為搜索空間、搜索策略和性能評估策略。搜索空間定義了可能的神經網絡結構的集合，通常大小為幾千到十的二十次方不等。搜索空間的大小和復雜性會 NAS 的搜索效率和結果。在特定任務中，人們可以利用先驗知識來減少搜索空間的大小和簡化搜索，如具有 ResNet 和Inception 網絡先驗知識的圖像分類搜索空間 NAS-Bench-101。搜索空間的設置表示了人類的先驗知識和搜索效率之間的權衡，如果搜索空間小并且含有具有先驗知識的構建塊，則 NA

122、S 算法可以更快地找出高性能結構；如果搜索空間大并且含有原始的構建塊，則 NAS 算法可以找出最佳結構，但算法運行時間會過長。搜索策略說明了如何探索搜索空間。在搜索時既要考慮時間成本，也要避免過早收斂到局部最優解中。常見的搜索策略可以分為兩類：黑盒優化技術和一次性技術。黑盒優化技術包括貝葉斯優化、進化方法、強化學習(RL)和基于梯度的方法等，其具有魯棒性、并行性、易于使用等特點，但因為其訓練多個架構，增加了計算負擔。一次性技術不是從頭開始訓練每個架構，而是通過超網絡或超級網絡的一次性訓練來隱式訓練搜索空間中的所有架構，可以縮短計算時間。性能評估指標是幫助 NAS 在搜索空間找到性能更優的結構。

123、正常模型訓練49/90和驗證的方法導致大量的訓練成本開銷?？赏ㄟ^減少數據集、縮小模型來減少訓練時間。還可以通過權重繼承，只需要訓練單個一次性模型，然后通過繼承訓練后的權重來評估模型結構，這種方法不需要重新訓練，可以加快結構的性能評估。圖 3.6 神經架構搜索框架圖參考文獻參考文獻11 T.Niu,Y.Teng,P.Zou and Y.Liu,“Cluster,Reconstruct and Prune:EquivalentFilter Pruning for CNNs without Fine-Tuning,”2023 IEEE Symposium onComputers and Commun

124、ications(ISCC),Gammarth,Tunisia,2023,pp.625-630.12 Pruning-and-distillation:One-stage joint compression framework for CNNs viaclustering.13 Y.Liu,Y.Teng and T.Niu,“Splittable Pattern-Specific Weight Pruning for DeepNeural Networks,”2023 IEEE International Conference on Multimedia and Expo(ICME),Bris

125、bane,Australia,2023,pp.1439-1444.14 Shift Pruning:Equivalent Weight Pruning for CNN via Differentiable ShiftOperator.15 Multi-scale Feature Extraction and Fusion for Online Knowledge Distillation.3.2 邊云協同智能邊云協同智能3.2.1 聯邦學習聯邦學習聯邦學習(Federated Learning,FL)是一種機器學習的分布式學習方法，其主要特點是在不集中存儲數據的情況下進行模型訓練16。相反，模

126、型的訓練是在多個本地化的設備或節點上進行，每個設備都持有自己的本地數據。這些本地設備通過聯邦學習算法進行通信和協作，以共同訓練一個全局模型，如圖 3.7 所示。聯邦學習的主要目標是在保護個體隱私的同時實現模型的高效訓練。因為原始數據不離開本地設備，只有模型的更新參數被傳輸，聯邦學習有助于解決集中式學習中涉及大量敏感信息的隱私問題。整個聯邦學習的訓練過程通常包括以下步驟：50/90（1）初始化：初始化：全局模型在聯邦學習開始時由一個中央服務器初始化。（2）本地訓練：本地訓練：每個本地設備使用本地數據對模型進行訓練。這個階段的訓練是在本地進行的，不涉及對中央服務器的通信。（3）模型更新：模型更新：

127、在本地訓練后，本地設備生成模型參數的更新。（4）同步聚合：同步聚合：設備將模型更新發送到中央服務器，中央服務器執行模型參數的聚合操作，例如加權平均，以生成全局模型的新版本。迭代上述步驟在多個迭代中重復進行，直到達到滿意的模型性能。圖 3.7 聯邦學習訓練框架聯邦學習的優勢包括降低通信開銷、提高隱私保護、適應分布式數據等特性。它通常應用于那些擁有大量本地化數據且涉及隱私敏感信息的場景，如醫療、金融和物聯網等領域。盡管聯邦學習具有許多潛在的優勢，例如保護用戶隱私、減少數據傳輸和降低通信成本，但它也面臨一些挑戰。以下是一些聯邦學習的挑戰。（1）數據異構性：數據異構性：在聯邦學習框架中，為了協同達到目

128、標準確度，客戶端和服務器之間需要進行多輪聯邦訓練。由于復雜深度學習模型中存在數百萬個參數，更新高維模型會導致顯著的通信成本。尤其是當設備的數據是非獨立且分布不同（non-IID）時，這一問題變得更為嚴重。實際上，由于有限的觀測能力，分布式設備上的數據是差異化生成的，導致本地數據樣本的不平衡，且數據中非獨立同分布的程度越高，聯邦學習算法的收斂速度越慢。因此，異構數據成為聯邦學習部署在實際物聯網環境的瓶頸。（2）隱私保護：隱私保護：聯邦學習的一個主要目標是在不共享原始數據的情況下進51/90行模型訓練。然而，確保在本地設備上處理的數據不泄露敏感信息仍然是一個挑戰。設計有效的隱私保護機制對于用戶的信

129、任至關重要。（3）通信開銷：通信開銷：聯邦學習需要在本地設備和中央服務器之間進行模型參數的交換，這可能導致大量的通信開銷。有效地減少通信成本對于確保聯邦學習的實用性至關重要。（4）激勵機制：激勵機制：由于聯邦學習的分散性質，每個參與方都有自己的數據，并且可能面臨隱私和資源成本等方面的考慮。因此，為了激勵這些參與方積極參與聯邦學習，需要引入適當的激勵機制。聯邦學習在邊緣智能中發揮著重要作用，將在 3.3 節中進行詳細介紹。3.2.2 分割學習分割學習分割學習的提出為邊緣協同智能提供了另一種思路，其方式是在深度神經網絡的某一層（也叫切割層）將其分成客戶端模型和服務器端模型，分別部署在每個用戶設備和

130、云服務器上。多個用戶參與分割學習時，所有設備都以串行的方式與服務器交互，訓練流程如下：用戶使用本地數據執行客戶端模型得到中間數據，和原始標簽一起發送給服務器，服務器將接收到的中間數據作為客戶端模型的輸入繼續執行服務器端模型，完成前向傳播，然后計算輸出與原始標簽的誤差并做反向傳播，逐層計算更新服務器端模型參數，然后得到切割層參數的梯度然后回傳到用戶，用戶再繼續完成反向傳播更新客戶端模型參數，如圖 3.8 所示。分割學習框架在某種角度等同于集中式學習，因而在某些假設下的精度表現比聯邦學習更高，并且用戶只部署了全局模型的一部分，計算、存儲負擔較小，通信開銷也變成了中間數據的傳輸而非整個模型，同時服務

131、器只擁有全局模型的一部分，這在模型隱私方面也是令人滿意的。圖 3.8 分割學習示意圖52/90串行訓練方式決定了一次訓練中只有一個客戶端與服務器交互，使得其他客戶端資源閑置以及訓練時間偏長。所以為減小分割學習串行訓練帶來的資源閑置和時延，可以采用以下方式實現并行分割學習：（1）用戶同時進行前向傳播實現并行訓練，通過對所有用戶進行相同的模型初始化，收集所有用戶的中間數據并返回所有用戶平均的梯度值來保證相同的模型更新；（2）為每個用戶配置邊緣服務器，在服務器端引入聯邦學習的模型聚合保證能利用到其他客戶的數據；（3）在客戶端和服務器端都引入了聯邦學習，結合了分割學習和聯邦學習的優點。（4）將參與訓練

132、的客戶端按照資源狀況聚類分簇，并在簇內并行，簇間串行，即“先并行后串行”。并行分割學習結合其他數據壓縮方法可以減小訓練開銷，如通過聚類的量化壓縮減少傳輸中間數據。3.2.3 模型分割模型分割由于深度神經網絡(Deep Neural Network,DNN)是計算密集且結構復雜的，DNN 模型直接部署在終端設備上將消耗大量的計算資源和內存，傳統的方法是在功能強大的服務器上進行推理計算，計算后返回最終結果。然而，這種方式依賴于可靠的通信環境，隨著智能設備的快速增長，眾多 DNN 應用數據在帶給服務器壓力的同時也會造成巨大的通信延遲；除此之外，簡單地將數據傳輸至服務器可能會造成用戶隱私的泄露。為了解

133、決深度神經網絡巨大的資源需求與設備資源短缺之間的矛盾，一種可行的方案是將 DNN 進行模型分割和分區處理1718，在充分利用設備資源，減少計算壓力和內存占用的同時降低通信開銷。目前，模型分割的方法主要分為兩種：基于層粒度的分割和細粒度的分割方案。層粒度分割是利用神經網絡模型層級明顯的特征，在合適的位置劃分任務，一部分部署在終端設備，另一部分傳輸至附近的具有較強計算能力的邊緣服務器，在減小推理時延的同時減輕資源受限設備的計算和存儲負擔。通過在模型的不同深度位置添加中間出口分類器，多分支結構能夠形成早退點以調整動態推理53/90路由，提前退出推理過程。為了權衡推理精度和執行時間，可以采用一種結合早

134、退和分割的 DNN 推理框架結構，如圖 3.9 所示，當退出點向后移動時，每個分支提供的準確率也越來越高，與之伴隨的是運行時間的增加。為了加快推理速度，DNN 可以選擇一個可容忍的精度損失的早期退出點，并將 DNN 任務的適當部分卸載到邊緣服務器，通過移動設備與邊緣服務器的協作推理實現精度與推理時延的權衡。除此之外，為了減小通信開銷，可以將過大的中間數據進行量化來減小數據大小。圖 3.9 具有不同推理精度的多分支早退網絡結構細粒度分割是相較于層粒度的更深層次的分割方案，通過尋找分割點或同一層網絡分成不同的計算部分，能夠充分減小每個分區的參數量和計算量，將分區分別部署在不同的計算設備上進行計算。

135、現有的一些細粒度方案是基于數據并行的，如圖 3.10(a)所示，基于工作負載分割的方案將輸入數據進行按行分割并部署在協作設備上并行處理以縮段推理時間，然而這種分割方案不能有效減小單設備的內存占用，并存在較大的設備間通信開銷。在卷積神經網絡的推理過程中，卷積層的計算是整個推理的核心組成部分和計算過程的瓶頸，每個卷積層具有一組可學習的濾波器，即卷積核。每個卷積核通過與層輸入特征圖進行卷積運算，最終生成一個二維特征圖。如圖 3.10(b)所示，由于神經網絡中卷積計算的獨立性原則，卷積核分割方案（Kernel-based Partition Method,KPM）將每一層的卷積計算任務劃分為多個計算子

136、任務，卸載到協作設備并行處理，每層卷積結束后，協作設備將各自推理運算得到的相應輸出特征圖通過多播的方式發送給其他協作設備進行數據聚合，以保證在下一次卷積之前每個設備擁有完整的輸入數據/54/90特征圖。由于每個協作節點只生成部分特征圖信息，KPM 保證了敏感數據的隱私性。除此之外，對于節點計算中斷等故障問題，在部分特征圖缺失的情況下，KPM 保留了其他特征圖的信息，具有魯棒性。因此，考慮到 KPM 在減小單設備計算量和內存占用，以及在保證隱私性和安全性方面的特性，在具有充足零散算力的分布式協作系統中，KPM 能夠成為一種具有潛力的分割卸載方案。圖 3.10 工作負載分割方案和卷積核分割方案參考

137、文獻參考文獻16 G.Hu,Y.Teng,N.Wang and F.R.Yu,“Clustered Data Sharing for Non-IIDFederated Learning over Wireless Networks,”ICC 2023-IEEE InternationalConference on Communications,Rome,Italy,2023,pp.1175-1180.17 T.Niu,Y.Teng,Z.Han and P.Zou,“An Adaptive Device-Edge Co-InferenceFramework Based on SoftActor-

138、Critic,”2022 IEEE Wireless Communications andNetworking Conference(WCNC),Austin,TX,USA,2022,pp.2571-2576.18 X.Zhang,Y.Teng,N.Wang,B.Sun and G.Hu,“Accelerating Deep NeuralNetwork Tasks Through Edge-Device Adaptive Inference,”2023 IEEE 34thAnnual International Symposium on Personal,Indoor and Mobile R

139、adioCommunications(PIMRC),Toronto,ON,Canada,2023,pp.1-6.3.3 無線聯邦學習中的邊緣智能無線聯邦學習中的邊緣智能3.3.1 無線聯邦學習無線聯邦學習（一）（一）無線聯邦學習概述無線聯邦學習概述近年來，以機器學習（Machine Learning，ML）為代表的人工智能（ArtificialIntelligence,AI）技術正在快速發展，但將其應用于實際生產環節卻還面臨諸多55/90技術挑戰，其中一個主要挑戰就是數據的采集。目前 ML 模型的訓練依賴于大量的數據，而現實環境中除了少數行業外，大多數產業都不具備構建有效的大規模數據集的條件，

140、其中一個制約條件在于企業和機構之間由于競爭關系或者商業壁壘，數據無法相互共享，從而形成了“數據孤島”的困境；此外，出于對公民的保護，許多國家和組織也紛紛加強了對用戶數據的監管，例如歐盟已經發布了通用數據保護法規（General Data Protection Regulation,GDPR）19，并于 2018 年 5月 1 日正式生效；我國也在同月出臺了信息安全技術個人信息安全規范，并在 2020 年 3 月份便對規范進行更新和加強20。因此，即便企業主觀上有數據共享的意愿，這些客觀約束也不允許。除此之外，隨著信息技術的普及，越來越多的用戶意識到了數據隱私的重要性，不愿意輕易上傳自己的應用數

141、據，尤其是在消費、醫療、金融等邊緣智能布局和應用的重點領域。為了解決智能和隱私之間的矛盾，聯邦學習（Federated Learning,FL）的概念在 2017 年左右應運而生 21。作為一種分布式的 ML 框架，FL 可以在用戶設備不直接共享樣本數據的前提下，對神經網絡進行建模和訓練?？紤]到移動設備的算力不斷提升，在用戶設備上進行輕量級的神經網絡訓練正在成為可能。由此FL 突破了傳統 ML 訓練的思路，不再從用戶處收集數據，而是將模型發送到用戶處，讓用戶在本地進行訓練，然后通過加密機制進行模型參數的交換，經過多個回合的迭代，最終得到性能與傳統模式接近的 ML 模型，而整個過程無需用戶共享數

142、據。56/90圖 3.11 聯邦學習的基本流程FL 的基本流程如圖 3.11 所示，由一個（邊緣或云）服務器統籌和調度若干個用戶設備進行協同訓練。在每個回合，考慮到功率限制、弱連接等約束，無法保證全部用戶均可參與訓練，所以通常先由服務器從用戶中選取一部分接入本回合訓練并將當前的全局模型廣播給這些用戶設備；隨后，被選中的用戶基于自身的數據集在本地進行模型訓練；訓練完成后，用戶將更新過的模型上傳到服務器，為了提高安全性，此環節通常還會對上傳數據進行額外的加密操作；最后，服務器對從用戶處收集到的更新模型進行聚合得到一個新的模型，并進入下一回合的訓練?；谶@樣多次迭代，最終便可形成一個融合了多用戶數據

143、特征、具備泛化性的高精度模型。根據數據分布特征的不同，可將 FL 細分為橫向聯邦學習（Horizontal FL,HFL）、縱向聯邦學習（Vertical FL,VFL）和遷移聯邦學習（Transfer FL,TFL）三種類型22。其中，HFL 指的是用戶本身重疊較少，但用戶間數據類型（特征）基本相似的情況，例如不同醫院接診的病人群體可能不同，但檢測結果和指標等數據卻是相似的，也具備相似的特征空間；VFL 指的是用戶本身重疊較多，但不同節點的數據類型（特征）卻有明顯區別的情況，例如相同地區的兩家企業，服務的用戶群體類似，但他們擁有的業務數據或用戶特征卻是不相同的；TFL 則適用于用戶群體、數據

144、特征兩個維度上重疊都較小的情況，可基于較為有限的公共樣本進行協同訓練。最開始提出的 FL 框架實際上屬于 HFL，相應地 HFL 目前也獲得了較多的關注和研究，因此本章主要基于 HFL 技術展開討論。從字面意義即可看出，聯邦學習的目的在于聯合多個設備，形成一個“聯邦”，這種聯合在未來“萬物智聯”時代將會下沉到規模更大、分布更廣的用戶終端級別，這也是其和傳統分布式學習的一個顯著差異。而考慮到移動的便利性和廣域部署的可行性，這些終端必然主要通過無線通信的方式接入網絡?；跓o線網絡部署的聯邦學習，便可稱為無線聯邦學習（Wireless FL,WFL），該技術將是未來邊緣智能系統中的一個關鍵使能技術。

145、（二）（二）無線聯邦學習與邊緣智能無線聯邦學習與邊緣智能邊緣智能（Edge Intelligence,EI）的核心訴求是將智能化下沉到邊緣，也即更加接近用戶的位置，從而為用戶提供實時、個性化的智能服務。邊緣智能不僅57/90僅只是將智能模型下載到邊緣端。一方面，全局統一的模型未必能夠為用戶提供適合本地特性的服務；另外一方面，用于智能模型訓練的數據源于用戶，將這些數據集中到云服務器進行訓練既會造成高昂的網絡通信成本，同時也存在隱私泄露的風險。因此，邊緣智能不僅是一種愿景和目標，其背后也反映了一種新的智能模型構建范式，即充分地利用廣泛存在的邊緣資源為人工智能模型的訓練和部署提供支持，將 ML 訓練

146、所需的計算、存儲和通信資源需求下沉到終端側，從而構造隨時接入、廣域覆蓋的個性化智能服務。在這種需求背景下，邊緣設備的智能協同訓練就成了實現 EI 的關鍵環節，而無線聯邦學習本質上就是智能協同訓練的具體實現方式。事實上，無線聯邦學習和邊緣智能之間存在相互的關聯關系：一方面，邊緣智能的實現很大程度上來源于對邊緣數據特征的充分提取，而這些數據又通常具有隱私敏感的問題，為此邊緣智能需要依賴于無線聯邦學習的隱私保護優勢，對數據進行安全有效的轉化和利用；另一方面，FL 訓練過程需要消耗大量的資源，如何合理地安排用戶接入以及協調用戶之間的協作，從而在有限的邊緣資源支持下完成高性能、大規模智能模型的快速收斂是

147、發展邊緣智能需要考慮的重要因素。3.3.2 聯邦學習中的模型稀疏化聯邦學習中的模型稀疏化（一）（一）模型稀疏化概述模型稀疏化概述無線聯邦學習的模型交換主要包括上行和下行傳輸兩個環節。其中對于上行傳輸而言，通常傳輸的不是完整的模型，而是本地更新的模型與此前下載的全局模型之差值。隨機梯度下降（Stochastic Gradient Descent,SGD）或其變種是目前無線聯邦學習中最為常見的模型優化手段，在這種情況下前面所述的模型差值主要和更新過程中的梯度大小有關，而對于 DNN 模型而言，其在更新中不同參數的梯度大小往往有很大的差異，對于更接近最優點的維度而言，其更新幅度通常較小，而對于距離最

148、優點尚遠的維度則通常有更大的更新幅度；與此同時，為了保證模型收斂的穩定性，訓練步長往往會設置得相對較小或者采用學習率衰減等手段，這意味著模型的更新量總是相對有限的，尤其是在模型訓練的后期。以上的訓練機理決定了 FL 模型更新中通常存在大量近似為零的小數值，這些位置上的模型更新占用了通信資源但對模型的優化貢獻卻可能很有限，因此免去這些更58/90新的傳輸很多時候可以在不過度影響模型收斂的前提下降低通信量，這便是模型稀疏化的主要動機?？偟膩碚f，模型稀疏化指的是選擇性地傳輸部分模型參數，以降低需要傳輸的模型參數個數/維度，從而降低模型傳輸的開銷。（二）（二）模型稀疏化的基本流程模型稀疏化的基本流程圖

149、 3.12 模型稀疏化的基本流程圖 3.12 展示了模型稀疏化的基本流程，主要包括如下四個步驟：（1）確定模型稀疏化的預算該環節主要確定在稀疏化過程中保留多少個模型參數進行傳輸。傳輸預算的確定取決于多個因素，主要的決定性因素是通信帶寬和更新情況。比如，在可用帶寬受限的情況下，通常會更激進地設置較小的傳輸預算，以降低模型傳輸的時延開銷；另一方面，每個訓練回合模型的更新程度可能不同，通常與所處的訓練階段有關系，可以基于范數等指標對模型的更新情況進行評估，在整體更新程度較大時選用較大的傳輸預算。以上精細化的預算配置雖然可能獲得更好的效果，但是也需要引入額外的計算開銷或信令交互，因此有時候也可以把傳輸

150、預算視為一個超參數，根據訓練任務的難易程度設置一個固定值即可。（2）確定模型稀疏化的圖案假設前述環節中確定的傳輸預算為 k，則本環節的主要任務是具體確定哪 k個模型更新會被傳輸，通常將篩選結果稱為稀疏圖案。這是模型稀疏化最重要的環節，目前主要的方案包括最大值稀疏（Top 稀疏）和隨機稀疏（Rand 稀疏）。其中，Top 稀疏選取絕對值最大的 k 個模型參數進行傳輸；Rand 稀疏則是隨機地選取 k 個模型參數進行傳輸。Top 稀疏的出發點比較直觀，因為數值較大的更新通常對模型優化的方向影響更大，因此保留它們可以更大程度上降低稀疏化對模型收斂的影響，然而排序的過程復雜度較高，尤其是模型參數較多時

151、；Rand 稀59/90疏無需對參數進行排序，計算開銷較小，且在理論分析上具有統計無偏的優勢，但由于不考慮參數重要性的差異，通常會導致收斂速度有明顯下降。（3）存儲模型稀疏化的誤差確定模型稀疏化的具體圖案后，便可以基于該圖案對模型參數進行稀疏化操作。稀疏化過程僅傳輸了部分模型參數，被稀疏掉的參數無法對優化過程產生貢獻，可能會對模型訓練性能造成不利影響。因此，被稀疏掉的參數通常不會直接舍棄掉，而是作為稀疏誤差被保留在本地，并在下一個回合疊加在該位置的模型參數上。假設使用 Top 稀疏，對于單回合參數更新量較小的位置，通過多個回合的誤差累積也有可能在后續回合被傳輸。誤差累積機制將訓練結果滯后傳輸而

152、非簡單舍去，避免了訓練資源的浪費；同時確保了模型更新累積到特定程度后才一并傳輸，則避免了通信資源的浪費。（4）傳輸模型稀疏化的結果模型稀疏化的結果包括兩部分，一部分是在稀疏化過程中保留下來的參數數值，另一部分則是這些參數對應的位置信息（也稱索引）。接收端需要根據位置信息，將參數數值用于更新對應位置上的參數。對于 Rand 稀疏方案而言，若收發兩端使用相同的隨機種子和生成器，則可以不需要傳輸索引，這是 Rand 稀疏相對于 Top 稀疏的一個優勢，因此在通信開銷極其敏感的場景中，也可以考慮采用 Rand 稀疏。（三）（三）模型稀疏化的效果模型稀疏化的效果模型稀疏化可以有效降低分布式聯邦學習的通信

153、開銷。以文獻23報告的結果為例，可以看到在對于多種網絡模型而言，TopK-SGD 即基于 Top 稀疏的方案都可以和沒有引入模型稀疏的 Dense-SGD 效果保持接近。該實驗中 TopK-SGD方案只選擇性地傳輸了 1/1000 的參數，通信開銷大幅降低；同時可以看到，基于 Rand 稀疏的 RandK-SGD 的收斂效果較差一些。因此，在實際應用中通常采用 Top 稀疏，該方案對收斂速度的影響較小。60/90(a)VGG16CIFAR-10(b)ResNet-20CIFAR-10圖 3.13 模型稀疏化的實驗效果3.3.3 聯邦學習的模型量化聯邦學習的模型量化（一）（一）模型量化概述模型量

154、化概述在常規的 ML 模型訓練中，每個參數通常采用 16 位或者 32 位的浮點數進行存儲和計算。在無線聯邦學習中，如果直接傳輸使用高位寬表示的參數，則會造成大量的通信帶寬開銷，因此通常會基于一定的方法降低參數的表示位寬，這一過程便稱為模型量化。模型量化在傳統的 ML 中已被廣泛用于構建輕量級網絡模型，而對于 FL 而言其更有必要性和可行性。如前所述，FL 主要基于 SGD 及其變種方法進行模型訓練，因此本地訓練得到的梯度本身就帶有一定的隨機噪聲，基于高位寬浮點數精確地傳輸這些帶有噪聲的梯度信息將會造成不必要的浪費；同時，正由于傳輸信息本身帶有隨機噪聲，使得對模型進行量化而不過度影響收斂過程成

155、為可能。因此在無線聯邦學習中，將模型轉為有限位寬的低精度值進行傳輸是一種有效的模型壓縮手段，這構成了模型量化的基本動機和原理。（二）（二）模型量化的基本流程模型量化的基本流程61/90圖 3.14 模型量化的基本流程圖 3.14 展示了模型量化的基本流程，主要包括如下三個步驟：（1）確定量化參數量化過程主要涉及兩個參數，即量化位寬和量化增益。量化位寬決定了每個參數使用多少個比特來表示，位寬越高則表示精度越高，但相應的開銷也會越大。量化增益是量化過程中對參數進行放縮的倍數，其在不同的方法中可能有不同的指代名稱，但功能上都是為了實現表示誤差和截斷誤差之間的折中。量化增益越大，意味著量化階點的步長越

156、小，表示誤差越??；然則也更容易導致較大數值超出給定位寬下可表示的范圍而被截斷，從而導致較大的截斷誤差。在實際應用中，可以簡單地將其量化視為超參數而在訓練過程中保持定值，但為了達到更好的效果，還可根據模型參數的動態范圍、當前訓練所處的階段等因素進行優化決定。（2）模型量化在確定量化參數之后，即可對每個模型參數進行量化操作。這里參考傳統信號處理中浮點數的定點化過程給出描述：首先，每個參數乘以量化增益進行放大，該操作是為了將需要浮點數中需要保留的數值移動至整數部分。隨后，對放大后的操作進行舍入，不同于傳統信號處理常用就近舍入，即四舍五入或者近似變種，在神經網絡模型量化中，隨機舍入是一種更好的方法。在

157、隨機舍入過程中，每個參數以其與相鄰兩個量化階點的距離作為概率，隨機地向上或向下取整距離越近則向該階點的舍入概率也會越大。從理論分析角度而言，該方法具有無偏的優勢，可提高聯邦學習模型的收斂性能。舍入過程舍棄了小數部分，對表示精度進行了截斷。隨后，需要對參數進行限幅操作，這是因為前面進行放大操作后可能導致部分參數超過了給定位寬可表示的范圍，因此需要將這些參數限制為最大/最小值。以上三個步驟均在發射端完成。（3）模型解量化在接收端，還需要對模型參數進行解量化操作。具體而言，經過上一步驟處理之后的模型參數被轉化為有限位寬即可表示的整數。在接收端，相應地對它們進行縮放，即將接收到的數值除以量化增益，將它

158、們恢復到原始的大小尺度上。通常來說，會讓量化增益盡可能是 2 的冪次，這樣無論是發射端還是接收端的放縮過程都可以基于位移操作快速完成。（三）（三）模型量化的效果模型量化的效果62/90基于模型量化，可以大幅降低無線聯邦學習過程中的通信開銷而不過度影響模型的收斂效果。文獻24報告的結果如圖 3.15，可以看到無論是對于用戶數據是否為獨立同分布（Independent and Identically Distributed,IID），都能在較低量化位寬下保證最終得到的模型在測試集上的準確率損失在可接收范圍內。尤其是對于較為簡單的任務如 MNIST 手寫體識別，甚至可將量化位寬壓縮到 1-bit。(

159、a)CNNMNIST（IID）(b)CNNF-EMNIST（非 IID）圖 3.15 模型稀疏化的實驗效果參考文獻參考文獻19 Tikkinen-Piri C,Rohunen A,Markkula J.EU General Data ProtectionRegulation:Changes and implications for personal data collecting companiesJ.Computer Law&Security Review,2018,34(1):134 153.20 洪延青,何延哲,楊建軍等.信息安全技術個人信息安全規范S.國家市場監督管理總局;國家標準化管

160、理委員會.北京:中國質檢出版社,2020:1362020-03-06.21 McMahan B,Moore E,Ramage D,et al.Communication-efficient learning ofdeep networks from decentralized dataC/Artificial Intelligence and Statistics.2017:1273 1282.22 Howard A G,Zhu M,Chen B,et al.MobileNets:Efficient convolutional neuralnetworks for mobile vision

161、applicationsJ.arXiv preprint arXiv:1704.04861,2017.23 Shi S,Chu X,Cheung K C,et al.Understanding top-k sparsification indistributed deep learningJ.arXiv preprint arXiv:1911.08772,2019.24 Zheng S,Shen C,Chen X.,Design and analysis of uplink and downlinkcommunications for federated learningJ.IEEE Jour

162、nal on Selected Areas inCommunications,2020,39(7):2150-2167.63/903.4 邊緣智能化部署邊緣智能化部署3.4.1 無線側智能化驅動力無線側智能化驅動力移動通信產業是構建國家信息基礎設施、全面支撐經濟社會發展的戰略性、基礎性、先導性行業，對進一步提升我國的經濟與科技競爭力至關重要。近年來，隨著 5G 網絡建設與新興數字化服務的快速發展，我國移動網絡流量保持大幅增長，形成了良好的產業生態，帶動了應用需求的進一步增長。未來 6G 網絡將在5G 基礎上全面支持各行業的數智化轉型，將 AI 能力賦予到各個領域的應用。無線側引入智能化的驅動力

163、一方面來自于無線網絡自身需求：5G 網絡參數復雜、應用場景豐富，將 AI 技術應用在無線網絡中將有助于更精準地預測業務特征、用戶移動性、用戶行為、信道環境等信息，可通過智能資源管理與調度機制保證更好的服務質量和用戶體驗，實現更好的公平性和系統資源利用率，促進無線通信網絡的開放與智能，有助于實現通信協議的自動升級，從而有效降低網絡部署與運維成本，實現移動通信產業的可持續發展；另一方面來自于網絡服務需求：無線網絡賦能千行百業數智化轉型、實現普惠智能，需要具備提供性能更優的智能化服務能力，通過網絡與 AI 技術的多層級深度融合，實現在沒有人工干預的情況下進行網絡自治、自調節以及自演進，此外，面向 6

164、G 的內生智能架構還將降低數據收集、傳輸過程造成的時延和信息泄露隱患。3.4.2 智能化部署智能化部署人工智能為 5G 和 6G 無線網絡的運行提供了許多潛在的功能增強，是無線網絡發展的加速器?；趫D 3.16 應用域、控制域、資源域及終端域的架構來看，目前，無線網絡智能化主要在網管側應用域實現，如智能節能、故障根因分析等?？刂朴虻囊鈭D解析等還在探索階段。資源域的高層 AI，如智能編排等已進行部分商用部署；物理層 AI、智能材料 RIS 等受算力及效果的限制，還處于研究探索階段。下面將從技術演進及模型分級部署兩方面介紹網絡智能化演進情況。64/90圖 3.16 無線側智能化部署架構(一一)網絡

165、智能化技術演進特征網絡智能化技術演進特征隨著無線網絡的演進，智能化的發展將從 AI for NET 到 NET for AI 的階段轉變，要求移動通信網絡不僅是傳輸管道，更要將智能服務所需的多維資源與網絡功能、協議和流程進行深度融合設計。到 6G 階段無線網絡將向智能內生方向演進，在網絡架構內部提供數據采集、數據預處理、模型訓練、模型推理等 AI 工作流全生命周期的運行和管理，將 AI服務所需的算力、數據、算法、連接與網絡功能、協議和流程進行深度融合設計，支持將 AI 能力按需編排，為高水平網絡自治和多樣化業務需求提供智能化所需的基礎能力。6G 無線網絡將向云化與分布式的方向發展，需要考慮分布

166、式網元節點間多維異構資源的協調以及智能服務對性能的差異化需求。6G 網絡中智能服務的質量，需要綜合考慮智能服務對通信、計算、數據和存儲資源的不同需求。（二）（二）網絡智能化模型分級部署網絡智能化模型分級部署從網絡智能化實現及部署的角度來看，現階段可將 AI 簡單分為模型訓練和模型推理功能，根據 AI 所處位置不同，以及所擁有的算力能力不同，適用于不同的應用案例和場景。目前 5G 基站側只支持小模型的推理，隨著基站算力的增強、基站云化技術的應用，到 6G 階段，基站將支持智能內生，可進行小規模 AI 訓練和 AI 推理能力，其他大中型模型根據場景需求可分別部署在 MEC 或 OSS。65/90在

167、網管應用域網管設備已為通用服務器，可擴展性強，數據采集15min 時延，支持非實時智能化預測分析，具備大模型訓練能力。在邊緣云資源域層面MEC 為通用服務器，部署位置更靠近基站，支持近實時（1s）智能化預測分析，具備中模型訓練能力，支持大中模型推理。在基站設備層面，如站點機房級可支持部署云化或中心 BBU，為通用服務器或定制化 AI 加速芯片的異構資源，支持實時智能化預測分析。但基站算力資源有限，只具備小模型訓練及小、中模型推理能力。（三）（三）智能化網絡資源編排智能化網絡資源編排6G 將是一個多元化的網絡：網絡層面，組網更多、頻段更復雜，且可能需要與 5G/4G 多個頻段密切協同；業務層面，

168、應用場景更多且需求差異巨大，對網絡提出更多的特性需求和挑戰；終端層面，5G 終端已需要支持 7 模，6G 時代終端更復雜，且行業應用催生出眾多定制化終端。因此 6G 網絡將更加復雜，繁雜且多樣化的終端和業務，組合出的目標體驗和傳統的網絡資源分配模式之間存在巨大的“剪刀差”?；谏鲜鰣鼍?，傳統以“網絡為中心”的策略是基于小區參數的基線，以滿足統計意義上的小區級 KPI 為目標；承載在相同承載中的不同數據業務沒有被區別對待，無法精準匹配用戶業務體驗的真實需求。無線網智能編排應用以用戶感知為驅動力，依托面向 6G 的內生智能，通過智能化的手段，實現靈活的網絡資源配置編排管理策略，來為不同業務提供確定

169、性的精準服務，從而保障差異化的用戶體驗。例如，在實際應用中，一方面可通過在給定網絡服務能力下求取用戶體驗最優解實現用戶編排；另一方面可通過在話務的特定時空分布下求取網絡服務能力最優解實現網絡編排。中國聯通和中興通訊聯合在山東某國家級互聯網產業園區進行商用部署，利用“用戶智能編排”方案建設新型自媒體業務的示范基地，依托此產業園內豐富的2C 業務場景，證明了用戶智能編排方案能夠實現多種業務的精準編排和導引，高清直播等大上行業務全程無卡頓，可實現增益：用戶業務數據速率提升 8%25%；66/90切換時延由 1.65s 降低至 0.16s，時延降低 90%，顯著降低用戶在“體驗差”狀態的停留時間；用戶

170、優體驗時長提升 30%以上。圖 3.17 分級智能化部署示意圖3.4.3 算力部署算力部署無線網絡算力呈現分布式部署趨勢，基站、網管、MEC、核心網、數據中心等節點都可以部署算力，實現云邊端多層次、立體泛在的分布式算力體系，滿足中心級、邊緣級和現場級的算力需求。當前在上述網元節點上已具備一些算力能力，隨著通感智算一體化網絡的不斷演進和對算力需求的不斷增高，各網元節點的算力將進一步擴展。算力一般以計算的實時性需求為原則進行部署。根據實時性需求，分為非實時、近實時和實時，一般來說算力離基站越近，數據處理的實時性越好，可根據應用、業務和算法對時延的需求選擇合適位置的算力節點。非實時和近實時計算一般具

171、有數據來源廣泛、數據量龐大、計算量大，但網絡參數調整間隔較大的特點，因此通常根據應用類型選擇在網管、MEC、核心網或數據中心等較高節點按需部署通用算力，滿足計算需求。例如網絡級節能需要采集的數據包括一個區域內所有基站的 MR 數據、工參數據，更包括天氣數據、環境數據等，作為模型訓練的輸入，因此一般部署在網管側。實時計算一般具有數據來源相對單一、數據量較小、計算量較小，但網絡參數需要快速調整、計算時間速度快的特點，例如物理層 AI 應用，算力主要部署在基站?；舅懔Ω鶕炯軜嫹謨煞N情況采用不同算力類型部署，專用硬件架構基站，一般采用 CPU 疊加 GPU、ASIC、FPGA 等專用芯片進行部署

172、；通用硬67/90件架構基站在應對實時性要求高的計算時可采用 CPU 疊加 GPU、ASIC、FPGA等專用芯片加速，實時性要求低的計算可通過疊加服務器的方式進行部署。圖 3.18 分布式算力部署示意圖3.5 深度邊緣節點深度邊緣節點6G 新場景和新業務的提出，對網絡提出了按需定制和快速響應的要求，深度邊緣節點作為 6G 網絡在邊緣側的重要延伸，在邊緣側為 6G 業務提供計算、智能、數據、網絡等多種形態的業務能力。深度邊緣節點的“深度”包含了兩方面的含義，第一，“深度”代表節點物理上的臨近性，節點的部署位置更加趨近用戶和場景，在貼近用戶的 6G 網絡邊緣實現業務的快速實時響應、處理；第二，“深

173、度”蘊含了能力的更加豐富，深度邊緣節點中涵蓋了核心網下沉的網元、云化接入能力、以異構資源池形態存在的算力底座，以及內生智能生成的網絡大腦。深度邊緣節點是 6G 網絡總體在邊緣側的錨點。深度邊緣節點的構建，可以將通信、計算、智能等資源構以服務的形態推向更貼近用戶的邊緣，通過深度邊緣節點和網絡的自適應協作，在網絡邊緣側推動無線通信和計算資源的深度融合。深度邊緣節點亦將實現高度分布式人工智能的68/90愿景，將 6G 網絡智能化從核心節點轉移到深度邊緣節點中，從而減少時延、成本和安全風險，進而提高相關業務的效率。圖 3.19 深度邊緣節點架構如圖 3.19 為深度邊緣節點架構，該架構包括了基礎設施層

174、、可編程資源池、智能控制功能、服務提供功能，以及數據平面和智能平面?；A設施層涵蓋了算力資源、存儲資源以及無線網絡接入能力，包括了基站、存儲介質、CPU、GPU、DPU 和 ASIC 芯片等多種形態的資源?？删幊藤Y源池將物理資源通過虛擬化、云化等方式抽象出來，形成能被網元或者用戶直接使用的資源，包括了 AI 模型資源池，無線網絡資源池、算力資源池和數據中心池等，本層也配備虛擬資源管理單元，對資源池的調度和編排均通過虛擬資源管理操作。智能控制功能主要是針對深度邊緣節點資源的調度和編排功能，無線 AI 管理編排控制無線 AI 的生命周期、訓練、推理等多個功能，無線網絡智能控制器針對網元的需求和網絡

175、的需求，實現 AI 算法針對網絡自由化和網絡場景的支持，算力編排器針對深度節點內的算力資源進行分配和調度。服務提供功能通過安全的方式將深度邊緣節點的功能提供給第三方。數據平面實現深度邊緣節點內數據的采集和相關處理功能，形成數據循環。智能平面為深度邊緣節點提供的智能化元素，形成 AI 能力。69/903.5.1 深度邊緣節點的無線網絡可編程深度邊緣節點的無線網絡可編程隨著可編程技術在固網中的廣泛應用，無線網絡可編程技術也作為 6G 研究的重要技術手段。應用無線網絡可編程技術，能夠在消除網絡差異性的基礎上，有助于實現網絡資源的統一分配調度，滿足按需定制化服務的方式，并通過網絡、算力、數據和智能多維

176、度資源的編程，實現網絡的高效運轉。無線網絡的可編程可以分為參數可編程、數據可編程和行為可編程。參數可編程即通過可編程技術將參數實時下發到深度邊緣節點的各個網元，數據可編程采集到網絡中的數據供網元優化和第三方使用，行為可編程可以實現深度邊緣節點內策略、算法等的靈活嵌入等操作。無線網絡可編程的實現需要設計通用的接口和框架。通用的接口用來實現深度邊緣節點內參數的實時配置、更改和更新等操作，并可以實時采集到網絡數據，形成數據集，通過對應算法實時分析網絡狀態。通用的框架可以實現深度邊緣節點內算法的更、刪、改、查，通過該框架在滿足輸入和輸出限制的條件下，能夠根據具體場景的需求嵌入對應的算法，亦可將 AI

177、推理模型嵌入深度邊緣節點，實現智能內生。無線網絡可編程作為 6G 深度邊緣節點的核心主要包括可編程作用域、可編程框架和可編程智能化三個方面。首先，可編程作用域方面，從目前進展看，一步到位的可編程網絡并不現實，從數據可編程到參數可編程再到行為可編程的循序漸進更有利于技術的演進和落地實現。其次，無線網絡可編程框架，可以采用插件編程思想，靈活調用插件代碼函數或啟用相應的線程，從而滿足網絡基礎設施按需配置，按場景定制的需求，為下一代網絡智簡網絡可編程原型設計提供技術保障和方法支撐，適用于未來基于云原生的網絡架構。在框架和作用域確定后，模塊化的網絡要素及標準化應用程序編程接 API 設計將是最終智能可編

178、程網絡呈現形式的關鍵。最后，無線可編程為新型業務的添加和編排提供了便利的方案。3.5.2 深度邊緣節點的網元融合深度邊緣節點的網元融合6G 網絡旨在進一步提升移動通信性能、功能和應用范圍，為未來的數字社會和智能化時代提供更先進、更全面的支持。在網絡設計過程中，需要考慮更加70/90高效的方式支持差異化的應用需求。特別是針對行業應用，如數據業務/網絡控制信令不出園區、輕量級網絡部署等，核心網（CN）部分功能（如用戶面功能和控制面某些功能）將下沉至邊緣側，實現分布式部署，以保障時延、吞吐量、安全等具體指標。進一步，可考慮 CN 與無線接入網（RAN）融合，有助于提升系統性能和資源利用，降低網絡復雜

179、度和成本，減少不必要的轉發及處理。RAN-CN 融合包含兩個層次：層次層次 1-部署方面部署方面：即在物理位置層面的共部署，RAN 和 CN 的功能、接口、內部處理邏輯相對獨立。層次層次 2-功能方面功能方面：將 RAN 和 CN 的邏輯功能和對應資源重構，以降低信令和處理開銷、提高網絡性能、優化資源利用、支持多樣化的業務需求，并為新興技術和應用提供更好的支持。1.驅動力分析驅動力分析：RAN-CN 融合驅動力一方面來源于當前架構的不足，另一方面則順應網絡架構的未來演進需求。首先，現有架構存在下述問題：對虛擬化和云原生的支持性較弱對虛擬化和云原生的支持性較弱：當前 RAN 內部采用協議棧層級架

180、構、RAN與 CN 邊界清晰，二者分別通過點對點的 N2 和 N3 接口進行控制面和數據面的交互，當前的架構形態和交互模式無法充分利用網絡虛擬化和云化的優勢。功能重復功能重復、類似或冗余類似或冗余：RAN 和 CN 中有許多類似或重復的功能，例如會話管理、可達性管理、尋呼、狀態管理等。這些類似功能需要 RAN 和 CN 頻繁的交互與配合，對外提供特定功能，在復雜度和開銷方面對于未來網絡演進并不友好。單點轉發等導致的效率問題：單點轉發等導致的效率問題：UE 與 CN 各網元交互的控制信息必須要通過CU-CP 和 AMF 兩個錨點，增加了時延、計算和信令開銷。此外，未來網絡演進需求如下：性能指標提

181、升（如超高可靠、超低時延）需要性能指標提升（如超高可靠、超低時延）需要 RAN/CN 協同或重構協同或重構：如在確定性網絡中需要跨域協同和調度，來保障端到端的確定性服務。RAN通過通過與與CN融合重構融合重構：可實現面向6G的RAN功能擴展（如通過NWDAF或其增強功能實現 RAN 網絡智能）。71/90RAN-CN 融合從實際網絡簡化和 2B 應用場景需求角度出發，目的是避免“堆疊式”的網絡設計，進行網絡功能架構和流程的簡化，有助于降低網絡成本和功耗，實現資源高效利用和處理效率提升。2.用例場景分析用例場景分析：專用網絡專用網絡：支持輕量級核心網下沉部署以保障專網數據和隱私安全，RAN-CN

182、融合實現更高效簡潔的網絡能力提供，同時保障網絡性能。邊緣移動性：邊緣移動性：自動駕駛/車輛網/智能交通、工業物聯網、飛行器、移動游戲和增強現實、移動醫療等，邊緣網絡需支持設備的快速切換和連接的無縫轉移，考慮移動性管理功能重構，簡化功能和信令傳輸。邊緣智能邊緣智能：智能交通、智慧園區、智能制造、增強現實和虛擬現實、智能家居等，需要實時的處理分析，考慮在邊緣側智能功能重構，進一步簡化網絡、降低延遲、提高應用的響應速度和用戶體驗。邊緣海量接入邊緣海量接入：工業控制、車聯網、智慧醫療、智慧生活等物聯網場景，需要網絡提供海量設備接入能力，對網絡架構簡化提出了需求。資源共享與協作資源共享與協作：公共安全、

183、醫療緊急救援等特殊應用場景，對網絡資源的可靠性和實時性要求較高，邊緣側資源共享和協作，提供更可靠的網絡連接和及時的數據傳輸。3.潛在融合功能分析潛在融合功能分析：會話管理功能會話管理功能：以 PDU 會話建立過程為例，RAN 側需要為 PDU 會話和對應的 QoS 流分配 Uu 和 NG-U 資源，為對應 UE 建立 DRB；CN 側 SMF 則需要進行會話建立，包括 UPF 與 RAN 隧道保持等；且 UE 與 SMF 的信令交互需要 RAN 和 AMF 兩個錨點轉發，增加相應的時延和轉發開銷。因此 RAN和 CN 會話管理相關功能可考慮重構和融合。狀態管理功能狀態管理功能：CN 側的 CM

184、 狀態與 RAN 側的 RRC 狀態存在耦合關系（例如若 RRC 狀態為 Idle 態，即 UE 與 RAN 的連接未建立，則無法進入CM-Connected），狀態管理的復雜度、開銷較大。因此 RAN 和 CN 狀態管理相關的功能可進行重構和融合，簡化網絡狀態管理。移動性管理移動性管理：首先對于切換流程，基于 Xn/N2 的切換需要 RAN 和 CN 配合完成，涉及網元可能包括 AMF、SMF、UPF 等，AMF 也需要提供中繼功能，72/90流程較為復雜。相關功能的重構融合可簡化信令交互。另一方面，對于跟蹤區更新和尋呼，根據 UE 的狀態不同，可能涉及不同的區域更新（注冊區域更新/RAN

185、通知區域更新）以及不同的尋呼（CN 觸發/RAN 觸發），存在一定冗余，較為復雜。RAN/CN 相關功能的融合可簡化流程和內部處理。3.5.3 深度邊緣節點的跨域深度邊緣節點的跨域 AI 設計設計當前無線接入網與核心網均采用集中式的外掛AI設計，網絡與AI相對獨立，不同網域間 AI 缺乏協同，僅能支持特定的智能化場景。隨著智能化場景的不斷豐富，為實現內生智能的愿景，6G 網絡的 AI 能力將進一步嵌入網元功能，甚至取代原有網元內算法，通過分布式協同的方式，為全行業、全場景用戶提供端到端、可定制的智能化服務。因此，跨域智能協同技術將成為網絡外掛智能能否轉變為內生智能的關鍵。依托于深度邊緣節點，圖

186、 3.20 給出了深度邊緣節點的跨域 AI 協同架構及潛在路徑。路徑一側重于邊緣網絡場景，通過 RAN-CN 融合，自然地將 RAN 和CN域的AI能力進行整合，能夠有效減少通過N2接口交互數據帶來的相關開銷。路徑二則通過管理域實現多域人工智能的協作和管理。這可以通過在管理系統中引入跨域人工智能控制器來實現，該控制器與 RAN 非實時智能控制器、CN 和其他域的控制器進行交互，通過端到端的智能管理和編排，為用戶提供端到端的73/90智能化服務。圖 3.20 深度邊緣節點的跨域 AI 協同架構及路徑1.RAN-CN 融合融合：在無線網絡中，CN 和 RAN 的協作是實現各種具有不同需求的人工智能

187、用例的關鍵。例如，移動性管理參數的優化、無線資源管理參數的優化、切片資源分配和端到端的 QoS 保證需要從 CN 和 RAN 收集數據，并實施獨立的策略。然而，現有架構對于跨域人工智能缺乏充分的支持。首先，現有的 RAN 和 CN 架構對于跨域數據信息的交換存在一定局限。例如，RAN 只能通過點對點的 N2 接口連接到 CN 控制平面中的 AMF，這需要 AMF 參與 RAN 和 NWDAF 之間的控制數據轉發，導致傳輸延遲和信令開銷的增加。其次，缺乏標準化接口以促進近實時智能控制器/非實時智能控制器與 NWDAF 的交互。此外，考慮到分布式智能部署，RAN 和 CN 的智能功能在物理上是緊密

188、相連的，為兩者之間的邏輯功能進一步集成提供了可能。這種潛在的融合可以簡化網絡架構和接口，消除功能冗余，減少延遲，并降低不必要的轉發開銷。要實現 RAN-CN 的協作/融合以實現內生AI，需要考慮以下幾個方面:74/90考慮協作/融合需求和用例的分析，以及確定促進 RAN 和 CN 之間數據、模型、算法等的共享和協調的具體協作/融合功能。確定協作/融合對當前網絡架構、協議、接口和流程的影響?？梢蕴剿鞲`活、高效的 RAN 架構，例如基于服務的架構，以更好地適應和支持 RAN-CN 的協作/融合。應該設計適當的協議和接口以便促進數據傳輸和控制。同時，還應考慮協作/融合后的數據傳輸和協作工作流程。探

189、索數據安全和隱私保護的考慮。RAN-CN 的協作/融合涉及廣泛的數據共享和處理，因此數據的安全性和隱私保護至關重要。必須采用適當的安全機制和隱私保護策略來保護用戶數據和網絡信息的機密性和完整性。2.跨域智能管理域編排跨域智能管理域編排：目前的網絡架構中，管理系統能夠提供人工智能訓練和模型管理功能，然而，為了實現不同網絡域之間的 AI 協同能力，需要進一步增強運營管理域功能，提供跨域 AI 編排與管理功能。針對不同 AI 場景，動態搭建 AI 數據管道，靈活共享 AI 算法與模型，按需調配 AI 算力資源。增加跨域人工智能控制功能，以處理跨網絡域 AI 的管理和編排。管理系統需要具備從不同網絡域

190、獲取AI信息以及將其開放給其他域的能力。管理系統需要提供端到端的 AI 編排能力，例如跨域的數據整理和映射、人工智能任務的識別和分解、計算節點的匹配等。需要增強端到端 AI 生命周期管理能力。除了數據收集、模型訓練和推理之外，還需要考慮模型生成、存儲和遷移的管理，以及跨域的人工智能性能評估和模型更新等過程。管理系統需要支持跨域的分布式學習，例如管理垂直聯邦學習的訓練和推理。管理需要具備意圖管理的能力，例如意圖識別、翻譯和匹配能力，意圖沖突解決能力和閉環控制能力。75/904.邊緣內生智能應用邊緣內生智能應用4.1 智慧交通智慧交通4.1.1 智慧交通邊緣計算系統概述智慧交通邊緣計算系統概述將計

191、算和數據處理的能力推向交通網絡的邊緣，以實現更快速、實時和高效的交通系統是智慧交通邊緣計算的應用場景之一。傳統的云計算模式要求將數據發送到中心云服務器進行處理和分析，這樣的模式存在時延和帶寬限制的問題。邊緣計算通過將計算資源和應用程序放置在靠近數據源的邊緣設備上，可以在本地處理數據和實時響應，從而提供更低的時延和更大的帶寬利用率。邊緣計算的優勢在于減少了數據的傳輸延遲、降低了網絡負載，同時提高了系統的實時性和可靠性?？梢愿玫貪M足智慧交通系統對低時延、高帶寬和可靠性的要求。智慧交通計算系統通常由以下幾個組成部分構成：路側邊緣計算設備路側邊緣計算設備：即前文所述遠邊緣。這些設備具備邊緣計算能力，

192、能夠在本地進行數據處理、分析和決策（如信號燈、攝像頭、傳感器等）。區域邊緣服務器區域邊緣服務器：即前文所述近邊緣。在交通網絡的區域級邊緣部署的服務器，用于存儲和處理交通數據。區域邊緣服務器通常位于服務站或移動通信基站等位置，以便快速處理和響應交通事件和需求。邊緣計算平臺邊緣計算平臺：提供邊緣計算資源的軟件平臺，用于管理和協調路側邊緣計算設備和區域邊緣服務器的計算任務和數據交互。該平臺使得邊緣設備能夠協同工作，進行實時數據處理和決策。數據傳輸網絡數據傳輸網絡：用于連接路側邊緣計算設備、區域邊緣服務器和中心云服務器的通信網絡，可以是有線或無線（4G/5G/6G）的網絡。該網絡負責將數據從邊緣傳輸到

193、中心，以供進一步的處理和分析。中心云服務器中心云服務器：通常是云服務器或數據中心，用于存儲和處理較大規模的交通數據，進行更復雜的分析和模型訓練。中心服務器可以和邊緣服務器進行數據交互，提供更深入的交通管理和決策支持。76/904.1.2 智慧交通邊緣計算類型智慧交通邊緣計算類型智慧交通邊緣計算目前行業分為路路側邊緣計算與區域邊緣計算兩大類。路側邊緣計算以路側感知數據就近處理，降低感知數據回傳的網絡壓力，數據可通過有線或無線兩種方式回傳。這類設備以路側工控機為主，整機算力較小，常見的有 21TOPS、32TOPS、100TOPS、200TOPS、250TOPS 幾種規格。智慧交通邊緣計算常見的兩

194、種結構如下:（1）區域邊緣計算獨立對路側感知數據進行集中運算，此方案不需要路側邊緣計算，優點是計算效率高，硬件成本低；缺點主要體現在路側感知數據量大，網絡傳輸壓力大，推薦利用路側有線網絡進行數據回傳。此方案區域邊緣計算對算力要求高，通常為運算服務器配合大算力 GPU 形式部署于機房。（2）域邊緣計算與路側邊緣計算進行分級部署，路側邊緣計算對路側原始感知數據進行 AI 分析處理后，將結構化數據回傳至區域邊緣計算，區域邊緣計算實現區域級數據融合分析。此方案優點為對網絡傳輸壓力小，可靈活采用有線或無線網絡進行數據回傳；缺點在于硬件成本高。此方案區域邊緣計算對 GPU能力要求不高，對融合算法能力要求較

195、高。智能交通邊緣計算硬件設施常用規格：產品類型產品類型服務器服務器服務器服務器X86 工控機工控機 ARM 工控機工控機ARM 工控機工控機ARM 工控機工控機處理器處理器服務器搭載大算力 GPU服務器搭載大算力 GPU工控機搭載大算力 GPUNvidiaJetsonAGX OrinNVIDIAJetsonOrin NX 16GBNvidiaJetsonAGX XavierCPUIntelXeonGold521816C*2IntelXeonSilver421616C*28 核12-CoreNVIDIAARMCortexA78AEV8.264-Bit CPU8核ArmCortex-A78AEv8

196、.2 64 位 CPU8-CoreCarmelARMV8.264-Bit CPU內存內存32GB*432GB*432G32GB256-BitLPDDR516GB128-bitLPDDR532GB256-BitLPDDR4x存儲存儲2TB SAS，可擴展1.2TB SAS，可擴展1TB，可擴展1TB1TB1TB算力算力1000TOPS500TOPS250TOPS200TOPS（稀疏算力）100TOPS（稀疏算力）32TOPS最大功耗最大功耗1200W900W245W50W25W30W工作溫度工作溫度室溫室溫-2055（滿 載 運行）-25C80C（6580降頻運行）-20C70C（6070降頻運

197、行）-25C80C（6080降頻運行）智能交通邊緣計算硬件設施基本能力：77/90功能模塊功能模塊詳細功能詳細功能設備運維管理支持邊緣計算設備注冊遠程開關機參數配置與查詢支持設備遠程重啟及軟件升級運維管理及日志等系統管理設備運行狀態、線狀態監測與上報用戶管理、訪問設置等權限管理支持云控平臺對邊緣計算設備的系統管理功能數據接入攝像頭接入：實現攝像頭實時視頻數據的接收與解析毫米波雷達接入：實現毫米波雷達實時數據的接收與解析激光雷達接入：實現激光雷達實時結構化數據的接收與解析信號燈控制機接入：實現信號等狀態、配時信息的實時解析RSU 數據接入：實現通過 RSU 接收車端發送的 BSM 消息云端數據接

198、入：采集云控平臺發送的 V2X 業務數據和運維管理數據數據轉換與傳輸向路側感知設備、路側單元 RSU、云控平臺傳輸運維管理數據支持邊緣計算分析結果按 V2X 協議進行轉換，并實現與 V2X 通信設備的數據傳輸支持向云控平臺上傳目標識別及事件檢測結果支持將事件檢測結果發送給 V2X 通信設備可根據場景需要，向可變情報板、可變限速標志發送控制數據數據融合支持攝像頭、毫米波雷達、激光雷達等設備多元數據融合安全認證審計日志：非法操作記錄分析權限管理：用戶信息的生成、更新與備份通信加密：根據實時密鑰信息對報文信息進行加密與解密登錄認證：對云控平臺的登錄權限進行管理目標識別與定位支持機動車識別，識別機動車

199、的位置、朝向、類別、速度、軌跡等信息，檢測內容包括顏色、車輛品牌，支持識別類型包括汽車、卡車、公交車、緊急車輛等78/90支持非機動車識別，識別非機動車的位置、朝向、類別、速度、軌跡等信息，支持識別類型包括自行車、摩托車、三輪車等支持行人進行檢測識別與定位，包括行人位置，行走速度其它交通參與者進行檢測識別與定位，如錐桶、三角警示架目標連續追蹤支持目標在連續感知覆蓋范圍內的目標追蹤支持不連續感知區域目標連續追蹤，感知盲區軌跡復原支持軌跡回放可視化支持車輛、行人、信號燈、路側事件、地圖、路況等可視化支持各類車聯網應用可視化交通事件檢測交通逆行交通擁堵停車道路施工道路交通事故超速占用應急車道闖入事件

200、行人橫穿連續變多道道路遺撒/拋灑4.1.3 智慧交通邊緣計算應用智慧交通邊緣計算應用邊緣計算通過對攝像頭等感知設備進行 AI 分析及融合處理，實現路側目標檢測與事件檢測?；谀繕伺c事件檢測結果實現知道交通駕駛輔助應用及高級別自動駕駛應用，包括：盲區預警、協作式交叉口通行、施工提醒等；邊緣計算應用還可為云控平臺實現數字孿生、目標追蹤與稽查、交通誘導與規劃等提供數據支撐；邊緣計算通過與中心云協同可實現智慧交通應用包括事故處理、應急救援、信號燈配時優化等；邊緣計算通過邊邊協同可實現緊急車輛避讓、綠波通行等應用。智慧交通中心云-邊緣云協同流程如圖 4.1 所示，中心云主要實現全域內多邊緣云協同調度及非

201、實時數據處理，邊緣計算主要實現路側及車端感知數據實時AI 運算及融合分析處理。79/90圖 4.1 智慧交通云邊協同原理圖多邊緣節點協同可解決智慧交通邊邊協同應用于當中心云不具備某能力時，實現車輛相關業務數據的遷移，保障業務連續性。圖 4.2 智慧交通邊邊協同原理圖通過云邊協同及邊邊協同實現的典型智慧交通應用包括：實時交通監測和預測實時交通監測和預測：智慧交通中心云提供強大的計算和存儲能力，用于處理和分析較大規模的交通數據。邊緣計算節點則能夠在交通現場采集和處理實時數據。通過中心云和邊緣計算節點之間的協作，從而實現對交通流量、擁堵情況、事故發生等進行實時監測和預測，提供精準的交通信息和路況報告

202、。智能交通調度與控制智能交通調度與控制：智慧交通中心云可以分析大量的交通數據，并制定相應的交通調度策略。而邊緣計算節點則能夠在路邊設備、交通信號燈等交通節點上執行這些策略。通過中心云和邊緣計算節點之間的協同工作，可以實現智能交通調度與控制，提高交通效率和減少擁堵。交通事件響應和管理交通事件響應和管理：智慧交通中心云用于接收和處理來自邊緣計算節點的80/90實時交通事件報告，如交通事故、交通違規等。中心云可以對這些事件進行快速響應，并將相應指令發送給邊緣計算節點進行處理。通過中心云和邊緣計算節點的協同，可以實現交通事件的及時處置和管理。數據共享與合作數據共享與合作：智慧交通中心云可作為數據匯聚和

203、管理的中心，將來自各個邊緣計算節點的交通數據進行集中管理和分析，并提供給各個相關方使用。中心云與邊緣計算節點可以協同工作，實現數據的共享與合作，促進交通管理部門、企業和研究機構之間的合作和創新，推動交通服務的整體提升。智能紅綠燈協調控制智能紅綠燈協調控制：多個邊緣云可以協同工作，對城市范圍內的紅綠燈進行協調控制。通過采集各個交通節點的實時交通流量數據，邊緣云可以分析和預測交通狀況，并動態調整紅綠燈的時序，實現交通信號的協調控制，提高交通效率和減少擁堵。交通安全監測交通安全監測：多個邊緣云可以協同工作，提供更全面的交通安全監測和預警功能。通過多個邊緣云上的交通監控設備，可以實時收集和分析交通違規

204、行為、事故發生情況等數據，并進行實時預警和報警處理，以提高交通安全水平。智能交通視頻分析與監控智能交通視頻分析與監控：多個邊緣計算節點可以協同工作，進行智能交通視頻分析和監控。節點之間可以共享視頻數據，通過邊緣計算能力進行實時的視頻分析，實現對交通狀況、交通違規行為等的監控和分析。同時，節點之間可以通過協同的方式協調視頻分析任務的負載，提高分析效率和準確率。4.2 智能制造智能制造4.2.1 智能制造邊緣計算系統概述智能制造邊緣計算系統概述工業企業隨著信息化的進程目前正從 OT 走向 OTIT 融合的階段，需要就近對機器設備的數據、工藝等進行及時處理。邊緣計算應用在智能制造中，主要是通過實時處

205、理和分析生產數據，以實現更高效、更智能的生產過程。在智能制造的趨勢下，邊緣計算以其獨特的優勢和應用場景，正在成為制造業的重要推動力。81/90通過實時處理和分析生產數據，實現更高效、更智能的生產過程，為制造業的未來發展開辟新的道路，助力制造業加速智能化轉型。邊緣計算在智能制造中主要發揮以下幾種作用：數據存儲數據存儲：邊緣計算網關自身具備一定的數據存儲能力，用于對采集到的多種多樣的工業設備數據進行存儲，數據包括且不限于實時運行數據、狀態數據、報警數據及故障數據。由于邊緣網關的硬件存儲容量有限，不可能將所求數據全部存儲，所以會根據需求定期將過期數據上傳到云平臺進行歷史查詢與分析，從而釋放多余空間，

206、存儲更多數據。多接入協議互轉多接入協議互轉：工廠線邊的設備種類很多，采用的協議也是多種多樣。為實現 IT 與 OT 的融合，完成機器或者說是設備與設備間的信息傳遞，需要通過協議進行轉換。邊緣計算就具備協議翻譯的能力，可以將設備的所在的OT 協議翻譯成信息系統能夠解析的 IT 協議，完成設備層多 OT 協議與 IT協議的轉換。及時分析及時分析：邊緣計算本身就是分布式技術的延伸，解決邊緣層數據的快速處理與分析問題，減少網絡傳輸延遲帶來的業務影響?？梢葬槍缶巹t的設置、數據的采集、數據的過濾等基本操作，帶來更優的體驗。邊緣控制邊緣控制：邊緣計算網關在采集到生產現場數據后，能夠根據業務人員預置的規則

207、對設備的運行狀態進行自動反饋控制，無需上傳到云端進行計算，可在邊緣層形成一個閉環，保證時效性。目前，業界較領先的基于邊緣云、邊緣設備、邊緣應用以及邊云協同的智能制造邊緣計算架構如圖 4.3 所示，包含邊緣設備、邊緣 IOT 平臺（數據采集，可選）、邊緣云平臺（虛擬化、云邊協同）、邊緣 AI 平臺（邊緣 AI 推理）和邊云協同系統機制。圖 4.3 智能制造邊緣計算架構圖82/904.2.2 智能制造邊緣計算類型智能制造邊緣計算類型業界目前邊緣計算存在以下四種趨勢:邊緣虛擬化邊緣虛擬化：邊緣側計算、存儲、網絡的虛擬化、容器化以及部分低延時應用直連物理資源。訓練部署自動化一體化訓練部署自動化一體化：

208、云端訓練的模型自動部署到邊緣設備、云端監控邊側模型狀態并自動更新。模型持續優化模型持續優化：邊側通過短期學習建立簡易優化模型、云端通過長期學習訓練出更加精準的優化模型、云端持續接收邊側數據進行模型優化。模型自適應裁剪模型自適應裁剪：模型在云端進行最優化訓練，在部署到邊側時，根據邊側資源情況進行自適應裁剪，以取得最佳的資源效果比。結合業界邊緣計算的趨勢，為滿足工業制造行業特點，智能制造邊緣計算通常包含：數據采集子系統（可選），邊緣智能計算子系統。數據采集系統用來處理復雜的端側設備的數據協議。邊緣智能系統是邊緣計算的核心，包含邊緣計算設備、邊緣云平臺、邊緣 AI 平臺及之上的邊緣算法。其中邊緣云平

209、臺可針對各種低延時、大帶寬、高可靠的邊緣智能垂直行業應用場景提供了全融合的異構資源，多維度的應用賦能，以及全面的邊緣隱私與安全防護。平臺支持各種終端設備通過多種網絡接入，提供輕量的虛機和容器混合虛擬化，快速集成上線第三方應用，平臺還可提供邊云協同的應用全生命周期管理；邊緣 AI 平臺包含邊緣AI 推理引擎、云端模型自動更新、邊緣訓練數據采集上傳、邊云應用協同、數據處理和緩存等功能。以上軟硬一體化的邊緣計算結構，在一次性解決邊緣數據接入、采集、分析和管理的需求方面更有優勢，能夠幫助客戶構建自己的邊緣計算應用，及時響應業務需求，降低云端計算壓力。具體體現在以下幾個方面：廣泛的終端設備接入能力可以使

210、客戶獲得端到端的可用邊緣計算解決方案。強大的邊緣虛擬化能力，給業務處理帶來彈性和可擴展性。IaaS，PaaS 層全面的云邊協同能力加快邊緣應用開發，降低邊云應用開發部署成本，AI 模型云端訓練，自動裁剪部署到邊側運行，邊緣側采集數據后回傳云端持續優化訓練，最大限度節省已有云端 AI 投資，并帶來 AI 邊緣模型自動化、持續優化的能力，給業務帶來穩定性和可靠運行邊緣環境。83/90智能制造邊緣計算主要能力如下表所示：功能模塊功能模塊詳細功能詳細功能實時監控與分析實時監測生產過程和設備狀態快速發現異常并進行分析處理智能預測與維護對設備的運行狀態和故障進行預測和預警設備智能維護和故障預防靈活生產調度

211、實時獲取生產數據和訂單信息根據市場需求和資源情況，靈活調整生產計劃和資源分配智能物流與倉儲實時跟蹤物料的運輸和倉儲情況優化物流路徑和倉儲管理節能環保實時監測設備的能耗和排放情況，幫助智能工廠實現節能減排和綠色生產4.2.3 智能制造邊緣計算應用智能制造邊緣計算應用本文以制造業中常用的“智慧眼”生產監控和視覺品質檢測方案舉例說明了邊緣計算在智能制造中的應用。（一）（一）“智慧眼智慧眼”生產監控生產監控1.應用場景描述：應用場景描述：目前工廠產線安全監測的普遍業務問題產生海量數據，數據應用效率低下，主要表現為部分作為現場備份，事后查詢回溯，監控的實時性較弱，部分啟動人員后臺同步監控，存在遺漏、監管

212、不到位等風險。針對以上問題，“智慧眼”生產監控方案通過 AI 模型實時判斷相關的安全生產事件給予預警，幫助工廠提升安全生產效率和提升安全等級，主要有如下幾種應用場景:圖 4.4“智慧眼”生產監控應用場景84/90“智慧眼”生產監控系統架構主要包含前端邊緣設備：圖像采集設備和邊緣計算設備；部署于邊緣計算設備之上的邊緣智能平臺：算法引擎、預置的基本算法庫、管理工具、部署工具和標注工具；后臺應用：系統管理運維和第三方業務系統接口。其中監控視頻流分析運用 MEC 技術，就可以無需再在攝像頭本地進行視頻處理，從而降低成本（尤其是當需要部署大量攝像頭時），并且無需回傳大量的監控視頻數據至應用服務器（需流經

213、移動核心網）。算法引擎的核心技術優勢是數據增廣、小樣本學習、遷移學習，能夠融合傳統視覺和深度學習技術，快速啟動，分階段執行實現，能夠針對 One-Shot 目標檢測和小目標檢測算法進行深度優化。2.主要功能：主要功能：“智慧眼”生產監控方案主要功能如下表所示：核心功能核心功能功能描述功能描述設備異常檢測速度異常：流水線堵塞、卡頓檢測數值異常：表計讀數、ID 編號識別位置異常：擺放位置、偏移檢測角度異常：擺放、傾斜角度識別規范過程異常：機器人，流水線其他異常：缺失/殘留/異物檢測違規行為檢測佩戴物檢測：安全帽、口罩等工裝識別：可定制注冊特定工裝禁區越界：可配置禁區邊界奔跑檢測：異常速度奔跑逗留檢

214、測：長時間逗留/跌倒抽煙檢測，其他定制行為檢測異常管理聯動現場聲音報警廣播提醒短信通知工作人員圖像/視頻抓拍記錄取證平臺展示與統計分析85/90“智慧眼”能夠代替產線工人人眼質檢，在深度學習與傳統視覺結合、小樣本快速啟動穩步落地，場景專項優化，在精度高、穩定性強以及易于拓展集成等方面有明顯的優勢，能夠實現生產現場的自動識別和預警，提高監控預警質量，保證全天候 24 小時穩定可靠監控，提升巡檢質量和效率。（二）（二）視覺品質檢測方案視覺品質檢測方案1.應用場景描述：應用場景描述：產品質量是企業生命，如何提高產品質量的檢測效率和精度是企業一直關注的重點。但傳統的人工檢測由于人為因素如疲勞、疏忽的影

215、響，無法滿足產品全檢的要求，造成質量隱患，更進一步會影響企業的形象。通過 AI 視覺技術進行品質檢測，可以降低生產成本，提高檢測效率和精度，已經開始在制造企業大量應用，典型的應用場景有:內外觀檢測、防呆防錯、位置檢測、模式識別。視覺技術品質檢測方案通過 AOI 設備里的攝像頭采集圖像數據，在邊緣計算設備上進行實時的品質分析，如果發現問題，聯動 MES 系統提出報警。相關的過程和結果數據會存儲到邊緣數據中心。云端訓練中心提供模型的訓練和更新服務。2.主要功能：主要功能：視覺品質檢測方案主要功能如下表所示：功能模塊功能模塊功能描述功能描述品質檢測操作臺(AOI設備)集成導軌、操作臺、工業攝像頭、P

216、LC 和邊緣計算設備，搭載圖像采集軟件、自動導軌控制軟件、系統交互軟件以及邊緣視覺分析平臺和算法，對所檢測的設備進行操作控制，圖像采集、檢測分析和報警聯動。邊緣數據中心運行后臺分析管理平臺，包含模型和設備管理、數據存儲和統計分析功能。云端訓練中心運行在聯云端，提供模型的迭代訓練更新服務以及將模型下發到邊緣數據中心?；谶吘?AI 的視覺品質檢測具有以下特點及優勢：準確率高：準確率高：高速工業攝像機，識別范圍廣；視覺識別類庫完善，準確率高。86/90識別速度快：識別速度快：視覺識別速度快，提高產線的產出率。適應性強：適應性強：適合工業環境下的長期運行；行業適應范圍廣。實施成本低實施成本低：標準化

217、解決方案，可線性擴展；實施周期可控，降低停線時間。4.3 智能節能智能節能4.3.1 場景概述場景概述隨著移動通信網絡建設規模逐年增加，通信設備對能源的需求與日俱增。5G單站功耗是 4G 單站功耗的 3.54.5 倍，運營商面臨基站設備能耗大幅增加 OPEX費用的運營壓力。未來的 6G 系統將極大增強與擴展移動通信系統的應用，對傳輸速率、廣域覆蓋、連接密度的要求迅猛增長，6G 系統將采用更高的頻譜、更復雜的系統及技術，通信設備對能源的需求俱增。因此，無線網絡的智能節能對降低 5G 網絡運營成本，以及未來 6G 網絡的節能設計具有重要意義。4.3.2 對邊緣智能的潛在需求與應用對邊緣智能的潛在需

218、求與應用面向 6G 的智能節能方案需結合人工智能、大數據等技術，實時感知用戶的情況及業務的需求，利用網絡算力資源，訓練智能節能模型，推導出精準匹配每個小區的節能策略，突破傳統節能方案中管理難度高、節能效果欠佳的瓶頸，從器件級、設備級、網絡級等層面實現不同的技術方案，在保障用戶業務體驗的同時，可以采用器件/模塊關斷、業務調度、網間協作等方案來降低基站設備能耗。網絡智能節能方案將打破基礎設施數字化孤島，實現網絡能耗數據實時、高精度采集能力，支持靈活的電源、備電等機房基礎資源智能化管控。同時，節能方案包括網絡級節能策略、站點級節能策略、設備級節能策略，可實現多制式網絡智能協同、“一站一策”差異化節能

219、調度，達到“用戶無感知、網絡高能效、運維低成本”的目標。87/90圖 4.5 智能節能整體方案示意圖網絡級節能策略：網絡級節能策略：通過構建統一云化管理平臺，實現網絡資源集中化、智能化管理，達到無線網絡基站設備智能化、精細化、規?；澞芄芾砟繕?。站點級節能策略：站點級節能策略：構建統一站點資源管理平臺，實現站點資源可視化、遠程智能管理，實現對網絡基礎設施，如電源、備電等系統按照多種系統制式的智能化管控，支持功耗數據精確采集上報、支持電源按系統制式和設備類型的分路智能供電等功能。設備級節能策略：設備級節能策略：構建統一設備節能策略，實現大規模站點能耗的智能管理。支持對基站AAU/RRU 等設備節

220、能控制功能，支持符號關斷、載波關斷等節能特性。5.邊緣內生智能的發展與挑戰邊緣內生智能的發展與挑戰邊緣內生智能面臨著諸多挑戰，需要綜合考慮技術、安全、隱私、資源等多個方面來尋求解決方案。邊緣內生智能的挑戰主要包含但不限于以下幾個方面：（1）如 3.3 節所述，在無線聯邦學習中，實現邊緣智能的一個關鍵在于通過無線網絡實現邊緣設備之間的智能協同訓練。從無線通信的角度來說，FL 改變了用戶和云端以及用戶之間的通信內容。對集中式訓練而言，服務器和用戶之88/90間傳輸的內容是數據樣本；而在聯邦學習中，傳輸的是中間狀態的神經網絡模型。而在目前深度神經網絡（Deep Neural Networks,DNN

221、）模型乃至大語言模型（Large Language Model,LLM）被廣泛使用的情況下，傳輸模型無疑對無線網絡是一個巨大的開銷。其次，FL 的訓練過程是一個迭代的過程，需要多次進行中間狀態模型的回傳，在目前典型的 FL 任務中，一般需要進行幾百乃至上千個回合的訓練，每個回合還需要幾個乃至幾十個用戶的參與，因此完成一個模型的通信開銷是非常巨大的，并且和集中式訓練只需要上傳數據不同，FL 要求用戶既要下載當前的全局模型，還是上傳更新過的本地模型，這種雙向通信也會加大終端的通信開銷25。（2）在邊緣設備上部署的 DNN 模型對于實時數據流處理和低延遲的 AI 處理和低延遲至關重要。然而，邊緣設備

222、的計算和存儲資源有限。因此，如何設計或自動搜索輕量級、計算高效且硬件友好的網絡架構具有實用價值，但仍然具有挑戰性。此外，網絡剪枝、壓縮和量化也值得進一步探索26。（3）當在不同資源間調度計算時，應考慮以下因素：數據類型和數量、網絡帶寬、處理延遲、性能精度、能耗、數據安全性和隱私、能耗、數據安全和隱私。具體應用場景中的數據安全和隱私。此外，動態自適應調度策略還能處理不平衡的數據流和用戶需求27。（4）在制造業中，4.2 節所述的邊緣服務器、工業計算機、網關和邊緣一體化機柜四種類型廣泛分布在制造業的各個環節中。伴隨著通信技術的不斷發展，當前制造邊緣計算應用在海量通信協議、異構數據、時間確定性與低時

223、延、數據私密性與安全性、設備運行環境等不同方面面臨著如下挑戰:邊緣側資源有限的情況下如何提高模型運行效率、云端模型的訓練如何持續從邊側持續獲得數據、多個模型在邊側的運行編排如何預先設定、模型云側訓練后如何部署和更新到邊端、同一模型需要適應云端和邊端不同的資源約束28。（5）數據安全與隱私：由于傳感器在智能家居、醫院和城市中無處不在，大量的生物識別數據（如人臉圖像）將會被竊取。數據（如人臉圖像、聲音、動作、脈搏、成像數據等）、可能會被收集起來29。參考文獻參考文獻25 Howard A G,Zhu M,Chen B,et al.MobileNets:Efficient convolutional

224、 neuralnetworks for mobile vision applicationsJ.arXiv preprint arXiv:1704.04861,89/902017.26 T.Qiu,J.Chi,X.Zhou,Z.Ning,M.Atiquzzaman and D.O.Wu,“EdgeComputinginIndustrialInternetofThings:Architecture,AdvancesandChallenges,”IEEE Communications Surveys&Tutorials,vol.22,no.4,pp.2462-2488,Fourthquarter

225、2020.27 J.Yao et al.,“Edge-Cloud Polarization and Collaboration:A ComprehensiveSurvey for AI,”IEEE Transactions on Knowledge and Data Engineering,vol.35,no.7,pp.6866-6886,1 Jul.2023.28 Q.Zhou et al.,“On-Device Learning Systems for Edge Intelligence:A Softwareand Hardware Synergy Perspective,”IEEE In

226、ternet of Things Journal,vol.8,no.15,pp.11916-11934,1Aug.1,2021.29 J.Zhang and D.Tao,“Empowering Things With Intelligence:A Survey of theProgress,Challenges,and Opportunities in Artificial Intelligence of Things,”IEEEInternet of Things Journal,vol.8,no.10,pp.7789-7817,15 May15,2021.90/906.致謝致謝誠摯的感謝如下單位及人員對本白皮書做出的貢獻：編輯：編輯：西安電子科技大學：王云峰貢獻單位與人員（排名不分先后）：貢獻單位與人員（排名不分先后）：西安電子科技大學：趙力強 余凡淇中國電信研究院：王晴天 宗佳穎 李澤旭中國聯合網絡通信有限公司研究院：馬艷君 馬靜艷 李福昌聯想集團：李瞳 李堯 周柯 江森 黨亞彬 鄺志彬 辛奎 李滋 徐領霞 李彬中山大學：王璽鈞 陳翔清華大學深圳研究生院：鄭斯輝 董宇涵北京郵電大學：滕穎蕾 牛濤