《通信行業：6G內生AI架構及AI大模型-230731（19頁）.pdf》由會員分享，可在線閱讀，更多相關《通信行業：6G內生AI架構及AI大模型-230731（19頁）.pdf（19頁珍藏版）》請在三個皮匠報告上搜索。

1、6G內生AI架構及AI大模型 劉光毅 2023年7月 目錄 2 1 6G內生AI的驅動力 3 6G與AI大模型 2 6G內生AI架構及關鍵技術 網絡使能AI大模型 AI大模型賦能網絡 AVkXoUjXhUeXmOnPmP8ObP9PtRrRsQpMiNqQxPjMnNvM9PnMrRMYoPmNNZmPmQ泛在智能的需求 3 人工智能已成為新一輪產業升級的核心驅動力，產業的自動化、數字化、智能化需要泛在智能 運行與維護 應急通信 智能覆蓋 定制網絡 機器翻譯 智能導航 個性化推薦 安全監控 機器人救援 智能制造 聲紋識別 醫療識別 網絡自治需要AI 用戶需要AI 企業需要AI 6G網絡需要高效

2、地為網絡自治、ToC和ToB提供AI服務!5G時代網絡和AI融合的啟示 6G 網絡智能化的啟示 外部和疊加AI 模式一：將具備AI資源的服務器接入網管設備，為網絡提供AI模型。6G需要一個統一的框架：以支持有效的AI性能驗證和保障方法。6G需要高效的數據采集和傳輸：以實現AI預驗證、在線評估和優化的全自動閉環。6G需要計算、數據、模型和連接的協同：以提供更低的延遲和有保障的QoS。模式二：在核心網絡中增加AI作為新的網絡功能，如NWDAF。AI 服務器 CN RAN UE 網管 NWDAF 云AI服務提供商的啟示 云AI服務提供商 云AI服務提供商在用戶提交訂單后提供盡力而為的AI服務。UE

3、網絡 云AI服務提供商 提交AI服務訂單 網絡傳輸 6G需要充分利用網絡的人工智能相關資源：以感知網絡狀態，利用網絡廣泛分布的計算、數據、算法資源，提供高效的人工智能服務。6G需要為AI服務提供QoS保障：以提供滿足用戶特定需求的AI服務。6G需要保護數據隱私和安全數據：在提供可靠AI服務的同時，防止數據泄露。5G智能到6G的轉變內生AI 6G 內生AI 網絡自治 網絡極簡 QoAIS QoAIS AIaaS 工業互聯網 智慧能源 智慧農業 車聯網 智慧醫療 云游戲/云XR AIaaS 1.從 煙囪式開發 到 泛在智能的統一網絡AI框架 云AI供應商 遠程AI服務 基于QoAIS的網絡AI服務

4、 3.從 盡力而為 到 按需可得 2.從 外掛疊加 到 內生一體 面向6G泛在智能的愿景，網絡與AI的融合需要有三大轉變，6G網絡將是內生AI 目錄 6 1 6G內生AI的驅動力 3 6G與AI大模型 2 6G內生AI架構及關鍵技術 網絡使能AI大模型 AI大模型賦能網絡 6G網絡邏輯架構 面向泛在智能等多種服務需求，6G將新增多個邏輯面，提供通信、感知、計算、AI、大數據、安全等一體融合的多維網絡能力，以及平臺化、一體化的服務體系 7 數據開放需求 計算服務需求 AI服務需求 通信需求 安全服務需求 用戶需求：數字孿生 數據面：管理網絡數據，提供數據服務 計算面：管理計算并提供計算服務 智能

5、面：為原生AI提供全生命周期的運行環境 與5G網絡不同，6G網絡將定義新的數據面、智能面、計算面等，并有望擴展傳統的控制面和用戶面。網絡 智能 計算 數據 AS 層 應用層 終端 底層資源管理&編排 計算 存儲 通信 算力 模型 生成/導入AI 服務需求 QoAIS 解釋&評估 AI 模型傳輸 計算傳輸 數據傳輸 UE 策略 數據 連接 6G網絡邏輯架構內生AI的具體設計 6G AI業務的實現需要通信、計算、數據和模型服務的支撐，需要不同邏輯面之間復雜的協同機制。1.泛在智能的統一網絡AI框架 2.從外部疊加向內部集成轉換 3.從盡力而為轉向按需應變轉換 內生AI將AI 三要素（數據、算法和算

6、力）與網絡連接一樣下沉為網絡內部的基本資源，使網絡通過多維資源的協同，直接、便捷地為用戶提供高質量的AI服務。AI任務管理 AI服務質量（QoAIS）指標體系，突破傳統QoS體系中以會話和連接性能為主要關注指標，將安全、隱私、自治和資源開銷作為新的評估維度納入，形成一套標準化的AI服務質量評價體系，為用戶AI服務質量的衡量和保障機制的設計提供了統一的依據 QoAIS是管理編排和任務管理/控制的重要輸入，管理編排需要將服務QoS分解為任務QoS，再映射到對連接、計算、數據和算法等各方面的資源QoS要求上 為保障QoAIS的達成，需要“三層閉環”的保障機制 AI服務質量（QoAIS）指標體系 Qo

7、AIS保障機制 QoAIS指標體系是網絡對AI服務的質量和效果進行保障所使用的一套指標體系 QoAIS包含AI服務的QoS、AI任務的QoS、AI資源的QoS三個層次上的指標，三層指標間具有映射關系 算網基礎設施層 OTN/OXC OTN/OXC 全光底座 OTN/OXC 統一IP算網底座 分布式算力（端）分布式算力（邊）分布式算力（網）分布式算力（中心）分布式算力（中心）分布式算力（邊）分布式算力（網）分布式算力（端）平臺化服務網絡 智慧城市 智慧工業 智慧生活 智慧園區 智慧娛樂 管理編排 任務管理 任務控制 9 服務QoS 例如：任務優先級、算法資源保障優先級、數據資源保障優先級等 例如

8、：推理速度、能源消耗、計算安全、數據隱私、模型可控性等 例如：性能指標界、訓練耗時、計算開銷等 關鍵技術1：AI服務質量（QoAIS）關鍵技術2：AI計算與通信深度融合 6G 傳統網絡中提供AI服務需要通信和計算協議之間頻繁的交互與協調，需要設計一套通算融合的內生AI協議，實現對計算和通信的協同管控與承載，滿足AI所需的連接和分布式計算服務、以及基于AI的連接和計算融合控制需求。管理面、控制面、用戶面三個維度實現計算和通信深度融合 模式三 模式二 xNB 用戶面：聯合設計“計算協議+通信協議”滿足QoAIS+均衡分配網絡資源，滿足“性能+開銷”上的需求。5G MEC邊緣計算缺點 管理面融合的松

9、耦合設計 效率低成本高 安全性隱私性不夠 6G內生AI的算力需求 高計算效率 低能耗、低時延 滿足各類AI場景差異化QoAIS需求 管理面：計算和通信資源的協同編排管理。優勢：宏觀網元連接關系、各類資源狀態，保證網絡級性能指標較優。RRC 控制面：計算和通信深度融合的三種模式 RRC CRC xNB CRC 模式一 CRC：Computing Resource Control NC：Node Compute 優勢：當QoAIS指標發生惡化時，可快速調整，保障QoAIS目標的持續達成。CRC 集中控制 目錄 11 1 6G愿景與總體架構 3 6G與AI大模型 2 6G智能面的設計內生AI 網絡使

10、能AI大模型 AI大模型賦能網絡 6G與AI的融合迎來新機遇：通用大模型時代 認知智能認知智能 能理解 會思考 計算智能計算智能 能存會算 感知智能感知智能 能聽會說 能看會認 動力智能動力智能 能動會控 通用智能時代通用智能時代(強強AI時代時代)弱弱AI時代時代 AI邁入通用智能時代，大模型的出現將為6G與AI的融合帶來巨大變革 12 發展模式新躍遷 當前網絡AI泛化性有限 ChatGPT現象級事件，標志著人工智能進入通用智能時代 從“能聽、會說、能看、會控”，走向“能理解、會思考、會創作”，甚至能“自主決策、自主處理問題”行業大模型行業大模型（泛娛樂）基礎大模型基礎大模型(普適通用，如N

11、LP，CV，多模態)行業大模型行業大模型（網絡）行業大模型行業大模型（教育）小小模模型型 小小模模型型 小小模模型型.小小模模型型 小小模模型型 小小模模型型.小小模模型型 小小模模型型 小小模模型型.小小模模型型.從小模型到大模型，生產效率跨越式提升 基礎通用大模型具有泛化性，網絡智能化將從用例驅動轉變為能力驅動，迅速降低應用開發門檻，加速AI工程化、規?；涞?6G網絡內生AI如何使能AI大模型？如何設計賦能網絡的AI大模型？流量數據分析 天線權值調優 用戶移動預測 流量數據分析 天線權值調優 用戶移動預測 6G 13 模型名稱 參數 領域 功能 BERT NLP 語言理解與生成 LaMD

12、A NLP 對話系統 谷歌 PaLM 5400億 NLP 語言理解與生成、推理、代碼生成 1maeen 110億 多模態 語言理解與圖像生成 Parti 200億 多模態 語言理解與圖像生成 擻軟 Florence 6.4億 CV 視覺識別 170億 NLP 語言理解、生成 Faoebook 0PT-175B 1750億 NLP 語言糢型 M2M-100 150億 NLP 100種語言互譯 Gato 12億 多糢態 多面手的智能體 DeepMind Gooher 2800億 NLP 語言理解與生成 AIohaCode 414億 NLP 代碼生成 CLIP&DALL-E 120億 NLP 圖像生

13、成、跨模態檢索 OpenA1 Codex 120億 多模態 代碼生成 ChatGPT 175B NLP 語言理解與生成、推理等 NLP大模型 NLP 語言理解、生成 CV大棋型 CV 圖像試別 百度 跨櫝態計算大棋 型 千億級別 多模態 語言理解與困像生成 生物計算大模型 CV 化合物表征學習、分子結 構預測 阿里巴巴 M6 萬億級別 多模態 語言理解與圖像生成 騰訊 混元大饃型-NLP 語言理解與生成 京東 K-PLUG-NLP 語言理解與生成、推理、代碼生成 三六零 -NLP 智能搜索 字節跳動 DA-NLP 語言理解 科大訊飛 中文預訓練楳型-NLP 語言理解與生成、語言互 譯 百度 文

14、心一言 千億級 NLP 對話互動，回答問題，協助創作，獲取信息 網絡使能AI大模型：成本與資源的挑戰 數據來源：OneFlow，國盛證券研究所 訓練成本 超過1萬枚A100 微軟云服務 構建 訓練 GPT-3訓練一次的成本約為140萬美元 推理成本 儲存成本 1750億個參數 700GB的參數儲存 需要 45TB的數據集 每日需要729,167個A100運行小時 每日需要30,382個A100 假設訪量2500萬/日，10個問題/用戶，30字/問題 3,798個服務器 電費：30萬/日 換算 消耗 另加 AI大模型在訓練、推理、儲存方面開銷極大，網絡難以支撐 網絡使能AI大模型：可能模式 6G

15、 6G內生AI為AI大模型的訓練過程提供鏈接、數據服務，為推理過程提供鏈接、計算、模型拆解/分發服務。14 AI訓練服務 AI推理服務 AI大模型需要較大的儲存空間和較強的AI推理芯片，單基站無法滿足該需求。在實現合理模型分割的前提下，可將大模型分布式的部署到無線網絡中，提供AI推理服務。在6G網絡中分布式部署AI大模型，更靠近用戶側，可能在時延方面具有優勢。UE 6G網絡 云AI供應商 海量數據采集 數據處理 處理后數據 UE 6G網絡 云AI供應商 推理請求 AI推理 處理后數據 AI大模型訓練通常在數據中心的多臺服務器中，服務期間需要用高速率光纖連接，難以將AI大模型的訓練過程部署到無線

16、網絡中。AI大模型需要哪些特殊的數據分析技術？數據處理功能分布式部署后網絡中數據該如何合理調度？分布式部署導致推理時延增加和靠近用戶側傳輸時延減少該如何權衡？大模型分割、壓縮、加速等技術是否可行；大模型分布式部署后節點之間數據如何合理調度？特點 6G網絡承擔數據采集、預處理等數據服務，節省網絡中的數據傳輸，為云AI訓練AI大模型提供更好的數據服務。服務 從用戶、網絡中采集大量數據，數據的預處理和流量的調度，支撐AI大模型的訓練。潛在增益 未來問題 所需數據（特征）場景實例 數據來源 網絡網絡運行運行 東數西算類、算網融合類、超算智算類等算網服務場景；智能需求分析、智能策略匹配、智能服務優化等

17、標準化數據：基礎資源狀態、拓撲、性能、成本、能耗、告警等數據；業務數據流信息數據、KPI監控數據、XDR、運行日志，告警等數據 網管/云管系統數據 編碼調制、語義+編碼調制、波形、多址、MIMO、干擾消除 非標準化數據：上下行信道、語義信息、語義特征、小區內/間干擾 網絡設備內部數據、語義信源數據 基于無線柵格的切換、智能AMC、網絡流量檢測和擁塞控制、網絡流量預測和調度優化 標準化數據：MR測量數據、MDT數據；非標準化數據：鏈路級BLER、端口數據流信息數據（端口流量、時延等）終端測量上報；網絡設備內部數據 業務識別和感知、異常行為監測 標準化數據：業務數據流信息數據（IP五元組、URL、

18、PFD等）網絡設備內部數據 無線組網動態負載均衡、無線組網動態干擾規避、網絡節能、智能尋呼、IP網絡智能路由 標準化數據：MR測量數據、MDT數據、KPI監控數據（PRB利用率、小區吞吐量等）、控制面信令數據、業務數據流信息數據 網絡設備內部數據 網管系統數據 感知類：智能業務識別 診斷類：智能故障處理 預測類：智能擴容規劃 標準化數據：KPI等監控數據、XDR數據、告警數據、MR數據、拓撲等資源數據 非標準化數據：日志數據、圖片數據、文檔/案例數據等 網管系統數據 網絡網絡 運維運維 AI大模型賦能網絡：可行性 15 AI賦能網絡的場景主要分為網絡運維和網絡運行兩大類，能否用一個AI大模型解

19、決多種場景的問題？AI大模型賦能網絡場景十分多樣，需分析：數據是否可用？如何構建大模型？16 網絡運維的數據是以分鐘/小時粒度數據為主，來源較為統一；網絡運行的數據時間粒度、標準化程度、數據來源更為多樣和復雜，獲取較為困難 AI大模型賦能網絡：數據獲取和處理的挑戰 數據獲取難 數據質量差 聯合業界共同制定新增數據采集規范，制定按需動態數據采集粒度方案 物理層等數據源缺失，應用難開展 采集數據粒度不統一，數據難應用 標準化 持續梳理和積累網絡智能化數據集，對外開放，構建智慧網絡創新系列生態，助力研究 數據開放 研發數據實時校驗能力，推動質量及時改進 數據記錄不完整，應用難優化 數據記錄不準確，應

20、用難商用 實時校驗 研發數據閉環稽核能力，保證數據準確可靠 閉環稽核 數據是AI大模型的基礎，如何獲取適合AI大模型訓練的數據面臨極大挑戰 面向上述場景，可考慮分階段探索，首先探索網絡運維人工智能大模型 從小規模、離線入手，向大規模、實時發展，最終探索是否可以實現統一 17 與ChatGPT不同，網絡中存在大量結構化數據，且網絡不同問題間的共性不清晰，網絡AI大模型面臨較大挑戰 AI大模型賦能網絡：大模型的構建路徑 運維通用模型 運行通用模型 無線運維通用模型 核心網運維通用模型 網絡AI大模型 發展？小規模 大規模 統一 離線 實時？物理層 網絡層 業務層 小模型1 小模型2 小模型N？無線

21、運行通用模型 核心網運行通用模型 問題思考 數據/模型 應用場景 如何探索網絡使能AI大模型的潛在應用場景，挖掘場景價值？如何構建統一的網絡大模型？對于網絡而言，Al領域如何建立可解釋性理論模型，保障網絡中AI大模型決策的有效性和可靠性?如何解決數據離散、設備數據獲取難等問題？如何評價AI大模型賦能網絡的價值和增益？算力 如何利用算力的泛在和流動性，使能大模型，如chatGPT、語義大模型？架構 如何細化網絡使能AI和AI賦能網絡的統一架構，實現智能面/計算面功能、接口及流程高效設計？架構如何支持AI大模型的分布式訓練？18 如何利用數字孿生網絡生成高質量數據，并對AI大模型進行驗證？19 共同推進全球6G AI合作研究 2022 2021 2023 2023(征稿中！)營造國際高水平學術交流平臺 各位專家和學者，歡迎投稿 IEEE GLOBECOM 2023 Workshop 11 on Intelligent 6G Architecture:Towards Network Simplicity and Autonomy，探討6G架構創新的新進展！6GANA 6GANA全球 6G Network AI 交流平臺 歡迎參加7.16-17的 6GANA TG 聯合研討會！