中國信通院：東數西訓場景實現及應用價值（13頁）.pdf

1、東數西訓場景實現及應用價值n 根據“十四五規劃”要求，需“加快數字化發展，建設數字中國”，建設數字中國是數字時代推進中國式現代化的重要引擎，是構筑國家競爭新優勢的有力支撐。國家已布局“東數西算”，進入全面建設階段四部委出臺全國一體化大數據中心協同創新體系算力樞紐實施方案，加快實施“東數西算”工程。算力是數字經濟發展的基礎設施夯實數字中國建設基礎，要打通數字基礎設施大動脈數字中國建設整體布局規劃提出優化算力基礎設施布局，促進東西部算力高效互補和協同聯動。東西協同，數據中心支持國家產業升級算力指數每提高1%，數字經濟和GDP分別增長3.3%和1.8%。目標創新：牽引戰略和業務轉型促進技術創新和變革

2、。提能：提升算力發展水平，促進算力轉化為更大生產力。降本：算力資源最大化利用，實現國家、企業降本增效。國家方針政策國家方針政策屏蔽多樣化的基礎設施資源池多樣化云多樣化資源多樣化私有云公有云邊緣云CPU/GPU/FPGAX86/ARMredhat/bc-linux/EulerOsN中心資源池31省級資源池X邊緣資源池 國家布局“東數西算”戰略 2021年5月，國家四部委聯合出臺全國一體化大數據中心協同創新體系算力樞紐實施方案，明確提出布局全國算力網絡國家樞紐節點，打通網絡傳輸通道，提升跨區域算力調度水平，加快實施“東數西算”工程，構建國家算力網絡體系。算力網絡成為中國移動重要戰略之一 中國移動將

3、系統構建以5G、算力網絡、智慧中臺為重點的新型信息基礎設施，構成“連接+算力+能力”新型信息服務體系，助力數字經濟蓬勃發展。戰略驅動 內部訴求 省內私有云和一級云并存，兩套平臺，應用發布和運維體驗差，如何實現兩級云算力融合。內部各個應容器集群的利用率不均衡，需要更均衡的調度 外部訴求 企業業務多樣性，需要部署在私有云、公有云及邊緣云上，但云的差異性，導致用云效率差 企業的需要多云來提升業務連續性和降低供應商鎖定風險 業務訴求內部客戶需求：BOMS跨域融合/異構資源需求/三朵云融合/企業降本增效.外部客戶需求：東數西算/企業多云混合部署與實時調度/多資源類型需求n 國家集團戰略、內外部訴求驅動跨

4、域、跨云算力的融合中國移動算網發展背景中國移動算網發展背景n AI應用場景的高速發展，賦智應用場景激增。模型訓練，需要海量訓練數據，和專用GPU算力資源，是典型的大計算量場景，對AI算力提出新需求。算力供需不均衡算力成本差異訓練數據管理尤其是高端的加速卡，在AI中心里都是緊缺資源，單中心在承載的AI計算達到一定數量后，很難快速的增加新的資源，來滿足業務的需求。其他算力中心的算力資源，可能處于空閑狀態，資源無法有效利用。不同地域，不同中心的機房，運營成本不同。例如，東部的機房用地用電相較于西部，往往要高。如果能有效分布計算任務，就可以獲得降本增效。AI模型準確度要求越來越高，準備的訓練數據集越來

5、越大，所占用的存儲也也來越多，特別是，模型訓練需要不斷累積數據。這些數據在不訓練時，屬于冷數據，需要考慮如何低成本存儲管理。AI場景業務背景場景業務背景分布式云原生一體化調度引擎四大核心能力覆蓋多樣化場景應用應用多云部署東數西存東數西訓應用容災跨域多樣化算力基礎設施東部私有云西部省內私有云一級私有云私有云公有云移動云公有云支撐算力感知匯聚執行指令下發第三方私有云華為云一級云移動云三方私有云華為云入網感知編排調度智能運維統一管控四大特性 匯聚全局資源，可視可管不同區域存算力資源、不同類型的存算力資源、不同云存算力資源實現一點匯聚、一點看全看清 融合三力調度，最優部署對存算力進行溫冷熱分級管理，根

6、據SLA要求，計算出最優的部署路徑 統一多云操作，極致體驗面向使用者提供一致的部署體驗、一致的運維觀測體驗、一致的操作體驗n 面向多樣化的異構算力，構建分布式云原生調度服務，實現在使用多樣化算力時，感受不到地域、環境、技術棧、資源類型的差異，提升算力使用的便捷性及一致性。算力調度存力調度運力調度 智能運維，故障自愈 綜合應用故障感知、定界、決策和自愈AIOps場景能力，打造智能化故障治理體系算網實踐總體設計算網實踐總體設計東部n 借助于算力調度平臺的“算力分析”、“算力調度”以及“數據存儲調度”的能力，完成模型訓練場景的算力調度的工作，在西部算力資源充足的情況下，實現“西訓”的目的。主要功能訓

7、練數據待推理數據算力分析(計算資源、數據位置)算力調度任務狀態管理任務編排算力調度西部任務執行訓練任務編排推理任務編排訓練任務執行推理任務執行集中鏡像倉庫集中數據存儲東數西訓場景設計架構東數西訓場景設計架構 推理服務跨中心調度 訓練模型跨中心使用，推理服務的跨中心部署與調度 任務自動調度 考慮任務資源需求，結合算力空閑及數據位置，實現自動按需調度 任務集中監控管理 跨地域多中心任務的全生命周期集中監控，了解任務執行情況 任務集中編排 訓練/推理任務一處編排，多處執行模型訓練在西部資源池完成；訓練數據跨中心傳輸共享；訓練得到的模型，跨中心共享，可以部署在東部和西部不同資源池；功能目標服務目標通過

8、算網大腦Agent之間的通信和協同，自動匹配最佳算力，解決GPU高價值算力資源“最優化“使用，同時保障對服務請求的”透明化“。12東數西訓智能調度東數西訓場景兩大目標東數西訓場景兩大目標“東數西訓”-數據西遷和異地訓練“東數西訓”-數據西遷和異地訓練依托n 依托于算力調度引擎能力，分別實現“數據調度”和“訓練調度”，完成數據的西遷、異地的模型訓練。融數注智，調度引擎智能決策算力網關算網智能化算網數據感知算網一體化基礎設施原生編排算網數據感知，實現調度鏈路數據實時上報算網智能化，依托算網資源等模型智能決策原生編排，提供原子化的能力接口數據調度，大規模數據安全傳輸異地訓練，算力資源評估計算東數西訓

9、，算力調度分布式訓練數據模型訓練內蒙 (西部)算力平臺江蘇（東部）算力平臺數據遷移訓練服務訓練編排算力網關訓練調度“智能調度”“智能調度”服務發布、服務路由服務發布、服務路由n 服務使用方調用AI推理服務，算網調度引擎在接收到服務請求后，實時判斷各個算力資源池忙閑，通過“路由調度策略”調度到恰當的算力池。東部算網資源推理服務部署業務受理單稽核算力調度流量策略路由策略流量調度內蒙南京蘇州西部算網資源算力調度流量網關服務編排服務請求甘肅東數西訓落地業務-業務受理單稽核東數西訓落地業務-業務受理單稽核稽核內容簽名照是否存在稽核：判別單據中是否存在手寫電子簽名圖片。電子簽名與受理對象一致性稽核：判別受

10、理人對象姓名與手寫電子簽名是否一致。證件照與受理對象一致性稽核：判別受理人對象姓名與身份證識別結果姓名是否一致。過戶場景下證件合規性稽核：判別業務類型為過戶，且證件類型為二代身份證時，原/新客戶姓名與證件姓名是否一致。二代身份證件合規性稽核：判別二代身份證是否為標準身份證，包括姓名合規性、性別合規性、名族合規性、出生日期合規性、常住戶口所在地住址合規性、公民身份號碼合規性、證件有效期合規性、簽發機關合規性、照片合規性稽核：證件照是否相互遮擋稽核：判別身份證字段公民身份證號碼、簽發機關內容是否存在，若為空則判斷為位置不正確。簽名與印章位置重疊稽核：判別簽名圖片與印章是否相互遮擋。水印是否存在稽核

11、：判別身份證上的水印是否存在。水印是否正確稽核：判別水印內容是否為：“江蘇移動業務受理”1、業務受理單日生成總數40萬左右，批量稽核11個稽核點，“一次稽核+二次復核”。于此同時，提供證照類實時稽核能力，2、從過去5%人工抽檢，改進為100%稽核。東數西訓場景技術難點東數西訓場景技術難點算網數據感知多算網資源差異大跨域狀態管理復雜算網大腦決策難算網調度引擎Agent采集并實時上報網絡要素數據、資源要素數據，其中網絡要素不限于：延遲、抖動、丟包率等；資源要素不限于:CPU、GPU、NPU、內存利用率等。在算網數據感知的基礎上，對異構的資源進行歸一化建模，迭代提供小型、中型、大型、超算力等不同等級

12、的跨多區域的CPU/GPU/NPU等算網資源模型。從而屏蔽底層算網資源的差異。訓練、推理任務由算網引擎調度后，需要集中監控各任務的執行情況，實現訓練任務、推理任務統一狀態上報框架，通過算網大腦進行狀態匯集，將各資源中心的執行情況與編排記錄關聯監控。本次試點將基礎平臺業務網關進一步下沉，并通過算網大腦提供AI原子服務編排,將南北向流量轉化為東西向流量,實現服務治理、統一服務調度，并依托算網資源等模型智能決策。1432技術難點經驗及應用推廣經驗及應用推廣 算力供需互利，提升整體資源利用率 借助于空閑資源池資源，實現AI場景的計算推理。保障AI業務穩定運營的同時，提升空閑資源中心的資源利用率，實現空

13、閑資源價值輸出。降本增效，滿足業務高速發展 借助于西部資源中心低成本的優勢，擴大基礎資源池，為賦智場景的高速發展，提供最優的硬件投入。訓練、推理流程跨地域多中心串接訓練任務結束后，算法模型數據跨中心分享，推理任務服務即可自動拉取使用，實現了兩種計算任務在編排流程上的無縫銜接。算力資源的自動分析，任務自動調度任務調度時自動進行分析，采用合適的調度策略，選擇最優的資源中心，自動調度任務。訓練、推理任務一處編排，多處執行編排訓練、推理任務，評估SLA需求，跨中心調度，實現一處（東部）編排，多處（東部、西部各合適的資源中心）執行。應用價值業務落地經驗 智慧醫療AI診片：樣本數據傳輸至西部資源池，進行模型訓練，網絡延遲滿足AI診片的實時性要求。場景推廣 證券趨勢分析：基于歷史數據對股票進行離線趨勢預測，處理量大，無實時性要求。智慧交通AI指揮：根據歷史路口交通數據，分析預測合理的紅綠燈間隔，緩解路口擁堵情況。THANKS!