1、端側算力網絡 白皮書端側算力網絡 白皮書 (2022年)(2022年)中國移動通信集團終端有限公司、北京郵電大學 中國信息通信研究院、中國通信學會 中國移動通信集團終端有限公司、北京郵電大學 中國信息通信研究院、中國通信學會 2022 年 7 月 2022 年 7 月 專家組和撰寫組名單專家組和撰寫組名單 專家組組長 專家組組長 張宏科 中國工程院 院士 撰寫組(按單位名稱排名)撰寫組(按單位名稱排名)單 位 姓 名 中國移動通信集團 終端有限公司 汪恒江、崔 芳、倪 茂、王紹穎、周 婷等 北京郵電大學 王文博、張 興、張佳鑫、孫鈺坤、胡遠林、李 泱、黃昊楠等 中國信息通信研究院 許志遠、王駿
2、成 推薦意見 推薦意見 近年來,在“新基建”、“東數西算”等國家政策和工程的指引下,算力的概念成為運營商、互聯網企業、設備商和學術機構的熱門話題,算力網絡也已經成為未來 6G 網絡的潛在技術和關鍵能力。隨著物聯網、5G/6G、邊緣計算、AI 的不斷融合發展,各種類型終端特別是智慧型終端的算力顯著增強,端側算力資源在智慧城市、智能家居、智慧養老、智慧農業等垂直領域發揮了重要作用。面向海量泛在異構的終端節點,需要探索和研究端側算力網絡及其使能技術。算網融合技術在多領域得到高度認同,被廣泛視為加速產業數字化升級演進的重要抓手。算網融合圍繞“計算網絡化”和“網絡計算化”兩個方向,重點聚焦于算力網絡。而
3、近年來終端設備種類和數量飛速增長,終端設備在算力網絡中的作用越來越凸顯,為了有效地利用泛在的終端設備,亟需提出一種在終端側延展的算力網絡架構端側算力網絡。端側算力網絡是算力網絡的一個重要分支,但是又不同于常規算力網絡,不需要算力應用企業來集中投資建設基礎設施,而是在一定的空間內把海量用戶終端的空閑算力,通過網絡設施進行匯集和組織,直接為終端設備提供泛在的 AI 算力服務。通過端側算力網絡可以將泛在的分布式算力有效匯聚起來,聚沙成塔,成為算力網絡中的一個重要算力供給方。本白皮書著眼于 6G 時代的網絡特點和發展趨勢,詳細地分析了終端的發展現狀、基本特征和發展趨勢,具體闡釋了端側算力網絡的概念、體
4、系架構、功能架構及其主要特征,總結了端側算力網絡的各項關鍵使能技術,并展望了端側算力網絡在智能家居、智慧醫療、智慧教育、智慧農業等領域的潛在應用場景。從實際應用的角度看,在算力網絡的基礎之上進一步構建端側算力網絡,有望真正地實現將分布式的算力充分利用賦能萬物智能時代的算力需求的愿景。近些年,終端設備以前所未有的種類與數量融入百姓的生活之中,一方面終端設備所能提供的算力能力日益增強,另一方面,終端設備所能承載的服務越來越多樣,移動通信系統的飛速演進也將為終端設備帶來越來越多的新功能,未來的終端設備將有望于助力虛擬世界與現實世界的深度融合,而端側算力網絡的建設將使得終端設備展現出更多的新應用。從技
5、術驅動的角度看,每一項新技術的提出、每一種新型網絡架構的出現,都不是孤立演進的,而是需要與相關領域的其他技術協同發展的。從云計算的提出,到邊緣計算的出現,直至算力網絡的提出,都是源于大數據、人工智能、內生安全等技術的需求和驅動。如今,芯片技術的飛速演進、可穿戴設備、腦機接口等新型終端設備的出現與發展,端側算力網絡及其相關的使能技術將持續且深入地得到探索與研討。鑒于端側算力網絡的重要意義和巨大發展潛力,此白皮書有助于 產業界和學術界各方凝聚更多共識,抓住數字經濟發展的戰略機遇,助力加快國家算力網絡戰略、前沿技術和應用的發展!中國工程院院士、北京交通大學教授 前前 言言 第六代移動通信系統(6G)
6、和低軌衛星通信系統所引領的新技術浪潮方興未艾,成為全球眾多國家的研究熱點。移動通信網絡在發展演進中,算力需求的快速增長與分布式泛在算力利用率低效之間的供需矛盾問題日益凸顯。面向智能家居、智慧醫療、智慧城市等新型垂直應用場景,分布式多級端側算力節點資源相對受限且缺乏協同管控能力,導致了端側算力資源難以得到高效利用;因此如何充分聚合泛在終端的算力資源,是整體實現算力網絡體系的重要環節,也是提升網絡整體資源利用率的關鍵。因此,面向網絡中海量泛在異構的終端節點,亟需探索研究端側算力網絡及其使能技術。在算網融合的大背景下,算力網絡的概念應運而生。算力網絡是針對算網融合發展趨勢提出的新型網絡架構,通過無處
7、不在的網絡將分布各處的計算資源相互連通,通過統一協同調度,使不同的應用能夠按需、實時地調度不同位置的計算資源,實現網絡和算力的全局優化,提供更高質量的用戶體驗。在此基礎上,端側算力網絡則著眼于泛在終端的算力利用率和計算效率的提升,基于現有的蜂窩網絡、無線網絡等網絡基礎設施,解決在分散的、非一致性的設備上的分布式計算、隱私性存儲等難題,為用戶提供更加智能化的、個性化的應用服務體驗。在算力網絡中云邊和網絡的支撐下,端側算力網絡中的分布式多級終端側算力資源有望得到更好的利用,構建高效的端側算力體系架構和新型網絡范式,實現端側算力感知、資源虛擬協同、多粒 度算力調度以及安全隱私與可信交易。而端側算力網
8、絡也可助推算力網絡實現“網絡無所不達,算力無所不在,智能無所不及”的愿景。本白皮書基于現有的網絡基礎設施,從“端側算力的有效利用”的角度出發,提出并系統分析了端側算力網絡的概念內涵,詳細總結了終端的發展現狀、基本特征和發展趨勢;具體闡釋了端側算力網絡的概念、體系架構、功能架構及其主要特征;總結了端側算力網絡的各項關鍵使能技術,并給出了端側算力網絡的應用場景。需要指出的是,本白皮書尚未涉及端側算力網絡對網絡基礎設施支撐的相關技術要求及其對算力的影響。希望通過本白皮書,加快國家算力網絡相關技術和應用的發展,凝聚學術界和產業界共識,推進端側算力網絡技術加快發展并走向商業成熟。目 錄 一、終端的發展背
9、景.1 1.1 終端的發展現狀.1 1.2 終端的基本特征.2 1.2.1 智能化不斷增強.2 1.2.2 資源受限性.3 1.2.3 算力的差異性.3 1.2.4 泛在分布性.5 1.2.5 通信受限性.5 1.2.6 隱私數據安全性.5 1.3 終端的發展趨勢.6 二、端側算力網絡的概念及架構.10 2.1 端側算力網絡的概念.11 2.2 端側算力網絡的體系架構.12 2.3 端側算力網絡的功能架構.17 2.4 端側算力網絡的主要特征.20 三、端側算力網絡的關鍵技術.22 3.1 層次化端算力感知圖模型.22 3.2 面向多終端協同的資源虛擬化技術.23 3.3 多終端協同的數據壓縮
10、技術.25 3.4 多粒度多層次端算力調度.25 3.5 面向終端設備的現場級 AI 推理.28 3.6 端算力的定價機制.29 四、端側算力網絡的隱私與安全.31 4.1 認證與鑒權.31 4.2 數據安全保護.32 4.3 可信交易.34 五、端側算力網絡的應用場景.37 5.1 智能家居.37 5.2 智能醫療.38 5.3 車聯網.40 5.4 智慧教育.41 5.5 智慧農業.42 六、結束語.44 參考文獻.45 縮略語.49 1 一、終端的發展背景 一、終端的發展背景 1.1 終端的發展現狀終端的發展現狀 近年來,隨著智能終端硬件技術的快速發展和應用領域的擴大,智能終端呈現多種多
11、樣的產品形態,如可穿戴設備、智能家居、IoT以及車載設備等。其中為主要代表的平板電腦在2021年全球銷量1.68億部,同比增長 2.9%;智能手機在 2021 年全球總出貨量達 16.993 億部;可穿戴設備 2021 年全球全年出貨量為 5.336 億臺,比 2020 年增長 20%。根據統計數據顯示1,到 2023 年,人均聯網設備將達到 3.6臺,高于 2018 年的人均聯網設備 2.4 臺,同時到 2023 年,將有 293億臺聯網設備,高于 2018 年的 184 億。由此可見,智能終端產業將長期處于高速發展階段,而且伴隨著智能終端種類的增多,其產業規模和滲透率將會持續擴大。越來越多
12、的非智能設備會進行智能化改造,例如家電、汽車、工業設備等;越來越多的傳統行業會進行信息化建設應用智能終端提高生產效率,例如醫療、教育、物流、稅務、能源等;這些都將對智能終端技術提出更多的需求。隨著智能業務、沉浸式業務和數字孿生等新業務的不斷發展,對網絡以及終端都提出了更高的智能化信息處理需求。不同類型的業務和不同的服務需求,數據處理時延和精度的要求不盡相同。隨著端側算力能力的提升,邊緣計算技術和芯片技術的發展使得端側網絡能夠支撐大量的運算任務,并存在著大量過剩的算力。算力是數字經濟與人工智能時代下的生產力,各行各業對數據處理的規模和實效性需求 2 快速上升,人工智能等產業發展促進了服務的升級,
13、推動了算力向邊緣擴展。然而,由于當前終端設備主要起到傳感器設備的作用,進行數據感知并將數據上傳到云端進行處理,導致當前端側與云端的算力供給方式利用率不足 15%,算力需求快速增長與泛在算力利用率低的供需矛盾日益凸顯,端側算力技術成為算力基礎設施建設的重要組成部分。目前國內端側算力相關產業和技術蓬勃發展,信息基礎設施建設穩固,通信基礎好。終端生態活躍,具有多品牌的異構設備,設備數量規模巨大,極具發展潛力,生態方面,展現出百家爭鳴的態勢,這也導致設備統一納管難度比較大,耗時比較長。目前異構多終端,能力協同和納管也處于研究階段,沒有成熟的產品方案。而當前國際上泛終端生態活躍度落后于國內,針對異構多終
14、端算力、能力協同的研究大多仍然停留在高校的研究階段,缺少實際落地應用,沒有成型的產品與方案。1.2 終端的基本特征終端的基本特征 1.2.1 智能化不斷增強 得益于半導體工藝、流程與技術的不斷成熟,終端設備芯片中晶體管的數量呈現出爆炸性的增長趨勢,使得 CPU、DPU 和 GPU 等處理器的計算性能得到快速的升級,加之 AI 芯片在終端設備的普及性應用,在手機、平板電腦等移動設備終端運用本地化人工智能加速器進行機器學習,實現人物識別、情感分析、APP 垃圾信息處理、分析 3 用戶的設備使用習慣等已成為可能,自動駕駛汽車作為新一代移動終端,引領眾多芯片廠商投入算力升級的研究中,英偉達推出的自動駕
15、駛芯片 Atlan,單顆芯片的算力便達到 1000TOPS2,隨著端側芯片算力的快速升級,相對于邊緣計算和云計算來說,終端設備的 AI 計算劣勢不再明顯。1.2.2 資源受限性 終端設備通常由電池供電,不具備長時間連接電源的條件,因此終端設備的計算能力常常受限于電池容量的大小,同時由于終端設備體積的限制,終端設備往往無法采用高功耗、高性能的芯片,因此面對計算密集型的任務,單個終端設備往往無法在時效范圍內有效地完成任務的處理,雖然終端研制和芯片技術的發展萌發出多種類型的終端算力提供者,但是由于用戶業務需求的潮汐效應以及隨時間的波動性變化,分布式的終端往往存在大量過剩的算力,無法得到充分地應用。1
16、.2.3 算力的差異性 如下表所示,終端設備搭載的芯片可提供的算力差異明顯,可提供 1TOPS到幾百 TOPS不等的算力,應用于不同的場景具體表現為,同一生產商同一種類不同型號的芯片具有較大的算力水平差異,同一種類的終端設備也往往搭載不同的芯片,形成泛在終端算力分級的形態,同時,同一芯片進行不同精度的數據處理也具有不同的算力。此外,作為電池供電設備,多樣化的終端設備的電池容量具有較大的差 4 異性,可穿戴設備往往只有 100mAh 容量,掃地機器人等家用電器可達 2000mAh,臺式機、電視等非移動終端往往為插電設備,工作時可以一直供電,電池容量的差異性也導致泛在終端有效算力具有非常大的動態變
17、化的差異性。表 1 芯片的算力差異性對比3-5 算力水平 典型芯片 支 持 數 據類型 芯片算力(對應數據類型)典型應用算力水平 典型芯片 支 持 數 據類型 芯片算力(對應數據類型)典型應用 010 TOPS/TFLOPS 瑞 芯 微RK3566 INT8 0.8 門禁設備、考勤設備、車載終端、可 穿 戴 設備、智能手機、智能音箱、機器人 瑞 芯 微RK1808 INT8 3 寒 武 紀Cambricon-1M-4K INT8/INT16/INT32 8/4/1 10100 TOPS/TFLOPS 華為昇騰310 INT8/FP16 22/11 1001000 TOPS/TFLOPS 寒武紀
18、思元 270-S4 INT4/INT8/INT16 256/128/64 智能視頻分析、智慧視覺設備 NVIDIA Tesla T4 INT4/INT8/FP16/FP32 260/130/65/8.1 5 華為昇騰910 INT8/FP16 640/320 1.2.4 泛在分布性 終端設備最為顯著的特征是體積小,方便攜帶,在終端設備嵌入不同功能的傳感器、攝像頭、以及處理器之后,可以部署在水下、室內的角落、路燈等多種場景中,進而使得終端設備具有泛在部署、分布式的特征,同時,體積較小的終端設備也具有方便攜帶移動或者自移動的特性。1.2.5 通信受限性 數據到邊和云的時延遠遠大于終端之間的時延,終
19、端設備具有處理面向超低時延通信的業務的優勢6,此外,很多終端設備,例如:藍牙耳機、智能音箱、智能電冰箱等終端設備不具備接入蜂窩網絡的能力,無法直接與基站建立通信鏈路,進而導致無法將算力任務直接調度至邊緣服務器。1.2.6 隱私數據安全性 邊緣計算將計算資源下沉到網絡邊緣靠近用戶的位置,雖然在一定程度上縮短了數據在網絡中的傳輸距離,有效地降低了數據在傳輸過程中隱私泄露的風險,但是邊緣計算節點獲取的業務數據,仍然包含了諸多未脫敏的隱私數據,邊緣計算很難從根源解決用戶數據的隱私和安全問題7。終端設備可以在本地處理用戶的隱私數據,無需將數據上傳至邊緣節點或者中心云進行處理或者存儲,可以從源頭保護 6
20、用戶的隱私,在智能家居場景中,用戶佩戴的智能手表、使用的智能音箱、家中的掃地機器人等終端設備產生的視頻、圖像、語音、音樂偏好、健康狀況等隱私數據,都可以在家庭中的終端設備進行處理,保證數據的安全性。1.3 終端的發展趨勢終端的發展趨勢 未來終端將向多樣化、智能化、復雜化方向發展。6G 網絡時代將從“智能外加”轉向“智能內生”,構建實現感知、分析、反饋的閉環,提供無處不在的智能服務。終端也將越來越多樣化,智能化,交互方式更加復雜,人機交互、數字孿生、腦機接口帶來數據處理的復雜度增加。首先,消費者可以使用的終端產品越來越多樣化。當前出現的終端可以有多種分類方式,從行業應用分,終端設備可以分為工業設
21、備檢測終端,設施農業檢測終端,物流 RFID 識別終端;從使用場合分,終端設備可以分為固定終端,移動終端和手持終端;從使用擴展性分,終端設備又可以分為單一功能終端和通用智能終端;從傳輸通路分,終端設備還可以分為數據透傳終端和非數據透傳終端。同時,終端的智能程度也在不斷提高,人機交互的方式不斷變革,從利用鼠標、鍵盤向設備輸入指令到觸摸屏技術的出現進一步優化了人機交互的方式,再隨著語音識別技術,以及生物識別技術的發展,一些前沿的人機交互方式已經出現,比如通過語音向設備發送指令。更為前沿的人機交互比如眼球操作,手勢操作,甚至腦波控制也已經實現,這些技術讓終端和人的聯系更加緊密。其次,AI 算力在終端
22、的應用 7 日益增強,傳統而言,很多對神經網絡的訓練和推理都是在云端或者基于服務器完成。隨著終端處理器性能的不斷提升,通信技術演進所能帶來的完整可靠性以及隨著智能終端多樣化的演進趨勢,很多人工智能的推理工作,如模式匹配、建模檢測、分類和識別等逐漸從云端轉移到了終端側。AI 計算場景和算力持續向終端遷移,是智能終端AI 芯片產業發展的內在驅動力。圖 1 中國智能終端市場發展趨勢 終端操作系統越來越開放,多樣化。由于不同的設備,終端智能化的重點不同,因而對操作系統的需求不同,操作系統的功能也不同。比如用于智能家居的中控系統,要求具有強大的處理功能,為此谷歌在 2015 年推出了物聯網操作系統 Br
23、illo;在智能冰箱,智能空調等終端,需要有一定的處理能力,所以它們的操作系統一般是由傳統的操作系統進一步裁剪;還有很多終端設備,它們主要傳輸簡單的感知信息,因此它們的內存容量通常僅僅幾 K??梢钥闯?,終端設備的應用領域不同,決定了物聯網操作系統的多樣性。而終端設備在不同應用 8 領域的發展也推動了終端操作系統的多樣化發展。多終端協同的技術越來越成熟,終端之間的聯系越來越緊密,由于計算本身的需求推動,計算從云端建模-終端使用轉變為終端側的推理與計算處理。iOS、安卓、鴻蒙的分布式、多終端協同能力將進一步增強,手機作為主設備,將持續增強與辦公終端、智家終端、XR設備、車機等協同交互與共享的能力。
24、目前,華為,小米,聯想都推出了自己的多終端協同的產品,突破了 Android 與 Windows 跨平臺交互的難題。隨著泛終端的自主智能能力不斷升級,端云協同、能力虛擬共享、服務流轉等將成為基礎性能力。硬件能力方面,算力能力顯著增加,AI 處理能力的芯片逐步成為研發重點。終端基礎硬件性能不斷優化,算力增速越來越快。據 IDC 預測數據,2025 年全球物聯網設備數將超過 400 億臺,產生數據量接近 80ZB,且超過一半的數據需要依賴終端或者邊緣的計算能力進行處理。中國信息通信研究院發布的 中國算力發展指數白皮書 中顯示,預估未來五年全球算力規模將以超過 50%的速度增長,到 2025 年整體
25、規模將達到3300EFlops。智能硬件終端的領域包含的范圍甚廣,現階段智能家居設備、智能機器人、智能車載設備、智能醫療設備、智能可穿戴設備、智能大屏設備、智能安防設備等細分場景領域都有較好的落地和應用,每個領域的產品品類都很豐富。有數據顯示8,“萬物智能”時代的物聯網將擁有 10 萬億美元的市場空間,按照硬件占比 20%-30%來計算,智能硬件設備的潛在市場空間約 23 萬億美元。用戶需求的不斷 9 提高也將推動終端算力的迅猛發展,協同基礎硬件不斷優化。云終端市場規模不斷實現新突破,隨著云計算技術的持續演進和各行業上云的進程不斷加快9,云終端產品進一步優化,社會對云終端的認知度和接受度提高,
26、云終端市場需求將逐漸釋放,市場規模保持持續增長的態勢。預計未來五年,中國云終端市場將以 31.7%的復合增長率發展,到2025年,中國云終端市場規模達到73.45億元10。未來終端之間連接將更加立體泛在,多終端協同技術的成熟將推動終端之間的聯系更加緊密,終端之間不再像從前相互獨立,各自獨立完成自己的任務而是相互影響,協同,合作。這種技術的發展將會進一步優化終端生態系統,提升業務的服務質量和人的生活質量。10 二、端側算力網絡的概念及架構二、端側算力網絡的概念及架構 在通信網絡與計算的發展演進中,算力需求的快速增長與分布式泛在算力利用率低效之間的供需矛盾問題日益凸顯。如何充分利用泛在終端的算力資
27、源,是提升網絡整體資源利用率的關鍵。分布式多級端側算力節點資源相對受限且缺乏協同管控能力,導致了端側算力資源難以得到高效利用。因此,面向海量泛在的終端節點,開展端側算力網絡(TCAN)的研究與應用是實現整體算力網絡的重要環節之一。端側算力網絡的核心價值是充分利用分布式多級端側算力資源,建立適合的體系架構,設計高效的資源利用方法,從而提高系統的服務效率。區別于算力網絡中云邊端三者相互協同,端側算力網絡側重一定空間內終端設備之間的協同,在區域空間內構建計算網絡,直接為終端設備服務,由于終端設備之間的距離遠遠小于端和云邊之間的距離,端側算力網絡可以大大縮短服務的響應時間,為人類提供更加優質的服務。對
28、端側算力網絡的研究既包括從網絡視角出發,討論網絡支撐算力的相關命名、尋址、轉發及組網等關鍵技術要求及其對算力的影響;又包括從端側算力的有效利用的視角出發,基于現有的網絡基礎設施,解決在分散的、非一致性的設備上的分布式計算、隱私性存儲等難題。本白皮書著眼于后者,關注于終端計算效率的提升,為用戶提供更加智能化的、個性化的應用服務體驗,并在這個視角下給出端側算力網絡的概念、架構及主要特征。11 2.1 端側算力網絡的概念端側算力網絡的概念 端側算力網絡是通信網絡和終端設備深度融合和進一步發展的新型物聯網架構,面向空間內和跨空間的網絡場景,利用現有的多種通信技術如藍牙、WIFI、Zigbee、5G、D
29、2D、Lora 等,通過動態自治組網連接分布各處的終端設備,并通過實現面向終端協同的資源虛擬化,構建層次化算力感知圖,以及多粒度多層次的資源調度與跨空間的算力協同等關鍵技術,構建可以充分利用終端設備能力的全新環境,保證網絡能夠按需實時調度不同位置終端設備閑置開放的計算資源和硬件能力,提高無線網絡和終端設備算力的利用率和業務的 QoS,進一步縮短服務響應時間和處理時延,提升用戶體驗。.終端側邊緣側中心云端側算力網絡端側算力網絡端側算力網絡 圖 2 算力網絡體系架構圖 在算力網絡中,云、邊、端共同構成了多層立體的泛在算力架構 12 11。網絡作為連接用戶、數據和算力的橋梁,通過與算力的深度融合,共
30、同構成算力網絡的新型基礎設施12。算力網絡中,云和邊的算力被著重強調和利用,而端往往被看做是產生業務的算力使用者。端側算力網絡則重點關注終端算力的利用,在算力網絡中云邊和網絡的支撐下端側算力網絡中的終端算力可以更好的得到利用以及與云邊協同。因此,圖 2 所示,端側算力網絡是算力網絡的重要組成部分。雖然兩者都是將算力和網絡相互融合,但是存在一定的差異,所以端側算力網絡又不同于算力網絡。端側算力網絡中空間內多終端協同的場景已經出現,手機作為主設備,辦公終端、智家終端、XR 設備、車機等協同計算、交互與共享,云終端可利用端側算力網絡,將端側算力、存儲就近遷移端側算力網絡中,將操作系統、應用程序都運行
31、在端側算力網絡中,未來空間多終端協同的能力將進一步增強,空間多端協同的含義將進一步開放,不僅僅是功能的協同,而且終端設備將進一步和網絡融合,實現算網協同、多端協同。2.2 端側算力網絡的體系架構端側算力網絡的體系架構 如圖 3 所示,端側算力網絡架構從算力構成來看,可分為終端層和網絡層。在端側算力網絡基礎設施中,泛在分布式的終端設備是端側算力網絡的重要組成部分,在智能家居環境中,智能終端設備包含智能冰箱、智能門鎖、智能攝像頭、智能電視、智能冰箱、掃地機器人、智 13 t1t2弱強存算能力剩余電量家庭1家庭2家庭3室內泛在大連接組網時空高度動態組網多協議動態自治組網終端層終端層網絡層家庭1主設備
32、家庭2主設備家庭3主設備信息上報算力請求指令反饋局域算力交互異域算力交互異域算力交互異域算力交互家庭1主人可信終端算力調度局域算力交互局域算力交互智能網關D2DWiFi藍牙退網ZigBee入網智能網關任務完全卸載子任務2子任務1請求決策決策請求多層次算力智能調度移入移出局域端算力網絡1局域端算力網絡2局域端算力網絡3公司1公司2 圖 3 端側算力網絡體系架構圖 能窗簾、煙霧警報設備等;在辦公園區中,智能終端設備主要包含智能臺燈、打印機、手機、平板電腦、筆記本電腦、臺式機等,可穿戴的智能終端設備主要包含智能手環、VR 眼鏡、多功能耳機、心率監控設備、人體微動監控設備等;在車聯網中,智能終端設備主
33、要包含自動駕駛車輛、路側攝像頭、智能紅綠燈、車載娛樂終端設備等?;诙藗人懔W絡移動特性、分布特性及組網特性,可以分為時空高度動態組網、室內泛在大連接組網、多協議動態自治組網、多層次算力智能調度四種端側算力網絡形態。14 時空高度動態組網:時空高度動態組網:端側算力網絡中,大部分終端設備具備可移動性,如上圖所示,由自動駕駛車輛移動終端組成的車輛終端側算力網絡,在 t1 和 t2 時刻,車輛終端的移動性使車輛終端側算力網絡拓撲處于高度的動態變化之中。室內泛在大連接組網:室內泛在大連接組網:現在,幾乎所有的生活設備都被賦予了智慧化的能力,具備一定數據感知、數據處理能力,這些泛在的終端設備通過無處不
34、在的連接組成端側算力網絡,呈現出泛在大連接的組網形態,如上圖所示,家庭中的智能冰箱、智能門鎖、智能攝像頭、智能電視、智能冰箱、掃地機器人、智能窗簾、煙霧警報設備不再只是獨立運行,承擔某一項特定的功能,而是作為一個泛終端在端側算力網絡中與其他設備協同運行。多協議動態自治組網:多協議動態自治組網:終端設備之間可以采用短距離通信技術進行設備綜合能力評估值的通告以及任務的轉發調度,智能臺燈可以使用低功耗的 ZigBee 技術與臺式機建立算力信息通告以及算力任務調度的連接,筆記本電腦與臺式機之間可以接入同一個 WiFi 進行算力組網,打印機與手機之間可以通過藍牙技術傳輸算力信息,此外還可以使用D2D、超
35、寬帶(UWB)技術組建多協議動態的終端算力自治網。所有分布式的智能終端設備可以感知自己的實時存算能力、剩余電量、任務處理需求,根據設備歸屬者的意愿以及設備的綜合能力評估值選擇將自己的終端設備加入端側算力網絡中(入網)或者將自己的終端設備退出端側算力網絡中(退網),如上圖所示,具有較強的存算能力 15 且有較多的剩余電量的智能手機可以選擇入網,使得設備的算力資源得以充分利用,電量不足的平板電腦可以選擇退網,降低自己的電量損耗。多層次算力智能調度:多層次算力智能調度:泛在化的終端設備往往具有不同等級的任務計算能力、數據存儲能力,例如在辦公園區中,終端設備的存算能力等級通常為智能臺燈打印機手機平板電
36、腦筆記本電腦臺式機,與此同時,終端設備的存算能力隨著業務負載狀態的變化處于動態變化的狀態。同時,在端側算力網絡中,大部分終端設備為電池供電設備,終端設備剩余的電量也處于實時的變化狀態。具備不同算力能力的終端設備可以通過端側算力網絡實現智能地算力共享,如上圖所示,算力能力較低的智能臺燈可以向智能網關發起算力請求,智能網關基于一定的算力共享策略將智能臺燈的算力任務發送至臺式機進行處理。根據覆蓋范圍的不同,端側算力網絡可以分為場域終端算力網、局域終端算力網、異域終端算力網三種不同規模的端側算力網絡。場域終端算力網:場域終端算力網:如上圖所示,家庭 1,家庭 2,家庭 3,公司 1,公司 2 中的泛在
37、終端設備分別基于多種短距離通信協議構建成一個空間場景內的終端算力網,每一個時刻馬路上一定范圍內的智能終端也可以構建成一個場域終端算力網,在自場域端側算力網絡中,具有算力需求的終端設備可以在場域終端算力網內發布算力需求信息,最終基于算力編排策略將任務遷移到場域終端算力網內的其他終端進行協同處理。16 局域終端算力網:局域終端算力網:同一個邊緣代理管控范圍內的多個不同的場域終端算力網可以組成一個局域終端算力網絡,如上圖中不同的顏色塊所示,不同的家庭中的智能家居設備由于算力歸屬者不同、通信范圍受限等因素無法形成場域終端算力網,但是同一棟樓的多個家庭可以形成一個局域終端算力網,每一個家庭可以評估自己的
38、所有智能家居設備的綜合能力,并將算力能力實時上報給邊緣代理服務器,當局域終端算力網出現無法有效地處理自身的任務請求的情況時,1)可以通過智能網關設備將局域終端算力網的算力請求發送至邊緣代理服務器,邊緣代理服務器在局域終端算力網中做出智能算力調度決策,將決策信息發送至需要算力資源的局域終端算力網的智能網關,2)也可以通過智能網關從邊緣代理服務器獲取局域終端算力網中所有場域終端算力網的綜合算力評估信息,然后做出智能算力調度決策。異域終端算力網:異域終端算力網:連接不同的邊緣代理服務器的局域終端算力網組成異域終端算力網,即泛在的端側算力網絡。由于終端設備的數據往往包含使用者的敏感信息,因此終端的算力
39、交易往往會選擇可信終端,如上圖所示,當家庭中的某些終端設備算力不足時,需要選擇其可信終端設備在外面的家庭用戶的手機,則需要通過網絡層進行跨網的異域終端算力調度。17 2.3 端側算力網絡的功能架構端側算力網絡的功能架構 應用服務層 異構操作系統層端側算力網絡控制層控制器LinuxWindowsAndroidHarmonyOS智能APPWeb 應用UI APP小程序北向接口南向接口 圖 4 端側算力網絡接口示意圖 如上圖所示,端側算力網絡控制層是屬于終端設備的一個模塊,為南北兩側提供中介。端側算力網絡控制層通過南向接口接入具有異構性的操作系統如 Linux、Android、windows、iOS
40、、HarmonyOS 等。這些基礎操作系統為上層端側算力網絡控制層的應用功能提供基礎的系統調用支持。同時,端側算力網絡控制層本身通過端側算力網絡互聯互通,是整體端側算力網絡的一個原子單位,結合人工智能與大數據技術,實現對資源的虛擬化、算力結構、算力調度和統一編排,為北向接口的應用服務提供功能 API,為實現對于用戶智能無感的應用服務奠定基礎。18 編排調度層虛擬化技術算力解構多層次算力調度設備集群管理層次化算力感知圖服務管理基礎操作系統LinuxWindowsAndroidiOSHarmonyOS資源層計算資源存儲資源電池剩余量數據感知能力網絡資源應用組件常用算法自動駕駛機器人系統艦隊管理異常
41、檢測算法闖入識別PCDN時序網絡軟工控實時處理人臉識別訪客管理明火識別人流檢測多攝像頭系統低功耗傳感器應用服務智能APP小程序Web 界面UI APP第三方業務系統設備層智能手機平板電腦無人機攝像頭車載設備智能家居安全與隱私區塊鏈同態加密量子計算多方安全 圖 5 端側算力網絡功能架構圖 端側算力網絡從功能架構上分為設備層、資源層、基礎操作系統、編排調度層、應用組件、應用服務以及安全與隱私,如上圖所示。1.設備層 快速增長的終端設備數量和繁多的終端設備種類為端側算力網絡提供了大量潛在的泛在算力,是端側算力網絡組建的關鍵。終端設備承載了上層的應用服務,是端側算力網絡為用戶提供服務的基礎。2.算網資
42、源層 算力網絡資源層是端側算力網絡的堅實底座。以高效能、集約化、19 綠色安全的新型一體化基礎設施為基礎,形成泛在的分布式算力體系,滿足現場級的算力需求,網絡資源實現端算力高速互聯,滿足數據高效、無損傳輸需求。用戶可以隨時隨地隨需地通過無所不在的網絡接入無處不在的算力,享受算力網絡的極致服務。3.基礎操作系統層 基礎操作系統為上層的應用功能提供基礎的系統調用支持。雖然基礎操作系統多種多樣造成了終端設備在操作系統上具有異構性,但是也為終端設備適應不同場景的需求提供了底層支持。4.編排調度層 編排調度層是端側算力網絡的調度中樞,通過將端側算網原子能力靈活組合,結合人工智能與大數據技術,向下實現對算
43、網資源的虛擬化、算力解構、算調度和統一編排,提升端側算力網絡效能,向上提供端側算網調度能力接口和服務編排管理能力,支持端側算力網絡多元化服務。5.應用組件層 在應用層和編排調度層之間增加了應用組件層,實現了資源和服務的解耦,同時,各種智能化組件也為應用服務層的提供了可調用的智能 API,為實現智能無感的應用服務奠定基礎。6.應用服務層 應用服務層為用戶提供服務,是端側算力網絡的服務和能力提供平臺,通過算力網絡原子化能力封裝并融合多種要素,實現算網產品 20 的一體化服務攻擊,使用戶享受便捷的一站式服務和智能無感的體驗,同時通過利用社會多方算力,結合區塊鏈等技術構建可信算網服務統一交易和售賣平臺
44、,提供算力電商等新模式。7.隱私和安全 端側隱私和安全技術是以算網自身安全能力為基礎,以智能分析、靈活編排為手段,形成主動免疫、協同彈性的安全能力,滿足網絡行為可預期、強管理、差異化的安全需求,主要借助安全算力編排技術,高安全隔離技術、算力安全對抗技術等,構建算力網絡安全體系,實現端側算力網絡的自免疫能力。2.4 端側算力網絡的主要特征端側算力網絡的主要特征 1.自治組網 終端設備之間主要靠無線鏈路相互通信,所以它們之間的網絡主要靠自治組網。2.時空高動態性 由于終端設備具有移動性,終端設備的位置在時間和空間兩個維度上都存在動態性13,而且終端設備的算力同樣存在時空高動態性,那么端側算力網絡就
45、需要兼顧這些動態特征。3.多層次多級端算力 端側算力網絡中終端設備之間的差異性較大,在組網的時候呈現多層次多級別的特點。4.歸屬多樣性 21 端側算力網絡根據終端設備的歸屬往往屬于不同的業主,公司,具有歸屬多樣性。5.強安全隱私 由于終端設備的歸屬多樣性,且數量大,隱私泄露定位與安全問題的排查量大,所以需要確保端側算力網絡的強安全隱私性14-15。6.交易定價多方參與 端側算力網絡中的設備歸屬個人或企業,端側算力的交易將會涉及到不同的設備歸屬方,這時它們之間的交易定價往往具有多方參與的特點16。7.多維度泛算力度量建模 終端設備的算力信息具有多維度的特點,主要包括計算資源總量、計算資源使用量、
46、存儲資源總量、存儲資源使用量、電池剩余量、通信范圍、數據感知能力、移動速度、移動方向等等,需要在多個維度對終端設備進行泛算力度量建模來為任務調度提供先驗信息。8.感知能力面向用戶 終端設備是業務出現的源端和結果展示的終端,其感知能力直接面向用戶,而算力網絡中的邊緣和云則是任務處理的中轉站,其感知能力主要面向資源需求。22 三、端側算力網絡的關鍵技術三、端側算力網絡的關鍵技術 本章中,我們從端側算力的有效利用的角度總結了一些目前普遍關注的端側算力網絡各項關鍵使能技術,包括層次化端算力感知圖模型、面向多終端協同的資源虛擬化技術、面向多終端協同的數據壓縮技術、多粒度多層次端算力調度、面向終端設備的現
47、場級 AI 推理、端算力的定價機制等內容。而網絡如何更好的支撐端側算力、網絡對端側算力的影響等相關的技術內容在本白皮書中尚未涉及,留待進一步討論。3.1 層次化端算力感知圖模型層次化端算力感知圖模型 圖 6 層次化算力感知圖模型 終端設備的算力信息影響因素主要包括計算資源總量、計算資源使用量、存儲資源總量、存儲資源使用量、電池剩余量、通信范圍、數據感知能力、移動速度、移動方向、微服務實例、隱私保護度,為 23 了使能端側算力網絡進行實時、有效地算力調度,構建終端設備的算力特征向量 A=計算資源剩余量,存儲資源剩余量,電池剩余量,通信能力,數據感知能力,移動模式,微服務匹配度,隱私保護度,根據終
48、端設備的特征向量評估終端設備的綜合算力值 X=a計算資源剩余量+b存儲資源剩余量+c電池剩余量+d通信能力+e數據感知能力+f(移動模式)+L(微服務匹配度)+Y(隱私保護度)。進而通過聚類算法可以將終端設備基于算力度量值進行層次化分組,如圖所示可以分為三級算力設備,第三級終端設備在自組織網內進行端到端的算力信息通告,基于圖論中心點理論和 Age of Information 指標值可以確定感知并更新實時信息最多的 12 個終端設備17-18,作為關鍵終端設備(K),由關鍵終端設備將三級終端設備的算力信息發送至二級終端設備,二級終端設備同樣在自組織網內通告已知的算力信息,并確定關鍵終端設備,將
49、信息發送至一級終端設備,一級終端設備在端側算力網絡內進行信息交互,進而匯聚全網算力信息,在受限的通信、感知、計算范圍內得到算力信息更新度最大化的層次化端側算力網絡圖。3.2 面向多終端協同的資源虛擬化技術面向多終端協同的資源虛擬化技術 端側算力網絡的一個重要特點就是需要多終端協同處理一個任務,不同的終端設備的硬件差異較大,資源虛擬化是將設備的硬件能力進行抽象,構建虛擬化資源池,實現不同設備之間的硬件能力共享,突破單一終端設備的處理能力的局限性,化零為整19。24 同時,端側算力網絡能根據業務類型的不同,為用戶匹配并選擇能力合適的執行終端,讓業務無縫地在不同設備之間流轉,充分發揮不同設備的能力優
50、勢,如顯示能力,攝像能力,音頻能力,交互能力以及傳感器能力等。比如在用戶使用應用的過程中,當使用情景發生變化時(比如從室內走到室外,從車站到高速移動的車上),之前正在使用的設備可能就不再適合處理某些任務,或者當前所處環境周圍有更合適的設備。那么,用戶可以選擇新的設備來繼續執行當前任務,而利用這些新的設備來執行這些任務可以給用戶帶來當前環境下更好的用戶體驗。這種情況可以稱為“跨端延續”或“跨端接連”。圖 7 多終端協同 而云終端的出現讓廣泛的終端可以更好的和云邊協同,云終端作為一種專門利用云的虛擬資源進行計算處理的終端對于云邊的虛擬資源的利用具有獨特的優勢和能力,可以說云終端的存在為終端的虛 2
51、5 擬資源和云邊的虛擬資源的互通搭建起了一座橋梁20。3.3 多終端協同的數據壓縮技術多終端協同的數據壓縮技術 端側算力網絡可以加速智慧醫療、智慧家居、智慧城市、智能工廠、智能汽車等愿景的落地,實現這些智慧應用需要實時感知并傳輸泛在環境中的海量數據,海量數據通常為高清攝像設備獲取的高分辨率視頻,數據量的大幅增長對端側算力網絡中終端設備之間的通信容量提出了全新的挑戰,為了在端側算力網絡中實現有效地數據傳輸,充分利用端側算力網絡中各個終端設備的有效算力資源,基于信息論、編解碼理論、學習理論有效地壓縮海量環境數據,將是端側算力網絡中的一項關鍵技術研究。近幾年,隨著深度學習理論研究的快速發展,其在數據
52、壓縮領域的優勢也逐漸凸顯,隨機神經網絡、卷積神經網絡、遞歸神經網絡、生成對抗網絡、變分自動編碼器等陸續被應用到數據壓縮技術之中,利用深度學習模型的非線性映射能力,可以快速學習到海量數據的深層次特征,更加有效地去除掉冗余數據特征,進而滿足海量數據壓縮的需求,進而實現端側算力網絡中終端設備之間海量數據的低時延傳輸。3.4 多粒度多層次端算力調度多粒度多層次端算力調度 由于終端設備具有算力較小,數量多的特點,對應一般的大型任務無法在一個終端上承載,就需要將大型任務的算力需求進行解構,滿足終端設備的算力約束。同時終端設備種類繁多,不同種類的設備之間的算力資源差距較大,所以需要考慮多層次,多層級的算力調
53、度 26 方案。1.算力解構 業務業務微服務A微服務A微服務B微服務B微服務微服務C C 圖 8 算力解構圖 算力解構是將多樣化,大粒度,復雜的算力需求,根據業務邏輯,資源需求,性能需求,服務持續性,業務流粘性,資源節點統一性等因素,分解成小粒度,簡化的算力需求,使業務可以分布式地部署在多個終端算力節點上,突破單個設備資源能力有限的瓶頸,實現業務的靈活部署,資源的高效利用,同時實現任務的并行處理,大大縮短任務處理時延21。其中算力需求包括應用的 ID 信息,用來標識應用和用戶信息;性能需求信息,如網絡性能包括帶寬,丟包率,安全性,穩定性等;計算需求信息,包括計算資源類型如 CPU,GPU,FG
54、PA 芯片等。結合應用的算力需求和當前的算力感知圖,需要利用微服務等技術將單一的應用程序劃分成一組適配于當前算力網絡圖的小的任務,27 通過松耦合的通訊機制實現服務之間的互相協調,互相配合,聚合為用戶提供最終價值22。2.多層次多級別算力調度 多層次的算力調度主要分為兩個方面,分別是一個端側算力網絡內部的多層次調度和云邊端協同的多層次調度23-24。一個端側算力網絡內部根據算力大小級別進行分層次組網,由于某個設備上產生的業務大多都和該設備的算力級別相匹配,所以最開始匹配同層次的終端設備空閑算力資源進行調度;一旦業務的算力需求同級別算力的設備無法承載的時候則開始考慮更高算力級別的終端設備的空閑算
55、力資源。而云邊端協同則是將端側算力網絡與算力網絡相融合,因為端側算力網絡中設備數量巨大,設備具有普遍的異構性,而且大量終端設備屬于用戶私有設備。云邊側的服務器規模相對于端側較小,設備異構性弱,且云服務器歸企業所有。根據業務的不同需求可以將某些需要的算力大而且并需要安全保障的業務調度到云邊的算力網絡中,而將需要算力小,隱私需求高的業務限制在端側算力網絡中用戶的私有設備上執行。多個端側算力網絡之間可以分為多個級別,如家庭級的端側算力網絡,工業園區級的端側算力網絡等。相同級別的端側算力網絡中的業務相互的適配性更好,所以當一個端側算力網絡內部無法實現滿足該網絡內設備所有任務的算力需求時,則將優先考慮相
56、同級別端側算 28 力網絡之間的任務調度方案,一方面相同級別的端側算力網絡中的任務類型類似,硬件契合度更高,另一方面同一級別的算力網絡之間的算力交易定價更加公平易于度量;具體將任務調度到哪個終端設備上則由其所在網絡內部進行自主編排。3.5 面向終端設備的現場級面向終端設備的現場級 AI 推理推理 全局模型本地個性化網絡1本地個性化網絡2 局部參數更新從全局拉取相關參數 圖 9 個性化 AI 推理 設計更高準確率、更高效、更智能、且可以在 AIoT 終端設備上部署的現場級個性化 AI 推理模型25是端側算力網絡設計的一個關鍵技術。如上圖所示,終端設備可以基于用戶的使用習慣,更容易智能地提供具有差
57、異性的智能化服務,既能保障用戶隱私又提供用戶智能感知推薦的服務。本地個性化網絡數據往往樣本較小且具有差異性,可以采用端側小樣本學習、遷移學習26、在線學習27等方法設計個性化的現場級 AI 推理模型,并采用模型壓縮28、模型量化等方法將 29 模型部署在終端設備上,在端側算力網絡中進行聯合學習。3.6 端算力的定價機制端算力的定價機制 由于端側算力網絡中的終端設備的歸屬者包括個人、企業、運營設備商等,當用戶需要借助其他用戶的終端設備進行計算卸載時,不可以避免會進行算力交易29,因此需要一套合理的算力交易的定價體系?;趨^塊鏈工作量證明機制30的定價策略。根據區塊鏈中的工作量證明機制,礦工需要購
58、買更多的算力才能提高挖礦成功率,獲得更多的獎勵,這也意味著付出更高的成本代價,因此不同算力歸屬商之間出現了一個算力需求與定價博弈問題。算力提供者以最大化自己的利潤為目標設定算力資源價格,而算力請求者以挖礦獎勵最大化為目標,從供應商購買算力。為了解決這個問題,提出一個以博弈者的行為序列為基礎,將算力提供者和算力請求者的算力交易建模為一個兩階段的 Stacklberg 博弈過程31,第一階段,算力提供者設定算力資源價格,并向算力請求者收取計算卸載費用;第二階段,算力請求者根據價格決定從算力提供者購買算力服務?;谂馁u算法的算力資源定價策略32。首先算力提供者出價以及給出自己的算力資源總量,但是算力
59、提供者在拍賣結束之前無法知道其他提供者所出的價錢以及計算資源總量,因此他只能根據自己的預期回報給出較為合理的價格。最后算力請求者從所有出價的算力提供者中選出優勝者并將計算任務卸載至出價優勝者處。30 此外,還可制定其他的定價策略,如基于多智能體強化學習系統的模擬專業交易機制33等,都是可以進一步探索的技術和方法。31 四、端側算力網絡的隱私與安全四、端側算力網絡的隱私與安全 4.1 認證與鑒權認證與鑒權 終端設備身份認證和鑒權是一種終端設備的可信身份標識,具有不可篡改、不可偽造以及唯一的安全屬性,是實現終端設備接入、確定責任歸屬以及防止惡意攻擊的基礎設施。因此需要對接入端側算力網絡的終端設備進
60、行身份認證及鑒權。終端設備在生產過程中會燒錄一定的內容在 flash 中,來讓設備證明自己的唯一與真實,這種情況下端側算力網絡會為終端設備分配設備 ID 與設備密鑰。設備 ID 代表終端設備的唯一性,通常是一些唯一的字符串,以保證設備 ID 在算力網絡中是唯一的。設備密鑰代表了終端設備的真實性,設備密鑰是設備的指紋,終端設備本身會攜帶,而在端側算力網絡中也有一份對應的密鑰。此外,用戶為終端設備發放算力令牌(TOKEN),具有設備 ID 和密鑰、且獲得算力令牌的終端可按照組網和調度算法納入算力網絡納管,并進行周期性的更新、認證和鑒權,以防其被盜用。通常情況下,設備密鑰有幾種使用方式:終端設備密鑰
61、與端側算力網絡中的密鑰相同;終端設備存儲私鑰,端側算力網絡存儲公鑰;終端設備存儲公鑰,端側算力網絡存儲私鑰。通過設備的密鑰和存儲在端側算力網絡中的密鑰進行匹配和對比,可以實現終端設備的身份認證以及鑒權。在認證和鑒權過程中,可以通過聯邦和自治的方式,端設備共同選舉出一些中心節點對端設備進行認證和鑒權,這些中心節點也可以 32 隨著時間的推移和任務需求的變化而改變。由于端設備的異構性和復雜性,端設備之間的認證和鑒權相對于云計算和邊緣計算會更加復雜,仍待進一步研究。4.2 數據安全保護數據安全保護 端側算力網絡對隱私和安全的要求更高。在端側可以借助多方安全計算34(MPC)、同態加密35(HE)以及
62、區塊鏈等技術,在不泄露敏感數據的前提下,對終端設備產生的數據進行分析計算,引入隱私計算,可以依托多方算力,分治計算任務,融合中間數據得到最終計算結果,實現算力服務對數據的可用不可見,為用戶提供安全的計算服務。原始數據加密數據加密數據原始數據加密數據原始數據計算函數計算結果 圖 10 安全計算流程示意圖 隱私保護的限制使得許多含有隱私信息的數據無法被有效的利 33 用,隱私保護技術和數據共享之間的矛盾日益凸顯,多方安全可以在一組互不信任的計算參與者之間進行協同計算,同時還能保護參與方的隱私。多方安全計算的原理圖如上圖所示。每個參與方都有一個私有的輸入數據,所有參與方在將數據加密之后共同計算某個函
63、數,且要求在計算結束時,每個參與只能得到私有輸入數據的輸出,而不能得到其他參與方的輸入信息與輸出結果。多方安全技術主要通過同態加密技術、混淆電路(GC)、不經意傳輸(OT)和私密分享技術(SS)來進行保障。同態加密是一類具有特殊自然屬性的加密方法,可以在密文域下進行數據運算的加密算法?;煜娐匪枷胧抢糜嬎銠C模擬集成電路的方式來實現多方安全計算,他將運算任務轉化為門電路的形式,對每一條線路進行加密,可以有效保障用戶的隱私安全。不經意傳輸技術是一種可保護隱私的秘密協議,他使得服務發送方和接收方以不經意的方式交互信息,從而達到保護隱私的目的。秘密分享也被稱為秘密分割,是一種對秘密信息的管理方式,它
64、將秘密進行拆分,拆分后的每一個分片由不同的參與者管理,單個參與者無法恢復秘密信息,需要超過一定門限數量的人一同協作進行合并才能恢復秘密文件。多方安全計理論主要解決的是各個數據參與者的信息保護和計算正確性問題,能夠實現在無第三方的條件下,在保護數據不泄露的前提下保證計算的正確性。端側算力網絡中,多方安全計算可以讓終端設備在不泄露敏感數據的情況下讓自己產生的數據得到有效的計算。34 4.3 可信交易可信交易 算力交易是指端側算力提供者參與的可信交易模式36,算力網絡通過搭建以平臺型共享經濟服務模式為核心,數字化網絡為依托的算力服務運營交易平臺,構建供給方和消費方的橋梁,盤活新建和存量算力資源。當不
65、同算力歸屬者之間發生任務卸載,即一個算力歸屬商向另外一個算力歸屬商提供算力時,算力交易不可避免地出現。根據區塊鏈技術,提出以下算力交易模型如下圖所示。邊緣服務器區塊鏈智能合約賬戶資源交互消息控制 圖 11 可信交易架構圖 模型由邊緣層和設備層組成,設備層的每個節點通過部署在邊緣服務器上的可信授權代理完成注冊,以獲取合法身份標識和安全證書,并使用橢圓曲線加密算法37獲取私鑰,以生成賬戶地址加入區塊鏈。35 屬于同一個歸屬者的終端設備之間進行任務卸載,不需要進行算力交易,而不同歸屬者之間進行任務卸載時,則會產生算力交易,算力提供者為算力請求者提供算力服務,以實現計算卸載。邊緣節點為整個系統提供廣域
66、監視和控制,進一步提高系統的安全性。在云挖掘機制的輔助下,算力請求者可以向算力提供者購買算力,并且將計算任務卸載到算力提供者處。模型中的交易過程如下圖所示,智能合約區塊鏈8 審計區塊4 發送算力需求訂單5 提供算力資源6 支付算力資源服務費端側用戶端側用戶Block1Block2Block3 圖 12 可信交易流程圖 由于一部分算力提供者可能由于網絡波動以及自身任務占用抑或是惡意出價,導致算力請求者卸載過來的計算任務無法按時按量的 36 完成,因此需要建立一個完備的交易評價體系和算力提供者信譽積分體系38,在算力交易結束后對此次交易進行打分,并對算力提供者的信譽積分進行評估,對于那些信譽積分較
67、低的算力提供者,將會禁止其進行算力交易。37 五、端側算力網絡的應用場景五、端側算力網絡的應用場景 5.1 智能家居智能家居 業務分流個性化的模型訓練 圖 13 智能家居 智能家居通過物聯網技術將家中的各種設備連接到一起,提供家電控制、照明控制、電話遠程控制、室內外遙控、防盜報警、環境監測、暖通控制、紅外轉發以及可編程定時控制等多種功能和手段。由于智能家居的強安全隱私需求,各種任務的處理往往是在本地執行,這會帶來高時延和低算力利用效率的缺陷。因此為了進一步提升住戶體驗,可以引入端側算力網絡,將時延敏感型或者計算密集型任務調度到適當的設備上進行處理,因為任務在家庭中的設備上處理,不會經過外網,可
68、以在保證隱私不被泄露的前提下提升服務的質量。智能家居中的端側算力網絡還可以實現業務的跨端遷移從而更好的利用不同設備的優勢功能給用戶以最好的體驗,比如用戶可以通 38 過端側算力網絡將自己手機上播放的視頻遷移到高清大顯示屏上,將郵件編輯相關的業務遷移到平板上,將音頻業務遷移到高性能耳機上播放,實現不同設備之間的硬件能力共享。其次,針對安防系統中攝像頭拍攝的視頻流可以遷移到智能家居中閑置的設備比如空調,智能音響等設備進行存儲和處理,并將結果返回給安防系統,這樣可以減輕智能攝像頭的業務壓力,通過業務分流,縮短任務處理時延,提高終端設備的算力利用率。還可以在智能家居中通過實現個性化深度強化學習來更好地
69、為人服務,比如說智能家居中空調溫度的自動調節,可以根據當前室內溫度,濕度,時間,室內人的穿衣情況通過以往室內主人調節溫度的行為訓練更加個性化的模型來自適應的調節溫度39。5.2 智能醫療智能醫療 圖 14 智慧醫療 39 在新冠疫情的影響下,線上醫療得到了迅速的發展,國家全面推進互聯網診療以減少交叉感染的風險40。相比線下門診,在線問診,線上醫療需求大幅提升?;颊叩牟v以及相關的健康數據對用戶來說是隱私數據,設備直接采集患者的數據并上傳到云端處理則容易造成隱私泄露,給患者造成困擾。采用端側算力網絡則可以將患者的敏感數據傳輸到網絡中的可信設備進行脫敏處理,以達到保護患者的目的。隨著各式各樣的終端
70、設備和智能終端的蓬勃發展,各類高度集成的可穿戴設備可以實時地收集個人的健康數據,并且可以將數據上傳至端側算力網絡,同時通過對個人隱私數據進行脫敏和加密,實現數據實時存儲分析處理并且保證用戶的隱私和安全。通過各類可穿戴的終端設備組合,構成專注于個人健康的智慧醫療系統41。通過終端設備獲取的真實世界數據與電子病歷相結合,實現院內與院外的全周期健康管理。各類非接觸式傳感器的普及,讓以家庭為單位的健康監測成為可能。通過對以跌倒監控器、家用血壓計、嬰兒呼吸監測儀、非接觸睡眠監測儀等為代表的非接觸式傳感器的設置,并結合可穿戴設備和網關設備等,組建用于健康監測的端側算力網絡,可以實現對家庭成員的各項健康指標
71、的實時監控。例如,通過跌倒傳感器、聲音傳感器以及邊緣網關相結合的方式,可以很好地監控老人跌倒情況,一旦老人跌倒或呼救,傳感器通過視覺深度、陀螺儀、聲音分析等方式檢測到后立即傳輸至網關,并經由網關連通至老人所在地社區的衛生服務信 40 息系統以及最近的醫院急救系統,以最快的速度為老人提供急救措施。5.3 車聯網車聯網 即將追尾危險告知算力輔助 圖 15 車聯網 智能車輛的算力在 6G 網絡愿景和自動駕駛業務的驅動下升級顯著,智能車輛終端、路側監控終端、道路指示燈終端等可以組建成一個動態變化的區域自治端側算力車聯網絡42。車輛在行駛過程中可能由于無法獲取視距外的道路交通信息而處于危險之中,在端側算
72、力車聯網絡中,終端設備可以基于分布式一致性協議進行數據信息的協同,周圍車輛可以獲取危險車輛位置周邊的路況交通信息43,并利用周圍車輛的算力進行信息處理,向危險車輛發出預警信息,輔助車輛安全行駛。當一個智能車輛終端算力資源不充足時,端側算力車聯網絡可以根據各個終端的算力狀態,將資源匱乏的智能車輛的業務調度至資源充足的智能車輛,實現終端智能共享算力資源。41 當車輛終端由于行駛速度、行駛方向的差異無法進行通信時,端側算力車聯網絡可以實時更新網絡狀態,組建新的端側算力網絡。5.4 智慧教育智慧教育 數據傳送結果返回 圖 16 云終端在多媒體教育中的應用 多媒體教室使用傳統的主機無論是成本還是軟、硬件
73、維護,數據安全上都難以管理和保護,比如當操作系統升級時,每臺電腦都要手動去安裝系統軟件或者升級。而且使用傳統的主機隨著時間的推移,PC 上的 CPU、內存、硬盤、顯卡、電源、主板、風扇等部件都存在升級和損壞的可能,這些都需要維護更換。同時使用傳統的主機因為包含 USB 和軟驅即外來的接口,需要不斷升級而且容易通過 U 盤帶來病毒攻擊。為了省去這些繁瑣的過程并且便于管理,可以使用云終端,只需管理好服務器端即可,具體的數據隱私安全保護和系統升級等都由運營商來維護管理,可以保證性能穩定,節省成本資源44。作為算力網絡資源的使用者,通過多層次多粒度端側算力調度和面向多終端協同的資源虛擬化,云終端可以作
74、為中繼節點和其他終端相互 42 協同,促進端側算力網絡資源和算力網絡資源之間的協同共享,從而獲得更高的效益。5.5 智慧農業智慧農業 圖 17 智慧農業 近些年,隨著物聯網技術、音視頻技術、無線通信技術以及 3S技術的進步,智慧農業開始走進我們的生活之中,并備受政府以及產學研界的關注。智慧農業通過部署眾多不同功能的傳感器收集作物的生長數據、土壤數據、環境數據以及氣象數據,將傳感器收集的數據通過農田內安置的基站傳輸至云端,運用大數據、人工智能等技術進行智能分析并做出管理決策。除此之外,智慧溫室大棚中的還需要安裝加溫補光、內外遮陽、風機、滴水灌溉、水肥一體化設備,并需要對這些設備做出精準控制以及監
75、測設備的運行狀態。目前,智慧農業模式傳感器數據傳輸至中心云通常時延較長,無法滿足農作物生長對 43 于實時溫濕度敏感的特性。與此同時,智慧農業園區中的智能攝像頭、溫控設備、智能網關、采摘機器人等設備都已經具備一定的通信與計算能力,并且智慧農業中的供電設備可以通過太陽能進行供電,具備綠色節能的優勢。因此,在智慧農業園區中建立端側算力網絡,充分利用智慧農業園區的終端設備的算力資源,將傳感器、攝像頭采集的數據傳輸至采摘機器人、智能網關、工作人員的手機等終端設備中,并通過多個終端設備協同分析,可以快速做出設備控制決策,并充分利用園區的太陽能資源,通過長期的數據分析賦能我國農業穩步健康發展。44 六、結
76、束語六、結束語 端側算力網絡是算力網絡的重要組成部分。端側算力網絡充分利用分布式多級終端側算力資源,通過構建高效的端側算力體系架構和新型網絡范式,實現端側算力感知、資源虛擬協同、多粒度算力調度以及安全隱私與可信交易,進而顯著增強終端側新型算力的利用能力。本白皮書從端側算力的有效利用的角度出發,介紹了終端的發展背景、端側算力網絡的概念及架構、關鍵技術等主要內容,并分析了其隱私與安全性能,給出了端側算力網絡的主要應用場景,為端算力技術研究及實際網絡演進與發展提供參考。通過本白皮書,助力加快國家算力網絡戰略、前沿技術和應用的發展,凝聚學術界和產業界共識,推進端側算力網絡技術加快發展并走向商業成熟。4
77、5 參考文獻參考文獻 1 Cisco U.Cisco annual internet report(20182023)white paper.2020J.Acessado em,2021,10(01).2 https:/ https:/www.t- 4 https:/ 5 https:/ 6 J.Peng,H.Qiu,J.Cai,W.Xu and J.Wang,D2D-Assisted Multi-User Cooperative Partial Offloading,Transmission Scheduling and Computation Allocating for MEC,in I
78、EEE Transactions on Wireless Communications,vol.20,no.8,pp.4858-4873,Aug.2021.7 L.U.Khan,W.Saad,Z.Han,E.Hossain and C.S.Hong,Federated Learning for Internet of Things:Recent Advances,Taxonomy,and Open Challenges,in IEEE Communications Surveys&Tutorials,vol.23,no.3,pp.1759-1799,thirdquarter 2021.8 36
79、 氪.智能硬件終端行業研究報告R,2019.9 S.Wang,X.Zhang,Y.Zhang,L.Wang,J.Yang and W.Wang,A Survey on Mobile Edge Networks:Convergence of Computing,Caching and Communications,in IEEE Access,vol.5,pp.6757-6779,2017.10 計世資訊.中國云終端市場發展報告R,2022.11 J.Liu,Y.Sun,J.Su,Z.Li,X.Zhang,B.Lei and W.Wang,Computing Power Network:A Te
80、stbed and Applications with Edge Intelligence,IEEE INFOCOM 2022-IEEE Conference on Computer Communications Workshops(INFOCOM WKSHPS),2022,pp.1-2.12 Y.Sun,J.Liu,H.Huang,X.Zhang,B.Lei,J.Peng,W.Wang,“Computing Power Network:A Survey”,submitted to China Communications.13 X.Dai et al.,Task Co-Offloading
81、for D2D-assisted Mobile Edge Computing in Industrial Internet of Things,in IEEE Transactions on Industrial Informatics,doi:10.1109/TII.2022.3158974.46 14 H.Long,C.Xu,G.Zheng and Y.Sheng,Socially-Aware Energy-Efficient Task Partial Offloading in MEC Networks with D2D Collaboration,in IEEE Transaction
82、s on Green Communications and Networking,doi:10.1109/TGCN.2022.3153956.15 L.Zhang and J.Xu,Differential Security Game in Heterogeneous Device-to-Device Offloading Network Under Epidemic Risks,in IEEE Transactions on Network Science and Engineering,vol.7,no.3,pp.1852-1861,1 July-Sept.2020.16 M.Chen,H
83、.Wang,D.Han and X.Chu,Signaling-Based Incentive Mechanism for D2D Computation Offloading,in IEEE Internet of Things Journal,vol.9,no.6,pp.4639-4649,15 March15,2022.17 孫鈺坤,張興,雷波.邊緣算力網絡中智能算力感知路由分配策略研究J.無線電通信技術,2022,48(01):60-67.18 A.A.Al-Habob,O.A.Dobre and H.V.Poor,Age-and Correlation-Aware Informati
84、on Gathering,in IEEE Wireless Communications Letters,vol.11,no.2,pp.273-277,Feb.2022.19 鮮領.分布式異構無人系統資源虛擬化技術研究與驗證D.四川:電子科技大學,2021.20 馬 學 偉.云 計 算 與 云 終 端 在 高 校 中 的 應 用 J.無 線 互 聯 科技,2020,17(18):148-149.21 龍隆,劉子辰,石晶林,等.移動邊緣計算中計算卸載與資源分配的聯合優化策略J.高技術通訊,2020,30(8):765-773.22 鄧欣.微服務架構在分布式系統的設計和應用J.品牌研究,2020(
85、33):102.23 劉澤寧,李凱,吳連濤,等.多層次算力網絡中代價感知任務調度算法J.計算機研究與發展,2020,57(9):1810-1822.24 L.Junlin,Z.Xing,et al.,“Energy-Efficient Computation Offloading for Mobile Edge Networks:A Graph Theory Approach”,in IEEE/CIC ICCC,Xiamen,China,Jul.2021.25 S.Yukun,Z.Xing,and Z.Yongdong,“Mobility and traffic Prediction-Base
86、d resource allocation with edge intelligence in wireless network,”in 2021 13th 47 International Conference on Wireless Communications and Signal Processing(WCSP21),Changsha,China,Oct.2021.26 M.Wang,Y.Lin,Q.Tian and G.Si,Transfer Learning Promotes 6G Wireless Communications:Recent Advances and Future
87、 Challenges,in IEEE Transactions on Reliability,vol.70,no.2,pp.790-807,June 2021.27 Hoi S C H,Sahoo D,Lu J,et al.“Online learning:A comprehensive survey,”in Neurocomputing,2021,459:249-289.28 Berthelier A,Chateau T,Duffner S,et al.“Deep model compression and architecture optimization for embedded sy
88、stems:A survey,”in Journal of Signal Processing Systems,2021,93(8):863-878.29 雷波,趙倩穎.CPN:一種計算/網絡資源聯合優化方案探討J.數據與計算發展前沿,2020,2(04):55-64.30 沈哲鑫.基于區塊鏈的碳抵消研究綜述與展望J.中國商論,2022(04):112-115.31 吳雨芯,蔡婷.移動邊緣計算中基于 Stackelberg 博弈的算力交易與定價J.計算機應用,2020,40(9):2683-2690.32 鄭陽超,李珍妮.面向資源最優分配的深度學習雙邊拍賣算法J/OL.控制理論與應用:1-10
89、2022-05-17.33 C.T.Chen,A.Chen and S.Huang,Cloning Strategies from Trading Records using Agent-based Reinforcement Learning Algorithm,2018 IEEE International Conference on Agents(ICA),2018,pp.34-37.34 潘無窮,李婷婷,韋韜,張煜龍,段然,錢中天,李天一.分布式多方安全計算系統、方法和節點P.浙江?。篊N113992439B,2022-05-06.35 王騰,霍崢,黃亞鑫,范藝琳.聯邦學習中的隱私保護
90、技術研究綜述J/OL.計算機應用:1-152022-05-17.36 遲占博,張勖,李婧,邵蘇杰,王東濱.基于區塊鏈的可信交易完備性模式設計J.信息安全研究,2022,8(05):460-467.37 高思.加密算法在電子身份標識中的應用D.北京化工大學,2021.38 曹萱.基于區塊鏈技術的分布式能源交易平臺架構設計與實現D.北京郵電 48 大學,2021.39 古秋祥,羅朝暉,索凱,等.智能家居J.科技風,2019(24):15.40 劉夢祺.我國互聯網醫療發展的現實困境及立法對策探析兼評互聯網診療管理辦法(試行)等三份文件J.西南大學學報(社會科學版),2022,48(02):37-48
91、.41 孫海波,齊順利,孫平,于曉倩.智慧醫療系統設計與實現J.網絡安全技術與應用,2021(10):130-131.42 F.Tang,B.Mao,N.Kato and G.Gui,Comprehensive Survey on Machine Learning in Vehicular Network:Technology,Applications and Challenges,in IEEE Communications Surveys&Tutorials,vol.23,no.3,pp.2027-2057,thirdquarter 2021.43 A.Talpur and M.Gurus
92、amy,Machine Learning for Security in Vehicular Networks:A Comprehensive Survey,in IEEE Communications Surveys&Tutorials,vol.24,no.1,pp.346-379,Firstquarter 2022.44 王清勇,王宏.云終端在高校機房建設中的應用J.中國高新區,2019(11):31.49 縮略語縮略語 縮略語 英文全稱 中文含義 縮略語 英文全稱 中文含義 5G 5th Generation Mobile Networks 第五代移動通信 6G 6th Generati
93、on Mobile Networks 第六代移動通信 AI Artificial Intelligence 人工智能 AIoT Artificial Internet of Things 智能物聯網 API Application Programming Interface 應用程序接口 APP Application 應用程序 ARM Advanced RISC Machine RISC 微處理器 CPU Central Processing Unit 中央處理器 DPU Data Processing Unit 數據處理器 D2D Device to Device 設備到設備的通信 FPG
94、A Field Programmable Gate Array 現場可編程門陣列 FLOPS floating-point operations per second 每秒執行的浮點運算次數 GC Garbled Circuit 混淆電路 GPU Graphic Processing Unit 圖形處理器 HE Homomorphic Encryption 同態加密 IDC Internet Data Center 互聯網數據中心 I/O Input/Output 輸入輸出 50 IoT Internet of Things 物聯網 MPC Secure Multi-party Computa
95、tion 多方安全計算 NPU Neural-Network Processing Unit 嵌入式神經網絡處理器 QoS Quality of Service 服務質量 RISC Reduced Instruction Set Computer 精簡指令集計算機 OT Oblivious Transfer 不經意傳輸 SS Secret Sharing 私密分享 TCAN Terminal Computing Aware Network 端側算力網絡 TOPS Tera Operations Per Second 每秒操作一萬億次 UWB Ultra Wide Band 超寬帶技術 XR Extended Reality 擴展現實 X86 The X86 Architecture X86 計算機指令集