《百度安全：2018年人工智能硬件安全白皮書（17頁）.pdf》由會員分享，可在線閱讀，更多相關《百度安全：2018年人工智能硬件安全白皮書（17頁）.pdf（17頁珍藏版）》請在三個皮匠報告上搜索。

1、 人工智能硬件安全白皮書 聯合出品 人工智能安全白皮書 2 目錄 前 言. 3 1范圍 . 4 2術語定義與縮略語 . 4 3概述 . 5 4總體安全框架 . 6 5DuerOS 生態安全規范 . 7 6DuerOS 生態的安全問題 . 16 人工智能安全白皮書 3 前 言 為適應人工智能硬件快速發展的安全需要，由百度安全事業部AI安全團隊組織制定“人工智能硬件生態安全白皮書“，推薦相關開發者參考采用。有關對此白皮書的建議和意見，向百度安全事業部AI安全團隊反映。 此白皮書將持續進行迭代，請及時關注白皮書更新信息。 此白皮書為精簡版本，完整版本將面向百度合作伙伴開放。 此白皮書由百度安全事業部

2、AI安全團隊提出并歸口。 人工智能安全白皮書 4 人工智能硬件安全白皮書 1范圍 本標準分析了DuerOS生態存在的安全威脅，并以此為基礎提出了DuerOS應用設備層、網絡傳輸層、數據處理層以及數據安全和隱私層等方面的系統安全需求。 本標準適用于DuerOS系統安全技術領域。 2術語定義與縮略語 2.1 術語與定義 2.1.1 應用設備層 應用設備層主要由各種RFID標簽、有線或無線傳感器、智能硬件設備組成，本文也包括運行于其上的操作系統； 2.1.2 網絡傳輸層 通過各種電信/傳感網絡與互聯網融合，與應用設備進行實時通信； 2.1.3 數據處理層 人工智能安全白皮書 5 對所收集信息進行處理

3、，實現智能化識別、定位、跟蹤、監控、管理等實際應用； 2.2 縮略語 下列縮略語適用于本文件。 DoS 拒絕服務 Denial of Service DDoS 分布式拒絕服務 Distributed Denial of Service IoT 物聯網 Internet of Things MITM 中間人 Man In The Middle PKI 公鑰基礎設施 Public Key Infrastructure RFID 無線射頻識別 Radio Frequency IDentification SIM 客戶識別模塊 Subscriber Identity Module UICC 通用集成電

4、路卡 Universal Integrated Circuit Card VPN 虛擬專用網絡 Virtual Private Network KARMA 自適應系統熱修復 Kinetic Adaptive Repair for Many AI-systems CSR 證書注冊請求 Certificate Signing Requests 3概述 DuerOS是百度度秘事業部研發的對話式人工智能系統，為廠商全新打造的分層解決方案。能夠滿足各個類型廠商不同層次的需求。 本標準按照DuerOS的網絡層次劃分方式，以設備應用層、網絡傳輸層、數據處理層，數據安全和隱私層為出發點，制定DuerOS生態所

5、面臨的安全威脅和制定DuerOS生態安全標準需求，主要包括：從DuerOS的DuerOS終端、感知延伸網絡、接入、核心網絡、人工智能安全白皮書 6 應用層、控制管理以及DuerOS層間方面等不同的角度分析DuerOS面臨的安全威脅和存在的安全隱患，并在此基礎上，提出DuerOS設備應用層、網絡傳輸層、數據處理層以及相關業務應用的安全需求。 4總體安全框架 根據通用分層模型，DuerOS在邏輯功能上劃分為四層，即：應用設備層、網絡傳輸層、數據處理層和數據安全和隱私層。 基于通用分層模型, DuerOS生態安全需求主要劃分為：應用設備層的硬件的安全需人工智能安全白皮書 7 求、軟件安全需求；網絡層

6、的網絡層安全需求；數據處理層的安全需求；數據安全和隱私層的安全需求，分別包括： 1. 應用設備層安全需求， 包括末端節點的安全需求， 包括硬件及固件所帶來的安全漏洞以及 DuerOS 基于操作系統帶來的傳統安全問題； 2. 網絡傳輸層安全需求，包括數據傳輸的信息泄露和網絡攻擊等； 3. 數據處理層安全需求，包括云端安全問題以及移動控制端、web 控制端的安全問題； 4. 數據安全和隱私層安全需求，包括敏感數據及憑證信息的安全問題； 5DuerOS 生態安全規范 針對可能遇到的攻擊，制定對應標準如下： 5.1 應用設備層安全規范 5.1.1 硬件安全規范 5.1.1.1 物理接口相關規范 級別：

7、推薦執行 說明：包含顯示端口與隱式端口規范方案，降低硬件層面的安全風險； 5.1.1.2 硬件芯片安全規范 級別：推薦執行 說明：采用符合安全標準的芯片，降低硬件層面安全風險； 人工智能安全白皮書 8 5.1.1.3 開發板規范 級別：推薦執行 說明：針對開發板布局與引腳進行規范，增加硬件破解的難度； 5.1.2 軟件安全規范 5.1.2.1 軟件通用安全規范 a） 登錄密碼規范 級別：強制執行 說明：提升密碼強度，增加暴力破解的難度； b） 加密強度規范 級別：強制執行 說明：按照目前的標準，在 2020 年前，AES128 級別加密等級是安全的；目前推薦的RSA 加密位數為 2048，EC

8、C 加密位數為 163； c） 更新功能與過程規范 級別：強制執行 說明：當系統、固件出現重大漏洞，可及時進行修復；防止安裝包被偽造篡改； d） 系統安全補丁規范 級別：強制執行 說明：更新官方補丁，關注 CVE 等漏洞平臺，降低漏洞對系統安全的影響； e） 系統版本規范 級別：推薦執行 人工智能安全白皮書 9 說明：產品外發時，確保兩年及以上的系統安全支持時間； f） 固件編譯規范 級別：推薦執行 說明：固件編譯時去除符號表信息，增加調試及破解難度； g） 登錄密碼補充規范 級別：推薦執行 說明：推薦硬件 ID 綁定方案，安全性優于口令登錄； h） 系統第三方應用規范 級別：推薦執行 說明：

9、防止通過系統第三方應用漏洞攻擊系統； j) 開源庫及第三方組件規范 級別：強制執行 說明：防止通過開源庫及第三方組件漏洞攻擊系統； 5.1.2.2 應用層安全規范 a） Android 系統應用層安全規范 級別：強制執行 說明：包含系統配置、系統應用相關安全要求； b） Linux 系統應用層安全規范 級別：推薦執行 人工智能安全白皮書 10 說明：包括服務、用戶及用戶組相關安全規范； 5.1.2.3 內核層安全規范 a） Linux 內核安全規范 i. 熱補丁修復支持 級別：推薦執行 說明： 支持熱補丁修復的系統能快速對新增漏洞進行修復， 將漏洞對系統的影響降至最小，推薦使用百度安全的相關熱

10、補丁修復技術； ii. Linux 安全漏洞修復規范 級別：強制執行 說明： 針對漏洞及相關安全問題有緊急應對方案， 降低內核漏洞對系統安全的影響； 5.2 網絡傳輸層安全規范 5.2.1 網絡協議選擇規范 級別：強制執行 說明：針對通信方案，選擇主流的協議，確保安全性； 5.2.2 網絡通信規范 人工智能安全白皮書 11 級別：強制執行 說明：包含 TLS 私鑰與證書規范、TLS 配置規范及應用設計規范； 5.2.3 網絡通信補充規范 級別：推薦執行 說明：選擇適當的加密算法，保護密鑰，防止中間人攻擊； 5.2.4 Wi-Fi 規范 級別：推薦執行 說明：針對偽熱點等釣魚攻擊進行防范； 5.

11、2.5 運營商網絡規范 級別：推薦執行 說明：防止通過運營商網絡及相關技術漏洞來發動攻擊； 5.3 數據處理層安全規范 5.3.1 云端安全規范 人工智能安全白皮書 12 5.3.1.1 云端服務器規范 級別：推薦執行 說明：降低滲透攻擊，DDoS 攻擊對業務的影響； 5.3.1.2 云端服務器需對用戶的網絡請求處理規范： 級別：強制執行 說明： 需進行身份認證及授權驗證； 對用戶請求數據進行有效過濾； 防止非法訪問， SQL攻擊，XSS 攻擊，CSRF 等網絡攻擊； 5.3.1.3 事件與響應規范 級別：強制執行 說明：包含事件響應準備、事件檢測與分析、事件遏制、事件根除與恢復、事件響應時間

12、及事件報告與持續跟蹤等相關規范； 5.3.1.4 身份授權和管理規范 級別：強制執行 說明：針對場景和約束條件，采用正確的協議； 5.3.1.5 權限隔離規范 級別：強制執行 說明：包含管理平面、虛擬化與容器權限隔離及應用程序權限隔離相關規范； 人工智能安全白皮書 13 5.3.1.6 安全服務規范 級別：推薦執行 說明：選擇安全服務提供商，加強安全防護能力； 5.3.1.7 云服務安全檢測補充 級別：推薦執行 說明：通過白盒與黑盒多方面檢測，推薦使用百度安全事業部的檢測工具； 5.3.2 移動控制終端安全規范 5.3.2.1 通用規范 a) 外發版本規范 級別：強制執行 說明：外發版本相關配

13、置修改，防止軟件信息泄露； b) 安全規范與響應機制 級別：推薦執行 說明：針對新漏洞有相關安全處理方案，有效降低漏洞對系統的影響； c) 反破解，反劫持能力規范 級別：推薦執行 說明：推薦使用百度提供的應用加固能力，防止攻擊者通過逆向，調試，劫持等手段對應用進行攻擊； a） 證書驗證 人工智能安全白皮書 14 級別：強制執行 說明：移動設備面臨網絡竊聽、網絡劫持等中間人攻擊行為，因此對于敏感信息需要加密傳輸，并且對接收到的重要數據也需要進行完整性校驗。 5.3.2.2 Android 控制終端安全規范 a) 軟件更新規范 級別：強制執行 說明：防止安裝包遭篡改或被偽造，除應用商店更新外，推薦

14、使用百度安全事業部提供的安全更新方案； b) 模塊加載規范 級別：強制執行 說明：防止加載執行漏洞，推薦使用百度安全事業部提供的模塊安全檢測方案； c) 系統配置規范 級別：強制執行 說明：包含組件服務、端口、進程權限、文件權限等相關規范； d) WebView 使用規范 級別：強制執行 定義：針對用戶輸入數據進行充分校驗； 說明：推薦使用百度安全事業部提供的安全 WebView 方案； 5.3.2.3 iOS 控制終端安全規范 a) UIWebView 使用規范 級別：強制執行 說明：基于傳統 Web 安全做延伸，針對用戶輸入數據進行充分校驗； 人工智能安全白皮書 15 b) URLSche

15、me 安全規范 級別：強制執行； 說明：確定應用注冊的所有 URLScheme，針對 URLScheme 的實現邏輯進行審計，確保對輸入的數據充分校驗； 5.3.3 Web 控制端安全規范 5.3.3.1 網絡的請求處理規范 級別：強制執行 說明：防止非法訪問，SQL 攻擊，XSS 攻擊，CSRF 等網絡攻擊； 5.3.3.2 路徑參數處理規范 級別：強制執行 說明：防止攻擊者能夠訪問未授權的目錄； 5.4 數據安全與隱私層安全規范 5.4.1 數據安全 5.4.1.1 敏感信息存儲規范 級別：強制執行 說明：降低隱私泄露的風險； 5.4.1.2 身份憑證存儲規范 級別：強制執行 人工智能安全

16、白皮書 16 說明：防止因密鑰，身份憑證泄露導致的非法訪問； 5.4.1.3 敏感數據權限管理規范 級別：強制執行 說明：防止隱私信息泄露； 5.4.1.4 信息加密與傳輸規范 級別：強制執行 說明：防止通過明文傳輸獲得信息或進行 XSS 攻擊； 5.4.1.5 云端數據安全規范 級別：強制執行 說明：數據安全保護本身相關的控制，加密是最重要的控制手段，也需要其他的方案配合。 6DuerOS 生態的安全問題 6.1 應用設備層安全問題 6.1.1 硬件安全問題 通過與承載 DuerOS 的物理設備進行物理接觸，包括且不限于接口、存儲芯片，從而獲取控制權、系統信息與數據，具有嚴重的安全風險。本安

17、全準入標準從物理層面進行防范，盡量從底層開始降低安全風險。 6.1.2 軟件安全問題 人工智能安全白皮書 17 基于 DuerOS 所運行的操作系統， 無論是 Linux、 Android 或嵌入式操作系統如 FreeRTOS等， 本身存在漏洞等安全問題。 在其上運行 DuerOS 時， 需要保證底層操作系統的安全性，從而保證 DuerOS 的權限與安全性。本安全準入標準主要從系統漏洞、安全更新等方面進行防護，及時更新設備軟件，降低被攻擊的風險。 6.2 網絡傳輸層安全問題 DuerOS 體系架構中，涉及到多種體系設備間的連接與配對，其中包含不同的連接協議，如藍牙、 ZigBee 和 WI-F

18、I 等， 使用每種協議通信時， 均需要注意數據傳輸中的安全性問題等，落實到具體協議時，需要注意數據加密與解密安全問題，其中在互聯網上進行數據傳輸時，更加要關注數據安全傳輸的相關配置與校驗。 6.3 數據處理層安全問題 數據處理與應用層包含云端服務器與控制終端兩個層面。 其中云端服務器負責存儲、 傳輸大量用戶數據與信息， 針對服務器安全， 除了針對權限、 授權、 認證等方面的嚴格規定外，必須有完整的處理攻擊時的備案；控制終端中，主要考慮運行于 iOS 與 Android 操作系統上的的應用安全，防止出現信息泄露等安全問題。 6.4 數據安全與隱私層安全問題 除了傳統安全外， 由于搭載 DuerOS 設備可能涉及攝像頭、 語音輸入等相關隱私數據，所以在信息存儲與加密上， 必須保證權限隔離與足夠的加密強度， 才能保證隱私數據的安全。