5、AI大模型時代下的智能汽車軟件功能安全 - 吳丹丹-外發版(1).pdf

《5、AI大模型時代下的智能汽車軟件功能安全 - 吳丹丹-外發版(1).pdf》由會員分享，可在線閱讀，更多相關《5、AI大模型時代下的智能汽車軟件功能安全 - 吳丹丹-外發版(1).pdf（15頁珍藏版）》請在三個皮匠報告上搜索。

1、安全質量高級總監 吳丹丹 2AI大模型對智能汽車帶來的機會與挑戰3AI大模型時代下智能汽車軟件功能安全探索目錄1智能汽車軟件功能安全介紹智能汽車軟件功能安全介紹1 智能汽車軟件功能安全介紹軟硬一體電子化硬件機械化軟件主導自動化智能化架構集中軟件龐大平臺軟件+應用軟件1、架構及接口標準化、兼容性、可擴展；2、軟件分層化、模塊化、解耦化；3、開源代碼使用；需要工具鏈支撐；4、安全性、可靠性要求高。智能汽車軟件發展趨勢工程師編寫代碼；軟件生態圈；感知+規劃控制的自動駕駛系統；場景復雜、感知AI算法存在不可解釋性；.AI發展大模型時代拐點到來AI編寫代碼；AI生態圈；融合AI大模型和自動駕駛系統；用A

2、I進行場景泛化、用AI解釋AI；.功能安全功能型的安全：功能安全&預期功能安全復合型的安全：功能安全&預期功能安全&AI功能安全n 當下軟件發展趨勢n 未來軟件發展趨勢n 軟件功能安全發展趨勢注：功能型安全、復合型安全后面統稱為廣義的“功能安全”智能汽車軟件功能安全介紹ASPICE體系特點：以軟件質量為核心的一套方法論；關注過程，側重雙向追溯一致性，流程-計劃-實際執行的一致性；流程、模板、檢查單。功能安全體系特點：以失效的危害分析與防護為核心的一套方法論；關注過程與技術，側重故障檢測和故障處理的有效性；流程、模板、檢查單、指導書。SOTIF體系特點：圍繞將未知轉化為已知，將不安全轉化為安全的

3、一套方法論；關注觸發條件，側重已知場景的驗證和未知場景的驗證；流程、模板、檢查單、指導書。敏捷特點：以需求快速迭代發布為核心的體系；個體和互動高于流程和工具；工作的軟件高于詳盡的文檔；客戶合作高于合同談判；響應變化高于遵循計劃。Devops特點：開發、技術運維和質量保障這三方面融合，促進相互之間的溝通、協作與整合；通過協作提高產品開發、測試、發布效率。用戶需求系統需求系統架構軟件需求軟件架構軟件編碼軟件詳細單元測試軟件集成測試軟件合格性測試系統集成測試系統合格性測試實車測試安全分析DFA分析安全分析DFA分析SEooC假設分析故障插入、觸發條件devops研發效能CI/CD自動化測試迭代迭代迭

4、代迭代迭代迭代產品需求體系層面 智能汽車軟件功能安全介紹模型的模糊性無法規避；訓練數據及環境的與實際存在偏差。無窮的場景；新場景帶來不可預知的局限性，引發安全問題；標準法規不足以覆蓋。支持多種功能和服務，邏輯復雜，失效率高；代碼量巨大，流程和效率存在 沖突。應用場景復雜多變功能強大代碼繁多AI算法不確定開源代碼及linux廣泛應用開源代碼開發流程無從保障；Linux與傳統功能安全要求存在差異。n繼承功能安全測試方法；n數據驅動、建立海量場景庫、數據庫，并不斷積累泛化；n逐步建立自動化測試機制，并注重Corner case；n建立中國化標準法規。n繼承高內聚、低耦合的設計要求；n創建高效融合的開

5、發流程體系；n采用系統工程思維。n繼承功軟件開發經驗；n輸入輸出增加故障安全模式；n提高算法的可解釋性設計；n提高標注精度，增強算法對抗性訓練；n選取關鍵內容進行功能安全改造；n基于第一性原理思考問題；n用實踐數據證明；n借鑒“ALARP”原則，尋求最優性價比。痛點1痛點3痛點2痛點4技術層面AI大模型對智能汽車帶來的機會與挑戰2 AI大模型對智能汽車帶來的機會與挑戰AI人工智能機器學習深度學習強化學習n 機器學習：基于統計學方法n 深度學習：基于神經網絡n 強化學習：基于獎勵的學習方法人工智能人工智能在智能汽車領域應用：智能駕駛：包括感知算法、預測算法、決策算法等。智能座艙：智能影音系統，智

6、能環境控制等。數字孿生：駕駛模擬、預見性維護等。AI大模型對智能汽車帶來的機會與挑戰過程域基本實踐MLE.1機器學習分析定義機器學習需求結構化機器學習需求分析機器學習需求分析對機器學習運行環境影響建立雙向追溯，確保一致性溝通已達成一致的的機器學習需求MLE.2機器學習架構開發機器學習架構確定超參數的范圍和初始值評估機器學習架構元素定義機器學習架構元素的接口定義機器學習架構元素的資源消耗目標建立雙向追溯，確保一致性傳達已達成一致的的機器學習架構過程域基本實踐MLE.3機器學習訓練指定機器學習訓練和驗證方法創建機器學習訓練和驗證數據集創建和優化機器學習模型建立雙向追溯，確保一致性總結和交流以達成一

7、致的訓練機器學習模型MLE.4機器學習模型測試指定機器學習測試方法創建機器學習測試數據集測試訓練好的機器學習模型導出已部署的機器學習模型測試部署的機器學習模型建立雙向追溯，確保一致性對結果進行總結和溝通過程域基本實踐SUP.11機器學習數據管理建立機器學習數據管理系統開發機器學習數據質量方法收集機器學習數據處理機器學習數據保證機器學習數據質量溝通已達成一致的處理機器學習數據 AI大模型對智能汽車帶來的機會與挑戰1、AI大模型能夠加速自動駕駛的落地，例如BEV+transforme，vision transformer應用。2、AI大模型能夠讓智能汽車真正”智能“。3、AI大模型讓軟件開發與編碼

8、變得輕松。4、AI大模型從現有技術局限性的角度上對智能汽車安全性有一定程度的保障作用。5、AI大模型推動發展AI生態圈。6、AI大模型能夠節省人力、提高效率，節約成本。1、AI大模型需要大量的數據支持。2、AI大模型需要大算力芯片保障。3、AI大模型顛覆了傳統軟件開發流程和軟件開發技術，需要創新與重塑。4、AI大模型本身的安全性需要深入探索，并急需確定。5、AI大模型將帶動汽車產業鏈的重塑。6、最高效率的利用大模型，每個人發揮創造力，不被AI取代。機會挑戰AI大模型時代下智能汽車軟件功能安全探索3 AI大模型時代下智能汽車軟件功能安全探索需要強大的軟件架構設計分層、解耦需要針對AI特性探索安全

9、保障數據、訓練、仿真、測試需要預期功能安全深入研究AI算法的安全性評價、觸發條件需要傳統功能安全的兼容與保底安全監控、安全保底功 能ADSHWPTJP高精地圖高精定位安全分析嚴重程度可控性發生頻率已知危險場景未知危險場景安全目標安全要求殘余風險可接受標準功能場景場景參數化邏輯場景手工搭建參數定義參數范圍定義場景泛化具體場景模擬仿真測試有效性分析并行仿真場景采集實際道路封閉場地算法的驗證評價基于統計論證的ADS安全度量可靠性、魯棒性分析用戶自定義評測FuSa&SOTIF分析場 景仿真測試實車測試評 價產品優化設計 AI大模型時代下智能汽車軟件功能安全探索數據準備建模訓練仿真測試安全部署SOTIF

10、分析SOTIF設計改進與測試SOTIF危害分析與風險評估功能規范設計原因及觸發條件分析是否接受NY測試驗證已知潛在風險的測試驗證未知場景的研究和評估場景庫建設不斷擴充場景的SIL測試不斷擴充場景的HIL測試不斷擴充場景的實車測試場景覆蓋率長期測試感知觸發條件的測試驗證通過SIL/HIL/實車測試進行決策驗證擁堵工況交通參與者突發行為突發天氣變化道路交通設施異常.傳感器遮擋天氣、光照影響交通標志殘缺.針對測試驗證不可接受的結果進行設計改進SOTIF研究主要內容及方向1、感知觸發條件分析及測試驗證2、決策算法評價方法研究及測試驗證3、場景庫建設4、隨機測試及長期路測 AI大模型時代下智能汽車軟件功能安全探索引領/創新/融合/卓越T H A N K Y O U功能安全專家 國汽智控吳丹丹個人微信