《長安汽車:自動駕駛感知安全性的思考.pdf》由會員分享,可在線閱讀,更多相關《長安汽車:自動駕駛感知安全性的思考.pdf(15頁珍藏版)》請在三個皮匠報告上搜索。
1、自動駕駛感知安全性的思考長安汽車AI LAB|2023.03.232/16AI前沿算法技術研究者外部研發資源集成者產學研體系建設者我們是誰?3/16感知交互認知決策認知安全保障數據要素我們要干什么?4/16感知辨別度低傳感器故障復雜環境帶來的噪聲感知模型有“bug”嗎?5/16感知模型的“bug”有哪些?6/16從驗證角度看安全 ,=.=min 0 Robust 0 =0 0Stronger Adversarial AttackComplete VerificationStronger Incomplete Verification7/16可達性優化搜索算法驗證的Benchmark 及其工具8
2、/16感知模型應用場景感知結果(位置、類別.)與真值進行核驗錯誤從測試角度看安全正確9/16YOLOv5的攻擊效果長安目標檢測模型的攻擊效果生成對抗樣本誤導檢測模型對抗攻擊評測魯棒性10/16暴雨暴雨攝像頭噪音攝像頭噪音強光強光運動模糊運動模糊ABCD深度挖掘Corner Case11/16區別高頻信號和噪聲濾波降噪會丟失圖像細節或邊緣信息深度學習可提升效果,但仍會丟失細節濾波技術手段減少噪聲圖像降噪算法深度學習曲率濾波BM3D算法DnCNNRIDNetSID降噪算法的難點12/16檢測算法對抗樣本極端天氣.場景:極端天氣安全性降低,接管提醒檢測危險提前預警13/16攻防博弈,優化模型對抗樣本原始數據被測AI模型結果對抗樣本原始數據AI加固模型結果優化對抗樣本生成模型攻擊模型找系統弱點加固模型提升系統穩健14/16標準引領,建設體系