可信AI操作指引（18頁）.pdf

1、產品需求多樣化 。1）AI 系統提供方在保護用戶個人信息隱私的前提下，應明確基本和潛在服務用戶范圍，對不同類別的用戶進行實際需求調研，整理分析不同用戶的交互方式和操作習慣，保證產品原型設計階段滿足用戶多樣化需求，并盡量考慮潛在產品服務對象的隱性需求。 2）AI 系統提供方在符合產品投放地區法律法規的前提下，宜實施產品用戶體驗測試，在產品開發和生產過程中，根據 AI 系統的應用場景，有階段性地選擇面向不同地域、國籍、性別、年齡等用戶進行實際產品試用，通過用戶反饋和數據分析形成需求鏈條跟蹤機制，進而適時調整產品結構。 訓練數據全面化 。1）AI 系統提供方應保證訓練數據集的數據

2、的多樣性，并可針對數據集中不同的類別群體進行分析測試，同時依據測試結果相應地調整數據集的結構。 2）AI 系統提供方應依據任務需求完成訓練數據集設計方案，通過統計學的方式或相關工具集，檢查模型訓練數據集中樣本與方案的符合程度，保證訓練數據的準確性和完整性。算法公平性測試驗證 。1）AI 系統提供方宜將公平性度量納入算法評價內容，兼顧各類群體特征信息，以防算法存在偏見。若算法上有設計缺陷，則改進算法，減輕算法對特定變量對應的權重的依賴，盡量避免對某些特定群體做出帶有歧視和偏見的決策。 2）AI 系統提供方應保證算法決策判斷的魯棒性，在無特殊要求的前提下，充分考慮適用場景下可能

3、出現的特殊情況，保證算法輸出結果不會由于某些環境指標改變而發生分歧。因此，AI 系統提供方在合法合規的前提下，應構建包含通用場景和特殊場景的測試數據集，經過對算法充分測試驗證，保證算法對面向對象決策結果一致。系統決策過程描述 。1）AI 系統提供方應根據用戶需求和應用場景，建立向不同背景的利益相關者解釋 AI 系統決策邏輯的能力。例如，對于專業人員，解釋 AI 系統中的模型和算法邏輯；對于普通用戶，解釋 AI 系統的功能邏輯；對于內部監管決策者，解釋在相應領域使用 AI 系統的原因。 2）AI 系統提供方宜以 AI 系統可解釋為目標，在保證系統性能能夠滿足任務需求的前提下，嘗試使用可解釋性較強的模型替代復雜的黑盒模型。如使用傳統機器學習模型替代復雜的深度學習模型，或嘗試使用集成學習模型、貝葉斯深度學習模型以融合傳統機器學習模型較強的可解釋性和復雜深度學習算法模型的高性能，或使用其他模型或相關工具在算法邏輯層面提高 AI 系統決策的可解釋性。 3）AI 系統提供方應根據不同的應用場景，如自動駕駛應用、日常生活娛樂應用等，評估用戶是否可以介入 AI 系。