《互聯網信息服務算法推薦管理規定》解讀

2021年12月，國家互聯網信息辦公室聯合工業和信息化部、公安部、市場監管總局發布《互聯網信息服務算法推薦管理規定》(下文簡稱《規定》)，并將于2022年3月1日起施行。這是我國第一部以算法作為專門規制對象的部門規章，具有重要時代意義。

《規定》調整的生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法，被各大平臺廣泛應用，已經成為平臺收集和處理數據、推送信息、調配資源的核心力量。平臺運行的技術邏輯是算法，平臺商業價值和競爭優勢的基礎是算法，同時，給國家利益、社會公共利益和公民合法權益帶來風險的也可能是算法。

《規定》立足中國數字經濟實踐與產業特色，向世界提供了平臺算法治理的中國方案，建構了具有中國特色的平臺算法治理制度。

《規定》為平臺應用算法劃定明確的法律界限，對保障信息內容安全、維護市場競爭秩序、保護公民權益等具有至關重要的作用。

算法安全理念：明晰平臺算法治理的價值取向

《規定》所秉持和貫徹的算法安全理念與我國《網絡安全法》《數據安全法》和《個人信息保護法》等上位法一脈相承。算法安全理念，要求算法導向正確、正能量充沛，算法應用公平公正、公開透明，算法發展安全可控、自主創新，有效防范算法濫用帶來的風險隱患。

《規定》要求平臺作為算法推薦服務提供者堅持主流價值導向，重視算法安全，積極傳播正能量，不得操縱輿論?！兑幎ā废嚓P條款對未成年人身心健康、老年人合法權益、勞動者基本保障給予重點關注，充分體現了以人民為中心的發展思想。與此同時，《規定》引導算法推薦服務提供者促進算法應用向上向善，保護消費者權益，保證算法決策公平透明，這也與世界范圍內已有的算法治理實踐不謀而合。

算法安全理念內涵豐富，這與平臺算法應用涉及的社會領域廣泛性相適應?！兑幎ā坟瀼氐乃惴ò踩砟罴群w了我國一貫重視的信息內容安全，也包含著對市場競爭秩序的規范，更體現了對普通用戶和未成年人、老年人、勞動者、消費者等特定群體的用戶權益保護。

健全多元共治：深入平臺內部的算法技術監管

《規定》創新性地構建了算法安全風險監測、算法安全評估、算法備案管理和涉算法違法違規行為處置等多維一體的監管體系。這標志著我國的平臺治理直接深入到了平臺的底層技術邏輯——算法。

人工智能時代的平臺監管，既應符合平臺底層的技術邏輯，也應符合主客觀相一致、責罰相適應的法律原則?！兑幎ā方⒌乃惴夹g監管體系穿透了平臺運行的“算法技術面紗”，將平臺監管的觸角和追責視角直接指向背后的算法責任。技術的應用是包含主觀意圖的，平臺在算法設計、部署、運行中包含的主觀意圖與平臺是否盡到合理的注意義務，是平臺算法追責的根本指向。

作為算法推薦服務提供者的平臺企業要強化責任意識，對算法應用產生的結果承擔起算法安全的主體責任?！兑幎ā芬笃脚_企業應建立算法安全責任制度，設置平臺內的算法安全管理組織機構，并配備與算法推薦服務規模相適應的專業人員和技術支撐。平臺要對算法的數據使用、應用場景、影響效果等開展日常監測工作，感知算法應用帶來的網絡傳播趨勢、市場規則變化、用戶行為等信息，預警算法應用可能產生的不規范、不公平、不公正等安全問題?！兑幎ā芬笃脚_企業等算法推薦服務提供者建立算法安全責任制度，與網絡服務提供者的網絡安全運營制度、數據處理者的數據安全保障制度和個人信息處理者的個人信息保護制度一起，共同構成了我國平臺企業需建立完善的安全責任制度體系。

《規定》還勾勒出了我國平臺算法多元共治的治理體系藍圖。在平臺算法治理中，要求算法推薦服務提供者依靠自評估、第三方評估等，深入分析算法機制機理、模型、數據和應用結果等，評估算法設計、部署和使用等應用環節的缺陷和漏洞，避免算法應用產生的社會公平、道德倫理、內容管理等安全問題，共同形成了治理結構高效運行，有法可依、多元協同、多方參與的治理機制。

主體權責明確：構建平臺算法責任的問責機制

當技術造成了損害后果時，如果不能穿透技術面紗，由明確的主體來承擔責任，就會存在潛在的責任缺口。如果不能解決“誰負責”的問題，放任平臺以“技術中立”和“算法黑箱”為由繼續逃避法律責任，那么所有的治理努力最終都將失之空泛。

《規定》構建了平臺算法全生命周期問責機制。我國創新性地在世界范圍內率先設立了算法備案制度，要求具有輿論屬性和社會動員能力的算法推薦服務提供者在提供服務之日起十個工作日內履行備案手續。算法備案制度的設立，是因為合理的平臺算法問責有賴于清晰的主觀過錯認定，需通過算法備案對平臺事前和運行中的問責點進行固定，以有效判斷平臺是否可以評估、控制、糾正算法帶來的危害。算法備案是一種存檔備查的行為，目的在于獲取平臺設計部署的具有潛在危害和風險的算法系統的相關信息，為今后追責提供信息。備案本身即存在著監督效應，算法備案制度的信息披露模式、內容、范圍的設置體現了對于監管與自律、商業秘密與算法透明、源頭治理與事后追責等利益的衡量。

《規定》第五章“法律責任”則明確規定了算法推薦服務提供者如違反相關規定，需承擔的法律責任，責任形式包括警告、通報批評、罰款等，必要時還將給予治安管理處罰和追究刑事責任。主體權責明確的平臺算法問責體系，必將為實現我國算法治理安全目標起到關鍵作用。

算法規制與平臺治理是人工智能時代世界各國面臨的重要議題?！兑幎ā返某雠_不僅直接將算法作為規制對象，更使得平臺治理的層次與方式邁上了新的臺階?！兑幎ā纷鳛槲覈惴ňC合治理體系的重要組成部分，勢必在提升算法創新能力，促進平臺算法應用安全，增強我國平臺企業核心競爭力等方面發揮重要作用。

作者：張凌寒，北京科技大學副教授