賽迪譯叢：充滿公平性和包容性人工智能藍圖（2022）（26頁）.pdf

《賽迪譯叢：充滿公平性和包容性人工智能藍圖（2022）（26頁）.pdf》由會員分享，可在線閱讀，更多相關《賽迪譯叢：充滿公平性和包容性人工智能藍圖（2022）（26頁）.pdf（26頁珍藏版）》請在三個皮匠報告上搜索。

1、-1-2022!1017#$41%&$&$560%充滿公平性和包容性人工智能藍圖充滿公平性和包容性人工智能藍圖!#$%!#$%2022 年 6 月，世界經濟論壇（WEF）發布充滿公平性和包容性人工智能藍圖報告。報告認為，具有公平性和包容性的人工智能是挖掘人工智能技術潛力、確保全社會普遍受益的先決條件。人工智能的包容性不應局限于技術本身，而是應關注到整個生態系統層面。報告提出了構建包容性人工智能生態系統和生命周期的指導藍圖。其中，人工智能生態系統包括在人工智能中發揮作用的所有利益相關方，人工智能生命周期涵蓋數據收集、數據標注、模型開發、訓練、測試、部署和監測等各個環節。賽迪智庫信息化與軟件產業研

2、究所對報告進行了編譯，期望對我國有關部門有所幫助。!&(%)*+,!&(%)*+,-./-./01/01/2 22 2-2-人工智能已在各個領域獲得了快速發展。人工智能技術具有造福社會的巨大潛力，但只有在人工智能的發展中具有群體多樣性，該項技術的全部潛力才能得以實現。隨著人們對偏差、數據隱私和代表性不足的擔憂日益增加，迫切需要重新評估人工智能的設計和部署方式，確保相關方社會群體都能受益。人工智能系統是一個基于機器的系統，其可以根據人類定義的目標，做出影響現實或虛擬環境的預測、建議或決定1。本文全面分析了在人工智能開發生命周期和治理生態系統建設過程中，在企業人員招聘、文化轉變、影響評估等方面提升

3、人工智能的公平性和包容性所面臨的機遇挑戰，并提出構建包容性人工智能生態系統和生命周期的指導藍圖。()*+,-./012345（一）打造包容的人工智能基礎設施()*+,-./012345（一）打造包容的人工智能基礎設施為實現允許社會各主體廣泛參與的包容的人工智能生態系統，首先應打造包容的人工智能技術基礎設施，如計算機、數據存儲和網絡等。該基礎設施應既可用于培訓新的人工智能從業者，也可幫助無力支付云計算的人員開發人工智能系統，從而鼓勵大眾以技術或非技術身份參與人工智能，并將相關人員安排到1 來源：經濟合作與發展組織（OECD），“人工智能理事會建議”，2019，https:/legalinstru

4、ments.oecd.org/en/instruments/OECD-LEGAL-0449-3-相應的工作崗位。推動人工智能基礎設施的公平可獲取性應優先考慮將技術作為公共利益，即將公共部門資源分配放在首位，以增加大眾的接觸機會，避免將資源集中在信息和通信技術（ICT）企業、人工智能學術研究團體等已掌握大量人工智能資源的優勢群體。資源分配過程應有利于激勵人工智能應用程序的開發，使之有利于促進社會福利改善和經濟發展。政府和民間社會組織應加強開放合作，分享監管經驗，提供必要反饋，創建支持基金，并在數據收集基礎設施建設方面建立區域伙伴關系。（二）提升社會公民的人工智能素養（二）提升社會公民的人工智能素

5、養所有與人工智能系統交互的社會群體都了解人工智能的基本知識，并認識到使用系統帶來的機會和風險，是實現公平和包容的人工智能的第二個先決條件。此外，各群體需認識到他們的權利和責任，并了解如何在人工智能驅動的世界中行使或履行這些權利和責任。對此，正規教育機構是政府推動人工智能相關技能發展的關鍵場所。由于低年級的人工智能課程尚未普及，課外課程可以成為兒童學習人工智能的重要場所。對此，政府可以承擔一些關鍵任務，例如推動制定學校教育和課外教育方案，以培養兒童的相關技能、批判性思維和情商等軟技能，普及人工智能基-4-本概念，提升數據素養。政府還可以通過增加女性的比例，確保人工智能教育工作中的性別公平。此外，

6、政府應與民間社會組織合作開展教育活動，提高對數字安全、隱私安全、其他技術潛在危害以及訴諸法律途徑的認識。以上措施可以促使相關人員積極主動地了解到人工智能系統對自己及其周圍人生活的影響。隨著人工智能的普及和數據素養的提高，人們可以進一步詢問平臺如何收集和處理自己的數據，并確定是否有相關保護政策。此外，企業和各機構也可以為有意愿進入人工智能行業的從業者提供帶薪實習機會，促進社會群體溝通，加強與工程師外的各種人工智能工作者接觸，組織關于人工智能技術優勢和職業機會的講座等，共同建立具備人工智能技能的員工生態系統。（三）保障人工智能專業人員的公平雇用和職業發展機會（三）保障人工智能專業人員的公平雇用和職

7、業發展機會 第第一一，增加增加職職業機會和相關業機會和相關晉晉升升途徑途徑。將職業拓寬途徑與發展路徑納入到企業戰略勞動力規劃中，讓非人工智能領域的員工有機會進入該領域。例如，社交媒體營銷人員可以在產品管理方面接受交叉培訓，以掌握人工智能驅動型銷售功能；律師可以提升所在單位的人工智能風險管理。第二第二，提升員工技能培訓方面的包容性提升員工技能培訓方面的包容性。擴大員工培訓計劃，提供一對一指導；在管理人員的標準風險管理培訓中增加-5-模擬訓練，以發現并糾正人工智能產品和服務中的偏差；為技術人員、分析人員以及面向用戶的工作人員提供見習機會；基于各方終端用戶開展人工智能模擬產品和服務的評估評價等。第三

8、第三，與與學學術術界界、民間民間組織組織和公共部門機構和公共部門機構建建立伙伴立伙伴關系關系。合作機構可以通過衡量解決方案公平性，保證相應人工智能算法的持續優化，或建立公平性和包容性“檢查”功能，確保人工智能系統符合整體審查。第四第四，創創造并保造并保持持平等和平等和諧諧的的辦辦公公室室文化文化。確保員工參與重要工作的機會公平，在評估、晉升等過程中認可并合理補償突出貢獻者，提升員工獲得感。打造有包容性、歸屬感的辦公室文化和多樣性的員工隊伍，鼓勵員工定期討論，并根據員工特點加強反饋。同時，企業必須重視員工在不同方面的不同身份，并為全體工作人員（包括董事會和最高管理層在內的所有級別的工作人員）提供

9、發現隱性和顯性偏差的方式。此外，企業必須建立明確、透明、可量化的目標以及關鍵內部審核目標，如人員配置、績效評估、薪酬和職業發展。以上措施均有助于企業健全內部問責制度。66(789789:;:;+,?=+,?-6-在實現人工智能公平性和包容性的過程中，生態系統中所有的相關方，都應確保具有包容性，并利用其職位（設計師、開發人員、監督崗位等）防止不公平或不包容現象出現。因此，人工智能系統的開發或治理中，需要將所有潛在相關方的需求考慮在內，具體包括：1.負責監管人工智能系統并確保其安全和有效的政府政府機構機構；2.參與監測人工智能影響并維護公眾權利的民間民間社會社會組織組織；3.負責開發或運營人工智能

10、系統的私私營營企業企業；4.以不同方式受人工智能系統影響的個人個人。本報告以下內容對開發管理包容性的人工智能的不同階段進行了細分。從確定用例到設計、部署、監測和迭代人工智能模型、發現最佳解決方案，人工智能生命周期的每個階段都必須謹慎并盡職地融入公平和包容。圖 1 展示了公平、包容的人工智能整體狀況，其中整合了開發、業務和治理生態系統。此外，教育和資源分配等各項治理始終貫穿于人工智能生命周期的所有階段，應避免僅沿一個時間軸線實施治理。-7-3 45016)*+,789:2（一）（一）了了解問題并確認人工智能解決方案解問題并確認人工智能解決方案 從多個角度闡明問題（X對誰是個問題？）人工智能基礎教

11、育和素養建立問題意識與人工智能帶來好處的方式人工智能專家職業發展機會公平雇用方案，提高設計、數據收集和開發過程代表性在數據收集、方法和來源上與利益相關方建立伙伴關系構建者生態系統管理者/利益相關方生態系統數據收集數據收集模型設計并迭代模型設計并迭代確認用例確認用例/問題問題市場研究記錄模型目的發現數據需求或潛力，確定相關數據要求與利益相關方合作共同設計確保人口統計學數據集包容性和多樣性模型開發模型開發在倫理、透明度、隱私、環境影響等方面實施最佳方案引入新的利益相關方，開展開發/測試迭代由人類人工智能全球未來理事會設計實施建設組問責機制測試組部署技術驗證、用戶驗收測試/校驗、調試實施開發團隊問責

12、機制監測監測/非常關注非常關注部署部署測試測試跟蹤/回應對不同社群的影響確定相關多樣化指標評估模型（指標隨時間變化）建立人工智能產品影響及其對特定群體影響的意識確?？紤]新利益相關方或用戶，并重新訓練特別面向未被充分代表或受保護群體的包容性設計-8-3;5?AB21 1、明明確包容性面臨的確包容性面臨的問問題題，識別識別人工智能部署的潛力人工智能部署的潛力 開發包容的人工智能系統的第一階段是確定目前挑戰，明確需要人工智能的原因。如：人們遇到的問題和期望達到的結果是什么？人工智能是否是應對該問題的最佳途徑？誰在尋求人工智能解決方案？人工智能相對于其他解決方案的優勢是什么？從多個角度闡明待解決的問題

13、，確保人工智能只部署在必要之處、成為周圍社會的共同愿望，并確保項目從開始設計時即具備包容性。鑒于此，為確保人工智能系統的設計有利于社會福祉，可以采取干預措施。人工智能通常用于優化目標變量，例如收入、生活質量或對醫療等服務的獲取。舉例而言，如果一家公司想確定用例確定用例/問題問題從多個角度闡明問題（X對誰是個問題？）人工智能基礎教育和素養建立問題意識與人工智能帶來好處的方式人工智能專家職業發展機會公平雇用方案，提高設計、數據收集和開發過程代表性記錄模型目的市場研究特別面向未被充分代表或受保護群體的包容性設計-9-要瞄準更廣泛的客戶群體，該公司可能考慮增加產品功能，面向需求不同的客戶。增加的功能可

14、能包括多語種支持、專門為盲人或視障人士設計的聲卡、為幫助行動障礙人士而設計的預約功能或能尋找他們所需資源的功能。然而，有些目標變量，如生產效率，有時可以充當收入指標，最終結果會導致勞動者感到受到剝削或對收入不滿。誠實、誠信、公開透明地確定目標變量，有利于團隊規避潛在危害。從項目開始的最初階段就劃分責任和監督也至關重要。這包括，要了解每個機構或個人所具備必要的專業知識和資源，從而確保在人工智能系統出現危害時能夠加以管控，并建立相關問責機制。在對問題和人工智能解決方案有了清晰的了解后，則需重點關注人工智能系統在生命周期內會產生的預期、非預期、積極、惡意的影響。如，微軟的社會群體陪審團通過與社會群體

15、合作，弄清相關方需求，了解人工智能對業務、技術結果以及對人類和環境的潛在影響。此外，在項目最初階段建立一個評估團隊及系統表現的機制，定期發現需要改進的領域并做出相應更改，有助于確保設計出的人工智能系統能夠有效衡量自身生命周期內的價值和影響，達到所有利益相關方要求的同時，且不會造成預期之外的傷害。-10-專欄專欄1：人工智能和大數據人工智能和大數據產產生的非預期生的非預期結果結果 人工智能和大數據的濫用和政治化有可能引發區域動蕩。2022 年第二季度，印度尼西亞雅加達發生了大規模示威游行活動。印尼政治、法律和安全部長盧胡特潘賈伊坦（Luhut Panjaitan）表示，大數據分析顯示，超過 1

16、億的印尼人希望推遲本國總統選舉，總統佐科維多多（Joko Widodo）的內閣也因此延長了任期。政府領導人尚未能夠檢索和公布數據，得出透明的結論并公之于眾。還有另一個例子，政客新聞網詳述了荷蘭稅務局使用的算法涉嫌利益欺詐的行為，使荷蘭生活秩序陷入混亂。荷蘭這一丑聞警示了歐洲使用算法的風險。來源：德國阿登納基金會，“印度和印度尼西亞數據規范對比研究”，2021 年 3月，https:/www.kas.de/documents/278334/278383/Final+Report.pdf/bd12d617-e562-4d30-cfae-1cc7ede12fd1?version=1.0&t=1620

17、083064637.2 2、實施實施包容性包容性社會群體社會群體參與參與措措施施，特別特別面面向未向未被充被充分代表分代表或受?；蚴鼙Ｗo護的群體的群體 如上所述，有必要在人工智能項目的最初階段就確立利益相關方參與的方式，并將其運用到人工智能系統的整個生命周期。但隨著各方參與并成為設計過程的一部分，各機構必須吸納這些意見，為想要參與的各方構想出安全的（由未被充分代表或受保護的群體所定義）、包容的、可使用的以及能做出文化響應-11-的方法。對此，包容性社會群體參與沒有通用的方法。如果執行得當、吸納不同聲音的意見，可以為各機構和各群體建立持續、有意義的關系，形成深刻的見解，并創造互惠互利的機會。如果

18、執行不當，則會產生相反的效果，如摧毀信任、增加排斥、限制參與、傷害未被充分代表和受保護的群體。應考慮的重點路徑包括以下幾個方面：1、發展包容性發展包容性社會群體社會群體參與的參與的框架框架或或行行為為準準則則 各機構可以通過明確社會群體參與的預期結果來主動應對包容性問題。步驟包括：確定群體代表所需的能力，明確相關方參與的預期水平和合作模式（如簽訂保密協議）的潛在影響，指定他們在參與和反饋過程中的作用和責任，詳細說明如何確保個人自由、安全的參與、確定對來自未被充分代表的群體或邊緣人群參與者的補償，并提供資源支持參與的社會群體成員。2、讓讓每每個個機構機構為包容性為包容性社會群體社會群體參與做參與

19、做好好準備準備 各機構應致力于落實有效的社會群體參與，與相關群體培養牢固、有意義、互惠的關系以隨時獲得群體見解。投入的時間和資源應包括員工在溝通、隱性偏差、系統性不平等、同盟關系以及與邊緣群體成員互動方面的培訓與評估。盡管關系經理-12-或參與專家可以支持外部參與的設計、規劃、記錄、存儲和監督，但社會群體參與責任最好分配至各級員工，以便社會群體代表有機會直接同企業決策制定者分享自己的需求。3、設計包容性設計包容性社會群體社會群體參與參與 發出參與邀請并不意味著一定能讓參與者感受到歡迎或有歸屬感，理解并解決每個參與群體的參與障礙也極為重要。這些障礙包括對制度與安全（人身、情緒和政治安全）的長期不

20、信任，與社會群體間缺少聯系，時間、能力和資源存在限制，以及參與過程的參與需求和偏好，如一對一式與大群體式、“同理心訪談”，即針對受人工智能系統影響最大的經歷進行的系統分析。以上這些措施均有利于促進來自不同背景的團體和個人的參與。此外，在采取這些措施之前，各機構應確保其有意向參與的群體代表已經批準了設計的群體參與方法，并通過有效的反饋機制提供相關監督，接受參與者的意見，并告知參與者參與結果。4、實現包容性實現包容性的社會群體的社會群體參與參與 在實施社會群體參與流程之前，必須確保該流程納入了所有設計元素和偏好，并確保場地和資源的可獲得性，且能反映參與之前社會群體反饋的內容。在將群體參與成果實施到

21、人工-13-智能項目時，各機構必須持續重點關注那些最邊緣人群的聲音和經歷。專欄專欄2：案案例研究例研究：哈哈利利斯斯科科拉丁美拉丁美洲洲和加和加勒勒比地區比地區人工智人工智能公平能公平 哈利斯科拉丁美洲和加勒比地區人工智能公平是由美洲開發銀行、C Minds 行動庫、蒙特雷理工學院和墨西哥哈利斯科政府發起的一項倡議，是拉丁美洲第一個關于人工智能的生活實驗室，旨在研究學術界、政府、公民社會、產業界四大伙伴關系的影響。該倡議有諸多目標，其中包括將負責任的人工智能用于公共部門的試點項目。這項工作的核心是關注利益相關方在生命周期每個階段的包容性和多樣性。該倡議的其中一個用例是尋找更有效、更具包容、更好

22、方法來診斷糖尿病視網膜病變。該項目利用可行性指南和人工智能系統的風險分析，對人工智能對受益人群和環境的適宜性進行了早期評估，可行性指南和風險分析都可用于 C Minds 同項目伙伴共同開發的社會公益用例。在試點項目的整個生命周期中，其工作重點是確保通過設計實現包容性。（二）包容性模型設計（二）包容性模型設計 -14-3 C5DEFGHIJ2與與社會群體社會群體和受影響的利益和受影響的利益相關方相關方共共同同設計設計 人工智能系統需要從一開始就考慮到所有潛在用戶和相關方，既要包括現有的相關方，也要包括未來潛在的利益相關方。一項成功的系統設計首先要確?！盀槭裁丛O計、為誰設計、由誰設計”等關鍵問題得

23、到相應解答，并確保在整個開發過程中不斷評估系統。與相關方和受影響群體代表的合作可以使這一過程更清晰、透明。當然，確保人工智能設計團隊的成員本身能夠代表潛在的受影響的利益相關方，有利于提前解決與包容相關的許多潛在危害，并增加機構中外部利益相關方的信任。首先，人工智能系統的核心是根據機器學習模型數據而確定的數學方程，可能存在多個參數。因此，人工智能系統無論在理論上還是實踐上，都有“無限”可能的最終產品設計，通常模型設計并迭代模型設計并迭代發現數據需求或潛力，確定相關數據要求與利益相關方合作共同設計-15-比其他產品更加靈活。設計決策應當權衡多個方面，包括系統的預測準確性、不同環境的公平結果、可靠性

24、、通用性、可解釋性、可說明性和透明度。人工智能的靈活性和復雜性既可能成為創造更好的人工智能系統的機會，也可能變成一種風險，導致解決方案不公平或在不同人群和環境中表現不同。由于需要在數學模型和最終的人工智能設計中“編纂”不同的價值觀（和文化），因此需要積極考慮來自多個利益相關方和人群的關于設計權衡的看法。對此，可以主動整合不同利益相關方的要求，確保開發團隊具有認知多樣性和其他多樣性，從而有效反映系統的最終用戶和利益相關方的多樣性，確定相關指標，確保所有設計選項具有端到端透明性。此外，需要盡早決定在遇到非預期或惡意用例時該怎么做，怎樣讓用戶知情同意，以及如果方便讓用戶選擇不受人工智能的影響，該怎樣

25、給用戶提供這樣的機會。以上考慮均需要“通過設計”，讓人工智能系統遵循這些要求。（三）包容性數據收集（三）包容性數據收集 明明確確更更具包容性的數據具包容性的數據收集路徑收集路徑，實現，實現穩穩健健治理和隱私保治理和隱私保護護 -16-3 K5LMNO2對于線上數據的便利傳遞，人們開始顧慮線上數據能否保護隱私和機密，關心都有誰掌握著數據。對此，人工智能系統應該竭力推行有關數據收集、存儲和使用的隱私和倫理實踐，尤其在管理來自邊緣人群的數據時，保護數據隱私更加重要。收集與人類主體相關的數據時，研究人員必須先確定收集的目的是什么、怎樣收集、由誰收集，隨后再確定從人口統計學上看，他們培養的數據集能夠代表

26、人工智能系統將運用的社會群體。采用某種數據收集方法時，設計人員應找到受影響的利益相關方代表并與之合作。對于模擬訓練和模型應用所搜集的數據，選擇方法也很重要。此外，定性數據和定量數據同等重要，因此團隊在發現現有的數據集不完全有代表性時或獲得新的信息時，應返回最初階段重新收集。數據收集數據收集在數據收集、方法和來源上與利益相關方建立伙伴關系確保人口統計學數據集包容性和多樣性-17-無論從理論上還是實踐上而言，在使用、管理和掌握人工智能來收集、分析和傳播有價值或敏感的數據時，數據主權都至關重要。從操作上講，數據主權指的是生態系統內利益相關者的代表，來自這些群體之外的代表將在整個數據和人工智能生命周期

27、中作為合作伙伴加入。對有些人來說，數據主權這一概念涉及某一國家法律應當適用于哪條數據、不適用于哪條數據，尤其是來自一個國家的數據怎樣受另一個國家的法律約束，還涉及隱私、安全和知情同意。如果將數據視為一種可分配資源，能在現在和未來造福于全人類和整個地球，那么為實現這個目的，人們將通過人工智能創造和使用數據。但如果收集、使用數據的目的是為了獲得經濟效益，那么數據就會像消費者經濟學中的其他資產或“被擁有”、購買和售賣的資源一樣遭遇濫用，從很大程度上造成不公平和排外的結果。因此，人工智能生態系統應具有可供選擇性。此外，人們可能也會對數據庫，包括儲存數據的基礎設施抱以擔憂。構建云或其他數據存儲基礎設施的

28、能力教育通常由政府和企業進行，數據主權運動有潛力促進未被充分代表的社會群體創造服務、產品、系統和機構，促進資源正確分配到當地用戶和利益相關方。-18-專欄專欄3：發展中發展中國國家家的數據的數據收集收集 在許多中低收入國家，用結構化和電子化的方式收集數據的做法備受限制。例如在印度尼西亞，大多數政府機構仍然更傾向于硬拷貝數據，這使得未來的數據處理變得更加困難。此外，現有的電子數據文件既沒有集中到一起，也沒有得到有序的儲存，因此很難獲取或進行檢索。因為數字化轉型程度不足，現場數據科學家能利用的數據很有限，往往無法代表全部人口。（四）公平（四）公平性、包容性的性、包容性的模型開發和測試模型開發和測試

29、 確保開發、測確保開發、測試試和測和測量量的公平性和包容性的的公平性和包容性的流流程程 3 P5QR2確定相關多樣化指標評估模型（指標隨時間變化）跟蹤/回應對不同社群的影響實施開發團隊問責機制測試組部署技術驗證、用戶驗收測試/校驗、調試測試測試在倫理、透明度、隱私、環境影響等方面實施最佳方案模型開發模型開發引入新的利益相關方，開展開發/測試迭代-19-開發人員在處理項目時應考慮讓產品具有包容性、符合倫理、透明度、隱私性的優先事項及衡量指標。此外，各機構應優化人工智能相關的實踐，落實追蹤責任制。要實現公平的人工智能部署，就需要有遠見地收集所有用于開展公平測試的人口統計數據。各機構應當引入新的利益

30、相關方，重復進行幾輪開發和測試，并安排測試組進行部署測試，以便于產品團隊評估技術功能及包容性。這些團隊必須將這些具備不同需求和能力的用戶群體納入訓練數據、用戶測試和產品開發中，從而能在充分部署前發現偏差。應把從測試中發現的問題反饋給開發團隊，并根據需要對其重新評估和設計，包括進行技術驗證、用戶驗收性測試和校驗、調試以及設置包容性和倫理的優先衡量指標。開發團隊應確定合適且多樣化指標來評估可能隨時間不斷變化的模型。一旦團隊開發、測試并驗證了產品，就應該獲取受影響的利益相關方對開發的產品特征的知情同意。這一建議對于跟蹤和反映技術對不同社會群體的影響至關重要，如果上述過程中有新的問題和建議產生，開發人

31、員應做出改變、調整或者回到最初階段。-20-專欄專欄4：用不用不同同的的視視角角糾正糾正過過去去 當前，與面部識別系統相關的前六大道德擔憂包括種族偏見和錯誤信息、執法過程中的種族歧視，隱私、缺少知情同意和透明度、大眾監控、數據泄露和低效的法律支持。從2019年到 2021 年，美國大概有 24 個州或地方政府通過了限制人臉識別的法律。使用新的思考方式能避免發布缺少多樣化觀點的人工智能工具，應在典型的人工智能技術公司之外創建一個多樣化的資源網絡，以積極探索對邊緣化社會群體的潛在影響。在產品觸及所有社會群體的生活之前，也可以利用員工資源組（ERGs）和外部利益相關方的觀點來創建更具包容性的人工智能

32、。通過在人工智能生命周期的早期階段進行更多樣化和包容性的訓練，可以避免發布有缺陷的人工智能工具。（五）公平部署可信（五）公平部署可信賴賴的人工智能系統的人工智能系統并并監測監測其對其對社會群體社會群體的影響的影響 -21-3 S5TQUVW&X21 1、人工智能部署的公平和包容、人工智能部署的公平和包容性性實實踐踐 在產品生命周期內提前開展關于平等與公平的對話十分關鍵。人工智能系統部署評估須經歷前、中、后三個階段。要在反復測試和調試人工智能系統之后，再進行部署，隨后為涉及的利益相關方群體進行系統功能的演練。在最終部署前，應給予利益相關方一個最后審查和簽署的機會。此外，對于可能對利益相關方生活和

33、服務產生的任何影響，應仔細考慮公共溝通的暢通度和透明度。如發現任何偏差或不同影響，機構內部應對啟動后的監測進行調整、明確可獲得的升級程序。開發團隊應明確?？紤]新利益相關方或用戶，并重新訓練建立人工智能產品影響及其對特定群體影響的意識實施開發團隊問責機制監測監測/非常關注非常關注部署部署-22-確并清晰了解個人或團隊對特定結果負有的責任。2 2、監監測和重測和重復復訓訓練必須練必須考慮到新出現的利益考慮到新出現的利益相關方相關方和用和用戶戶 由于人工智能系統的運行環境會發生變化，起初具有公平和包容性的人工智能系統，逐漸也可能會做出不公平的決策，使得一些人群無法獲得信貸、醫療服務、教育機會和工作機

34、會等資源。因此，人工智能系統一經部署，其自身和其運行環境都應該持續接受監測，并使用正確的衡量指標，如對用戶和氣候（如能源消耗）造成的影響，以及合適的流程來應對發現的問題。同時，還應該積極向用戶提供能發現并報告有害和可疑的人工智能事件的機制，并將所有相關信息與利益相關方共享，必要時包括監管機構、執法機構和其他政府機構?？梢越o利益相關方提供事件和申訴管理過程，并且便于讓每個沒有數據素養、未接受數據教育且可能受到人工智能系統不利影響的人都有能力報告這類事件，以便及時矯正。應持續將反饋納入人工智能系統的更新中并提供給有關利益相關方。在人工智能系統整個生命周期內，問責必須是重點工作，要對其適當管理。此外

35、，還需要相關措施以便及時發現人工智能運行環境的變化。變化包括可能出現新的用戶群體，他們可能會被人工智能系統以不同的方式對待。例如，在大城市資源豐富的醫院訓練-23-出的醫療人工智能系統可能不適用于農村的小醫院。同時，需要繼續監測人工智能系統影響不同利益相關方群體的方式，這些是在人工智能開發和測試過程中以及整個系統使用過程中需要跟蹤的指標。最后，當人工智能系統需要大量計算資源時，需要跟蹤和管理其對環境的影響。（六）（六）實現人工智能實現人工智能生命周期生命周期的的循環發展循環發展 吸吸取取經驗教經驗教訓訓并并做做出出調調整整，提升系統提升系統包容性包容性 各機構和企業必須投入資源和時間，審查所吸

36、取的經驗教訓并做出必要改變，提高人工智能生命周期內所有階段的包容性。這不僅僅要求對技術本身逐步實施技術調整，還要求批判地檢查當前過程中的利益相關方、用例、設計實踐、社會群體協作與衡量指標，從而重塑生命周期。項目團隊和利益相關方通過反思以下問題能夠回顧他們取得的進步和面臨的挑戰：1、在這個生命周期中出現了哪些公平和包容的成功實踐？2、哪些實踐可能不再服務于項目小組和利益相關方？3、在這個生命周期中是否實現了公平和包容的最初愿景？4、用例和用戶群的定義是否公平？5、在這個生命周期的每個階段中主動促進包容的方法都是最重要的嗎？-24-6、誰的觀點被過度代表？誰的觀點未被充分代表？7、什么對這個生命周

37、期明確的活動構成了不可預見的挑戰？8、還可以納入哪些指標衡量是否成功實現包容？9、該生命周期如何進一步了解受保護的群體？10、治理體系中有什么缺陷？應記錄并定期回顧成功的做法，定期進行審查，從而精簡或擴大規模，同時還應仔細檢查不足之處，進行重新設計和完善。對生命周期的評估應能反過來指導包容性人工智能生態系統的重塑。-25-專欄專欄5：進進化化 新西蘭有一種銀蕨，形狀呈螺旋形展開，毛利人稱之為“初露（koru）”。這種循環不同于圓圈的循環，終點非起點。類比于人工智能的生命周期，初露的形狀可以被理解為是代表著一個打破純粹的循環過程、實現變化和發展的機會。來 源：毛 利 人 實 驗 室，從 毛 利

38、人 鏡 頭 看 人 工 智 能 生 命 周 期，https:/www.maorilab.maori.nz/post/m%C4%81ori-lenson-the-ai-lifecycle.3 Y5Z)_ab2(AB(AB 人工智能的包容性并不局限于技術發展中的公平性和包容性，部署負責任的發展知識傳播分析環境利益相關方有代表性的創新數據目的投資者構建-26-而是其本質的公平性和包容性，因此需要采取生態系統方法。本藍圖主要關注如何在生態系統和人工智能生命周期兩個層面實現設計的公平性和包容性。同時，實施公平和包容的人工智能戰略必須與綜合的人工智能倫理學方法同步實施。本文件所述的藍圖和指導方針為包容性人

39、工智能生態系統和生命周期概念的實際應用提供支持。人工智能生態系統應該包括在人工智能中發揮作用的所有利益相關方，并通過包容性基礎設施、教育和訓練實踐、人員聘用和職業發展以及工作場所環境等幫助他們成為生態系統中的一部分。此外，現在創建和使用人工智能系統的各個方面，如數據收集、數據標注、模型開發、訓練、測試、部署和監測等，都需要將包容性社會群體和利益相關方納入其中。譯自：A Blueprint for Equity and Inclusion in Artificial Intelligence,June 2022 by the World Economic Forum 譯文作者：工業和信息化部賽迪研究院 劉麗超 扈雅楠 聯系方式：13466595569 電子郵件：