《德勤：2024亞太地區生成式人工智能應用與監管報告（20頁）.pdf》由會員分享，可在線閱讀，更多相關《德勤：2024亞太地區生成式人工智能應用與監管報告（20頁）.pdf（20頁珍藏版）》請在三個皮匠報告上搜索。

1、亞太地區生成式人工智能 應用與監管引言 3第一部分：傳統人工智能與生成式人工智能 4第二部分：生成式人工智能相關風險 6第三部分：亞太地區人工智能監管措施 7 第四部分：高可信人工智能框架的應用 10聯系人 17尾注 193亞太地區生成式人工智能應用與監管引言過去一年，大語言模型（LLM）和自然語言處理模型等人工智能（AI）技術的發展取得了重大突破。這些技術已經通過OpenAI的ChatGPT、微軟Bing AI Chat和谷歌Bard AI等工具得到廣泛傳播，并引起全球消費者的熱議、追捧和警惕。AI平臺對廣大用戶的可觸達性突顯了AI技術在各行各業（包括金融服務業）的應用潛力。許多企業開始利用

2、AI技術提高自身競爭優勢。監管機構和立法機構需更加迅速、敏捷、主動地應對AI應用所帶來的相關風險。在德勤2022年發布 人工智能在金融服務業的可靠應用 報告時，亞太地區許多監管機構仍處于商討和/或實施AI原則的起步階段。隨著AI工具在金融服務業得到應用和普及，部分立法和監管機構已經開始研究AI應用的相關風險，以保障消費者權益。在本篇后續內容中，我們將進一步探討金融服務業使用AI的相關風險、亞太地區監管現狀以及金融機構在準備應對即將出臺的相關法律法規時的考量因素。4011 101 011 101 0亞太地區生成式人工智能應用與監管知識更新：了解傳統AI與生成式AI傳統AI是指可以自動處理預定義輸

3、入的系統。此類AI系統能夠從訓練數據中獲取知識，并利用這些知識做出決策或預測。例如，許多企業利用AI聊天機器人提供精簡高效的客戶支持。傳統AI聊天機器人在處理常見問題方面尤其有效。憑借內部搭建的知識庫，其可針對常見問題提供準確一致的回復并進行用戶意圖預測。生成式AI可以編寫文本、生成代碼、制作音頻和圖像，其水平與人類不相上下，甚至超越人類。例如，生成式AI工具包括可用于生成書面文本（如營銷文案、軟件代碼等）和圖像等內容的LLM。生成式AI模型具有生成連貫文本和超逼真圖像的能力，其可采用以前只能通過人類的思維、努力和創造力才能實現的方式生成數據。傳統AI和生成式AI的不同功能驅動了不同用例。就金

4、融服務業而言，傳統AI可以用于開展預測分析或檢測可疑交易，而生成式AI可以加速完成從交易和研究到通過生成相關報告為合規職能提供關鍵支持等任務，本報告將對此作進一步闡述。第一部分：傳統人工智能與生成式人工智能5011 101 011 101 0亞太地區生成式人工智能應用與監管圖1：傳統AI與生成式AI傳統 AI生成式AI預設規則訓練算法預測和模型分析文本生成圖像生成計算機代碼生成特點示例傳統AI是指根據預定義指令或策略執行特定任務的系統。生成式AI是一種能夠根據用戶提示創建新內容的人工智能。6011 101 011 101 0亞太地區生成式人工智能應用與監管第二部分：生成式人工智能相關風險在20

5、22年發布的 人工智能在金融服務業的可靠應用 報告中，探討了亞太地區監管機構希望通過AI監管原則解決的常見風險要素：透明度、問責制、公平性、穩健性、隱私和數據安全。目前此類風險和擔憂依然存在，而生成式AI的興起又給市場帶來了新的風險：缺乏透明度：考慮到生成式AI模型的復雜性及其所涉信息的專有性，人們普遍認為生成式AI缺乏透明度。此外，在衡量或評估生成式AI模型的透明度方面缺乏標準化的工具和方法，這可能導致在比較不同模型和追蹤長期進展時變得困難。歧視和偏見：生成式AI可能會將一些偏見與訓練數據中的模式形成關聯，從而生成歧視性或誤導性內容。缺乏準確性和產生錯誤觀念：生成式AI可能會利用不完整、不準

6、確或有偏見的數據生成不準確或有誤導性內容，或者干脆生成虛構事實。生成式AI模型沒有固有的“客觀真理（objective truth）”，可能會生成錯誤甚至有害的內容和觀點。知識產權和版權問題：生成式AI模型可能會以受版權保護的材料為基礎進行訓練，從而生成與受版權保護的材料非常相似的內容。生成式AI模型還可能用于制造假冒或盜版商品，侵犯知識產權。欺詐：生成式AI可能生成深度偽造和合成數據，這些數據可以用于實施欺詐、傳播錯誤信息或造成系統漏洞。7011 101 011 101 0亞太地區生成式人工智能應用與監管第三部分：亞太地區人工智能監管措施生成式AI的出現迫使亞太地區政策制定機構和監管機構重新

7、評估之前實施的AI框架是否同樣適用于降低新興技術風險。某些監管機構已經實施AI指引和計劃，為企業和行業提供最佳實踐建議。下表（圖2）列舉了亞太司法管轄區在開展AI監管或為AI風險管理提供建議方面所采取的措施，包括制定AI原則、提供指導和工具、出臺立法以及將AI應用納入國家戰略：AI原則：AI原則為有效管理與各行業使用AI相關風險提供了指引。例如，歐盟以AI原則為入手點開展AI監管以及出臺立法。值得注意的是，某些選擇針對AI風險出臺立法或開展監管的司法管轄區也推出了AI原則。舉例而言，中國大陸在對AI應用進行立法的同時，國家新一代人工智能治理專業委員會發布了 新一代人工智能治理原則發展負責任的人

8、工智能。指導和工具：指導和工具通常用于支持AI原則的實施。以新加坡為例，由新加坡金融管理局領導的Veritas聯盟發布了五份白皮書，闡述了公平、道德、負責和透明（FEAT）原則的評估方法。為推動金融機構加快采用FEAT方法和原則，聯盟開發了Veritas Toolkit 2.0版。與1.0版相比，2.0版改進了公平原則評估方法，并納入了道德、負責和透明原則評估方法。2022年5月，資訊通信媒體發展局和個人數據保護委員會推出全球首個AI治理測試框架和工具包A.I.Verify，適用于旨在以客觀和可驗證的方式展示負責任的AI的企業。立法：韓國、中國大陸、菲律賓和越南等司法管轄區采取了針對保險業出臺

9、AI專項立法的措施，其中中國大陸和越南已通過AI專項立法。國家戰略：泰國、印度尼西亞、日本、中國大陸和馬來西亞等許多亞太司法管轄區已將AI確定為戰略重點，并制定了促進可信AI應用的國家戰略，但是某些司法管轄區尚未在實施戰略或向業界提供結構化框架方面取得進展。8亞太地區生成式人工智能應用與監管圖2：監管機構和立法機構為應對AI相關風險而采取的措施AI原則立法指導和工具 國家戰略澳大利亞澳大利亞的 人工智能倫理框架（Artificial Intelligence Ethics Framework）1是指導負責任的AI解決方案的自愿原則。該等原則旨在確保AI對人類有益且用于預期目的，以及AI系統負責

10、人對系統的影響負責。中國香港2021年，個人資料私隱專員公署（PCPD）發布了 開發及使用人工智能道德標準指引2，旨在幫助組織理解和遵守 個 人資料（私隱）條例（第486章）（私例）下相關的個人資料隱私保護要求，以便在開發和使用人工智能時予以遵循。該指引的內容包括人工智能的數據管理價值和倫理原則，并提供人工智能戰略治理實踐指導，以幫助組織制定適當的人工智能戰略和管理模式，進行風險評估，并制定相關的監督安排等。日本經濟產業省的 實施人工智能原則的治理指南（Governance Guidelines for AI Principles）對AI應用的潛在影響進行了考量，并就最大程度減少負面影響提供了

11、指導。3該文件是2019年發布的 以人為中心的人工智能社會原則（Social Principles of Human Centric AI）的延伸。相關原則包括以人為中心，教育應用，隱私保護，安全保障，公平競爭，公正、問責和透明以及創新。中國臺灣2023年8月，臺灣金融監督管理委員會基于臺灣AI行動計劃2.0和全球AI指引起草 金融業運用AI核心原則與相關推動政策 草案，以指導金融機構使用AI。該草案詳細闡述了六項原則，包括治理、以人為本的價值觀、隱私保護、系統安全、透明度和可持續發展。4新加坡由新加坡金融管理局領導的Veritas聯盟發布了五份白皮書，闡述了公平、道德、負責和透明（FEAT）

12、原則的評估方法。5為推動金融機構加快采用FEAT方法和原則，聯盟開發了Veritas Toolkit 2.0版。與1.0版相比，2.0版改進了公平原則評估方法，并納入了道德、負責和透明原則評估方法。中國大陸中國國家互聯網信息辦公室于2023年發布了 生成式人工智能服務管理暫行辦法6，旨在促進生成式人工智能的健康發展和規范應用，保障國家安全和社會公共利益，同時保護公民、法人及其他組織的合法權益。菲律賓菲律賓正在尋求通過立法7，成立“人工智能發展管理局”，負責制定國家AI戰略和框架，指導企業在菲律賓開發和部署AI技術。韓國2023年2月，韓國國會通過 促進人工智能產業和建立可信人工智能框架法案（A

13、ct on Fostering the AI Industry and Establishing a Foundation for Trustworthy AI），這是韓國首部全面規范AI應用的立法，8主要內容包括禁止任何人在未經政府批準的情況下開發AI以及對被認為足以影響人類生活的“高風險”AI進行分類。越南2022年6月，新 保險業務法（Law on Insurance Business）9獲得通過，允許在保險業務活動中使用技術。政府鼓勵保險公司使用包括AI在內的技術來銷售創新型保險產品和服務。印度尼西亞 國家人工智能戰略（National Strategy for AI）10以政府支持的

14、“印尼制造4.0”（Making Indonesia 4.0）計劃為基礎，該計劃旨在推動印尼社會各部門實現自動化，其中提出針對AI、機器人技術和印尼科技企業進行投資，同時吸引來自日本、中國和韓國的領先科技企業進行投資。馬來西亞科技創新部發布2021-2025年國家人工智能路線圖（2021-2025 National AI Roadmap）11，闡明國家促進AI發展的六項戰略以及負責任AI的七項原則。泰國泰國目前暫無AI和機器學習專項法律。12不過，泰國政府正在積極制定國家AI戰略，其中或將包含更詳細的AI監管規定。就其他地區而言，歐盟和美國等司法管轄區也已著手采取措施來應對生成式AI的快速發展

15、。歐盟 人工智能法案（Artificial Intelligence Act）是歐盟委員會為規范歐盟AI系統而提出的立法，并已納入歐盟確保以負責任的方式開發和使用該技術的整體戰略。人工智能法案 旨在建立基于風險的框架，以應對AI相關風險，同時促進創新和提高競爭力。相比之下，美國采取的AI監管措施較為分散。美國的法律和監管結構以州為基礎，在聯邦層面尚未頒布或提出規范生成式AI的法律。某些州（包括加利福尼亞州和科羅拉多州）已著手推進AI立法，而某些州則在監測不斷變化的風險。9亞太地區生成式人工智能應用與監管 人工智能法案已于2023年底通過成為法律。13 人工智能法案 旨在整合歐盟所有國家的AI相

16、關法律，制定AI整體立法，并將其框架推廣為全球基準。AI風險評級分為四個等級：禁用AI系統：因“侵犯基本權利”而被明確禁用的系統，例如公共場所的實時生物識別系統。此外，人工智能法案 嚴禁任何蓄意利用成人或兒童的弱點造成傷害的系統。高風險AI系統：用于或屬于受歐盟產品安全立法約束的產品或 人工智能法案 附件III所列產品的系統。高風險AI系統受 人工智能法案 全面監管并須滿足多項要求。有限風險AI系統：可與人類直接交互的系統。此類系統必須滿足透明度要求并告知用戶他們正在使用AI。低風險或最小風險AI系統：簡單的AI系統，例如垃圾郵件過濾器或AI視頻游戲。此類系統不受任何限制。美國聯邦、各州和各行

17、業的AI監管法規各不相同?？屏_拉多州等州針對AI在保險業的應用制定的專項法律已于2023年生效。目前仍有20多個州未制定AI相關法律法規。2022年10月，白宮科技政策辦公室發布 人工智能權利法案藍圖（Blueprint for an AI Bill of Rights）14，其中提出五項原則：安全有效的系統 算法歧視保護 數據隱私 通知和解釋 替代方案該藍圖并非法規，無法強制執行，其目的是對白宮（科技政策辦公室）認為存在問題的AI用途提供指導。生成式AI的快速發展給亞太地區監管機構帶來了新的挑戰，具體法規的制定和實施往往被認為沒有效果，且可能很快過時。監管機構在應對生成式AI給金融服務業帶來

18、的新挑戰和新風險方面也面臨困難。由于人才短缺以及公共和私營部門為吸引具備適當AI技術能力的人才而展開的激烈競爭，導致某些監管機構無法靈活應對AI技術帶來的新興和不斷變化的風險和發展趨勢。立法機構和監管機構在監督和執行相關指令方面也舉步維艱。例如，就AI定義達成共識是實施AI法律法規的關鍵問題。雖然AI應用可能因利益相關方而異，但就AI原則達成共識對于利用AI改善金融服務且不影響安全性、公平性或消費者保護至關重要。歸根結底，有效的監管應當推動創新，同時保障金融生態系統中所有相關方的利益。行業和監管機構可以加強區域合作，建立跨境治理框架，開展聯合研究，確定最佳實踐，以實現監管標準化。此類聯盟有助于

19、確保監管措施始終依據實際見解應對全球挑戰及平衡行業增長和社會保障。圖3：其他監管轄區為應對AI相關風險而采取的立法和監管措施歐盟美國挑戰和考慮因素10011 101 011 101 0亞太地區生成式人工智能應用與監管相比傳統AI，生成式AI可能會對使用AI應用的金融機構提出更具挑戰性的風險管理要求。由于大多數司法管轄區仍處于制定或實施AI法律法規的起步階段，金融機構必須盡早建立自有AI治理框架并將全球/區域AI原則納入其中。金融機構應當利用該框架系統管理與使用生成式AI相關的風險。這對確保AI監管合規、加強用戶保護以及進一步推動AI應用的成功實施至關重要。人工智能在金融服務業的可靠應用 報告中

20、，我們簡要介紹了德勤高可信人工智能框架。在本節中，我們將探討在不同用例中如何使用德勤高可信人工智能框架管理潛在的AI相關風險。圖4：德勤高可信人工智能框架16保護隱私問責公平、中立安全、穩妥透明、可解釋穩健、可靠承擔責任第四部分：高可信人工智能 框架的應用11011 101 011 101 0亞太地區生成式人工智能應用與監管優勢高可信人工智能框架的應用問題/機遇生成式AI如何提供助力需要考慮的高可信人工智能框架要素降低成本生成研究報告（了解你的客戶，KYC）簡化運營，提高效率，增加勞動力利用率，實現監管合規，從而降低成本?？蛻艚忧儆趧趧用芗凸ぷ鞑⒆裱璌YC標準。在此過程中需要對客戶進行大量

21、人工調查，包括經濟分析、股權調查、負面報道調查和盡職調查，極其耗費人力和時間。生成式AI可以利用現有搜索引擎或生成式AI聊天工具進行初步數據搜索和元分析，以此提高效率并創造價值。此外，其也可編制元分析報告，并為客戶經理提供摘要信息。更加便利和及時的信息獲取將促使員工轉而開展更有價值的工作。保護隱私使用生成式AI時必須采取預防措施，防止敏感信息泄露，并規范對模型、基礎數據和引用客戶數據的訪問。穩健、可靠使用生成式AI進行搜索和分析可能遺漏相關信息，從而影響元分析和決策制定。增強客戶支持客戶服務對于正在向以客戶為中心模式轉型的金融機構至關重要。其中，快速準確地響應客戶問詢十分關鍵，但數字化趨勢限制

22、了其與客戶代表接觸的機會。當客戶期待超個性化體驗時，這一挑戰也隨之而來。生成式AI通過提供超個性化體驗和人性化響應來改善客戶界面。與傳統聊天機器人不同，生成式AI可以表現同理心、總結合同內容以及回復細致問詢。這項技術以LLM為基礎，提供文本、音頻和圖像等多種界面選擇，顯著提高了聊天機器人的實用性和易用性。改進客戶服務可以提高聲譽、效率和客戶忠誠度，企業因此得以擴大運營規模、優先處理復雜任務、吸引新客戶并降低相關成本。保護隱私金融機構必須遵守敏感信息安全傳輸、存儲和訪問規則。透明、可解釋最終用戶需要了解其信息的處理方式，而金融機構需要解釋輸出結果并了解輸出結果的生成方式和原因。12亞太地區生成式

23、人工智能應用與監管優勢高可信人工智能框架的應用問題/機遇生成式AI如何提供助力需要考慮的高可信人工智能框架要素加快執行速度確保理賠的公正性最大限度降 低延遲，自動執行重復任務，顯著縮短運營時間。在財險理賠過程中，代理人需評估保險事故并確定損失金額。這一過程相當復雜和耗時，且代理人缺乏相關工具來支持決策。生成式AI能夠根據客戶對話、文檔內容和媒體報道對保險事故進行虛擬復制，以幫助代理人準確評估損失，還能基于照片證據生成理賠報告，從而加快理賠速度，提高損失評估準確性，快速識別欺詐行為，確保理賠和賠付的可問責性和公正性。穩健、可靠損失可視化對準確性提出較高要求，錯誤的輸出結果可能導致保險公司多賠或少

24、賠。透明、可解釋如果理賠代理人無法闡明輸出結果的生成方式，客戶可能不會接受理賠結果。分配信用額度在當前的信貸發放過程中，傳統AI驅動的信用評分缺乏透明度，代理人必須對基本方法有所了解。某些情況下，信用評分未完全整合，需要人為干預來證明信用額度的合理性。生成式AI可以整合客戶數據，從而在信貸發放過程中估算信用額度，并以類人溝通方式作出回應。相比傳統AI，生成式AI能夠以類人思維模式生成可解釋的決策聲明，提高人工審計的透明度。人工參與的減少顯著提高了信貸發放效率，推動了組織擴張。保護隱私信貸發放過程需要處理大量客戶財務數據，且在數據使用方面存在嚴格規定。確保隱私合規和適當的信息披露至關重要。公平、

25、中立基于歷史客戶數據訓練的信用額度模型可能暗藏偏見，從而導致決策缺乏公平性。預測交易算法開展戰略交易分析需要實時獲取技術數據、新聞報道和行業報告。分析師必須基于大量信息來了解和預測市場軌跡，并謹慎做出買賣決策。由于分析過程費時費力，導致金融機構面臨挑戰。生成式AI依托預測分析生成對沖策略和開展情感分析，助力實時降低投資風險。生成式AI可以加快市場預測，為分析師提供有效支持，并增加交易量，從而在降低風險的同時提高盈利能力。穩健、可靠雖然生成式AI可以幫助分析師提高市場預測的準確性，但是基于不可靠輸出結果做出決策的風險仍然存在，或將造成不良后果。透明、可解釋針對生成式AI的輸出結果進行人工驗證仍然

26、至關重要，并且利益相關者必須了解輸出結果的生成方式和原因，才能對其抱有信心。13亞太地區生成式人工智能應用與監管優勢高可信人工智能框架的應用問題/機遇生成式AI如何提供助力需要考慮的高可信人工智能框架要素降低復雜性數字化轉型代碼助手通過更加有效的預測性分析識別日益復雜的數據源模式，簡化運營流程，改善決策制定。金融機構正在通過云轉型和數據轉換促進AI工具整合。雖然這可以釋放人力資源并降低內部部署成本，但卻需要投入大量時間和資金，且存在失敗和錯誤風險。開發團隊可以利用生成式AI執行負責任的編碼、調試和歸檔任務，從而降低工作復雜性。這種方法可以加快軟件部署，縮短開發生命周期并加速達到穩定且可部署的狀

27、態（例如快速編寫透明且可解釋的API、ETL、數據管道和前端代碼），從而提高效率。穩健、可靠編程相關任務的部分自動化對系統的可用性和準確性提出較高要求。承擔責任基礎模型的訓練數據可能引發與知識產權或版權侵權相關的法律風險。安全、穩妥使用生成式AI可能泄露專有代碼，引發安全問題，侵犯知識產權，造成嚴重后果。問責如果代碼驗證和調試等工作沒有人工參與，則可能出現嚴重故障，因此需要制定歸檔和溝通標準。機構范圍內的數據搜索和訪問涉及多個地點的復雜數據存儲導致金融機構查詢效率低下，從而造成見解片面、風險增加和客戶不滿等問題（尤其是在并購之后）。作為用戶查詢和數據庫之間的橋梁，生成式AI可以實現高效數據挖掘

28、、結構化分析和快速洞察生成，從而降低數據查詢的復雜性，提高非傳統方式下商業智能的可訪問性。承擔責任在擴展數據訪問權限時，金融機構必須明確設定敏感業務數據訪問限制，從而實現有效治理和控制。穩健、可靠由于生成式AI可能產生幻覺并生成不可靠的結果，金融機構或將面臨提供不準確的洞察等后果。保護隱私在處理敏感數據時，金融機構必須確保數據安全，刪除或隱藏訓練和測試數據集中的敏感數據，并對模型進行評估，以防止受保護信息泄露。14亞太地區生成式人工智能應用與監管優勢高可信人工智能框架的應用問題/機遇生成式AI如何提供助力需要考慮的高可信人工智能框架要素降低復雜性（續）監管機器人通過更加有效的預測性分析識別日益

29、復雜的數據源模式，簡化運營流程，改善決策制定。金融服務業受到嚴格監管，代理人需要了解諸多相關法規。這一過程極其耗費時間，而且法規解讀因人而異，因此可能造成疏漏。生成式AI可以對法規和指引進行總結并創建綜合目錄。這種用戶友好界面可以助力金融機構提高效率，及時響應合規要求，并減輕人工查閱法規的負擔。穩健、可靠生成式AI可能基于模糊的數據和錯誤的解讀提供誤導性見解。問責監管要求有時模棱兩可，需要進行人工解讀。轉變交互方式虛擬銀行體驗賦能技術產品與客戶進行人性化溝通，彌合機器語言和人類語言之間的差距?？蛻粲l傾向于通過數字設備進行在線/遠程交易，因此金融機構開始尋求自動化解決方案。雖然聊天機器人配有自

30、動化功能，但由于其對話和選項經過預先編程，其目前在處理對話方面存在局限性。生成式AI可以賦能金融機構在虛擬空間中與客戶進行個性化互動并就客戶問詢提供針對性回復，且無需額外的人工客服。這種用戶友好方式可以實現以客戶首選語言進行及時交流，并通過實時數據訪問提高服務質量和速度。問責如果聊天機器人出現錯誤，利益相關者應當承擔責任，可以通過讓人類參與及記錄角色和職責來促進責任承擔。公平、中立用于訓練聊天機器人的數據集可能暗藏偏見，例如代表性不足的客戶群體或某些語言的語義缺陷，這可能導致客戶產生負面影響并提出投訴。透明、可解釋考慮到聊天機器人的對話能力，金融機構需要告知客戶其互動對象為聊天機器人以及其輸入

31、和信息將如何存儲和使用，從而與客戶建立信任。15亞太地區生成式人工智能應用與監管優勢高可信人工智能框架的應用問題/機遇生成式AI如何提供助力需要考慮的高可信人工智能框架要素推動創新生成合成數據生成式AI可以催生更多新業務，同時滿足客戶對定制產品和服務的期望。不完整的數據集、受限制的數據傳輸以及代表性不足的異常值給金融機構帶來重大挑戰，影響數據分析和決策過程的準確性和可靠性。數據缺失致使金融機構面臨嚴峻挑戰。生成式AI模型可以學習給定數據集中的基本模式，從而生成更加多樣且真實的新數據，為測試機器學習算法以及開發新產品和新服務等工作提供助力。公平、中立生成合成數據可能在無意中延續歷史偏見，例如由于

32、銀行過去的行為導致某些社區或社會經濟群體的代表性不足。穩健、可靠生成式AI生成的合成數據在范圍和規模方面可能受到限制。過度依賴此類合成數據或將影響數據的可靠性，以及模型輸出和訓練的準確性和有效性。定制營銷材料文化差異以及客戶對產品的不同理解可能會使金融機構面臨監管風險。為克服這一難題，金融機構投入了大量人力、時間和資金來維持營銷的合規性。生成式AI賦能金融機構以適當的論調、語言和文化參考定制公平營銷材料，確保營銷內容在觸達大量個人客戶的同時符合多個地區的監管要求，從而降低監管風險。公平、中立訓練數據中的隱藏偏見可能導致營銷材料無法顧及關鍵地域和文化差異。穩健、可靠由于AI輸出結果中的幻覺可能導

33、致虛假陳述和監管違規，因此人工驗證對于確保營銷材料的可靠性至關重要。加強信任開展實時風險管理確保 業務免受欺詐、網絡攻擊和監管漏洞影響，改善產品和服務質量，提高透明度，以此增強品牌信任度。監管要求指出，企業風險管理包括評估和管理與信貸、投資、欺詐和網絡安全相關的風險。該過程依賴于身份驗證和信用評估等多個數據來源，操作復雜且容易出錯，尤其是對于在不同市場擁有數百萬客戶的大型金融機構而言。實時獲取相關數據和信息有助于確保符合監管要求和行業標準。憑借穩健的實時風險評估，金融機構可以更加迅速準確地應對新興風險和趨勢，從而更加靈活地滿足對安全穩妥的AI風險管理的監管要求。公平、中立數據源中的偏見可能影響

34、生成式AI對客戶風險評估的公正性。問責生成式AI無法對因忽略風險導致金融機構做出錯誤決策的后果負責。安全、穩妥由于風險管理涉及敏感信息，金融機構需要確保訪問數據的模型不會將客戶數據泄露或無意中泄露給未經授權方。16亞太地區生成式人工智能應用與監管雖然亞太地區在制定AI法律法規方面仍處于起步階段，但已經采用或考慮采用AI應用的金融機構應著手開發AI治理框架，以此為風險管理和監管合規提供支持。金融機構應對生成式AI應用的輸出結果負責。采用生成式AI應用的金融機構應考慮AI相關風險和AI治理框架如何適配其風險偏好和整體風險管理框架。采用生成式AI應用的金融機構應明確其預期目標和AI應用的使用范圍，并

35、對客戶安全、健康和基本權利受到損害的可能性進行評估。金融機構應加大針對高風險應用的人工監管力度。采用生成式AI應用的金融機構應對影響客戶脆弱性水平的因素（例如教育背景、收入或年齡）進行評估。金融機構應避免因采用生成式AI應用而有意或無意產生對（弱勢）客戶的偏見和歧視。采用生成式AI應用的金融機構應明確負責收集、存儲和處理客戶個人數據的外部方或內部職能部門，并確保其遵守數據保護要求。由于尚不清楚生成式AI的哪些輸入或輸出受版權保護，采用生成式AI應用的金融機構應假設輸入的數據或查詢都可能公開，因此其應采取控制措施，防止無意中泄露知識產權或侵犯版權。已經采用或考慮采用生成式AI應用的金融機構應開展

36、人才招募工作，并幫助現有員工（包括幫助董事會和高管層）了解AI技術的基本概念、部署方式、主要風險以及其在降低相關風險方面應承擔的責任。私營部門應與監管機構和立法機構開展積極對話，分享行業知識和經驗，以促進規則制定并推動就人工智能的未來發展方向達成共識。生成式AI等AI技術為提升金融服務業的效率和數字化水平帶來巨大可能性的同時，也應對相關風險予以充分重視。隨著AI技術監管環境的不斷變化，考慮采用AI技術的金融機構應采取行動了解、識別和管理AI相關風險。關鍵要點17亞太地區生成式人工智能應用與監管中國聯系人聯系人亞太地區監管政策中心吳潔德勤中國金融服務業風險與合規服務主管合伙人+86 21 614

37、1 方燁德勤中國金融服務業風險咨詢主管合伙人+86 21 6141 Sean Moore亞太地區監管策略中心澳大利亞聯席主管德勤澳大利亞監管風險主管合伙人.au黃毅城亞太地區監管策略中心東南亞聯席主管德勤東南亞監管策略主管合伙人神谷精志亞太地區監管策略中心主管德勤亞太合規與法律支持主管合伙人 seiji.kamiyatohmatsu.co.jpJaramie Nejal運營主管德勤澳大利亞金融服務業風險咨詢總監.au小林信也亞太地區監管策略中心日本聯席主管德勤日本金融服務業風險咨詢常務總監 shinya.kobayashitohmatsu.co.jp18亞太地區生成式人工智能應用與監管蘇寧馨作

38、者經理，德勤中國Jennifer Martiniak作者顧問，德勤新加披Andrew Neilson 作者高級分析師，德勤澳大利亞Cathy Zhang作者顧問，德勤澳大利亞Nicola Marshall合伙人澳大利亞Patrycja Grzesznik副主席美國Sam Walsh合伙人英國Gerry Chng執行總監新加坡Matthew Gracie常務總監美國Kedarnath Vallaboina高級經理新加坡陳智明合伙人中國作者致謝19亞太地區生成式人工智能應用與監管尾注1.Department of Industry,Science and Resources,Australias

39、Artificial Intelligence Ethics Framework,November 2019,Australia s Artificial Intelligence Ethics Framework|Department of Industry,Science and Resources 2.香港個人資料私隱專員公署，開發及使用人工智能道德標準指引，2021年8月，guidance_ethical_c.pdf(pcpd.org.hk)3.Ministry of Economy,Trade,and Industry,Governance Guidelines for Implem

40、entation of AI Principles Ver.1.1,January 2022,20210709_8.pdf(meti.go.jp)4.臺灣金融監督管理委員會：金管會就金融業運用人工智慧（AI)之原則及政策草案公開征詢外界意見，2023年8月，新聞稿-金管會就金融業運用人工智慧（AI)之原則及政策草案公開征詢外界意見5.Monetary Authority of Singapore,Veritas Document 3 FEAT Principles Assessment Methodology,January 2021,Veritas-Document-3-FEAT-Princ

41、iples-Assessment-Methodology.pdf(mas.gov.sg)6.中國國家互聯網信息辦公室，生成式人工智能服務管理暫行辦法，2023年7月，生成式人工智能服務管理暫行辦法_中央網絡安全和信息化委員會辦公室7.Republic of the Philippines House of Representatives,An Act Establishing a Regulatory Framework for a Robust,Reliable,and Trustworthy Development,Application,and Use of Artificial Int

42、elligence(AI)Systems,Creating the Philippine Council on Artificial Intelligence,Delineating the Roles of Various Government Agencies,Defining and Penalizing Certain Prohibited Acts,May 2023,hrep-website.s3.ap-southeast- Assembly of the Republic of Korea,the Act Fostering the AI Industry and Establis

43、hing a Foundation for Trustworthy AI,February 2023,-|HOME(assembly.go.kr)9.National Assembly of Vietnam,Insurance Business Law,June 2022,Law No.08/2022/QH15 dated June 16,2022 on insurance business-LawNet 10.OECD,AI Strategies and Policies in Indonesia,AI Strategies and Policies in Indonesia-OECD.AI

44、 11.Ministry of Science,Technology and Innovation,Malaysia National Artificial Intelligence Roadmap,Dasar-Portal Rasmi Kementerian Sains,Teknologi Dan Inovasi(mosti.gov.my)12.OECD,AI Strategies and Policies in Thailand,AI Strategies and Policies in Thailand-OECD.AI 13.European Commission,Proposal fo

45、r A Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence(Artificial Intelligence Act)and Amending Certain Union Legislative Acts,April 2021,https:/eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206 14.The White House Office of

46、Science and Technology Policy(OSTP),Blueprint for and AI Bill of Rights,October 2022,Blueprint for an AI Bill of Rights|OSTP|The White House15.MIT Technology Review,Trustworthy AI is a framework to help manage unique risk,March 2020,https:/ 個城市，現有超過2萬名專業人才，向客戶提供審計及鑒證、管理咨詢、財務咨詢、風險咨詢、稅務與商務咨詢等全球領先的一站式專

47、業服務。我們誠信為本，堅守質量，勇于創新，以卓越的專業能力、豐富的行業洞察和智慧的技術解決方案，助力各行各業的客戶與合作伙伴把握機遇，應對挑戰，實現世界一流的高質量發展目標。德勤品牌始于1845年，其中文名稱“德勤于1978年起用，寓意“敬德修業，業精于勤。德勤全球專業網絡的成員機構遍布150多個國家或地區，以“因我不同，成就不凡為宗旨，為資本市場增強公眾信任，為客戶轉型升級賦能，為人才激活迎接未來的能力，為更繁榮的經濟、更公平的社會和可持續的世界開拓前行。Deloitte（“德勤）泛指一家或多家德勤有限公司，以及其全球成員所網絡和它們的關聯機構（統稱為“德勤組織）。德勤有限公司（又稱“德勤全

48、球）及其每一家成員所和它們的關聯機構均為具有獨立法律地位的法律實體，相互之間不因第三方而承擔任何責任或約束對方。德勤有限公司及其每一家成員所和它們的關聯機構僅對自身行為承擔責任，而對相互的行為不承擔任何法律責任。德勤有限公司并不向客戶提供服務。德勤亞太有限公司（一家擔保責任有限公司，是境外設立有限責任公司的其中一種形式，成員以其所擔保的金額為限對公司承擔責任）是德勤有限公司的成員所。德勤亞太有限公司的每一家成員及其關聯機構均為具有獨立法律地位的法律實體，在亞太地區超過100個城市提供專業服務，包括奧克蘭、曼谷、北京、班加羅爾、河內、香港、雅加達、吉隆坡、馬尼拉、墨爾本、孟買、新德里、大阪、首爾、上海、新加坡、悉尼、臺北和東京。請參閱http:/