《商湯：第六次重塑：元宇宙催化人類新倫理研究報告（20頁）.pdf》由會員分享，可在線閱讀，更多相關《商湯：第六次重塑：元宇宙催化人類新倫理研究報告（20頁）.pdf（20頁珍藏版）》請在三個皮匠報告上搜索。

1、第六次重塑：元宇宙催化人類新倫理第六次重塑：元宇宙催化人類新倫理元宇宙倫理變革報告（2022 版）2022【關于聯盟】亞洲科技促進可持續發展目標聯盟，（英文 Technology for Sustainable Development Goals Alliance for Asia，簡稱 Tech4SDG）致力于動員社會力量積極廣泛參與，產學研聯動，開展科技交流合作、科技倫理研究、科技標準制定、科技產業案例調研，以及發布公開研究成果，推動亞洲可持續發展。聯盟成員主要包括亞洲地區的科技企業、科研機構、智庫、高校及專家學者。了解聯盟更多信息及獲取本報告電子版，可登錄聯盟網站：www.tech4sd

2、gaa.org聯盟聯系方式：secretariattech4sdgaa.org02數字科技推動世界經濟社會進步，創造人類更美好未來03目錄關于亞洲科技促進可持續發展目標聯盟前 言 05第一章 元宇宙重塑社會生態 06第一，元宇宙構建社交新天地 07第二，元宇宙拓展消費場景 07第三，元宇宙推動金融服務升級 08第四，元宇宙影響人類婚戀觀 09第五，元宇宙為文化傳承提供新途徑 09第二章 關注元宇宙九大倫理隱憂 10第一，人類生產力陷阱風險 11第二，虛擬偶像的“負面引導”風險 11第三，虛擬環境帶來的失德、違法誘導挑戰 11第四，數字替身Avatar作惡的挑戰 12第五，深度偽造引發欺騙挑戰

3、12第六，元宇宙背后的“中之人”生活困境 12第七，虛擬群體“網暴”新時空蔓延挑戰 13第八，元宇宙可能放大數據隱私泄露風險 13第九，元宇宙下的資本控制與金融運作風險 13第三章 平衡發展的元宇宙倫理觀 14 第一，以現實世界的可持續發展為元宇宙構建的第一原則 15第二，以人為本是元宇宙構建的基本要求 15第三，技術可控是元宇宙構建的基礎和底線 16結語 170405近年來，元宇宙成為產業界、學界、政府廣泛關注和討論的話題。這個最早源于美國科幻作家尼爾斯蒂芬森在小說雪崩概念，之所以受到廣泛關注，源于包括大數據、人工智能、區塊鏈、混合現實等技術的進步，使得元宇宙一定程度上得以實現。同時，也因為

4、當前全球經濟低迷，各國普遍缺乏新的經濟引擎的情況下，元宇宙讓產業界和政府看到了巨大的產業發展契機。在人類歷史上，每一次重大技術的進步，都帶來時空的重塑，社會生態加速演變。例如，內燃機的出現，帶來了空間的壓縮，極大節約了時間；互聯網的出現，在極大壓縮現實時空的同時，也帶來了虛擬空間的擴延。粗略來算，從人類學會生火，到馴服主要農作物，再到四大發明、蒸汽機和內燃機、互聯網，科技至少已經推動人類社會經歷了五次重塑。目前，元宇宙被定義為 WEB3.0 的核心，標志著互聯網將從平面信息單一供給向沉浸式、全仿真的整體形態供給轉變，網絡空間將升級為立體式、可感知、與現實主體相交融的具身空間。同時，就如同其他技

5、術進步一樣，元宇宙因其虛擬網絡與現實社會高度融合、以數據算法為底層支撐、社會組織形態去中心化等特征，也會加快人類社會生態的演變、重塑。在這個演變的過程中，我們能夠看到其對經濟發展、人際交往、社會組織形態等帶來的正面價值，也會看到其在個人隱私、群體暴力、金融安全、社會治理等方面帶來的一系列挑戰。元宇宙帶來的人與人、人與化身、人與機器、人與現實世界、人與虛擬空間等多重關系重塑，其本質是引發了虛擬世界與現實世界的秩序失衡，其包含的日漸復雜的倫理與法律問題值得我們高度關注。正如有分析認為，元宇宙既是一種技術發展現象，又是一種經濟運行現象，還是一種倫理重構現象。倫理，是構建社會秩序的基石之一，是人類文明

6、的基礎之一。元宇宙大發展，盡快建立起全球普遍接受的元宇宙時空下的倫理觀，對加快全球可持續發展，推動人類經濟社會進步至關重要。前言第一章 元宇宙重塑社會生態元宇宙倫理變革報告（2022 版）元宇宙加快人類社會生態的演變、重塑，對社交、消費、金融服務、婚戀以及文化傳承等，帶來一系列影響，推動人類進入新的發展階段。07第一，元宇宙構建社交新天地。社交是人類的基本需求，而受新冠肺炎疫情的全球蔓延影響，阻斷了人們原本習以為常的近距離交流，無法滿足人們在生活和情感上的需求，元宇宙的出現，為當下人們社交做出了巨大貢獻。傳統的社交以面對面交流為主，受制于時間和空間的限制，在通信技術和互聯網出現后，帶來了電話、

7、信息、視頻等交流方式，打破了這種限制，卻失去了原本的空間感與沉浸感。而元宇宙下的社交方式既是對現實社交和互聯網社交的延續，又從技術和社交場景上實現了多項突破。全球知名咨詢機構麥肯錫發布最新研究報告元宇宙中的價值創造也表明，認為元宇宙將顯著影響我們的商業和個人生活。報告顯示，幾乎百分之六十的消費者更喜歡至少一種虛擬世界體驗，而不是其物理替代品。在這些消費者中，參加虛擬社交活動或玩社交游戲備受青睞（78%）。第二，元宇宙拓展消費場景。元宇宙使得線下線上場景界線破除和融合，讓品牌跳脫出實體產品的限制。除技術之外，未來科技布局的元宇宙還巧妙地賦予試穿行為以轉化價值。線下試穿的行為目的只針對于購買產品本

8、身，而線上試穿的娛樂性能夠將用戶的消費決策前置，消費路徑縮短。用戶既可以在娛樂過程中看到實際效果，也可以直接下單完成購買。商湯科技 SenseMARS 平臺是元宇宙的技術賦能平臺，其上搭載了多種關鍵功能，包括智能感知、智能決策、智能內容生產（包括增強現實、混合現實）、軟件智能體及其他基礎設施（如云引擎等），為各類元宇宙應用提供支持，能夠適用多種業務場景，其中一種技術便是應用虛擬試衣場景。中免集團結合商湯虛擬試衣技術，已在小程序端上線 AR 美妝和 AR 試表；Snow在 APP（韓版）上線了與 Columbia 合作的聯名款鞋子。在實際應用中，該技術將用戶的人體圖像和背景圖像分割，把用戶的人體

9、圖像合成到不同美妝、配飾和衣物的穿著場景中，讓顧客看到衣服在身上的穿著效果，為顧客提供良好體驗。8除此之外，2021 年，商湯聯合越秀集團基于 SenseMARS 平臺打造的廣州商圈首個大型AR 實景應用 AR Show 在越秀集團旗下、廣州第二大、廣州西部最大的購物中心悅匯城開業一周年之際正式上線，該 AR Show 為到場顧客帶來了一場現實與虛擬相互交融的“元宇宙”購物體驗。據商湯科技統計，在悅匯城周年慶?；顒悠陂g，AR Show 助力廣州悅匯城全場銷售額同比增長 196%。目前，零售電商營銷模式正在向元宇宙加速融合，充分利用 3D、AR/VR、AI 等數字技術，參與元宇宙商品營銷。麥肯錫

10、最新研究報告元宇宙中的價值創造表示，2022 年以來，已有超過 1200 億美元的投資流入元宇宙，79%的活躍用戶在元宇宙進行了消費。連接現實世界與虛擬世界，是零售電商行業的大勢所趨。第三，元宇宙推動金融服務升級。金融元宇宙顧名思義是元宇宙中的相關金融服務，銀行、保險、證券等金融機構從最初的資本形成到支持元宇宙內的商業，其提供的金融服務可以在元宇宙的演變中發揮重要作用。依托區塊鏈等技術，各種數據能夠被確權，進而流通和交易，資金和資產的形式將更加多元化。元宇宙與金融的結合將對資產的范疇、流轉形式和交易機制帶來巨大改變，而金融機構需要承接元宇宙下資產的轉變。所以未來元宇宙金融（MetaFi）很可能

11、是去中心化金融（DeFi）、中心化金融（CeFi）和傳統金融（TradFi）的結合，新產品專為滿足新生態系統的獨特需求而設計。盡管金融元宇宙目前仍處在初步探索階段，但諸多金融業務被數字化、場景化，銀行等金融機構積極擁抱元宇宙概念，虛擬數字人、智能線上投顧等元宇宙應用場景初具雛形。這一階段金融元宇宙探索，以借助元宇宙加快推進數字化轉型為主，將部分獲客活動、營銷活動等轉入元宇宙中進行，開發更多的應用場景，給予顧客沉浸式的金融服務體驗。第四，元宇宙影響人類婚戀觀。戀愛關系同樣延伸至元宇宙中。有些公司已經開始提供使用虛擬現實技術的約會服務，用戶可以使用虛擬形象在數字世界中相互了解。有專家表示，元9宇宙

12、比單純的視頻流媒體服務更適合約會，因為元宇宙提供了一種更類似于現實生活的體驗，不會像現實世界一樣因為周邊環境受到干擾。2022 年，美國亞利桑那州一對夫婦在熱門虛擬世界 Decentraland 中舉行了一次元宇宙婚禮，一名亞利桑那州最高法院的法官作為證婚人。當地一家律師事務所承認了婚姻的有效性，創建了一個“元婚姻框架”，其中包括“虛擬婚前協議”，這些資料作為非同質化代幣（NFT）進行了“公證”，并存放在區塊鏈中。元宇宙婚禮尚不具備法律約束力，但已經被部分社會群體接受或者嘗試。此外，元宇宙婚戀還創造了新的文化現象：在日本一些元宇宙平臺，糖被用來表示戀愛，鹽表示離婚。隨著虛擬現實技術的持續發展，

13、物理和數字世界之間的界限日益模糊，虛擬世界的互動對現實關系的影響不可避免，其對婚戀的影響也并非新現象。本世紀初，一對英國夫婦在現實生活中離婚，因為妻子發現丈夫的虛擬形象在虛擬現實游戲第二人生中與另外一名女性的虛擬形象有染。第五，元宇宙為文化傳承提供新途徑。文化是人類文明的核心之一，文化的傳承是人類文明延續的必由之路。目前，全球主要國家普遍對于本國傳統文化的保護和傳承給予了高度關注，文化傳承也是部分主要國際組織的重點使命之一。例如，1972 年，聯合國教科文組織第 17 屆會議通過了保護世界文化和自然遺產公約，旨在保護文化遺產和自然遺產免遭破壞，更好的發展和傳承。2003 年 10 月 17 日

14、，聯合國教科文組織第 32 屆大會通過了保護非物質文化遺產公約，推動人類非物質文化遺產保護。元宇宙的發展為人類文化的傳承、保護提供了新的途徑。具體而言，通過元宇宙 AR 技術，可以實現傳統文化物品、景觀等的數字化，以視頻，三維模型等形式將其打造成數字文創投射到現實世界，在數字世界與現實世界中架起一道橋梁。例如，商湯科技與敦煌文創聯合推出了千年一瞬敦煌數字藏品，與故宮打造數字文創 AR 故宮日歷。其中，千年一瞬敦煌數字藏品受到了文化界人士、市場愛好者的高度追捧，限量發行的 2022 份數字藏品已經上線便“秒光”。第二章 關注元宇宙九大倫理隱憂元宇宙倫理變革報告（2022 版）在肯定元宇宙對人類社

15、會發展的整體積極作用同時，也要對元宇宙帶來的生產力陷阱、虛擬偶像“負面引導”、虛擬群體“網暴”、數據隱私泄露、資本控制與金融運作等潛在的倫理或社會隱憂保持警惕。11第一，人類生產力陷阱風險。元宇宙作為現實物理世界在數字虛擬世界的延伸與拓展，追求跨越現實物理世界與數字虛擬世界之間界限，以其逼真的帶入和對感知的模擬形成虛假的自由世界，從而使得大部分人足不出戶就能夠享受到虛假的人生自由。用戶可以根據其意愿和需求構建場景和劇情，尤其是針對在現實中通過艱苦努力才能達到的或根本無法企及的目標，在交互式虛擬現實世界中予以實現。因此,元宇宙對大部分用戶極具誘惑，容易使其形成新的精神依賴，過度關注虛擬世界。從構

16、成的本質而言，元宇宙是利用數字技術對真實世界的模擬和再造，其內部的所有知識和構件都是已知的事實。因此在元宇宙內的任何活動，包括探索性的活動，本質上都不能夠產生新的知識，大量的有效時間投入到本質上無效的已知數字世界的重復挖掘上。當人類把大量時間花費在已知虛擬世界的娛樂上，而不是對未知世界的探索和改造，將會引發人類在知識發現和實踐上的停滯而阻礙文明進步的歷史進程。從而演化為馬克思所說的“愚鈍的物質力量”，進而引發切實的社會問題。第二，虛擬偶像的“負面引導”風險。據2019 年虛擬偶像觀察報告數據顯示，當年中國二次元用戶規模已經達到了 4.9 億。自 2021 年洛天依登上央視舞臺開始，虛擬偶像開始

17、正式走進了主流大眾的視野。尤其隨著元宇宙概念的興起和不斷發展，虛擬偶像的關注度被提到了一個新的高度。在 Z 世代成為消費主力的今天，虛擬偶像的出現正合胃口，在兩者的共同結合之下，虛擬偶像的興起也已經成為了必然的結果。有統計顯示，虛擬數字人市場規模已超過 2000 億元，預計到 2030 年將達到 2703 億元。目前，全世界有 4000 余個虛擬偶像活躍著，但是虛擬偶像的市場并非十全十美，他們的行為或許會對粉絲產生誘導，尤其是未成年人。商湯科技基于 AI 數字人解決方案推出首個 AI數字醫生小糖，并攜手虎牙直播，通過互動問答的形式，普及大眾最為關切的公共健康知識，提升全民個人防護意識，作為虛擬

18、偶像起到了正向帶動作用。但是也會存在虛擬偶像“負面引導”例子。例如，某平臺上一位虛擬主播宣稱半年消失了是被拐賣了，這個對粉絲群體產生了很大的影響。此外，如果虛擬主播背后的數據庫被“數據投毒”，或算法本身存在偏見，也可能導致虛擬主播“黑化”。12 第三，虛擬環境帶來的失德、違法誘導挑戰。環境具有誘導功能，這將致使人與環境的關系發生逆轉，即虛擬世界中的行為變成現實世界的行為。曾有一段時間“偷菜”游戲風靡大眾，該游戲迎合了大眾潛意識里面“本我”追求自由、享受、刺激的心理。虛擬世界畢竟不是真實生活，像“偷菜”這種行為都是虛幻的，真實生活中偷東西是違法行為，而在游戲中往往能得到鼓勵，這就使人們在游戲的過

19、程中獲得一種刺激感、滿足感。但是一旦沉溺進去，就有可能將現實與虛擬游戲相混淆，少部分用戶受到該游戲誘導，上演真實版偷菜鬧劇被刑拘。元宇宙的布局與發展，會使得智能體隨處可見，并且就像我們現在使用的智能手機和各種軟件能使人人都成為攝影師和廣播員一樣。這會極大地降低我們使用智能設備和進行編程的門檻，使我們能夠進行多主體實時互動、無代碼或低代碼更改內容，在實現虛擬生活與現實生活無縫對接或互補融合的同時，形成數字文化暗示，從而弱化隱藏在虛擬身份背后的人本身對自己行為的約束力。第四，數字替身 Avatar 作惡的挑戰。在虛擬世界中，人們會做出和現實生活中大相徑庭的行為。因為匿名機制的保護，給了“網絡松綁效

20、應”更大的發揮空間，元宇宙的誕生正是提供了一個高自由度，可以做出跳脫現實社會約束的行為的空間。玩家在虛擬環境中的自我認知有可能誘導現實中的行為和意識轉變，潛移默化地改變人們原本的道德認知標準和決策理性，激化人性中的丑惡面。換言之，數字替身在虛擬環境中可能激發人性惡的一面。Roblox 是世界最大的多人在線創作游戲，也是最受歡迎的兒童游戲之一，吸引了超過 1.5億的月活躍用戶。根據彭博社的報道顯示，三分之二的美國 9 至 12 歲的兒童在玩這款游戲。然而，據 BBC 發布的一項調查發現，Roblox 上的一些用戶創建了名為“公寓游戲”的色情房間，允許兒童和成人之間進行不適當的活動，同時，在其他場

21、景中也會出現一些不恰當的性語言。第五，深度偽造引發欺騙挑戰。Deepfake 是一種計算機視覺方法掙得到越來越廣泛關注和應用，它能創造出極其逼真的篡改圖像或視頻。由于制作逼真的換臉視頻比好萊塢的傳統特效技術成本更低，且更容易獲得，這項技術有可能為惡意行為者提供傳播前所未有的虛假信息的手段。有研究顯示，互聯網時代謠言的傳播速度是真實新聞傳播速度的 4 倍，更容易通過煽動大眾情緒實現快速傳播。2019 年 1 月，卡耐基國際和平研究所發表國家如何應對深度偽造亂象一文，指出DeepFake 正在給各國政府和企業帶來破壞性影響。盡管還沒有因為 Deepfake 而引發戰爭，但是已經有一些關于 Deep

22、fake 被用來攻擊政治對手和思想的例子。比利時的一個政治團體編造了特朗普關于巴黎氣候協議的一段假新聞，以說服人們在請愿書上簽字，呼吁政府采取更多行動來應對氣候變化，眾多評論者被欺騙，紛紛為視頻中的言論大聲譴責特朗普。隨著技術的不斷成熟，深度偽造風險將從個人領域蔓延至公共領域，對社會安全、經濟安全，甚至國家安全帶來挑戰。因此，如何保證該技術不傳播錯誤信息，而是形成正向大眾教育和正能量的輸出存在挑戰。第六，元宇宙背后的“中之人”生活困境?！爸兄恕敝柑摂M偶像的幕后扮演者，為虛擬偶像提供動作、聲音、情緒等。在過去幾年里，大批虛擬數字人涌入賽道：會“捉妖”的美妝達人柳夜熙，國內首個數字人女團A-So

23、ul、日本第一代數字人歌姬初音、號稱第一個AI的數字人絆愛、TikTok 上大火的 AI 說唱歌手 FN Meka 等等。這形象背后的世界觀和故事，需要中之人來自我填充。一些經紀公司總是認為粉絲喜歡的是那張皮，那個形象，背后的中之人并不重要。實際上，13那張皮后的“靈魂”才是虛擬偶像的真相。這種認知的錯位導致這個圈子時常出現虛擬偶像休眠、中之人換人后粉絲驟降的新聞。在B站搜索“虛擬主播畢業”，會發現不少個人虛擬主播的畢業視頻，原因多是因為盈利或個人問題。據不完全統計，日本知名虛擬主播公司彩虹社推出的 150 多位虛擬主播中，已經有 17 位因為各種原因“休眠”。在現實中，一個偶像的成長，往往伴

24、隨著事業的興盛、商業價值的攀升，以及個人收入的提級。但是在虛擬偶像現有的商業架構里，這種水漲船高的共享模式可不可行，虛擬偶像背后的“中之人”的權益該如何保障，顯然是更值得關注的問題。除了收入權益保障，中之人也引發社會對其背后扮演者情緒、精神權益與尊重的討論。第七，虛擬群體“網暴”新時空蔓延挑戰。元宇宙中存在大量沉浸式體驗和信息沖擊可能會放大“網暴”帶來的負面影響，法不責眾心態會從互聯網蔓延到元宇宙，存在引發更嚴重“網暴”的可能。因此，元宇宙中的公共監督和社會治理顯得極為重要。網絡匿名的環境和法不責眾的心態削弱了社會約束力和道德感，為網絡暴力提供了溫床。部分為各種現實問題擔憂與困擾的群體尋求在匿

25、名保護下進行情緒宣泄與憂慮表達。在劉學州事件中，1200 余位微博用戶對其發送私信，轉發、評論其負面新聞者不計其數。盡管隨后網絡暴力被停止，參與網絡暴力者被制裁，但傷害已造成，甚至形成無法挽回的惡果。從 WEB1.0、2.0、3.0，再到元宇宙，最大的一個特征就是“現實感”的增強。以前只看屏幕、文字，后來看到圖像，現在戴上 VR 眼鏡，沉浸感之強導致對用戶的影響力會更大，虛擬世界中的網絡暴力造成傷害的可能性遠大于文字所帶來的感受。第八，元宇宙可能放大數據隱私泄露風險。在元宇宙空間里，要實現隨心而動、深度沉浸的體驗，個人數據的交付需要全面升級，種類、維度、深度要求都將出現前所未有的提升。除了身份

26、屬性、行為習慣、人際關系、場景位置等數據的全方位交付之外，元宇宙索取數據的邊界還向人類身體內部更進一步拓展人臉、指紋、聲紋、眼球運動、肌電信號、腦電波等等。移動互聯網對個人數據的收集尚且需要手機、電腦等電子產品作為媒介，但元宇宙深度發展可能將直接鏈接用戶的身體乃至意志。更大量級的隱私收集意味著更多隱私隱憂。元宇宙所帶來的風險可能遠比移動互聯網時代嚴峻復雜。由于元宇宙個人信息收集的海量性、集中性、隱私性，導致一旦被泄露，個人隱私的損失將是全方位的，將對公眾人身安全、財產安全帶來巨大威脅。第九，元宇宙下的資本控制與金融運作風險。資本強大的助推力量促進元宇宙的興起，在元宇宙中存在與現實世界交融的資本

27、控制。例如，Decentraland等平臺舉辦虛擬世界的藝術節、時裝周，宣傳虛擬土地資源的稀缺性，促進虛擬財產交易，鼓勵用戶以數字財產展示其在虛擬世界的社會地位。元宇宙的數字經濟可能會對全球經濟、金融產生多方位影響，可能會沖擊現有的財富分配秩序，加劇真實世界的貧富分化，生產條件的差異化分配將引起“信息窮人”與“信息富人”的分化，并延續至現實世界“信息貧困”和“知識貧困”的發生。因此，元宇宙中數字貨幣存在運作風險，無法全部覆蓋元宇宙經濟與社會發展的需要。第三章 平衡發展的元宇宙倫理觀元宇宙倫理變革報告（2022 版）面對元宇宙發展帶來的社會變遷，要倡導平衡發展的元宇宙倫理觀，倡導可持續發展、以人

28、為本和技術可控的倫理原則。15第一，以現實世界的可持續發展為元宇宙構建的第一原則。元宇宙是集成與融合現在與未來全部數字技術于一體的數字媒介。由此，它將實現現實世界和虛擬世界連接革命，進而成為超越于現實世界的、更高維度的新型數字化世界。但依然要明確堅持一點，即單純的數字化與虛擬化始終不能作為人類文明的演化方向，人類的未來絕不是蜷縮在 0 與 1 構成的數字空間中的內向延展，而是通向更高的對自然的理解與更廣闊的宇宙空間的探索。元宇宙更應該是一個構建良好人機接口的體系集合，促進真實的經濟社會系統與元宇宙的連接，包括教育、科研、工業、商業領域等領域形成元宇宙對其的有效支撐和增強。換言之，要始終以現實社

29、會作為人類構建文明體系的第一基礎，任何虛擬化的文明形態都應該是對現實生活的有益補充而不是替代。這需要在元宇宙的內容開發、場景構建、主要功能實現等領域進行前置性的治理參與和政策引導，限制元宇宙形成可以單獨自我運行的單獨體系，引導其始終服務于現實經濟社會和治理需要。第二，以人為本是元宇宙構建的基本要求。在個人層面，有必要將元宇宙中的用戶和消費者權益保護上升至數字權利保護層面，在虛擬空間中建立強有力的人權保障機制。元宇宙中的社會行為深度依賴數據和算法，因而容易誘發算法歧視、數字控制等問題發生。雖然許多國家已經定立了網絡和數據安全方面的法律法規，但大多規范有余而技術細節不足，導致技術治理難以落到實處。

30、同時，對虛擬化身的權益保護和救濟機制依然不明晰，例如虛擬化身是否享有數字人權，法律如何適用、相關傷害及影響應如何認定等問題，都需要在法理上做出進一步明確。多起元宇宙“性侵”事件的發生，使得元宇宙虛擬空間的倫理與法律問題逐漸引起公眾關注。隨著數字技術的進一步發展，不止是“性侵”，現實社會中的各種風險都有可能在元宇宙中凸顯。消解元宇宙中的新型社會風險還需從治理方式轉型與關鍵法律制度革新這兩方面入手，實現由靜態規則治理向動態回應性治理的轉變，實現數字資產保護、算法監管、數據安全保障等方面的治理創新。162021 年 12 月 1 日聯合國教科文組織的 193 個成員國發起簽署了首份“人工智能倫理全球

31、框架協議”，并且發布了人工智能倫理問題建議書，加強人工智能的倫理治理已經成為人類共同面對的重要任務和緊迫問題。2021 年 9 月 25 日，中國科技部發布了新一代人工智能倫理規范。2022 年 3 月 20 日，中共中央辦公廳、國務院辦公廳印發了關于加強科技倫理治理的意見的通知，在關于尊重生命權利的倫理原則條款中明確強調，“科技活動應最大限度地避免對人的生命安全、身體健康、精神和心理健康造成傷害或潛在威脅，尊重人格尊嚴和個人隱私”。這些價值引導和治理理念的具體出臺，為與元宇宙相關的各類新型經濟形態的開發設置了研發紅線和禁區，為元宇宙能夠造福人類，特別是最大限度地避免陷入元宇宙倫理問題指明了價

32、值取向。第三，技術可控是元宇宙構建的基礎和底線?！凹夹g可控”就是要確?？萍加扇祟愰_發、為人類服務、受人類控制，人類對科技擁有充分自主決策權。相應地，科技應用導致的倫理責任也應由其控制者（人類）承擔。元宇宙所建立的虛擬世界固然美好，但隱私和安全非常重要。個人的信息、社會關系、財產的安全都面臨著風險，對公司來說也同樣如此。所以在軟硬件開發層面、元宇宙實現全方面應該考慮在軟件開發的整個周期中建立可靠的安全措施。在諸多著名影視與文學作品中，關于泛元宇宙下智能體或智能系統失控，引發技術危害人類的情況絕非杞人憂天。目前，元宇宙下的部分技術，已經發展到其解決問題的能力超越人類。例如，人工智能依托大數據進行自

33、我訓練學習，已經展示出驚人的計算能力。只有確保技術可控、可信，人類才不至于在元宇宙中被控制，確保人類的獨立自主。17元宇宙倫理變革報告（2022 版）結語從大歷史視角看，可持續發展是人類的終極命題，即實現人類這一物種的繁衍生息?；仡欉^去幾十萬年來，人類追求可持續發展主要依賴于兩大抓手：一是科技進步；二是倫理規范。當學會用火，再到會生火，食用熟食，人類通過這一科技創新實現了一次巨大的生存飛躍。當人類馴服了馬匹、狗、豬，以及粟、小麥，人類的果腹需求有了一個基本的保障。近現代以來，科技大爆炸已經解決了絕大多數人的溫飽問題，如何吃得更好、住得更好，以及更健康，成為人類繁衍生息、可持續發展的重要追尋。不

34、可回避的是，科技進步一定程度上也會有副作用。例如，近代科技帶來歐洲崛起所引發的全球殖民掠奪；工業發展所帶來的環境污染、氣候變暖等。同時，當人類從奴隸制，到封建制，再到資本主義、社會主義，每一次的社會制度變遷，以及各階段重大人文社科成果的誕生，都是在不斷迭代人類倫理秩序規范，以為不同時代的人類社會運轉提供指導。從羅馬帝國時代的“我來、我看、我征服”，到文藝復興倡導以人為本；從春秋戰國時期的諸子學說，到宋明時期的理學興盛，無不如此。當然，科技創新和倫理規范不是割裂的。每一次科技創新帶來的生產力進步，刺激倫理規范的變革。同時，倫理變革又規范著科技創新帶來的社會變遷。如今，元宇宙時代同樣如此。盡管元宇

35、宙還處于發展初期，但是我們已經看到并能預見到元宇宙這一技術組團式創新將帶領人類進入WEB3.0時代，推動社會重塑。當然，正如本報告所提到的，如同此前每一次科技創新一樣，元宇宙也蘊藏一定的風險挑戰。這就更凸顯了人類要重視元宇宙倫理，建立符合時代需求的元宇宙倫理的重要性。本報告提出元宇宙倫理的可持續發展、以人為本、技術可控三大原則就是出于希望建立人類元宇宙倫理共識，倡導發揮元宇宙對人類社會的正面價值，盡可能規避元宇宙風險。當然，元宇宙倫理的研究也是處于起步階段，相信人類會在元宇宙創造的現實、虛擬新時空中，健全平衡發展的倫理規范，實現更健康的發展，實現更好的可持續發展。18【研究分享】亞洲科技促進可

36、持續發展目標聯盟重視科技應用、科技倫理、可持續發展等研究。聯盟將持續產出研究成果，并面向全社會分享。了解聯盟更多研究成果，可登錄聯盟網站：www.tech4sdgaa.org數字變革助力亞洲平衡發展亞洲科技促進可持續發展報告（2022-2023）元宇宙：亞太新經濟之路田 豐 亞洲科技促進可持續發展目標聯盟秘書長宮 超 商湯科技智能產業研究院科技政策與倫理研究主任翁家良 新加坡 AIII 人工智能國際研究院院長郵箱：james.ongorigami-郵箱：郵箱：作者：指導顧問：張 望 商湯科技副總裁、倫理委員會主席小室熙美 日本國際元宇宙協會理事長欒 青 商湯科技數字文娛事業部總經理特別鳴謝：吳晶彧 梅瑩 徐柏奇 閆欣桐 姚文佳 孫全增 滿運軒 郭曉際 楊燕 胡正坤 謝貝寧 商湯科技智能產業研究院助理研究員郵箱：聯盟網站：www.tech4sdgaa.org