《上海交通大學&聯想&ESG30：2024人本智能：人機共生時代的科技發展觀報告（49頁）.pdf》由會員分享，可在線閱讀，更多相關《上海交通大學&聯想&ESG30：2024人本智能：人機共生時代的科技發展觀報告（49頁）.pdf（49頁珍藏版）》請在三個皮匠報告上搜索。

1、出品聯合出品人 機 共生 時代 的 科 技 發 展 觀02人本智能人機共生時代的科技發展觀序言PREFACE2022 年 11 月 30 日，人工智能公司 OpenAI 發布聊天機器人模型 ChatGPT。它以前所未有的生成能力、廣泛的應用場景以及像人類般互動的自然語言交互模式，讓大眾第一次真切感受到人工智能（Artificial Intelligence，以下簡稱“AI”）的魅力。由此開啟的新一輪 AI 大模型技術浪潮，正深刻改變著現在乃至未來人類社會的生產生活方式。事實上，自 1956 年達特茅斯會議首次提出“人工智能”這一概念以來，人工智能技術至今已經歷經大約 70 年的發展歷程。它曾帶

2、來過技術變革的期望，也曾經歷過產業發展的低谷。然而，此次浪潮所引發的關注度前所未有公眾情緒由最初的旁觀、震驚，逐漸演變為一種夾雜著期盼與焦慮的復雜情緒，各種疑慮也不斷產生。比如，AI 是否會讓人變得更有創造力？AI 能否真正給人們的生活帶來便捷并提升品質？AI 會威脅甚至取代自己的工作嗎？如何確保AI 技術不被濫用、不會侵犯個人隱私和安全特別是，一些引發大眾關注的熱點事件將當前 AI 發展中缺乏對人關注和保護的不足集中暴露出來。透過 AI 紛繁復雜的發展背后，人們希望回歸兩個基本的起點：一是 AI 作為一種技術的工具屬性這一本質；二是發展AI 的初衷和目標人本，或者說以人為中心。技術創新對生活

3、的影響是巨大的，但這并不是自動發生的。它取決于我們發明的技術類型以及我們如何使用它們。2024 年諾貝爾經濟學獎獲得者、麻省理工學院教授達倫阿西莫格魯（Daron Acemoglu）“”03序言1.尤瓦爾赫拉利，智人之上：從石器時代到 AI 時代的信息網絡簡史，中信出版集團，2024 年一方面，人類發明任何工具，出發點都是將人類從繁雜枯燥的生產活動中解放出來，從而幫助其更好地生活。作為一個技術范疇的統稱，AI 開始于 20 世紀 50 年代初計算機、物理、數學、心理學、神經科學等不同領域的學者開始研究如何讓機器像人類一樣思考和行動。在接下來的幾十年里，人工智能領域經歷了多次的高潮和低谷，但其核

4、心的工具本質，始終未曾改變。另一方面，AI 系統將人作為學習和模仿的對象，通過復雜的算法和大量數據訓練，學習人類的語言、行為模式、決策過程乃至創造性的表達。對于 AI 而言，人始終是學習進化的基點和目標。一個 AI 系統本質上是一個從輸入信息到生成行為的轉換系統。人類的任務是設計這個轉換機制，然而現實的發展可能會偏離起點和初衷。正如歷史學家尤瓦爾赫拉利所做的論斷，AI 是“歷史上第一個可以自己做決定的技術，也是歷史上第一個可以自己創造想法的技術”1。對此，人們有必要保持一定的審慎態度，特別是在底層價值認知方面進行充分的反思。從技術這一大類的屬性來看，人類可以賦予技術以靈魂，但是反過來，人類這一

5、物種的生物和社會屬性可能在很大程度上被技術所左右；從 AI 本身的技術特性來看，不同于以往的技術或者技術變革，AI 有望在人類體驗的所有領域引發變革并重塑價值觀，改變人類理解現實的方式以及在其中扮演的角色。如何確保在這一進程中 AI始終以人為目的，是一個嚴峻的考驗。人們需要思考，在 AI 發展如火如荼的大潮下，人們應該以什么樣的價值觀來推進 AI 技術和產業的變革及治理，以什么樣的關系來處理 AI 與人類的關系，如何將價值觀置于技術之上，進而擁抱 AI。正如“AI 教母”、華裔科學家李飛飛在其自傳 我看見的世界 中所言，“如果人工智能要幫助人們，我們的思考就必須從人們本身開始”。人工智能最偉大

6、的勝利不僅是科學的，還是人文的。人的尊嚴、人的快樂、人的安全、人的幸福，是人工智能技術發展的北極星人工智能，以人為本。04人本智能人機共生時代的科技發展觀第一章新型人機關系，新 AI 價值觀1.1 人工智能的四輪發展浪潮1.2 新一輪 AI 的特質1.3 新一輪 AI 下的人機關系1.4 走向人機共生新時代1.5 構建新型“三線”人機關系第二章人本智能 一種新的科技發展觀2.1 從機器智能到人本智能科技人文主義的興起2.2 人本智能概念的提出2.3 人本智能的內涵和原則第三章人本智能的應用實踐 3.1 人本智能的產業實踐3.2 人本智能的行業應用3.2.1 傳媒與文藝創作案例 1：人民日報“創

7、作大腦 AI+”平臺案例 2：聯想 AI PC 助力紀錄片 西野 拍攝制作3.2.2 教育行業案例 3：清華學子的 AI 搭子“清小搭”3.2.3 制造業案例 4：鯤云科技 AI 系統守護礦工生命安全案例 5：設序科技讓船舶設計更簡單有序3.2.4 交通出行案例 6：“蘿卜快跑”們上路，自動駕駛引熱議3.2.5 醫療健康案例 7：聯想用 AI 幫助漸凍人“開口”說話案例 8：百川智能用 AI“造醫生”3.2.6 環境與生態保護案例 9：北京亦莊“AI 之城”的環境管理案例 10：聯想集團“AI+動物保護模式”第四章人本智能發展觀：倡議與治理 4.1 全球人工智能治理的努力智能向善與負責任的 A

8、I4.2 走向人工智能的未來人本智能倡議 第五章結語關于 AI 及人的未來致謝目錄CONTENTS060811141619212124262629313335384244051723464841第一章新型人機關系，新 AI 價值觀05CHAPTER 1新型人機關系，新 AI 價值觀第一章06人本智能人機共生時代的科技發展觀人工智能的四輪發展浪潮人工智能正以驚人的速度重塑著世界。在近 70 年的發展歷程中，人工智能經歷過黃金時代也曾有過低谷。不過科技的魅力在于，歷經起起伏伏之后，現在的人工智能已開始深深影響人類社會?？傮w來看，人工智能技術的發展歷經了七個階段共四輪發展浪潮。1.起步發展期（194

9、3-1960 年）人工智能從概念逐漸演變為學科，并涌現出了兩大學派：符號主義和聯結主義。人工智能研究者提出了一些基本的概念和方法，如神經網絡、圖靈測試、符號推理、游戲 AI 等，并在一些簡單的任務處理上取得了初步成功，如機器定理證明、跳棋程序、人機對話等。其中最具標志性的事件是 1956 年夏天，美國達特茅斯學院主辦了歷史上第一次人工智能研討會。會議雖然未能達成普遍的共識，卻為所討論的內容起了一個名字：人工智能。從此“人工智能”開始作為一門獨立學科出現，1956 年也因此成為人工智能元年。2.黃金時代（1960-1974 年）人工智能的黃金年代，也是符號主義的鼎盛時期。這一時期科學家們富有理想

10、、信心，認為機器能夠實現與人類同等水平的智能，他們試圖用邏輯和符號來模擬人類思維過程，并已經在自然語言理解、專家系統等一些復雜任務上取得了突破性進展。在這一時期，一款名為 ELIZA 的聊天機器人程序問世，引起了人們廣泛關注。同時期，美國斯坦福大學費根鮑姆教授開發了一款專家系統 DENDRAL，能夠幫助化學家確定化合物結構和性質，為最早的專家系統開辟了道路這種經過訓練的智能化計算機可以像專家一樣“思考”，也醞釀了第二次人工智能浪潮。3.第一次寒冬（1974-1980 年）20 世紀 70 年代初，人工智能發展遭遇瓶頸。首要困難就是計算能力和存儲空間不足，導致當時的計算機無法處理復雜的任務，如圖

11、像識別、自然語言理解和機器人控制等。其次，還面臨著數據量和知識表示方面的挑戰。鑒于人工智能未能達到預期的目標和效果，政府和社會各界對其產生了質疑和批評，政府更是削減了對人工智能研究的資金支持，致使許多項目被迫中止或縮小規模。但在此期間，也出現了很多發展亮點和技術進步，如神經網絡技術的出現，成為現代人工智能的重要組成部分。1.1 第一章新型人機關系，新 AI 價值觀074.再次繁榮（1980-1987 年）科學家借助邏輯編程語言和專家系統技術，推動人工智能在一些商業領域獲得成功，進而重新獲得政府和企業的支持。同時，聯結主義的代表性技術人工神經網絡重新受到關注。這是人工智能的復蘇階段，也是 分化和

12、競爭的階段。5.第二次寒冬（1987-1993 年）這段時期，人工智能再次遭遇挫折和困境，標志性事件是日本第五代計算機系統研制計劃的失敗，自此專家系統不再獨領風騷。與此同時，神經網絡研究遭遇新的瓶頸，針對人工智能研究的資助再次縮減。在這個階段，人工智能研究者意識到，要解決更為復雜和普遍的問題，就需要運用更復雜、規模更大的模型，以及更多的計算資源和更豐富的數據等。同時，人工智能也面臨著一些哲學和倫理的問題，如機器是否具有意識、機器是否有道德以及是否會對人類構成威脅等。6.深化發展（1993-2015 年）AI 研究者開始采用更加實用和漸進的方法，將 AI 技術應用于各個領域，涌現出許多創新的理論

13、、方法、技術和應用。如 IBM 的深藍超級計算機在國際象棋比賽中戰勝了世界冠軍加里卡斯帕羅夫；智能系統沃森參加智力問答節目，打敗了兩位人類冠軍，展示了人工智能在復雜領域的強大能力。7.爆發發展（2016 年至今）隨著技術的突破、成本的下降和應用的普及，AI 開始從實驗室走進大眾的生活。2016 年至今（2024 年）可視為人工智能的爆發階段，也是創新和應用的關鍵階段。特別是 2016 年，可被稱為人工智能的元年，在這一年谷歌 DeepMind 研發的 AlphaGo 在圍棋人機大戰中擊敗人類棋手李世石，成為人工智能發展史上的一個重要里程碑在一片驚呼聲中 AI 邁上一個新臺階，各界對 AI 的熱

14、情和投入被充分激發。同時，互聯網的飛速發展推動人類進入大數據時代，數據、算法、算力三要素齊頭并進，以深度神經網絡為主的深度學習技術開始興起并持續取得突破。人工智能的應用從圖像分類逐步拓展至語音識別、知識問答、人機對弈、無人駕駛等諸多領域。直至 2022 年，ChatGPT 橫空出世，使得公眾對人工智能的理解被徹底刷新，并極大加速了 AI 在各行各業、各類場景中的應用，同時也引發了關于 AI 技術的社會影響和倫理問題的深入探討。一方面，各國政府以及產業界正在積極投資和布局 AI 領域，希望能在這場科技革命中占據一席之地，并取得產業化的先機；另一方面，很多企業家和學者對 AI 的迅速發展發出警示，

15、提醒其對社會存在的風險，呼吁全球各國、政府部門、行業組織、社會公眾等多元主體共同參與人工智能治理。08人本智能人機共生時代的科技發展觀新一輪AI的特質1.2 回顧 AI 的發展歷程，人工智能是一個被不斷定義且持續擴展的領域，這是因為人工智能具有多維度的屬性，而且始終處于動態發展狀態。1956 年的達特茅斯人工智能會議首次提出人工智能概念，確定了 AI 的目標是“實現能夠像人類一樣利用知識去解決問題的機器”。在這一定義范疇中，人們傾向于將 AI 理解為能夠幫助人類的一種工具，是人類智慧的補充。隨后，在近 70 年的發展中，人們對 AI 的工具屬性不斷進行擴展，諸如 AI 能自我演進和擴展，AI

16、具有經濟和社會的基礎結構屬性，AI 具有超主權屬性等等。這些不斷疊加且動態變化的屬性在最新一輪 AI 熱潮中得到集中展示。自 2022 年末起，OpenAI 公司的 GPT 系列大模型因為可以廣泛應用于自然語言生成、語音識別和智能服務等領域，而成為 AI 歷史上的重大分水嶺。GPT 的重要優勢在于采用了 Transformer 架構，即一種基于注意力機制（Attention Mechanism）的神經網絡結構，能夠支持模型高質量地處理長文本，把握文本中的長期依賴關系。更為重要的是，GPT 的預訓練基于自監督學習方式，通圖16AI 經歷“三起兩落”，迎來第四次浪潮圖119561980200620

17、23產業熱度一起一落1950s-1970s人工智能誕生后快速發展，遭遇批判后陷入資金短缺危機1974 年AI 研究經費遭遇大幅削減，進入“Al 之冬”1956 年，達特茅斯會議召開，人工智能元年開啟80 年代，“專家系統”一類的 AI 程序開始被廣泛采納，知識處理成為主流AI 研究焦點2006 年，深度學習元年，AI 進入快速發展階段ChatGPT 月活破億僅用 2 月，生成式 AI 應用進入爆發周期1987 年AI 硬件市場需求大幅下跌，Al 再次進入低谷2016 年Alpha Go 將 AI概念和技術推向大眾視野，資本紛紛涌入 AI 賽道Al 模型突破帶動初步商業化，但推廣應用存在成本障礙

18、AI 廣泛落地語音、圖像場景，但殺手級應用較缺乏出現殺手級應用，AGI 加速實現再起再落1980s-2000s第三次崛起2010s-2020s第四次浪潮2023-來源：畢馬威中國、聯想集團，“普慧”算力開啟新計算時代 報告第一章新型人機關系，新 AI 價值觀09圖16生成式 AI 的特征及與傳統 AI 的區別圖2類別生成式 AI傳統 AI功能特點通過學習實現對輸入數據的生成和完成創造性任務。更具創造性，擅長自動生成全新內容，包含文本、圖片、音頻和視頻等。展現出驚人的創造能力、通用能力和涌現能力學習從輸入數據到輸出標簽的映射關系，進而對新的場景進行分析、判斷和預測，如人臉識別、推薦系統、風控系統

19、、精準營銷、機器人、自動駕駛等技術路徑分析歸納已有數據后生成新的內容，如 AI 學習大量的繪畫作品后，不僅能識別不同風格的畫作，還能模仿某種特定的風格，創作出新的畫作依靠預設的規則和大量的訓練數據，將數據分類打標簽，從而區分不同類別的數據。讓AI學會從數據中提取特征，并據此進行分類或預測應用場景應用于許多創意和生成任務中，如新的文本內容、故事、文章、視頻生成，藝術創作，游戲，人機交互，編寫代碼,設計藥物等應用于各種需要精確分類和預測的領域，如醫療診斷、工業質檢、金融服務等與人的交互界面以 ChatGPT 為典型代表，開放了用戶界面，使得普通人可以像用手機或電腦一樣直接使用，簡潔易用普適多數集中

20、于專業和行業內人士，非大眾層面主要投入來源這波大模型人工智能的浪潮以產業界為投入主力，產業界提供豐富的財務資源、強大的算力資源和頂尖的 AI 人才很長一段時間由學術界的頂尖科研人才默默推動，政府相關投入是主要來源未來發展方向更強大的生成能力，更豐富的跨場景應用，人機交互方式和關系進階更高的準確性和效率，更廣泛的應用場景，與其他技術融合等過在大規模文本語料庫中學習語言的統計規律和模式，從而理解和生成自然語言文本?？梢哉f，這是一個不斷建設、具有學習能力的神經網絡的過程，并引領了生成式 AI 的新范式。值得一提的是，新一輪 AI 真正的特殊之處在于，人工智能已成為推動自身發展的動力從簡單的弱智能走向

21、更加復雜的通用人工智能（Artificial General Intelligence，簡稱AGI），即具備與人類同等智慧甚至超越人類的人工智能，能夠表現出正常人類所具有的所有智能行為。具體來說，生成式 AI 典型體現在以下幾個方面。1.強大的生成能力：AI 的生成能力是其最引人注目的特征之一。通過學習大量的數據，AI 可以自主創造出新的內容，包括圖像、文本、視頻和音頻。這種能力打破了傳統軟件對明確編程輸入的依賴，使 AI 能夠在沒有直接人類指令的情況下創作出全新的作品。2.便利的自然語言交互：新的 AI 具備與人類進行自然交互的能力不是局限于簡單的命令執行或反饋提供，而是能夠更深層次地理解和

22、響應人類的情感、意圖和需求。這種能力可在聊天機器人、虛擬助理、更廣泛的客戶服務和支持，以及心理健康支持和個性化服務等方面得到應用。3.廣泛的應用場景：新的生成式 AI 不僅能夠理解和生成人類語言，還能執行復雜的推理任務、編寫代碼、分析數據，甚至創作藝術作品從藝術創作（如繪畫、音樂制作）到內容創造（如自動生成文章、新聞報道），再到設計領域（如自動生成圖形設計或產品模型）；同時結合其推理能力，AI 可以在醫療診斷、金融分析和技術故障排查等領域發揮重要作用。據此，新的 AI 實現了從專才到通才的躍遷。10人本智能人機共生時代的科技發展觀圖16高德納咨詢公司（Gartner）技術成熟度曲線圖3期望科技

23、誕生的促動期過高期望的峰值泡沫化的低谷期穩步攀升的光明期實質生產的高峰期時間研發 初創公司第一輪風投第一代產品，高價，需要大量定制 早期接受者試用 大眾媒體追捧炒作 擴展到早期接受者以外的用戶開始有負面報道 供應商大量增加 供應商兼并、倒閉 第二輪、第三輪風投少于 5%的潛在目標用戶已完全接受 第二代產品，部分服務發展方法論和最好的實踐技巧第三代產品，開箱即用產品，成套產品用戶接受度高速增長：20%到 30%的潛在目標用戶已完全接受OpenAI前首席科學家伊利亞蘇茨克維總結，GPT學習的是“世界模型”。他將互聯網文本稱作世界的映射，因此，將海量互聯網文本作為學習語料的 GPT，學習到的是整個世

24、界。不僅如此，已具備了“世界模型”能力的 GPT 還能夠生成“萬物”，包括文本、圖片、音頻、視頻、代碼、方案、設計圖等諸多與工作、生活息息相關的事物。AI 研究者和產業界的樂觀主義者正全力推動 AI 追趕甚至超越人類智能，其中具有代表性的人物當屬通用人工智能（AGI）的倡導者、OpenAI 的 CEO 薩姆阿爾特曼。他曾表示，AGI 最終將在各個領域媲美甚至超越人類智能。他的技術樂觀主義使他堅信，AI 并非僅在“某些”任務上，而是在幾乎所有任務上最終都將超越人類，并且“代替正常人類”。特別是在 AI 進入大模型時代后，各種“類人”“超人”和“模型人”能力持續涌現，使得 AI 的自主性、通用性、

25、理解力快速提升，可以說人工智能正越來越接近人類智能。按照高德納咨詢公司（Gartner）技術成熟度曲線對應到 AI 波折起伏的發展歷程，可以看到，AI 此前幾次表現出的熱潮，更多應該被理解為一項新興技術在萌芽期的躁動以及泡沫期的膨脹。但最新一輪 AI 在許多領域表現出能夠被普通人認可的性能或效率AI 補充、增強甚至在一定程度上替代人的能力，并作為一種成熟的商業模式開始在產業界發揮出真正的價值。這也反映出這一輪 AI 與此前幾輪 AI 相比發展的特質這次 AI 熱潮由現實商業需求主導，贏得了更多產業界、投資者的追捧，而非像以往一樣更多來自政府或者學術研究領域2。2.李開復、王詠剛，人工智能，文化

26、發展出版社，2017 年第一章新型人機關系，新 AI 價值觀11那么，這便引發了古老且持續更新的問題：在一個機器越來越多地承擔過去只有人類才能勝任的任務的時代，人類的身份該如何體現？當 AI 日益成為人類感知和思想的工具時，人類如何看待自己、人類與 AI 的關系以及人類在世界上的角色？或者從更寬泛的意義上來說，未來人類將如何與 AI 共生？新一輪AI下的人機關系1.3 2024 年 7 月，OpenAI 公司向公眾披露了其對 AI 發展階段的界定標準，以幫助人們更清晰地理解 AI 的安全和未來發展。該系統被劃分為五個級別，從能夠與人類進行基本對話的人工智能（Level 1）開始，直至能夠獨立完

27、成復雜組織任務的高級人工智能（Level 5）。具體等級如下：第一級（Level 1），聊天機器人，具有對話語言能力的 AI，如 ChatGPT；第二級（Level 2），推理者，具備人類的推理水平，能解決人類級別問題的 AI；第三級（Level 3），代理人，能夠代表用戶自主采取行動、執行任務的 AI；第四級（Level 4），創新者，可以協助人類完成新發明的 AI；第五級（Level 5），組織者，可以完成組織工作的 AI；OpenAI 公司自認為目前尚處于第一級，但即將達到第二級。鑒于 2024 年 9 月 12 日 OpenAI 正式發布的其首款具備推理能力的 AI 語言模型OpenA

28、I o1 只是具有更復雜的推理能力，還沒有產生第三級調用、第四級創造、第五級組織方面的能力，所以距離具有自主能力的通用人工智能比較遙遠。伴隨 AI 智能化程度的不斷升級，其與人的關系也在動態變化。結合 AI 的新實踐，可大致將人機關系分為四大典型場景。第一類：人類生活中的 AI結合文本、語音、圖像等多模態能力的大模型不僅改變了人機交互方式，還催生了新的“工種”智能體。業界通常認為，AI 智能體是指具有自主性、反應性、交互性等特征的智能“代理”，能夠自主理解、規劃決策并執行復雜任務。其核心在于自主性的增強，即能夠獨立完成某項工作，無需人類進行過多的審核校正，可以顯著降低時間、金錢等成本。對于人來

29、說，這將極大程度地解放生產力，助力創新和提升效率。特別是通過在個人智能終端或邊緣設備（如電腦、手機、平板、頭顯乃至汽車）上運行 AI 大模型壓縮技術，通過自然交互接收指令并執行推理，形成個人智能體（Agent）。在這些搭載了智能體的設備上，AI 大模型能夠依據個人旅行記錄、購物偏好等信息，更好地進行推12人本智能人機共生時代的科技發展觀理并采取行動；它甚至可以根據用戶的思維模式和行為頻率預測下一個任務，并主動提出建議、自主尋找解決方案，促使人機之間形成更佳的協同關系。最終，智能化系統將逐漸具備自主決策和行動能力，不僅能提供建議，更能代表人類行動和自主處理信息人與機器之間的界限將被重新界定。第二

30、類：人類情感世界中的 AI孤獨感是現代社會很多人共同面臨的問題。人們通過網絡技術獲得虛擬的情感體驗已非新鮮事。AI 的加入，則讓這一體驗變得更加真實?！坝袉柋卮稹薄坝袉枌Υ稹敝皇浅蹼A，后續還有“有問趣答”“不問自答”，真正讓 AI 伴侶生動鮮活起來，進而使 AI 對人起到情感“治愈”的作用。與此同時，無論 AI 有無思想，在海量且不斷更新的語料“投喂”下，人類的語言正在被 AI 不斷學習和精進。與 AI 系統的頻繁互動可能影響人類的情感認知和社交能力，可能導致人們過于依賴技術，甚至可能引發心理問題，如壓力、焦慮等，也會給人類的真實社會互動模式帶來改變。值得一提的是“數字分身”的發展。聯想集團的

31、一項研究表明，全球三分之二（67%）的 Z 世代年輕人認為網絡和現實之間的自我表現存在脫節，這進一步加劇了他們的孤獨感和焦慮感。有近一半（49%）的 Z 世代表示，與在現實中相比，他們在網上能更輕松地表達自我，但其中 60%表示希望有能力在現實生活中與家人和愛人進行艱難的溝通和對話。從技術層面來看，每個人都可以用 AI 創造一個“數字分身”，通過終端連接進入計算機模擬的另一個三維世界，每個人都可以在這個與真實世界平行的虛擬世界中擁有自己的分身。第三類：人類生產中的 AI當前，人工智能技術已經成為社會發展的重要驅動力；未來，幾乎所有的產業及其相關工作都將依賴人工智能的助力。當然，這并不意味著人類

32、的工作將被完全取代；相反，人工智能將成為人類生產和工作中的重要伙伴，幫助人類更出色地完成任務，尤其是在那些需要大量數據分析和計算的工作領域。典型場景如下：醫學領域：通過機器學習和大數據分析，AI 能夠輔助醫生進行疾病診斷。例如，在醫學影像識別方面，AI 可以快速、準確地分析 CT、MRI 等影像數據，檢測腫瘤、出血點、骨折等病變情況，提高早期診斷率；還可以根據病史、癥狀、實驗室檢查結果等信息，為醫生提供病情診斷建議，支撐臨床決策。金融領域：利用機器學習算法和大數據分析，AI 可以為投資者提供個性化、自動化的財富管理建議，根據用戶的風險偏好、財務狀況以及市場動態進行資產配置和投資組合優化。此外，

33、AI 還能夠幫助銀行和其他金融機構快速準確香港科技大學校董會主席、美國國家工程院外籍院士沈向洋在 2024 年第四屆“青年科學家 50 論壇”上預言，大模型最大的超級應用將是超級助理，即一個超級 Agent第一章新型人機關系，新 AI 價值觀13地評估潛在客戶的信用風險等。自動駕駛：通過計算機視覺和深度學習技術，AI 使自動駕駛系統擁有超越人類的感知能力。相比傳統技術，其在路徑規劃和決策方面的應用更領先，可實現行為預測和自適應巡航控制。更為重要的是，AI 通過持續學習和改進，能夠不斷提升自動駕駛系統的性能?？梢哉f，未來的工作環境將是一個人類與人工智能協作的世界，人類的創造力、判斷力和同理心將與

34、 AI 的計算能力、處理速度相結合，共同推動社會的進一步發展。第四類：人類社會治理和倫理中的 AIAI 不僅僅是一場新的技術革新，更是一場社會關系變革和價值觀念的重塑。它所帶來的不僅是技術創新和社會生活的便利，還包括各種智能化風險和倫理挑戰。人類不能以純技術中心或者技術中立的視角來看待 AI 以及處理人類與AI 的關系，典型體現如 AI 技術與用戶隱私及數據濫用問題。AI 技術的應用大量涉及個人數據的收集和處理，AI 系統涉及的隱私和個人信息可能被用于未來模型的迭代訓練；AI 還可能被用來生成虛假信息或惡意軟件，從而造成重大經濟損失和引發法律糾紛。這些問題都迫切需要建立與之適配的社會治理和價值

35、體系。很多學界代表在公開論壇等場合表達了這一擔心。例如，復旦大學計算機科學技術學院教授、上海市數據科學重點實驗室主任肖仰華在 2024 Inclusion 外灘大會上曾表示，人類與其擔心 AI 產生意識，不如先去擔心 AI 過速發展引發失控的風險。肖仰華認為，AI 大規模應用的挑戰，首先在于當下的生產關系等社會發展上層建筑，如何適應以人工智能為代表的先進生產力的快速發展；其次，技術普惠問題同樣值得關注，即如何避免少部分人借助先進技術形成不正當的競爭優勢；此外，還應該特別注意防范技術成癮，防止先進技術對人類造成反噬。1950 年，艾薩克阿西莫夫出版了 我，機器人 一書，書的引言中提出的“機器人三

36、大定律”，開啟了人工智能倫理（AI ethics）研究的先聲?！皺C器人三大定律”旨在約束自主機器，使其服從以保護人類為目的的強制性人性倫理準則，從宏觀層面規范了人工智能的運用邊界。面向未來，AI 應用的首要原則應該是以人為本，AI 應用要回歸科技服務于人的本質，凡是傷害人之本性的 AI 要格外謹慎使用。此外，應明確 AI 不應該成為少數人的特權，每個人都有權利并且能夠參與其中。這些新的社會和倫理關系也構成了新的人機關系的重要組成部分，亟待進一步從社會、倫理和法律等層面對人機關系進行新規范、新思考。展望未來，隨著應用的日益深入，作為人類的創造物，人工智能將被賦予以前只能由人類心智完成或嘗試的任務

37、產生接近乃至超越人類智能所能完成的結果，這無疑挑戰了人何以為人的決定性屬性。AI 的發展促使人們重新思考人類的獨特性和價值所在，促使人們從“以人類理性為中心”轉變為“以人類尊嚴和自主性為中心”，并需要在技術進步和人文關懷之間找到平衡。14人本智能人機共生時代的科技發展觀走向人機共生新時代1.4 人工智能可能會讓人類變得更好，但如果被錯誤運用，也可能讓人類變得更糟。在梳理完不同情境下人與 AI 的關系之后，有必要進一步反思和總結：人們應該以什么樣的態度去面對 AI 及其所代表的機器智能？在這一關系中，人類能否掌握主動權的關鍵，日益聚焦到以下兩個問題上：一是越來越強大的機器智能能否遵循人類的目的和

38、意志，朝著對人類友善、負責任的方向發展，確保不脫離人類的掌握而走向“失控”；二是人類能否未雨綢繆，跟上機器智能的發展和進化速度，有能力與其進行溝通與協作，促成一種更高階的人機共生關系乃至人機文明。斯坦福大學商學院教授、以人為本人工智能研究所高級研究員埃里克布林約爾弗森曾分析，當前 AI 技術進步的速度遠超預期，令眾多研究者感到驚訝。然而，我們的商業、文化和經濟卻未能與之同步，由此產生了一個不斷擴大的鴻溝，其中蘊含著未來十年的重大挑戰與機遇3。在探討新型人機關系之前，需先看到 AI 對個人、社區、社會乃至價值觀層面的全面變革，特別是帶來的挑戰。簡言之，人工智能正在重塑人類社會秩序，全社會必須展開

39、合作，才能更好地適應未來發展。1.對個人工作與生活AI 在影響個人工作方面主要體現在替代勞動力和賦能勞動力。一方面，AI 帶來自動化機器設備等新的生產工具，使得資本可以部分替代勞動力。另一方面，AI 幫助勞動者用更少時間完成同樣的工作任務，提升勞動生產率，還可激發個人創造力，深化創作者經濟。值得一提的是，此輪 AI 技術，尤其大語言模型等技術已展示出替代部分腦力勞動的能力，比如翻譯等工作，而數據分析師、人工智能和機器學習專家以及網絡安全專業人士的工作機會預計將大幅增加，這體現了人工智能給就業帶來結構性沖擊。與此相關的是個人的 AI 素養、培訓及教育，對教育體系、培養模式、人才模型都帶來了顛覆性

40、挑戰。在未來的教育中，如何將生成式 AI 融入課程的各個環節，以適應不同學生的學習模式、偏好和需求，全面提升全民的 AI 素養與技能，將是重要內容之一。對個人生活而言，當下絕大多數的生活場景都可應用 AI比如通過 AI 技術實現家庭設備的智能化控制，如智能照明、智能安防、智能家電等；AI 可以幫助管理健康數據，提供個性化的健康建議；自動駕駛汽車和智能交通系統正在改變大眾的出行方式；虛擬游戲、虛擬角色、智能推薦等 AI 技術也豐富了人們的閑暇時間。值得一提的是，隨著 AI技術的廣泛應用，個人生活中的隱私和安全問題日益突出，成為影響未來 AI 發展的焦點議題之一。值得一提的是，AI 在變革生產方式

41、上最具標志性的事件當屬 AI 與 2024 年諾貝爾獎的話題2024 年三個自然科學領域獎項中，AI 相關的獎項就占兩個。在科研上，AI 展現出了令人矚目的應用成果，極大程度幫助了科研工作者3.2024 年秋斯坦福大學推出的 AI 第一講啟蒙課程AI 覺醒：如何在人工智能浪潮中找準自己的位置，https:/learn.stanford.edu/Social-AI-YouTube-2024.html第一章新型人機關系，新 AI 價值觀15提升科研工作的質效，預示著 AI for Science 正在成為賦能科學研究的第五范式（即利用人工智能加速科學發現的新方法）。與前四種范式（經驗、理論、計算和

42、數據）不同，AI for Science 不僅充分運用已有的經驗、理論和數據，而且生成全新的科學假設和逼真的自然現象，推導出未知的結論，提高科學研究的速度和準確性，探索更廣闊的可能性空間4。從當下 AI 技術水平來看，AI 與科學研究者之間的關系是互補而非替代的。AI 可以作為科學研究的強大工具，幫助人類處理數據、模擬實驗、預測結果等，但是人類科學家的直覺、判斷力、創造性是不可被替代的?；谶@種新的關系，有學者進一步提出建設“智能化科學設施”（AI enabled Scientific Facility，AISF）的構想5，并推動科研范式變革。2.對產業發展AI 正在改變眾多不同行業的運作方式

43、。通過引入 AI，企業和機構能夠將活動自動化，從而產生更加高效且有效的結果，即使在一些傳統行業亦有顯著成效。例如在農業領域，人工智能和機器學習通過收集數據并確定模式，幫助農民更好地了解需要實施什么以及實施多少。又比如在生物醫藥產業中，人工智能可以在幾分鐘內整理總結海量研究成果，其工作量超過研究團隊數月的努力；近年來高通量測序技術的發展與應用，產生了海量的藥物、疾病、基因和蛋白質數據，疊加算法迭代和算力提升，推動了由 AI 技術驅動的藥物研發從理想變成現實。然而，這一進程也需要設計“安全護欄”和“組織機制”，前者確保產業界的 AI 實踐能讓每個人及人類整體從中獲益，且每個人的權利不被侵犯，形成“

44、小河有水大河滿”的良性生態；后者確保產業從戰略、組織機制上適應 AI 新時代的需求。值得一提的是，盡管 AI 潛力巨大，但從目前來看，它尚未真正革命性地改變產業的生產力或企業的運作方式。如果詢問大多數真實世界中的工作人員，他們的回答或許是實際工作并未發生根本變化。因此，盡管未來充滿潛力，但當前 AI 對經濟和社會的實際影響遠未達到令業界無比焦慮的 AI 泡沫程度，仍然有深化發展的空間。實際上，隨著 AI 進入下半場，人工智能逐步呈現“AI 向實”的趨勢一方面擠掉大模型的泡沫，另一方面深入產業和實業，促使 AI 落地。中國科學院院士、清華大學人工智能國際治理研究院學術委員會主席姚期智曾提出，大模

45、型的通用智能必須細化到各個行業，獲得行業中專業數據的“投喂”，通過訓練形成場景化、定制化、個性化的專有模型，才能給各垂直領域帶來 AI 革命，其中的關鍵在于算力、數據與模型的匹配6。3.對社會管理AI 技術為社會管理帶來了諸多變革，同時也帶來了一些挑戰。例如，AI 在智能化監控與預警、社區服務管理以及城市規劃與管理等方面有著巨大應用潛力。然而，隨著 AI 技術的廣泛應用，大量個人信息被收集和處理，數據安全和隱私保護成為重要課題。同時，許多 AI 系統的決策過程缺乏透明度，使得人們難以理解其決策依據，這不僅降低了人們對 AI 技術的信任度，還限制了 AI 技術在一些敏感領域的應用，甚至可能導致不

46、公平的結果出現。4.楊小康：不只是技術迭代，Sora 帶來的是一場深刻變革https:/ for Science專題論壇”上提出了建設“智能化科學設施”，并發布相關研究論文AI for Science：智能化科學設施變革基礎研究丨大力推進科研范式變革。6.清華大學人工智能國際治理研究院，姚期智、張亞勤，國產 AI 大模型加速“上車”，https:/ AI 大潮下，人機共存、人機交互已成為人類必須面對的現實，人機之間的競爭以及可能出現的結構性矛盾也難以避免。然而，也無需過于悲觀，因為目前 AI 所代表的機器智能僅僅是人類的工具或幫手，它按照人類設定的程序默默地協助人類開展工作。在這一關系中，AI

47、 負責信息處理、初步分析和輔助執行，能夠幫助人類減輕繁重的工作負擔，讓人類有更多時間去關注更高價值、更具創造力的任務。以人機協作為基準，融合了 AI 和人的混合智能，將 AI 技術的分析和自動化能力與人類智能相結合，形成了一項強大的技術，可實現協同增效。人機共生是趨勢線。從某種程度而言，伴隨著生成式 AI 技術的到來，人類已經進入一個“人機物”三元融合的萬物智能互聯時代。未來，人類與 AI 之間的融合、進化和共生之路有望開啟。在這一進程中，AI 將不僅僅是一個計算工具，還將扮演人類合作者的角色，執行更為復雜的任務，甚至協助人類進行決策。與此同時，人類也在與 AI 的交互中發生變化。例如，當前端

48、側模型的優化正在改變人與移動設備的交互方式，而更高階的智能體交互（如陪伴型、融入型、替身型、交互型）正在為人們創造全新的體驗，擴展人類能力，甚至實現“超能力替身”，完成以往無法完成的任務?！叭嗽跈C器之上”是底線。從人機關系的角度來看，關鍵在于始終堅持“人是目的”的立場，確立以人為中心的“人本原則”，基于人類的基本立場、價值原則和“底線倫理”來設計治理 AI，讓 AI 擁抱并對齊（AI alignment）人類的價值觀。構建新型“三線”人機關系1.5 4.對全球發展有機構提出，應將人工智能安全視為“全球公共產品”的理念，其一大背景是 AI 技術的全球性影響和治理難題。清華大學蘇世民書院院長、清華

49、大學人工智能國際治理研究院院長薛瀾的研究指出：僅在過去半年，聯合國制定的 17 項可持續發展目標（SGDs）的執行結果就不容樂觀，甚至還有所倒退。AI 會對 134 個（79%）具體目標產生促進作用，對 59 個（35%）產生阻礙作用。從全球角度來看，AI 發展面臨的挑戰集中在三個方面的鴻溝：基礎設施的鴻溝、全世界公民的數字素質鴻溝，以及人工智能發展和治理的鴻溝。彌合這些鴻溝，需要將發展和安全作為一體兩翼，通過多種途徑建立國際交流及防控體系，加強政府之間的多雙邊對話機制，同時期望以科學共同體的力量助力國際治理機制全面完善。第二章人本智能一種新的科技發展觀17CHAPTER 2人本智能 一種新的

50、科技發展觀第二章18人本智能人機共生時代的科技發展觀 我們人類擁有兩種智慧：發明技術的智慧和把握技術發展方向的智慧。中國工程院院士、清華大學智能產業研究院院長張亞勤2024 年 7 月，百度旗下的無人駕駛出租車品牌“蘿卜快跑”在武漢試運營期間，因訂單量迎來爆發式增長、發生輕微交通事故、在鬧市區街頭“罷工”，以及搶網約車司機“飯碗”等話題，而引發熱議，相關詞條多次沖上平臺熱搜榜。這一系列熱點事件讓公眾直觀感受到，AI 驅動的無人駕駛技術在給人們帶來便利的同時，也引發了一系列擔憂，比如對低收入群體生計的沖擊。聯想到更早的 2020 年一篇刷屏熱文外賣騎手“困于系統”，為算法所驅不得不疲于奔命，這讓

51、人們進一步感受到人如何被算法、技術所“奴役”。這也引發了公眾對 AI 倫理、公平、風險等相關問題的關注，讓人們真切認識到包括 AI 在內的技術發展必須且首要考慮“人的因素”，包括人的價值、尊嚴和發展等。因 AI 引發熱議的其他負面事件/話題：AI 造假和詐騙：2024 年初，明星泰勒斯威夫特（Taylor Swift，中文綽號“霉霉”）大量虛假“不雅照片”在社交平臺上傳播。此事震動美國白宮，并掀起一波關于 AI 的擔憂。另據香港媒體報道，有詐騙集團利用 AI“深度偽造”技術向一家跨國公司的香港分公司實施詐騙，并成功騙走 2 億港元，這也是香港迄今為止損失最大的“換臉”案例。AI 信息污染：隨著

52、大模型技術的突飛猛進，AI 合成內容已經變得更加容易，據此引發的“AI 信息污染”讓網民陷入認知幻覺。清華大學新聞與傳播學院新媒體研究中心 2024 年 4 月發布的一份研究報告顯示，近一年來，經濟與企業類 AI 謠言量增速達 99.91%。美國調查機構“新聞守衛”稱，生成虛假文章的網站數量自 2023 年 5 月以來激增1000%以上，涉及 15 種語言。一些專家認為，AI 制造的“信息垃圾”產量龐大，且辨別難度較大、篩選成本較高。AI 侵權：2024 年國慶期間，有網民制作并上傳大量雷軍的 AI 音頻，其中不乏罵人、惡搞小米產品的語音，成為輿論熱點。獲得娛樂的同時，因在未獲得授權的情況下，

53、使用他人聲音進行配音創作，已侵犯了聲音權人的合法權益。而在早前 4 月 23 日，北京互聯網法院對“全國首例 AI 生成聲音人格權侵權案”進行一審宣判，配音師聲音被 AI 化出售獲賠 25 萬元。AI 成癮及首例 AI 致死命案悲?。?024 年 10 月，一起關于 AI 機器人的致死案例在全球范圍內引起了廣泛關注。據媒體報道，居住在美國佛羅里達州的 14 歲少年塞維爾塞澤因為長期沉迷于與 Character.AI 公司開發的 AI 聊天機器人互動，并對 AI 程序中的虛擬人物 Daenerys Targaryen（電視劇 權力的游戲 中的“龍媽”角色）產生了情感依戀，在沉迷數月后，塞維爾變得

54、與世隔絕，于 2024 年 2 月開槍自殺身亡。少年母親對 Character.AI 提起訴訟，指控該公司對塞維爾的死亡負有責任，稱其技術“危險且未經測試”。同時，Character.AI 也發布了一條聲明，對這位男孩的去世表示哀悼，并強調了非常重視用戶安全，將繼續添加新的安全功能?！啊钡诙氯吮局悄芤环N新的科技發展觀19隨著人工智能的能力持續增強，如何定位人類在與人工智能合作中的角色，以及如何管控和治理人工智能，將變得愈加重要和復雜。這是因為任何一項技術本身都無法脫離社會而存在于“真空”之中無論是“技術中性論”所認定的技術只是手段并非目的，還是“技術中心主義”所提倡的“技術救世”，都有意無意

55、地忽視或者淡化了“人”的因素。比如人工智能公平性問題，如果缺乏對人，尤其是對所有人的包容性考量，公平性的缺失會引發諸多問題。首先，在“信息繭房”存在的前提下，信息獲取是否公平？其次，新技術的使用存在門檻，許多老人或者邊緣群體不會使用人工智能時代的新工具，那么這些新技術是否成了“少數人的技術”“少數人的特權”，進而產生“智能鴻溝”？再次，當 AI 技術日益成熟，甚至取代部分人類的勞動，如自動化和 AI 對傳統產業工人、低技能工作者、服務業人員產生職業替代，那么這些是否會在勞動力市場和不同社會群體中造成新的不平等7？作為新一輪科技革命和產業變革的重要驅動力量，AI 正加速向人類社會各個領域滲透融合

56、，對個人生活、產業發展、社會進步、國際政治格局乃至人類的底層價值觀等諸多方面產生重大而深遠的影響。然而，人工智能的快速發展和滲透，也引發了全球范圍內政府、學術界、產業界、國際組織以及大眾對于人工智能法律、倫理和社會影響的持續關注和激烈討論，人們呼吁重視 AI 倫理，加強 AI 治理，踐行 AI 向善和以人為中心的理念，發展安全可信、負責任的人工智能。全球不同政府采取不同的 AI 路徑，創新與倫理平衡是 AI 治理的基本原則。歐盟采取了更加側重于立法和監管的路徑，通過全球首部全面監管人工智能的法規，希望成為 AI 立法和監管領域的全球領導者，并以此轉化為其在 AI 技術和產業上的國際競爭力。美國

57、的人工智能治理政策與監管模式采取“輕監管、重創新”的路徑，旨在推動人工智能發展，避免不必要的監管行為妨礙發展，以維持其全球領先地位，并滿足國家安全需求。中國在第三屆“一帶一路”國際合作高峰論壇期間提出 全球人工智能治理倡議，圍繞人工智能發展、安全、治理三方面系統闡述了人工智能治理的中國方案，堅持以人為本、智能向善，引導人工智能朝著有利于人類文明進步的方向發展。國際社會探索建立廣泛認可的 AI 倫理原則，推進包容且以人為中心的 AI 國際合作機制。從聯合國的“AI 向善國際峰會”（AI for Good Global Summit）以及推動建立“AI 倫理國際對話”的努力，到經濟合作與發展組織（

58、Organization for Economic Cooperation and Development，OECD）和二十國集團（G20）提出的人工智能原則，再到中國主提、聯合國通過的首份聚焦人工智能能力建設國際合作的決議，國際治理和合作機構從機器智能到人本智能科技人文主義的興起2.1 7.相關調研顯示，受 AI 沖擊的脆弱人群分布廣泛，包括影視制作、游戲開發和設計、創意工作者、自雇人群以及低技能勞動者等。特別典型的體現在兩類人群，一是產線工人，因為智能調度系統不僅完全實現了 AGV 代替高強度的人工搬運，還讓生產過程可管可控可分析；二是服務業人員，Al技術在客戶服務、零售等領域的廣泛應用，

59、導致服務業員工面臨被替代的風險。20人本智能人機共生時代的科技發展觀已步入實質性階段。從議題角度來看，當前人工智能治理主要關注倫理、規范和安全三個領域。其中，圍繞破解人工智能領域各國發展不平衡、不充分問題，以人為本、包容可持續、安全可信、創新發展等日益成為被廣泛認可的倫理原則。從“技術中心”到“技術人文雙中心”，科研和產業日益重視 AI 倫理和人的權利價值。隨著 AI 技術本身的演進以及對全行業、全社會影響的不斷深入，國內很多科學家、產業實踐者已經從單純的 AI“技術中心”視角轉向“技術人文雙中心”視角，紛紛呼吁關注 AI 倫理、關注 AI 對人的影響，并提出了各自的 AI 倫理原則，積極防范

60、 AI 應用及濫用可能引發的負面問題。例如，聯想集團在業內率先提出了“人本智能”新主張，強調人工智能的普惠性和包容性。但目前總體而言，行業內在 AI 安全及對人的影響方面的研究投入仍顯不足，倫理價值的落地機制仍需探索，以形成行業共識。上海人工智能實驗室主任、銜遠科技創始人周伯文的觀察數據顯示，目前，世界上只有 1%的資源投入在對齊或者安全考量上，對 AI 安全的投入遠落后于對 AI 性能的投入。未來，人類將遵循“AI-45平衡律”，沿著可信AGI的“因果之梯”拾級而上，探索人工智能系統安全和能力的系統性平衡之路。這一進程需要科學家、技術從業者、企業家和政策制定者共同努力，一邊發展一邊治理。圖1

61、6歐盟人工智能法案規定的四類風險圖4最低風險高風險不可接受的風險特定透明度風險典型場景如啟用 AI 的推薦系統和垃圾郵件過濾器如用于招聘、評估某人是否有資格獲得貸款或操縱自動機器人的人工智能對人類基本權利構成明顯威脅的人工智能將被禁止如聊天機器人，必須向用戶清楚地披露他們正在與機器進行交互。某些人工智能生成的內容，包括深度造假，必須貼上標簽。當使用生物識別分類或情感識別系統時，需要告知用戶具體要求絕大多數人工智能系統都屬于最低風險類。這些系統未對公民權利或安全構成威脅或威脅很小，其法律責任可以減輕或免除，公司可以自愿采用額外的行為準則以降低風險高風險人工智能系統包括某些關鍵基礎設施、醫療設備、

62、教育考試系統、招聘系統、執法系統、邊境管控、司法系統以及生物識別、分類和情感識別系統。被認定為高風險的人工智能系統必須遵守嚴格的要求，包括建立風險緩釋系統、采用高質量的數據集、記錄活動日志、提供詳細文檔、提供清晰的用戶信息、進行人工監督，并確保高水平的穩健性、準確性和網絡安全性包括操縱人類行為以繞開用戶自由意志的人工智能系統或應用，如使用語音輔助鼓勵未成年人進行危險行為的玩具，以及允許政府或公司進行“社會評分”的系統。此外，生物識別系統的某些用途也將被禁止，例如在工作場所使用的情緒識別系統，或在公共場所為執法目的進行的實時遠程生物識別（少數情況除外）在使用生物識別分類或情感識別系統時需要告知用

63、戶。合成的音頻、視頻、文本和圖像等人工智能生成的內容必須標注為機器可讀格式，且能夠被檢測出是人工智能生成的來源：財新智庫根據公開信息整理第二章人本智能一種新的科技發展觀21伴隨著新一輪 AI 浪潮所帶來的新型人機關系，“人本智能”理念應運而生。簡要來說，人本智能（Human-Centric AI，簡稱 HAI）是指從“以人為本”的視角重新審視人工智能技術及其影響，要求在人工智能技術研發，人工智能產品與服務的設計、應用以及與外界交互中，都必須以滿足人類需求和謀求人類福祉為首要目標。人本智能在價值上突出以人為主體，尊重人的尊嚴和權利；認為 AI 是為了增強人類的能力和福祉，而不是取代或降低人類的角

64、色、自尊和價值感。人本智能將 AI 視為由人類組成的更大系統的一部分，它關注 AI 的倫理、社會和文化影響，確保 AI 系統對社會所有人都是可信、可用且有益的?！耙匀藶楸尽笔且环N廣泛的社會價值理念。具體到“人本智能”，它強調在人工智能的發展和應用中持續且全面地關注人類價值、需求和權利，并廣泛應用于社會、經濟、科技等各個領域。人本智能強調人本的核心價值，把以人為中心的理念與 AI 有機融合，在發展 AI 的過程中必須考慮 AI 對人自身以及社會整體的影響；AI 的應用是為了賦能人類，而非取代人類；AI 應盡可能像人類智慧一樣敏感、細膩、有深度。其具體的內涵體現為“人本智能”理念下“三個維度”的升

65、級。在人與 AI 兩者之間的交互關系上，堅持人本設計。它強調在 AI 技術和系統的設計、應用及推廣等全生命周期中，對人的需求、情感和價值的深切理解與尊重，必須堅守不傷害、做有責任的 AI 等底線；應該將人本原則融入其中，堅持人機可持續協同，最終構建一種人機共生的新關系、新范式。在人與 AI 的目標工具屬性關系上，堅持人是 AI 發展的最終目標。它強調AI是人的工具，能夠擴展人的能力，人的價值提升是 AI 的目標，而非相反。結合 AI 作為工具在提升人的目標的不同維度，可進一步將 AI 細分為機器智能、可信智能、交互智能、共情智能及人機物和諧智能8。人本智能概念的提出人本智能的內涵和原則2.2

66、2.3 8.引用自上海交通大學人工智能研究院教授、常務副院長楊小康提出的人工智能層層遞進演化需求：機器智能、可信智能、交互智能、共情智能和人機物和諧智能。22人本智能人機共生時代的科技發展觀 在人與 AI 發展的價值導向上，堅持人本向善。2015 年，聯合國可持續發展峰會提出了“科技向善”這一價值主張它倡導科技創新讓更多的社會成員受益，提升整體社會福利，助力克服健康、環境、教育等領域的關鍵挑戰。聚焦到人本智能理念下，其價值倡導要求將向善的價值觀和行為規范納入人工智能“技術數據應用治理”的完整的生態構架中，“只有給人以希望的科技，才是有希望的科技”。典型體現為 AI 在 ESG 領域的應用，比如

67、堅持人本智理念的 AI 會關注經濟、社會和環境的平衡，確保資源和機會的公平分配，保護未來世代的生存環境?？傮w來說，AI 蘊含著巨大的社會潛力，對每個人而言都可能成為福祉。從本質上來說，AI 帶來了信息化、智能化的平權，雖然當前可能會面臨數字鴻溝、AI 鴻溝等問題，但 AI 不應該成為少數人的特權，而必須讓每個人都能參與其中，并且每一個人都能在 AI 的加持下獲得能力和價值的提升。結合人本智能的內涵，深化人本智能的關鍵在于落實好“四個發展原則”。以人為本的設計運作：確保 AI 技術及體系下提供的方案和產品必須為用戶服務，為人帶來便利和安全，能夠滿足人的全生命周期和多層次需求。以人為本的包容發展：

68、確保 AI 技術能讓每個企業和個人都能享受到 AI 帶來的益處，在 AI 普惠之路上做到“一個都不落下”。以人為本的價值提升：確保 AI 技術以及衍生的人機互動、個人/企業智能體都能促進個人能力和價值的提升。AI 的應用是為了賦能人類，而非取代人類，成為向善的科技。以人為本的底線堅守：確保 AI 技術發展不能偏離人類文明進步的方向，對人懷有善意，幫助人類解決一些有意義的難題，并堅持不損害人且要為大多數人謀利的底線。第三章人本智能的應用實踐23CHAPTER 3人本智能的應用實踐第三章24人本智能人機共生時代的科技發展觀互聯網和移動互聯時代意味著把信息交到地球上的每一個人手中，盡管這些工具起初的

69、分配并不均勻，但站在今天的視角看全球，它們已經讓很多地區跨越前進至現代世界。AI 時代則意味著把智能交給地球上的每一個人。微軟 AI 專家卡梅爾艾利森博士，超越想象的 GPT 醫療人本智能的深化發展將建立在創新變革、安全規范等多重維度的平衡之上。這需要通過有效的治理策略來實現平衡，規避 AI 繁榮背后潛藏的風險。由此引出的 AI 治理和實踐，不僅是技術層面的問題，更是社會問題，需要全社會共同面對。作為目前 AI 領域主力軍的頭部科技企業亦紛紛擁抱 AI 倫理和治理，并努力將“人的因素”納入產業布局和實踐當中。根據騰訊研究院高級研究員曹建峰的總結9，2016 年至今，從原則到實踐，AI 科技倫理

70、成為“必選項”經歷了如下三個階段。原則爆發階段：全球各大行業和一些知名企業及研究機構提出了自己的 AI 倫理原則。2016 年，谷歌、微軟、亞馬遜、Facebook、IBM 等五大科技公司聯合成立了“人工智能伙伴關系”（Partnership on AI），旨在促進 AI 技術的公益、安全、可信、透明和可理解性，以及保護人類的社會和文化價值。2017 年，歐盟委員會發布了 歐洲人工智能戰略，提出了“人本”的 AI 愿景，強調 AI 技術應該尊重人類的尊嚴、自由、民主、平等、法治和人權，并提出了一系列的行動計劃和措施。共識尋求階段：加強 AI 國際治理，OECD 等機構主張推動建立國際公認的倫理

71、框架準則。2019 年，聯合國教科文組織發布了 人工智能倫理問題報告，提出了“人類中心”的 AI 原則，強調 AI 技術應該以人類的尊嚴和權利為核心，以人類的多樣性和包容性為基礎，并提出了一系列的倫理指導和建議。倫理實踐階段：很多企業都在探討如何將 AI 原則貫徹到日常技術實踐中。例如，Google Cloud 采取措施打造負責任的 AI；微軟設立負責任 AI 辦公室，全面推進負責任 AI 的落地實施。人本智能的產業實踐3.1 9.相關觀點收錄入未來論壇編著的人工智能倫理與治理未來視角，人民郵電出版社，2023 年“”第三章人本智能的應用實踐2510.曹建峰，上海師范大學學報（哲學社會科學版）

72、,2023 年第 4 期11.AI 倫理與 IBM：https:/ 模型說明書”，推動 AI 算法的透明性和可解釋性。例如，谷歌推出的“模型卡”工具集（Model Card Toolkit），以及 IBM 的 AI 事實清單等。行業實踐還包括以倫理工具方式呈現的“倫理即服務”，針對可解釋、公平、安全、隱私等方面的倫理問題，研發并開源技術工具。例如，IBM 根據其 AI 倫理的五大支柱可解釋性、公平性、魯棒性（穩健性）、透明性、隱私性，提出了 5 種針對性的技術解決方案11。圖16國外科技公司的 AI 倫理治理機構10圖5企業內部 AI 倫理治理組織組成或職責微軟負責任 AI 辦公室+AI 與倫

73、理委員會(1)負責任 AI 辦公室負責制定內部的 AI 倫理規則、審查敏感應用案例等；(2)AI 與倫理委員會下設七個工作組,對特定 AI 倫理問題進行研究、反思、建議，主動制定內部政策谷歌負責任創新團隊谷歌內部旨在落實其 AI 原則的三層治理架構,包括 AI 原則審查委員會,對谷歌的 AI 產品和 AI 交易等進行倫理評估,以落實其 AI 原則Facebook Al 倫理小組+AI 倫理研究所(1)2018 年成立,旨在確保其 AI 系統盡可能做出符合倫理要求的決策,避免偏見歧視、虛假信息、政治極化等；(2)2019 年成立,投入 750 萬美元,與德國 TUM 共建IBM AI 倫理委員會

74、內部 AI 倫理委員會，由跨學科團隊組成，IBM 首席隱私官擔任主席,直接向公司最高層匯報Twitter 機器學習倫理、透明與責任（META）小組在公司層面推進負責任 AI（包括對算法決定的責任,結果公平公正,決策透明,能動性與算法選擇）,包括研究 ML 決策的影響、完善 Twitter 的服務、打造可解釋 ML 方案等DeepMind 倫理與社會團隊其獨立顧問小組包含多名不同背景與學科的外部專家,就 AI 倫理問題向 DeepMind 提供反饋與指導Salesforce 技術倫理辦公室全稱為 Office of Ethical and Humane Use of Technology,下設倫

75、理咨詢委員會(Ethical Use Advisory Council),由內外部跨學科專家組成SAP AI 倫理顧問小組+AI 領導委員會2019 年成立,AI 倫理顧問小組由學術、政治、產業等領域的外部專家組成Sony AI 倫理委員會2019 年成立,負責落實 Sony 的 AI 倫理指南,AI 倫理辦公室為其秘書處26人本智能人機共生時代的科技發展觀人本智能的行業應用3.2 AI 在當下乃至未來的關鍵領域具有巨大潛力。對應于個人發展、組織和商業變革、氣候變化等全球挑戰，以及人類社會的倫理和治理等四個維度，AI 相關的影響都將不斷深化。其一，AI 提升個人能力和改善個人生活質量。AI 的

76、發展有助于提升個人工作效率，顯著改善個人生活，乃至提升社會整體福祉。其二，AI 推動組織、商業模式與社會結構變革。AI 的發展不僅會徹底改變企業的運營方式，還將對整個社會產生深遠影響。其三，AI 具備解決全球重大挑戰的潛力。AI 技術的進步能夠提供前所未有的創新解決方案，有助于解決諸如氣候變化等全球性問題。其四，AI 與倫理、安全問題。在當下以及未來的 AI 開發過程中，必須重視倫理與安全問題，確保技術的使用是負責任且安全的。人本智能提供了一套方法論和價值準則，可指引 AI 技術聚焦“人本”，確保 AI 發展的方向不偏離。本篇章圍繞 AI 與上述四個維度的融合，選取六大典型行業場景，展示人本智

77、能理念的應用，并展開討論和剖析通過不同行業和場景的案例，具象地展示人本智能發展觀的生命力。行業一：傳媒與文藝創作1 丨行業背景以機構媒體為典型參與者的傳媒與文藝創作領域，其核心價值是內容生產，同時也要思考如何將生產的內容變得更有傳播力和影響力。但在萬物皆媒、萬物互聯時代，“內容創作者”們遭遇的挑戰和困境也在日益加大。傳而不廣、傳而不響：在互聯網時代，人們面臨著海量的信息，以及多樣化傳播渠道的分流，新聞傳播想要在眾多信息中脫穎而出，其難度相比前互聯網時代有指數級增加。而傳統機構媒體等內容生產者所固有的內容生產方式、生產工具、生產流程、生產成果和傳播渠道不能完全匹配新的傳播環境下用戶對高質量、強互

78、動、重精準等內容產品的需求，進而造成“傳而不廣、傳而不響”等困境。對傳統專業創作者的融媒體能力要求提高：面對互聯網高效的信息需求，從業者疲于應對大量稿件等內容快速更迭的時效要求，使得內容產品幾乎沒有了推敲的時間，質量下降；同時，在新媒體的模式下，新聞信息的快速疊加更新，使媒體人的勞動成果被更快速地碎片化，導致從業者無暇生產更高質量、具有社會價值的深度調查報道等。2 丨 AI 賦能AI 技術和新聞傳媒等內容生產行業具有天然的應用匹配性，在文本創作、音樂合成、視頻生成等方面，AI 技術都能提第三章人本智能的應用實踐27供處理技術上的支撐。據此，在 AI 賦能傳媒與文藝創作領域，踐行人本智能有很大的

79、發展潛力。典型體現為 AI 技術賦能，解放內容生產力：無論是新聞報道還是電影藝術視頻制作，現在的流程都相當復雜，從前期材料搜集、選題策劃、構思到后期執行，存在諸多流程，創作者往往需要花費大量精力在低水平的繁瑣技術操作上。相比傳統內容生產模式，AIGC 可以通過交互式快速生產，顯著降低生產成本，極大提升生產效率。3 丨行業案例當今時代內容依然為王，優化內容生產、提高供給側內容質量、滿足受眾多元化內容需求，是提升主流媒體傳播力的關鍵。在 AI 技術的加持下，媒體等內容從業者可大幅度提升高質量內容供給的效率，將自己從日常繁雜的信息搜集等工作中解放出來，投入更有創造力的工作中。人民日報“創作大腦 AI

80、+”平臺人民日報 社推出的“創作大腦 AI+”平臺大量運用 AIGC 技術，通過訓練模型和對大量數據的學習，集納了近20 款智能工具，可及時制作、快速生成多模態新媒體產品，一站式完成采訪、拍攝、直播、剪輯、發布等全流程工作，極大地提升了新聞采編等從業者的產能和創作力。幾個特別的功能都可體現這些價值：海量創意資源在線共享：新聞編輯人員在編寫稿件和資訊時，一大痛點是前期需要耗費較多時間用于搜集行業或者報道主體相關背景材料。而“創作大腦 AI+”可提供海量創意資源在線共享、巨量內容標簽、多級垂直領域分類支撐素材深度挖掘；這項功能憑借強大的結構化智能搜索，可助力從業者短時間內構建起全域知識圖譜，高效完

81、成對報道主題的背景全掃描。在內容生產的工具和流程優化上：“創作大腦 AI+”平臺置入了動態可視化 Web 界面，嵌入視頻、圖片、音頻等數十種 AI 處理工具，可幫助編輯優化視頻操作流程，幫助創作者快速完成音視頻內容生產，將智能化處理手段賦能媒體各業務場景。另外，“創作大腦 AI+”平臺還融入與用戶端的智能互動，把對人的關注擴展到從業者之外的消費者用戶端。通過“創作大腦 AI+”平臺，媒體構建全新應用場景，支持觀眾在觀看視頻過程中持續互動，比如編輯可在視頻故事框架設置多個分支節點，每次互動點擊都會影響劇情走向。這種交互動作深度沉浸，也極大增加了傳媒內容的趣味性，讓傳播力更廣、更深。值得一提的是，

82、近年來傳媒行業普遍積極應對 AI 大潮，推進 AIGC 方向的技術創新，以優化用戶體驗，更新完善產品。以財新為例，財新于 2024 年初成立 AI 實驗室，并早在大語言模型概念普及之前，就研發了“織雀”系統，將海量歷史新聞檔案進行結構化存儲，采用業界領先的 Transformer 技術分析文章中的實體、術語和地域信息，并與數據資產智能關聯。而后再基于“織雀”的數據，進一步研發了“群雁”工具，為采編提供靈活的資訊流編輯案例128人本智能人機共生時代的科技發展觀圖16媒體機構對生成式 AI 已探索或者有意探索的應用場景圖65004003002001000監測熱點事件或收集新聞線索策劃選 題 或草擬

83、提綱輔 助 編 輯，如事實核查、語音轉文字、配字幕或翻譯等創作內容，如生 成 摘 要、制作圖表海報、數字主播配音等分 發 內 容，通過推薦算法開展精準傳播開展用戶互動，如 自 動回復讀者評論、個 性 化推薦等經營推廣，如分析受 眾 結構、偏好等其他功能，實現 AI 與人工并行的新聞生產，提升效率與用戶體驗。此外，財新還推出了多種大語言模型應用，包括文字審校工具、嘉賓推薦、翻譯工具以及新聞話題提取等，集成在 Caixin Global 中，進一步增強內容生成與數據分析能力。財新還引入生成式 AI 技術，推出基于財新內容的 RAG 產品和 AI 客服，幫助用戶深入挖掘高質量報道。聯想 AI PC

84、助力紀錄片 西野拍攝制作不止于在機構媒體端，與此息息相關的電影等文藝創作領域也有 AI 技術賦能的空間。2024 年，OpenAI 宣布Sora 誕生。這款文生視頻的人工智能模型，讓很多從事視頻、動畫以及電影制作的專業人士和藝術家深感震撼。著名導演陸川認為，AI 輔助影視創作最直接的效果，就是利用 AI 可以極大地提升創意視覺化的速度。據此，陸川與聯想集團合作拍攝了由聯想 AI PC 支持創作的紀錄片 西野?！叭绻覀冇脗鹘y的方式去做，storyboard、motionboard、previs 等等，再加上 CG可能要做兩個月，但是這個片子，我們只用兩天就做完了。它極大地節省了成本，還有人力時

85、間?！标懘偨Y。另外，對很多擁有電影夢的剛入行年輕人來說，AI 輔助電影制作“可以跨越資金以及專業的門檻，直接將頭腦中的奇思妙想轉化成一部實實在在的電影”。對內容創作者來說，AI 和 AI PC 是一個知識平權的過程，能夠讓年輕創作者跨越門檻，快速實現創意的視覺化。同時，在未來的實踐過程中，又能夠通過 AI 快速縮短、深化并強化創作鏈條，整個 workflow（工作流程）也會隨之徹底改變。案例2第三章人本智能的應用實踐29行業二：教育行業1 丨行業背景隨著教育理念的轉變，學生越來越需要個性化的學習方案。認識到每個學生都是獨特的個體是教育的起點每個學生都有不同的學習習慣、興趣和能力，傳統的“一刀

86、切”教學模式已經無法滿足他們的需求。同時，面對科技時代的浪潮，固有的學習和教育模式已然落后于 AI 等當代技術的發展。比如，如果教育只是為了知識傳授，相對于大模型數據庫的海量存儲與遷移，作為教育者的教師事實上已落后于 AI，作為學習者的學生也可能面臨沒出校園就已然落后于社會和科技發展的情況。這些都對教育機構和教師提出挑戰：學校和教師需要具備敏銳的觀察力和深刻的理解力，需要具備足夠的資源和方式去根據不同學生的特質量身定制教學方案，面對挑戰提供適宜的支持，幫助學生在自己擅長的領域成長發展。2 丨 AI 賦能伴隨 AI 的深入滲透，教育領域正在迎來教育生態和學習范式的革新。AI 對教育領域的賦能和提

87、升，可體現在三個方面。第一，以 AI 作為一種工具輔助人的教育。例如，把 AI 引入教學中，從而與學生產生以往無法產生的互動。第二，對年輕一代來說，學習 AI 及其涵蓋的特定專業和領域，將成為未來必須具備的一種能力。第三，為 AI 的未來作準備，迫切需要提升學習者的 AI 素養。以高等教育場景為例，結合人本智能的內涵和發展原則，AI 賦能教育不僅僅拓展了學生學習的邊界，使個性化學習的普及成為可能；也拓展了教師教學的邊界，使高質量教學的普及成為可能。3 丨行業案例清華學子的 AI 搭子“清小搭”當 2024 年秋季開學季，清華大學 2024 級本科新生迎來了屬于自己的 AI 搭子“清小搭”，一款

88、基于最前沿大模型智能體技術構建的學生智能助手。作為面向清華學生提供智能問答和伴學服務的成長助手，“清小搭”在設計和開發之初就充分融入學生的學習場景?！扒逍〈睢笨梢詾閷W生提供從校園生活小貼士到學術難題解答的詳盡幫助；同時還能為學生提供智能伴學工具箱，并且通過云盤記錄學習成果和成長軌跡。案例330人本智能人機共生時代的科技發展觀學生可以先進行“學業志趣自測”，根據自己的專業發掘學術興趣和潛能，從而獲得相關的選課建議。在大一期間，“清小搭”主要以智能迎新的方式，幫助學生輕松適應校園生活，在此過程中會提供個人成長檔案、智慧日歷、智能工具箱和成長云盤管理等功能。在大二期間，“清小搭”開始聚焦成為學生的專

89、業導航助手，深化學習與實踐探索，為學生提供 AI 助教、云盤智能問答、職業規劃、技能成長追蹤等功能。在大三期間，“清小搭”偏向于成為學生的科研伙伴 AI，激發學生創新能力，拓寬研究視野。同時，提供導師、科研項目、實驗室選擇等方面的科研發展指導，以及留學、保研申請指導等。在大四期間，“清小搭”會成為學生的規劃助理，支持學生職業生涯規劃與發展決策，同時提供就業指導、面試模擬、畢業設計助手和成長云盤總結等功能。從智能迎新伙伴、專業導航助手，到科研伙伴 AI、未來規劃助理未來，通過與 AI 助教聯動、構建 AI 智能體群聊等機制，在“清小搭”這一平臺上，AI 將為教育教學注入新的活力，集中展示 AI

90、在促進個性化學習體驗、增強包容性，以及推動協作學習模式革新等方面的無限可能。圖16“清小搭”針對學生不同學習階段進行的功能設計規劃圖7大一大二大三大四新生入學期中考試社團社工課外實習專業學習競賽活動選實驗室項目參與出國交流畢業設計保研留學就業智能迎新伙伴：輕松適應校園生活 個人成長檔案 智慧日歷 智能工具箱 成長云盤管理專業導航助手：深化學習與實踐探索 AI 助教 云盤智能問答 職業規劃 技能成長追蹤科研伙伴 AI：激發創新，擴展研究視野 科研發展指導：導師、科研項目、實驗室等選擇 留學/保研申請指導未來規劃助理：支持學生職業規劃與發展決策 就業指導 面試模擬 畢業設計助手 成長云盤總結第三章

91、人本智能的應用實踐31行業三：制造業1 丨行業背景作為廣義制造業的源頭之一，礦山企業是一個移動的生產車間，工作環境復雜多變，安全事故隱患眾多，尤其是煤炭企業，水、火、瓦斯、頂板、煤塵“五毒俱全”，安全生產壓力巨大。同時，礦山行業又是勞動密集型行業，生產線長環節多，人員流動性大，從業者面臨的安全危險多，亟須通過技術等手段實現從業者人身安全的保障。而在制造業的眾多領域中，我國造船業已連續 14 年保持造船完工量、新承接訂單量、手持訂單量世界第一，市場份額超過 50%。在這一進程中，離不開高質量、快速響應的工業設計。但越是高質量的船舶制造越需要設計師們精細的投入和快速的解決方案，以響應越來越多來自國

92、內外的訂單需求。但工業設計有其固有規律，工作環境中不存在礦山工人可能面臨的危險，設計工程師往往不得不投身于多次重復構建配件模型、修改草圖中，設計完成后，仿真等多環節的協作也存在滯后，修改意見難以集中，這些環節使得工業制造的整體流程較慢、效率較低，也限制了設計工程人員生產力進一步發揮的空間。2 丨 AI 賦能在生成式 AI 爆發之前，傳統 AI 在優化制造流程、自動化生產、質量控制、預測性維護以及供應鏈管理等方面已有持續應用。隨著 AI 大模型在制造業場景的深入應用，其在工業設計、制造、仿真等“深水區”取得突破，并將人本智能的理念擴展到更廣領域。一方面，以人為本的包容發展和底線堅守：在人本智能的

93、理念下，AI 發展將以人為本的原則擴展到礦山工人及礦山等場景中，利用 AI 技術幫助人類解決一些有意義的難題，確保每個人都能享受到 AI 帶來的益處。另一方面，以人為本的設計運作和價值提升：在人本智能的理念下，AI 發展旨在促進包括設計工程師在內更多的能力和價值提升，AI 的應用是為了賦能人類，而非取代人類。3 丨行業案例鯤云科技 AI 系統守護礦工生命安全面對高危場景，基于 AI 技術的智慧煤礦解決方案成為助力 AI 向善、以人為本的典型實例。2024 年，鯤云科技AI 視頻分析系統守護礦工生命安全寧煤智慧礦山項目，憑借突出的技術能力及應用效果，入選聯合國“AI for Good”創新案例集

94、。在該案例場景中，鯤云科技攜手寧煤集團，基于領先的可重構數據流架構 AI 技術，建設了算力、算法、平臺一體化的 AI 視頻分析系統，致力于提升礦區安全管理效率，守護礦工生命安全。具體來說，鯤云科技智慧礦山 AI 視頻分析解決方案結合礦工實際作業場景，覆蓋采煤工作面、掘進工作面、主運輸系統、輔助運輸系統及其他井下關鍵場景，提供人員闖入、未穿戴安全著裝、采煤機/刮板機等設備運行狀態識案例432人本智能人機共生時代的科技發展觀別、人員違規跨越、皮帶撕裂、皮帶跑偏、皮帶異物、煙霧火焰等異常情況的智能識別和實時預警，可以有效避免因為人工管理的主觀性技術差錯導致的安全事故和經濟損失，大幅提升礦井綜合管理效

95、率和智能化水平。在寧煤集團白芨溝礦區部署該系統后，礦區實現安全風險秒級預警，半年內累計觸發報警 10 萬余次，智能算法平均實測精度達 95%以上，大大降低了煤礦生產過程中的安全風險，實現礦區零事故，保障近千名礦工的生命財產安全。設序科技讓船舶設計更簡單有序上海汽輪機廠一年要設計近 150 臺套機組，為此，企業 30 余位設計師曾將大量精力耗費在配件模型的反復構建及草圖修改上。在設序科技基于工業大模型的生成式智能出圖設計平臺的加持下，上海汽輪機廠可實現汽輪機零部件自動出圖以及尺寸、形狀、標記等自動標注。設計工程師只需負責最終審圖及適當糾偏。過去，設計師若想把圖紙中特定線條改色，需手動逐一操作；現

96、在，設計師向大模型輸入一段自然語言指令，大模型即能將指令自主“翻譯”成 API 序列并準確迅速執行，快速將設計工程師的設計意圖轉化為設計結果。據前期測試，交付級別圖紙的設計效率提升了十倍，極大地解放了設計師，讓他們有精力去做更有創新價值的工作?？傮w而言，當前，受限于計算資源、工業數據、模型可解釋性等因素，我國對工業大模型的探索仍處于早期階段，AI 深度賦能制造領域尚有較大發展空間。不過，從上述案例可以窺見一些可能的破題“鑰匙”。1.從產業端來看，“大模型+小模型”正逐步成為產業主流技術路線，推動全球 AI 產業發展和對傳統產業的滲透改造。在政策和行業方面，工業領域應該更具意識、更加主動地培養熟

97、悉“大模型+小模型”的復合型人才，營造良好的發展氛圍。同時，積極打通并構建高質量的大模型工業數據集供給體系，加強大模型工業應用生態的構建。2.從企業端來看，可將“設計工程師等工作人員 x AI”的整體效能納入視野，以助推企業更積極地引入 AI。在這一視野下，以人為中心、釋放人的創造力是核心原則。需要指出的是，AI 雖然是日常工作流程中不可或缺的一部分，但它將成為工具箱中的一個補充，其最終目的并非取代人類的創造力。案例5第三章人本智能的應用實踐33行業四：交通出行1 丨行業背景隨著我國城市化進程不斷加快，城市人口數量迅速增加，私人汽車保有量快速增長，導致城市交通擁堵問題日益嚴重。同時，道路交通安

98、全及事故防范一直是交通出行中的痛點。世界衛生組織（WHO）發布的 2023 年道路安全全球現狀報告 顯示，自 2010 年以來，道路交通死亡人數為每年119 萬人，特別是行人、騎自行車的人和其他弱勢道路使用者面臨嚴重且不斷上升的死亡風險。2 丨 AI 賦能人、車、道路，組成了交通出行的基本元素。要解決交通領域的頑疾，AI 在作用于三者的過程中形成了兩組重要關系。AI 與人、車：隨著 AI 對汽車設計制造等全面滲透，汽車擁有了更多智能化、自動化的功能。這些功能是以技術為中心還是以人為中心，代表了不同的發展路徑。在人本智能理念下，汽車廠家、AI 技術開發者深入洞察用戶痛點和難點，了解使用者、乘坐者

99、甚至周圍行人在自動駕駛等技術日益普及下不同場景、不同維度的多元需求。AI、人、車與社會治理：AI 自動駕駛存在物理智能層面的風險，應通過合適的機制在 AI 技術的基礎研發階段就樹立對人價值的尊重，在收集數據、構建模型、安全對齊等維度強化治理意識，并積極參與和遵守相關的政策法規。3 丨行業案例“蘿卜快跑”們上路，自動駕駛引熱議場景 1：自動駕駛本身國內自動駕駛出行服務平臺“蘿卜快跑”展示了自動駕駛對大眾出行帶來的福祉無論是便捷性還是安全性?！疤}卜快跑”定位為面向公眾的常態化出行平臺，旨在解決傳統出租車和網約車存在的一些問題，如司機服務質量不一、交通擁堵、環境污染等。在 AI 技術加持下，“蘿卜快

100、跑”擁有 L4 級自動駕駛技術，擁有高精度地圖、智能感知、精準決策等核心技術，能夠確保車輛在復雜道路環境中安全、穩定地行駛。在服務上，用戶只需通過手機應用程序預約車輛，系統會自動匹配最近的無人駕駛車輛。車輛到達后，用戶通過手機解鎖車門，車內設有智能語音助手，可以提供導航、娛樂和信息查詢等服務。同時，它還具備多車型服務能力，滿足不同乘客的出行需求。案例634人本智能人機共生時代的科技發展觀在商業化運營上，“蘿卜快跑”通過與多家汽車制造商、科技公司合作，不斷優化車輛成本和服務質量，使得自動駕駛出行更加經濟、實惠。同時，還積極與政府合作，推動自動駕駛技術的普及和應用。數據顯示，“蘿卜快跑”平臺累計訂

101、單已超過 700 萬單，自 2021 年以來，平臺已在包括北京、上海、廣州、深圳、重慶、武漢、成都、長沙、合肥、陽泉、烏鎮在內的全國 11 個城市開放載人測試。這不僅展示了其技術的成熟度，也展示了自動駕駛在技術、政策、商業化上的全面推進，為變革未來交通出行使其更加“人性化”做了嘗試。場景 2：自動駕駛外溢影響目前，自動駕駛在安全性方面已經比人類駕駛高出至少 10 倍，這顯示出其在安全性上的優勢。但自動駕駛還存在一些問題，如駕駛不夠熟練、不夠像老司機（老司機開得更人性化，不僅安全，而且駕駛水平高）。在此基礎上，自動駕駛可以納入更廣泛的考量維度，即如何成為一個能長久被接受的出行方式，這涉及自動駕駛

102、在產業、商業及社會上的應用和被接受程度。隨著自動駕駛技術的深入發展以及自動駕駛出租車商業化進程的提速，人工智能的應用如何促進而非擠壓就業，成為一個重要議題。正如“蘿卜快跑”在武漢的規?；下?，引發的熱議：一方面，很多人對其持歡迎態度，認為無人駕駛出租車價格低、服務好，不用擔心司機在車內抽煙，也不用害怕司機路怒斗氣，司乘矛盾得以消除；另一方面，也有人認為無人駕駛出租車可能會沖擊網約車司機的就業，擠壓了人的生存發展空間。自動駕駛外溢影響不僅僅是技術對人就業替代的問題，背后更是長期以來人與技術之間的關系重置隨著人工智能的廣泛應用，其對勞動者的技能要求逐漸提高。缺乏技術背景或無法跟上技能要求轉型的勞動

103、者，可能失去就業機會，導致就業市場的兩極分化，從而進一步擴大不同勞動力群體間的收入差距。事實上，技術進步往往并非中性的，以人工智能為代表的技術進步是超級偏向技能的技術進步。好的一面是，每一輪的技術革命和更新，都會在意想不到的地方為社會創造出新業態、新崗位和新機遇，例如自動駕駛技術研發、數據分析、后臺設計等崗位。其關鍵在于通過治理模式的創新形成 AI 技術負面影響的源頭治理，合理引導和應用人工智能技術，融入人本智能的理念，保持合理的節奏，加強職業培訓和教育體系改革，幫助勞動者掌握人工智能相關的技能，以實現其與就業的良性互動，確保 AI 對社會福祉和所有人利益的提升。第三章人本智能的應用實踐35行

104、業五：醫療健康1 丨行業背景醫療健康是全球范圍內最重要的民生領域之一，隨著人口老齡化的加劇、慢性病患者的增加以及人們健康意識的提升，醫療健康需求持續增長。然而，醫療健康行業持續存在醫生供給不足、醫療資源配置不均衡、診療效率不高等問題，這些問題亟待解決。與此同時，隨著人口老齡化發展，慢性病和并發癥的負擔會加重，醫療健康理念逐步從單純的治療疾病，轉移到衡量和改善患者的生活結果上來，人們對于更高效、更精準、更便捷的醫療服務有著迫切的需求。2 丨 AI 賦能通過應用和普及 AI，將更好、更全面的解決方案輸送給醫療系統，真正提升醫療質量、效率，惠及人群，讓更多患者享受優質的生命關懷，是在人本智能理念下

105、AI 賦能醫療健康的方向。AI 對傳統醫患兩方關系的革新：伴隨 AI 智能化程度的不斷提升，AI 智能在醫療場景中對醫患雙方的價值都在提升對醫務人員來說，AI 是新的助手和伙伴；對患者來說，AI 亦是助理和伙伴，它能夠幫忙打破醫療領域的專業鴻溝，促進醫生與患者之間的交流。如何確保人人都能公平、公正地使用這一可能成為數十年來醫學領域最具影響力的新技術，可能成為未來一段時間醫療健康領域的重要議題。AI 在醫療健康普惠領域的延伸：AI 普惠在醫療健康領域的延伸，極大地展現了 AI 技術背后可承載的責任和文化價值屬性，也是 AI 助力聯合國可持續發展目標（SDGs）和 ESG 的典型體現。3 丨行業案

106、例聯想用 AI 幫助漸凍人“開口”說話肌萎縮側索硬化（ALS），又名漸凍癥，是一種神經系統罕見病，被世界衛生組織（WHO）列為與艾滋病、癌癥等并列的五大絕癥之一。隨著病程加深，ALS 患者會逐漸出現全身肌肉萎縮、無法說話、無法吞咽、無法呼吸，直至死亡。著名物理學家霍金就是漸凍癥患者，并因漸凍癥于 2018 年 3 月 14 日去世。迄今為止，人們對 ALS 的致病原因仍了解不多，治療漸凍癥也是一個世界難題。但醫療、科技產業以技術為導向致力于加強 ALS 患者能力的努力一直沒有停止。聯想集團攜手致力于創新輔助技術的非營利組織斯科特-摩根基金會（SMF），推出了一款針對肌萎縮側索硬化癥（ALS）患

107、者及其他重度殘疾人士的 AI 解決方案，展示了產業界的行動。案例736人本智能人機共生時代的科技發展觀該解決方案結合了由聯想制造的圓形鍵盤界面、預測式 AI，個性化 AI 語音復制和超真實虛擬形象，以及眼球追蹤技術，可助力 ALS 患者對外進行快速、準確和個性化的溝通。以往，受到 ALS 早期癥狀中可能出現的嗓音惡化的限制，傳統的語音存儲是一項艱巨的過程。此前的模型還明顯缺乏情感表達能力，語音節奏機械，韻律怪異但最新的 AI 技術改變了這一切。即使是質量較差的有限音頻樣本，AI 也能根據需要生成令人滿意的語音。作為該解決方案的受益者之一，漸凍癥患者 Erin Taylor 通過 AI 為自己打

108、造了一個數字分身，保留了 Erin 自己的聲音，并用幾分鐘渲染完成，得以實現繼續為孩子們唱搖籃曲的夢想?！翱萍?，尤其是 AI 的最新進展所可能帶來的改變，使我獲得了新的力量和希望?！盓rin 曾在社交平臺分享了自己的經歷和觀點，“用確診前的聲音說話使我難以置信，但最讓我興奮的是參與開發更智能的技術，讓其他人受益?！辈恢褂?ALS，聯想還針對阿爾茨海默癥等其他身體機能受限人士開展了很多 AI 技術賦能提升行動。比如在聯想與失智癥創新組織（Innovations in Dementia）合作發起的“阿爾茨海默癥智能計劃”中，聯想基于阿爾茨海默患者生活經歷定制了專門的 AI，打造出逼真的 3D 數字

109、分身（avatar），為正在應對阿爾茨海默診斷的患者和家庭提供 24 小時的對話式虛擬伴侶。這些舉措展現了聯想“AI for All”的愿景，也進一步彰顯了 AI 時代應以人為本，讓 AI 落到實處，推動其普惠性和包容性，最終實現“人本智能”的新科技發展觀。百川智能用 AI“造醫生”由搜狗公司創始人、前 CEO 王小川創立的國內唯一一家專注醫療領域的頭部大模型公司百川智能，在落地場景上選擇的就是醫療領域。在百川智能看來，醫療行業的一大痛點是“無限的需求與有限的供給”，即醫生短缺和區域不平衡等挑戰。此前的互聯網醫院只是通過技術連接患者與醫生，是生產關系層面的改善，并沒有從生產力層面根本解決這一問

110、題。百川智能發布了多款大模型，用大模型打造出足以賦能基層的“AI 醫生”大模型可以在院內做醫生助理，在院外做健康顧問，能進行全病程的管理。在這個過程中，大模型可以幫助醫生進行盡可能多的數據收集，這對醫生來說就像臨床試驗一樣。大模型可以有效降低誤診率，尤其是在基層醫院中，這一點尤為重要。通過大模型，可以為每個患者單獨建模，最終走向精準醫療，提高預防、診斷、干預的水平。另外，大模型還可以作為患者的 AI 健康顧問：它不但具備豐富的醫療知識，還能夠模擬醫生的思維方式，在用戶提出問詢后，根據用戶的問題持續提問，從更多維度更深入地了解癥狀，收集到足夠多病癥信息后再進行綜合判斷，給出診斷結果和用藥建議。A

111、I 健康顧問的應用非常廣泛，其中一個典型場景是智能分診?；颊叩钠毡橥袋c是，不知道如何描述自己的病情，案例8第三章人本智能的應用實踐37在醫院之外，缺乏醫療常識的普通民眾也可以向 AI 系統尋求有關自己和家人健康問題的建議，從而獲得更豐富、更準確的醫學知識、醫療建議和保健指引。同時，AI 具有改善人類生活的巨大潛力，特別是對那些處于劣勢地位、被邊緣化的或易受傷害的群體?？傮w而言，在 AI 助力下，傳統的“醫患兩方關系”范式向結合了醫生、患者和機器的“三方模式”發展以所有人的健康福祉為最終目標和指向，突出體現為 AI 對現有醫療體系效率的提升，以及對醫療資源公平化的促進。圖16百川智能將醫療 AI

112、 類比智能駕駛，從 L0 到 L5 劃分了幾個等級圖8根據汽車駕駛自動化分級國家推薦標準(GB/T40429-2021)，汽車駕駛自動化從低到高分為六個層級目前醫療行業在大模型的加持下有機會做到 L3 級別等級AI 醫療L5完全自動化健康管理:AI 能夠管理患者的整個健康旅程，從預防、診斷到治療，無需人工干預L4高度自動化診療:AI 可以在大多數常見疾病中獨立做出診斷和治療決策，僅復雜案例需要醫生介入L3條件自動化診療:AI 可以在特定條件下自動推薦治療方案，但在關鍵決策時需要醫生確認L2多模態輔助:AI 可以整合多種數據源(如病歷、影像、實驗室結果)，提供更全面的輔助信息L1輔助診斷:AI

113、可以提供數據分析或圖像識別等單一功能的輔助，幫助醫生做出更好的決策L0傳統醫療:醫生負責所有的診斷和治療決策，沒有 AI 介入也不清楚應該去哪個科室掛號。通過持續提問互動，AI 健康顧問可以像一個全科醫生助理，它具備豐富的醫學知識，并且熟悉醫院科室的配置，能夠為患者提供精準的科室推薦，也有效優化了醫療系統資源的配置。目前國內已經有部分醫院在試點應用智能分診類 AI 應用，實現了分診準確率與患者就醫體驗的大幅提升。38人本智能人機共生時代的科技發展觀行業六：環境與生態保護1 丨行業背景近年來，在“綠水青山就是金山銀山”理念指引下，我國積極提升全社會生態文明意識，環境保護和生態文明建設均取得顯著進

114、展。但從更廣闊的全球視野來看，人類賴以生存的地球正面臨氣候變化、生物多樣性喪失和污染廢物等多重危機沖擊，對人的生存發展以及未來可持續發展產生威脅。在此背景下，人們必須與自然合作，而不僅僅是利用自然。2 丨 AI 賦能與自然合作的一種方式便是科技賦能科技尤其是人工智能（AI）技術正在給環境領域帶來革命性的變革。AI 技術的運用，為應對氣候變化、保護環境和生態提供了新的思路和手段。通過 AI 技術，人們可以更加精準地監測和評估環境狀況，進而為科學決策提供支持。同時，AI 技術還可以幫助人們設計更加環保的產品和解決方案，推動綠色產業、環保事業的發展，促進可持續發展。具體從人本智能的發展觀來看，AI

115、在該領域的應用至少可在兩方面加強：AI 賦能人應對環境的能力，而非取代人。AI 直接提升環境和生態發展水平，進而為人和社會的整體發展奠定可持續的基礎。3 丨行業案例北京亦莊“AI 之城”的環境管理在北京亦莊，空氣檢測和道路清潔都有 AI 的身影具有“安全守衛者”和“大氣污染偵察兵”雙重身份的無人巡邏車運用走航監測技術，24 小時不間斷運行，可實現對道路積塵負荷、細顆粒物（PM2.5）、粗顆粒物（PM10）、氣態八參數污染物和氮氧化物等的實時監測，助力精準監控大氣環境質量，制定應對措施。同時，無人駕駛環衛車可自動進行道路清掃、灑水降塵等多種城市環衛作業，錯峰清掃，與傳統環衛作業互為補充，進一步降

116、低道路塵土殘存量，助力城市潔凈美麗。在北京亦莊，鳥兒也獲得“智慧”監測和看護為了更好地了解北京經開區區域內的生物多樣性情況，此前鳥類監測大多采用“人工+觀測設備”的方法。但這種方法人力物力投入大，且對監測人員的要求較高，難以保證鳥類監測的準確性、連續性、完整性。案例9第三章人本智能的應用實踐39聯想集團“AI+動物保護模式”AI 等技術可以為應對氣候變化、環境和生物多樣性保護等困擾社會發展的老問題提供新答案。站在新的人機關系角度來看，AI 以其強大的數據處理能力、生成能力和創新應用，已經成為人類面對環境議題的新助手、新伙伴。比如，在保護瀕危物種和維護生態平衡方面，AI 視覺技術可以自動識別并統

117、計野生動物，助力科學家更有效地監測物種數量變化。此外，AI 結合衛星圖像分析，可以實時監測森林砍伐、珊瑚白化等棲息地變化情況，以便及時采取保護措施。國內產業界依據不同的企業稟賦，在“AI+環境”領域進行了積極探索。以聯想集團為例，作為國內最早投身ESG 實踐的企業之一，聯想集團以 AI 為代表的智能技術應用于生物多樣性保護一線及公眾科普工作中，并以此聯結更多人群參與環境保護事業，成功打造出具有可復制性的生物多樣性保護智能解決方案。自 2021 年以來，聯想集團持續探索如何通過數字化、智能化技術創新，為生物多樣性保護工作的老問題提供新解法。2023/24 財年，聯想集團把握 AI 時代機遇，將

118、AI 技術應用于長江江豚、雪豹、兔猻等珍稀動物保護，攜手中國國家地理頻道制作全球首份長江江豚生態地圖與觀測指南，聯合西寧野生動物園建設高原精靈智慧守護站，通過 AI 技術創新打造可復制的智能生態保護范例。在制作全球首份長江江豚生態地圖與觀測指南的過程中，聯想集團通過 AI PC 等智能設備為制作團隊提供了強大的算力支持，幫助其克服了維保條件有限、網絡資源匱乏、人力資源受限等難題，得以展開高效的數據分析和監測，并提供精準的智能個性化服務。此外，聯想集團也將 AI 賦能生物多樣性保護的嘗試拓展到了西寧野生動物園智慧保護項目中。聯想集團通過 AI技術和算力，從雪豹行為 AI 識別分析、AI 游客互動

119、系統、智慧救助系統、智慧繁育系統等多維度入手，創建了一個應用于青藏高原的生物多樣性保護的解決方案，這是中國第一個以動物為中心的智慧園區解決方案，也是中國第一個 AI 動物園樣板項目。在通過 AI 賦能西寧野生動物園一線保護工作的基礎上，聯想集團還攜手著名導演陸川拍攝紀錄片 西野，助力案例102022 年 7 月，北京麋鹿生態實驗中心與中國科學院半導體研究所合作建立了一套基于“人工神經網絡”的計算機深度學習鳥類識別系統，為鳥類多樣性調查和動態監測提供了創新手段。2023 年初，麋鹿苑更是首次以 AI 方式監測到國家一級保護動物白尾海雕，這也是此地采用“鳥”臉識別后首次監測到珍稀猛禽。AI 系統的

120、使用，顯著提升了鳥類監測效率和識別準確度，同時也為經開區生物多樣性保護與科普宣傳提供了更有力的技術支撐。40人本智能人機共生時代的科技發展觀“AI+動物保護模式”的進一步推廣。最終形成從 AI 賦能生物多樣性保護，到 AI 助力生物多樣性保護工作公眾科普，再到以 AI 賦能生物多樣性保護場景開拓的“三步走”格局。另一個科技品牌騰訊選擇了不同的發展路徑。騰訊以自研的 AI 萬物識別通用模型 YOLO-World 為底層技術，攜手相關合作伙伴推出了“野朋友計劃”小程序（公測版），為公眾提供一個參與生物多樣性保護的全新數字化工具。在該小程序上，公眾不僅可以看到我國不同生態系統中真實的野生動物生活狀況

121、，還能動手標注野生動物，幫助生態保護機構處理海量圖像數據，從而在線上直接參與到生物多樣性保護中來，讓“公民科學”有了更多可能性。殊途同歸，產業界不同的 AI 實踐背后有著共同的“人本因素”。一方面，產業界不把 AI 僅限于企業自身的實踐，而是將其擴展到環境、ESG 等更廣泛的領域，讓 AI 技術在環境、綠色可持續發展等方面獲得新的活力和可能性；另一方面，嘗試將 AI 價值傳導到更廣泛的公眾領域，讓大眾了解 AI 在構建一個更加綠色、可持續的未來中所具有的價值，也讓公眾從“AI+環境”的實踐中獲益。第四章人本智能發展觀：倡議與治理41CHAPTER 4人本智能發展觀：倡議與治理第四章42人本智能

122、人機共生時代的科技發展觀一項技術如果因為擔心不良后果而過早實施控制，那么技術很可能就難以爆發。反之，如果控制過晚，已經成為整個經濟和社會結構的一部分，就可能走向失控，再來解決不良問題就會變得昂貴、困難和耗時間，甚至難以或不能改變。英國技術哲學家大衛科林格里奇，“科林格里奇困境”全球人工智能治理的努力智能向善與負責任的AI4.1 作為 AI 技術的創造者和使用者，人們有責任確保 AI 與人類的目標、價值觀和道德觀相契合。同樣，人類需要關注 AI帶來的機會和挑戰，并共同努力引領 AI 發展的方向。隨著在人工智能領域探索與實踐的加深，人工智能的技術風險數據安全性、算法透明性、系統穩定性及倫理爭議，再

123、如人類的自主能動、隱私保護、社會公平等問題逐漸暴露，由此引發社會的廣泛關注。值得一提的是，在人本智能視角下的 AI 治理需要融入 AI 發展的完整生態中，即 AI 治理離不開技術、數據、應用和模式的構建，治理貫穿于四個因素之中，需通盤考慮。特別是傳統治理范式適用于生成式人工智能的治理局限逐步凸顯，如基于對象場景的分散治理難以統籌治理全局，基于風險預防的事前治理難以精準預見風險，基于法律規范的硬性治理難以提升治理實效等。據此，如何建立適應新一代 AI 發展特質的新的 AI 治理機制，成為當下重要議題。為了更好防范 AI 技術可能帶來的負面性，全球主要國家和地區均從戰略層面將人工智能治理問題納入整

124、體規劃，并基于不同的發展階段、產業基礎、價值觀念等因素，形成各具鮮明特點的治理方案。規制型治理模式以歐盟為典型代表。歐盟通過 人工智能法案（AI Act）、反壟斷法案、數據保護法案及其他監管工具，對 AI 技術進行管控。特別是 人工智能法案 為歐盟引入了一個共同的、具有約束性的 AI 監管法律框架。此外，歐盟也積極將其模式推廣至其他國家，以爭奪全球人工智能規則制定權。創新型治理模式與歐盟不同，美國尚未出臺針對人工智能治理的國家層面的綜合立法，卻已經基于不同的技術應用場景頒布了規制性文件，特別是在自動駕駛、算法推薦等領域都有較為成熟的治理經驗?？傮w而言，美國的 AI 治理傾向于審慎監管，鼓“”第

125、四章人本智能發展觀：倡議與治理43勵促進人工智能的創新及進一步發展，其相關治理更多為原則性闡述，更關注其在全球人工智能治理規則制定中的領導角色。自治型治理模式國家不直接或者較少參與監管和治理，而是通過讓 AI 產業中的企業等相關利益主體的自我監管來達到風險預防和規避的目的，呈現較強的行業自律治理特點。以風險管理為導向的治理模式典型體現在歐盟 人工智能法案 的治理思路上。法案的主要內容是將人工智能系統根據風險評估分為四類，包括不可接受的風險、高風險、有限風險與最小風險。對于不同風險等級，法案采取了不同程度的監管措施。以算法透明技術為核心的治理模式當前一些 AI 負面效應與算法有不少聯系，如算法歧

126、視、誘導用戶沉迷、大數據殺熟、信息繭房等均與算法黑箱有密切的關系。而算法透明作為算法黑箱治理的重要手段，已經受到各方廣泛關注。不同的治理模式需結合本地實際情況因勢而為。但一個總的趨勢不變建立以人為中心兼顧所有人利益的 AI 治理模式，在這個全面的治理體系下，既能管控風險，也能支持 AI 的創新發展，以確保 AI 技術的發展符合人類社會的長遠利益。正如清華大學蘇世民書院院長、清華大學人工智能國際治理研究院院長薛瀾所總結：第一，人工智能技術的發展速度遠超監管制度的制定速度，首當其沖的便是發展與治理的平衡問題；第二，人工智能引發的問題前所未有，這使得人工智能監管變得空前復雜，沒有任何一個監管機構能夠

127、單獨管理好人工智能牽涉的各個方面；第三，隨著國際格局的變化，國際社會不太可能形成一個單一的全球性機構，來監管人工智能發展的方方面面，因此加強國與國之間在人工智能治理方面的溝通與合作非常必要。清華大學智能法治研究院院長申衛星也建議，全球各國在人工智能領域的立法已經“由談倫理、談原則軟法的時代開始進入真刀實槍硬法的權利義務實體規定的時代”，多元共治的局面將是未來的一個發展方向。44人本智能人機共生時代的科技發展觀走向人工智能的未來人本智能倡議4.2 面對人工智能技術帶來的機遇、變革以及潛在的風險挑戰，人本智能有著怎樣的應對策略，特別是如何把“以人為本”的價值觀和倫理規則植入人工智能系統，并為其設立

128、恰當的目標？另外，在治理體系層面，人本智能的治理目標、治理原則、治理模式和治理手段等關鍵性議題有哪些可探索的空間？一個目標人本智能的治理體系，最終應以科技造福人類為目標，需要以治理與發展兼顧并追求平衡為總目標。治理可從“以技術邏輯為出發點，以回歸人類需求為最終目的地”的思路出發，使 AI 服務于人類的全面發展。三個原則 以人為本：以人為本原則強調人工智能發展應遵循人類價值觀，促進人類社會向善，實現人類社會根本利益。人工智能在全生命周期中均需將人類根本利益放在首位。包容公正：人工智能發展應促進公平公正，保障人類總體福祉以及利益相關者的權益，促進機會均等?？赏ㄟ^技術培訓等方式彌合數字鴻溝、消除偏見

129、和歧視。權責一致：在人工智能的研發與應用中能夠有效問責，從政策、機制乃至法律等層面予以規范化管理。四種應對策略行業自律人工智能研發者、使用者及其他相關方應具有高度的社會責任感和自律意識，嚴格遵守法律法規、倫理道德和標準規范。如同阿西莫夫的“機器人三定律”一樣，人本智能堅持價值先行，樹立行業規范，要求在 AI 設計運作過程中加入一些底線性的價值，使其成為植根于 AI 科研、實踐和從業者的底層價值和行業自律規范的一部分。一是加強行業規范意識和倫理共識建設。通過責任意識教育和倫理宣傳，使各主體在參與人工智能治理時保持道德自律。例如，規定 AI 不能傷害人，并以此為法則來培養 AI 與人類的良好交互能

130、力。無論 AI 如何進化，不管機器人有無意識、有無自我決策能力，它都必須遵守“不傷害”的原則。二是強化倫理規范。對設計者、開發者和應用者在數據輸入、算法設計和實踐運用等方面進行倫理約束。實際上，有很多行業權威專家和從業者亦發起此類倡議。如張亞勤提出要打造善良的 AI，認為人工智能也應該有一些基本發展原則，比如應明確規定一些紅線，并建立快速且安全的終止程序。一旦某個人工智能系統超越此紅線，該系統及其所有的副本須被立即關閉。第四章人本智能發展觀：倡議與治理45三是強化倫理規范，完善監管治理等外部手段，為 AI 發展創造“寬嚴相濟”的環境?！皩挕敝傅氖菍捤?、可以容錯的技術創新環境，“嚴”指的是外部的

131、倫理規范和監管舉措為 AI 發展豎起護欄。技術應對將透明、可理解、負責任的技術應對策略貫穿技術發展的全周期。一是要發展高透明度的人工智能。在創建、獲取數據和算法時做到了解其工作原理，引入偏差檢測機制，并根據正當需要公開相關信息。二是要發展可理解性人工智能，能夠面向特定受眾提供運行工作中的關鍵信息。三是建立審慎包容、分級分類的人工智能安全監管制度，以保障技術安全。例如，利用安全多方計算和匿蹤查詢技術建設系統防火墻，打造數據安全共享平臺。法律規范借助立法規制和司法歸責，規范個人、企業及相關組織的責任和法律義務。人工智能立法要統籌發展和安全，通過分階段、分領域的統一立法，建立人工智能統籌協調機制。明

132、確相關行業、領域人工智能主管部門的監督管理職責。構建多元主體參與的協同治理模式。例如，在較為成熟的領域和問題頻發的領域啟動立法研究，如自動駕駛、個人隱私保護、數據安全等，先行先試，以為后續立法奠定理論和實踐基礎。通過包容性立法，劃定人工智能監管的底線與紅線，設置一定的免責規則，合理進行責任分配，構建綜合問責體系。通過司法認定推動人工智能相關主體承擔責任，還需從技術研發、數據利用、算力供給、激勵創新、技術共享等方面完善規則，以更好地滿足人工智能產業發展、人工智能與經濟社會發展深度融合的制度需求。風險生態共治將倫理與治理嵌入人工智能全生命周期已經逐漸成為重要共識，在人工智能發展整個生態（技術、數據

133、、應用和治理）的每個流程和每個環節中，把存在的風險防患于未然，形成政府、企業、用戶等多方共治的良性生態。特別是對于產業界而言人工智能技術的模型算法研發者、服務提供者、重點領域使用者需建立安全指引和風險層級管理機制，以推動人工智能研發應用生態鏈各參與方實現風險共治。46人本智能人機共生時代的科技發展觀CHAPTER 5第五章 結語關于 AI 及人的未來47第五章結語關于 AI 及人的未來未來的人類文明到底是怎樣的？AI 以及科技在其中會扮演什么樣的角色？這是生活在 21 世紀 20 年代的人們所不得不面對的問題。如果再過 10 年，人類世界會因 AI 而受到多大的影響？行業專家張亞勤給出了他的預

134、言2 到 5 年內，AI 生產的圖片和視頻將無法用人眼辨別真假；5 年后，人形機器人和無人車能通過圖靈測試，且它們開車會比人開得更好；10 年內，AI 大模型將與生物世界、生命世界連在一塊；20 年內，AI 在幾乎所有領域都會比我們人類的能力更強12。雖是一家之言，但其預示著 AI 的普及以及對未來生活產生的影響。與此同時，人們應該看到在這一進程中，許多勞動者也將經歷由于技術革新造成的動蕩之痛。另外，所有人也將面臨 AI 的不慎使用或者蓄意使用所導致的風險和危害。如何處理 AI 與人類的社會關系，從雪萊夫人的 弗蘭肯斯坦 到阿西莫夫的“機器人三法則”，再到霍金的末世預言，都存在一個悖論：一方面

135、，希望 AI 自身的演進得到尊重，享有創新發展乃至與人平等的權利；另一方面，出于“主人”意識，卻又擔心、警覺和恐懼人工智能生命對人類的威脅和傷害。據此，面對 AI，人們需要一種新的科技發展觀從以關注 AI 技術為中心進階到以人為中心，在 AI 設計、運行、應用、治理乃至更大的社會關系中都納入人的因素是否有利于人以及社會福祉，有助于塑造技術的可持續未來，從而更好地服務人類需求。歸根結底，AI 的終局，是為人類服務。同時，面對 AI，人類需要建立機制、法律以及價值觀，協力控制和治理 AI 的未來發展方向，特別是在 AI 加速滲透、改造和改變人類思想、經濟、政治、文化、教育等領域的背景下。AI 領域

136、的從業者，無論是政策制定者、研究人員還是大型科技企業，都需要以更加負責任的方式以善治促“善智”，讓 AI 回歸以人為本的初心和目標。12.劉堅主編，AI 時代的人類意見，東方出版中心，2024 年 9 月48人本智能人機共生時代的科技發展觀此次報告的撰寫得到了多方的大力支持與幫助，我們有幸與行業內的高校、智庫、企業等多方專業機構和資深行業專家進行了深入交流，同時也借鑒和引用了多家政府部分、企業、研究機構和媒體的公開數據和研究成果。在此，特別鳴謝上海交通大學人工智能研究院作為聯合出品機構參與報告調研撰寫，特別是上海交通大學人工智能研究院常務副院長楊小康教授對報告悉心指導并提出了很多建議，讓我們受益匪淺，在此我們深表感謝。另外，我們感謝清華大學法學院申衛星教授、清華大學經濟管理學院李寧教授等專家接受我們的采訪并給出了行業洞見。同時，我們也感謝聯想集團對報告的聯合出品支持，聯想集團的行業實踐為報告提供了豐富的產業智慧。此外，我們要特別感謝人民日報社、清華大學、鯤云科技、設序科技、百度、百川智能、北京亦莊等不同機構和主體，他們在百忙之中接受我們的調研，或者通過自身實踐向公眾、行業分享經驗，讓我們的報告更加豐富。最后，我們還要感謝在報告前期調研采訪、編輯、排版、校對、印刷等所有環節提供幫助的同事和朋友，他們的辛勤勞動使本報告得以順利出版。致謝