德勤：德勤中國與亞馬遜云科技引領客戶生成式AI創新（20頁）.pdf

《德勤：德勤中國與亞馬遜云科技引領客戶生成式AI創新（20頁）.pdf》由會員分享，可在線閱讀，更多相關《德勤：德勤中國與亞馬遜云科技引領客戶生成式AI創新（20頁）.pdf（20頁珍藏版）》請在三個皮匠報告上搜索。

1、1生成式 AI 的前景和組織面臨的抉擇德勤中國與亞馬遜云科技：打造一站式生成式 AI 服務前沿創新：生成式 AI 聯合實驗室客戶典型案例領航更新理念：啟航生成式 AI全程護航：從咨詢到落地到運營的全方位生成式 AI 服務夯實戰略：制定和業務對齊的生成式 AI 戰略加速實現：構建企業生成式 AI 技術能力兼顧合規：構建生成式 AI 應用的安全合規防護體系創新組織和框架創新之一：重點方案構建創新之二：新應用場景探索創新之三：前沿技術評估351015176789111213140102030405目 錄11122生成式 AI 的快速發展開啟了前所未有的商業機會和社會價值。各行各業的企業都迅速認識到，

2、通過將生成式AI 納入核心競爭戰略，促進業務模式的轉型，將助力其搶占先機，引領行業。然而，不少企業在擁抱生成式AI 的道路上，仍處于探索和實驗的起步階段，沒有真正落地到組織運營和業務模式的轉型。01生成式 AI 的前景和組織面臨的抉擇2334生成式 AI 沒有在高層的支持下和公司整體發展戰略對接，難以獲得持續投入，并最終實現業務價值。生成式 AI 面臨復雜的政策法規環境，企業需要建立治理框架，確保技術應用不產生有害偏見，主動識別與控制潛在風險。生成式 AI 技術迭代速度快，企業需結合業務需求和成本考量選擇最匹配的技術方案。在確保數據安全和相關系統無縫對接的前提下，快速交付項目，創造商業價值。成

3、功運用生成式 AI，需要公司跨部門形成項目團隊，推動業務流程、協作方式與 IT系統的深度融合。缺乏統一戰略合規與風險考量復雜的技術棧組織融合不足面對上述挑戰，德勤中國與亞馬遜云科技不斷加深生成式 AI 領域的合作，旨在幫助客戶快速跨越技術驗證階段，實現運用生成式 AI 持續優化業務和服務的關鍵性突破，從而實現能力轉型升級。究其原因主要有如下幾點：55作為亞馬遜云科技的核心合作伙伴，德勤中國與亞馬遜云科技攜手推出一站式的生成式 AI 服務和解決方案，旨在幫助客戶在戰略規劃、技術實施以及日常運營的各個階段，利用生成式 AI 技術重構業務流程，開拓新的增長機遇。德勤中國與亞馬遜云科技：打造一站式生成

4、式 AI 服務02566LLMOps戰略制定和業務戰略一致的生成式 AI 戰略實施根據生成式 AI 技術能力路線圖，加速用例部署到生產環境運營持續改進，監控和支持戰略愿景與能力評估場景用例構想商業案例和路線圖試點設計與運營模型安全與控制考量技術設計模型選擇環境搭建驗證與測試提示詞工程法律和合規性模型微調基礎模型增強模型監控和性能調優可信 AI流程優化持續維護與增強安全運營合規治理方案風險評估數據安全數據能力組織和人才技術棧迭代ML Ops生成式 AI交付工廠用例成果評估2.1 全程護航：從咨詢到落地到運營的全方位生成式 AI 服務生成式 AI 的應用不僅僅局限在技術層面，涵蓋了企業戰略、業務流

5、程、人才隊伍、組織架構、生態體系、安全合規等多個維度?？蛻粜枰婵剂扛饕蛩亟换f同,從整體視角審視生成式 AI 的引入，才能達到預期目標。德勤中國戰略咨詢服務會系統評估客戶生成式 AI 成熟度，量身定制成長路徑，助力客戶向“生成式 AI 優先”企業轉型。通過明確業務場景，結合亞馬遜云科技可靠、安全、高效的生成式AI服務，快速開展技術評估和落地,并在持續運營中持續優化改進。777?AI?AI?AI?AI?AI?AI?AI?AI?德勤中國推出“生成式 AI 采用框架”(Generative AI Adoption Framework，GAIAF)，幫助客戶實現業務戰略與生成式 AI 戰略的有效對

6、接。該框架覆蓋了企業應用生成式 AI 的全生命周期，從準備、部署到運營管理?？蛻艨梢匀轿辉u估生成式 AI 對業務的影響，在利用生成式 AI 釋放業務價值的同時，有效管控風險。德勤中國憑借專業知識和相關經驗，通過框架化的評估和分析，引導客戶明確并執行諸如如下的生成式 AI 優先事項:構建生成式AI治理框架，尊重數據隱私，主動識別偏見，管控風險，防范聲譽損害。合規與風險管理作為新興技術，生成式 AI 對基礎設施提出新要求。亞馬遜云科技提供彈性、安全、高性能計算存儲資源，可以幫助客戶快速實現生成式 AI 創新，加速數字化轉型。技術體系選擇評估生成式 AI 商業案例與組織整體商業戰略的一致性，明確優

7、先級，確保投資價值最大化。業務愿景和用例識別優先通過內部員工培訓，激活技術應用潛力，消除對新技術的誤解，助力組織全面適應生成式 AI。決策層支持是推動生成式 AI 廣泛應用的重要動力。通過各種途徑增進決策層對技術應用價值的認同。在追求快速大規模落地的同時，采用模塊化運營保證一致性，加速生成式 AI 應用，提升實施效率，確保運營協同。培養組織適應能力獲取決策層支持交付速度與運營靈活性2.2 夯實戰略：制定和業務對齊的生成式 AI 戰略88生成式 AI 戰略1234POCMVP生成式 AI 工廠AI 驅動的業務轉型入門探索模型測試和評估快速構建進入生產并迭代優化規?；谄髽I內不同部門拓展應用全面轉

8、型通過AI 驅動重塑企業的業務生成式 AI 基礎能力演進對話 UI搜索文本生成文本摘要可視化分析客戶檔案對話 UI搜索文本生成文本摘要ML Model圖像生成可視化分析客戶檔案對話 UI搜索文本生成文本摘要上下文存儲本地化應用語音轉文本ML Model圖像生成可視化分析客戶檔案對話 UI搜索文本生成文本摘要上下文存儲數字人后續用例的開發將通過利用早期用例中開發的基礎功能來加速現有基礎能力新的基礎能力企業在確定了生成式 AI 戰略后，需要通過靈活的方法論和快速迭代的方式來快速交付生成式 AI 項目，幫助客戶快速搭建和測試生成式 AI 模型，確保其在最短時間內產生可量化的業務價值，并逐步擴大，形成

9、效應。在推進生成式 AI 業務場景落地實現的過程中，可以充分利用云服務的便捷性和普惠的技術門檻，進行快速試驗和優化。借助亞馬遜云科技持續演進的生成式 AI 相關服務和創新工具，如語音、文本、圖像生成等技術，可以對各項基礎能力進行持續的優化和迭代升級。同時，生成式 AI 后續用例可以在早期用例的基礎上進一步加速，逐步形成企業基礎能力的階梯式提升。例如，從基本的文本處理，到可視化分析，再到多模態交互式應用?？梢暬治龆嗄B交互式應用基本的文本處理2.3 加速實現：構建企業生成式 AI 技術能力999?AI?息保護數據跨境方面要求MDLC AI?AI?安全是構建生成式 AI 不可回避的重要議題。企業

10、需要在業務和產品研發每個環節內置安全合規考量，在數據、模型、應用全流程做好安全防護，確保運營與產出均符合監管要求。另外，各地區對生成式 AI 法規要求不同，在安全基礎上推進創新，始終是企業實踐的正確策略。德勤中國融合自身風險咨詢豐富經驗,與亞馬遜云科技在數據、基礎算法模型、應用全鏈路提供的智能安全服務，可以更有效幫助企業應對日益復雜的安全威脅，提升合規工作效率。例如:算法模型合規方面，深度融合生成式 AI 服務需求、安全管理規范與亞馬遜云科技安全解決方案；數據合規方面，兼顧個人信息保護和數據跨境傳輸需求，結合亞馬遜云科技敏感數據掃描與跨境傳輸合規工具。所有這些創新融合，旨在幫助客戶實現業務場景

11、中算法可信性、業務邏輯可解釋性和內容合規性。2.4 兼顧合規：構建生成式 AI 應用的安全合規防護體系為幫助客戶應對業務利用生成式 AI 創新面臨的挑戰，德勤中國與亞馬遜云科技合作成立生成式 AI 聯合實驗室。實驗室整合雙方資源優勢，依托亞馬遜云科技在云計算和生成式 AI 的領先技術，以及德勤中國在戰略咨詢、安全咨詢和技術實施等領域的專業能力，持續創新改進，在大幅降低企業使用生成式 AI 門檻的同時，創造商業效益。前沿創新：生成式 AI 聯合實驗室0310111111?Beta?AI?聯合實驗室依托市場與客戶需求，結合亞馬遜云科技在生成式 AI 等前沿技術的創新成果，持續孵化適應客戶實際業務需

12、求的解決方案。最終通過提供切實可行、安全高效的生成式 AI 解決方案，更好地服務客戶，助力其業務發展。實驗室將業務戰略轉型、AI 安全合規和行業解決方案的聯合創新機制融入方案孵化，全面提升解決方案的適用性、可靠性和安全性。在聯合實驗室中，亞馬遜云科技提供前沿基礎設施服務和方案指南。德勤中國利用亞馬遜云科技的分析服務、生成式AI技術、行業解決方案等，連接數據、AI 和人的創新思維，持續激發創新潛能，釋放生成式 AI 的巨大潛力。包括 AI 戰略規劃、CoE 組織變革、業務場景挖掘等。包括構建可信 AI 框架和運營體系、數據治理安全和人工智能風險評估等。包括多行業場景研發、原型開發測試等。AI安全

13、合規業務戰略轉型行業解決方案聯合創新3.1 創新組織和框架1212生成式 AI 知識管理方案采用安全合規的大語言模型構建企業知識平臺，幫助企業基于私有數據快速高效地部署知識問答或檢索系統。1可實現自然語言到 SQL 查詢語言的無縫轉換，使企業普通業務人員無需具備 SQL 專業技能也能輕松獲取數據并洞察業務價值。2大語言模型運維平臺 LLMOps旨在幫助企業實現操作自動化，提高模型迭代效率。對大語言模型調優工作進行流程化管理，幫助企業加速生成式 AI 創新。3基于 LLM 的智能 BI 方案利用生成式 AI 打造創新解決方案，是聯合實驗室的重點工作。針對不同客戶，我們會根據其實際情況，選擇亞馬遜

14、云科技生成式 AI 技術棧中最匹配的技術。例如,在中國區市場，我們運用亞馬遜云科技全托管機器學習服務Amazon SageMaker，結合大語言模型，推出多款企業解決方案，滿足客戶多樣化應用需求。而對于“出?！笨蛻?，我們選用亞馬遜云科技安全可靠的生成式 AI 服務 Amazon Bedrock，基于其提供的全球領先基礎模型，在確?？蛻魯祿踩疤嵯?，通過提示詞工程(Promt Engineering,PE)、檢索式增強生成(RAG)、模型調優(FineTuning)、持續預訓練等方式進行適配和優化(Continued Pre-Training)，開發適合客戶場景的解決方案。聯合實驗室首先聚焦利

15、用生成式 AI 的知識管理、商業智能和大模型運維三大解決方案。這些方案將不斷優化，深度融合云端先進的生成式 AI 技術，助力客戶實現業務流程的智能升級。同時，也將基于客戶實際需求，在性能、成本和復雜度之間找到最佳平衡，快速交付業務價值。生成式 AI 知識管理解決方案，通過部署大語言模型驅動的問答和知識檢索系統，高效解決內部員工咨詢，提升工作效率?；诖笳Z言模型的智能 BI 解決方案，實現自然語言到 SQL 的轉換，讓業務人員無需編程即可自主獲取數據分析見解，輔助決策。大語言模型運維平臺（LLMOps）解決方案，通過工具鏈自動化和基礎設施即代碼，提高企業在Amazon SageMaker 上迭代

16、調優大模型的效率，加速模型上線。3.2 創新之一：重點方案構建131313在重點解決方案基礎上，聯合實驗室基于雙方在云技術和行業解決方案的核心能力，德勤中國和亞馬遜云科技充分發揮協同效應，持續探索生成式 AI 在更廣域業務中的創新應用。我們密切跟蹤前沿技術和客戶訴求的契合點，發現新的應用場景并打造解決方案。例如面向 IT 服務臺的生成式 AI 賦能方案，可自動解析服務請求中的問題，給出解決措施。并基于歷史數據對問題優先級進行智能預測，以優化資源分配。在制藥行業領域中，利用生成式 AI 模型對最新醫藥研究文獻進行深入分析與總結，自動生成研究報告，協助醫藥代表快速理解學術前沿，提升工作效率。7咨詢

17、 企業生成式 AI 成熟度分析工具鏈 數據加工：數據標注、合成數據Inferentia，Trainium 適配與調優基礎設施優化 模型優化：集群調度、分布式訓練 數據存儲：向量數據庫文字 Text(LLM)企業知識庫管理 智能 BI助理 供應鏈分析 工單問題分類預測代碼 Code 代碼輔助生成數字人 Character 電商營銷內容生成 制藥文檔摘要總結 保險行業拒賠信生成 金融行業文檔分析助理 人工智能安全咨詢圖片 Image 游戲美術設計 電商 AI 換裝視頻 Video 保險與公共事業視頻總結語音 Audio 呼叫中心 零售智能營銷 圖片細節生成3.3 創新之二：新應用場景探索1414作

18、為全球云計算的開創者和引領者，亞馬遜云科技構建了支持生成式 AI 的完整技術棧，涵蓋基礎設施、模型調用和應用工具軟件等全面的能力。聯合實驗室能夠及時評估其最新推出的服務與技術，反饋評估結果，同時根據不同場景需求，將亞馬遜云科技生成式 AI 前沿創新服務整合至解決方案中。亞馬遜云科技構建了完備的生成式 AI 技術棧,可按需提供不同層級的能力:底層是支持大模型訓練和部署的基礎設施，包括 GPU 云服務器、自研 AI 芯片、Amazon SageMaker 分布式訓練平臺等。這些硬件和軟件服務，使企業級大模型高效訓練和低延遲推理成為可能。中間層面向開發者需求，支持大模型應用調優和治理的服務。其中，A

19、mazon Bedrock 為構建應用提供安全可靠的 API 和基礎模型。Guardrails 實現了對輸出內容的風險防范。頂層是直接服務終端用戶的生成式 AI 應用。問答助手 Amazon Q 通過長期積累的知識和經驗實現智能問答，通過和系統的集成，可以作為企業技術和業務的專家。并且已內嵌到 Amazon QuickSight、Amazon Connect 等服務。亞馬遜云科技不同層級服務的快速創新，驅動生成式 AI 從技術到應用的快速演進。聯合實驗室對這些新技術的不斷嘗試和反饋，將技術前沿與業務需求結合，有效加速新技術落地，為客戶創造價值。直接集成亞馬遜云科技上利用基礎模型構建的應用利用各

20、種工具和服務調用合適的基礎模型多種可選的訓練和推理的基礎設施Amazon QAmazon QuickSight中的 Amazon QAmazon Connect中的 Amazon QAmazonCodeWhispererGPUInferentiaTrainiumSageMakerEC2 容量塊NeuronUltraClustersEFANitroAmazon BedrockGuardrailsAgent自定義能力3.4 創新之三：前沿技術評估15德勤中國發揮其豐富的數字化轉型經驗，依托亞馬遜云科技生成式 AI 技術，助力一家硬件制造商客戶建立并運營生成式 AI 創新中心，逐步拓展內部生成式 A

21、I 采用?？蛻舻湫桶咐I航04151616通過組織系列內部研討會，與客戶確定 26 個適合的業務場景，評估明確優先級。針對高優先場景，基于亞馬遜云科技的算法能力，驗證核心業務的技術可行性。構建面向內部員工的智能問答機器人，利用客戶自有數據進行模型調優，實現高質量知識服務和人機交互。這樣的創新機制以業務為導向，通過驗證方案的產出價值，并圍繞數據治理、模型構建、業務融合等關鍵技術進行積累，為后續通過生成式 AI 實現數字化。轉型大規模落地奠定堅實基礎。171717生成式 AI“iPhone 時刻”已經來臨，企業正通過其重塑業務模式，提升客戶體驗。作為顛覆性技術浪潮，企業決策層需要從戰略高度制定應對

22、策略，以抓住新一輪科技和產業變革機遇。更新理念：起航生成式 AI05171818保持開放心態，擴寬視野。建立機制，廣泛跟蹤不同模型，避免過早依賴單一技術。傾聽領域專家建議。明確生成式 AI 應用場景和關鍵因素，選擇合適解決方案提升業務效率。因地制宜，合理應用。根據自身實力選擇合適的策略和技術方案，將生成式 AI 與現有業務流程整合。構建開放平臺，保持靈活性。構建開放平臺，支持基礎模型、數據和應用的靈活運用，助力企業長期競爭力。德勤中國與亞馬遜云科技的生成式 AI 聯合創新就是踐行這些理念，為客戶提供全面的生成式 AI 解決方案，助您實現數字化轉型。尋找可靠的合作伙伴德勤中國和亞馬遜云科技全方位戰略合作，融合了德勤中國專業咨詢和亞馬遜云科技開放的，與時俱進的技術平臺優勢，幫助企業從流程、模式、系統、組織等維度全面審視現狀，實現業務與生成式 AI 的有機結合。在滿足安全合規要求前提下，借助生成式 AI 催生新的生產方式、組織形式和工作模式。與我們合作，您將享受，定制化的生成式 AI 戰略制定、端到端的實施方案實施、安全合規的技術平臺支持和業界領先的創新實踐。期待與您深入交流，共同繪制數字化新藍圖。我們建議您：191919