微軟：AzureopenAl生成式人工智能白皮書（24頁）.pdf

《微軟：AzureopenAl生成式人工智能白皮書（24頁）.pdf》由會員分享，可在線閱讀，更多相關《微軟：AzureopenAl生成式人工智能白皮書（24頁）.pdf（24頁珍藏版）》請在三個皮匠報告上搜索。

1、生成式 AI 成為人工智能領域新的關鍵詞。吸納從機器智能到機器學習、深度學習的關鍵技術，生成式 AI 更進一步，能夠根據提示或現有數據創建新的書面、視覺和聽覺內容。在此基礎上，大模型和大模型應用一時涌現，并迅速確立AI 落地新范式。據 data.ai intelligence 數據顯示，2023年生成式 AI 應用激增。2024年 AI 將會帶動 10%的應用下載量，包含 GenAI 功能的應用下載量將同比增長 40%。面對生成式 AI 及其應用落地的迅猛發展，微軟期待用 AI 重新定義軟件開發與工作的未來。從 Azure OpenAI、Copilot Stack、開發工具到協作應用等領域，微

2、軟將 AI 融入現有的軟件和服務生態，從提供 AI 工具到構筑 AI 平臺和生態，全方位幫助開發者應對技術革命，予力人們運用 AI，讓每個人都可以在工作和生活中，受益于這些突破性技術，探索全新機遇與無限可能。微軟的 AI 戰略包括三個部分：將 AI 副駕融入每個微軟云解決方案、幫助客戶通過 AI創新和轉型以及負責任的AI。前 言本白皮書將全面介紹Microsoft Azure生成式人工智能領域的解決方案、工具指南、最佳實踐以及支持 AI 的云端算力及架構優勢，旨在幫助處于 AI 不同階段的客戶選擇適合您戰略的落地路徑，本白皮書介紹的落地方案涵蓋從直接使用微軟 Azure AI 和 AzureO

3、penAI 服務，到自建大模型等四層路徑。2前言第一章 Azure AI 及 Azure OpenAl 服務概括第二章 生成式人工智能落地實踐的四種路徑路徑一 直接使用 Azure OpenAI 模型:添加您的數據至Azure OpenAl 模型路徑二 Prompt engineer 提示工程優化路徑三 基于現有模型進行 Fine-tuning 微調路徑四 訓練您的自有模型第三章 生成式人工智能落地成功案例參考汽車行業:梅賽德斯-奔馳零售行業:沃爾瑪游戲行業:完美世界專業服務行業：KPMG零售行業：CarMax目 錄24781112151818202122233第一章Azure AI 及 Az

4、ure OpenAl服務概括Azure AI 服務Azure AI 服務包括了 Azure 機器學習平臺、認知服務和應用 AI 服務。其中，Azure 認知服務有五大支柱，分別是視覺、語音、語言、決策和 Azure OpenAI 服務。Azure AI 服務通過現成的預生成可定制的 API 和模型，幫助開發人員和組織快速創建智能、前沿、面向市場且負責任的應用程序，包括對話、搜索、監視、翻譯、語音、視覺和決策的自然語言處理。這意味著，您可以使用 Azure AI 組合構建企業規模的智能應用，并使用生成式 AI 重新構想你的業務。Azure AI 組合在 Azure AI 的幫助下，您可以為您的組

5、織構建可以立即推向市場的先進應用程序。以微軟為例，Microsoft產品及應用平臺如 Microsoft 365 Copilot、Dynamics 365 Copilot、Power Platform 都由 Azure AI 驅動，為每個人和組織提效生產力。Azure OpenAI 服務生成自己的助手和生成式 AI 應用程序。在應用程序和服務中檢測用戶生成的和 AI生成的有害內容。創建可執行的 Prompt Flow，通過可視化圖形鏈接大型語言模型、提示和Python 工具。加速機器學習工作流的自動化、協作和可重現性。使用統一的儀表板實踐負責任、高質量的AI，能夠輕松評估和調試機器學習模型。A

6、zure AI Content SafetyAzure AI 提示流機器學習運營(MLOps)負責任的 AI 儀表板Azure AI 搜索基于你自己的數據構建、微調和訓練自定義 AI 模型，獲得獨特的優勢。4Azure OpenAI目前為各類企業提供兩類服務模式:Pay As You Go 即用即付型模式:適合各類 AI 場景的測試及上線應用，可在Azure Portal 后臺直接啟用。Azure OpenAI 服務微軟 Azure 作為 OpenAI 的獨家云服務提供商，自 2019 年開始便以出色的、面向 AI 時代的領先架構，為OpenAI 的快速發展提供助力?；陔p方的戰略合作，現在

7、Azure 全球版客戶可以通過 Azure OpenAI 服務直接調用 OpenAI 全部模型，包括 ChatGPT、GPT-4、GPT-4 vision、Codex 和 DALL.E 等模型，并享有 Azure 企業級 99.9%的可用性 SLA、企業級安全保障和為人工智能優化的基礎設施。目前有 18,000 多家組織使用 AzureOpenAI 服務。微軟 AI 服務一覽5 5預配置吞吐容量的專屬模式:適合各類追求穩定性能及穩定延時的AI 生產應用。通過提供穩定的最大延遲和吞吐量保障穩定可預測的性能預留專屬的容量成本節省:與按消耗 Tokens 計費的 Pay As You Go 即用即付

8、模式相比，可節省成本Microsofts Responsible Al Principles負責任的人工智能原則在科技行業里，微軟率先提出了打造負責任的人工智能的決心。2016 年，微軟 CEO 薩提亞納德拉發表了一篇關于人工共同責任的專欄文章，幾個月后，第一次公開提出了微軟的人工智能準則：公平、可靠和安全、隱私和保障、包容、透明、責任。當 AI 進入主流產品和服務時，這些原則對于創建負責任且值得信賴的 AI 至關重要。它們以兩個角度為指導：道德和可解釋。閱讀標題鏈接可閱讀詳細細節。Privacy&SecurityTools and processesTraining and practice

9、sRulesBuilding blocks to enact principlesReliability&SafetyMicrosoftsResponsibleAl PrinciplesFairnessInclusivenessAccountabilityGovernanceTransparency6第二章生成式人工智能落地實踐的四種路徑其中，90%的使用場景可以通過前兩層的落地方案實現。在任何路徑下，您都可以通過使用檢索增強生成(RAG)模式，與預訓練的大型語言模型(LLM)和你自己的數據配合使用以生成響應。同時，也可以通過使用 Azure 大語言模型運營功能(LLMOps)實現高效提示工程

10、和開發部署，以簡化的過程來管理大模型應用的端到端生命周期。微軟為各行業客戶 根據 AI 戰略階段不同提供四個層次的 AI 創新支持：結合您的現有數據直接使用 Azure OpenAI 模型：適合各類 AI 場景的實現Prompt engineer 提示工程優化：提高大語言模型生成響應的準確性訓練您的自有模型：Azure AI Infra 云端大規模 AI 算力平臺方案12347基于現有模型進行 Fine-tuning 微調：使用示例數據重新訓練現有的大型語言模型，從而生成使用提供的示例經過優化的新的“自定義”大型語言模型。路徑一 直接使用 Azure OpenAI 模型:添加您的數據至 Azu

11、re OpenAI 模型1.1 Azure OpenAI 服務上的可用模型語言模型微軟為各行業提供四個層次的 AI 創新支持8GPT-4-0125-preview：GPT-4-0125-preview 已發布,新模型旨在減少模型未完成任務的“懶惰”情況，及其他升級。GPT-4：國際版 Azure OpenAI 服務的客戶和合作伙伴可以申請訪問 GPT-4，并開始使用 OpenAI 目前最先進的模型構建應用。通過基于 Azure AI 優化的基礎設施、企業級可用性、合規性、數據安全和隱私控制提供的支持，以及與其它 Azure 服務的多種集成，實現您的大模型應用架構。GPT-4-Turbo：GPT

12、-4 Turbo 功能更強大，模型信息更新到 2023 年 4 月。它具有 128K 上下文窗口，因 此您可以使用 RAG（檢索增強生成）等技術，基于企業用例所需的自定義數據定制應用程序。GPT-3.5-Turbo：GPT-3.5-Turbo 現已更新至 1025 版本。Assistants API客戶可以開啟 Code Interpreter,Function calling 等工具在自己的應用程序內構建擁有指令的 AI 助手,并利用模型、工具和知識來響應用戶查詢。Azure AssistantsAPI 目前已支持代碼解釋器和函數調用，檢索功能將很快發布。TTS 模型OpenAI 的 TTS

13、 模型在 AOAI 和 Azure AI Speech 同時上線。新的 TTS 模型能生成6 種預設不同個性和風格的人類品質語音。多模態模型GPT-4-Turbo with Vision：GPT-4 Turbo with Vision 是由 OpenAI 開發的大型多模態模型（LMM），支持圖像分析并能對圖像有關問題生成文本響應。它結合了自然語言處理和視覺理解能力。GPT-4 Turbo with Vision達到了圖像理解的先進水平。它不僅僅能夠識別圖片中的對象，更注重理解上下文和細節，比如創建詳細的圖像標題、提供豐富的上下文描述、回答關于視覺內容的問題或分配智能標簽。微調Azure Ope

14、nAI 服 務 推 出 了 三 款 模 型 的 Fine-tuning 功 能（Babbage-002、Davinci-002 和 GPT-3.5-Turbo）。用戶可以使用 Azure OpenAI 服務或 Azure機器學習對 Babbage/Davinci-002 和 GPT-3.5-Turbo 進行 Fine-tuning。GPT-3.5-Turbo 1106 模型已支持 fine-tuning,同時 Training 和 Hosting 的成本比 GPT-3.5-Turbo 都降低 50%。Babbage-002 和 Davinci-002 支持 completion，Turbo支持

15、對話式交互。通過幾個簡單的命令，您就可以指定基本模型、提供數據、進行訓練和部署。點擊閱讀關于微調的介紹文章圖像DALL E 3：DALL E 3 是一種支持文本提示的圖像生成模型，助力用戶探索創意表達的新領域，通過語言和視覺藝術的交融提供獨特的體驗。提示越詳細，圖像效果就越好。您甚至可以在已創建的圖像中添加文本。轉錄和翻譯Whisper：Whisper 模型提供轉錄和翻譯音頻內容的功能，同時支持大規模高質量的批量轉錄。9 91.2 添加您的數據Azure OpenAI Service on your data，基于這項全新功能，用戶可以使用自己的數據驅動 OpenAI 模型，無需訓練或微調，即

16、可釋放全部數據潛力。Azure OpenAI Service on your data 能夠獲取并打通所有來源的數據。無論數據是存儲在本地還是云端，該功能將提供無縫連接以解鎖數據的全部潛力。借助這一先進工具，您可以高效處理、組織、優化數據，獲得有價值、高質量的洞察。同時，用戶友好的 API和 SDK，將與您的現有系統輕松集成；定制化示例應用程序助力快速部署。此外，數據共享和利用也將變得更輕松，您可以在企業內部或面向客戶快速實現信息分發。Azure OpenAI Service on your data連接多個數據源，包括：Azure 認知搜索索引：您可以將數據連接到 Azure認知搜索索引，實

17、現與 OpenAI 模型的無縫集成。Azure Blob 存儲容器：將數據連接到 Azure Blob存儲容器，使用 Azure OpenAI 服務輕松獲取數據，用于后續的分析和對話。本地文件：連接您的 Azure AI 門戶文件，為數據連接提供靈活性和便利性。數據在攝取、切分之后，將導入 Azure 認知搜索索引。txt、md、html、Word 文件、PowerPoint、PDF 等格式的文件都可以用于分析和對話。使用 Azure OpenAI 服務數據支持的步驟如下：連接數據源：使用 Azure AI Studio 連接您所需的數據源，可通過 Azure 認知搜索索引、Blob 存儲容器

18、、上傳本地文件等途徑完成連接?；跀祿M行提問和聊天：基于數據進行提問和聊天：連接數據源之后，您就可以通過 Azure AIStudio，向 OpenAI 模型提問和對話。這將使您獲得有價值的洞察，并在大量信息的支撐下做出商業決策。10本報告來源于三個皮匠報告站（）,由用戶Id:349461下載,文檔Id:183465,下載日期:2024-12-041.3 結合 Azure OpenAI 的 Embedding 嵌入向量生成模型將企業現有的結構化知識庫與提示詞引擎結合起來，讓 GPT 模型生成更正確、更穩定、更可靠的結果。Embedding 是一種特殊的數據表示格式，機器學習模型和算法可以輕松

19、使用。Embedding 是一段文本的語義含義的信息密集表示。Embedding 支持在 Azure 數據庫中進行矢量相似性搜索，例如 Azure Cosmos DB forMongoDB vCore 或 Azure Database for PostgreSQL-靈活服務器。路徑二 Prompt engineer 提示工程優化LLM application profilesGENERATION HEAVY在 AI 領域，特別是在大型語言模型中，提示指的是用戶為引起特定類型的響應而給出的輸入或指令。要充分利用 GPT-4 等大型語言模型，就必須精心設計能產生有效結果的提示。挑戰在于如何選擇詞語

20、、表達方式、符號和結構的最佳組合，以引導模型生成準確而貼切的內容，包括回答問題、以最喜歡的作家的口吻創作故事、創作詩歌、執行代碼相關的任務等。提示有助于 AI 明確用戶意圖和對其生成內容的期望，更精確的提示會帶來更準確、相關性更強的結果。需要注意的是，相似的提示可能會引發不同的響應，這取決于底層模型、訓練數據，甚至是用戶請求措辭的細微變化。您可以使用本文介紹的15 個提示工程優化技巧，躍升為更好的 AI 提示詞工程師。GENERATION LIGHTContent creationChatbotSummarizationPROMPT HEAVYPrompt engineering Enterp

21、rise ChatbotPROMPT LIGHT11LLM路徑三 基于現有模型進行 Fine-tuning 微調1.什么是 Fine-tune 微調Fine-tuning 是開發人員和數據科學家用來定制大型語言模型，以滿足特定任務需求的方法之一。與“檢索增強生成”（Retrieval Augmented Generation，RAG）和“提示工程”等方法通過在提示中注入正確的信息和指令不同，Fine-tuning 則是通過對大型語言模型本身進行個性化定制來實現的。Azure OpenAI 服務和 Azure 機器學習提供了監督式 Fine-tuning，允許您提供自定義數據（提示/補全或對話式

22、聊天，具體取決于選擇的模型），以教授基本模型新的技能。2.何時應該使用微調在開始使用 Fine-tuning 之前，我們建議您首先嘗試提示工程或 RAG（檢索增強生成）這是最快的入手方式。微軟提供了如 Prompt Flow 或 On Your Data 工具來使此過程變得更簡單。您可以在需要 Fine-tuning 模型的場景下進行比較，以選擇從提示工程還是 RAG 開始入手。大多數模型都會結合提示工程和 Fine-tuning，從而避免浪費精力。1 12想要了解何時/是否應該進行 Fine-tuning？一些基本規則可以為您提供指導：1.如果您希望簡單而快速地獲取結果，請不要立即開始使用

23、Fine-tuning：因為這需要大量的數據和時間來訓練和評估新模型。如果時間有限，通常只需通過提示工程即可取得相當大的進展。2.如果您需要最新或域外數據，這是使用 RAG 和提示工程的完美用例。3.如果您希望確保您的模型具有良好的基礎，避免產生幻覺（hallucinations），那么 RAG 在這方面表現出色?？梢钥紤]使用 Fine-tuning 的場景包括：1.教會模型一項新技能，以便它在特定任務上表現出色，如分類、摘要或始終以特定格式或語調進行回應。有時，通過 Fine-tuning 較小的模型，也能使其在特定任務上與較大的模型一樣出色。2.通過示例向模型演示如何執行某些操作，但在提示

24、中很難解釋清楚，或者示例太多，上下文窗口中無法容納。這些場景有很多邊緣情況，比如自然語言查詢，或者教模型用特定的聲音或語調說話。3.減少延遲。較長的提示可能需要更長的處理時間，而 Fine-tuning 允許您將這些較長的提示集成到模型本身中。微調與提示工程、RAG 的使用情景一覽13微調是一種高級技術，需要專業知識才能正確使用。下面的問題將幫助您評估是否已經準備好使用微調。2.您目前嘗試了哪些其他辦法？4.你打算使用哪些數據進行微調？1.為什么要微調？3.這些方法哪些情況下行不通？5.如何衡量微調模型的質量？如果您可以明確回答以上問題，那么，您可以開始下一步的微調計劃了。要求開始為什么用幾個

25、示例來引導模型提示工程易于制作和快速實驗，門檻非常低簡單、快速部署提示工程、RAG在Azure OpenAI上輕松使用您的數據，使用提示流程，LangChain提升模型相關性RAG從您自己的數據集中檢索相關信息以插入提示最新數據信息RAG從您自己的數據庫、搜索引擎等查詢最新信息，以插入提示事實基礎RAG引用和檢查檢索到的數據的能力優化具體任務微調微調經常用于引導模型執行特定任務，例如以特定的格式、語調或聲音總結數據指令無法適應提示微調微調將少樣本示例移入訓練步驟，但增加了訓練所需的樣本數量更低的延遲微調在提供足夠且高質量的數據的情況下，可以微調較小、更快的模型以在特定任務上提供良好的性能，而不

26、是使用類似 GPT4 的通用模型更低的成本適情況而定提示工程和 RAG 的初始成本較低，但長提示更昂貴；微調訓練是昂貴的，但可能會減少提示長度。選擇始終取決于用例和數據。復雜、新穎的數據或領域提示工+RAG+微調這是一個高風險領域。微調可以重新訓練模型以識別新領域，但需要使用 RAG 來避免合理的混淆。確?？蛻舨粐L試為未經批準的用途重新訓練3.3 在 Azure 上進行微調使用 Azure Open AI 服務進行 Fine-tuning 將為您帶來雙重優勢：您可以自定義先進的 OpenAI 大語言模型（LLMs），同時部署在 Azure 的安全、企業級云服務上。Azure 的內容審查功能讓您

27、使用所需的數據進行 Fine-tuning 時，可以過濾掉任何有合規風險的數據及響應。如果您是 Azure OpenAI 服務和 LLMs 的新用戶，歡迎您使用微軟提供的簡單易用的 API 來訓練和部署模型。如果您更愿意使用 GUI，可以嘗試 Azure OpenAIStudio。如果您正在從 OpenAI 遷移到 Azure，API 可兩者兼容。Fine-tuning 分為兩個部分：訓練 Fine-tuning 模型以及使用新定制的模型進行推理。訓練指定您的基本模型、訓練和驗證數據，并設置超參數，就可以開始了！您可以使用 Azure OpenAI Studio 進行簡單的 GUI 操作，或者

28、對于更高級的用戶，我們還提供了 REST API 或 OpenAI Python SDK。推理訓練完成后，新模型將在您的資源中可用。當使用您的模型用于推理時，該定制模型可像任何其他 OpenAILLM 一樣進行部署！經過 Fine-tuning 的模型部署后將按小時收取托管費用，基于輸入和輸出 token 計價。如果您熟悉使用 Azure Machine Learning Studio 來開發、監控和部署模型，您可以將 Fine-tuning 集成至 AML 工作流程中的現有模型。除了 OpenAI 模型，Azure 機器學習還支持對開源模型進行 Fine-tuning，例如 LLaMa。Yo

29、uTube 視頻：Alicia&Seth“如何在 Turbo 上進行微調”14路徑四 訓練您的自有模型如果您決定訓練您的自有模型，Azure 云端大規模 AI 算力平臺是您最佳的合作伙伴！先進 AI，離不開算力基礎設施、服務與專業知識。我們將微軟過去十年的超級計算經驗和支持超大型 AI 訓練工作負載的經驗應用于搭建具備規?；咝阅艿?AI 基礎架構。您可以在 Azure AI Studio 中使用預構建和可自定義的 AI 模型，開發生成式 AI 解決方案和自定義 copilot?，F在 Azure AI 模型目錄中添加了新的基礎和生成式 AI 模型。在 Hugging Face 中，我們引入了一

30、系列不同的穩定擴散模型、falcon 模型、CLIP、Whisper V3、BLIP 和 SAM 模型。此外，我們還添加了 分別來自 Meta 和NVIDIA 的 Code Llama 和 Nemotron 模型，以及微軟研究的尖端 Phi 模型。模型目錄中新增了 40 個新模型和4 種新模式，包括文本到圖像和圖像嵌入模型。借助我們的模型即服務，專業開發人員很快就能輕松集成最新的 AI 模型，例如 Meta 的 Llama 2、Cohere 的Command、G42 的 Jais 以及 Mistral 的高級模型作為 API 端點到應用程序中。他們還可以使用自己的數據微調這些模型，Azure

31、龐大的 GPU 基礎設施能力，將幫助您降低配置 GPU 資源和管理托管的復雜性。4.1 Azure 為任何規模的 AI 提供世界一流的算力Azure 領先的 GPU 和網絡解決方案的獨特架構設計，為計算最密集的 AI 訓練和推理工作負載提供了一流的性能和規模。這就是世界領先的 AI 公司（包括 OpenAI、Meta 等）選擇 Azure 來推進 AI 創新的原因。Azure 目前位列全球 TOP500 超級計算平臺第三名，是唯一的云服務提供商。Azure 全堆棧大模型訓練優勢154.2 Azure AI Infra GPU 虛擬機類型Microsoft Azure 推出基于 NVIDIA H

32、100 Tensor Core GPU 的 ND H100 v5 VM，該虛擬機支持的按需配置可達8 至上千個通過 Quantum-2 InfiniBand 網絡互連的 NVIDIA H100 GPU，使得 AI 模型的性能明顯提高。在 2023 年 11 月份發布的 MLperf 性能基準報告里，我們將 175B 參數 GPT-3 模型的訓練時間從之前的 10.94分鐘降低到 4.0085 分鐘，使用的算力是 1344 臺通過 InfiniBand 互聯的 Azure H100 虛機，這只比 Nvidia 裸金屬機器慢了 2%。Azure ND H100 v5 系列虛擬機自建大模型的算力加持

33、:Azure H100 MLperf 性能基準NVLINK 高速互聯的八卡 GPU 虛擬機Quantum-2InfiniBand高速擴展的多臺 GPU 集群單卡H100 GPUNVIDIA H100 Tensor Core GPUNVSwitch+NVLink 4.0Quantum-2 InfiniBand1 16與 Azure 共同設計超級計算機對于擴展我們苛刻的 Al 訓練需求至關重要,使我們在ChatGPT 等系統上的研究和調試工作成為可能。Greg BrockmanOpenAl 總裁兼聯合創始人我們對于對話式 AI 的關注促使我們開發和訓練一些最復雜的大型語言模型。Azure 的 AI

34、 基礎結構為我們提供了必要的性能，以便大規模、可靠地、高效處理這些模型。我們對Azure 的新 VM 及其將為我們的 AI 開發工作帶來的性能提升感到非常興奮。Mustafa Suleyman Inflection 首席執行官此外 Microsoft Azure 的 AI Infra 機型還包括：基于 Nvidia H100 用于中等規模模型訓練以及推理密集型負載的 H100 虛擬機類型 NC_H100?；?Nvidia H100 用于機密型 AI 應用的 H100 機型 NCC H100 v5?；?Nvidia H200 用于大模型訓練和推理的 ND H200 v5 機型?；?AMD

35、MI300X 用于支持大模型的高帶寬內存 GPU 機型 ND MI300X v5 虛擬機。17第三章生成式人工智能落地成功案例參考01 汽車行業 梅賽德斯-奔馳梅賽德斯-奔馳（奔馳）是世界知名的汽車品牌，致力于為用戶提供更互聯、更智能、更個性化的駕駛體驗。為了實現這一目標，奔馳開發了 MBUX 語音助手“嘿，梅賽德斯”，讓用戶可以通過自然語音命令控制車內的各種功能，如導航、娛樂、空調等。這種語音助手不僅可以提高用戶的便捷性和生產力，還可以增強用戶的安全性和舒適度。企業需求123使用 Azure OpenAI 服務微軟 Azure OpenAI 服務為奔馳提供了一個集成了 GPT 模型的車載語音

36、助手，讓用戶可以通過自然語言與車輛進行交互。這個語音助手可以理解用戶的需求和意圖，提供全面和相關的回答，還可以集成第三方服務，讓用戶可以在駕駛過程中完成更多的任務。這個方案通過 Azure 的企業功能和基礎設施，保證了語音助手的性能和安全性，同時遵循了微軟的負責任的人工智能原則。這個方案正在美國進行 Beta 測試，預計將為奔馳用戶帶來更互聯、更智能、更個性化的駕駛體驗。奔馳希望盡快將 GPT 模型應用到 MBUX 語音助手中，以搶占市場先機，但 GPT 模型的部署和集成需要大量的時間和資源。奔馳需要確保 GPT 模型與MBUX 語音助手的兼容性和統的協調性。奔馳需要保證 GPT 模型的安全性

37、和可靠性，以及用戶的穩定性，以及與其他車內系隱私和數據的保護。18成功亮點奔馳可以在三個月內完成 GPT 模型的 Beta 測試，并根據用戶的反饋進行改進和優化，從而快速推出增強版的 MBUX 語音助手；奔馳可以使用 Azure OpenAI 服務的預留預配置吞吐量功能，以便大規?？刂?GPT 模型的配置和性能，從而支持更多的用戶和車型；奔馳可以通過 GPT 模型提供更直觀、更具對話感的語音助手，讓用戶可以通過自然語音命令完成更多的任務和功能，從而提升用戶的滿意度和忠誠度。1902 零售行業 沃爾瑪沃爾瑪是全球最大的零售商，以低價和多樣化的商品吸引了數億消費者。沃爾瑪在 2023 財年實現了超

38、過 820億美元的電子商務銷售額，并持續擴大其活躍數字客戶群。該公司的目標是為顧客提供最佳的數字購物體驗，讓他們能夠輕松地找到和購買自己想要的產品。企業需求使用 Azure OpenAI 服務沃爾瑪選擇了微軟 Azure OpenAI 服務，以訪問世界領先的 AI 模型，同時獲得微軟智能云 Azure 企業級功能（包括安全性、合規性和區域可用性）的支持。結合沃爾瑪專有數據和技術、大型語言模型以及沃爾瑪建立的零售專用模型，沃爾瑪在 iOS、Android 和自有網站上建立了一個全新的生成式 AI 支持的搜索功能。這項新功能專門用于理解顧客查詢的上下文并生成個性化回復。很快，顧客將利用該功能獲得更

39、具互動性和對話性的體驗，獲取特定問題的答案，并收到個性化的產品建議。借助這種前沿的生成式 AI 技術，用戶可以從“滾動搜索”轉變為“目標搜索”，從而使數字購物體驗更加流暢和直觀。成功亮點傳統搜索功能無法滿足高度個性化的需求。沃爾瑪致力于提供更個性化的商品推薦和更直觀的購物體驗。12生成式 AI 技術改進搜索功能，提供更個性化和直觀的購物體驗；5 萬名非門店員工通過“我的助手”應用顯著提升工作效率；沃爾瑪與微軟戰略合作加速了數字化轉型，帶來業務創新。沃爾瑪希望通過引入生成式 AI 技術，20幫助員工完成各種任務，包括文件總結和內容創建。04 游戲行業 完美世界完美世界游戲是中國最早自主研發 3D

40、 游戲引擎的游戲企業。作為全球化的游戲開發商、發行商、運營商，并在端游、手游、主機游戲、VR 游戲以及云游戲等多個領域進行布局，旗下產品出口 100 多個國家和地區，其出品的誅仙天龍八部幻塔等游戲，搭載中國文化，為全球玩家帶來了優質的游戲體驗。為了在MMO 游戲研發中實現效能突破，完美世界游戲于 2022 年開始基于 Azure OpenAI 及其他 Azure AI 服務探索GenAI 時代的游戲創新。企業需求123提升產品品質，打造精品游戲。大模型技術在圖像與文本生產領域的廣泛應用為游戲行業帶來了新的機遇，然而生成式 AI的調試精度難以滿足游戲文本與美術資產的創作。升級游戲玩家的 AI 交

41、互體驗。AI 對話缺少與生成文本對應的聲畫表現，難以直接用在 MMO 項目中，玩家的游戲體驗需要進一步升級。革新技術中臺對工作室的賦能。完美世界游戲內部早已成立 AI 中心，但如何將GenAI 的技術能力落地為各個工作室開箱即用的實用功能也是一項巨大挑戰。使用 Azure OpenAI 服務完美世界游戲在生產管線、核心業務和開發工具上實現了全面優化。策劃團隊引入 GPT 3.5 和 GPT-4 等 AzureOpenAI 模型，為 AI 文本創意、劇情拓展和定制世界觀環節提供支持；結合 GPT 4-8K 模型和 GPT 3.5 微調模型以及基于 Azure TTS 文本轉語音服務，自研自動生成

42、游戲過場動畫的工具 D+，生成角色情緒、動作、分鏡、文本、表情、口型、語音等；在美術環節，基于 GPT4+DALL-E3 模型和微軟 3D 優化工具 Simplygon 實現智能化建模、生成分鏡預覽；此外，完美世界將 Azure OpenAI 模型強大的歸納、理解及總結能力應用在量化運營場景與安全維護場景；并基于 Azure OpenAI 服務的 GPT-4、Codex 模型和 GitHub Copilot 工具，實現了智能代碼生成和智能測試。成功亮點完全基于微軟 Azure OpenAI 服務及 GPT-4 模型能力，上線 AI 原生劇本殺游戲。AI 技術在完美世界游戲在研 MMO 項目組中

43、達到了全流程應用，產品開發效率提升35%，美術產出效率提升 23%；21目前生產管線優化已經完成了大于 38%的 AI 化，核心業務優化的 AI 滲透率占比超過60%，技術中心提供給各個工作室的技術開發工具也完成了超過 47%的 AI 能力接入；05 專業服務行業 KPMG畢馬威會計師事務所在 143 個國家和地區開展業務，共有超過 270,000 名合伙人和員工（至 2023 財年），為全球企業提供審計、稅務和咨詢等專業服務。畢馬威與微軟擴展了全球合作伙伴關系，重塑多個關鍵業務領域的專業服務，包括勞動力現代化、安全可靠的開發以及為廣泛的客戶、行業和社會提供 AI 解決方案。企業需求12畢馬威

44、多年積累的數據需不斷擴充和微調，同時確保滿足治理、風險和監管要求。3使用 Azure OpenAI 服務畢馬威將微軟 Azure 的 AI 創新與自身的稅務、審計和咨詢專業知識結合起來，利用多學科模型的強大能力，為員工提供支持，為客戶輸出洞察。通過將數據分析、AI 和 Azure 認知服務融入審計流程，員工能夠實時審計，并更密切地關注高風險領域的審計風險和挑戰；將 Azure OpenAI 服務和 Microsoft Fabric 集成到 KPMG Digital Gateway，客戶能夠輕松訪問全套畢馬威稅務和法律知識；基于 Azure OpenAI 服務開發的 AI 解決方案，幫助員工分析

45、 ESG 數據，建立數據模式并起草 ESG 稅務透明度報告；基于微軟 Azure 開發的 AI 知識平臺，加速為客戶創建專門的解決方案。成功亮點跟上快速發展的 AI 技術的步伐，為全球客戶提供基于 AI的智能解決方案，提供更優質的專業服務和決策洞察。增強員工體驗，使畢馬威全球 20 多萬員工提升分析效率，從而釋放創造力，將更多時間用于為客戶提供戰略建議上。由 AI 生成的“虛擬助手”，創建全新的客戶服務模式，幫助稅務專業人員提高效率；加快為客戶創建專門的解決方案，助力提升客戶的競爭優勢和盈利能力，同時獲取企業隱私、道德和安全保障?；?Azure OpenAI 服務開發的 AI 解決方案，為畢

46、馬威提供了新的創收機會；2206 零售行業 CarMaxCarMax 是美國最大的二手車零售商，其服務覆蓋全國，且在任意時間段都有超過 45,000 輛汽車可供顧客使用。幫助顧客進行購前研究，為消費者提供誠信和透明的購車體驗是 CarMax 的首要任務?；谖④?Azure OpenAI 服務，CarMax 通過真實用戶評論，打破信息壁壘，為眾多客戶提供更好的購車體驗。企業需求使用 Azure OpenAI 服務CarMax 使用 Azure OpenAI 服務的 GPT-3 模型，在短短幾個月內生成了大量原創內容，從 5000 個汽車頁面的真實用戶評論中提取出最易于閱讀和理解的亮點摘要，并根

47、據 CarMax 的需求微調，快速為買家提供有價值、可用的內容。同時，CarMax 將其 OpenAI 負載遷移到微軟 Azure，采用 Azure OpenAI 服務，獲得微軟智能云Azure 內置的企業級功能，如安全性、合規性和區域可用性。成功亮點進一步優化 CarMax 的 AI 部署，獲取更強性能和企業級安全性。改善顧客的購車體驗，幫助 CarMax 網站在搜索引擎的排名不斷攀升；12提升客戶體驗，打破二手車市場信息不對稱的挑戰，讓選購過程更清晰、簡單隨著汽車庫存不斷增加，CarMax 需進一步優化 OpenAI 模型部署，以應對規模擴大帶來的性能壓力23簡化了其汽車搜索頁面文本摘要的創建流程，且經編輯審查，生成的摘 要批準率達到 80%；