《The Next Wave:Explore the Strategy on Generative AI-曹志斌 博士 .pdf》由會員分享,可在線閱讀,更多相關《The Next Wave:Explore the Strategy on Generative AI-曹志斌 博士 .pdf(48頁珍藏版)》請在三個皮匠報告上搜索。
1、The Next Wave:Explore the Strategy on Generative AI曹志斌 亞馬遜云科技全球生成式AI產品營銷總監最終審核標準不明確缺乏新的數據需要引導回答需要告知業務需要針對營銷運營場景,基礎模型自身有一定局限性我想購買汽車保險張先生早上好,張先生,很高興能為你辦理汽車保險。我這里有你的汽車詳細信息。你開的是 2021 年寶馬 X3,住在美國佛羅里達州 Anytown 的 123 Main Street。這些信息正確嗎?以下是為你找到的報價:ABC 保險公司:每月 178 美元XYZ 保險公司:每月 198 美元你想了解任何一個方案的更多細節嗎?用戶期待生成
2、式 AI 能夠給出高質量答案“我想購買汽車保險?!蹦闶?HorizonGuard 保險市場的對話代理?;卮饐栴}時要有幫助、公正和無偏見。請人類確認你的回答。這位張先生住在美國佛羅里達州 Anytown 的123 Main St.,擁有一輛2021年寶 馬X3。家庭成員包括他自己和妻子。汽車保險是最常用的個人保險類型之一。大多數州要求你在駕駛時必須購買某種保險。參考資料https:/www.naic.org/documents/consumer_auto-insurance.htm我想購買汽車保險。用戶輸入用戶輸入提示工程提示工程使用提示詞模板、結構化數據源的上下文和語義上下文模型介紹模型介紹情
3、景背景情景背景用戶的提示詞用戶的提示詞/問題問題從從 RAG 獲取的語義上下文獲取的語義上下文簡單的對話背后蘊藏著復雜的提示工程 這對我的企業意味著什么?什么是基礎模型?什么是大型語言模型?什么是生成式 AI?我需要成為一名及時工程師嗎?這安全嗎?如何選擇機型?從哪里開始?我們應該嘗試哪些模型?什么是微調?如何確定項目的優先次序?我們怎樣才能走得更快?怎樣才能讓它成為現實?如何提高效率?如何擴大規模?我應該使用哪些型號?如何管理風險?我應該訓練自己的模型嗎?我應該使用哪種定制方法?生成式 AI 創造巨大的商業價值創建新的內容和創意,包括對話、故事、圖片、視頻和音樂徹底提高所有業務線的生產力從所
4、有您的企業信息,以便更快、更好地,更好的決策創造與客戶和員工互動的創新和吸引人的新方式B 使用使用 Amazon Bedrock 幫助客戶體驗幫助客戶體驗全新全新的旅行世界的旅行世界9尋找合適的行程或目的地始終是一個挑戰,作為一家以技術為中心的企業,我們正在尋找利用生成式 AI 來改進對客戶的建議、消除摩擦并為客戶提供量身定制的預訂體驗的方法。我們對 Amazon Bedrock 及其生成式 AI 功能感到興奮,它讓我們能夠根據松散參數返回客戶尚未考慮過的新穎根據松散參數返回客戶尚未考慮過的新穎建議建議。Amazon Bedrock 還允許我們選擇正確的語言模型,并使用 B 的數據對其進行微調
5、,以提供定制且具有相關性的目的地與住宿建議。通過使用 Amazon Bedrock 微調語言模型,我們將客戶與他們夢想的目的地聯系起來,使 B 成為獲取旅行靈感的首選平臺。B 首席數據官Thomas Daveyhttps:/ 借助借助 Amazon Bedrock 和和 Anthropic 實現實現 Lexis+人工智能平臺提高法律工作效率人工智能平臺提高法律工作效率10我們正在與 亞馬遜云科技 和 Anthropic 合作,在 Amazon Bedrock 上托管我們自定義的、經過微調的 Anthropic Claude 2 模型,以支持我們的戰略,即大規??焖偬峁┥墒?AI 解決方案,并
6、在我們所做的一切中嵌入尖端加密、數據隱私和安全人工智能技術。我們全新的 Lexis+AI 平臺技術具有對話式搜索、富有洞察力的總結和智能法律起草功能,能夠幫助律師提高效率、有效性和工作效率。LexisNexis Legal&Professional 執行副總裁兼首席技術官Jeff Reihlhttps:/ 幫助用戶做出明智的財務決策Thomson Reuters 利用利用 Amazon Bedrock 實現實現 AI 民主化民主化并并推動創新推動創新12我們建立 Open Arena 旨在為我們的同事提供一種安全、透明的方式來了解這一全新的大規模技術變革,以及他們可以如何用它來解決客戶的挑戰。
7、借助亞馬遜云科技,我們現在可以比以前更廣泛、更高效地高效利用我們世界一流的內容和專業知識。之所以選擇之所以選擇 Amazon Bedrock,是因為它可以幫助我們將內容與各種模型無縫集成在一,是因為它可以幫助我們將內容與各種模型無縫集成在一起起。尤其是當考慮到這個領域發展的速度有多快時,具備使用各種模型的能力就會成為我們的關鍵驅動力。AI 與 Thomson Reuters 實驗室負責人Joel Hronhttps:/ 的Rufus購物專家Amazon Pharmacy更快的處方和更幫助的支持14Embedvideo:https:/ AI通用生成式AI戰略戰略明確業務場景適應性重視實現的方法和
8、工具設定全面數據戰略戰略戰略明確業務場景適應性“不會有一個生成式不會有一個生成式 AI 基礎模型能適用基礎模型能適用所有業務場景所有業務場景”適用性我們是否有人能有效地開展這項工作?團隊可行性預算投資回報率數據時間表風險我們能為這個項目騰出足夠的資金嗎?能否用一種算法來代替?AI/ML 的作用?我們怎樣才能把投資賺回來?何時需要?這是一個為期 1 個月的項目還是一個為期 6 個月的項目?利害攸關的是什么?合規性?隱私?安全性?我們是否有足夠的數據來滿足這個用例?選擇基礎模型的幾個考慮方向推理性能和延遲表現 模型的大小和能力 預訓練數據的知識截止時間 可訪問性和總體成本開支 模型相關的道德和責任
9、問題 是否支持靈活微調戰略戰略明確業務場景適應性設定全面數據戰略“如果大家如果大家使用同使用同一個基礎模型一個基礎模型,您的您的企業數據能帶來差異化企業數據能帶來差異化”Flat screen TVs2,72275”LED 4k Smart TV$579.99Add to CartOur experts recommend搜索搜索索引優化存儲 顧客評論顧客評論鍵值數據庫購物車購物車關系型數據庫推薦推薦圖數據庫Save$240現代應用程序要求專門構建的數據存儲生成式 AI 應用程序生成式 AI 應用程序數據基礎3RD PARTY DATAAPP/LOGSIOT/DEVICESDATA SOURC
10、ESFOR APPLICATIONSAmazon AuroraAmazon DynamoDBAmazon KinesisAmazon MSK存儲存儲&查詢查詢FOR ANALYTICS&MLData WarehouseAmazon RedshiftData LakeAmazon S3Amazon EMRBig Data行用行用&應用應用Amazon SageMakerAmazon QuickSightMACHINE LEARNINGBUSINESS INTELLIGENCEAmazon BedrockGENERATIVE AIAPPSDEVICESPEOPLEAmazon Lake Forma
11、tionAmazon DataZone為您的數據基礎架構提供全面的服務戰略戰略明確業務場景適應性重視實現的方法和工具設定全面數據戰略“正確的工具簡化基礎模型的調用和管理正確的工具簡化基礎模型的調用和管理,加速加速構建生成式構建生成式 AI 應用應用”讓生成式 AI 與協同工作您所在領域的通用知識和專業知識無標簽、非結構化的企業數據更改基礎模型的副本針對特定任務的專業知識標注示例數量少更改基礎模型的副本 通過及時擴充專業知識 企業知識語料庫基礎模式不變 威威 脅脅需要將法律和監管要求放在重要位置需要消除偏見大模型可能產生幻覺必須確保問責制與透明度必須對可能濫用和生成有害內容進行監管必須保護知識產
12、權需要考慮隱私和數據保護生成式生成式 AI 技術棧技術棧GPUsInferentiaTrainiumSageMakerEC2 Capacity BlocksNeuronUltraClustersEFANitro生成式生成式 AI 技術棧技術棧Amazon 大規模構建、訓練和部署 ML 模型,包括調優模型獲取最新和公開的調優從零開始創建調優自定義調優 運行推理實施 FMOps 和治理芯片級創新Amazon Amazon 35Amazon BedrockGuardrailsAgentsCustomization CapabilitiesCustom Model ImportStudio生成式生成式
13、 AI 技術棧技術棧Amazon Bedrock通過單一應用程序接口,選擇領先的基礎模型模型定制檢索增強生成執行多步驟任務的代理安保、隱私和安全利用基礎模型(FM)構建和擴展生成式 AI 應用的簡單方法Amazon 廣泛的機型選擇總結、復雜推理、寫作、編碼高質量圖像和藝術文本生成、搜索、分類問答和閱讀理解文本摘要、生成、問答、搜索、圖像生成根據上下文作答、總結、轉述文本摘要、問答、文本分類、文本補全、代碼生成Guardrails forAmazon Bedrock根據您的應用要求和負責任的人工智能政策實施定制的保障措施支持 Amazon Bedrock 的多個基礎模型和代理根據負責任的人工智能
14、策略,配置有害內容過濾功能用簡短的自然語言描述來定義和禁止被拒絕的主題編輯或屏蔽 PII 等敏感信息,以及自定義 Regex。Amazon QBusiness Amazon QDeveloperAmazon Q in QuickSightAmazon Q in Connect 生成式生成式 AI 技術棧技術棧Amazon Q利用生成式 AI 助理重新定義工作統一數據源、存儲庫和企業系統在您工作的地方使用提供行業領先的幫助計劃申請代碼生成單元測試安全掃描代碼補救代碼遷移故障排除開發人員知識企業用戶企業用戶開發人員開發人員Amazon QBusiness 知識搜索概述內容創作摘錄研究與分析Amaz
15、on Q in QuickSight了解數據建立和完善視覺效果構建計算執行摘要創建數據故事Amazon QDeveloper專業用戶專業用戶Amazon Q in Connect 代理助理供應鏈Amazon Q in Amazon Supply Chain利用 重塑工作方式 yyyy,Amazon Web Services,Inc.or its affiliates.All rights reserved.通過對 70%的呼叫實現自動化,每月可將呼叫中心的成本降低 2000萬-4000萬美元 硬核最新技術發布+行業趨勢解讀 給力新技術第一時間上手體驗意思Jam 個人戰+線上“密室逃脫”團隊戰PlanCreateOperateImprove無限構建,成為生成式無限構建,成為生成式 AI AI 原生開發者!原生開發者!體驗賦能理解Bedrock 體驗區全新發布 Jam 挑戰區全棧生成式 AI生成式 AI 時代開發新范式 DemoAI Ready生成式 AI 課程全新上線Certification Special OfferAmazon Q BusinessAmazon Q DeveloperCodeCatalystBedrock 戰略戰略明確業務場景適應性重視實現的方法和工具設定全面數據戰略