RAG和向量數據庫打造差異化的生成式AI應用.pdf

《RAG和向量數據庫打造差異化的生成式AI應用.pdf》由會員分享，可在線閱讀，更多相關《RAG和向量數據庫打造差異化的生成式AI應用.pdf（38頁珍藏版）》請在三個皮匠報告上搜索。

1、 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。RAG RAG 和向量數據庫打造差異化的生成式 AI AI 應用馬麗麗數據庫解決方案架構師亞馬遜云科技臧昊旻工業4.0解決方案架構師博西家電 全球數字化服務 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。利用專有數據，構建獨特的生成式 AI 程序RAG 和向量數據庫博西案例分享議程 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。利用專有數據，構

2、建獨特的生成式 AIAI 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。生成式AI AI 廣泛應用生成式 AI AI 應用大模型 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。生成式AI AI 應用離不開數據生成式 AI AI 應用大模型存儲結構化和非結構化數據OLTP OLTP 數據庫SQL、NoSQL、文檔、圖形、向量分析與數據湖搜索、流式處理、批處理、交互式數據集成捕獲、轉換、流式處理數據管理目錄、質量、隱私、訪問控制 20

3、24,Amazon Web Services,Inc.或其附屬公司。保留所有權利。2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。您的數據是實現差異化的重要因素！通用生成式 AI基于通用數據的大語言模型差異化的生成式 AI更了解您的業務和客戶 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。復雜更容易如何提供數據給生成式AI AI 應用？訓練專屬模型微調提示詞工程專門構建通用模型+上下文 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。提示詞工程終端用戶生成式AIAI應用大語言模型

4、用戶輸入對大語言模型有特定的指令嗎？是否是一段連續對話的一部分？用戶是誰？是否有與用戶或其請求相關的數據嗎？是否有語義上相關的數據？提示詞模板提供的模型指令情境上下文對話歷史與狀態來自數據庫/API 的數據語義上下文來自于向量數據庫和搜索大語言模型提示詞大語言模型響應應用響應 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。生成式AI AI 交互示例我想購買車險。鮑勃早上好，鮑勃！我很樂意幫助您購買車險。我已經記錄了您車輛的詳細信息。您駕駛一輛2021年的寶馬 X3，您的住址是美國佛羅里達州 Anytown 市緬因街123號。以上信息是否正確？以下是我為您

5、找到的報價：ABC 保險：每月178美元XYZ 保險：每月198美元您是否想了解這些保險方案的更多詳細信息？2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。示例背后的提示詞工程您是HorizonGuard保險市場的對話智能體。問題回復應從不偏不倚的角度提供幫助和信息。請要求人類對回復予以確認。此人名叫鮑勃，他美國佛羅里達州 Anytown 市緬因街123號，擁有一輛2021年的寶馬 X3，家庭成員包括莎拉（妻子）和杰克（兒子）。汽車保險是最常用的個人保險之一。大多數州要求車主購買某類保險才能在本州內合法駕駛。.參考信息：https:/content.nai

6、c.org/consumer/auto-insurance.htm我想購買車險。提示詞工程使用提示模板、結構化數據源的上下文和語義上下文模型指令情境上下文“我想購買車險?！庇脩糨斎胝Z義上下文用戶提示/問題 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。終端用戶生成式AIAI應用大語言模型用戶輸入工程化提示詞應用響應大語言模型響應提示詞工程常見技術數據l l采集數據處理攝取結構化數據非結構化數據情境上下文OLTP數據庫提示詞模板文檔數據存儲、對象存儲或代碼對話狀態/歷史NoSQL、文檔或鍵值模型語義上下文向量數據庫或搜索緩存內存數據庫提示詞模板提供的模型指

7、令情境上下文對話歷史與狀態來自于數據庫/API的數據語義上下文來自于向量數據庫和搜索 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。RAGRAG 和向量數據庫 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。RAG RAG 框架提供語義上下文 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。RAG RAG 中的技術-向量EmbeddingEmbedding特定領域源數據分詞向量化存至向量數據存儲語義相似性搜索在提示詞中包含語義相似的上下文碰撞保險保費,0.230.58,0.45,

8、0.560.71,0.36,汽車保險轎車保險碰撞保險無保險車肇事險保費災害保險火災保險傘式保險房屋保險個人財產保險二維向量空間（精簡版）保險條例政策及價目表 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。選擇合適的向量數據庫 熟悉程度 實現的簡易性 可擴展性 性能 靈活性抽象集成支持的向量維度嵌入數量每秒查詢數（QPS）召回率熟悉程度靈活性性能可擴展性實現的簡易性 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。亞馬遜云科技多個服務均支持向量搜索Amazon OpenSearch ServiceAmazon Auro

9、raPostgreSQLAmazon OpenSearch ServerlessAmazon DocumentDBAmazon Neptune通過 Zero-ETL 的 Amazon DynamoDBAmazon MemoryDBfor RedisAmazon RDS for PostgreSQL 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。OpenSearch OpenSearch 適于多路召回的場景：向量召回+倒排召回發展成熟，易達到非常好的 baseline baseline 性能 檢索速度更快 可解釋能力強 精確匹配能力強 支持自定義停用詞表，

10、同義詞表優勢：考慮語義相似性，更加智能 語義相近即可召回，無需 term 命中 無需考慮復雜的傳統倒排的調優手段 具備支持跨模態召回的潛力倒排召回向量召回Amazon OpenSearchAmazon OpenSearch解決多路召回的問題 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。RDS/AuroraRDS/Aurora pgvectorpgvector 適于Filter/JoinFilter/Join混合運算SELECT idFROM productsWHERE products.category_id=7ORDER BY:q products.

11、embeddingLIMIT 10;SELECT products.id,orders.idFROM products，ordersWHERE products.id=orders.product_idAND products.category_id=7ORDER BY:q products.embeddingLIMIT 10;過濾過濾 +JoinJoin通過關聯訂單表(orders)查詢篩選出產品的訂單信息，一條語句獲取更多信息，提供更好的數據洞察能力查詢產品表(products)中指定類別(category_id)的產品，并按指定范圍的歐距排序篩選RDS/Aurora 2024,Amazo

12、n Web Services,Inc.或其附屬公司。保留所有權利。Foundational ModelQuestionAnswerMemoryDB1Prior QuestionUser23aRelevancy Model:Amazon Titan EmbeddingsAnswer43bAmazon MemoryDBMemoryDBMemoryDB適用于大語言模型結果緩存解決調用大模型成本高和效率低的問題 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。DocumentDBDocumentDB Vector Search Vector Search 適用場景

13、Amazon DocumentDB(with MongoDB compatibility)Document StoreDocument StoreVector Vector DatabaseDatabase聊天機器人（啟用語義搜索和信息檢索）客戶文檔向量化 索引產品目錄產品搜索和推薦（近似度搜索：例如文搜文 文搜圖）向量化 索引購物記錄生成式 AI|購物助手（基于語義的全文搜索）向量化 索引滿足用戶使用 MONGODB MONGODB 接口的使用習慣 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。知識圖譜和基礎模型可以強強聯合、優勢互補自然語言理解幻覺多

14、種問題解決私域專業知識基礎模型結構化知識缺乏語言理解數據準確性嚴格的推理知識圖譜優勢劣勢優勢劣勢更好地解釋行為知識圖譜+基礎模型知識整合獲取充分信息后做出決定 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。Amazon Neptune AnalyticsAmazon Neptune AnalyticsAmazon Neptune 的分析數據庫引擎Amazon Neptune 圖數據分析速度提高 80 倍使用內置圖算法在幾秒鐘內可分析數百億個連接圖和向量數據一起存儲，實現更快的向量搜索 2024,Amazon Web Services,Inc.或其附屬公司

15、。保留所有權利。亞馬遜云企業知識庫方案助力博西構建工業問題解決智能系統AI PSSAI PSS 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。GDS CN 工業團隊介紹 AI PSS 理念與實現 云上技術架構 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。GDS CN GDS CN 工業團隊介紹 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。BSH BSH 是一家全球化家電生產銷售商在中國地區運營 7 7 家自有工廠，3 3 個品牌的 6 6 個家電品類 2024,Amazo

16、n Web Services,Inc.或其附屬公司。保留所有權利。GDS CN GDS CN 工業團隊 提供工業領域數字化解決方案供應鏈計劃廠內物流生產制造制造執行過程追溯質量管理工廠維護廠內倉儲管理內部物流管理外部取貨管理物流機器人管理生產計劃排程優化集成業務規劃銷售與運營執行安環不動產管理今日話題覆蓋生產全領域，是企業數字化服務鏈路的重要一環 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。AI PSS AI PSS 理念與實現 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。工業生產中的問題解決痛點方法多、數據雜

17、、時效差、推廣難8 8D DFEMAFEMA1010KKKK5 5W1HW1HPDCAPDCATPMTPMQRQCQRQC問題解決方法論缺陷記錄維護記錄操作指導測試文檔QRQCQRQC紙質三個月以上電子化兩個月專家方法&數據 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。大語言模型能解決哪些問題？8 8D DFEMAFEMA1010KKKK5 5W1HW1HPDCAPDCATPMTPMQRQCQRQC缺陷記錄維護記錄操作指導測試文檔紙質三個月以上電子化兩個月方法&數據專家這些我都懂這些我都能查工單可催、可幫、可監控對話式引導和解答 2024,Amazon

18、 Web Services,Inc.或其附屬公司。保留所有權利。通過大語言模型實現問題解決核心突破點在于讓AIAI理解客制化方法的流程以及分步執行A 機器維護A機器作業指導機器運行規定動作一檢查：位置一檢查：位置二現象一現象二現象三條件一條件二條件三現象四缺陷記錄 B操作指導 C自主性維護問題跟蹤復原狀態“A 機器需要做重點檢查維護，請協助”“按照作業指導內容，請從A 機器運行規定動作一開始，檢查位置一的三個條件是否同時滿足：條件一：xxxx；（圖例）條件二：xxxx；（圖例）條件三：xxxx；（圖例）請反饋檢查結果至對話框”OKOKOKNOKNOKNOKNOKA機器作業指導機器運行規定動作一

19、檢查：位置一檢查：位置二條件一條件二條件三現象四A機器作業指導機器運行規定動作一現象一現象二現象三維護記錄 A檢查：位置一檢查：位置二條件一條件二條件三現象四A 機器作業指導機器運行規定動作一 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。云上技術架構 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。解決方案架構DynamoDBOpenSearchS3Chatbot FrontendECSRDSLambdaAPI GatewayNeptuneNotebookS3Word EmbeddingLambdaWord Emb

20、eddingLLMRDSChat LogChat Log AnalysisKnowledge GraphPresigned PicsSQL Knowledges/HistoryDocuments Search 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。為什么選擇亞馬遜云企業工業知識庫方案基于云原生服務構建安全加密的數據存儲和處理支持非結構化內容的導入和轉換業內頂尖的圖數據庫組件專有且安全的內容搜索引擎可快速移植至全球其他地區彈性資源擴展，提升 ROI彈性擴展支持瞬時大量并發請求 2024,Amazon Web Services,Inc.或其附屬公司。

21、保留所有權利。立即免費注冊了解更多免費生成式 AI 課程，課程包括技術開發技能 與商業應用技能方向。完成學習通過測驗，還能取得生成式 AI AI 技能證書 ，快速提升您的職場綜合競爭力！獲得行業認可的證書！亞馬遜云科技提供1010種不同等級，不同角色的認證，幫您提升信心和競爭力，以便您可以在云中構建自己的未來生成式 AI AI 精英速成計劃亞馬遜云科技認證獲取生成式 AI AI 技能最新考證優惠 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。Thank you!Thank you!聲明/Disclaimer:1.前述材料中的特定亞馬遜云科技生成式人工智能

22、相關的服務（如 Amazon Bedrock,Amazon Q)僅在亞馬遜云科技海外區域可用，詳情請以官網最新信息為準。亞馬遜云科技中國僅為幫助您發展海外業務和了解行業前沿技術選擇推介該服務。2.前述材料中第三方生成式人工智能內容并非由亞馬遜云科技提供，您應當依法使用服務并遵循相應的合規要求。馬麗麗臧昊旻 2024,Amazon Web Services,Inc.或其附屬公司。保留所有權利。Thank you!Thank you!聲明/Disclaimer:1.前述材料中的特定亞馬遜云科技生成式人工智能相關的服務（如 Amazon Bedrock,Amazon Q)僅在亞馬遜云科技海外區域可用，詳情請以官網最新信息為準。亞馬遜云科技中國僅為幫助您發展海外業務和了解行業前沿技術選擇推介該服務。2.前述材料中第三方生成式人工智能內容并非由亞馬遜云科技提供，您應當依法使用服務并遵循相應的合規要求。