《AGI時代向量數據庫的發展趨勢.pdf》由會員分享,可在線閱讀,更多相關《AGI時代向量數據庫的發展趨勢.pdf(18頁珍藏版)》請在三個皮匠報告上搜索。
1、A AG GI I時時代代向向量量數數據據庫庫的的發發展展趨趨勢勢自 主 創 新 引 領鄒鵬騰訊云向量數據庫負責人大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會向量數據庫的挑戰&發展趨勢騰訊云向量數據庫進展RAG的挑戰和發展趨勢0 01 10 02 20 03 3目目 錄錄大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標
2、準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會向向量量數數據據庫庫當當前前面面臨臨的的挑挑戰戰和和發發展展趨趨勢勢 大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會向向量量數數據據庫庫是是大大模模型型的的外外接接存存儲儲模型參數模型窗口向量數據庫大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數
3、據技術標準推進委員會大數據技術標準推進委員會向向量量技技術術是是一一種種非非結結構構數數據據檢檢索索方方案案E Em mb be ed dd di in ng gI In nd de ex x大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會E Em mb be ed dd di in ng g技技術術發發展展趨趨勢勢橫向發展Emebedding Every Type垂直發展Emebedding Every Object垂直發展F
4、ine-tune大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會向向量量索索引引召召回回率率提提升升&成成本本優優化化多多租租戶戶方方案案用戶A用戶B用戶C智智能能索索引引HNSW不是銀彈成成本本優優化化量化+降冷大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會H
5、 Hy yb br ri id d文文本本檢檢索索的的R Re er ra an nk k方方案案挑挑戰戰Weight、RRF、Ranker大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會R RA AG G技技術術當當前前面面臨臨的的挑挑戰戰和和發發展展趨趨勢勢 大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會
6、大數據技術標準推進委員會大數據技術標準推進委員會R RA AG G是是一一個個綜綜合合數數據據+模模型型的的工工程程,技技術術方方案案才才起起步步QueryRetrieveGenerateData意圖識別Query改寫Pormpt組裝結果過慮大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會文文本本提提取?。簜鱾鹘y統O OC CR R工工程程難難以以對對齊齊人人類類行行業業O OC CR R的的識識別別度度 7 70 0%多多模模
7、態態的的O OC CR R才才是是出出路路大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會數數據據檢檢索索:R RA AG G也也需需要要A Ag ge en nt t的的發發展展思思路路孫孫悟悟空空在在西西游游記記中中打打了了哪哪些些妖妖怪怪?GraphRAG大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大
8、數據技術標準推進委員會大數據技術標準推進委員會騰騰訊訊云云向向量量數數據據庫庫進進展展 大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會騰騰訊訊云云向向量量數數據據庫庫:源源自自集集團團大大規規模模業業務務多多年年打打磨磨Tencent Cloud VectorDB是騰訊自研的分布式向量數據庫,源自騰訊集團積累多年的分布式向量檢索引擎OLAMA,提供高吞吐、低延遲、低成本、高可用、彈性擴展的全托管向量檢索數據庫服務。秒級故障自動
9、切換,默認多可用區部署豐豐富富的的檢檢索索分布式架構,支持百萬級QPS,十億級單索引向量規模。高高性性能能/大大容容量量多多A AZ Z部部署署OLAMA向量引擎經過騰訊海量業務在推薦、搜索、AI相關場景的大規模系統驗證,日處理向量檢索1600億次。千千億億請請求求 /天天多種向量索引支持,多種檢索方式支持,滿足AI、推薦等場景的檢索需求。0200400600800100012001400160018009/1/1912/1/193/1/206/1/209/1/2012/1/203/1/216/1/219/1/2112/1/213/1/226/1/229/1/2212/1/223/1/23OL
10、AMA向量引擎日檢索量(億次/天)大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會支支持持千千億億級級超超大大規規模模的的企企業業級級向向量量數數據據庫庫千億 13843334633811594050001000015000128緯度768緯度騰訊云向量數據庫行業平均Q QP PS S對對比比 0.190.771.23301234128緯度768緯度騰訊云向量數據庫行業平均單單Q QP PS S成成本本(元元/月月)信通院性能和
11、規模測試500萬 QPS99.99%可用性首家通過信通院標準測試毫秒級響應延遲大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會騰騰訊訊云云向向量量數數據據庫庫:一一站站式式R RA AG G數數據據平平臺臺大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會當當前前業業務務進進展展大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會T TH HA AN NK KS S感感謝謝聆聆聽聽自 主 創 新 引 領大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會大數據技術標準推進委員會