《06-云原生圖數據庫 NebulaGraph 驅動的 GenAI 技術演進 - 尚卓燃.pdf》由會員分享,可在線閱讀,更多相關《06-云原生圖數據庫 NebulaGraph 驅動的 GenAI 技術演進 - 尚卓燃.pdf(21頁珍藏版)》請在三個皮匠報告上搜索。
1、云原生圖數據庫 NebulaGraph驅動的 GenAI 技術演進演講人:尚卓燃(PsiACE)目錄背景趨勢01應用案例03技術路線02Content背景趨勢Part 01當圖數據庫遇上 GenAI傳統 RAG 方法的痛點傳統RAG方式面臨的挑戰:細粒度知識檢索能力不足全局上下文關聯缺失向量相似性與相關性錯配全局性問題及推理型問題回答能力不足GraphRAG 的優勢基于圖技術的 RAG技術的優勢:細粒度的切分實體和關系,保留了高度凝練的知識細節保留事物間的關聯關系,提升可解釋性圖查詢和圖算法得到相關上下文NebulaGraph GenAI 團隊的成果:業內首個提出 GraphRAG 方案構想的
2、團隊貢獻了 SubGraph RAG 和 Chain ofExploration云原生圖數據庫的價值 完整的 Infra 基座云原生圖數據庫的價值 經過大規模復雜場景檢驗業務成果提升用戶粘性,促進用戶活躍,通過精準的廣告推薦提升整體的收入社交網絡的場景,對安全的要求非常高,所以我們滿足了 mTLS 和 Certificate 的證書每6小時更換一下控制運維成本,目前只需要 2 個工程師即可維護整個NebulaGraph 的相關產品滿足了高 QPS 的需求,包括 90%以上的延遲可以達到 100ms-150ms 以內,且高可用達到 99.99%解決方案超大規模的的圖譜:用戶關系超過 100 億,
3、單個最大規模圖譜超過400 億點,1000 億邊多場景使用:廣告推薦、內容推薦、好友推薦、鏡頭推薦等各類場景超大并發:TPS 超過 150萬/秒,QPS 超過 8萬/秒技術路線Part 02NebulaGraph 的 GenAI 技術路線和產品GraphRAG Agentic Workflow圖源:https:/vectorize.io/how-i-finally-got-agentic-rag-to-work-right/Retrieval Agent Ground TruthGraphRAG ParseCraftVLM 優先,客戶需求驅動專注集成性和可定制性One Layer,Any Pa
4、rserGraphRAG Deep Seach 利用推理模型規劃(DeepSeek R1/Qwen QwQ)融合 GraphRAG 能力進行充分洞察 節約開銷、增強效果GraphRAG All in MCP 上游優先:貢獻了 LlamaIndex 社區 McpToolSpec,官方 MCP 支持層 內部改造優化:率先落地 Local MCP 范式圖源:https:/hackteam.io/blog/build-your-first-mcp-server-with-typescript-in-under-10-minutes/Graph Insight Text to GQL 對接已有圖譜,用戶
5、可以直接以問答形式進行圖查詢和圖計算 基于規則/AST/算子模板的查詢生成和校準 Agent 自省Graph Insight Agentic&CoE 基于 Agentic 范式的圖探索能力 Chain of ExplorationGraph Insight-MCP 提供 NebulaGraph MCPServer 預先封裝算子模版,如鄰居發現,路徑發現等 支持接入已有算法模板應用案例Part 03NebulaGraph 的 GenAI 技術如何發揮作用產品-圖 AI 工具鏈面向開發者的一整套工具鏈,方便企業自行開發 AI 應用封裝 GraphRAG 核心技術屏蔽復雜的 AI 應用開發的技術細節
6、核心功能GraphRAG圖譜構建圖譜推理模型微調產品 圖 AI 應用平臺面向終端用戶,開箱即用,幫助用戶以對話方式快速構建 AI 應用:智能客服機器人故障排查助手研報生成機器人特點智能文檔處理零代碼零工作流零提示詞設計工業解決方案:基于圖和LLM的動態排障系統基于LLM自動抽取知識:構建面向工業協同研發系統的知識圖譜基于知識圖數據庫及智能問答系統進行數據交互落地行業首個生成式人工智能驅動的實際應用場景,榮獲沙丘社區2024最佳案例15強和行業頭部企業一同協作,驗證在復雜排障知識圖譜上的圖探索+大模型輔助系統能力,超過40萬有效節點金融行業解決方案運用知識圖譜自動抽取技術,基于過去和行業客戶一同積累的經驗洞見行業伙伴共同構建和發布了基于GraphRAG 和Agentic Workflow 的行業解決方案Thanks.