《國產數據庫多維度思考與實踐-王輝.pdf》由會員分享,可在線閱讀,更多相關《國產數據庫多維度思考與實踐-王輝.pdf(22頁珍藏版)》請在三個皮匠報告上搜索。
1、國產數據庫多維度思考與實踐數據庫專家/王輝刪除水印WondersharePDFelement思考與思路國內數據庫國內數據庫怎么選適用(管理類業務)怎么遷怎么管一致性可用性穩定性兼容性平滑性完整性可用(渠道類業務)好用(核心類業務)統一平臺穩定運行文檔規范國產數據庫百家爭鳴群雄逐鹿三國鼎立降本增效全?;嗉医鹑跈C構核心系統成功上線發展歷程發展歷程20002020202420222016201020042008國內數據庫國內數據庫怎么選適用(管理類業務)怎么遷怎么管一致性可用性穩定性兼容性平滑性完整性可用(渠道類業務)好用(核心類業務)統一平臺穩定運行文檔規范國產數據庫百家爭鳴群雄逐鹿三國鼎立降本
2、增效全?;_夢發布DM32017年PingCAP發布TiDB1.0版本南大通用發布8a阿里發布原生分布式數據庫OceanBase人大金倉發布4.12019年騰訊發布TDSQL2019年中興發布GoldenDB2019年華為發布GaussDB多家金融機構核心系統成功上線發展歷程發展歷程200020202024202220162010200420082001年中國加入WTO2008年進入互聯網時代2009年雙11首次被提出2018中美貿易戰爆發2013年阿里完成去IOE戰略十四五數字經濟發展規劃人行提出金融科技發展規劃2022-2025事件事件2000國內數據庫國內數據庫怎么選適用(管理類業務)怎
3、么遷怎么管2020一致性可用性穩定性兼容性平滑性完整性可用(渠道類業務)好用(核心類業務)統一平臺穩定運行文檔規范國產數據庫百家爭鳴群雄逐鹿三國鼎立20242022自主,可控降本增效全?;?016201020042008單機集群嵌入分布式中間件分布式原生分布式云原生智能化HATP 多模存算分離 一云多芯學習、積累嘗試、創新達夢發布DM32017年PingCAP發布TiDB1.0版本南大通用發布8a阿里發布原生分布式數據庫OceanBase人大金倉發布4.1金融級分布式數據庫選型標準2019年騰訊發布TDSQL2019年中興發布GoldenDB2019年華為發布GaussDB多家金融機構核心系統
4、成功上線集中式分布式生態生態SRE少量嘗試國產數據庫,未達到預期效果DbaaS各廠商和高校建立培訓及證書體系社區熱度、技術文章持續增加2024數據庫發展研究報告DevOps技術大會國產數據庫課題占絕對地位統一智能運維平臺分布式數據庫金融應用遷移要求全密態 Serverless AI4DBDBA國外數據庫壟斷,國產數據庫無市場發展歷程發展歷程事件事件2001年中國加入WTO2008年進入互聯網時代2009年雙11首次被提出2018中美貿易戰爆發2013年阿里完成去IOE戰略十四五數字經濟發展規劃人行提出金融科技發展規劃2022-2025業務業務應用應用國際數據庫國際數據庫2000事件事件國內數據
5、庫國內數據庫怎么選適用(管理類業務)怎么遷怎么管2020一致性可用性穩定性兼容性平滑性完整性可用(渠道類業務)好用(核心類業務)統一平臺穩定運行文檔規范國產數據庫百家爭鳴群雄逐鹿三國鼎立20242022自主,可控降本增效全?;?016201020042008單機集群嵌入分布式中間件分布式原生分布式云原生智能化胖核心(大集中)瘦核心(大外網)分布式核心(單元化、微服務)HATP 多模存算分離 一云多芯學習、積累嘗試、創新數字化互聯網+達夢發布DM32017年PingCAP發布TiDB1.0版本南大通用發布8a阿里發布原生分布式數據庫OceanBase人大金倉發布4.1Oracle發布9iOrac
6、le發布11G,RAC成熟Oracle發布19C,自治、容器技術金融級分布式數據庫選型標準2019年騰訊發布TDSQL2019年中興發布GoldenDB2019年華為發布GaussDB多家金融機構核心系統成功上線Oracle發布23C,向量、生成式AIOracle發布12C,多租戶技術賬務為中心產品為中心客戶為中心2001年中國加入WTO2008年進入互聯網時代2009年雙11首次被提出2018中美貿易戰爆發2013年阿里完成去IOE戰略十四五數字經濟發展規劃電子化集中式分布式緊耦合單體架構松耦合SOA架構分布式架構生態生態SRE少量嘗試國產數據庫,未達到預期效果DbaaS各廠商和高校建立培訓
7、及證書體系社區熱度、技術文章持續增加2024數據庫發展研究報告DevOps技術大會國產數據庫課題占絕對地位統一智能運維平臺分布式數據庫金融應用遷移要求全密態 Serverless AI4DB人行提出金融科技發展規劃2022-2025Oracle發布21C,TP與AP混合計算DBA國外數據庫壟斷,國產數據庫無市場發展歷程發展歷程業務人員業務人員工具平臺工具平臺社區社區人才培養人才培養第三方廠商第三方廠商云數據庫廠商云數據庫廠商開發工具開發工具SQL審計審計運維平臺運維平臺備份軟件備份軟件一致性可靠性穩定性安全性遷移工具遷移工具全密態全密態安全軟件安全軟件開源社區開源社區技術社區技術社區高校高校機
8、構機構連續性穩定性核心能力核心能力兼容能力基礎能力運維能力性能擴展能力分布式特性向量ServerLess存算分離HATPAI4DB多模集中式集中式分布式分布式科技總經理科技總經理/CIO成熟穩定 降本增效 自主可控運維人員運維人員/DBA穩定運行 快速發現 故障自愈開發人員開發人員/架構師架構師兼容度高 高可用性 高擴展性大金融機構大金融機構整體分布式解決方案兼容性和數據同步解決方案異構基礎設施兼容小金融機構小金融機構核心ISV適配和兼容度服務伙伴和培訓體系成本可控的高可用方案國產數據庫產品生態圖(交易型)國產數據庫產品生態圖(交易型)平臺工具平臺工具數數據據庫庫需需求求數數據據庫庫能能力力社
9、區建設社區建設人才培養人才培養數數據據庫庫服服務務數數據據安安全全數數據據庫庫產產品品數據庫原廠商數據庫原廠商銀行總體業務架構圖(簡版)銀行總體業務架構圖(簡版)柜面系統影像系統ATM系統手機銀行網上銀行代繳費網站門戶第三方金融供應鏈支付企業服務交互平臺(SOA/ESB/EAI)渠道整合平臺統一支付平臺中間業務平臺互聯網開放平臺支付密碼指紋認證身份核查反洗錢總賬系統征信查詢風險識別客戶信息管理數據抽取與報表數據倉庫系統歷史數據查詢數據集市系統綜合報表系統數據交互系統人力資源渠道層前置層業務支持層業務支持層管理決策層管理決策層客戶管理層客戶管理層數據層支付結算系統信貸系統資金系統二代支付IC卡系
10、統借記卡系統信用卡系統理財系統核心系統國債系統國際結算現金管理外匯牌價黃金買賣票據系統產品服務層分布式核心總體架構圖分布式核心總體架構圖代碼管理網關注冊中心配置中心服務治理負載均衡流控組件監控通信組件事務組件安全組件分布式調度組件分布式技術組件微服務框架技術支持層應用服務層業務產品層分布式事務組件分布式鎖組件緩存處理組件批量處理組件單元化能力組件單元化切換組件網關組件服務調用組件服務編排組件產品中心客戶中心參數中心定價中心核算中心能力中心公共機制統一沖正授權統一日切7*24統一報文統一回滾存款貸款支付結算借記卡資金核算監控告警日常巡檢應急處置日志管理鏈路跟蹤單元測試持續集成版本管理組件管理研發
11、層運維服務層故障模擬混沌測試層場景模擬全鏈路壓測安全層網絡安全主機安全應用安全計算資源存儲資源網絡通信中間件數據庫虛擬化容器基礎設施集中式核心-分布式核心管理系統-核心系統自主可控可靠穩定一致安全單元化設計全鏈路監控多活架構010403060205面臨面臨挑戰挑戰數據拆分策略服務模型策略技術架構策略業務連續性分布式運維研發效能010403050205設計設計要點要點核心系統轉型路徑核心系統轉型路徑建設流程建設路徑建設方案業務不變技術創新新建核心平臺先行構建分布式技術平臺采用成熟技術,快速具備投產條件部分下移投產切換業務需求需求分析性能指標數據庫選型選型設計高可用設計語法兼容應用適配對象兼容功能
12、測試測試驗證非功能測試操作系統環境部署數據庫部署數據遷移系統切換應用切換業務驗證生產運維持續監控人才建設培訓文檔文檔規范遷移成本高可用測試驅動適配并行仿真多活設計安全設計硬件資源數據驗證日常運維持續優化核心系統國產化建設核心系統國產化建設難度小業務先行下移技術平臺持續完善引入交易回放系統新核心系統具備投產條件,分階段或一次性將業務投入生產全面替代應用邏輯不變,但需要適配國產數據庫對象和相關語法及驅動程序由集中式架構向分布式架構轉變,采用分布式數據庫實現全新開發核心系統,采用微服務或單元化架構,但依然要適配微服務與單元化微服務與單元化存款微應用數據庫服務數據API服務網關微服務微服務貸款微應用數
13、據庫服務數據微服務微服務支付微應用數據庫服務數據微服務微服務APIAPI微服務架構利用微服務的理念解耦應用存款支付貸款核心系統單元化通過合理數據拆分,將業務在一個單元內閉環單元路由存款應用集數據庫單元內數據單元單元1貸款支付存款應用集數據庫單元內數據單元單元2貸款支付存款應用集數據庫單元內數據單元單元2貸款支付數據庫微服務單元化傳統集中式架構解決了大規模集群的發型和故障隔離能力它是對微服務的加強,并不局限于微服務架構。源源應用新新應用切換方案切換方案數據庫實現一次性切換方式優點缺點場景全量數據全量數據簡單方便需要長時間停機數據量較小、有停機窗口歷史數據歷史數據+新數據新數據可以縮短停機時間需要
14、二次導入新數據數據量較大、有停機窗口全量數據全量數據+增量數據增量數據停機時間分鐘及以下操作復雜,數據需要持續驗證數據量巨大、業務連續高源源應用新新應用通過業務側實現一次性切換旁路報文數據比對源源應用新新應用數據比對雙發請求源源應用新新應用全部切換并行驗證階段雙軌并行階段全面投產階段在線業務無感切換初始階段在線逐步切換用戶全面切換完成正向反向源源應用新新應用源源應用新新應用將用戶數據導入新庫源源應用新新應用將剩余用戶導入新庫統一數據庫統一數據庫DBaaS運維平臺建設運維平臺建設實踐與未來核心借記卡系統改造實踐核心借記卡系統改造實踐核心借記卡系統改造實踐開發C語言Proc*OracleAIXIB
15、MEMCODBCGaussDB中標麒麟鯤鵬華為x86體系架構ARM體系架構開發C語言驅動層數據庫層操作系統服務器存儲應用層n應用程序與邏輯不變下完成適配改造n數據庫由商用集中式改為國產分布式n基礎軟硬件由IOE架構改為全棧國產架構核心借記卡系統改造實踐兩區四域三中心架構兩區四域三中心架構同城雙活+異地災備同城RPO=0,RTO60秒異地RPO1分鐘,RTO 1分鐘4C4D,1主3從4副本節點故障自動切換,無需人工參與,應用無感知人工智能與數據庫的雙向賦能AI for DBDB for AIn數據庫智能運維數據庫智能運維提供性能調優,異常診斷和自治運維能力,實現故障快速定位與恢復,包括自感知、自優化、自治愈等功能n大語言模型簡化數據庫操作大語言模型簡化數據庫操作1.Text-to-SQL自然語言轉換SQL,目前應用比較廣泛2.NLQuery-to-NLAnswer通過問答直接生成查詢結果,未來發展方向n助力人工智能高效建模助力人工智能高效建模通過數據庫平臺中的SQL、Python、自動機器學習(AutoML)等進行建模,使用數據庫內深度學習方法對模型進行開發、測試、優化和發布。n支持大模型有效落地支持大模型有效落地基于向量數據庫技術及增強生產框架(RAG)的數據庫管理技術,有效解決了大模型知識庫更新及大模型“幻覺”鄧問題。