《2019年高德信息業務架構設計與實踐.pdf》由會員分享,可在線閱讀,更多相關《2019年高德信息業務架構設計與實踐.pdf(28頁珍藏版)》請在三個皮匠報告上搜索。
1、高德信息業務架構設計與實踐提綱11234高德信息業務介紹高可迭代性實踐高穩定性實踐高可運維性實踐高性能實踐未來工作展望32面向業務的高可用性思考&建設信息業務簡介美食搜索酒店搜索精搜信息頁一張地圖游中國榜單推擠極客地圖麻點搜索POI推薦沿途搜語音對話智慧景區一框搜信息業務簡介附近UGC推薦口碑商品&小程序口碑商品&小程序景區隨聲聽入口景區隨聲聽專輯詳情頁(美食商品)常去地推薦SUG個性化SUG分城市通勤信息卡景區導覽路線小程序信息業務介紹:挑戰1.15億100萬5萬日活用戶2019.10.1日API QPSAmap QPS搜索推薦語音隨聲聽小程序地理逆地理提綱11234高德信息業務介紹高可迭代
2、性實踐高穩定性實踐高可運維性實踐高性能實踐未來工作展望32面向業務的高可用性思考&建設高可用性理解:核心要素高可用高可持續迭代高性能高可運維性高穩定性有限資源有限資源人硬件高可用性理解:系統模型-信息通道接入融合加工離線數據流引擎在線展現信息信息位置內容服務SUG列表搜索列表附近頁思路:信息通道數據接入層策略計算數據訪問業務融合展現層連接+分發用戶日志基礎深度內容小程序.計算能力展現訪問數據及建模能力分層收斂聚焦深耕方針展現訪問計算能力核心能力數據&建模以建設高效信息通道為目標,圍繞核心能力(數據訪問,計算能力,數據及建模),分層收斂,聚焦深耕,不斷提升系統高可用性,支撐、服務、推進業務的健康
3、發展,可持續有效服務用戶?;韭肪€提綱11234高德信息業務介紹高可迭代性實踐高穩定性實踐高可運維性實踐高性能實踐未來工作展望32面向業務的高可用性思考&建設高可迭代性實踐:合理拆分聚合功能開發、策略開發業務聚合服務US搜索&語音推薦景區小程序基礎搜索輸入提示詳情頁語音對話規劃提示泛搜篩選麻點附近熱賣附近頁POI推薦UGC榜單候選詞猜你去哪智慧景區語音導覽入口建設場景接入全域旅游語音講解SPQRHA3SUGBast策略業務服務基礎服務計算服務數據服務 效果干預【魯班】Debug平臺高可迭代性實踐:實驗體系實驗策略實驗數據實驗展現實驗1.ABTest2.Interleaving3.DiffAB前
4、端頁面的ABTest不同展現數據的ABTest高可迭代性實踐:效率通道-平臺配置化深度信息離線處理在線服務業務展現數據流Streaming前端展現服務US數據服務OpenDI數據接入離線配置平臺US渲染模板平臺DICenter平臺Smarts接入平臺實時流式框架計算拓撲配置化加工算子化展現模板化多人多版本交叉發布統一數據服務多表多字段靈活配置層級化轉換清洗引擎非標數據包容處理數據源(多來源多類目)信息通道提綱11234高德信息業務介紹高可迭代性實踐高穩定性實踐高可運維性實踐高性能實踐未來工作展望32面向業務的高可用性思考&建設高穩定性實踐:預案感知預防治理對抗不確定性快速止損、恢復快速發現、定
5、位改變認知場景:1.服務變動(70%):程序Bug,流程機制2.異常query(20%):程序Bug3.異常流量:外部4.依賴阻塞:中間件面向業務的系統=熵增系統GateWayErlangshen高穩定性實踐:預防機房1機房3機房2AServerATR接入層:1.流控:干預,限流,封禁,降級(服務、效果),熔斷 2.打標:分桶,灰度異地多活:3單元,至少2機房承載全量業務線1業務線2 業務線3隔離:多業務線集群隔離,避免交叉感染灰度正式灰度:提前驗證核心服務【不可靠假設】【保護機制】非核心容災服務容災數據容災服務分級:核心鏈路 、非核心核心:1.不可靠假設:外部依賴均不可靠 2.保護機制:過載
6、保護,超時控制,重試機制,編碼規范 3.探測機制,Trace機制資源調度資源底座服務容災:核心服務:cache+延遲環境數據容災:數據底座,數據服務資源調度:1.混部、隔離;2.備機機制分級發布:程序+數據核心服務敬畏之心任務主義經驗主義重試模式高穩定性實踐:治理復盤補休優化標準化演練復盤TodayToday-1專項減少人災:80%持久戰現場影響原因定級TODO機制規范流程需求評審開發自測測試提測灰度全量不可靠假設故障定級高穩定性實踐:十一出行節容量評估擴容內部壓測預案演練全鏈路壓測封網十一提綱11234高德信息業務介紹高可迭代性實踐高穩定性實踐高可運維性實踐高性能實踐未來工作展望32面向業務
7、的高可用性思考&建設面向用戶高性能實踐:方法論硬件【CPU】【MEM】【NET】【IO】OS【版本】【系統參數】服務【規約】,【并發】,【異步】,【共享】,【高效數據結構】,【高效算法】【運行截斷】,【緊密存儲】,【池化:內存,線程,連接】,【編譯器】、【LocalCache】系統準入【時間梯度】【平均響應時間】【長尾分布】【服務容量】【分布式】【分層】【隔離:(快服務、慢服務),(存儲、計算),(動態數據、靜態數據)】【并行】、【異步】、【調用鏈規約】、【傳輸協議】、【Cache】、【數據模型】、【語言】面向成本統一優化1234優化1234成本速度高性能實踐:共享內存詞典,VFS 清理S1|
8、offset1|offset2|S2|offset1|offset2|Item11K:VItem21K:VItem13K:VItem13K:VS1|offset1|offset2|S2|offset1|offset2|SlotIndexData:連續緊密存儲(避免Cache失效)Mem:Double Buffer HSDT:DictManagerItem11K:VItem21K:VItem13K:VItem13K:V業務融合展現服務US【php】Shm共享內存詞典使用:1.US業務“入口”,所有請求都需要做查表轉化 2.資源百兆級 3.微秒級查詢VFS:Cache周期清理:長時間運行,Cach
9、e增多,碎片增多,無連續內存,觸發頁面回收,進而可能觸發內存緊縮,性能持續或突然異常高性能實踐:Cache機制LocalCache,容災 CacheCache:服務內部大量使用 LocalCache Plugin 1.多種淘汰機制;2.輕量US(php)OPCacheSPCache服務糾錯成分分析GEO切分樹QR LocalCache 結果 中間計算USSPATRHA3SPCache Key:Norm1(Query)+Norm2(Loc)Value:Poi list 按Tile做query的泛化 Cache保證高頻和熱點區域 小時 級周期更新ResourceSlave1LSELSEGEORGE
10、OGEORGEO高性能實踐:服務框架升級單體服務分布式插件化部分容器化Two-LevelProxyVIP反向代理Worker1ThreadPoolServerWorkerFactoryAnet:AdapterAMonitorPluginModuleCM2CMWorker2Worker3Worker2Worker2Worker3Worker3Worker1樹調度ProcessorManagerDictManagerConfigManagerPluginModuleVipServer/CMRegisterWorker1AppManagerAppManagerAppManagerResourceMa
11、sterResourceMasterWorker1Worker2Worker2ResourceSlave2ResourceSlave1ResourceSlave2Plugin1Plugin2Plugin3ATRATR簡單開發套件QueryResultflow并行S1 ClusterS2 ClusterLevel1Level2提綱11234高德信息業務介紹高可迭代性實踐高穩定性實踐高可運維性實踐高性能實踐未來工作展望32面向業務的高可用性思考&建設高可運維性實踐目標:高效的環境構建、擴縮容、服務變更、應急處理開發測試上線預案干預指標擴縮容手動腳本化工具系統系統化平臺化流程機制標準化提綱11234高德信息業務介紹高可迭代性實踐高穩定性實踐高可運維性實踐高性能實踐未來工作展望32面向業務的高可用性思考&建設未來工作展望效率能力成本Q&A