《9.22-施檢軍-抖音集團指標管理和消費體系實踐.pdf》由會員分享,可在線閱讀,更多相關《9.22-施檢軍-抖音集團指標管理和消費體系實踐.pdf(32頁珍藏版)》請在三個皮匠報告上搜索。
1、DataFunSummitDataFunSummit#20242024抖音集團指標管理和消費體系實踐抖音集團指標管理和消費體系實踐抖音集團 數據BP專家 施檢軍講師簡介講師簡介施檢軍 數據BP專家主要負責數據資產建設和決策支持等工作專注于大數據研發、模型設計和數據治理等多個領域,致力于通過創新的數據解決方案提升業務效能面臨的數據挑戰面臨的數據挑戰 平臺管理的數據量幾年前已超過EB級指標數超27000個日作業量百萬級別埋點流量超1億TPS火山引擎數智平臺火山引擎數智平臺介紹介紹01/指標建設的痛點02/指標管理實踐03/指標生產實踐04/指標消費實踐05/未來規劃目錄Contents指標建設的痛
2、點01指標建設的痛點指標建設的痛點探索期成長期和成熟期 業務發展階段 目標快速迭代和業務導向 主要難點需求評審和交付周期數據質量和效率指標管理不統一指標口徑不統一指標消費不統一整體技術方案整體技術方案指標體系解決方案愿景:通過指標服務模式提供穩定、可復用的數據產品。數據應用創作者中心管理駕駛艙運營中心資產門戶指標消費指標管理指標生產指標專題:取數服務接口和元信息消費接口專題管理查詢配置分類管理指標一致性保障方案協作流程組織設計指標定義指標拆解基礎信息數據質量&穩定性保障方案明細中間層粗粒度匯總層輕粒度匯總層指標管理實踐02指標管理的核心問題指標管理的核心問題同名不同義同義不同名指標間沖突,A+
3、B C運動式專項權責不清晰持續保鮮問題一致性和準確性問題指標定義效率指標拆解效率效率問題設計協作流程產品化,操作手冊整體協作流程整體協作流程 結合事前沉淀和事后沉淀,遵循誰開發誰拆解錄入的統一原則權責一致的組織設計權責一致的組織設計 業務指標l 業務指標的負責人一般為業務DA,定義指標口徑,統一對業務方提供業務邏輯解釋l 指標的重要性是演進過程,自下而上建議哪些指標是核心指標 技術指標l 技術指標遵循誰拆解誰錄入誰負責的原則,一般技術指標的錄入為業務BP同學,非BP同學無權限錄入l 所有指標錄入前業務BP同學需要拉數據域基建BP同學統一評審,確保指標錄入準確 基礎元素管理l 基礎信息的維護統一
4、由公共層數據BP同學負責錄入和管理如何保障指標的一致性如何保障指標的一致性定義指標拆解規范產品功能唯一性校驗 指標唯一性校驗 原子指標/修飾詞相似性校驗如何提升指標拆解效率如何提升指標拆解效率提升指標拆解效率方案1.梳理業務過程,沉淀業務過程/原子指標/修飾詞2.沉淀指標生產操作手冊和指標樹指標管理的取舍1.聚焦核心指標,”所有指標都管理也就是沒管理”2.應用層數據BP效率優先,短視頻業務指標后置拆解探索大模型自動拆解探索大模型自動拆解指標先生產后管理實踐指標先生產后管理實踐BI業務指標需求(20個指標)應用層數據研發Hive表Clickhouse表決策看板(2個核心指標)指標系統指標被管理異
5、步切換駕駛艙(2個核心指標)復用公共層數據研發Hive表Clickhouse表異步切換模型數據公共層表指標下沉異步治理指標生產實踐03指標生產的模型設計原則指標生產的模型設計原則整體鏈路設計整體鏈路設計明細中間層輕粒度匯總粗粒度匯總封裝公共指標邏輯復用計算輕粒度匯總輕粒度匯總 1.覆蓋盡可能多有用的維度2.需要考慮性能和成本,比如視頻*用戶數據量壓縮較少,ROI較低3.業務過程一般選擇單過程,如果多個過程總是聯系在一起也可以放一起粗粒度匯總粗粒度匯總 1.一般選擇3個左右維度為宜,更多維度對性能的提升有限,可以直接走輕粒度匯總 2.下游使用時粗粒度匯總是首選指標生產的質量保證指標生產的質量保證
6、體系體系關鍵問題 明確保障對象和內容明確保障對象和內容 有哪些:產品模塊梳理 誰負責:明確每個模塊的產品,開發,DA 保障標準:產出時間,用戶體驗等 工具化和平臺化賦能工具化和平臺化賦能 全鏈路血緣:模塊關系,消費情況,協同依賴 日?;航Y合飛書群對異常告警播報和推送治理指標生產的穩定性方案指標生產的穩定性方案關鍵問題上游管理難上游管理難:上游鏈路多&保障能力不同,一般占整體故障的40%保障如何做到日?;U先绾巫龅饺粘;捍嬖诜磸?,階段性優化后效果顯著,一段時間后穩定性變差。指標消費實踐-構建官方指標專題03指標專題的概念和優勢指標專題的概念和優勢什么是指標專題:指標專題是指標和維度的集合,
7、承載業務方向指標體系化生產、信息呈現、數據應用的底層工具。指標專題的優勢:搭建成本搭建成本:靈活的目錄結構管理,按數據模型一鍵添加指標/維度,可以以較低成本完成專題冷啟動。找指標找指標:快速理解業務線核心指標體系、量級。指標詳情頁信息,基本信息、數據探查、消費渠道信息一目了然??缂?、跨數據源:跨集群、跨數據源:專題指標查詢基于指標服務能力實現跨集群、跨數據源。模型路由優先級:模型路由優先級:基于模型的穩定性、時效性、指定優先路由的數據模型。指標專題管理和維護指標專題管理和維護 面向對象:面向對象:是面向指標消費者(產品、運營、分析師、戰略等)查找指標、理解口徑、使用指標(包括已有看板等)的入
8、口,提供指標綜合搜索、面向應用場景的專題應用能力??筛鶕I務需求開辟專題空間,收斂核心指標信息 目錄結構設置靈活:支持管理員按業務需求定義指標專題,以及專題下的分類目錄,確保業務指標體系清晰展現 權限分級收斂:專題信息由管理員統一維護,保證信息的可靠性;支持多角色設定:業務線管理員、指標專題管理員、專題下指標分類管理員,保證操作靈活性 指標導入簡單管理特點指標列表指標列表-快速理解業務線核心指標體系快速理解業務線核心指標體系 管理員預設目錄結構,方便指標結構化管理和消費 支持定義指標級別,高優展現高階指標 頁面可作為業務模塊指標體系直接分享指標詳情頁指標詳情頁-展現指標相關重要信息展現指標相關
9、重要信息業務詳情頁業務詳情頁 展示基本指標業務信息、近期數據、關聯的高熱看板技術技術詳情頁詳情頁 展示技術口徑,以及關聯數據模型消費血緣消費血緣 展示指標血緣關系,方便追溯數據加工流程指標消費應用指標消費應用決策看板決策看板 基于專題內所有指標,可以和風神直接打通搭建風神數據集,自助取數自助取數 Chat BI大模型:基于專題進行對話式的自助取數、問數。日報推送日報推送 通過百寶箱配置進行日報歸因推送總結展望04價值衡量指標體系價值衡量指標體系內部實踐成果內部實踐成果未來規劃未來規劃 愿景:愿景:致力于轉變傳統的數據交付方式,通過指標服務模式,提供穩定、可復用的數據產品。我們的目標是構建一個能夠深入洞察業務并迅速定位問題的指標服務體系,以支持高效的決策和運營。指標生產:標準化-配置化-自動化 指標生產 指標管理:大模型自動化指標拆解,指標可理解性增強 指標消費:一體化數據架構,一處定義多處消費規劃進入火山引擎DataLeap官網了解更多產品信息個人微信DataFunSummitDataFunSummit#20242024THANKS