《4-張勇-面向企業級研效度量平臺建設和團隊提升實踐.pdf》由會員分享,可在線閱讀,更多相關《4-張勇-面向企業級研效度量平臺建設和團隊提升實踐.pdf(33頁珍藏版)》請在三個皮匠報告上搜索。
1、萬人研發規模企業研效度量平臺建設和團隊提升實踐2023 深圳站張勇研效專家和測試專家,擁有19年研發經驗,10年的敏捷交付和企業數字化轉型經驗,幫助企業在組織變革、研發流程改進、產品交付質量和效率提升、研發工具鏈平臺建設和產品及研發團隊優秀實踐進行落地等。曾在互聯網、金融、國外IBM、HP等公司負責規?;行嵘蛿底只D型,擁有深厚的研效工具鏈產品經驗和公司層面研效推動經驗,在產品領域、研發領域、測試領域、運維領域和線上運營都有實際落地經驗。研效專家嘉賓照片2023 深圳站目錄EPLUS研效度量平臺挑戰和演進01 EPLUS平臺技術架構挑戰02 自下而上的規?;七M03 2023 深圳站01
2、EPLUS研效度量平臺挑戰和演進2023 深圳站EPLUS度量平臺-研發各領域場景覆蓋通過數據度量的能力,使用更合適的度量維度對研效各領域進行洞察與分析,支持團隊觀測和持續改進2023 深圳站EPLUS度量平臺-產品能力和價值輸出用戶價值交付產物工作流程應對挑戰元數據模設計數據采集寬表生產基礎指標定義生產用戶觀測實現數據分析寫報告分析規則生產自動分析和報告生產元數據模型庫規范寬表庫公共指標庫觀測案例庫觀測報告模版庫工具鏈拉通和研發活動規范定義公共數據和個性化數據關聯擴展各類分級指標質量保障按觀測場景輸出指導案例數據大盤高價值指標設計者、專家等QA、PM、指標設計者、專家等QA、TL、PM、專家
3、等QA、PM、TL、Dev、Test、Ops、專家等各工具數據上報準確性和及時性用戶自定義觀測場景靈活編排2023 深圳站目標:建設標準觀測看板【觀】觀測指標和閥值配置支持;【數倉】拉通觀測場景,串聯多個平臺數據;【數倉】各平臺自動數據授權;【數倉】基礎觀測指標模型;目標:規?;攘繑祩}建設和個性化觀測【觀】串聯場景診斷能力;【觀】事中分析能力;【數倉】指標和公共服務寬表質量監控;【數倉】數據觀測安全管控;【數倉】用戶自定義數據和指標擴展;【數倉】公共指標、模型和分析場景模版建設目標:觀測自主定制【觀】用戶自定義診斷內容【觀】觀測報告模版自定義【數倉】自定義上報數據自動關聯和觀測【數倉】觀測模
4、版庫和靈活配置【數倉】觀測自動化診斷階段一(過去)從無到有研發體驗提升階段二(現在)研效數據和指標全鏈路質量監控研效數據治理和安全管控階段三(未來)用戶自配置場景洞察自助診斷EPLUS度量平臺-演進路線2023 深圳站階段一-觀測體系建設(2021年發布1.0數據規范)需求變更率需求評審通過率一類錯誤二類錯誤項目管理需求管理需求拆分版本規劃需求代碼規則策略分支策略安全策略代碼規范掃描檢查規則策略構建部署構建管理環境管理配置管理日志采集制品安全構建部署功能測試用例管理缺陷管理自動化測試測試環境管理功能測試發布(CD、CO)版本管理安全監控運維監控故障處理提交發布CE實驗測算運營收益代碼分支基線版
5、本控制倉庫管理代碼質量規范梳理需求流程規范需求操作規范需求拆分規范需求版本規范交付效率代碼倉庫配置規范提交關聯工作項代碼提交規范代碼版本規范代碼編寫規范代碼分支規范代碼安全規范代碼缺陷檢查規范提交構建流水線規范制品元數據規范流水線AsCode規范提交次級構建規范缺陷管理規范用例管理規范代碼安全規范檢查發布前安全規范監測代碼規范檢查通過率代碼安全檢查通過率本地代碼規范檢查通過率本地代碼缺陷檢查通過率代碼缺陷檢查通過率交付質量交付能力需求交付周期需求吞吐率需求開發周期需求測試周期需求發布周期.單測增量行覆蓋率單測增量分支覆蓋率CR參與率單位CR變更行數CR千行評論數新增代碼CR覆蓋率代碼質量檢查代
6、碼提交構建限時成功率制品安全檢查覆蓋率構建成功率次級構建合規率次級構建限時成功率BVT成功率遺留缺陷DI值缺陷逃逸率千行代碼缺陷率代碼全量覆蓋率需求自動化覆蓋率兼容性場景覆蓋率測試響應時間自動化測試時長安全掃描覆蓋率預發布覆蓋率預發布成功率平均配置成功率平均發布成功率發布故障數、發布故障率故障數量、MTTR、MTTD平均配置時長平均部署時長部署頻率平均發布時長.日均緊急變更次數團隊人均工單數故障告警覆蓋率發布實驗比例實驗覆蓋率實驗周期編譯耗時單元測試耗時Bugfix流水線耗時Pre-MR構建耗時構建頻率.代碼安全掃描耗時代碼規范掃描耗時代碼提交/合并頻率代碼庫數量代碼提交量(代碼當量)數據指標
7、可視化研發流程需求管理流程落地率需求單操作規范率代碼倉庫配置是否合規代碼提交日志規范率提交構建合規率制品規范率PipelineAsCode覆蓋率提交構建安全合規率安全質量門禁設置率2023 深圳站需求價值流新需求待規劃規劃中待排期排期中待開發開發中待測試測試中待驗收驗收中待發布發布中分析階段設計階段開發階段測試階段驗收階段發布階段創建代碼分支發起轉測執行P0測試創建發布評審執行發布研發迭代(服務端示意圖)開發&測試階段發布維護需求平均交付周期需求吞吐率研發活動(關注研發體驗)拉取代碼本地開發編譯打包單元測試代碼掃描問題排查代碼合流制品入庫 接口測試P0自動化測試 SIT測試缺陷管理性能測試部署
8、線上運維故障管理 環境準備發布評審研發活動微反饋環 代碼CR 研發流程自動化(事件驅動)公共基線分析模型需求價值流模型 公共基線指標模型需求域:6+代碼域:8+CI域:6+測試域:3+CD域:4+團隊自制指標模型115+統計維度部門/中心/團隊/項目研發迭代平均交付周期 環境準備驗收測試安全測試階段一-聚焦研發體驗,建設觀測看板2023 深圳站階段二-規?;瘓鼍疤魬鸷蛻獙ρ邪l流程各領域涉及的環節和研發活動非常多,通過元數據模型規范進行標準化定義標準化各研發環節定義各團隊研發觀測指標多,定義不統一,復用成本高,指標穩定性投入成本高,通過元模型和指標分層標準化治理,拉通各團隊指標定義標準化指標體系
9、和質量保障研發鏈路涉及的工具非常多,通過智研一站式保證各工具標準串聯標準化工具鏈串聯數據觀測需要采集各工具數據,并做數據清洗、寬表加工、指標計算,通過研效數倉治理監研效數倉治理監控和控和SLA服務監控大盤服務監控大盤保障數據準確性和及時性保障010203042023 深圳站階段二-借助智研一站式串聯研發場景2023 深圳站階段二-元模型保障觀測數據穩定、高質量ODS1、Operation Data Store 數據準備區2、源數據:需求工具、代碼工具、流水線工具、測試工具、部署工具.3、ODS是數據倉庫層的準備區DWD1、Data Warehouse Details 數據細節層2、業務層和數據
10、倉庫層的隔離層,保持和ODS層相同顆粒度3、研效原始數據經過清洗、規范化、標準化操作后寫入DWD表DWS1、Data Warehouse Service 數據服務層2、匯總結果通常是寬表,用于OLAP和數據分發3、計算出更多用戶相關的指標、更多時間維度數據數倉DW數據流向代碼數據測試數據需求數據代碼域數據流水線域數據發布域數據需求表代碼提交表流水線構建表需求域數據迭代表ODS1、Operation Data Store 數據準備區2、源數據:需求工具、代碼工具、流水線工具、測試工具、部署工具.3、ODS是數據倉庫層的準備區DWD1、Data Warehouse Details 數據細節層2、業
11、務層和數據倉庫層的隔離層,保持和ODS層相同顆粒度3、研效原始數據經過清洗、規范化、標準化操作后寫入DWD表DWS1、Data Warehouse Service 數據服務層2、匯總結果通常是寬表,用于OLAP和數據分發3、計算出更多用戶相關的指標、更多時間維度數據數倉DW數據流向需求數據流水線數據代碼數據代碼域數據流水線域數據.需求表代碼提交表流水線構建表需求域數據迭代表基于研發流程整體建模,串聯各個工具平臺,規范領域和維度數據建模(元數據E-R圖),規范研效數據安全等級元數據和安全管理ODS1、Operation Data Store 數據準備區2、源數據:需求工具、代碼工具、流水線工具、
12、測試工具、部署工具.3、ODS是數據倉庫層的準備區DWD1、Data Warehouse Details 數據細節層2、業務層和數據倉庫層的隔離層,保持和ODS層相同顆粒度3、研效原始數據經過清洗、規范化、標準化操作后寫入DWD表DWS1、Data Warehouse Service 數據服務層2、匯總結果通常是寬表,用于OLAP和數據分發3、計算出更多用戶相關的指標、更多時間維度數據數倉DW數據流向各工具平臺上報數據同一套平臺標準上報數據部門維度數據項目維度數據需求域和維度聚合數據代碼域和維度聚合數據 流水線域和維度聚合數據多套平臺按元數據模型標準上報數據測試數據.部署數據 2023 深圳站
13、階段二-元數據管理便捷搜索 通過元數據管理頁面快速搜索需要的觀測數據和明細定義2023 深圳站階段二-研效數據字段級安全管控 研效數據字段做安全標記和權限管控,按照用戶申請權限開放對應寬表字段:根據數據的敏感程度,從高到低劃分為四個安全級別:4級(C4)、3級(C3)、2級(C2)、1級(C1)安全級別定義數據服務原則C4高度敏感數據,非授權泄露這些數據可能會觸犯隱私保護、數據安全等相關法律,可能導致員工個人信息泄露,可能會給公司帶來非常嚴重的利益損害只提供給A類客戶,需經過研發敏感數據審批流程C3敏感數據,非授權泄露這些數據可能會觸犯隱私合規規范,可能導致研發項目信息泄露,可能會給公司帶來嚴
14、重的利益損害。提供給B類客戶,需經過研發敏感數據審批流程C2保密數據,如果該數據出現外泄可能導致研發項目信息泄露,可能會造成重大影響或損失。C1內部數據,不適合對公司外公開,但對公司內的部門可以按流程申請/下載。2023 深圳站階段二-研效數據分層質量監控 通過ODS/DWD寬表治理,保障各工具方上報數據的規范性(比如命名、注釋、狀態枚舉等)2023 深圳站階段二-研效數據服務SLA監控大盤 各領域ODS/DWD數據保證在每日9點30分前準備好,目標是當月成功率 99%2023 深圳站階段二-研效數據治理成果 覆蓋9個領域、設計標準化元模型51個、治理ODS表114個、治理服務業務寬表32個2
15、023 深圳站階段二-元模型保障指標質量場景化需求數據需求/代碼工具流水線工具部署工具各工具數據分別授權申請代碼數據流水線數據測試數據部署數據研效數據關聯、數據降噪、數據監控自定義需求指標模型自定義代碼指標模型自定義CI指標模型自定義測試指標模型自定義CD指標模型研效度量指標和下鉆分析表集合場景化場景化場景化場景化場景化一個研效數倉底座,一鍵授權和鏈路監控公共元數據自動關聯和質量監控自定義上報元數據公共基線指標模型(需求、代碼、CI、CD等)個性化指標模型定制加工研效度量指標和下鉆分析報表集合默認基線場景模版和自定義擴展自定義場景化報表看板展示看板展示和輔助診斷公共基線分析模型(價值流模型、質
16、量模型等)自定義元數據自定義元數據自定義元數據自定義元數據自定義元數據 規范元數據集合自定義元數據交付全鏈路數據的自動采集、管理、匯聚和指標及報表模版輸出交付全鏈路數據的自動采集、管理、匯聚和指標及報表模版輸出2023 深圳站階段二-提供公共基礎指標庫 提供豐富的公共指標庫,方便用戶使用;項目XXP80月度構建成功率構建成功率分析模型.度量函數構建成功次數構建失敗次數流水線執行寬表度量方法度量方法度量構造模型舉例平臺示意圖提供豐富的公共指標公共指標公共指標2023 深圳站階段二-提供豐富公共觀測模版2023 深圳站02EPLUS平臺技術架構挑戰2023 深圳站EPLUS度量平臺-技術架構挑戰C
17、DC湖倉 DW(HDFS/ICEBERG)ODSDWDDWSFLINK SQLBINLOGAPI采集器插件化數據集市DMclickhouse(OLAP)Xxx/xxx-apiXxx/xxx-api&binlogxxx-binlog數據探索(supersql)數據開發(任務管理/oceanus/us)采集監控采集PIPLE LINE1:研效數據/指標加工(流批一體,天/小時/分鐘/秒)FLINK SQLFLINK SQLPIPLE LINE2:維度采集(批處理,天/按需)PIPLE LINE4:事件實時反饋(秒級)指標建模(原子/維度/限定/派生/復合)PIPLE LINE3:洞察分析/特征/分
18、類/聚類 處理(批處理,天)PIPLE LINE5:數據質量巡檢(批處理,天)SPARK DIMSPARK ML洞察類數據深度綜合分析:代碼庫依賴、精品CR評論事件MQbinlog監控事件接口上報事件binlog上報事件數據tubemq事件報告FLINK SQL從研效事件實時關聯的研效洞察分析&建議&信息匯聚數據治理元數據管理數據巡檢數據安全數據成本元模型管理數據地圖/搜索采集任務管理(DLA/API采集/自助)元數據管理標簽管理EPLUS研效數倉管理平臺研效數據ADSDWSDWD事件報告數據血緣公司重點研效數據其他研效數據(支持數據方自助上報)洞察數據數據服務(數倉直出/OLAP)權限管理(
19、多租戶/數據申請交付)數據回溯數據申請/交付EPLUS 研效看板Xxx/xxx/xxx統一基礎維度:項目/產品/部門等各租戶管理員/數據分析員熱數據實時入湖ODS/DIM批入湖ODS/DIM實時事件觸發洞察2023 深圳站03自下而上的規?;七M2023 深圳站自下而上突破-基于業務目標持續改進效能時間當前狀態期望狀態02.通過洞察挖掘出價值流中可能的瓶頸03.選擇研發效能實踐地圖中適當的實踐04.從小范圍開始,縱向進行實驗01.明確一個改進目標(結果指標)05.度量實驗結果,是否支持實驗的假設?內部運營,形成標桿效應,回到第一步一次只解決一個問題系統思考,以整體方式考慮約束明確范圍、時間、度
20、量指標、成功標準基于數據的證據,持續實驗把精力放在制定一些能幫你做出決策的指標上。-埃里克里斯2023 深圳站自下而上突破-從【自主提效】到【規模推廣】團隊自主提效活動沉淀提效經驗庫推廣落地活動驅動共同沉淀沉淀入庫推廣復制先行牽引交流社區激勵價值質量速度安全實踐流程指標診斷效果推廣團隊部門跨部門BG層面從點到面推廣提效實踐普及沉淀團隊優秀實踐沉淀觀測實戰案例激勵團隊自主提效關注業務推動效果感謝聆聽CSDN全球最大的中文開發者社區平臺CSDN全球最大的中文開發者社區平臺CSDN創立于1999年全球編程類網站排名第7(來源:Similarweb 2023.04)注冊用戶超過4300萬,覆蓋90%的中文開發者新媒體矩陣粉絲數量超過3100萬超過1000家企業客戶和合作伙伴目前公司員工近800名,分布在北京、長沙、上海、深圳、杭州、成都等城市,并在美國硅谷常設辦事處旗下品牌旗下品牌專業中文IT技術社區:CSDN.NET多媒體專業出版:新程序員開發者專屬移動APP:CSDN APP代碼托管協作平臺:GitCode代碼工具協同平臺:InsCodeIT人力資源服務:科銳??怂关俗W絡高校IT技術學習成長平臺:高校俱樂部