Serverless開發平臺： 讓研發效能再提升.pdf

1、Serverless開發平臺：讓研發效能再提升王仁達阿里云云原生 Serverless 開發平臺技術負責人Serverless研發效能的發展歷程01Contents目錄01Serverless研發效能的發展歷程02以平臺工程理念打造Serverless研發效能服務03基于Serverless架構打造研發平臺的實踐關于Serverless研發效能的未來展望04從 單體架構 到 無服務器計算APP端服務Web端服務參數解析服務內容查詢服務結果排序服務結果渲染服務Redis消息隊列DBTable登錄函數用戶管理函數產品管理函數其他功能函數登錄函數用戶管理函數產品管理函數其他功能函數廣告規則函數干預規

2、則函數黃反規則函數特征提取函數組個性化查詢函數通用查詢函數活動查詢函數查詢函數組模型打分函數通用打分函數調權函數排序函數組結果頁渲染函數落地頁渲染函數頁面組裝函數渲染函數組設備端服務后端服務APP端函數Web端函數BaaS服務日志服務單體架構無服務器計算SDK、應用集成工具、低代碼工具組裝式應用微服務微服務應用級 APISAEFC數據庫函數級 API函數函數存量業務無改造Serverless化事件驅動業務事件驅動流程式編排微服務微服務函數函數函數函數函數函數存儲大數據云產品Serverless化數據服務從 無服務器計算 到 Serverless 云上架構落地Serverless對開發者的挑戰很

3、大如何快速上手如何進行技術選型：云產品、框架、運行時應用如何Serverless化應用組織形式產品概念過多，如何抽象領域模型接觸Serverless上手難如何快速跑通原型如何調試、部署如何優化冷啟動如何探測彈性瓶頸深入Serverless開發簡單，構建難如何劃分不同環境如何管理權限如何進行CI/CD如何追查問題如何進行成本治理困惑Serverless治理難編碼構建測試測試發布部署集成提交依賴眾多，配置復雜，缺少應用開發腳手架找不到接口文檔，或者文檔更新不及時內循環外循環測試資源不足，測試環境構建困難，測試環境不穩定一天搞開發，七天搞聯調依賴云端資源多，本地測試環境模擬太復雜很難構造事件請求觸發

4、資源，權限申請繁瑣，審批多且速度慢應用環境配置復雜，部署、灰度的自動化程度不高依賴庫眾多，構建耗時耗力本地環境和云上有差異Serverless應用開發循環以平臺工程理念打造Serverless研發效能服務02云產品Serverless化全托管，開箱即用細粒度資源隔離，為測試環境快速創建大量相互隔離的資源實體按實際使用量付費，可創建大量測試環境，且只在實際使用時才付費免運維云產品深度集成云產品成為構建應用的模塊，功能原子化，可自由組合以事件驅動的方式實現產品間的緊密集成通過工作流快速編排云產品和客戶應用良好可觀測和問題診斷能力體系化的研發效能服務覆蓋應用開發、測試、部署、監控、運維全流程一致的使

5、用體驗，開發運維形成閉環功能原子化，可自由組合開源開放能力Serverless研發提效關鍵動作函數計算3.0：事件驅動的Serverless計算平臺概念全新升級移除服務概念，面向函數進行版本及流量管理全新執行引擎統一事件及HTTP函數簽名，統一開發方式自定義域名可以直接路由到函數全新授權方式支持服務關聯角色，解耦系統權限和用戶權限一次性授權，不需要配置角色即可使用日志、VPC等功能全新彈性管理方式按量伸縮升級成并發度及預留實例管理云工作流：流程式開發減少代碼工作量豐富的控制邏輯，例如順序，選擇，并行等?？娠@著降低復雜業務流程的代碼量提高容錯性提供流程狀態管理，內置檢查點、錯誤重試、回放能力，確

6、保應用程序按照預期逐步執行可視化開發圖形化拖拽Studio模式YAML開發模式開放與集成提供豐富的跨產品，跨平臺連接能力優秀的被集成能力，可第三方平臺集成全新YAML規范增加流程編排、多環境、模板能力全新命令行規范規范日志打印、統一結果輸出格式全新執行引擎，提升編排能力全新功能組件FC 3.0 配套組件ROS 組件，支持IaC生態Serverless Devs 3.0：全生命周期開發工具開發者體驗基礎設施即代碼安全合規自服務門戶聲明式定義安全掃描Serverless平臺工程問題診斷監控告警可復用模板可復用模板可視化編排自動化部署精細化權限管理操作審計鏈路追蹤診斷工具快速上手開發調試測試發布研發

7、平臺場景化解決方案IDE插件CLOUD IDE云端開發可視化架構設計本地調試遠程調試端云聯調壓測、性能探測一鍵拉起環境自動注入測試用例發布安全檢查代碼包、鏡像構建函數/應用/工作流發布制品管理、代碼回滾事件應用開發Web應用開發工作流開發構建管理函數更加原子化，推薦 Monorepo 方式不同模塊維護單獨的s.yaml進行本地開發調試通過端云聯調在本地訪問云端真實環境調試通過WebIDE進行云端開發和在線debug通過實例登錄查看請求現場通過性能探測評估實例并發度開發測試大代碼包部署通過OSS中轉，開啟同城冗余加速跨region上傳依賴包打成Layer減少代碼包體積。部署時自動檢查依賴文件變化

8、，自動構建層大鏡像構建使用NAS緩存base鏡像以及layer；模型和框架分離，通過NAS存儲模型通過s build-use-docker 實現本地和云端構建環境一致環境管理通過環境來隔離資源，不同環境使用不同的賬號、角色、網絡等基礎設施通過env.yaml維護基礎設施以及服務差異化配置，s.yaml維護代碼相關配置通過s deploy-env 將服務部署到指定環境環境集成ROS、Terraform 實現云資源管理環境關聯不同分支或者tag表達式，提供環境級流水線，實現CI和CD相協同發布及運維工程根目錄下維護全局s.yaml進行全量發布函數維護獨立別名進行版本控制，版本關聯tag或者comm

9、it便于快速回滾配置和代碼發布流程分離，通過cicd.yaml編排s.yaml管理不同發布流程通過WebIDE進行線上緊急運維通過函數級報警、監控指標進行盯盤Serverless平臺工程落地經驗函數A：版本1函數B：版本1Region AVPCRAMOSSSLS測試環境：賬號A函數A：版本2函數B：版本2Region BVPCRAMOSSSLS生產環境：賬號B通過YAML維護不同的CICD流程函數目錄維護本地開發的s.yaml根目錄維護基線s.yaml環境差異化配置維護在env.yaml工程管理環境管理流水線管理初始化開發調試部署運維項目腳手架多賬號管理本地調試端云聯調遠程調試事件觸發可視化配

10、置灰度發布多環境部署日志查詢指標查詢模板繼承本地開發編輯器插件開發者套件項目構建實例登陸開發工具鏈（Serverless Devs）開源生態云服務Serverless 計算平臺（函數計算 FC、Serverless 應用引擎 SAE 等）BaaS 產品（中間件、數據庫、存儲、網絡、安全、可觀測等）項目案例庫（Serverless Registry）Web 全棧音視頻處理文件處理人工智能 應用管理（Serverless Admin）多環境管理CI/CDIaC項目可觀測WebIDE架構可視化設計Job相關大數據處理全棧開發CICD平臺集成彈性管理Serverless開發平臺TerraformPul

11、umiOpenFunctionMidway FaaS基于Serverless架構打造研發平臺的實踐03Serverless WebIDE 服務傳統WebIDE的問題開服成本高，支持地域少，代碼稍大加載緩慢，海外用戶體驗不好在單獨的網絡環境執行，和真實環境差異大，無法掛載NAS/OSS、不支持Layer、無法進行在線debug彈性效率差，無法按需擴容，活動時需要擴容資源池啟動速度慢，打開要5s以上延時使用K8s+NAS，多租安全性差，改造成本高需要使用網關，運維成本高基于 Serverless 的 WebIDE 服務內置網關，天然支持WebSocket天然多租隔離，通過函數來隔離不同租戶Regi

12、on化部署，只依賴函數/OSS/RAM資源支持小賬號模式，和真實網絡環境完全一致按需彈、隨便彈，計費模式和用戶停留時長完全匹配天然多租隔離，通過函數來隔離不同租戶開箱即用可觀測能力，運維成本極低 0.5人力WebIDE 函數實例A（安全容器）WebIDE 數據存儲（保存配置和未提交的代碼）用戶A本地上傳Tracing 函數用戶代碼源OSS存儲桶函數代碼Git倉庫實例B（安全容器）IDE 配置代碼IDE 配置代碼用戶A用戶B用戶A本地上傳OSS存儲桶函數代碼Git倉庫用戶A用戶B用戶A用戶B身份認證身份認證讀寫配置代碼讀寫配置代碼跨賬號下載提交代碼跨賬號下載提交代碼Serverless CI/C

13、D 服務Http事件觸發管控函數事件過濾秘鑰驗證結果回調流水線執行Worker函數構建部署 Worker資源編排 Worker沙箱調度 Worker任務引擎公共組件Git操作事件檢查代碼拉取釘釘通知運行時擴展緩存加速制品上傳版本灰度工具集任務插件Serverless天然適合 CI/CD 場景事件驅動（Http webhook、OSS、定時）安全多租構建運行時靈活易擴展（多種Runtime+Layer）異步任務內置隊列、數據庫、計算（取消、回調、重試）彈性調度，按量付費打通用戶VPC網絡，支持小賬號方案，支持私有Gitlab基于函數計算實現 IaC 資源編排自動生成STS，代碼中可直接使用，無需

14、業務自己生成秘鑰落盤支持OSS掛載、NAS掛載，state持久化容易Terraform binary可以打成Layer進行加速支持眾多region，非常適合開服基于Serverless Devs 為底座多環境管理流水線管理消息事件觸發安全檢查構建部署灰度審批發布GitHubGiteeGitlabCodeupCICD pipeline公共層公共層代碼平臺Serverless 可觀測體系建設指標采集對Runtime無侵入，不占用戶資源多租安全支持異構環境內置豐富指標、生命周期事件支持編程模型擴展接入第三方存儲數據開放，可二次加工數據處理API即函數，按請求自適應伸縮實例，毫秒級延遲Region化部

15、署開發調試便捷實例健康狀態檢測收集Serverless計算平臺處理日志指標調用鏈EEAGENTUser1ContainerUser1ContainerUser1ContainerECS VM 執行環境實例生命周期管理上報實例健康狀態檢測收集處理日志指標調用鏈EEAGENTUser1SandboxUser2SandboxUser3Sandbox神龍裸金屬執行環境實例生命周期管理上報函數實時日志Serverless 監控中心：開箱即用的可觀測平臺集群/服務/函數指標上下游調用鏈實例實時日志請求/實例級別指標系統內部調用鏈請求日志計量指標用戶業務邏輯調用鏈Log 函數Serverless架構的Web

16、 APIMetrics 函數Tracing 函數User1CloudMonitorSLSXTraceLog 函數Tracing 函數User1CloudMonitorSLSXTraceUser1CloudMonitorSLSXTrace用戶云產品Serverless 研發效能未來展望04自動化Serverless 云服務成為構建應用基礎模塊，可復用，可組裝，免運維，高可用Serverless 計算+工作流編排，組合多個服務構建應用應用天然具備韌性、全鏈路彈性模塊化開發者用代碼定義資源、應用架構、業務流程、API 等，解釋執行由工具完成基礎設施、應用架構、業務流程、API 成為重要的數字資產，可

17、觀測、可挖掘、可審計業務流程應用架構資源編排流程編排代碼開發高價值工作設計業務流程根據松耦合、可擴展等原則設計應用架構，服務 API，開發業務代碼低價值工作申請資源，配置環境CRUD 代碼，服務間的膠水代碼實現應用的韌性、彈性、可觀測能力研發效能策略建設 Serverless 產品體系，產品間深度集成以 X as code 為核心的工具服務，可視化編排，消除繁瑣配置，自動化創建/更新/刪除應用環境，安全合規檢查，智能助理，最佳實踐推薦，代碼/測試用例生成，可視化基礎設施、應用架構、業務流程可視化編排和展現基礎設施、應用架構和業務流程易于共享，快速迭代智能化應用架構、業務流程、API是結構化數據

18、，和AIGC技術適配更細粒度，更小復雜度的代碼更有利于落地自動代碼生成等智能技術AI 智能自助診斷、自助答疑下一代研發范式優秀的開發者體驗提效降本的現代應用心智AI 應用一鍵部署，快速上手AI 應用一鍵多環境劃分，標準 GitOps 流程；ModelScope 一鍵托管；AI Plugin 一鍵發布到通義千問；與開源結合，提供快速上手、一鍵部署的完整通路。高效能低成本進行 AI 應用的開發與部署是無數 AI 開發者/企業的重要關注點Serverless 架構憑借高資源利用率與按量付費模式，以及服務端免運維的開發者心智，成為一眾 AI 開發者/企業的首選；秒級彈性、大規模 GPU 集群按量付費、

19、降本提效一鍵部署、GPU 資源免維護如何快速體驗、快速上手如何方便快捷的部署使用如何高效率、低成本落地如何高可用、高性能運行人人都可以擁有自己“專屬”的 AIGC 環境彈性調度的 CPU+GPU 實例完備的開發者套件完備的開發者套件，是開發者將 AI 應用部署到云原生架構必不可少的一環阿里云完備的開發者套件，可以幫助開發者從 0 到 1 再到 N，將業務 Serverless 化，并提供全生命周期管理能力。GPU 實例是 AI 領域不可或缺的計算資源，在高昂的成本下，可彈性的 GPU 實例成為 AI 應用不可獲取的部分阿里云函數計算擁有彈性調度的 GPU 實例，以及大規格的計算性能實例，是承載 AI 應用穩定、高性能推理的重要環節基于Serverless 構建 AI 應用THANKS