2017年跨云電商devops平臺研發.pdf

1、跨云電商DEVOPS平臺研發讓天下專注于商務，不再為電子而煩惱歐 電 云歐 電 云目錄1歐電云及其產品概要歐電云于2015年5月與天使客戶簽單，同年7月即榮獲2015年上海浦東新區電子商務創新試點企業殊榮。歐電云秉承“讓天下專注于商務，不再為電子而煩惱”的理念，以“創造社會價值”為目標，以“共享，極致，執行”為精髓，非常注重產品和服務，堅持“用戶第一”的精神。上海歐電云信息科技有限公司國內頂尖的跨平臺新零售全渠道云服務及解決方案提供商歐電云介紹公司員工200人，80%為技術人員，近百位Java高級開發工程師及測試工程師。歐電云歐電云致力于為企業量身打造專業的流通解決方案，提供全品類的新零售管理

2、系統、全渠道的流通管理、全終端的用戶觸點。在SRP理念的指引下，以歐電云強大的技術實力為驅動，幫助傳統企業轉型，實現“互聯網”時代的騰飛。歐電云產品概要B2B網站B2C商城B2B2C商城全渠道云中臺WMSERPO+O到家服務TMS其他外部系統云POS云平臺中間件平臺雨燕平臺用戶中心組織中心門店中心商品中心會員中心財務中心庫存中心營銷中心訂單中心支付中心供應鏈中心客服中心歐 電 云目錄2雨燕平臺及其產品概要平臺介紹雨燕智能運維平臺是一款跨云Devops解決方案平臺，涵蓋跨多云平臺資源管理、發布、監控、配置、SOA治理及策略管理等全方位功能的智能運維平臺。歐 電 云產品介紹歐 電 云雨燕平臺跨云智

3、能運維平臺產品功能簡介統一資源管理池集成多云的混合云架構Aero配置中心Collo發布系統Chae監控系統Apus軟硬件資源管理系統Hirun策略系統Pany用戶中心金山云阿里云騰訊云AWS海航云Ucloud歐電云（私有云）Docker云（容器云）CypseSOA治理平臺Http+Json+Secret key統一用戶管理中心SSO單點登錄,權限統一配置管理中心多項目，多環境，安全傳輸跨云一體化發布串并行發布，灰度發布跨云自動化監控軟硬件環境全方位監控跨云自動化策略管理故障自愈，自動擴縮容跨云SOA治理API檢索、測試、分組和鏈路歐 電 云目錄3雨燕平臺資源系統功能介紹歐 電 云資源系統雨燕平

4、臺：資源系統多云架構資源系統簡稱Apus，基于多云架構的云資源管理平臺。私有云混合云公有云公有云容器云多云架構基于私有云+多公有(容器)云混合模式的架構歐 電 云資源系統雨燕平臺：資源池概念資源系統有資源池的概念，來統一管理混合云場景的軟硬件資源。私有云1公有云1公有云2公有云3WEB服務器文件服務器基礎組件服務器CMS服務器郵件服務器數據庫服務器資源池實例化歐 電 云資源系統雨燕平臺：資源系統架構資源系統整體架構，依托混合云架構，分為三層：底層是基礎資源管理中間層是主機資源管理上層是Pool資源管理同時與各子系統采用API串聯,實現一些聯合功能其中基礎資源主要包含鏡像資源、公共資源管理等主機

5、資源管理主要是虛機的管理Pool資源管理主要是項目+環境及應用程序管理Public Cloud基礎資源Pool Host主機資源Pool資源Open APINginx HostOpen APIPoolBPoolCPoolDPoolA監控系統Healthcheckosoa/omq/zk/ocache/odalCPU/RAM/DISK/NET/JVM配置中心PropertiesServer.xmlNginx.confMemcached.xmlRedis.conf發布系統發布項目管理發布作業管理發布記錄管理靜態資源管理Middleware HostPublicImagePool Image(cent

6、os+jvm+tomcat)Nginx Image(CentOS+Nginx+Failban)Other Image(Ocache,Omq,DB,.)EIPLBFirewallAPIAPI+NAMESPACEENVAPICloud 1Cloud 2.Database Host歐 電 云通過一鍵搭環境可以像安裝軟件一樣通過多個下一步操作創建一個新的環境，復制環境可以把已有環境再拷貝到一個新環境中。一鍵搭建環境和復制環境資源系統選基礎組件/Poo/static提供svn url,安裝主機數量.申請環境搭建提供命名空間+環境信息構建&上傳發布系統文件導入發布系統：Pool/static發布發布系統：

7、主機資源綁定資源交付是否已有jenkins job自動創建jenkins jobNY自動化測試(暫無)是否需要創建主機實例自動創建主機實例YN克隆現有項目NY選擇克隆項目資源系統：自動安裝基礎組件配置中心模板歐 電 云資源系統雨燕平臺：資源綁定及自動上下架將資源與應用（基礎組件）進行關聯，實現批量應用綁定及解綁。虛機1云平臺PoolAPoolB虛機2虛機3資源綁定及自動上下架平臺-項目-環境-bind|unbind.xxx10.10.11.xx=PoolA10.11.11.xx=PoolB.在資源池中未發現資源時自動上架在解綁資源時對閑置資源自動回收歐 電 云資源系統雨燕平臺：資源系統WEB界

8、面資源系統簡稱Apus，基于多云架構的云資源管理平臺。歐 電 云目錄4雨燕平臺發布系統功能介紹歐 電 云解決方案跨云發布，隨心所欲灰度發布，上線無憂靜態資源，個性發布異常日志，實時告警簡單高效發布歐 電 云發布系統雨燕平臺：發布系統部署拓撲圖發布系統簡稱Collo，一款支持跨云發布、灰度發布及WEB實時控制臺的云發布系統。用戶路由服務發布系統proxy1發布系統proxy2云平臺1目標機群(agent)目標機群(agent)備份服務器1備份服務器2云平臺1上傳服務器云平臺2上傳服務器發布系統步驟3：發布WAR包和靜態文件步驟3：發布WAR包和靜態文件步驟5：遠程備份步驟5：遠程備份云平臺2步驟

9、1：提交發布步驟2：校驗MD5步驟2：校驗MD5步驟4：agent執行發布/回滾/重啟操作步驟4：agent執行發布/回滾/重啟操作準備：編譯打包上傳（來源于jenkins或stg）準備：編譯打包上傳（來源于jenkins或stg）支持【云存儲】【FTP】歐 電 云發布系統灰度發布支持按Cookie來實現AB發布，支持按Session、IP等實現灰度發布。正常用戶灰度試點用戶正常集群分批發布部分用戶（基于Lua根據IP地址段來分發請求）所有剩余用戶無用戶投訴異常，分批更新OpenResty代理服務器歐 電 云發布系統雨燕平臺：發布系統發布界面發布系統簡稱Collo，一款支持跨云發布、灰度發布及

10、WEB實時控制臺的云發布系統。歐 電 云發布系統雨燕平臺：發布系統實時控制臺發布系統結合Agent探針程序，實時抓取應用啟動日志，通過WEB控制臺顯示應用發布的詳細步驟及日志。歐 電 云目錄5雨燕平臺配置中心功能介紹歐 電 云解決方案統一配置中心可視化界面配置審核新舊對比高效安全傳輸自動更新配置歐 電 云配置中心雨燕平臺：配置中心架構配置中心簡稱Aero，是一款基于文本文件管理為核心功能的高性能分布式配置管理平臺，支持多項目、多環境、多用戶。歐 電 云配置中心配置中心簡稱Aero，是一款基于文本文件管理為核心功能的高性能分布式配置管理平臺，支持多項目、多環境、多用戶。雨燕平臺：配置中心介紹跨云

11、部署解決方案配置文件自動加載離線部署安全簽名校驗restful+json輕量級多項目多環境通用項目配置回滾與灰度發布快速切換DB等關鍵配置一鍵替換變量分布式配置文件管理平臺支持多項目多環境配置文件管理，支持大文件管理，推薦不大于5MB。支持通用項目配置。引入輕量級客戶端，采用restful+json輕量級接口通信，簽名校驗?？蛻舳藷o法連接服務器自動切換離線模式。支持配置回滾與配置灰度發布，支持快速切換DB/Cache等重要組件配置切換需求。歐 電 云配置中心雨燕平臺：配置中心功能亮點嚴格的文件審核流程草稿箱和正式庫文件審核項目(文件)比對版本管理高效實用功能可引用的全局變量一鍵變量替換豐富的文

12、件復制方式同項目同環境文件繼承分而治之：開發管文件，運維管變量配置中心將文件分為草稿和正式文件，開發人員可以反復編寫草稿，在定稿后提交至正式庫，提交的過程，有專門的開發主管針對自己管理的Pool進行文件審核，審核時能像SVN一樣看到文件比對詳情，從而作出是否通過的決定。我們提供了多種手段編寫草稿，如全局變量、文件繼承、復制文件;同時我們將變量與文件管理分開，做到分而治之：開發管文件、運維管變量歐 電 云配置中心雨燕平臺：配置中心文件比對功能文件比對功能能夠比較文件多個版本之間或任意兩個文件之間的差異，差異包含新增行、刪除行、修改行中數據等差異，如下圖所示歐 電 云目錄6雨燕平臺監控系統功能介紹

13、歐 電 云解決方案日志監控監控URL請求量、請求大小、請求耗時、應用系統異常堆棧日志等基礎組件監控監控緩存、MQ、SOA運行狀況及SOA鏈路負載其他監控配置篡改、訂單掉零、發布異常和服務到期等業務監控可定制SQL的業務監控，涵蓋訂單、用戶注冊登錄、支付、促銷等各種定制化業務。系統監控對應用系統和基礎組件進行心跳檢測、CPU、內存、磁盤、網絡、TOMCAT連接數、JSTACK、GCLOG等監控數據庫監控監控慢SQL執行狀況，監控IOPS，掃描自增字段全鏈路功能監控歐 電 云監控系統雨燕平臺：監控系統跨云監控監控系統簡稱Chae，一款支持跨云、多項目多環境同時監控的云監控系統。Data SyncD

14、ata SyncServer 2Server 3Server 1Main SpiderMonitor CenterUser_Alarm CenterEmailWeChatSMSMonitoring ScreenData SyncData SyncMongoDBReal Time AlarmReal Time AlarmReal Time AlarmReal Time AlarmReal Time AlarmReal Time AlarmServer.Server NMain CloudSub Cloud 1Sub Spider 1Server 3Server 2Server 1Server.S

15、erver NSub Spider 2Server 2Server 3Server 1Server.Server NSub Cloud 2監控系統CHAE跨云部署拓撲圖歐 電 云監控系統雨燕平臺：監控采集程序Chae-Spider架構監控系統簡稱Chae，一款支持跨云、多項目多環境同時監控的云監控系統。監控系統云平臺開放API監控瘦客戶端交互數據各Pool虛機群業務數據庫交互數據采集數據采集數據云平臺開放API各Pool虛機群業務數據庫交互數據采集數據采集數據跨云監控默認部署的主云平臺監控拓撲跟蹤云采集PV/UV跟蹤云采集PV/UVELK日志服務采集異常日志Zabbix API采集主機使用資源

16、狀況 歐 電 云監控系統雨燕平臺：監控告警中心Chae-Alarm架構監控系統簡稱Chae，一款支持跨云、多項目多環境同時監控的云監控系統。告警消息出口告警消息入口Restful APIDisruptor高速內存隊列短信模板郵件告警模板微信企業號告警模板合并告警策略短信事件郵件事件微信事件短信全局告警人短信訂閱者郵件全局告警人郵件訂閱者UserEmailWeChatSMS全局開關短信開關郵件開關微信開關按項目+環境維度的開關設置監控告警中心監控告警中心ChaeChae-AlarmAlarm架構架構歐 電 云監控系統雨燕平臺：監控系統鏈路監控實例鏈路監控涵蓋從用戶發起請求到數據庫查詢數據等整個鏈

17、路的監控，監控點包括各節點的CPU、內存、磁盤、網絡，應用程序機器，還包括Tomcat連接數、Jstack實時日志下載、GCLog實時下載等功能。還包括SOA鏈路調用監控。歐 電 云監控系統雨燕平臺：日志監控日志監控基于ELK設計，可以監控任意日志，目前我們已經實現對Pool異常日志，Nginx請求日志，數據庫慢SQL日志的監控和告警。各POOL異常日志排名POOL異常排行監控慢SQL監控Nginx請求日志監控歐 電 云監控系統雨燕平臺：監控系統電商業務監控訂單監控支付渠道監控支付途徑監控登錄監控注冊監控歐 電 云監控系統雨燕平臺：監控大屏監控系統還能將各個監控項進行分屏展示，從而支持一屏監控

18、多項的大屏展示功能。歐 電 云目錄7雨燕平臺SOA治理平臺歐 電 云SOA治理SOA治理平臺SOA分組管理支持SOA灰度分組、服務降級、優雅下線API文檔自動生成Api文檔由治理平臺客戶端掃描源碼生成，及時發現api變化，無需人工維護api文檔API接口版本分析支持強大報表分析API變化規律(增加接口，刪除接口，接口參數修改)，技術leader可嚴格把關接口規范可視化SOA接口測試無需代碼單元測試，針對自動生成的API文檔界面點擊測試跨云治理助力開發歐 電 云SOA治理帶Token的URL訪問POOL-CWEB端OSOA調用鏈路http:/ 電 云SOA治理雨燕平臺：SOA治理平臺界面SOA治

19、理平臺可以實現API檢索、API自動更新、版本分析、可視化測試、分組等實用功能。歐 電 云目錄8雨燕平臺用戶中心及策略系統歐 電 云解決方案用戶權限策略用戶中心權限管控運維策略統一用戶管理中心，用戶注冊審核，單點登錄，對接第三方用戶系統；嚴格控制系統權限，定制系統菜單，分配用戶權限；按需定制運維策略，實現自動化運維。SSO統一單點登錄所見即所得自動化運維歐 電 云用戶中心雨燕平臺：用戶中心雨燕PANY發布系統配置中心用戶中心3rd用戶監控系統資源系統策略系統用戶權限管理基礎元數據信息License管理系統集成子系統集成單點登錄角色菜單權限用戶部門管理默認集成用戶中心集成Jira流程控制系統集成

20、第三方用戶系統命名空間管理環境管理Pool管理License授權管理License授權認證License授權延期License認證日志用戶中心簡稱Pany,是一款集子系統集成、第三方系統集成等功能的元數據管理系統。11種Https證書申請Https證書訂單管理Https證書管理歐 電 云策略系統雨燕平臺：策略系統策略系統簡稱Hirun,是一款將各子系統任務串聯成一定策略的自動化任務處理系統。通過策略系統可以定制自動化運維的需求。鏈路任務管理執行流程管理預警策略管理故障自愈管理調用具體任務接口發布系統配置中心監控系統資源系統中心系統各子系統歐 電 云目錄8雨燕平臺我們的優勢歐 電 云基礎中間件支

21、持OCACHEODFSOMAOSOAOMQ開發使用的管理平臺，支持隊列可視化管理(生產消費曲線，客戶端消費者管理)。支持osoa鏈路查詢，入參查詢，異常查詢。支持緩存分配，自動擴充緩存支持json,hessian,dubbo 的微服務框架?；趍ongo存儲引擎，zk協調的高可用集群隊列，支持斷點續傳，競爭共享消費，重發補發。業務透明，支持自動擴容，異常監控的緩存中間件。支持多種云存儲，自動壓縮圖片的文件上傳中間件OSEQ高可用的唯一序列號生成中間件自研基礎中間件支持歐 電 云雨燕平臺跨云智能運維平臺運維成果降低生產事故率50%提高上線效率70%我們的優勢：歐電云實施成果橫跨6個公有云1個私有

22、云保障1000+應用服務器和100+數據庫服務器支撐20+大型電商應用平臺和6個應用環境有效降低運維成本75%以上（原先需要12人運維團隊完成的工作，現在3人即可）一鍵搭環境，WEB界面人性化操作，簡單高效！原先需要半天完成的事情，現在半小時就能搞定！歐 電 云雨燕平臺跨云智能運維平臺優勢介紹我們的優勢：總結020103060504安全可靠可視化管理統一監控智能運維輕量級、可擴展大幅提高開發效率部署安全：軟件+數據全盤交付合法授權：黑白名單，精準攔截信息加密：簽名校驗，加密傳輸統一配置管理中心，自動廣播所有系統參數可配，一鍵生效跨云監控，統一展示主動偵測，實時告警全鏈路監控，實時大屏展示統一SOA治理平臺，API文檔自動生成自動感知API變動，可視化SOA接口測試結合統一監控，快速排查問題分布式微服務架構靈活部署基于Http+Json輕量級協議分布式會話、緩存及海量存儲管理基于PAAS的服務運營運維管理一鍵搭環境故障自愈，自動擴縮容歐電云Thanks！未來你我同行！中國頂尖的跨平臺電子商務系統云服務提供商