1、GIAC連接未來的技術架構新技術,新增長:美圖&AIGC王關勝高級技術總監TH10#page#|個人簡介王關勝美圖公司高級技術總監曾在新浪微博6年多,2016年入職美圖,負責技術保障體系工作DVIDABCANO深圳市軟件行業協會msup#page#|目錄美圖業務的發展演變新技術&新增長:AIGC驅動業務增長AIGC應用帶來的技術挑戰及應對DVIDABCANO深圳市軟件行業協會msup#page#101.12022.12前-美圖的核心業務結構美圖一直是以“美”為內核,以“人工智能”驅動的科技公司,擁有AILabs和數據&安全研究院兩大底層支撐底座。近幾年技術中臺也逐步走向成熟,為業務從C端,走向
2、影像生產力工具及Saas,提供了充足的技術基礎Mlab以美為內核,以人工智能為驅動的科技公司。Meitu Imaging&Vision Lab影像生產力工具美業Saas美圖養美顏櫥機圖計數據合規&安全研究院HO美圖云修aauPlu人工智能技術中臺&工程化DVIDABCANO通圳市軟件行業協會msup#page#page#|目錄美圖業務的發展演變新技術&新增長:AIGC驅動業務增長AIGC應用帶來的技術挑戰及應對DVIDABCANO深圳市軟件行業協會msup#page#page#102.1.1MTLab-國內一流視覺算法提供商機悉學習深度學習基礎技能線性代數圖像分制圖像分類像生成戶0名拉日標檢測
3、目標致中間技能層計算機視覺我頻分析圖像重長超分牌事格超清人修意商格書應用技能層EDVID4RCN預圳市軟件行業協會msup#page#02.1.2AIGC爆發前的美圖AI應用跨次元相機畫質超清AI修復夏日動態無瑕顏2016美圖秀秀手繪自拍Wink-畫質修復、視頻美容上線第一天上線后獲得1500萬用戶的使用大量用戶愿意為效果付費DVIDABCANO預圳市軟件行業協會msup#page#102.2新技術-AIGC的爆發MidjouneyOpenAI宣布Dalle。Dallez開源社區開始訓練DISCO一群研究員開始嘗試自己的AI生成器。DIFFUSIONStable用文本生成圖像。Diffusio
4、nDream bywombo2015年2021年2022年DVIDABNmsup深圳市軟件行業協會#page#2.2.1新技術:美圖的主要投入AIGC的內容劃分內容生成一內容編輯!數果風格化智能設計文本視頻生成生成圖像3DAIGC生成生成音頻多模態生成生成DVIDABNmsupS深圳市軟件行業協會#page#02.2.2全面擁抱AIGC美圖產品矩陣高度集成AIGC修圖修視頻神器AI繪畫AI簡筆畫AI頭像美圖秀秀潮流個性相機A國風AI攝影美顏相機AI專注視頻人像美容Al動漫修視頻WinkAI自助設計服務AI設計美圖設計室一站式AI修圖AI修圖美圖云修更多DVIDABCANO深圳市軟件行業協會ms
5、up#page#02.2.3719影像節的7款新產品發布WHEEWHEERoboNeoAI視覺創作的靈感激發器美圖AI助手MMiracleVision開拍HODreamAvatar奇想智能ActionA數字人生成工具用AI制作口播視頻懂美學的AI視覺大模型2.0WinkStudio美圖設計室AI商業設計的無限可能X-Design桌面端AI視頻編輯工具DVIDABN深圳市軟件行業協會msup#page#0.2.4案例:Whee-AI視覺創作神器WHEEAI視覺創作的靈感激發器中式建DVIDACAD深圳市軟件行業msup#page#02.2.5從C端到生產力場景上提供影像解決方案Work-rela
6、ted scenariosCreative Ideas,Vision DesignImage Processing, Batch Retouching,Business增加ARPUCutouts使用AI技術從圖像編輯到樓專業設計工具定ASearchingA ldantificationMultipleAGenerationLife-related scenariosRetou口0000a0oVhdy00999品中Retouch3CosmeticPhotoCollagDVIDABCANO預圳市軟件行業協會msup#page#2.3新增長:AIGC帶動業務增長AI驅動美圖全球VIP會員數大幅增長,
7、開啟商業化的第二曲線800全球VIP會員數600400719萬450萬20002022年7月2022年1月2023年2月2023年6月2022年3圖DVIDABNmsup通圳市軟件行業協會#page#|目錄美圖業務的發展演變新技術&新增長:AIGC驅動業務增長AIGC應用帶來的技術挑戰及應對DVIDABCANO深圳市軟件行業協會msup#page#103.1AIGC業務發展的三大關鍵因素AI人才與時間賽跑業務穩定保障DVIDABD預圳市軟件行業協會msup#page#03.2一個典型的AIGC應用拓撲0提象北庫(圖片處理、文生圖、圖生圖應用:工程復雜度大大增商商+IDC蘇蘇D儲象公能導公店DV
8、IDABNS深圳市軟件行業協會msup#page#03.3GPU選型與資源協調一個典型基于LLM的業務GPU選型與資源協調的挑戰我們的解決方案AI基礎模型GPU選型組織AStableDiffusion目標:最佳性價比的GPU成立GPU測評小組MiracleVision(自訓練)單價:便宜成立GPU資源協調小組場景:按需為主上生產:適配&性能選型控制技術深度學習GPU底層知識LoRA多芯片品牌及型號確定Controlnet國外:NVIDAIPUGPU資源協調Textual Inversion國內:異騰/摩爾線程/NVIDA的禁售策略國產GPU難以快速替代資源協調云廠:大量內部使用一預處理和后處理
9、接觸所有云廠/重點IDC創業:百模大戰&大量的AIGC公司分Clip供應:可用分級資源池Blip,blip2(量、價格等)DeepdanbooruSuper resolutionFaceDetectorPVIDABN深圳市軟件行業協會msup#page#03.3.1廠商準入推理+訓練的GPU提供商,需滿足準入條件產品/號(對應的機型)備注說明庫存PU資賽GPU機型顯卡型號/顯存/是否支持NVurk特性等資源的分布特性對于我們做整體的資源調度會比較重要金擬機可專理機(包括GPU承載)一些GPU算力的展客器集群支持的集群交付方式、支持的節點規膜節點及相美容都及周邊鎮像倉庫帶寬、QPS(大規模發版/
10、擴容)、鏡像數量限我們的德像文件可能會比較大,單個鏡像可能會超過10-20GB。在并發啟動容器弘有網絡支持的子網規模、白名單、心訴求其能特網絡NAT網關并發連接數網絡帶寬等性能指標出網方向得亮充足:具體需求看場景,訴求在2Gbps彈性公網吧網絡帶意等性腦指稅共享文件存儲最大容量、VO春吐性能、支持的掛截方式存儲對象存儲最大容量、VO吞吐性能、支持的掛載方式在容器啟動中需要并發拉取模型重要。通常能至少需要達到20GB/s(單位是大B,Byte)云樓盤最大容量、VO吞吐性能、支持的掛載方式基礎監控、應用層監控日志服務這些項非必需運維管理相關權限認證用戶校限管理體系DVIDABN深圳市軟件行業協會m
11、sup#page#3.3.2AIGC業務歷史峰值全部AIGC業務的峰值:近8000卡的資源消耗量14V大規模下帶來新的問題?成本優化:優化單價,包月策略(動態包月)人計費:AIGC商業化,需量化成本(單價/定價)多云調度:異構資源,異構集群如何更好調度(無人值守)DVIDABCNS深圳市軟件行業協會msup#page#03.4GPU包月策略GPU包月的考慮因素GPU包月的模型分析包月策略中一個關鍵的數據是包月價格vs按需價格的比值模型一:波峰波谷較平緩區分云廠/異構資源池未來一段時間內AIGC類資源用量的超勢預估資源供應商/GPU資源市場在未來一段內的整體供需變化不同供應商的資源價格和資源供給
12、承諾GPU包月方案=存量包月+預估包月模型二:波峰波谷較大DVIDABCN預圳市軟件行業協會msup#page#3.5AIGC業務單價的演進自動化人工計算報表化人工報表平臺基于評測基于規范全口基于Code周期:2個月周期:2個月口周期:4-6個月DVIDABD預圳市軟件行業協會msup#page#03.5.1AIGC業務單價建模完善的AIGC計價平臺建模算法域基礎數據維護AIGC項目域運營域DVIDABCNS深圳市軟件行業協會msup#page#103.5.1AIGC業務單價落地AIGC計價:計算方式業務APPAI功能塊服務提供平臺/網關AIGC項目分類AIGC項目算法實驗室-開放平臺山Mat
13、i架構)-VE-SDKAIGC平臺北京上大部不同廠商基于投遞量分鐘成本分為按需付費方式)DVIDABN預圳市軟件行業協會msup#page#03.6多云調度的挑戰不同云的GPU卡都是異構的GPU差異不同云,Region/AZ的庫存、服務部署跨云/跨可用區云能力差異部署策略差異單價、彈性能力差異跨云網絡很多跨云的公網鏈路,持續優化算法分類利用率要求成本DVIDABN預圳市軟件行業協會msup#page#103.6多云調度的落地DVIDBNS深圳市軟件行業協會msup#page#03.7規范化的統一穩定性保障架構方案資源選型基礎設施建設完善穩定性保障多云資源交付納管【性能需求】【資源納管】【可觀測
14、性建設】【穩定性保障】網絡拓護(Region選擇)、請求日志、監控數據的采集云端容器集群規劃自動彈性、多級重試、人工干預鏈路,資源類型、資源規格/多云管理平臺Matrix納管SLO大盤、資源大盤、告警覆緊密協作、OnCall值守,按需重保蓋配比【彈性供給策略】【調度策略】【關鍵資源】【CI/CD/CO】基于資源利用率的HPA彈性供給、多云調度、優先順計算(特別是GPU)、網絡、存基于任務隊列長度的HPA容器鏡像、模型文件的同步序儲多云協同的自動化工具(laC)運行時模型動態加載方案服務質量優先,兼顧成本,考慮A100、A800、A10、V100、T4調度便利性【多云基礎設施對齊】【云原生】多云
15、基礎設施方案選型需一致【成本管控】廠商的云原生成熟度FinOps框架,全生命周期覆蓋公有云能關注資源用量/利用率、計費模式高效協同云原生底座AIGC數據管理平臺一系列項目流程加持彈性架構DVIDABCN深圳市軟件行業協會msup#page#了解更多技術實踐案例麥思博(msup)有限公司是一家面向技術高可用架構主要關注互聯網架構及高可用、可擴展及高性能領域的知識傳播。型企業的培訓咨詢機構,攜手2000余位訂閱用戶覆蓋主流互聯網及軟件領域系中外客座導師,服務于技術團隊的能力統架構技術從業人員。高可用架構系列提升、軟件工程效能和產品創新選代,社群是一個社區組織,其精神是“分享超過3000余家企業續約學習,是科技領+交流”,提倡社區的人人參與,同時域占有率第1的客座導師品牌,msup以從社區獲得高質量的內容。整合全球領先經驗實踐為己任,為中國產業快速發展提供智庫。DVIDABCANOmsup預圳市軟件行業協會#page#