華為：解決方案實踐-基于開源模型構建高可用AIGC應用（25頁）.pdf

《華為：解決方案實踐-基于開源模型構建高可用AIGC應用（25頁）.pdf》由會員分享，可在線閱讀，更多相關《華為：解決方案實踐-基于開源模型構建高可用AIGC應用（25頁）.pdf（25頁珍藏版）》請在三個皮匠報告上搜索。

1、解決方案實踐解決方案實踐基于開源模型構建高可用基于開源模型構建高可用 AIGC 應用應用文檔版本文檔版本1.0發布日期發布日期2023-08-11華為技術有限公司華為技術有限公司 版權所有版權所有 華為技術有限公司華為技術有限公司 2024。保留一切權利。保留一切權利。非經本公司書面許可，任何單位和個人不得擅自摘抄、復制本文檔內容的部分或全部，并不得以任何形式傳播。商標聲明商標聲明和其他華為商標均為華為技術有限公司的商標。本文檔提及的其他所有商標或注冊商標，由各自的所有人擁有。注意注意您購買的產品、服務或特性等應受華為公司商業合同和條款的約束，本文檔中描述的全部或部分產品、服務或特性可能不在您

2、的購買或使用范圍之內。除非合同另有約定，華為公司對本文檔內容不做任何明示或暗示的聲明或保證。由于產品版本升級或其他原因，本文檔內容會不定期進行更新。除非另有約定，本文檔僅作為使用指導，本文檔中的所有陳述、信息和建議不構成任何明示或暗示的擔保。文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司i 安全聲明安全聲明 漏洞處理流程漏洞處理流程華為公司對產品漏洞管理的規定以“漏洞處理流程”為準，該流程的詳細內容請參見如下網址：https:/ 文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司ii目目 錄錄1 方案概述方案概述.12 資源和成本規劃資源和成本規劃.33 實

3、施步驟實施步驟.63.1 準備工作.63.2 快速部署.93.3 開始使用.153.4 快速卸載.184 附錄附錄.205 修訂記錄修訂記錄.21解決方案實踐基于開源模型構建高可用 AIGC 應用目 錄文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司iii1 方案概述方案概述應用場景應用場景該解決方案可以幫助您在華為云彈性云服務器 ECS上基于Stable Diffusion構建高可用AIGC Web應用。Stable diffusion是一種基于潛在擴散模型（Latent DiffusionModels）的文本到圖像生成模型，能夠根據輸入文本和圖像生成高質量圖像。方案架構方

4、案架構該解決方案在華為云彈性云服務器 ECS上基于開源Stable Diffusion一鍵部署構建AIGC應用。該解決方案部署架構如下圖所示：圖圖 1-1 方案架構圖該解決方案會部署如下資源：創建2臺Linux GPU加速型彈性云服務器 ECS，用于搭建AIGC應用系創建三個彈性公網IP EIP，分別綁定到兩個到服務器及彈性負載均衡彈性負載均衡 ELB，用于提供訪問公網和被公網訪問能力。解決方案實踐基于開源模型構建高可用 AIGC 應用1 方案概述文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司1部署一個彈性負載均衡 ELB，用于業務流量跨可用區進行分發。創建一個對象存儲服務

5、 OBS桶，用于保存生成的圖片文件。在兩臺Linux彈性云服務器 ECS上分別完成Stable Diffusion WebUI應用、inotify-tools工具安裝，以及對象存儲服務 OBS obsutil工具安裝，用于自動上傳備份在頁面上保存的圖片。方案優勢方案優勢高可用彈性云服務器 ECS跨可用區部署，提供多可用區容災能力，夠快速自動完成故障切換。開源和定制化該解決方案是開源的，用戶可以免費用于商業用途，并且還可以在源碼基礎上進行定制化開發。一鍵部署一鍵輕松部署，即可實現基于Stable Diffusion的高可用AIGC應用系統搭建。約束與限制約束與限制部署該解決方案之前，您需注冊華為

6、云賬戶，完成實名認證，且賬號不能處于欠費或凍結狀態，請參考資源成本規劃表確保賬戶金額充足。解決方案實踐基于開源模型構建高可用 AIGC 應用1 方案概述文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司22 資源和成本規劃資源和成本規劃該解決方案主要部署如下資源，不同產品的花費僅供參考，具體請參考華為云官網價官網價格格，實際以收費賬單為準：表表 2-1 資源和成本規劃（按需計費）華為云服務華為云服務配置示例配置示例每月預估花費每月預估花費彈性云服務器 ECS 按需計費:$1.01 USD 區域:亞太-新加坡 計費模式:按需計費 規格:pi2.2xlarge.4|8 vCPUs|

7、32GB 加速卡:1*NVIDIA T4/1*16G 鏡像:Ubuntu 20.04 server 64bitwith Tesla Driver 460.73.01 andCUDA 11.2 系統盤:高 I/O|100GB 數量:2$1.01 USD*2*24*30=$1454.40 USD彈性公網IP EIP 按需計費:$5.88 USD 區域:亞太-新加坡 計費模式:按需計費 規格:全動態 BGP 計費方式:按流量計費 流量:20GB IP 購買時長:720 小時 數量:2$5.88 USD*2=$11.76USD解決方案實踐基于開源模型構建高可用 AIGC 應用2 資源和成本規劃文檔版本

8、 1.0(2023-08-11)版權所有 華為技術有限公司3華為云服務華為云服務配置示例配置示例每月預估花費每月預估花費彈性公網IP EIP 按需計費:$0.13 USD/5 Mbit/s/hour 區域:亞太-新加坡 計費模式:按需計費 規格:全動態 BGP 計費方式:按帶寬計費 帶寬:5 Mbit/s 數量:1$0.13 USD x 24 x 30=$93.60 USD彈性負載均衡 ELB 按需計費：$0.05 USD 區域:亞太-新加坡 計費模式:按需計費 實例規格類型:共享性負載均衡 購買時長:1 小時$0.05 USD*24*30=$36.00 USD對象存儲服務 OBS 區域：亞太

9、-新加坡 計費模式：按需計費 產品類型：對象存儲 存儲類別：標準存儲 數據冗余存儲策略：多AZ存儲 存儲空間：0.0250USD/GB/月 流量費用：內/公網流入流量（數據上傳到OBS）免費預計每月新增1GB數據量，花費$0.025 USD。該方案存儲費用消耗較低，詳細請參考每月賬單。合計合計-$1595.76 USD+OBS服務產生費用服務產生費用 表表 2-2 資源和成本規劃（包年包月）華為云服務華為云服務配置示例配置示例每月預估花費每月預估花費彈性云服務器 ECS 區域:亞太-新加坡 計費模式:包年包月 規格:pi2.2xlarge.4|8 vCPUs|32GB 加速卡:1*NVIDIA

10、 T4/1*16G 鏡像:Ubuntu 20.04 server 64bitwith Tesla Driver 460.73.01 andCUDA 11.2 系統盤:高 I/O|100GB 數量:2$549.30 USD*2=$1098.60 USD解決方案實踐基于開源模型構建高可用 AIGC 應用2 資源和成本規劃文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司4華為云服務華為云服務配置示例配置示例每月預估花費每月預估花費彈性公網IP EIP 按需計費:$5.88 USD 區域:亞太-新加坡 計費模式:按需計費 規格:全動態 BGP 計費方式:按流量計費 流量:20GB I

11、P 購買時長:720 小時 數量:2$5.88 USD*2=$11.76USD彈性公網IP EIP 區域:亞太-新加坡 計費模式:包年包月 規格:全動態 BGP 計費方式:按帶寬計費 帶寬:5 Mbit/s 數量:1$57.00 USD彈性負載均衡 ELB 按需計費：$0.05 USD 區域:亞太-新加坡 計費模式:按需計費 實例規格類型:共享性負載均衡 購買時長:1 小時$0.05 USD*24*30=$36.00 USD對象存儲服務 OBS 區域：亞太-新加坡 計費模式：按需計費 產品類型：對象存儲 存儲類別：標準存儲 數據冗余存儲策略：多AZ存儲 存儲空間：0.0250USD/GB/月

12、流量費用：內/公網流入流量（數據上傳到OBS）免費費用包括存儲空間、請求費用、流量費用兩部分，詳細請參考每月賬單。合計合計-$1203.36 USD+OBS服務產生費用服務產生費用解決方案實踐基于開源模型構建高可用 AIGC 應用2 資源和成本規劃文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司53 實施步驟實施步驟3.1 準備工作3.2 快速部署3.3 開始使用3.4 快速卸載3.1 準備工作準備工作創建創建 rf_admin_trust 委托委托步驟步驟1 進入華為云官網，打開控制臺管理控制臺管理界面，鼠標移動至個人賬號處，打開“統一身份認證”菜單圖圖 3-1 控制臺管理

13、界面解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司6圖圖 3-2 統一身份認證菜單步驟步驟2 進入“委托”菜單，搜索“rf_admin_trust”委托圖圖 3-3 委托列表如果委托存在，則不用執行接下來的創建委托的步驟如果委托不存在時執行接下來的步驟創建委托步驟步驟3 單擊步驟2界面中的“創建委托”按鈕，在委托名稱中輸入“rf_admin_trust”，委托類型選擇“云服務”，輸入“RFS”，單擊“下一步”解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權

14、所有 華為技術有限公司7圖圖 3-4 創建委托步驟步驟4 在搜索框中輸入”Tenant Administrator”權限，并勾選搜索結果圖圖 3-5 選擇策略步驟步驟5 選擇“所有資源”，并單擊下一步完成配置圖圖 3-6 設置授權范圍步驟步驟6“委托”列表中出現“rf_admin_trust”委托則創建成功解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司8圖圖 3-7 委托列表-結束結束獲取獲取 AK、SK 密鑰密鑰部署該方案之前，需要您在華為云控制臺獲取AK、SK密鑰，您將會在3.2-快速部署快速部署中填寫參數以

15、完成高可用AIGC應用系統的搭建。根據官方文檔官方文檔指引，在控制臺-我的憑證-訪問密鑰中配置訪問密鑰AK并下載秘密訪問密鑰SK。圖圖 3-8 創建 AK，SK3.2 快速部署快速部署本章節主要幫助用戶快速部署該解決方案。表表 3-1 參數填寫說明參數名稱參數名稱類型類型是否必填是否必填參數解釋參數解釋默認值默認值vpc_nameString必填虛擬私有云名稱，該模板使用新建VPC，不允許重名。取值范圍：1-54個字符，支持中文、英文字母、數字、_（下劃線）、-（中劃線）、.（點）。high-availability-aigc-applications-demosecurity_group_n

16、ameString必填安全組名稱，該模板新建安全組。取值范圍：1-64個字符，支持數字、字母、中文、_(下劃線)、-（中劃線）、.（點）。high-availability-aigc-applications-demo解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司9參數名稱參數名稱類型類型是否必填是否必填參數解釋參數解釋默認值默認值ecs_nameString必填彈性云服務器名稱，不支持重名。命名方式為ecs_name-數字，取值范圍：1-60個字符，支持中文、英文字母、數字、_（下劃線）、-（中劃線）、.（點）

17、。high-availability-aigc-applications-demoimage_bucket_nameString必填OBS桶名稱，全局唯一，用于保存自動上傳WebUI生成的圖片。取值范圍：3-63個字符，支持小寫字母、數字、中劃線（-）、英文句號（.），禁止以中劃線（-）或英文句號（.）開頭及結尾?？誩cs_countString必填彈性云服務器數量，取值范圍：大于等于1，上限由用戶配額決定。具體請登錄華為云官網我的配額我的配額查看。2ecs_flavorString必填彈性云服務器規格，需選取GPU加速型，請參考彈彈性云服務器規格清單性云服務器規格清單。pi2.2xlarge

18、.4ecs_passwordString必填彈性云服務器初始化密碼，創建完成后請參考3.3開始使用步驟開始使用步驟1重置密碼。取值范圍：長度為8-26個字符，密碼至少包含大寫字母、小寫字母、數字和特殊字符（!$%-_=+():,./?#*）中的三種，Windows系統密碼不能包含用戶名或用戶名的逆序，不能包含用戶名中超過兩個連續字符的部分。管理員賬戶默認root?？誩lb_nameString必填彈性負載均衡器ELB名稱，取值范圍：1-64個字符組成，支持中文、英文字母、數字、_（下劃線）、-（中劃線）、.（英文句號）high-availability-aigc-applications-de

19、mo解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司10參數名稱參數名稱類型類型是否必填是否必填參數解釋參數解釋默認值默認值eip_bandwidth_sizeNumber必填彈性公網帶寬大小，該模板計費方式為按流量計費。取值范圍：1-300Mbit/s。300Mbit/scharging_modeString必填計費模式，默認自動扣費，取值為prePaid（包年包月）或postPaid（按需計費）。postPaidcharge_period_unitString必填訂購周期類型，僅當charging_mode為p

20、rePaid（包年/包月）生效，此時該參數為必填參數。取值范圍：month（月），year（年）。monthcharge_periodNumber必填訂購周期，僅當charging_mode為prePaid（包年/包月）生效，此時該參數為必填參數。取值范圍：charge_period_unit=month（周期類型為月）時，取值為1-9；charge_period_unit=year（周期類型為年）時，取值為1-3。1access_key_idString必填訪問密鑰ID（AK）,識別訪問用戶的身份，用于將生成的圖像上傳至OBS桶。參考獲取獲取AK、SK密密鑰鑰?？誷ecret_access_

21、keyString必填秘密訪問密鑰（SK）,對請求數據進行簽名驗證，用于將生成的圖像上傳至OBS桶。參考獲取獲取AK、SK密鑰密鑰?？?步驟步驟1 登錄華為云解決方案實踐華為云解決方案實踐，選擇“基于開源模型構建高可用AIGC應用”并單擊，跳轉至該解決方案一鍵部署界面。解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司11圖圖 3-9 解決方案實施庫步驟步驟2 單擊“一鍵部署”，跳轉至該解決方案創建資源棧部署界面。圖圖 3-10 創建資源棧步驟步驟3 單擊“下一步”，參考表表3-1完成自定義參數填寫。解決方案實踐基于

22、開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司12圖圖 3-11 參數配置步驟步驟4(可選)在資源設置界面中，“權限委托”下拉框中選擇“rf_admin_trust”委托，單擊“下一步”。圖圖 3-12 資源棧設置步驟步驟5 在配置確認界面中，單擊“創建執行計劃”。解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司13圖圖 3-13 創建執行計劃步驟步驟6 在彈出的創建執行計劃框中，自定義填寫執行計劃名稱，單擊“確定”。圖圖 3-14 創建執行計劃步驟

23、步驟7 單擊“部署”，彈出執行計劃提示信息，單擊“執行”確認執行。圖圖 3-15 執行計劃確認解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司14圖圖 3-16 確認執行步驟步驟8 等待解決方案自動部署。部署成功后，單擊“事件”，回顯結果如下:圖圖 3-17 資源創建成功步驟步驟9 刷新頁面，在“輸出”中查看WebUI訪問說明。圖圖 3-18 輸出-結束結束3.3 開始使用開始使用安全組規則修改（可選）安全組規則修改（可選）須知須知該解決方案默認只創建ping安全組規則，用戶需在登錄彈性云服務器前添加入方向規則。比

24、如登錄Windows彈性云服務器，指定登錄端口為3389，并添加白名單IP。解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司15安全組實際是網絡流量訪問策略，包括網絡流量入方向規則和出方向規則，通過這些規則為安全組內具有相同保護需求并且相互信任的云服務器、云容器等實例提供安全保護。如果您的實例關聯的安全組策略無法滿足使用需求，比如需要添加、修改、刪除某個TCP端口，請參考以下內容進行修改。添加安全組規則：根據業務使用需求需要開放某個TCP端口，請參考添加安全組規添加安全組規則則添加入方向規則，打開指定的TCP端口。

25、修改安全組規則：安全組規則設置不當會造成嚴重的安全隱患。您可以參考修改修改安全組規則安全組規則，來修改安全組中不合理的規則，保證云服務器等實例的網絡安全。刪除安全組規則：當安全組規則入方向、出方向源地址/目的地址有變化時，或者不需要開放某個端口時，您可以參考刪除安全組規則刪除安全組規則進行安全組規則刪除。為應用配置域名（可選）為應用配置域名（可選）配置域名解析。網站解析將域名與3.2快速部署步驟快速部署步驟9中網址IP地址相關聯，實現通過在瀏覽器中直接輸入域名訪問網站。具體解析流程參考快速添加域名解析快速添加域名解析。使用使用 AIGC WebUI 應用應用步驟步驟1（可選）修改初始化密碼。登

26、錄華為云服務器控制臺華為云服務器控制臺，勾選創建的彈性云服務器，單擊“關機”，關機成功后，單擊“重置密碼”，根據提示重置密碼，單擊“確定”后，開機即可正常使用。圖圖 3-19 修改密碼步驟步驟2 進入彈性負載均衡控制臺彈性負載均衡控制臺，在左側導航欄單擊“后端服務器組”單擊“名稱”選擇“后端服務器”查看服務器狀態是否正常。（說明：按照默認參數資源部署完成，20分鐘后業務初始化完成，后端服務器7860端口狀態正常。）解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司16圖圖 3-20 后端服務器組圖圖 3-21 查看服

27、務器狀態步驟步驟3 查看快速部署快速部署 步驟步驟3.2-9訪問說明，訪問AIGC web UI界面。單擊“txt2img”在提示詞框中填寫提示詞，單擊“Generate”生成圖像，待圖像生成完成后，單擊“Save”保存。Stable diffusion web UI 界面的詳細使用說明，請訪問開源項目stablediffusion webui或者查詢網絡相關教程獲取。本方案新建本方案新建aigc用戶，默認密碼為用戶，默認密碼為aigc123。圖圖 3-22 AIGC WebUI 應用界面提示詞示例：Arches National Park,under the rock,in the even

28、ing,nightsky,reality infused with dreams,upscaled,triadic color scheme,epic composition,CG digital rendering,Studio Ghibli,unreal engine,atmospheric,omit the people步驟步驟4 進入對象存儲服務控制臺對象存儲服務控制臺單擊快速部署快速部署 步驟步驟3.2-3創建的OBS桶進入，即可查看步驟3中保存的圖片，還可以通過分享按鈕，分享圖片。更多OBS功能請查看對象存儲服對象存儲服務務 OBS用戶指南對象管理文檔用戶指南對象管理文檔解決方案實

29、踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司17圖圖 3-23 對象存儲服務桶列表圖圖 3-24 查看保存的圖片說明說明本方案配置使用inotify-tools和對象存儲服務 OBS obsutil工具，并設置了開機自啟動，實現將您在web UI界面保存的圖片自動上傳到對象存儲服務OBS桶。您也可以在瀏覽器單擊鼠標右鍵選擇另存為保存圖片。服務開機自啟動，重啟機器后無需任何操作即可使用此AIGC應用。服務啟動命令示例：前臺啟動cd/home/aigc&sudo-u aigc bash-c source/home/aigc/

30、webui.sh-listen-port 7860-api-enable-insecure-extension-access后臺啟動cd/home/aigc&sudo-u aigc bash-c source/home/aigc/webui.sh-listen-port 7860-api-enable-insecure-extension-access&/home/aigc/aigc-applications.log（日志保存路徑可根據需要自行修改）-結束結束3.4 快速卸載快速卸載須知須知該解決方案涉及到對象存儲服務 OBS桶，如果OBS桶中有數據的話會導致資源棧刪除失敗。請確保數據以及遷移

31、備份后清空OBS桶中的數據，再卸載該解決方案。步驟步驟1 登錄應用編排服務應用編排服務AOS資源棧，找到該解決方案創建的資源棧，單擊資源棧名稱最右側“刪除”按鈕，在彈出的“刪除資源?！碧崾究蜉斎隓elete，單擊“確定”進行解決方案卸載。解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司18圖圖 3-25 一鍵卸載-結束結束解決方案實踐基于開源模型構建高可用 AIGC 應用3 實施步驟文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司194 附錄附錄名詞解釋名詞解釋基本概念、云服務簡介、專有名詞解釋彈

32、性云服務器 ECS：是一種可隨時自助獲取、可彈性伸縮的云服務器，可幫助您打造可靠、安全、靈活、高效的應用環境，確保服務持久穩定運行，提升運維效率。彈性負載均衡 ELB：將訪問流量自動分發到多臺云服務器，擴展應用系統對外的服務能力，實現更高水平的應用容錯。彈性公網IP EIP：提供獨立的公網IP資源，包括公網IP地址與公網出口帶寬服務?？梢耘c彈性云服務器、裸金屬服務器、虛擬VIP、彈性負載均衡、NAT網關等資源靈活地綁定及解綁。虛擬私有云 VPC：是用戶在云上申請的隔離的、私密的虛擬網絡環境。用戶可以自由配置VPC內的IP地址段、子網、安全組等子服務，也可以申請彈性帶寬和彈性IP搭建業務系統。對

33、象存儲服務 OBS：對象存儲服務（Object Storage Service，OBS）是一個基于對象的海量存儲服務，為客戶提供海量、安全、高可靠、低成本的數據存儲能力。安全組：安全組是一個邏輯上的分組，為同一個VPC內具有相同安全保護需求并相互信任的彈性云服務器提供訪問策略。安全組創建后，用戶可以在安全組中定義各種訪問規則，當彈性云服務器加入該安全組后，即受到這些訪問規則的保護。inotify-tools：inotify-tools是一個Linux下的命令行工具，用于監控文件系統的變化并觸發相應的操作。解決方案實踐基于開源模型構建高可用 AIGC 應用4 附錄文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司205 修訂記錄修訂記錄發布日期發布日期修訂記錄修訂記錄2023-08-10第一次正式發布。解決方案實踐基于開源模型構建高可用 AIGC 應用5 修訂記錄文檔版本 1.0(2023-08-11)版權所有 華為技術有限公司21