《蘇震巍-協同研發的流程重塑:使用 AgentManager 打造多智能體 Copilot.pdf》由會員分享,可在線閱讀,更多相關《蘇震巍-協同研發的流程重塑:使用 AgentManager 打造多智能體 Copilot.pdf(70頁珍藏版)》請在三個皮匠報告上搜索。
1、協同研發的流程重塑:使用協同研發的流程重塑:使用 AgentManagerAgentManager 打造多智能體打造多智能體 Copilot Copilot 演講人:蘇震巍 香港理工大學人工智能方向博士研究生,主攻人工智能、數據挖掘、電子商務、信息管理獲國際獎項:Microsoft Regional Director(RD)微軟最有價值專家(MVP)騰訊云最有價值專家(TVP)機械工業出版社專家委員會委員 江蘇省司法廳電子數據鑒定人 微軟技術俱樂部(蘇州)主席 蘇州市人工智能學會理事 QCon、微軟 Ignite、TechSummit 等技術大會講師創始人&首席架構師:蘇震?。↗effrey
2、Su)當前常見開發方式瀑布式敏捷傳統開發流程普遍存在的問題 協同開發過程中的高度耦合(人、技術、信息)信息孤島 溝通障礙 邊界不清晰 整體交付效率低下Multi-Agent 概念AutoGenAutoGen:Enabling Next:Enabling Next-Gen LLMGen LLMApplications via MultiApplications via Multi-Agent Agent ConversationConversationhttps:/arxiv.org/abs/2308.08155關于 AI/Agent 的專訪交流和分享https:/ https:/ 基本工作原理
3、Multi-Agent 工作流舉例 An example workflow to address code-based question answering in supply-chain optimization(opens in new tab).The Commander receives user questions and coordinates with the Writer and Safeguard.The Writer crafts the code and interpretation,the Safeguard ensures safety,and the Command
4、er executes the code.If issues arise,the process can repeat until resolved.Shaded circles represent steps that may be repeated multiple times.Performance on four applications A1-A4.(a)shows that AutoGen agents can be used out of the box to achieve the most competitive performance on math problem sol
5、ving tasks;(b)shows that AutoGen can be used to realize effective retrieval augmentation and realize a novel interactive retrieval feature to boost performance on Q&A tasks;(c)shows that AutoGen can be used to introduce a three-agent system with a grounding agent to improve performance on ALFWorld;(
6、d)shows that a multi-agent design is helpful in boosting performance in coding tasks that need safeguards.Multi-Agent 工作流舉例 An example of a new application enabled by AutoGen:conversational chess(opens in new tab).It can support various scenarios,as each player can be an LLM-empowered AI,a human,or
7、a hybrid of the two.It allows players to express their moves creatively,such as using jokes,meme references,and character-playing,making chess games more entertaining to players as well as observers.GitHub CopilotGitHub Copilot所有模型的硬傷:上下文限制Multi-Agent 研發流程測試端開發管理端運維端Multi-Agent 研發流程解決的核心問題信息層面:知識儲備、
8、更新、共享、存檔效率層面:實時協作與溝通質量層面:優化文檔及代碼生成效率、質量管理層面:輔助邊界控制(需求、測試、風險、合規性管控)*溯源Agent 在 DevOps 及 SRE 中的實踐和應用 Agent 在 DevOps 及 SRE 中的實踐和應用 1.自動告警2.自動管理3.日志收集、集中和分析4.自動化測試(Function/Regression/Performance/Security)5.配置管理和自動編排任務6.容器化和微服務管理(SideCar)7.動態擴展和資源調度8.安全和合規性9.服務發現和負載均衡10.分布式跟蹤11.用戶行為分析12.數據備份和恢復13.測試環境管理1
9、4.健康檢查和自愈15.ServiceMesh16.邊緣計算SRE自動化軟件工程實踐AgentCodeCode&WorkflowAgents 的 ROI效率提升減少錯誤更快的交付周期(結合CI/CD)監控和幫助改進靈活性和可擴展性提升合規性顛覆中遇到的難題顛覆中遇到的難題 工藝限制:提示詞(Prompt)質量、多智能體交互 模型限制:生成能力有限、Token 長度限制、單上下文干涉 模型限制:人機交互下的推理能力限制、新知識更新限制 環境限制:干系人對于完整系統的理解有限 環境限制:缺少工程化配套 工具、工藝、最佳實踐、benchmark 資源限制:數據質量和控制限制 人為因素:人的影響 人為
10、因素:工作方式的變革提示詞工程應用問題:PromptRange什么是PromptRange(提示詞靶場)將構建一整套服務于提示詞工程(Prompt Engineering)的生態。生態成員包括:提示詞調優標準庫(Senparc.Al.Prompt)開箱即用的提示詞調優工具庫(Senparc.Xncf.Prompt)提示詞靶場平臺(www.PromptR)基于移動互聯網和微信的外部終端接入(NeuChar/Senparc.Weixin SDK)可擴展生態開源地址:https:/ 生態Senparc.Alhttps:/ SDKhttps:/ 平合https:/www.PromptR什么是?Prom
11、ptRange 生態TargetZone(靶區)多模型配置及 Token 管理Senparc.Al.Prompthttps:/ 版本管理及歷史記錄Shotgun(散彈)多模型同步測試Aim(瞄準)&Gatlin(加特林)Prompt 自動持續優化CombatScore(戰績)Prompt 效果評估(自動+手動)BattleReport(戰報)多維度性能分析(模型、Prompt、成本)Market(市場)搜索和交易公開的 Prompt功能PromptRange 應用演示第一步:確定或安裝大模型第一步:確定或安裝大模型/小模型第二步:設置模型第三步:開始 Multi-Agent 交互控制問題:Au
12、toGenGitHub:https:/ 開源地址:Agent 擁有的知識采集和更新問題:AgentManagerAgent 和 AI 的問題使用 PromptRange 定義 Agents 角色模板提示詞工程的最佳實踐使用 AgentManager 定義 Agents 并執行對話由 Agents 提供信息檢索、輔助決策、任務執行Multi-Agents Multi-Copilots強化+淡化人的影響:SSCSSC(Senaprc Standardization Committee,盛派標準化委員會)是盛派內部權限最高的部門之一,負責整理、發布所有標準化事項并幫助和監督執行。解決方案-危害緩解的
13、四個層次操作端:IDE 代碼自動補全:GitHub Copilot 代碼生成:NeuCharFramework 自動修復代碼錯誤 智能代碼審查(安全、性能瓶頸、最佳實踐、代碼清理)單元測試、集成測試應用管理端:NeuCharFramework 模塊1模塊2模塊3第三方接口(IoT/外部)引用WebApi/gPRCWebApiDm/Kingbase-pg 等國產數據庫SQL Server/My SQL 等其他數據庫系統基座DatabaseCoreRepositoryCacheLogThreadsUtilitiesImage多數據庫Dm/Kingbase-pg 等國產數據庫SQL Server/M
14、y SQL 等其他數據庫主從備份主從備份Redis/其他緩存Redis/其他緩存主從備份模塊化集成到基座獨立模塊(XNCF)鑒權獨立的數據庫遷移文件獨立線程控制獨立Function靜態資源Razor 頁面版本管理支持獨立數據庫備份AIKernelPromptRangeAPM靜態文件服務靜態文件備份自動運維業務功能模塊運維模塊基于 DDD 的模塊化設計瀏覽器適配器出適配器數據庫端應程序出端領域模型XNCF 模塊NCF 系統基座第三接(IoT/外部)協作XNCF前置模塊第三接(IoT/外部)計算資源和能力調度:Senparc.AI 整體解決方案Senparc.AISenparc.AI.Kernel
15、Senparc.Xncf.AIKernelSenparc.AI.AgentSenparc.Xncf.AgentManagerSenparc.AI.PromptRangeSenparc.Xncf.PromptRangeSenparc.Weixin.AISenparc.Xncf.WeixinManager.Senparc.AI 標準當前 Senparc.AI 生態內已包含 6 個核心項目:開源地址:https:/ 整體解決方案項目說明Senparc.AI為所有標準接口和基礎功能的基礎模塊Senparc.AI.Kernel為基于 Senparc.AI 標準,使用 SemanticKernel 實現的
16、接口調用,可以實現即插即用。Senparc.AI.Agent智能體(Agent)基座,默認使用 AutoGenSenparc.AI.PromptRange基于 Senparc.AI 的 PromptRange(提示詞靶場)標準。Senparc.Xncf.PromptRange基于 Senparc.AI.PromptRange 標準,實現 NCF 即插即用模塊。Senparc.Xncf.WeixinManager附加了 PromptRange 和 AIKernel 能力的微信管理模塊所有模塊都可升級100%開源,Apache License 2.0 開源協議,可商用Senparc.AISenpa
17、rc.AI 已建設完成包括已建設完成包括 AIkernel、Agent(智能體)、(智能體)、Prompt(提示詞)、(提示詞)、終端(微信)在內的一系列基礎標準,并終端(微信)在內的一系列基礎標準,并在這些標準基礎上,使用在這些標準基礎上,使用NeuCharFramework(NCF)的模塊化能)的模塊化能力進行模塊化的實現,做到開箱即用、即力進行模塊化的實現,做到開箱即用、即插即用。插即用。例如,通過例如,通過 AIKernel、PromptRange、WeixinManager 三個模塊的組合,即可三個模塊的組合,即可0 代碼成微信機器人程序,使用少量代碼代碼成微信機器人程序,使用少量代碼即可實現更多擴展功能。即可實現更多擴展功能。數據儲存和管理社區和開發者總結 關注多智能體(Multi-Agents)的開發和應用對未來生產模式的影響 關注生態系統的構建與最佳實踐 關注人機協同的未來THANKS協同研發的流程重塑:使用協同研發的流程重塑:使用 AgentManagerAgentManager 打造多智能體打造多智能體 Copilot Copilot 演講人:蘇震巍