盧建暉-LLMs 應用實戰 - Copilot 到智能體應用進化的思考-掘金.pdf

1、LLMs 應用實戰-Copilot 到智能體應用進化的思考盧建暉微軟高級云技術布道師從 Chat 方式的改變開始談起ChatbotChatbotAIAI AgentAgentCopilotCopilotCopilot vs AI AgentsPrompt(目標)打稿，或者初步結果GitHub Copilot(目標，工具，資源，校驗)AI AgentGitHub Copilot 的進化就是一個例子在微軟內部的應用框架首先我們來看看 Semantic KernelFoundaon ModelsUserAI AppDevsAI UXSamplesCopilot ChatStateMemoriesQd

2、rant Vector DBSide EffectsPlugins&Connectors1,400 Power PlaIorm ConnectorsModelsAuto integraonOpen AI,Azure Open AI,Hugging FaceAconsPlannerSequenal plannerEnterprise ReadyDev CycleTelemetry&ToolingVS CodeDocs&SupportSemantic Kernel 的一大特色ernelIve been designed to orchestrate complicated LLM AI promp

3、ts combined with native code,use multiple AI models,and I have a special skill to PLAN.”“SKILLSPLANNERI take a users ask and generate a step-by-step plan that draws upon available skills.”“123Planner generates steps that use available SkillsSTEPSASK 和 Langchain 比更適合工程化 支持更多傳統的編程環境 Java,.NET,Python 對

4、于 Prompt 的私有化管理有更好的方式 易于擴展，在 Copilot 應用開發中更有優勢Prompt flow 的引入是有原因的私人數據訪問私人數據訪問提示工程提示工程性能與評估性能與評估版本控制和可重復性版本控制和可重復性人工智能安全人工智能安全 提示工程流程需要簡化的方法 快速工程是迭代且具有挑戰性的，涉及多個步驟數據準備制作定制提示使用 LLM API 執行提示細化生成的內容應對迭代中的挑戰生產設計、評估、完善、優化、生產快速設計的迭代過程快速設計的迭代過程平臺針對調整和迭代 LLM 支持的工作流程進行了優化Azure Machine Learning Prompt FlowAzur

5、e Machine Learning Prompt Flow 是一款開發工具，旨在簡化由大型語言模型(LLM)提供支持的 AI 應用程序的整個開發周期，提供全面的解決方案來簡化 AI 應用程序的原型設計、實驗、迭代和部署過程。Promptflow 做了啥 增強開發工作流程開發連接到各種語言模型、外部數據源、工具和自定義代碼的流程 測試和評估使用大型數據集并行測試流程使用性能、基礎性和準確性等指標評估工作流程的 AI 質量 提示工程調整輕松調整提示工程和版本 比較和部署比較不同的結果一鍵部署到托管端點以實現快速集成開發環境有更多的選擇AutoGenAutoGen 是一個框架，支持使用多個代理來開發 LLM 應用程序，這些代理可以相互對話來解決任務。AutoGen 代理是可定制的、可對話的，并且無縫地允許人參與其中。他們可以結合 LLM、人工輸入和不同工具的各種模式運行。我們如何選擇框架？Semantic Kernel 和 LangChain？指令組合幫我根據書本的內容，生成 PPT，并生成每一頁的腳本Prompt 提取文檔KBPrompt 生成PPTPrompt 生成腳本前端后端Prompt flowPrompt flowPrompt flow架構進化AI Agent 融入后更進一步規劃記憶工具AI Agent 的特點