與Spring AI Alibaba建立有效的AI代理商.pdf

《與Spring AI Alibaba建立有效的AI代理商.pdf》由會員分享，可在線閱讀，更多相關《與Spring AI Alibaba建立有效的AI代理商.pdf（30頁珍藏版）》請在三個皮匠報告上搜索。

1、云原生+AI Meetup Build effective AI agents withSpring AI Alibaba張健川阿里云技術專家Spring AI Alibaba PMC、Nacos CommitterContents目錄01初探 Spring AI Alibaba02Spring AI Alibaba 深入理解03Spring AI Alibaba 開發實踐04未來規劃初探 Spring AI AlibabaIntroduce of Spring AI Alibaba01LLM 應用落地范式演進Chat進一步提升模型準確性、可相信度等解決更復雜任務帶來的精度和準確性問題解決模型

2、精度、幻覺等問題解決模型單次調用精度問題單一LLMOptimized ChatRAG ChatAgentMulti AgentModel ServingModel ServingModel ServingModel ServingModel ServingworkflowAgent人為編排AgentVectorDB模型編排VectorDBDataSourceOuterServiceAgentMultiAgent1次N次N次N次N次Java 開發者應該如何構建 AgentSpring AI Alibaba 項目Spring Cloud負載均衡網關分布式追蹤斷路器路由分布式配置函數分布式消息安全N

3、acos ConfigNacosSentinelSeataOSSSidecarSchedulexSMSRocketMQ阿里云平臺服務集成 Spring Cloud 標準實現 開源產品Spring Cloud AlibabaSpring Cloud6年積累，Spring Cloud Alibaba 開源與 Spring Cloud 官方深度合作，在中國微服務領域得到廣泛應用，取得巨大成功！2024年5月，Spring 官方發布 Spring AI 1.0.0-M1 版本2024年9月，阿里云正式發布 Spring AI Alibaba 開源項目迄今，已提供 DashScope 大模型全套支持，新

4、增 20+Agent Toolhttps:/ AIModelToolEmbeddingOutputParserPromptRAGAgent低代碼FlowPrompt模板管理MemoryEvaluation可觀測部署模式SidecarVectorStoreTool Calling網關限流Spring AISpring AI Alibaba+Spring AI Alibaba 開源項目基于 Spring AI 構建，是阿里云通義系列模型及服務在 Java AI 應用開發領域的最佳實踐，提供高層次的 AI API 抽象與云原生基礎設施集成方案，幫助開發者快速構建 AI 應用。一個完整的 Spring

5、 AI Alibaba 示例1.添加依賴2.指定 API-KEY3.Spring Boot 啟動類4.創建一個 ChatClient 類型的 Spring BeanChatClientRestTemplateModelVectorStoreFunctionCallingHttpClient SDKJDBC/CacheLocal CallbackAdvisorInterceptorSpring AIWeb ClientSpring AI Alibaba 深入理解02Spring AI Alibaba 核心特性專屬Spring開發者的AI框架Model,Prompt,RAG,Tools阿里云大模型

6、與云原生最佳實踐基于 Spring AI 官方開源項目，原生支持 Spring Boot 體系，為你的 Bean 帶來生成式AI 能力。兼具提示詞模板、函數調用、格式化輸出等低層次抽象與RAG、智能體、對話記憶等高層次抽象。通義系列 AI 模型驅動，深度集成網關、模版管理、serverless、可觀測等云原生應用基礎設施。AI ModelsLLMGen AI ModelImage Gen ModelVoice to Text ModelText to Voice ModelEmbedding模仿人類認知處理和生成信息，多模態的輸入輸出DashScopeAudioTranscriptionMod

7、elDashScopeSpeechSynthesisModelDashChatModelDashScopeEmbeddingModelDashScopeImageModelPrompt代碼中指定設置Prompt從本地文件加載Prompt配置提示詞用于指揮模型按照預設的思路去思考問題、輸出內容，引導大模型按照預期作出特定的回應企業級AI服務&配置管理Dynamic PromptTemplateAI ConfigurationManagement&SecuritySpring AI AlibabaMSE NacosPrompt模板全托管Model Options 熱更新AI敏感配置加密存儲AI A

8、gentService RegistryAI Model/服務發現AI Model/服務注冊Prompt模板動態下發業務配置灰度發布Function CallingRAG 檢索增強生成Graph&StudioSpring AI Alibaba 可觀測性架構CollectMicroMeterSDKOpenTelemetryJava APIJava InstrumentationChatClientVectorStoreFunctionCallingChatModelEmbeddingModelImageModelModel CallRetrieverRerankerToolCallingAdvi

9、sor CallServiceObservabilityOuter CallLLM ModelMiddlewareMicro ServiceCloud ServiceObservability StorageMetricsTraceLogsPrometheus阿里云可觀測JaegerZipkinInflux DBClick HouseObservability Frontend阿里云可觀測JaegerGrafanaGenerateExportSpring AI Alibaba 可觀測性核心特性 全面兼容 OpenTelemetry 協議：OpenTelemetry 是供應商和工具無關的可觀測性

10、框架和工具包，已經成為可觀測數據創建和管理的事實標準，擁有豐富的開源和商業化集成生態。兼容 OpenTelemetry 協議意味著在可觀測架構選型上具有很好的自由度。Spring AI AppOTel CollectorJava AgentDirectly ExportLocal logObservabilityBackend 多樣化的可觀測數據導出方案：支持直連、Java Agent、OTel Collector、本地導出等多種導出策略，允許您根據可觀測訴求和網絡環境自由選擇合適的導出方案。阿里云應用實時監控服務（ARMS）深度集成：支持零代碼接入阿里云服務，快速解鎖模型評估、成本分析、Tr

11、ace Copilot 等多種企業級能力，為您的Agent 應用保駕護航?？捎^測性解決方案MetricsLogs場景化大盤告警數據加工語義分析TraceTrace Copilot成本控制故障應急錯慢歸因提示詞調優幻覺分析性能優化聚類分析模型評估數據挖掘可視化開發基本數據平臺能力應用場景Spring AI Alibaba 開發實踐A practice of Spring AI Alibaba03示例：智能機票助手說明與架構圖Spring AI Alibaba 提供的核心抽象 Prompt Template Function Calling Conversation Memory RAG我們將基于

12、 Spring AI Alibaba 框架開發一個智能機票助手，它能夠自助幫助顧客完成：機票預定、問題解答、機票改簽、取消等動作。該智能助手能夠：基于 AI 大模型與用戶對話 支持多輪連續對話 理解機票操作相關的術語與規范，并嚴格遵守 在必要時可調用工具輔助完成任務示例解析：使用 ChatClient 組裝 Agent示例解析：Function Calling示例解析：Conversation Memory啟用 Spring AI Alibaba 的可觀測性在啟動命令中添加：-javaagent:/path/to/aliyun-java-agent.jar-Darms.licenseKey=ARMS_LICENSEKEY-Darms.appName=ARMS_APPNAME未來規劃Next step of Spring AI Alibaba04幫助 Java 開發者進入 AI Native 時代云原生+AI Meetup Thank youThank youThank you體驗智能機票助手 訪問阿里云云原生應用開發平臺 CAPhttps:/ 部署智能機票助手體驗智能機票助手 訪問智能機票助手頁面開始對話