《黃斌-企業軟件與AI原生應用.pdf》由會員分享,可在線閱讀,更多相關《黃斌-企業軟件與AI原生應用.pdf(50頁珍藏版)》請在三個皮匠報告上搜索。
1、企業軟件與AI原生應用黃斌 暢捷通信息技術股份有限公司演講嘉賓黃斌用友(暢捷通)基礎技術研發總監,技術委員會技術架構負責人十五年以上軟件及互聯網技術產品從業經驗,曾在360、美團等大廠參與AI平臺、搜索等智能工程架構工作,在企業級軟件開發、微服務治理、搜索工程、AI平臺等領域有豐富的經驗。4目 錄CONTENTS1.應用形態的變革趨勢2.知識問答-RAG實踐3.Agent開發平臺搭建4.Agent應用開發實踐5.企業軟件的新方向應用形態的變革趨勢PART 01應用形態的演進基本功能C/匯編/神秘WPSDOS圖形界面GUI設計與開發QQWindows瀏覽器跨平臺用戶體驗、在線淘寶Web隨時隨地觸
2、屏體驗抖音移動互聯網智能化自然交互ChatGPTAI原生應用7傳統-預設/標準01產品設計好的固定界面,預設能力和交互,標準化強。設定的UI/UE02通過代碼/流程配置能力提供出復雜的業務服務。設定的代碼/配置8創新-AI成為企業生產力的一部分01以更人類更自然的方向進行多模態交互。交互-開放的Chat體驗02通過Agent的規劃Tools能力升級流程,并且滿足長尾、更加個性化的業務需求。流程-Agent編排9創新-從面向流程到面向目標10大語言模型落地的幾個階段通過提示詞工程獲取想要的結果。LLM基礎模型引入檢索增強機制,為LLM外掛專業知識與私域知識。RAG檢索增強構建智能體,基于用戶目標
3、分解并規劃任務執行。Agent智能體構建多智能體系統,協同工作,處理復雜任務,解放生產力。Multi Agent探索落地11系統架構12知識問答-RAG實踐PART 02小暢助手-產品更易用 客服更智能產品生態客戶聊天群-輔助客服側邊欄應用14小暢助手消息轉發與調度中心(主動推送+被動觸發)扮演角色角色需求應用對接接入位置企微客戶-智能ai服務客戶專屬群,提高企微客戶回復效率主動&被動發送企微客服-客服助手客服背后的智囊團小暢ai助手-產品助手與客戶互動,為客戶答疑解惑,協助工作消息發送模板知識問答&產品API轉人工能力企微社群企微側邊欄(碎片化對接)產品內(標準對接)消息發送模板接口API功
4、能查詢前端配置(碎片化)消息發送模板知識庫&API轉人工能力前端配置知識問答任務執行數據查詢通用需求場景需求客戶情況近期高頻問題自動推送消息拉取群中文件同步至系統與系統已有能力協作:如打開菜單售前售后生態ISV服務中臺工單信息.訂單情況生態消息訂單數據.客戶數據查詢稅表信息產品能力基礎語料庫消息調度管理幫助文檔類圖片類視頻類語音類文本類Function Tool機器人管理什么場景什么人發出什么內容效果如何選擇推送位置用戶標簽+聊天內容話術+交互卡片數據看板機器人配置機器人管理安全護欄知識庫同步知識庫Sug提示詞工程應用編排Agent日志標注語料庫管理暢捷智融.語料采集語料生成語料審核數據看板風
5、險合規管理AI應用平臺OpenAPI異常維護知識問答任務執行15Balance-開放與封閉VS.LLM輸出有幻覺&期望輸出可控16整體流程設計01 提問前引導用戶:熱門問題、猜你想問02 輸入中提高效率,優化匹配:語音輸入、輸入聯想、相關問題推薦03 解答中提升準確率、優化體驗:召回優化、流式輸出、近似直出、相關問題引導04 解答后收集反饋:收集用戶滿意度,持續優化體驗;抽檢評測17RAG整體方案-索引+生成索引階段-分塊策略-語料自動整理與生成-語料評級-結構化索引生成階段-情緒判斷快速轉人工-精確匹配快速響應-Query改寫提升Query質量-多路召回優化語料召回質量-審核角色提升體驗-1
6、8實際落地-AI應用流程編排19評估方法20Agent開發平臺搭建PART 03Agent的核心邏輯“以大語言模型為大腦驅動,具有自主理解感知、規劃、記憶和使用工具的能力,能自動化執行完成復雜任務的系統?!?2Tools+Action-技能的聲明與實現知識:RAG技能:API-后端API-前端應用/工作流23技能聲明事實規約-OpenAI030201函數名稱入參聲明函數描述https:/json-schema.org/understanding-json-schema24后端API-OpenAPI規范簡介OpenAPI3.0是RESTful API的規范標準,用于定義API的結構、接口、參數等
7、。接口描述使用YAML或JSON格式描述API,包括路徑、方法、請求體、響應等。入參說明詳細定義接口入參的類型、格式、是否必填等,確保接口調用的準確性。響應格式定義接口響應的狀態碼、響應體結構、數據類型等,便于客戶端理解和處理。25后端API-實現方法1、聲明OpenAPI轉化為函數聲明三元素2、實現Python Requests-個性化生成OpenAPIRequester-通用函數26前端API-實現方法27RAG&應用/工作流三元素RAG知識庫或應用名稱生成方法命名知識庫:聲明主要包含的內容應用:聲明解決的問題是什么方法說明知識庫:Query String應用:Query,History,
8、其他參數說明28Agent節點支持能力Prompt詞:為Agent補充角色、任務、上下文限制等。工具集:1、動作:選擇要啟用的后端OpenAPI接口2、知識庫:選擇要啟用的知識庫(支持多路召回)3、插件:選擇要啟用的其他應用4、前端函數:不在界面上體現,可以通過SDK對接此AI應用時自動注冊29Agent應用開發實踐PART 04Agent起航-POC展示31Agent起航-POC說明商品庫存訂單后端API前端API繪圖交互Prompt詞角色定義以及業務規則、背景指導32新的選擇-研發助手慢GPT4響應快內部工具開發33研發助手-痛點問題測試環境報錯了,一臉懵?01平臺有沒有提供這個功能組件,
9、我要不要重新造輪子?02這個組件功能要怎么用?有說明文檔嗎?誰能幫幫我?03團隊最近有沒有快過期的重要任務?不能一個個問吧?04周五啦,要交周報了,事也忘差不多了,整理起來好麻煩?050634開發環境診斷-思路與工具定位請求異常,分析請求參數和響應結果,識別錯誤類型和原因。查請求日志執行系統健康檢查,檢查服務狀態、資源使用情況等,確認系統是否正常運行。健康檢查查看應用啟動日志,分析啟動過程中的錯誤和警告信息,定位啟動失敗的原因。分析啟動日志后端API后端API后端API35文檔知識-思路與工具通過Wiki內容快速了解各組件的使用說明,以及負責人、分工等情況。查知識RAG知識庫36周報助手-思路
10、與工具本周新增、推進的任務、截止本周尚未完成的任務等。查JIRA代碼倉庫及對應提交、提交日志、代碼評審記錄等。查Git會議、評審、面試等安排。查日程后端API后端API后端API37應用編排方案一-單Agent38應用編排方案二-多Agent39應用發布-體驗Agent的能量40內部提效實例-Code Review小助手41企業軟件的新方向PART 05語音開單-流程編排43圖片開單-流程編排44重構企業軟件形態-三位一體協同010302智能-業務智能引入AI助手,通過自然交互方式滿足用戶個性化需求。數據-業務洞察整合數據分析工具,實現數據可視化,幫助用戶快速理解業務數據,做出明智決策。業務-處理與協同傳統軟件強調的高效、簡潔的操作界面,支持多用戶、多任務的協同處理,提升工作效率。45重構企業軟件形態-三位一體協同示例業務場景頁簽區(切換模塊功能)快捷入口區業務洞察業務協同業務智能業務場景根據不同角色及構建的業務界面及服務業務洞察嵌入側滑式數據類應用服務業務協同上下游(內部及社會化寫作)的業務協同服務(含審批場景,屬于內部協同)業務智能大模型驅動的業務智能/AI服務46回顧總結AI原應時代,再造交互與流程知識問答中全流程設計,特別是RAG落地的實踐12如何搭建Agent節點能,特別是API技能的接法3重構企業軟件的新形態-三位體協同447THANKS