《A4--楊經緯--百度智能研發提效實踐.pdf》由會員分享,可在線閱讀,更多相關《A4--楊經緯--百度智能研發提效實踐.pdf(35頁珍藏版)》請在三個皮匠報告上搜索。
1、百度智能研發提效實踐楊經緯百度工程效能部前端研發經理楊經緯百度 工程效能部 前端研發經理10+年從業經驗前端工程效能智能研發&智能編碼助手用戶體驗開放平臺目錄C O N T E N T S背景AI for SE(AI賦能軟件工程)智能編碼助手ComateDevops全流程智能化SE for AI(AI原生基礎設施建設)Comate Stack落地措施與效果思考與展望背景:智能研發的現狀與趨勢智能研發現狀與發展趨勢智能研發領域在技術上處于持續上升期,即將進入更廣泛的大眾視野。據Gartner聲稱,到2028年,75%的企業軟件工程師將使用AI代碼助手全球生成式AI獨角獸企業估值表全球生成式AI獨
2、角獸企業共22家,其中6家核心業務涵蓋編程領域全球首個AI程序員Devin8歲小女孩用cursor 45分鐘打造聊天機器人50+AI智能編碼助手橫空出世用戶的過高的需求期待將轉化為更加務實的落地應用。探索AI原生研發新范式探索AI原生研發新范式AI4SE-人機協同SE4AI-換道交付更多研發階段擴展LLM能力Devops全流程智能化擴大跨階段的能力多角色、全場景協同人機協同重構整體過程全面AI Agent加持重構研發過程關鍵編碼提效工具:文心快碼Comate自動化編碼、個性化開發人員輔助豐富、精準、極速、流暢、安全、開放AI原生應用開發平臺AI原生應用托管 AI原生應用測試AI原生應用監控與T
3、racePrompt工程數據工程效果評估Prompt生成、調試、發布數據采集、加工、構建人工評估自動評估研發核心環節輔助:智能編碼助手人機協同:核心編碼環節工具-Comate模型與工程相結合精準極 致 的 推 薦 速 度極速流暢的使用體驗體驗守護企業代碼安全安全打造更適合用戶的研發助手開放具備豐富的產品能力豐富豐富的能力矩陣準確的推薦效果:采納率46%,喜馬拉雅44%發起請求 動態延遲觸發 用戶行為預測預處理 基于編程現場的知識增強 精細化上下文提取模型推理 智能判斷推理粒度后處理 語法正確性校驗 低質內容過濾 重復性、安全性檢測專屬代碼大模型模型訓練 監督學習 強化學習數據工程 豐富的數據來
4、源 預處理 數據清洗與精標訓練專屬代碼大模型,結合工程化解決方案,在多個環節提升推薦準確性。性能:行業領先,超越Copilot編碼過程是一個連續、專注的過程,打斷、等待對持續編碼的工程師是負面反饋。推理速度每慢100ms,采納率降低5%。代碼續寫的性能訴求相比普通文本生成更高,在保證質量的前提下,需要關注響應速度。服務端端模型全流程提升響應速度 多級緩存 非阻塞性任務并行執行 流式請求處理 執行狀態顯化 代理服務轉直連 硬件與網絡資源優化 異步計算 高性能推理加速 高效模型壓縮 模型選擇用戶體驗:集團滿意度90%03體驗優化閉環持續觀測與優化用戶反饋閉環:用戶反饋閉環率85%+01建立標準用戶
5、滿意度體系:定期調研,及時更新評測體系單場景用量:by場景關注功能觸達、點贊點踩、采納率等業務效果體驗委員會:建立體驗委員會與嚴格的評審標準,保證能力流暢易用02場景化落地易用性:易觸達、好理解、易上手確定性:生成時機穩定,中間狀態顯化準確性:生成效果穩定,融合業務特性與個人習慣感知層:易觸達認知層:好理解行為層:易上手Just in time貼近用戶習慣避免造成打擾厘清概念信息布局優化增強引導使用流暢,Step by Step交互打磨輸出內容清晰易懂如何增強場景易用性安全:安全增強+安全掃描雙重保障訓練數據安全過濾模型現場推理網絡推理內容風險監測中間人防挾持敏感數據脫敏上傳代碼安全供應鏈漏洞
6、通用漏洞機密掃描安全掃描SQL、SSRF、命令注入等漏洞Log4j2、Fastjson等漏洞AK/SK、密碼、Token硬編碼等問題開放性:連接企業私域與能力,典型標桿提效75%+知識增強能力增強+研發環節集成至編程現場,保持”心流”模式模型增強基于私域知識的效果增強問答助手、業務特性代碼生成等大模型能力業務調優業務 Comate內置能力 編程現場信息 研發流程集成 定制化需求知識中心 私密性Code文檔API 實時性 定制性數據大模型prompt效果:20+業務合作共建,準確率平均提升20%獲得獎項2023 AIIA人工智能十大先鋒應用案例2023年AI4SE”銀彈”優秀案例2024年度優秀
7、軟件產品(中國軟件行業協會頒發)信通院首批AI智能編碼工具4+最高級評級“人工智能+”產品標桿(2024機器之心“人工智能+”標桿示范評選)軟件著作權證書Comate 智能編碼助手軟件已授權專利10+個我們也進行了Devops全流程的智能化落地大模型為Devops智能化帶來新的機會生成式大模型到來后,解決了復雜場景難以落地的問題生成式大模型讓產研同學使用Prompt配合熟悉的工程化方案,就可以快速完成復雜的任務,完成智能化的落地。語義理解能力弱缺少優質數據模型訓練成本高對復雜任務信心不足強大的語言理解能力模型通用性強微調等落地成本低更準確的自然語言交互產品形態:IDE+WEB多端適配1.和原有
8、功能場景化整合。2.引導到對話區完成任務。統一的智能化認知:ComateWebIDE原則:一個能力,多處透出。代碼解釋表單自動填充智能評審智能配置智能綁卡智能工作總結Devops平臺集成智能搜索WEBIDE人機協同:全流程智能化對一個新事物的接受程度是在不斷地接觸之下提高的,不要害怕將能力展現在開發者面前Devops相關的平臺是開發者從需求到發布必經之路,在他的工作上必不可少,因此也是很好地呈現能力的空間需求編寫需求查詢需求文檔查閱代碼評審代碼理解開發測試生成用例裁剪測試錯誤修復風險檢測構建發布配置日志分析部署在Devops全鏈路上透出智能化的能力,打造驚喜感、助力效率提升,增強接受度覆蓋40
9、+研發場景,非續寫場景覆蓋率70%+持續向智能研發終態探索邁進人機協同:進一步探索AI人機協同新模式Agent模式:開發者僅需要把需求文檔寫好,剩下的由 Agent自主思考、拆解需求并執行任務,完成代碼的生成。文心大模型思維鏈能力以智能體方式來思考和執行任務聽懂人的需求,順序執行需求拆解、制定計劃、生成代碼、調試運行等步驟非續寫研發模式:NL2Code、注釋生成代碼、單測非續寫代碼生成占比:35%AI基礎設施建設:Comate StackComate Stack:AI基礎設施建設Prompt 開發和使用指南AI 原生應用效果評估指南AI 原生應用數據集使用規范AI 應用模型管理與使用規范研發規
10、范指南Baidu Comate StackAI 原生研發需求管理流程Prompt 研發流程GenAI 數據研發流程AI 應用開發iPlaygroundAI 應用托管CNAPAI 應用測試TestMate大模型及 AI 應用評估iEValuePrompt 工程iEValue數據工程iDataSet研發流程機制研發工具千帆大模型服務平臺文心一言基礎AI平臺50%工程師開發過 PromptAI 原生應用數據顯著增加75%業務數據上車效率顯著增加47%百度的AI原生重構是全面且徹底的,背后有成熟的規范、流程和工具體系支撐有了工具,如何讓大家都使用起來?組織+機制+統一牽引指標技術委員會事業群執行單元1
11、落地負責人項目化機制運營培訓執行單元N落地負責人組織結構業務落地支撐公司權威的技術組織自上而下的執行網絡分項目推進治理橫向部門支持評優牽引指標:AI代碼生成占比推動工程師與企業AI原生思維演變內容建設基于工程能力要求,開發系列課程,整合內外資源基礎層專項層 AI工具使用 Prompt工程 數據工程 Comate使用 大模型基礎 文心一言 百度千帆 工程意識講師機制豐富內容課程運營學習多樣化的運營形式,覆蓋公司90%以上目標人群工程規范工具指南最佳實踐不同角色不同運營思路機制建設推動完善規范建設,建立相應培訓機制AI原生必修課培訓認證CMC代碼委員會規范機制100%覆蓋緊跟業界動態,宣傳AI原生、低代碼AI原生案例理念運營宣傳效能圓桌會百度工程效能大會先進理念&實踐總結與展望總結背景:智能研發現狀與趨勢AI for SE(AI賦能軟件工程)關鍵編碼環節工具:智能編碼助手ComateDevops全流程智能化SE for AI(AI基礎設施建設)Comate Stack落地措施與效果思考與展望展望:人機協同關系將迎來變革時代未來也必定由人向人機協同向無人職守前進,Be ReadyThanksComate官網個人聯系方式微信公眾號Baidu Comate不只是工具更是企業擁抱AI原生研發范式的強大伙伴