《黃聞欣-AI 重塑技術流程:下半場的破局之道.pdf》由會員分享,可在線閱讀,更多相關《黃聞欣-AI 重塑技術流程:下半場的破局之道.pdf(30頁珍藏版)》請在三個皮匠報告上搜索。
1、AI重塑技術流程:下半場的破局之道演講:victorhuang騰訊云/專項性能程中CONTENTS錄01為什么“下半場”?02保持戰:沉淀-輪03提升戰:提建議-給代碼04打造戰:核競爭01AI 領航:開啟降本增效“下半場”為什么“下半場”為什么是“下半場”?上半場:初步的成本削減和效率提升措施 產品聚焦 員精簡 異地公司 下半場:AI 領航,保戰,提戰 少事多,進來的新缺乏經驗 B 端新企業也容易承壓 異地溝通更困難-簡單的成本削減失效-普通的招數盡:動化-陷死循環:沒精破局員精簡/公司沒精建設經驗者承壓新戰下降AI 這么 但是跟我們的痛 卻并不相連?保持團隊戰:知識傳承來保持戰 板們早看出
2、來了,設定了各種“知識”獎 解決案:知識庫wiki+RAG+AI 難點:RAG 檢索從興奮到冷靜,從完全不能到 ok RAG 的全局性問題效果不佳知識檢索:RAG 從完全不靠譜到OKRAG 推薦技巧解決的問題Small2big更少內容參與到向量檢索 VS 更多內容參與到提示詞推理中Re-rank給向量搜索打補丁檔在普通分塊結果的基礎上為單檔塊提供更細粒度的檔多路召回路徑,提召回率和準確率混合檢索(向量、分詞、Graph)能覆蓋更多的檢索場景,提召回率和精確度,不同的檢索法可以互補,向量檢索擅捕捉語義相似性(中短輸,標檔較集中),分詞檢索擅精確匹配(短輸),圖檢索擅關系推理(涉及復合概念的任務,
3、利圖結構逐步遍歷相關實體概念,深全局檢索相關信息)知識庫加對于低質量、格式雜亂的數據源,利模型本身的信息抽取能和世界知識進抽取和補充,提檔內容質量和分割的準確度RAG fusion基于戶輸成泛化查詢,分別進查詢后進檔重排,提升召回檔的準確性和豐富度遺留問題:-完全沒有提到檔中的 FunctionCall問題:我應該怎么新建提示詞作流,然后不公開分享出去給別使?更進步的知識檢索:拍扁的神經絡=知識圖譜關聯了更多檔中的相關知識點普通 RAG【案例】RUM 單處理輪知識檢索,幫助有多,還是有很多問題穿透過來了知識沉淀:單之痛 1.單本身穿透到原就證明這個缺乏知識沉淀 2.不愿意對的痛或者覺得就這樣吧
4、 3.沒有時間去沉淀RAG解決思路:知識就在經驗者處理單的過程中企業微信聊天記錄AI 提取并沉淀知識從單的聊天記錄中,沉淀出解決案【案例】RUM 單處理輪-沉淀最終沉淀落地的解決案【案例】RUM 單處理輪-庫相似單出現,檢索我們沉淀的解決案【案例】RUM 單處理輪-檢索【案例】RUM 單處理輪-輸出解決案結合單知識庫,輸出解決案依舊有的挑戰1.CoT 與 Context 的限制 2.超上下導致的噪聲 3.具使,更動化WorkFlow我希望你能輔助我們按照下的步驟進腦暴。第步,請你閱讀的內容第步,根據第步的輸出,提取出“會議標”,保留原,不要添加你的理解第三步,根據第步的會議標使選擇器推薦第四步
5、,對第步的設定的腦暴會議標使哲學師對客體進拆解,使數組輸出TOP3組成部分,輸出:組成 1,組成 2,組成 3第五步,根據第步的輸出,提取出“背景”,保留原,不要添加你的理解。第六步,第步輸出的會議標加上第五步輸出的背景作為問題,第四步輸出的TOP3組成部分作為關鍵組成部分,使腦暴師-結構因問題拆解法輸出三個問題。第七步,對第六步的數組中的每個問題使腦暴師-回答問題來回答。第步,示例:n#n1.main-pointn1.1 sub-pointn1.2 sub-pointn.n#2.main-pointn2.1 sub-pointn2.2 sub-pointn.n#3.n,參考上的示例,把第七步
6、的JSON格式的字符串數組輸出成markdown 格式第九步,按照下的格式寫錄 ID 為4012267784的 iwiki 檔,標題:Team 腦暴結果,內容:#注意-Step1 團隊討論并嘗試在下的內容的基礎上進補充也可以進進步拆解,拆解最好能符合 MECE 原則。也可以刪除沒有的維度。切都是盡量則可,后 AI 會再次幫助你的。-Step2 使 fibona:promptid:2389name:腦暴師-補充節點:fibona 來查缺補漏并輸出到新的 iwiki 檔中#AI 輸出的待討論內容第步輸出的內容前步驟成的內容就會變成“噪聲”,輸出的穩定性變差動寫 iwiki動讀取動解釋成 markd
7、ownRuntime動執 js代碼動發企業微信動反編譯代碼動寫 python動使不同的模型【案例】單可以,POC 是不是也可以 POC 之痛,坐在庫上討飯吃 性能優化專家和 IaaS 專家難得出,為什么沒有沉淀下來?期望動化程度更,持iwiki讀寫,多模型提詞,企業微信 上下度限制,總有遺漏的知識WORKFLOW 來串聯具,突破上下按照步驟完成任務:第步:請你獲取企業微信聊天記錄,劃詞粘貼第步:請你調“提取POC技術要點解釋”的提示詞,使提示詞具:提取POC技術要點解釋第三步:對于第步輸出的解釋信息,我會給你修改意,請你根據意和解釋信息調“POC技術要點解釋改進”進優化使提示詞具:POC技術要
8、點解釋改進第四步:使python函數執器獲取第換并且以#開頭的內容作為標題使 python 具進處理第五步:對于優化后的解釋,將其寫到dir_id為4010805008的檔使 wiki 具第六步:對于優化后的解釋,發送到bob的企業微信中使企業微信具進化我們吃狗糧,不斷打磨的 WORKFLOW可性:想針對每個點來調 AI?AI 成的結果不夠好?易性:然語的 workflow,精準描述費勁?動成的代碼出問題了?怎么介紹的提詞呢?AI 動成 拓展性 定義具和參數,但是 AI 怎么理解?不斷調整的FewShot 流程 VS 作流,怎樣多協作?iwiki擴展協作能 可靠性 這么的流程,怎么定位問題?后
9、臺監控,前臺展 模型更新災難?每系統提詞動測試批處理“智能”批處理中斷補充鍵轉FLOW內嵌調試落地成效【案例】RUM 性能微解決案 理想 云是?獨善其到兼濟天下 當年的客戶成功,幫助銀客戶解決他們解決Crash問題 Fibona SDK 的式,提供給 RUM(性能監控)現實 端問題千奇百怪 監控端缺少太多信息,例如空指針導致的Crash 競品其實都沒有太好VS 專家問題分類,逐個擊破 可以定義的FibonaFlow兼容性問題資源問題時序問題法操作第三庫/系統庫錯誤使第三庫錯誤 不斷更新騰訊獨家知識庫空指針線程安全OOMNative Crash內存越界.系統、庫、硬件兼容,RUM統計分析頭部效應
10、Fd泄露、內存泄露.,Hprof 和 fd快照分析空指針、線程安全,基于志的時序分析內存越界等,asan分析官檔升級志和 git 志【案例】RUM 性能微解決案1.AI 沉淀了 80 多篇經過審核的解決案庫 2.利 Fibona AI 持續沉淀/更新中VS某AI 搜索某競正確答案 全部 正確phind成果:這個功能先上線到了崩潰分析模塊結:從簡單的沉淀到構建輪,再到讓輪轉起來檢索知識應知識沉淀知識AI 輔助 知識覆蓋率持續提升 新更快成經驗者有更多時間創造新的價值除了檢索知識,教育知識:1.NotebookLM 持續學習知識 2.持續推薦知識章:你的作流程被 AI 顛覆了嗎?AI 總結助 AI
11、 代碼助 AI 復盤助提升團隊戰:提建議到給代碼 AI 的下步,可以還是 AI 嗎?性能分析的下步是修改代碼,解決性能問題 挑戰:出問題的代碼的關聯上下很多,怎么給,多了有噪聲,少了不靠譜 使抽象語法樹 參考 coderabbit 開源版本,然語描述相關代碼 DROP,RUM 都是性能分析具,沒有具體代碼,怎么給建議與蜂AI聯動,打造“下步”的開發體驗內存申請釋放采集對分析關聯蜂搜索關聯代碼輸出具體修改案AI 診斷結:Fibona AI來打破數據孤島的次元壁內存申請釋放采集對分析關聯蜂搜索關聯代碼蜂 AI 輸出具體修改案AI 診斷代碼管理具:蜂AI 數據:代碼性能分析具:Drop 數據:動態分
12、析Fibona AI未來打造團隊戰:獨特的競爭-怎么才算是核競爭Value 價值Rareness 稀缺性Inimitability 難模仿Organization 組織 定義知識輪 定義協作模式,iwiki&企業微信的配合 定義才培養,NotebookLM 定義領域專業話術,體現專業度 定義動化提升執效率 定義決策模型提升決策效率和正確率 定義并持續更新獨特的知識庫 定義 AI 模型和模型組合 定義AI 深度整合到團隊的平臺和作流程中 定義數據輪,持續SFT定義定義定義定義定義定義定義定義定義定義 POC 和單知識輪 單處理流程、性能優化流程 單/POC 專家知識、終端專家知識庫定義的 Pro
13、mpt和知識庫每個和組織+AI與AI 帶來的定義定義提示詞和workflow定義綁定的平臺定義綁定的知識庫定義各種具定義知識庫定義預加內嵌到可編輯本中 的可觸發 AI 按鈕每個平臺+AI 與 AI 帶來的定義定義SDK/模型+觸發按鈕+展示式SDK浮窗模式SDK側邊欄模式瀏覽器插件模式未來打造團隊戰:獨特的競爭-怎么才算是核競爭Value 價值Rareness 稀缺性Inimitability 難模仿Organization 組織 定義知識輪 定義協作模式,iwiki&企業微信的配合 定義才培養,NotebookLM 定義領域專業話術,體現專業度 定義動化提升執效率 定義決策模型提升決策效率和
14、正確率 定義并持續更新獨特的知識庫 定義 AI 模型和模型組合 定義AI 深度整合到團隊的平臺和作流程中 定義數據輪,持續SFT定義定義定義定義定義定義定義定義定義定義通過定義,探尋到最適合團隊價值觀的,專業領域的,管理式的 AI 協作式 未來基于Fibona AI的騰訊云可觀測平臺RUM 1.提示詞和知識庫當然都是可以定義 2.聯動內部平臺的能也是可以定義最后,Fibona 為什么叫 Fibona?為什么是瀏覽器插件?斐波那契數列(Fibonacci)被稱為“然的代碼”,引初:讓 AI 與的結合更和諧然分析具代碼具執例執測試發現&分析問題解決問題Drop,RUM蜂,IDE知識具沉淀知識iwiki,云知瀏覽器插件能帶著戶權限,成的數據去到每個平臺想解決“難事”:顛覆具孤島 每個平臺的價值 每個平臺的 AI