《pg4ml 深度學習框架介紹—郭鐵成.pdf》由會員分享,可在線閱讀,更多相關《pg4ml 深度學習框架介紹—郭鐵成.pdf(24頁珍藏版)》請在三個皮匠報告上搜索。
1、PostgreSQL中文社區第13屆PostgreSQL中國技術大會聚焦云端創新匯聚智慧共享郭鐵成pg4ml 深度學習框架介紹PostgreSQL中文社區pg4ml 的實現原理pg4ml 的模型案例03pg4ml 的規劃展望04pg4ml 的生態位0102PostgreSQL中文社區目錄contents01pg4ml 的生態位PostgreSQL中文社區PostgreSQL中文社區pg4ml 的 AI 生態位pg4ml:我在這里,和這里圖片來源:知乎PostgreSQL中文社區pg4ml 的 DB+AI 生態位圖片來源:知乎pg4ml:我也在這里PostgreSQL中文社區pg4ml 演進歷程
2、2020年淺層機器學習算法的庫內實現2021年有向無環圖的遍歷算法實現2022-2023年驗證CV,NLP 模型2024年集成、生態分布式、GPU、MAAS02pg4ml 的實現原理PostgreSQL中文社區PostgreSQL中文社區pg4ml 的架構PostgreSQL中文社區pg4ml 的數據庫實現神經網絡結構對象數據庫特性主要的數據庫對象數據集tablesm_sc.tb_nn_train_input_buff訓練任務、節點和邊tablesm_sc.tb_classify_tasksm_sc.tb_nn_nodesm_sc.tb_nn_path矩陣運算函數function矩陣基礎運算分
3、類、回歸、神經網絡科學計算其他函數節點匿名函數functionsm_sc.fv_lambda_arrsm_sc.fv_lambda_arr_deltasm_sc.fv_lambda_arr_dloss_dindepdt訓練任務proceduresm_sc.prc_nn_preparesm_sc.prc_nn_train測試和預測函數functionsm_sc.fv_nn_in_outPostgreSQL中文社區pg4ml 函數庫fn_a.矩陣元素的算數、比較、進位、拼接、布爾、位運算、復運算、廣播運算:fn_b.矩陣乘法、轉置、翻轉、鏡像、拼接:fn_c.矩陣的構造、采樣、替換、填充、字符匹配
4、、隨機生成、去殼:fn_d.矩陣的三角函數廣播運算:fn_f.矩陣的切片粒度聚合、矩陣粒度聚合、以某切片值排序、切片粒度定位極值位置:fn_g.機器學習的標準化函數:fn_h.機器學習的激活函數:fn_j.機器學習的卷積、池化:fn_k.機器學習的 lambda:fn_l.機器學習的神經網絡專用:fn_m.機器學習的編碼、解碼:fn_n.機器學習的損失函數:fn_q.導數公式推導:fn_r.復雜函數求導:fn_e.波形處理:fn_i.計算圖的 json 序列化、反序列化:fn_o.復數運算:fn_s.線性代數:fn_p.對 postgresql 補充的 udf 公共函數:700+函數Postg
5、reSQL中文社區pg4ml 矩陣運算符約 100+運算符PostgreSQL中文社區矩陣乘法運算性質公式的運算符表達03pg4ml 的模型案例PostgreSQL中文社區PostgreSQL中文社區pg4ml 符合算子舉例:attention復合算子的構建舉例:復合算子的構建舉例:select sm_sc.ufv_combine_att_qkv(40,64,64,64,64,true)PostgreSQL中文社區pg4ml 實現一種變種構型:ngram_seg attentionPostgreSQL中文社區pg4ml 實現 lenet-5 識別 mnist 手寫體數字如下是如下是 mnist
6、 數據集中一張數據集中一張 28*28 像素灰度位圖:像素灰度位圖:PostgreSQL中文社區模型推理舉例一條一條 sql 查詢語句實現模型推理:select a_pred_out_arr:decimal=4from sm_sc.ft_nn_in_out (2022030501,-已經訓練好或導入進來的模型編號-本模型案例來自:-使用pg4ml 深度學習框架,-構建lenet-5 網絡,-對mnist 手寫體數組數據集做訓練,array.-此傳入輸入數據,比如圖像數據 )PostgreSQL中文社區模型推理結果0.0000 -手寫體數字為 0 的概率,0.0000 -手寫體數字為 1 的概率
7、,0.0000 -手寫體數字為 2 的概率,0.0004 -手寫體數字為 3 的概率,0.0000 -手寫體數字為 4 的概率,0.0000 -手寫體數字為 5 的概率,0.0000 -手寫體數字為 6 的概率,0.9805 -手寫體數字為 7 的概率,0.0000 -手寫體數字為 8 的概率,0.0191 -手寫體數字為 9 的概率04pg4ml 的規劃展望PostgreSQL中文社區PostgreSQL中文社區pg4ml 的特點開發語言:SQL,而不是 python模型構建:配置方式,而不是編譯算力驅動:算力驅動:不限于于 CUDA算子標準:兼容 ONNX 的庫內自定義增強算子類型。PostgreSQL中文社區pg4ml 的潛在優勢模型制造過程下沉至運維和 DBA,減輕減輕 AI 工程師成本AI 時代時代,為關系型關系型數據庫賦能GPU 廠商多多一種種算力生態選擇SQL 實現 AI in DB 的標準制定者,AGPL 協議的開源跟項目PostgreSQL中文社區感謝聆聽!PostgreSQL中文社區聯絡方式:聯絡方式:郭鐵成郭鐵成13537659360 深圳深圳