《愛分析:2024大模型安全流通平臺市場廠商評估報告:攬睿星舟(22頁).pdf》由會員分享,可在線閱讀,更多相關《愛分析:2024大模型安全流通平臺市場廠商評估報告:攬睿星舟(22頁).pdf(22頁珍藏版)》請在三個皮匠報告上搜索。
1、 1?|?-?2?|?-?1.?1 2.?4 3.?8 4.?14?15?16?17 3?|?-?1?|?-?1.?模?2023?ChatGPT?2023?2023?CIO?CTO?CEO?CMO?務?2023?務?50?2023?夠?2024?120?夠?務?務?務?LLMOps?夠?2?|?-?送?3?|?-?4?|?-?2.?l?圖 1 大模型開發及應用全流程?覆?務?務?5?|?-?l?務?l?告?CEO?IT?IT?l?AI?AI?務?務?務?AI?告?務?AI?告?務?l?模?6?|?-?l?1.?2.?1?POC?7?|?-?8?|?-?3.?Lanrui-ai?務?AI?AI?
2、AI?AI?Serverless?AI?AI?模?CPU?KMS?9?|?-?圖 2 一站式 AI 服務平臺和 AI 應用生態攬睿星舟架構圖?攬睿大模型流通解決方案主要賦能四類參與主體,包括:數據提供方、基礎模型開發者、參與行業大模型調優的服務團隊以及使用大模型的業務部門。在能力方面,該方案支持客戶一鍵構建安全開發環境,為大模型各參與方提供全方位的安全保護。在算力方面,相較于自建計算中心或采購大型云廠商算力,攬睿星舟可以為客戶提供高性價比算力支持。此外,方案通過不可篡改的方式保留數據授權記錄與模型調用記錄,進而解決商業收益分配問題,加速大模型生態共建。在服務經驗方面,攬睿星舟 AI 客戶眾多,
3、擁有豐富的服務經驗,深刻了解用戶需求。l 賦能大模型生態各方,為要素流通保駕護航。大模型開發及應用全流程主要涉及數據提供方、基礎模型開發者、參與行業大模型調優的服務團隊以及使用大模型的業務部門等四類參與主體。在大模型應用落地過程中,四類參與主體通常缺一不可,合作過程中需要解決信任及隱私安全保護問題,其中包含:數據提供方面臨數據被使用過程中的各類不安全因素;基礎大模型 10?|?-?開發者面臨基礎模型產權被竊取風險;參數調優服務方面臨數據可觸達性以及調優成果遺失風險;業務方面臨事關核心商業競爭力的業務數據泄漏危險。攬睿大模型流通解決方案集成了多項技術能力,從機密可信計算到跨云算力調度、數據編排等
4、,可以為各類參與主體提供模型、數據集與服務有效安全串聯,實現數據和模型的保護。圖 3 攬睿大模型流通解決方案示例 在解決方案的保護下,大模型生態的各類參與主體都能夠在合法合規、保護本方數據、產權與權益的前提下安全、高效地協作,同時也滿足用戶對于模型專業化的需求,賦能大模型技術進步和產業落地。l 提供集群運行環境的全方位可信安全保護。攬睿大模型流通解決方案的安全核心是自研的機密可信計算產品“星舟密方”?!靶侵勖芊健笔腔?TEE 和 TPM 硬件構建的云原生可信機密計算集群,為攬睿大模型流通解決方案提供通、安全、效的“零信任”計算環境?!靶侵勖芊健崩脵C密計算硬件的能力,確保整個計算環境中的任何
5、一方,包括數據中管理 11?|?-?員、云平臺管理員在內,都必須經授權才能夠訪問計算集群,或通過計算環境的基礎設施進行其他類型的攻擊。相較傳統僅支持進程級別、虛擬機級別的安全防護方案,“星舟密方”在提供運維及遷移便利性的基礎上為用戶增強了整個集群的安全性與完整性。方案所涉及的安全核心技術已獲得中國信通院多項性能與專項評測。l 提供高性價比且豐富的算力支持。在成本方面,攬睿大模型流通解決方案支持異構算力的完整、安全接入,整合閑散算力“化零為整”對外提供服務,包括但不限于標準化的彈性算力資源、開箱即用的工具和模型生態,為用戶提供“按需使用、按量計費”的算力使用模式與更有競爭力的算力價格。除接入國際
6、主流硬件外,攬睿星舟也在積極參與國產硬件的接入。通過與國內的硬件供應商聯合測試,已積累一定成果與實踐經驗?!八懔a化”工作持續推進,一方面有利于攬睿大模型流通解決方案保持有競爭力的算力價格,另一方面有利于該解決方案勝任更多硬件國產化的應用場景。l 支持一站式開箱即用的 AI 開發環境與工具。攬睿大模型流通解決方案為客戶提供一種先進的、“無感”的異構(機密可信)計算資源服務。在系統中,用戶通過一個統一且標準化的接口輕松訪問所需的計算資源,無需關心背后復雜的算力調度、數據、資源配置和管理。攬睿星舟采用云原生技術,實現與用戶現有軟件系統的無縫對接,大大減輕了用戶的運維負擔。通過這種方式為用戶提供了
7、一個簡潔、高效的計算資源使用體驗,讓他們可以專注于創新和業務發展,而不是技術的復雜性。此外,攬睿星舟致力于為用戶提供一系列開箱即用的第三方資源。這一服務使用戶能夠輕松地使用第三方模型、插件和工具,無需經歷繁瑣的環境搭建和依賴適配。用戶只需簡單選擇所需的資源,即可一鍵啟動一個完善且全面的工作環境,從而高效地推進項目和創意。12?|?-?l 解決商業收益分配問題,賦能 AI 生態高效協作。大模型開發及應用過程中涉及多方貢獻。而大模型商業收益方面一直存在著分配難題,主要在于難以衡量各方貢獻率。方案內置精準計量模塊,可集成基于區塊鏈的存證和激勵系統,在確保用戶數據安全的前提下以不可篡改方式統計并存儲資
8、產授權記錄與推理服務的調用量。各方可基于資產授權情況,結合資源重要性、稀缺性等其他共識,實現商業收益的公平分配?;诤侠淼纳虡I模式,大模型生態的各參與方能夠達成更加高效且安全的協作,共同推動大模型的技術進步和產業落地。目前,在賦能 AI 應用落地的道路上,攬睿星舟已經取得一些實踐成果,包括大數據局、金融機構和人工智能企業在內的多行業客戶已與攬睿星舟形成合作,共同探索并推進大模型技術在實際生產場景的落地。?某城市大數據局、某金融機構、某智能客服企業 13?|?-?14?|?-?4.?15?|?-?務?夠?10?16?|?-?技術研究 新興技術研究,廠商能力調研,助力數字化最優決策 客戶洞察 企業用戶需求及實踐調研,輔助制定業務與市場策略 行業研究 行業數字化趨勢與實踐研判,輔助業務與戰略決策 品牌&營銷 權威背書,樹立行業地位;教育市場,精準觸達客戶 投資研究 成熟方法論,一手數據,助力研判機會、穩健投資 商業研究 基于研究、數據和案例調研積累,輔助業務可靠落地 17?|?-?務?告?模?務?2024?18?|?-?19?|?-?