1、端側端側AIAI變革將至,迎接變革將至,迎接AI PC/PhoneAI PC/Phone時代時代證券研究報告證券研究報告 行業動態報告行業動態報告發布日期:2023年11月7日本報告由中信建投證券股份有限公司在中華人民共和國(僅為本報告目的,不包括香港、澳門、臺灣)提供。在遵守適用的法律法規情況下,本報告亦可能由中信建投(國際)證券有限公司在香港提供。同時請務必閱讀正文之后的免責條款和聲明。分析師:于芳博分析師:于芳博SAC編號:S1440522030001研究助理:辛俠平研究助理:辛俠平分析師:金戈分析師:金戈SAC編號:S1440517110001SFC編號:BPD352 核心觀點:端側核
2、心觀點:端側AIAI是是AIAI發展下一階段發展下一階段,其具備獨立性其具備獨立性、低時延等性能低時延等性能,能夠完成各種能夠完成各種AIAI推理任務推理任務,大模型小型化大模型小型化、端側端側AIAI框架開源等為終端硬件承框架開源等為終端硬件承載載AIAI算法提供了可能;端側算法提供了可能;端側AIAI芯片性能提升芯片性能提升,存儲存儲、模組等升級打通了終端硬件運行模組等升級打通了終端硬件運行AIAI算法的道路算法的道路。AIAI PCPC、AIAI PhonePhone作為端側作為端側AIAI的核心持續向前發的核心持續向前發展展,近期英特爾近期英特爾、高通高通、聯想等國內外廠商持續發布相關
3、產品聯想等國內外廠商持續發布相關產品、戰略規劃戰略規劃,打造智能終端的同時也完善相關產業生態打造智能終端的同時也完善相關產業生態,我們看好端側我們看好端側AIAI產業進展產業進展。端側端側AIAI是是AIAI發展下一階段發展下一階段,大模型輕量化等技術推進端側大模型輕量化等技術推進端側AIAI發展發展。端側端側AIAI具備安全性具備安全性、獨立性獨立性、低時延低時延、高可靠性等特點高可靠性等特點,能很好地完成各種能很好地完成各種AIAI推理任務推理任務。目前目前,多個大模型均已推出多個大模型均已推出“小型化小型化”和和“場景化場景化”版本版本,其輕量化提供了端側運行基礎其輕量化提供了端側運行基
4、礎。此外此外,對于數據精度例如對于數據精度例如INTINT4 4、INTINT8 8的支持優化的支持優化、ExecuTorchExecuTorch等等AIAI框架的開源框架的開源,為端側為端側AIAI進展鋪平道路進展鋪平道路。端側端側AIAI核心在于手機和核心在于手機和PCPC,AIAI PhonePhone和和AIAI PCPC將開啟新時代將開啟新時代。從今年從今年2 2月份舉行的世界移動通信大會月份舉行的世界移動通信大會,高通展示了其手機端離線運行大模型高通展示了其手機端離線運行大模型,到到5 5月份微軟開發者大會高通展示其月份微軟開發者大會高通展示其PCPC運行運行AIAI大模型大模型,
5、再到近期英特爾再到近期英特爾、聯想等發布聯想等發布AIAI PCPC加速計劃加速計劃、發布首款發布首款AIAI PCPC等等,可以看出可以看出,國內國內外廠商持續發力外廠商持續發力AIAI PhonePhone和和AIAI PCPC,端側端側AIAI將走入新的時代將走入新的時代。AIAI PCPC核心升級在于芯片核心升級在于芯片。AIAI PCPC不同于傳統不同于傳統PCPC的主要之處在于其的主要之處在于其SoCSoC芯片中要有芯片中要有AIAI模塊模塊,通過通過AIAI芯片中的芯片中的NPUNPU等模塊為硬件終端提供算力支等模塊為硬件終端提供算力支撐撐,從而運行端側從而運行端側AIAI大模型
6、大模型。過去過去PCPC芯片主要是以芯片主要是以IntelIntel為代表的為代表的x x8686架構芯片架構芯片,AIPCAIPC的提出要求了的提出要求了SOCSOC芯片有芯片有AIAI算力算力,在端側在端側AIAI推理能力推理能力方面方面,過去手機上就搭載了過去手機上就搭載了NPUNPU,高通經驗積累深厚高通經驗積累深厚,IntelIntel的筆記本芯片則是的筆記本芯片則是CPU+GPUCPU+GPU。生態上生態上,WindowsWindows也開始全力支持也開始全力支持ARMARM體系體系,自去自去年開始了多輪支持年開始了多輪支持ArmArm架構芯片的操作系統更新架構芯片的操作系統更新,
7、高通大概率會在高通大概率會在PCPC市場上拿到部分份額市場上拿到部分份額。除芯片外除芯片外,DRAMDRAM、計算模組等有望迎來新的升計算模組等有望迎來新的升級與市場機遇級與市場機遇。我們看好端側我們看好端側AIAI產業進展產業進展,尤其是尤其是AIAI PhonePhone和和AIAI PCPC領域領域,其已有相關產品落地其已有相關產品落地,將傳統將傳統PCPC、PhonePhone結合上結合上AIAI能力有望帶動整個能力有望帶動整個PCPC、PhonePhone產業鏈復蘇;通過將大模型賦能終端硬件產業鏈復蘇;通過將大模型賦能終端硬件,AIAI應用浪潮將有望開啟應用浪潮將有望開啟。核心觀點
8、3UMANAbY9YjZsOsO9P9R7NtRnNpNpMiNoPnMjMpPuMaQmNsRvPrRqPNZnRtQ端側AI是AI發展下一階段資料來源:創業邦,中信建投端側智能化的核心在于數據、底層軟硬件、智能力三個方面。端側設備搭載的傳感器、芯片、算法模型賦予其數據采集、計算、端側智能化的核心在于數據、底層軟硬件、智能力三個方面。端側設備搭載的傳感器、芯片、算法模型賦予其數據采集、計算、分析與推理能力,使其能夠在端側完成數據處理閉環,形成感知、計算、推理三個智能力。分析與推理能力,使其能夠在端側完成數據處理閉環,形成感知、計算、推理三個智能力。當前云側當前云側AIAI呈現向端側呈現向端側
9、AIAI的轉型趨勢。端側運行具備四大優勢:的轉型趨勢。端側運行具備四大優勢:(1 1)通過終端獨立運行以及云通過終端獨立運行以及云-端協同承擔計算負載,可大大降端協同承擔計算負載,可大大降低云端算力需求及能耗成本;(低云端算力需求及能耗成本;(2 2)解決“弱網”“溢云”等極端場景使用難題,保證低時延、高可靠性;()解決“弱網”“溢云”等極端場景使用難題,保證低時延、高可靠性;(3 3)強隱私保護性和)強隱私保護性和強定制性,可生成專有用戶畫像;(強定制性,可生成專有用戶畫像;(4 4)具有自然語言語音交互的天然優勢,可以便捷地獲取圖片、照片、視頻、位置等信息,)具有自然語言語音交互的天然優勢
10、,可以便捷地獲取圖片、照片、視頻、位置等信息,優化使用體驗。優化使用體驗。圖圖表:端側表:端側AIAI是必然趨勢是必然趨勢圖圖表:端側智能化要素表:端側智能化要素 圖表:高通在安卓手機上進行圖表:高通在安卓手機上進行Stable DiffusionStable Diffusion演示演示圖表:高通全棧圖表:高通全棧AIAI優化優化端側AI在于AI Phone與AI PC20232023年年2 2月月,在于巴塞羅那舉行的世界移動通信大會在于巴塞羅那舉行的世界移動通信大會(MWCMWC)上上,高通展示了全球首個在安卓手機上跑高通展示了全球首個在安卓手機上跑AIAI畫圖大模型的能力畫圖大模型的能力。
11、高通高通AIAI ResearchResearch利用高通利用高通AIAI軟件棧軟件棧(QualcommQualcomm AIAI StackStack)執行全棧執行全棧AIAI優化優化,并且并且首次在首次在AndroidAndroid智能手機上部署智能手機上部署StableStable DiffusionDiffusion。首先首先,為了將模型從為了將模型從FPFP3232壓縮至壓縮至INTINT8 8,該團隊使用了高通該團隊使用了高通AIAI模型增效工具包模型增效工具包(AIMET)(AIMET)的訓練后量化的訓練后量化,使模型在高通專用使模型在高通專用AIAI硬件上高硬件上高效運行效運行
12、,在在提高性能的同時提高性能的同時降低內存帶寬消耗降低內存帶寬消耗。在編譯方面在編譯方面,該團隊利用高通該團隊利用高通AIAI引擎引擎DirectDirect框架將神經網絡映射到能夠在目標硬框架將神經網絡映射到能夠在目標硬件上高效運行的程序中件上高效運行的程序中。最后最后,高通高通AIAI引擎引擎DirectDirect框架基于高通框架基于高通HexagonHexagon處理器的硬件架構和內存層級進行序列運算處理器的硬件架構和內存層級進行序列運算,從而提升性從而提升性能并最小化內存溢出能并最小化內存溢出。這一全棧優化最終讓這一全棧優化最終讓StableStable DiffusionDiffu
13、sion能夠在智能手機上運行能夠在智能手機上運行,在在1515秒內執行秒內執行2020步推理步推理,生成一張生成一張512512x x512512像素的圖像像素的圖像。這是在智能手機上最快的推理速度這是在智能手機上最快的推理速度,且用戶文本輸入完全不受限制且用戶文本輸入完全不受限制。資料來源:高通,中信建投 端側AI在于AI Phone與AI PC圖表:在搭載高通芯片的圖表:在搭載高通芯片的PCPC上運行上運行Stable DiffusionStable Diffusion圖表:在搭載高通芯片的圖表:在搭載高通芯片的PCPC上加速圖像處理上加速圖像處理在微軟在微軟Build2023Build2
14、023開發者大會期間,高通展示了其最新的終端側開發者大會期間,高通展示了其最新的終端側AIAI能力,包括驍龍平臺上運行生成式能力,包括驍龍平臺上運行生成式AIAI以及支持在下一代以及支持在下一代Windows 11 Windows 11 PCPC上開發生成式上開發生成式AIAI的工具。的工具。此次高通發布的重點在其驍龍此次高通發布的重點在其驍龍8cx Gen 38cx Gen 3上。高通展示了集成上。高通展示了集成HexagonHexagon運算單元的驍龍運算單元的驍龍8cx Gen38cx Gen3在本地運行的優秀表現,并且為了進在本地運行的優秀表現,并且為了進一步推動其發展,高通開放了一步
15、推動其發展,高通開放了AIAI引擎引擎Direct SDKDirect SDK,讓任何開發者都可以充分利用該硬件進行加速。高通使用集成驍龍,讓任何開發者都可以充分利用該硬件進行加速。高通使用集成驍龍8cx Gen 38cx Gen 3的聯的聯想想ThinkPad X13sThinkPad X13s進行了相關展示。進行了相關展示。1010月月2525日,高通在日,高通在20232023驍龍峰會上正式發布了首款基于自研驍龍峰會上正式發布了首款基于自研CPUCPU架構“架構“OryonOryon”的的PCPC平臺方案平臺方案驍龍驍龍X EliteX Elite,可運行,可運行包括大語言模包括大語言模
16、型型(LLM)(LLM)在內在內的的1 13 30 0億參數大模型,進一步優化自研億參數大模型,進一步優化自研AIAI芯片業態。根據高通公布數據,驍龍芯片業態。根據高通公布數據,驍龍X EliteX Elite單核性能強于蘋果單核性能強于蘋果M2 MaxM2 Max、英特爾、英特爾i9i9-13980HX13980HX,能耗還更低,分別降低,能耗還更低,分別降低30%30%、65%65%。資料來源:高通,中信建投 AI+PC/Phone能大幅提升手機/電腦性能體驗AIAI PhonePhone方面方面,小米小米1414/1414 ProPro搭載相關大模型搭載相關大模型,無需聯網無需聯網,可本
17、地端實現可本地端實現AIAI畫圖畫圖、智能問答智能問答、AIAI寫作等功能寫作等功能,例如根據語音例如根據語音、文文字指示生成對應文本甚至程序代碼字指示生成對應文本甚至程序代碼,可細化到可細化到APPAPP定制文案;另外定制文案;另外,也可根據用戶瀏覽記錄也可根據用戶瀏覽記錄、工作內容生成配套的總結和推送;在工作內容生成配套的總結和推送;在美圖方面美圖方面,配備了配備了AIAI摳圖和修圖技術摳圖和修圖技術,可自動替換背景可自動替換背景、美化人像美化人像,并進行多并進行多APPAPP互動;在用戶進行休閑游戲體驗時互動;在用戶進行休閑游戲體驗時,可自動修改可自動修改為性能模式為性能模式,實時配套幀
18、率;最后實時配套幀率;最后,小米小米1414系列手機也是系列手機也是HyperOSHyperOS系統產品系統產品,可實現與小米旗下的家居互聯可實現與小米旗下的家居互聯,自動調控小米音箱自動調控小米音箱、洗衣機等洗衣機等。AIAI PCPC方面方面,在在20232023 聯想聯想TechTech WorldWorld創新科技大會中創新科技大會中,進行了端側大模型與云端大模型的比較進行了端側大模型與云端大模型的比較。兩個模型同時進行斯德哥爾摩音兩個模型同時進行斯德哥爾摩音樂節的規劃樂節的規劃,生成速度差異不大生成速度差異不大。值得注意的是值得注意的是,端側端側AIAI的規劃內容更加個性化的規劃內容
19、更加個性化,可以將家庭地址可以將家庭地址、酒店偏好等考慮進去酒店偏好等考慮進去。圖圖表:小米表:小米HyperOSHyperOS及及1414系列支持大模型框架應用系列支持大模型框架應用圖圖表:聯想表:聯想PCPC大模型與云端大模型并列演示大模型與云端大模型并列演示資料來源:小米,聯想,中信建投 AI+Phone/PC&需求回暖有望逆轉行業頹勢疫情以來疫情以來,由于消費需求疲軟和庫存調整由于消費需求疲軟和庫存調整,全球智能手機出貨量下滑全球智能手機出貨量下滑,20232023年前三季度為年前三季度為8 8.4 4億部億部,僅為僅為20222022年同期的年同期的8585%,但可但可以看出以看出,
20、2222年年底以來年年底以來,全球智能手機銷量下降幅度開始縮窄全球智能手機銷量下降幅度開始縮窄,今年三季度今年三季度,全球智能手機銷量重回正增長;另一方面全球智能手機銷量重回正增長;另一方面,從微軟從微軟財報可以看到財報可以看到,其個人電腦業務其個人電腦業務,也在也在2424財年財年1 1季度季度(2323Q Q3 3)實現同比正增長實現同比正增長,這也是從這也是從2323財年財年2 2季度以來微軟個人電腦業務重新季度以來微軟個人電腦業務重新回歸正增長回歸正增長??梢钥吹饺蚴謾C與電腦業務有復蘇跡象可以看到全球手機與電腦業務有復蘇跡象,預計預計AI+PhoneAI+Phone/PC/PC能進一
21、步推動行業頹勢逆轉的同時也有助于帶動其自身起量能進一步推動行業頹勢逆轉的同時也有助于帶動其自身起量。資料來源:Wind,微軟,中信建投0.3%-30%-20%-10%0%10%20%30%40%50%05010015020025030035040045012%15%11%2%0%-19%-9%-4%3%-30%-20%-10%0%10%20%30%40%050100150200250300生產力及業務流程智能云個人電腦生產力及業務流程YoY智能云YoY個人電腦YoY圖圖表:全球智能手機銷量從表:全球智能手機銷量從2121年年Q3Q3以來重回同比正增長以來重回同比正增長圖圖表:微軟個人電腦業務時
22、隔四個季度重回正增長表:微軟個人電腦業務時隔四個季度重回正增長 大模型輕量化帶動端側AI發展模型壓縮主要包括模型量化模型壓縮主要包括模型量化(Model(Model Quantization)Quantization)、知識蒸餾知識蒸餾(knowledge(knowledge distillation)distillation)、模型剪枝模型剪枝(Model(Model Pruning)Pruning)、低秩適應低秩適應(Low(Low-RankRank Adaptation)Adaptation)、權值共享權值共享(weight(weight sharing)sharing)、結構搜索結構搜
23、索(architecture(architecture search)search)等方式等方式。目前目前,多個大模型均已推出多個大模型均已推出“小小型化型化”和和“場景化場景化”版本版本,其輕量化提供了端側運行基礎其輕量化提供了端側運行基礎。例如例如,GoogleGoogle PaLMPaLM2 2中包含中包含4 4個大模型個大模型,按照參數規模按照參數規模,從小到大排列從小到大排列為:獨角獸為:獨角獸(UnicornUnicorn)、野牛野牛(BisonBison)、水獺水獺(OtterOtter)和壁虎和壁虎(GeckoGecko)。其中其中,最輕量的最輕量的“壁虎壁虎”可實現手機端運行
24、可實現手機端運行,且速度且速度足夠快足夠快,不聯網也能正常工作不聯網也能正常工作。另一方面另一方面,“小型化小型化”大模型加速生成式大模型加速生成式AIAI垂直方向發展垂直方向發展,加速大模型商業化場景落地加速大模型商業化場景落地?!靶⌒突⌒突贝竽P偷膬瀯莅ǎ捍竽P偷膬瀯莅ǎ?1 1)可降可降低訓練門檻低訓練門檻,降低高算力高投入降低高算力高投入,吸引更多公司參與;吸引更多公司參與;(2 2)聚焦專業領域聚焦專業領域,利于提高數據集質量利于提高數據集質量,加速生成式加速生成式AIAI訓練品質;訓練品質;(3 3)更更容易將大模型與垂直行業需求結合容易將大模型與垂直行業需求結合,發揮出行
25、業應用價值發揮出行業應用價值。資料來源:百度,中信建投圖圖表:百度文心表:百度文心 ERNIE 3.0 Tiny v2 ERNIE 3.0 Tiny v2 壓縮模式及得分比較壓縮模式及得分比較圖圖表:大模型小型化表:大模型小型化模型名字小型化版本PaLM2GeckoLLaMA-7BAlpaca-LORABertAlbertTinyBertHFL/RBT3文心一言文心 ERNIE 3.0 Tiny v2ChatGLMChatGLM-6BBioMedGPTBioMedGPT-1.6B 支持INT4、INT8精度推理,端側AI能力進一步提升定點表示和浮點表示是計算機中常用的數據格式。其中,定點表示中
26、小數點位置固定不變,常用的定點表示有定點表示和浮點表示是計算機中常用的數據格式。其中,定點表示中小數點位置固定不變,常用的定點表示有INT4INT4和和INT8INT8;浮點表示;浮點表示中包括符號位、階碼部分、尾數部分。符號位決定數值正負,階碼部分決定數值表示范圍,尾數部分決定數值表示精中包括符號位、階碼部分、尾數部分。符號位決定數值正負,階碼部分決定數值表示范圍,尾數部分決定數值表示精FP64(FP64(雙精度雙精度)、FP32(FP32(單精度單精度)、FP16(FP16(半精度半精度)的數值表示范圍和表示精度依次下降,運算效率依次提升。的數值表示范圍和表示精度依次下降,運算效率依次提升
27、。端側端側AIAI使用使用INTINT整數精度進行推理,能夠有效提升能效和整數精度進行推理,能夠有效提升能效和AIAI推理速度。高通產品管理副總裁推理速度。高通產品管理副總裁AsgharAsghar曾表示如果將曾表示如果將3232位浮點模型轉化為位浮點模型轉化為INT4INT4整數模型,端側整數模型,端側AIAI能效將提升能效將提升6464倍。為滿足端側倍。為滿足端側AIAI的計算需求,業內已有產品支持的計算需求,業內已有產品支持AIAI模型以模型以INTINT精度推理,例如高通人工智能引擎精度推理,例如高通人工智能引擎AI EngineAI Engine支持支持INT8INT8的數據格式。的
28、數據格式。圖圖表:表:不同應用場景的常見數據格式不同應用場景的常見數據格式資料來源:英偉達,量子位,中信建投數值精度逐漸提升數值精度逐漸提升運算效率逐漸提升運算效率逐漸提升數據格式數據格式構成構成用途用途FP641位符號、11位指數、52位尾數常用于對精度要求高的科學計算FP321位符號、8位指數、23位尾數深度學習模型訓練的常見格式TF321位符號、8位指數、10位尾數替代FP32數據格式實現深度學習和HPC計算加速FP161位符號、5位指數、10位尾數深度學習越來越偏向使用FP16BF161位符號、8位指數、7位尾數提升AI模型的推理速度和部署靈活性INT88個bit表示一個數字INT8精
29、度相對較低,常用于AI模型的端側推理圖圖表:不同數據格式的構成和用途表:不同數據格式的構成和用途科學計算:FP64、FP32AI訓練:FP32TF32FP16AI推理:FP16FP8INT8 PyTorch開源ExecuTorch,相關AI框架已支持端側運行在在20232023年年PyTorchPyTorch大會上大會上,MetaMeta AIAI與與PyTorchPyTorch基金會合作的基金會合作的ExecuTorchExecuTorch模型被宣布可在邊緣和移動設備上實現模型被宣布可在邊緣和移動設備上實現AIAI推理推理。隨著隨著ExecuTorchExecuTorch的開源的開源,AIA
30、I應用程序將可實現本地運行應用程序將可實現本地運行,無需連接到服務器或云無需連接到服務器或云。ExecuTorchExecuTorch可被理解成可被理解成PyTorchPyTorch平臺平臺,提供基礎設施提供基礎設施來運行來運行PyTorchPyTorch程序程序,實現從實現從AR/VRAR/VR可穿戴設備到標準的可穿戴設備到標準的iOSiOS和和AndroidAndroid設備的移動部署設備的移動部署。ExecuTorchExecuTorch有三大優勢有三大優勢:(1 1)可移植性可移植性,能夠在移動和嵌入式設備上運行;能夠在移動和嵌入式設備上運行;(2 2)提高開發人員的工作效率提高開發人
31、員的工作效率。開發人員能夠使用相開發人員能夠使用相同的工具鏈和同的工具鏈和SDKSDK,從而提高生產力;從而提高生產力;(3 3)高性能體驗高性能體驗。輕量級運行配合充分利用輕量級運行配合充分利用CPUCPU、NPUNPU和和DSPDSP等硬件功能等硬件功能,為最終用戶提供了為最終用戶提供了無縫和高性能的體驗無縫和高性能的體驗。目前目前,MetaMeta已將其用于最新一代的雷朋智能眼鏡已將其用于最新一代的雷朋智能眼鏡,成為成為QuestQuest 3 3 VRVR頭顯的組成部分頭顯的組成部分。這一變化也預示將這一變化也預示將PyTorchPyTorch引入了手機和可穿引入了手機和可穿戴設備等邊
32、緣計算平臺戴設備等邊緣計算平臺,進一步邁入設備進一步邁入設備AIAI推理新時代推理新時代。資料來源:PyTorch,venturebeat,中信建投圖圖表:表:ExecuTorchExecuTorch開源開源AIAI推理解決方案推理解決方案圖圖表:表:MetaMeta將將ExecuTorchExecuTorch模型應用于模型應用于Quest 3Quest 3頭顯頭顯 PC芯片關鍵因素能不能用能不能用好不好用好不好用性能及軟件生態性能及軟件生態性價比、時延、功耗性價比、時延、功耗AIAI計算能力計算能力摩托羅拉68000架構Power PC1994年Intel X862005年Arm2020年I
33、ntel處理器的能耗顯著低于IBM的PowerPC對Intel產品研發進度和質量不滿,對芯片低功耗的要求1983年,采用摩托羅拉的Macintosh1990年代,采用Power PC的蘋果Mac G52005年,采用Intel的蘋果Macbook2020年,采用Apple Silicon的蘋果電腦圖圖表:蘋果歷史上的三次電腦架構遷移表:蘋果歷史上的三次電腦架構遷移圖圖表:表:PCPC芯片關鍵因素芯片關鍵因素資料來源:蘋果,中信建投ARM全球/中國生態未來展望PCPC端端ArmArm生態構建生態構建、性能滿足要求:性能滿足要求:1 1)軟件生態構建:解決了之前應用程序稀缺的問題軟件生態構建:解決
34、了之前應用程序稀缺的問題,最新最新windowswindows1111 ArmArm支持支持6464位版本;位版本;2 2)滿足性能要求:蘋果筆記本已經證明滿足性能要求:蘋果筆記本已經證明ArmArm 芯片在芯片在PCPC上的實力;上的實力;3 3)高通與高通與windowswindows ArmArm版本深度合作版本深度合作。ArmArm PCPC優勢:更低的功耗優勢:更低的功耗、跨終端協同跨終端協同,微軟微軟ArmArm轉型旨在使轉型旨在使WindowsWindows可以跨平臺;可以跨平臺;AI PC/Phone主要在于AI芯片升級AIAI PC/PhonePC/Phone相對于原有相對于
35、原有PC/PhonePC/Phone來說來說,主要是其搭載了相關的主要是其搭載了相關的AIAI芯片芯片。云端在深度學習的訓練階段需要極大的數據量和大運算量云端在深度學習的訓練階段需要極大的數據量和大運算量,為滿足運算需求為滿足運算需求,云端云端AIAI芯片采用芯片采用“CPU+CPU+加速芯片加速芯片”的異構計算模式的異構計算模式。不同于數據中心不同于數據中心GPUGPU,手機手機/電腦端芯片主要要求其體積小電腦端芯片主要要求其體積小、功耗低等特點功耗低等特點,往往是采用往往是采用ASICASIC技術路線的芯片技術路線的芯片,這種芯片為專用目的設計這種芯片為專用目的設計,面向特定用戶需求定制面
36、向特定用戶需求定制,在大規模量產的情況下具在大規模量產的情況下具備體積更小備體積更小、功耗更低等優點功耗更低等優點。手機手機AIAI芯片主要由芯片主要由“CPU+GPU+NPUCPU+GPU+NPU”構成構成,通過集成多個模塊通過集成多個模塊,做到提升芯片性能的同時能支持相關做到提升芯片性能的同時能支持相關AIAI應用算法應用算法。例如例如,以高通以高通AIAI芯片為例芯片為例,硬件方面硬件方面HEXAGONHEXAGON向量處理器可以運行涉及向量數學的應用;向量處理器可以運行涉及向量數學的應用;ADRENOADRENO GPUGPU運行對浮點精度有要求的應用;運行對浮點精度有要求的應用;KR
37、YOKRYO CPUCPU支持支持相對較少向量處理相對較少向量處理、非規則性數據結構和非規則性數據結構和/或復雜流程控制的應用或復雜流程控制的應用。資料來源:高通,量子位,中信建投圖圖表:表:云端云端AIAI芯片和端側芯片和端側AIAI芯片技術路線對比芯片技術路線對比圖圖表:表:高通高通HexagonHexagon處理器及其功能示意圖處理器及其功能示意圖定制化程度定制化程度靈活靈活性性成成本本編程語編程語言言/架構架構功功耗耗主要優點主要優點主要缺點主要缺點主要應主要應用場景用場景GPU通用性好高CUDA、OpenCL等大峰值計算能力強,產品成熟效率不高,不可編輯,功耗高云端訓練,云端推理AS
38、IC定制化不好低/小平均性能很強,功耗很低,體積小前期投入成本高,不可編輯,研發時間長,技術風險大終端推理 整合NPU的AI PC芯片正持續發布近年來近年來,多家芯片制造商積極整合多家芯片制造商積極整合NPUNPU到其處理器中到其處理器中,以加速以加速AIAI任務的執行任務的執行。最早發力的蘋果在其最早發力的蘋果在其M M1 1和和M M2 2芯片中成功整合了芯片中成功整合了NPUNPU,其中其中M M2 2 UltraUltra處理器可提供高達處理器可提供高達3131.6 6 TOPSTOPS的算力的算力。同使用同使用OpenAIOpenAI WhisperWhisper語音轉錄語音轉錄sm
39、allsmall模型模型,M M2 2 MacBookMacBook可在數分鐘內完成工可在數分鐘內完成工作作,而搭載而搭載IntelIntel CoreCore i i5 5的的MacBookMacBook則需則需2 2小時小時。在處理生成式在處理生成式AIAI工作負載的性能方面工作負載的性能方面,蘋果蘋果ArmArm處理器比一般處理器比一般x x8686處理器表現更好處理器表現更好。當前當前AMDAMD和和IntelIntel兩大兩大x x8686處理器制造商也陸續推出內建處理器制造商也陸續推出內建NPUNPU的處理器的處理器。今年上半年今年上半年AMDAMD發布發布RyzenRyzen 7
40、0407040系列處理器系列處理器,采用采用XDNAXDNA加速器加速器技術技術,整合整合NPUNPU,提供提供1010 TOPSTOPS的的AIAI算力算力,適用于語音辨識和影像處理等適用于語音辨識和影像處理等AIAI任務;今年任務;今年9 9月月,英特爾發布英特爾發布MeteorMeteor LakeLake的移動的移動PCPC處理處理器器CoreCore UltraUltra,具備低功耗和高性能特性具備低功耗和高性能特性,同時是首款內建同時是首款內建NPUNPU可加速可加速AIAI推理的推理的AIAI應用處理器應用處理器,也是英特爾首款專注于也是英特爾首款專注于AIAI PCPC體驗體驗
41、的處理器產品的處理器產品。資料來源:Intel,蘋果,中信建投圖圖表:蘋果表:蘋果M3M3系列芯片架構和能效雙重提升系列芯片架構和能效雙重提升圖圖表:表:IntelIntel首款集成式首款集成式NPUNPU芯片示意圖芯片示意圖 DRAM存儲也是升級要素之一生成式生成式AIAI模型植入到端側設備中運行一個很重要指標是平均數據速率模型植入到端側設備中運行一個很重要指標是平均數據速率,這需要消耗大量內存計算這需要消耗大量內存計算,對于終端設備的對于終端設備的DRAMDRAM等內存硬等內存硬件設備要求較高件設備要求較高。例如例如,7070億參數規模的億參數規模的LLaMALLaMA模型模型,其其FPF
42、P1616版本大小為版本大小為1414GBGB,而移動設備僅有不到而移動設備僅有不到1010GBGB內存內存,因此通過訓練時間因此通過訓練時間優化優化(如稀疏化如稀疏化、量化或權重聚類量化或權重聚類)來壓縮相關模型才能使其運行在移動設備中來壓縮相關模型才能使其運行在移動設備中,而衡量其性能指標的平均數據速率提升而衡量其性能指標的平均數據速率提升,涉及涉及到到DRAMDRAM到到SRAMSRAM等一系列讀取的過程等一系列讀取的過程。SnorkelSnorkel與斯坦福大學曾提出與斯坦福大學曾提出FlashAttentionFlashAttention,通過優化通過優化DRAMDRAM等內存使用策
43、略等內存使用策略,相較于傳統的相較于傳統的PytorchPytorch而言而言,模型效果有明顯提升模型效果有明顯提升。因此因此,未來若要在手機未來若要在手機、PCPC端運行成百上千億參數量的大模型端運行成百上千億參數量的大模型,DRAMDRAM等存儲升級必不可少等存儲升級必不可少。資料來源:Snorkel,Trendforce,中信建投圖圖表:手機與表:手機與PCPC合計占合計占DRAM DRAM 終端產品份額近一半終端產品份額近一半圖圖表:通過對表:通過對DRAM/HBMDRAM/HBM等內存使用策略改進能很好提升模型性能等內存使用策略改進能很好提升模型性能YoY各產品的份額占比2023PC
44、3.7%12.4%Server17.2%37.0%Mobile6.2%36.9%Graphics7.7%5.2%Consumer16.1%8.5%2022PC19.1%13.2%Server22.7%34.9%Mobile15.3%38.5%Graphics18.7%5.3%Consumer18.6%8.1%模組廠商積極與芯片廠商合作推出相關AI模組端側端側AIAI的發展本質上是終端設備的的發展本質上是終端設備的AIAI化化,終端智能化水平的同時終端智能化水平的同時,對其相關算力模組要求有更進一步要求對其相關算力模組要求有更進一步要求。國內主流物聯網模組國內主流物聯網模組廠商均開始大力布局廠商
45、均開始大力布局AIAI、算力模組領域算力模組領域,在安防在安防、機器人機器人、工業質檢等領域工業質檢等領域,結合高通相應芯片結合高通相應芯片,開發適配智能模組;在筆電領開發適配智能模組;在筆電領域域,中科創達基于驍龍中科創達基于驍龍7 7c+c+GenGen 3 3芯片開發用于筆電的智能模組芯片開發用于筆電的智能模組,目前已被廣泛用于筆電目前已被廣泛用于筆電、PCPC、工業電腦等領域工業電腦等領域。在未來在未來,預計模組將更多以算力模組的形態呈現預計模組將更多以算力模組的形態呈現。模組將不僅僅是硬件設備的一部分模組將不僅僅是硬件設備的一部分,更是提供強大計算能力的關鍵組件更是提供強大計算能力的
46、關鍵組件。算力算力模組將進一步提升模組的價值量模組將進一步提升模組的價值量,使得模組在終端設備中的地位更加重要使得模組在終端設備中的地位更加重要。資料來源:中科創達,廣和通,美格智能,移遠通信,中信建投圖圖表:中科創達基于驍龍表:中科創達基于驍龍7c+Gen 37c+Gen 3芯片開發的用于筆電的智能模組芯片開發的用于筆電的智能模組圖圖表:部分物聯網模組廠商布局表:部分物聯網模組廠商布局AIAI、算力模組領域、算力模組領域廠商邊緣AI布局廣和通公司帶算力的模組主要產品形態是SoC智能模組,已經推出基于高通QCS8250芯片平臺的高算力AI模組SCA825-W,可全面提供高達15TOPS的算力支
47、持;FM160 5G模組與安提國際AI邊緣計算平臺AN810-XNX成功聯調。公司算力模組目前在支付和車載領域應用比較多,在其他的行業拓展包括各類帶邊緣算力終端設備、機器人、IPC安防、工業檢測和控制等行業。美格智能公司在高算力模組領域建立了完善的產品線,可為不同類型邊緣計算場景提供相匹配的算力。公司的智能模組和算力模組產品中集成了AI處理器芯片,相關產品對應的AI算力覆蓋從1.4TOPS到近30TOPS范圍,可為各類智能化場景提供AI算力支撐。移遠通信公司在智能模組、AI算力模組等領域均在做持續性投入。5G、AI等領域的智能化方向不可阻擋,未來公司的這些產品線的前期投入都將帶來持續性的業績貢
48、獻。AI PC的本質是本地端和云端混合協作AIAI PCPC本質是云端與本地端協作本質是云端與本地端協作,利用云端的大數據處理能力豐富本地端的利用云端的大數據處理能力豐富本地端的PCPC使用場景使用場景,依托云端算力來提升本地性能平衡依托云端算力來提升本地性能平衡。聯想聯想CEOCEO認為認為AIAI PCPC是能夠創建本地知識庫是能夠創建本地知識庫,運行個人大模型運行個人大模型,支持人工智能計算支持人工智能計算,運用自然交互的更強大運用自然交互的更強大、更具備創造能力的智能生更具備創造能力的智能生產力工具產力工具。AIAI PCPC最重要特點使用本地知識庫最重要特點使用本地知識庫,保護用戶隱
49、私的同時滿足用戶個性化需求保護用戶隱私的同時滿足用戶個性化需求。AIAI PCPC預計在提升預計在提升PCPC性能的同時性能的同時,帶動帶動PCPC相關銷量相關銷量。AIAI PCPC將成為終端將成為終端、邊緣計算和云技術的顛覆性混合體邊緣計算和云技術的顛覆性混合體。資料來源:群智咨詢,中信建投圖圖表:表:AI PCAI PC本質是混合協作本質是混合協作圖圖表:表:AI PCAI PC演進趨勢演進趨勢傳統傳統PC基礎基礎Smart PC優化優化AI PC智能學習智能學習基礎計算基礎計算數據處理和計算數據處理和計算低下低下需要多軟硬件配合需要多軟硬件配合操作復雜操作復雜需一定基礎需一定基礎基礎基
50、礎辦公辦公/數據處理數據處理低低功能優化功能優化特地場景優化特地場景優化中中本地特定場景優化本地特定場景優化特定場景特定場景操作簡化,要求較低操作簡化,要求較低特定場景特定場景預測分析預測分析高高功能豐富功能豐富NLP/CV等等高高云端協同云端協同簡易化操作界面簡易化操作界面門檻低門檻低學習式學習式智能分析預測智能分析預測中中功能功能效率效率易用性易用性應用場應用場景景成本成本 2024或成AI PC元年:AI PC將逐步替代傳統PC伴隨伴隨AIAI PCPC逐漸出貨且逐漸出貨且PCPC換機周期已至換機周期已至,20242024或成或成AIAI PCPC元年元年。預測到預測到20272027年
51、年,AIAI PCPC出貨量將達到出貨量將達到1 1.5 5億套億套,市場滲透率達到市場滲透率達到7979%,并逐步取代傳統并逐步取代傳統PCPC。當前當前,各大主要各大主要PCPC廠商都對廠商都對AIAI PCPC業態進行展望業態進行展望,AIAI PCPC將成將成PCPC行業拐點成為共識行業拐點成為共識。戴爾將推出帶有戴爾將推出帶有CopilotCopilot的新版的新版WindowsWindows,聯想首批搭載英特爾聯想首批搭載英特爾MeteorMeteor LakeLake芯片的芯片的AIAI PCPC也已推出也已推出。業界業界將逐步追加將逐步追加AIAI PCPC領域投資領域投資,重
52、塑重塑PCPC生產力生產力。資料來源:群智咨詢,Canalys,中信建投圖圖表:表:AI PCAI PC出貨量及市場滲透率預測出貨量及市場滲透率預測圖圖表:表:AI PCAI PC占占PCPC市場比重預測市場比重預測013531101507%28%56%79%0%20%40%60%80%100%120%140%160%180%200%0204060801001201401602023F2024F2025F2026F2027FAI PC出貨量(百萬套)AI PC市場滲透率品牌AI PC展望戴爾未來AIPC將顯著提高生產力。下半年推出帶有Copilot的新版Windows,將加速構建支持AI的PC
53、。AIPC需要搭載更強的CPU,更大的內存和更好的顯示器等惠普AI 是重塑 PC的巨大機遇,并將成為2024年及以后PC發展的重要驅動力。本地運行AI應用能實現更低的延遲和更強的隱私保護聯想聯想首批搭載英特爾Meteor Lake芯片的AI PC于2023年秋季推出,AIPC將成為PC行業的拐點。聯想 PC端還需解決算力和儲存等問題,真正意義上無需聯網即可實現推理的AI PC將在2024年推出。未來3年將向AI領域追加約70億元投資,其中很大一部分將會放在AIPC領域中華碩正與英偉達,AMD和英特爾緊密合作,積極推動AIPC發展。AI PC在硬件層面與傳統PC的最大不同是集成了 IPU和VPU
54、等AI加速單元。預計2024年三季度AIPC相關產品將趨于成熟,將給用戶帶來生產力和娛樂的全新體驗圖圖表:相關廠商表:相關廠商AI PCAI PC展望展望 2024或成AI PC元年:AI PC將逐步替代傳統PC1010月月1919日日,英特爾宣布啟動英特爾宣布啟動AIAI PCPC加速計劃加速計劃,該加速計劃旨在為相關軟硬件供應商提供英特爾的資源該加速計劃旨在為相關軟硬件供應商提供英特爾的資源,共同推動共同推動AIAI PCPC產品產品、方案方案落地落地,具體而言具體而言,通過利用通過利用IntelIntel CoreCore UltraUltra處理器的技術和兼容硬件處理器的技術和兼容硬件
55、,圍繞相關資源圍繞相關資源,實現實現AIAI和機器學習和機器學習(MLML)應用性能最大應用性能最大化化,進而催生全新的使用案例進而催生全新的使用案例,推動推動AIAI PCPC解決方案連接到更廣泛的解決方案連接到更廣泛的PCPC產業產業。英特爾預計其將于包括英特爾預計其將于包括AdobeAdobe在內的在內的100100家獨立軟件供應商進行合作家獨立軟件供應商進行合作,發展發展300300多項多項AIAI加速功能加速功能,計劃將在音頻效果計劃將在音頻效果、內容創建內容創建、游游戲戲、安全安全、直播直播、視頻協作等方面繼續強化視頻協作等方面繼續強化PCPC體驗體驗。據計劃目標據計劃目標,其將在
56、其將在20252025年前為超過年前為超過100100萬臺萬臺PCPC帶來人工智能帶來人工智能(AIAI)特性特性。資料來源:Intel,中信建投圖圖表:英特爾發布表:英特爾發布AI PCAI PC加速計劃加速計劃圖圖表:英特爾表:英特爾AI PCAI PC啟動計劃以酷睿啟動計劃以酷睿UltraUltra為起點為起點 ARM架構PC芯片成為AI PC芯片爭奪制高點在在AIAI大模型時代大模型時代,ARMARM架構有望替代架構有望替代X X8686架構芯片成為架構芯片成為PCPC芯片主流芯片主流。AIAI大模型對計算能力的需求不斷增長大模型對計算能力的需求不斷增長。ARMARM架構架構PCPC芯
57、片以其高效芯片以其高效能能、低功耗的特點低功耗的特點,相對適合相對適合AIAI計算任務計算任務。蘋果基于蘋果基于ARMARM研發的研發的M M系列系列PCPC芯片芯片,因其出色的性能而廣受消費者好評;高通厚積薄發因其出色的性能而廣受消費者好評;高通厚積薄發X XEliteElite芯片芯片,有望帶來有望帶來WindowsWindows ARMARM時代;據報道時代;據報道,英偉達和英偉達和AMDAMD也在研發基于也在研發基于ArmArm架構的架構的PCPC芯片芯片,預計最早將于預計最早將于20252025年發售年發售。以往以往ARMARM PCPC芯片在芯片在windowswindows領域并
58、未引起變革的主要原因在于生態未完善領域并未引起變革的主要原因在于生態未完善,但隨著高通發布驍龍但隨著高通發布驍龍7 7c c、8 8c c和和8 8cxcx三代三代PCPC芯片芯片,相關生相關生態已逐漸完善態已逐漸完善,高通發布的高通發布的X X EliteElite芯片芯片,直接基于直接基于ARMARM指令集進行設計指令集進行設計,性能取得大幅提升性能取得大幅提升,ARMARM架構架構PCPC芯片有望實現突破芯片有望實現突破。資料來源:Counterpoint,中信建投圖圖表:全球筆記本電腦芯片出貨量市場份額表:全球筆記本電腦芯片出貨量市場份額圖圖表:全球表:全球ArmArm筆記本出貨量增速
59、筆記本出貨量增速787070686763616019.31917.616.715.515.11614.42.710.712.8151821.423.225.30%10%20%30%40%50%60%70%80%90%100%20202021202220232024202520262027英特爾AMDarm2%7%23%24%10%9%0%5%10%15%20%25%30%202220232024202520262027 英特爾、AMD、蘋果、高通混戰,AI PC芯片市場格局有望重塑AMDAMD繼于今年第二季推出繼于今年第二季推出PhoenixePhoenixe平臺的平臺的RyzenRyzen
60、70407040系列處理器后系列處理器后,也預告將于下一代也預告將于下一代80508050系列進一步增強系列進一步增強AIAI功能;英特爾則在將功能;英特爾則在將MovidiusMovidius VPUVPU導入其導入其MeteorMeteor LakeLake平臺的處理器平臺的處理器,接續推出的接續推出的ArrowArrow LakeLake和和LunarLunar LakeLake平臺平臺,都宣示了英特爾加大對都宣示了英特爾加大對AIAI處理器投入處理器投入的決心;高通也于的決心;高通也于1010月月2525日的日的20232023驍龍峰會上正式發布了首款基于自研驍龍峰會上正式發布了首款基
61、于自研CPUCPU架構架構“OryonOryon”的的PCPC平臺方案平臺方案驍龍驍龍X X EliteElite,可運行可運行包括大語言模型包括大語言模型(LLM)(LLM)在內的在內的130130億參數大模型億參數大模型,進一步優化自研進一步優化自研AIAI芯片業態芯片業態。蘋果也于蘋果也于1010月月3030日發布日發布 M M3 3、M M3 3 ProPro 和和 M M3 3 MaxMax 系系列芯片列芯片,為首批采用業界領先為首批采用業界領先 3 3 納米工藝打造的個人電腦芯片納米工藝打造的個人電腦芯片,可將更多晶體管封裝于更小的芯片空間中可將更多晶體管封裝于更小的芯片空間中,實
62、現速度和能效的雙實現速度和能效的雙重提升重提升。資料來源:高通,微軟,Intel,蘋果,AMD,中信建投圖圖表:表:AI PCAI PC芯片處于混戰局面芯片處于混戰局面圖圖表:半導體芯片廠商對表:半導體芯片廠商對AI PCAI PC布局布局公司產品發布時間說明英特爾Meteor Lake9月19日輕薄筆電,可執行邊緣AI運算高通Snapdragon X Elite10月25日強化AI能力,可總結電子郵件、撰寫簡易文稿、協助生成圖像等蘋果M310月30日最高階系列Ultra設置32核心,具備獨立執行小模型運算能力AMDPhoenix 1&2最快Q4面向AI PC 高通發布X Elite,于PC芯
63、片市場意義重大1010月月2525日日,高通在驍龍峰會上發布驍龍高通在驍龍峰會上發布驍龍X X EliteElite,其為其為OryonOryon CPUCPU和和AdrenoAdreno GPUGPU等組成的等組成的4 4nmnm ARMARM架構的架構的PCPC SoCSoC。與其競爭對手相比與其競爭對手相比,該芯片能提供高達兩倍的該芯片能提供高達兩倍的CPUCPU和和GPUGPU性能性能,且功耗更低且功耗更低,單線程能力強于英特爾的單線程能力強于英特爾的X X8686芯片芯片i i9 9-1398013980HXHX和蘋果的和蘋果的ARMARM芯片芯片M M2 2 MaxMax,AIAI
64、引擎能提供高達引擎能提供高達7575TOPSTOPS的的AIAI算力算力。驍龍驍龍X X EliteElite專為專為AIAI打造打造。X X EliteElite能夠支持在終端運行能夠支持在終端運行130130億參數大模型億參數大模型,面向面向7070億參數大語言模型每秒生成億參數大語言模型每秒生成3030個個tokentoken,能夠很好處理郵件總結能夠很好處理郵件總結、文本編寫文本編寫、圖像生成圖像生成、圖像生成等任務圖像生成等任務,變革用戶與變革用戶與PCPC交交互互。OEMOEM廠商預計將于廠商預計將于20242024年中推出搭載驍龍年中推出搭載驍龍X X EliteElite的的P
65、CPC。資料來源:高通,中信建投圖圖表:高通驍龍表:高通驍龍X EliteX Elite平臺詳細參數平臺詳細參數圖圖表:高通驍龍表:高通驍龍X EliteX Elite性能有明顯提升性能有明顯提升 高通X Elite芯片自研CPU架構高通大部分芯片直接從高通大部分芯片直接從ARMARM購買購買IPIP,以此為基礎進行相應修改以此為基礎進行相應修改,例如例如KryoKryo芯片以及驍龍芯片芯片以及驍龍芯片。為了進一步提升芯片性能并搶占市場為了進一步提升芯片性能并搶占市場份額份額,高通開始轉向直接基于高通開始轉向直接基于ARMARM指令集設計芯片指令集設計芯片,開發定制內核開發定制內核。NUVIA
66、NUVIA核心人員具有豐富的芯片設計經驗核心人員具有豐富的芯片設計經驗,致力于提供行業領先的高性能致力于提供行業領先的高性能、低功耗低功耗SoCSoC產品產品。NUVIANUVIA創始人創始人GerardGerard WilliamsWilliams IIIIII、ManuManu GulatiGulati、JohnJohn BrunoBruno均在均在AMDAMD和蘋果公司從事多年芯片設計工作和蘋果公司從事多年芯片設計工作,具有豐富的芯片設計經驗具有豐富的芯片設計經驗。NUVIANUVIA基于基于ARMARM v v9 9構建的構建的CPUCPUPhoenixPhoenix,相對于其他相對于
67、其他x x8686、ARMARM架構產品具備性能架構產品具備性能、功耗優勢功耗優勢。在功耗與其他在功耗與其他ARMARM架構功耗相同或為其他架構功耗相同或為其他x x8686架構功耗的架構功耗的1 1/3 3時時,PhoenixPhoenix架構的峰值性能提升在架構的峰值性能提升在5050%至至100100%左右左右。高通收購高通收購NUVIANUVIA后后,將開發基于將開發基于ARMARM指令集的新一代指令集的新一代CPUCPU。下一代下一代CPUCPU最初將適配于最初將適配于WindowsWindows PCPC,之后會拓展至旗艦智能手機之后會拓展至旗艦智能手機、汽車汽車、數據中心數據中心
68、、元宇宙等多個領域元宇宙等多個領域,在高性能和低功耗在高性能和低功耗SoCSoC領域處于領先地位領域處于領先地位。資料來源:高通,中信建投圖圖表:表:Phoenix Phoenix GeekbenchGeekbench 5 5測試結果測試結果圖圖表:表:NUVIANUVIA創始人情況創始人情況曾就職于TI、ARM。2010-2019年任蘋果首席CPU架構師,主持研發蘋果A7-A13處理器及MacM1 Pro、M1 Max。曾 就 職 于 AMD、博 通。2009-2017任蘋果首席SoC架構師,指導多款iPhone及iPad SoC設計。2017-2019任谷歌首席SoC架構師。曾就職于ATI
69、、AMD。2012-2017年任蘋果系統架構師,打造基于ARM的移動芯片。2017-2019年任谷歌系統架構師。谷歌、小米等廠商持續推出AI手機1010月月4 4日日,谷歌發布谷歌發布PixelPixel 8 8/ProPro系列系列,搭載了搭載了TensorTensor G G3 3和和TitanTitan M M2 2安全芯片安全芯片。TensorTensor G G3 3 AIAI芯片可運行更復雜的機器學習模型芯片可運行更復雜的機器學習模型,強化了強化了PixelPixel 8 8/ProPro系列的系列的AIAI增強功能增強功能,使虛擬助理說話更自然使虛擬助理說話更自然,并有攔截騷擾電
70、話并有攔截騷擾電話、轉錄語音和緊急服務功能轉錄語音和緊急服務功能。PixelPixel 8 8 ProPro號稱是第一款直接在設備上運行谷歌號稱是第一款直接在設備上運行谷歌AIAI模型的手機模型的手機,其計算量是其計算量是PixelPixel 7 7上最大上最大MLML模型的模型的150150倍倍。1010月月2626日日,小米小米1414系列發布系列發布,其首發搭載高通最新一代移動芯片驍龍其首發搭載高通最新一代移動芯片驍龍8 8 GenGen3 3,能效比提升顯著能效比提升顯著,AIAI性能提升性能提升9898%。通過本地端運行通過本地端運行大模型大模型,提升了隱私性提升了隱私性,并實現并實
71、現AIAI妙畫妙畫、AIAI搜圖搜圖、AIAI寫真和寫真和 AIAI擴圖等一系列功能擴圖等一系列功能。其中其中,AIAI寫真功能可通過對多張照片的學習寫真功能可通過對多張照片的學習,創作出全新的照片作品;在創作出全新的照片作品;在1414系列的系列的WPSWPS上上,也支持輸入主題一鍵生成也支持輸入主題一鍵生成PPTPPT演示文稿演示文稿,也能進一步細化調節也能進一步細化調節,例如更改主題風格例如更改主題風格、單頁美化單頁美化、更改字體更改字體、更改配色更改配色、生成演講稿等等生成演講稿等等,解決了用戶使用解決了用戶使用PPTPPT制作難度大制作難度大、耗時長的辦公難題耗時長的辦公難題。資料來
72、源:谷歌,小米,中信建投圖圖表:谷歌表:谷歌Pixel 8 ProPixel 8 Pro圖圖表:小米表:小米1414系列系列 AI Phone芯片主要由高通主導高通是全球移動設備及其他無線產品基礎技術高通是全球移動設備及其他無線產品基礎技術、產品開發的領導者產品開發的領導者,20212021年后年后,高通向高通向AIoTAIoT領域布局領域布局,公司將以智能手機中積累公司將以智能手機中積累的連接的連接、終端側智能和高性能低功耗計算等技術領先優勢終端側智能和高性能低功耗計算等技術領先優勢,圍繞手機圍繞手機、汽車汽車、IoTIoT三大三大“智能網聯邊緣智能網聯邊緣”場景持續擴展場景持續擴展“統一的
73、技統一的技術路線圖術路線圖”,發展混合發展混合AIAI。在手機方面在手機方面,高通公司以近半的市場份額保持高通公司以近半的市場份額保持AIAI智能手機處理器出貨量領導地位智能手機處理器出貨量領導地位,遠超蘋果和聯發科遠超蘋果和聯發科等其他公司等其他公司。高通驍龍高通驍龍8 8 gengen3 3在手機芯片性能比較方面超越了蘋果在手機芯片性能比較方面超越了蘋果A A1717 ProPro,其是高通首款專為生成式人工智能而精心設計的移動平臺其是高通首款專為生成式人工智能而精心設計的移動平臺。該處理該處理器最大的升級在器最大的升級在AIAI引擎引擎,可以在設備上運行生成式可以在設備上運行生成式AIA
74、I模型模型,上市初期即支持上市初期即支持2020多種多種AIAI模型;主打各種模型;主打各種 AIAI 相機功能相機功能,例如從圖像例如從圖像和視頻中刪除對象和視頻中刪除對象、創建假背景創建假背景、增強照片的某些部分增強照片的某些部分、實時拍攝實時拍攝 HDRHDR 照片照片、創建同時使用前攝和后攝拍攝的創建同時使用前攝和后攝拍攝的VloggerVlogger視圖模式視圖模式。資料來源:高通,IT之家,中信建投圖圖表:以驍龍表:以驍龍865865為基準的手機為基準的手機/平板性能綜合對比平板性能綜合對比圖圖表:高通驍龍表:高通驍龍8 Gen3 8 Gen3 綜合參數綜合參數0501001502
75、00250300350M2 iPad ProM1 iPad Pro驍龍8 Gen3A17 Pro8 Gen2 領先版驍龍8 Gen2A16 除了AI手機外,手機廠商也在持續發力AI大模型國內國內AIAI廠商也持續發力廠商也持續發力AIAI大模型大模型。小米自研圖文大模型預訓練語言模型小米自研圖文大模型預訓練語言模型MiLMMiLM-6 6B B,參數規模為參數規模為6464億億,并在并在C C-EvalEval和和CMMLUCMMLU基準評測基準評測中都取得了出色的成績;中都取得了出色的成績;vivovivo自研自研vivoLMvivoLM,分成十億分成十億(1 1B/B/7 7B B)、百億
76、百億(6666B B)和千億和千億(130130B/B/175175B B)三個級別三個級別。其中其中,7 7B B的版本的版本是是vivoLMvivoLM 將對外開放的版本將對外開放的版本,目前在目前在C C-EvalEval總榜單位列第一總榜單位列第一,在在SuperCLUESuperCLUE榜單位列國內第一;榜單位列國內第一;OppoOppo大模型大模型AndesGPTAndesGPT位列榜單第位列榜單第四;四;在在8 8月的華為開發者大會上月的華為開發者大會上,華為宣布將盤古大模型引入鴻蒙華為宣布將盤古大模型引入鴻蒙,智慧助手小藝將接入智慧助手小藝將接入AIAI大模型能力大模型能力,為
77、為HarmonyOSHarmonyOS帶來更智慧帶來更智慧的體驗;在的體驗;在1010月月2424-2626日的高通驍龍峰會上日的高通驍龍峰會上,榮耀也宣布其榮耀也宣布其 MagicMagic6 6 將搭載全新驍龍將搭載全新驍龍 8 8 GenGen 3 3移動平臺移動平臺,并應用自研并應用自研7070億參數端億參數端側側AIAI大模型大模型,未來還將進一步發力未來還將進一步發力。資料來源:C-Eval,SuperCLUE,中信建投#ModelModelCreatorCreatorAccessAccessSubmission Submission DateDateAvgAvgAvg(Hard)
78、Avg(Hard)STEMSTEMSocial Social ScienceScienceHumanitiesHumanitiesOthersOthers0vivoLMvivoPrivate2023/10/3086.165.280.489.790.688.81QwenAlibaba CloudPrivate2023/10/2985.771.981.692.88785.22CW-MLMCloudWalkPrivate2023/10/208358.674.891.585.787.53AndesGPT-7BOPPOPrivate2023/9/2879.959.373.386.77986.94云天書深
79、圳云天算法技術有限公司Private2023/8/3177.155.270.48878.677.95GalaxyZuoyebangPrivate2023/8/2373.760.571.48671.668.86KwaiYii-66B快手Private2023/9/1573.74662.982.779.479.67HZ60小i機器人Private2023/10/2773.256.768.784.97568.88UniGPT2.0(山海)Unisound(云知聲)Web2023/10/1372.955.267.682.27175.99YaYi中科聞歌Web2023/9/471.860.370.681
80、.371.565.810AiLMe-100B v3APUSWeb2023/9/471.657.968.572.371.277排名模型機構總分OPEN 多輪開放問題OPT 三大能力客觀題使用-GPT4OpenAI87.0888.0785.6API-Claude2Anthropic72.4675.1168.48API-GPT3.5OpenAI71.1273.1268.13APIvivoLMvivo70.7466.7876.67申請Moonshot月之暗面70.4266.0277.03網頁文心一言4.0百度69.2661.8180.44APISenseChat 3.0商湯科技69.2563.1678
81、.39API7訊飛星火V3.0科大訊飛63.9959.2671.08API6云雀大模型(豆包)字節跳動64.3959.1172.3網頁5ChatGLM2-Pro清華&智譜65.9358.5377.02API8Baichuan2-13B-Chat百川智能62.757.7770.09模型9MiniMax-Abab5.5MiniMax59.5748.1376.72API12訊飛星火V2.0科大訊飛55.2447.9566.18API圖圖表:表:VivoVivo、OPPOOPPO研發大模型登上研發大模型登上C C-EvalEval總榜單總榜單圖圖表:表:VivoVivo登上登上SuperCLUESup
82、erCLUE總榜單總榜單 AI Phone互動汽車成為熱門趨勢手機和車機的生態互聯已成為未來發展的重要趨勢手機和車機的生態互聯已成為未來發展的重要趨勢。這一趨勢將手機與汽車的功能融合這一趨勢將手機與汽車的功能融合,實現智能化實現智能化、網絡化的互聯互通網絡化的互聯互通,為人為人們的生活帶來極大的便利們的生活帶來極大的便利。在這個背景下在這個背景下,多家廠商已經開始發力多家廠商已經開始發力,致力于開發和推廣手機與車機的生態互聯技術致力于開發和推廣手機與車機的生態互聯技術。蔚來發布蔚來發布NIONIO手機手機,首創了首創了“車控鍵車控鍵”,實現了實現了3030項功能一鍵直達項功能一鍵直達,包括:啟
83、動車輛包括:啟動車輛、車輛召喚車輛召喚、遙控泊車遙控泊車、守衛模式守衛模式、車輛狀態車輛狀態查詢查詢、后備箱控制等后備箱控制等,做到與蔚來汽車無縫銜接做到與蔚來汽車無縫銜接。1010月月2626日日,小米小米1414、澎湃澎湃OSOS發布的同時發布的同時,小米集團也將戰略升級為人車家全生態小米集團也將戰略升級為人車家全生態,全面發力物聯網全面發力物聯網。此外此外,車企吉利也收購手機車企吉利也收購手機公司魅族近公司魅族近8080%股權股權,華為打通了問界汽車與鴻蒙系統的壁壘華為打通了問界汽車與鴻蒙系統的壁壘。資料來源:蔚來,小米,中信建投圖圖表:造車企業蔚來發布表:造車企業蔚來發布NIO Pho
84、neNIO Phone手機手機圖圖表:小米集團戰略升級為“人車家全生態”表:小米集團戰略升級為“人車家全生態”AI Phone下一階段-無屏幕化AIAI手機也呈現手機也呈現“去屏幕化去屏幕化”的可穿戴的可穿戴AIAI趨勢趨勢。HumaneHumane是一家由蘋果前員工創立的人工智能公司是一家由蘋果前員工創立的人工智能公司,對人工智能優先和后智能手機的對人工智能優先和后智能手機的未來做出了重大暢想未來做出了重大暢想。近期近期,其宣布其宣布HumaneHumane AiAi PinPin產品產品,將搭載與高通合作的將搭載與高通合作的“先進的先進的SnapdragonSnapdragon平臺平臺”,
85、將于今年年底推出將于今年年底推出。AIAI PinPin是基于服裝的可穿戴設備是基于服裝的可穿戴設備,沒有屏幕沒有屏幕,大小與一塊餅干差不多大小與一塊餅干差不多。該設備還將配備一個攝像頭該設備還將配備一個攝像頭、一個麥克風和揚聲器一個麥克風和揚聲器,以及以及各種傳感器和激光投影儀各種傳感器和激光投影儀,用戶可用磁鐵將其吸附在衣服上用戶可用磁鐵將其吸附在衣服上。在智能化方面在智能化方面,該設備內置了該設備內置了“專有軟件和專有軟件和 OpenAIOpenAI 旗下旗下 ChatGPTChatGPT融合融合”的系統的系統。HumaneHumane AIAI PinPin強調強調“TakeTake
86、AIAI withwith youyou everywhereeverywhere”,在今年在今年4 4月的月的TEDTED演講上演講上,聯合創始人聯合創始人 ImranImran ChaudhriChaudhri 在臺上演示了在臺上演示了AiAiPinPin的雛形的雛形。AiAi PinPin呈現小型化呈現小型化、智能化的特點智能化的特點。其可用作語音助手:打電話其可用作語音助手:打電話、推送當天的自動總結;也可作為搜索引擎:拍張照推送當天的自動總結;也可作為搜索引擎:拍張照片片,便可獲取巧克力棒的營養成分便可獲取巧克力棒的營養成分。其信息的推送也具備去屏幕化特征:將藍綠色的數碼管一樣的信息
87、投射到手中其信息的推送也具備去屏幕化特征:將藍綠色的數碼管一樣的信息投射到手中。資料來源:Humane,TED,中信建投圖圖表:表:Human Ai PinHuman Ai Pin概念概念圖圖表:表:AI PinAI Pin撥號、車聯接、導航、溫度調節演示撥號、車聯接、導航、溫度調節演示 看好由AI PC與AI Phone帶來的產業革新將手機集成將手機集成AIAI,不僅可以實現語音助手不僅可以實現語音助手、智能相機等基本功能智能相機等基本功能,還可以通過還可以通過AIAI算法實現更加智能化的應用算法實現更加智能化的應用,如智能推薦如智能推薦、智能翻智能翻譯等譯等,可以極大提升用戶的體驗可以極大
88、提升用戶的體驗,在智能辦公在智能辦公、智能教育領域預計將由廣泛應用智能教育領域預計將由廣泛應用。AIAI PCPC不僅可以進行高效的數據處理和計算不僅可以進行高效的數據處理和計算,還可以通過機器學習和深度學習等技術進行自我學習和優化還可以通過機器學習和深度學習等技術進行自我學習和優化,從而為各種行業提供從而為各種行業提供更加智能化的解決方案更加智能化的解決方案。除此之外除此之外,AIAI PCPC、AIAI PhonePhone通過統一的大模型通過統一的大模型,實現全系統互聯實現全系統互聯,具有主動智能具有主動智能、全模態感知能力全模態感知能力,在人機交互效果上有明顯在人機交互效果上有明顯提升
89、提升,將成為人們最直接的將成為人們最直接的AIAI助手助手。資料來源:小米,聯想,中信建投圖圖表:小米表:小米AIAI手機實現類似代理能力手機實現類似代理能力圖圖表:聯想稱其表:聯想稱其PCPC為為AI TwinAI Twin 風險提示人工智能模型技術發展不及預期:人工智能模型屬于先進AI算法,若后續算法更新迭代效果不及預期,則會影響人工智能模型演進及拓展,進而會影響其商業化落地等,最終影響AI PC、AI Phone落地進展;硬件研發不及預期:AI PC、AI Phone所涉及到相關芯片、存儲、模組等,若相關硬件研發不及預期,則會影響相關產品落地,進而影響產業發展;應用落地不及預期:端側AI
90、并非僅僅是硬件的升級,相關應用生態也非常重要,若后續應用落地不及預期,則會影響AI PC、AI Phone,甚至端側AI進一步發展;競爭加劇風險:在端側AI發展旺盛的背景下,國內外各廠商均發力AI PC與AI Phone,眾多參與廠商可能導致整體競爭格局惡化。分析師介紹分析師介紹金金戈:戈:中信建投證券研究發展部計算機行業聯席首席分析師,帝國理工學院工科碩士,擅長云計算、金融科技、人工智能等領域。于芳博于芳博:中信建投計算機行業分析師,北京大學空間物理學學士、碩士,2019年7月加入中信建投,主要覆蓋方向智能汽車、CPU/GPU/FPGA/ASIC、EDA和工業軟件等方向。評級說明評級說明投資
91、評級標準評級說明報告中投資建議涉及的評級標準為報告發布日后6個月內的相對市場表現,也即報告發布日后的6個月內公司股價(或行業指數)相對同期相關證券市場代表性指數的漲跌幅作為基準。A股市場以滬深300指數作為基準;新三板市場以三板成指為基準;香港市場以恒生指數作為基準;美國市場以標普 500 指數為基準。股票評級買入相對漲幅15以上增持相對漲幅5%15中性相對漲幅-5%5之間減持相對跌幅5%15賣出相對跌幅15以上行業評級強于大市相對漲幅10%以上中性相對漲幅-10-10%之間弱于大市相對跌幅10%以上 分析師聲明分析師聲明本報告署名分析師在此聲明:(i)以勤勉的職業態度、專業審慎的研究方法,使
92、用合法合規的信息,獨立、客觀地出具本報告,結論不受任何第三方的授意或影響。(ii)本人不曾因,不因,也將不會因本報告中的具體推薦意見或觀點而直接或間接收到任何形式的補償。法律主體說明法律主體說明本報告由中信建投證券股份有限公司及/或其附屬機構(以下合稱“中信建投”)制作,由中信建投證券股份有限公司在中華人民共和國(僅為本報告目的,不包括香港、澳門、臺灣)提供。中信建投證券股份有限公司具有中國證監會許可的投資咨詢業務資格,本報告署名分析師所持中國證券業協會授予的證券投資咨詢執業資格證書編號已披露在報告首頁。在遵守適用的法律法規情況下,本報告亦可能由中信建投(國際)證券有限公司在香港提供。本報告作
93、者所持香港證監會牌照的中央編號已披露在報告首頁。一般性聲明一般性聲明本報告由中信建投制作。發送本報告不構成任何合同或承諾的基礎,不因接收者收到本報告而視其為中信建投客戶。本報告的信息均來源于中信建投認為可靠的公開資料,但中信建投對這些信息的準確性及完整性不作任何保證。本報告所載觀點、評估和預測僅反映本報告出具日該分析師的判斷,該等觀點、評估和預測可能在不發出通知的情況下有所變更,亦有可能因使用不同假設和標準或者采用不同分析方法而與中信建投其他部門、人員口頭或書面表達的意見不同或相反。本報告所引證券或其他金融工具的過往業績不代表其未來表現。報告中所含任何具有預測性質的內容皆基于相應的假設條件,而
94、任何假設條件都可能隨時發生變化并影響實際投資收益。中信建投不承諾、不保證本報告所含具有預測性質的內容必然得以實現。本報告內容的全部或部分均不構成投資建議。本報告所包含的觀點、建議并未考慮報告接收人在財務狀況、投資目的、風險偏好等方面的具體情況,報告接收者應當獨立評估本報告所含信息,基于自身投資目標、需求、市場機會、風險及其他因素自主做出決策并自行承擔投資風險。中信建投建議所有投資者應就任何潛在投資向其稅務、會計或法律顧問咨詢。不論報告接收者是否根據本報告做出投資決策,中信建投都不對該等投資決策提供任何形式的擔保,亦不以任何形式分享投資收益或者分擔投資損失。中信建投不對使用本報告所產生的任何直接
95、或間接損失承擔責任。在法律法規及監管規定允許的范圍內,中信建投可能持有并交易本報告中所提公司的股份或其他財產權益,也可能在過去12個月、目前或者將來為本報告中所提公司提供或者爭取為其提供投資銀行、做市交易、財務顧問或其他金融服務。本報告內容真實、準確、完整地反映了署名分析師的觀點,分析師的薪酬無論過去、現在或未來都不會直接或間接與其所撰寫報告中的具體觀點相聯系,分析師亦不會因撰寫本報告而獲取不當利益。本報告為中信建投所有。未經中信建投事先書面許可,任何機構和/或個人不得以任何形式轉發、翻版、復制、發布或引用本報告全部或部分內容,亦不得從未經中信建投書面授權的任何機構、個人或其運營的媒體平臺接收、翻版、復制或引用本報告全部或部分內容。版權所有,違者必究。中信建投證券研究發展部中信建投證券研究發展部中信建投(國際)中信建投(國際)北京東城區朝內大街2號凱恒中心B座12層電話:(8610)8513-0588聯系人:李祉瑤郵箱:上海浦東新區浦東南路528號南塔2103室電話:(8621)6882-1612聯系人:翁起帆郵箱:深圳福田區福中三路與鵬程一路交匯處廣電金融中心35樓電話:(86755)8252-1369聯系人:曹瑩郵箱:香港中環交易廣場2期18樓電話:(852)3465-5600聯系人:劉泓麟郵箱:charleneliucsci.hk31