隨著模型的成熟以及生成式人工智能應用的不斷拓展，推理場景的需求日益增加，DeepSeek 等開源算法的推出進一步降低了部署大型模型的門檻，使更多企業通過私有云或公有云部署 AI 模型，推理服務器的占比將顯著提高。據 IDC 數據，2024年國內人工智能服務器工作負載重推理占比達到 65%，預計到 2028 年，推理工作負載占比將達到 73%。