計算機算力以及 AI 在細分場景下的滲透率提升推動 AI 模型訓練數據量爆炸式成長，通過增加模型參數及數據量提高 AI 的計算速度和準確度。大模型通過超大規模的參數設置和數據輸入，具有基礎、通用和綜合的特點，而小模型基于實際任務場景的需求，通過高質量場景數據的輸入和訓練，使 AI 能夠出色完成特定任務。在 NLP 領域，以 Google 發布的 BERT 模型和 Open AI 提出的 GPT 模型為典型代表。AI 通過大模型的預訓練，能夠在處理語言、推理、人機交互等領域任務上的表現實現極大提升，打開了 AI 滲透到各行業進行商業應用路徑。