在單一注意力機制的基礎上，我們可以構建多個并行的注意力機制組合，這種組合被稱為多頭注意力（Multi-Head Attention，簡稱 MHA）。多頭注意力機制顯著擴展了模型的視野，使其能夠從多個不同的角度同時關注輸入信息，從而捕捉到更豐富的特征和關系。這種機制不僅增強了模型對序列中依賴關系的學習能力，還有效緩解了單一注意力機制可能遇到的有效分辨率降低等問題，進而顯著提高了模型的整體性能和準確性。通過這種方式，多頭注意力機制為模型提供了更強大的表達能力和更高效的計算效率。