北京智源人工智能研究院：2020年人工智能十大技術進展及2021年十大技術趨勢（26頁）.pdf

1、2020 年 5 月， OpenAI 發布了迄今為止全球規模最大的預訓練語言模型 GPT-3。GPT-3 具有 1750 億參數， 訓練所用的數據量達到 45TB， 訓練費用超過 1200 萬美元。對于所有任務，應用 GPT-3 無需進行任何梯度更新或微調，僅需要與模型文本交互為其指定任務和展示少量演示， 即可使其完成任務。GPT-3 在許多自然語言處理數據集上均具有出色的性能， 包括翻譯、 問答和文本填空任務， 還包括一些需要即時推理或領域適應的任務等， 已在很多實際任務上大幅接近人類水平。2020 年 11 月 30 日， Google 旗下 DeepMind 公司的 AlphaFold2

2、 人工智能系統在第 14 屆國際蛋白質結構預測競賽 (CASP) 中取得桂冠， 在評估中的總體中位數得分達到了 92.4 分， 其準確性可以與使用冷凍電子顯微鏡(CryoEM)、 核磁共振或 X 射線晶體學等實驗技術解析的蛋白質折疊后的 3D 結構相媲美， 有史以來首次把蛋白質結構預測任務做到了基本接近實用的水平。自然(Nature)雜志評論認為， AlphaFold2 算法解決了困擾生物界 “50 年來的大問題”。2020 年 11 月 19 日， 在美國亞特蘭大舉行的國際超級計算大會 SC20 上， 智源學者、 北京應用物理與計算數學研究院王涵所在的“深度勢能”團隊， 獲得了國際高性能計算應用領域最高獎項“戈登 貝爾獎”(ACM Gorden Bell Prize)?！案甑?貝爾獎”設立于 1987 年，由美國計算機協會(ACM)頒發，被譽為“計算應用領域的諾貝爾獎”。