《ChatGPT：真格基金分享（30頁）.pdf》由會員分享，可在線閱讀，更多相關《ChatGPT：真格基金分享（30頁）.pdf（30頁珍藏版）》請在三個皮匠報告上搜索。

1、ChatGPT林惠真格基體驗 ChatGPT與 GPT-3 的對與 GPT-3 的對與 GPT-3 的對強烈建議體驗https:/mirror.xyz/0 x6E12A28086548B11dfcc20c75440E0B3c10721f5/9O9CSqyKDj4BKUIil7NC1Sa1LJM-3hsPqaeW_QjfFBc ChatGPT 提升的核點敢于質疑不正確的前提主動承認錯誤和法回答的問題幅提升了對戶意圖的理解幅提升了結果的準確性提升類意圖的致性連續多輪對話能提升的原因加了基于類的反饋系統叢問題庫抽取問題什么是蕉？蕉是種果，從蕉樹.標記者（Labeler）書寫期待的回復被標記的數據來調

2、優 GPT-3.5什么是蕉？蕉是種果，從蕉樹.蕉是芭蕉科、芭蕉屬植物.蕉為芭蕉科植物蕉的果實。原產亞洲東南部蕉，從屬性來說，與草莓、葡萄、獼猴桃是親標記者（Labeler）排序所有標記著答案排序答案訓練 獎勵模型采樣問題，并列出所有模型和標記者的回答寫個獺的故事輸獎勵模型得到分數和優化參數通過模型成初步回答持續優化參數迭代很久很久以前.Reinforcement Learning from Human Feedback往前捋捋GPT-1GPT-2GPT-3InstructGPTchatGPT20182019202020221500w 美 1750 億參數15 億參數1.17 億參數再往前捋捋G

3、PT-1GPT-2GPT-3InstructGPTchatGPTTransformerBERTRoBERTaXLMALBERTELECTRAT5BARTM2m-100BigBird2017DecoderEncoderAttention is All You Need繼續再往前捋捋GPT-1GPT-2TransformerBERTRoBERTaT5BART2017 開始CNN 卷積神經絡RNN 循環神經絡1990開始-2006突破-2015繁榮繼續再往前捋捋機器學習GPT-1TransformerBERTT52017 開始CNN 卷積神經絡RNN 循環神經絡1990 開始-2006 突破1980

4、 開始基于規則1950 開始發展趨勢機器學習Transformer優化腦學習過程 關注重點全部神經絡基于規則寫規則，簡單粗暴 只能處理常少量數據找到些函數或參數 分類固定量數據像腦樣學習 開始嘗試量數據提前標記些數據 根據量數據分類學習個復雜的參數集合分類和綠發展趨勢Transformer優化腦學習過程 關注重點全部神經絡像腦樣學習提前標記些數據 根據量數據分類學習個復雜的參數集合GPT3投喂 海量的學習數據ChatGPT對結果的反饋 成為學習過程的部分1200 萬美需分類數據算法數據量+既要聰明，要努算法數據量+ChatGPT：每步都觀察類反饋 朝著類期望的向進發腦洞思考GPT3海量的學習數

5、據 漫的學習過程ChatGPT對結果的反饋 成為學習過程的部分1500 萬美？更遙遠的未來有沒有算法能 突破腦結構限制？基于類反饋的訓練法 能否拓展到更多領域？如情感？投資度應層：出現新的 AI+創業機會 1.更好的客服機器、機器翻譯等 2.更垂直的專業化 AI（戶反饋系統定向訓練）3.AI 基礎設施（模型運維，管理，訓練等）需要考慮：1.模型開始流（創業初始成本上升，團隊融資能）2.訓練成本持續上升（團隊商業能）OpenAI 發展史OpenAI 發展歷史2015 年 12：OpenAI 由群包括 Elon Musk 和 Sam Altman 等個和組織創建，旨在推進和促進智能領域的研究。20

6、16 年：OpenAI 開發了第個智能系統，擊敗了職業玩家在Dota 2游戲中。2017 年：OpenAI 發布了 GPT-1，這是個能夠成類本的語處理模型。2018 年：OpenAI 與 Microsoft 合作，推出了 Azure AI Platform，這是個新的項，旨在讓開發員更容易構建和部署 AI 應程序。2019 年：OpenAI 發布了 GPT-2，這是個 GPT-1 功能更強的語處理模型。2020 年：OpenAI 發布了 DALL-E，這是個能夠根據本描述成原始圖像的創意 AI 系統。2021 年：OpenAI 發布了 GPT-3，這是前為最最強的語處理模型。OpenAI 主要向語處理：OpenAI 開發了款度先進的語處理模型，其中包括 GPT-3，這是前為最最強的語處理模型。這些模型能夠成類本，并在然語理解取得了顯著的進展。計算機視覺：OpenAI 也在計算機視覺領域開展了量研究，并開發了些先進的 AI 系統，能夠像類樣識別和理解圖像。深度強化學習：OpenAI 還在深度強化學習領域開展了量研究，并開發了些于游戲和其他應的 AI 系統。OpenAI：“以上都是我總結的”https:/ https:/