9-5通用對話系統：現狀和未來.pdf

1、開放域對話系統：現狀和未來 -DataFunCon 自然語言處理大會 百度自然語言處理部 王凡 l 任務對話系統 （Task-Oriented） l 完成某個領域某項特定任務 l UNIT，客服系統 l 閑聊系統 (Chit - Chat) l 無目的，無領域約束 l 開放域對話系統（Open Domain Dialogue System） l 能在開放領域內，進行有意義地對話 l ? 對話系統分類 Seq2Seq open-domain dialogue system (Jiwei Li, 2016)End to end task oriented dialogue system (Tsun

2、g-Hsien Wen,2016) Traditional module-based task oriented dialogue system l 編碼-解碼器 l 人類對話語料 l 最大似然（Minimize Negative Log Likelihood）訓練 端到端對話生成 對話系統的新機遇 EncoderDecoder InputOutputGroundTruth NLL 端到端對話生成的挑戰（I） 17歲了 你今年多大了？ 哈哈哈 我今天買彩票中了一瓶 洗發水 感覺很開心，你呢 還好 我住西城，很近呢 我住北京朝陽，你呢？ 我就住龍崗，來找我，我帶你玩 過兩天我打算去深圳玩，有 什

3、么地方推薦？ 。 l 人類的對話語料，充斥著已知和未知的背景信息，這使得對話成為一個一對多問題 l 神經網絡，不管多復雜，始終是個一一映射的函數 l 最大似然只能所有語料的共通點，所有背景，獨特的語境，邏輯都可能被模型認為都是噪音 今天好冷啊，外 面風好大。 是啊，溫度下降好多 好期待下雪！ 我發型都被吹亂了 是的 你今年多大了？ 16歲 32 六十了都 端到端對話生成的挑戰（II） 對話語料的局限性 l 多樣性對話生成 l 知識對話生成 l 自動化評價和對話流控制 l 大規模和超大規模隱空間對話生成模型 百度NLP： 做有知識，可控 的對話生成方案 l 多樣性對話生成 l 知識對話生成 l 自動化評價和對話流控制 l 大規模和超大規模隱空間對話生成模型 百度NLP： 做有知識，可控 的對話生成方案 多映射機制的端到端生成模型 l 如何利用神經網絡來擬合可能來自于不同背景的語料？ 你的愛好