2019年智能音箱場景下的性能優化.pdf

1、Abel CaoDuerOS首席布道師2018.1智能音箱場景性能優化Wireless_com 引子：那些個智能音箱們3Amazon 最早推出Echo小米 的 小愛同學阿里 的 天貓精靈Google 推出Google HomeApple 推出HomePodwireless_com 4什么智能音箱speakerMicrophoneInternetSkillservicespeakerwireless_com智能音箱的工作原理框圖5SpeakermicTouchScr語音輸入觸屏輸入Internet信號處理本地AITTSASRTTS算法引擎語言模型NLP/NLUNLG業務引擎業務資源IOT 設備W

2、ifi/BlueTooth/zigbee/IR技能服務wireless_com對話式AI操作系統DuerOS6wireless_com基于DuerOS的智能音箱工作流7tataUFO 智能音箱的性能8 硬件性能硬件資源效率，CPU/Memory/IO等能源效率功耗 軟件性能并發容量，吞吐量/并發用戶數等響應速度，響應時間/延遲時間等wireless_com9智能音箱的性能優化響應速度性能測量 感知是開始 度量是基礎網絡優化 減少網絡節點間的路由（節點的移動）架構優化 調整通信的方式 平衡交互的請求邏輯優化 代碼優化與并行處理緩存優化 多節點的緩存優化tataUFO 基于日志的度量10類似基于E

3、LK 的日志分析系統Logstash 1Logstash 2Logstash 3ElasticSearchKibana View關鍵信息 時間戳tataUFO 網絡優化11同機房專線連接帶寬tataUFO 協議架構優化12智能音箱ASRNLP/NLUTTS123智能音箱ASRNLPTTStataUFO 業務邏輯優化業務梳理，時延分布13端上的處理延時尾音檢測VAD 檢測ASR識別NLP等業務處理TTS語音合成wireless_com技能服務應用（Skill）的優化垂直優化，單體最優14wireless_com面向DBP的FaaS架構CFC上的技能優化15函數計算的幾大特征：1.由事件驅動2.僅

4、按調用次數收費，不調用不收費3.高伸縮性、高彈性相較傳統云服務有節省資源、價格低廉的特點。wireless_com 業務邏輯優化 預處理16端上的處理延時尾音檢測VAD 檢測ASR識別NLP等業務處理TTS語音合成wireless_com緩存優化 TTS 預充和緩存NLP 預測流PreTTS預合成TTS 緩存17端上的處理延時尾音檢測VAD 檢測ASR識別NLP等業務處理TTS語音合成wireless_com端上的優化緩存無處不在18硬延時的分布緩沖區調整實時性Query結果的緩存wireless_com 智能音箱性能的最佳體驗19600ms 人的反饋1.25 s 的理想值1.8s 的門限2.5s3s 難已接受Wireless_com19wireless_com 20