《1-騰訊Wetest-在復雜元素間尋找平衡-AI在游戲數值與平衡分析中的應用-王君樂.pdf》由會員分享,可在線閱讀,更多相關《1-騰訊Wetest-在復雜元素間尋找平衡-AI在游戲數值與平衡分析中的應用-王君樂.pdf(44頁珍藏版)》請在三個皮匠報告上搜索。
1、MTSC2020中國互聯網測試開發大會深圳站TESTING SUMMITCONFERENCE CHINA 20202020.11.20-21一中國深圳寶立方國際酒店主辦方:TesterHame#page#中國互聯網測試開發大會。深圳站MTSC在復雜元素間尋找平衡-AI在游戲數值與平衡分析中的應用王君樂騰訊游戲主辦方:TesterHome#page#MTSC中國互聯網測試開發大會內容大綱游戲玩法介紹思路方案介紹嘗試過的方案和踩過的坑確認目標,問題拆解算法方案設計效果驗證結果分析與展示更多應用場景的探索擴展與總結WeTest主辦方:TesterHeme#page#MTSC中國互聯網測試開發大會戰技
2、場自走樓我歌泰響2智霸全場戰歌競技場Chess Rush自走棋2019年開始火起來的游戲品類玩家:排兵布陣,搭配棋子合理利用資源棋子自動進行戰斗WeTest主辦方:TesterHeme#page#中國互聯網測試開發大會MTSC背景:游戲玩法簡介Step 1Step 21好FBOOXGS戰斗區域備選區域每輪玩家可以做若干選擇:8*8的棋盤雙方各占一半(4*8)從卡池中購買英雄(棋子)升級棋子增加人口存錢吃利息WeTest主辦方:TesterHame#page#中國互聯網測試開發大會MTSC背景:游戲玩法簡介Step 4Step 3B棋子進行自動戰斗排兵布陣搭配不同職業、種族、技能,各種相生相克W
3、eTest主辦方TesterHeme#page#MTSC中國互聯網測試開發大會背景英雄游戲的可玩性133運營策略:錢怎么花?買新棋子or升人口or存錢追求數量or追求質量種族鴨伴長期利益or短期利益靈當我方場上有多個不同的亡靈故方單位的護甲-50%2靈陣容策略:棋子怎么搭配?4亡靈:敵方單位的護甲削減提升到-90%棋子本身技能,屬性(如遠程/近戰、攻速、血量、抗性)職業霸伴種族伴職業伴方場的獵人時持續3秒持續3秒WeTest主辦方:TesterHeme#page#MTSC中國互聯網測試開發大會背景這個問題在自走棋品類里其他游戲也有體現好玩,但是平衡性有待提高作者:epicheros有時候某一個
4、蜀緯太強,需要百花齊放才好玩。大家都去搶哥布林沒意思白中?;貜驮u論平衡性問題例:6騎士3龍必勝!6法師6人類無敵!.所有人都搶一樣的棋子,追求相同的陣容平衡開影響對局。降低多樣性降低玩家探索樂趣你就會發現每個版本來來去安發省都是這么幾個T1陣容在玩剪刀頭布您福光很快就會喪失新手時期當家的WeTest主辦方:TesterHame#page#中國互聯網測試開發大會MTSC背景難點一:復雜度棋子:約70個棋子,3個等級蒸閣種族繹:14個共30+不同等級職業繹:11個共25+不同等級陣容人口:上限10人1019陣容組合(尚不考慮站位、裝備)WeTest主辦方:TesterHame#page#MTSC中
5、國互聯網測試開發大會背景勝率排行榜1勝率前三棋子名稱勝率購21.39%TOP1天蓬元帥難點二:時間成本TOP2器野豬換18.55%基于線上玩家數據?TOP3冰霜艾區17.76%-上線后才發現問題已經太晚2黃勝半前三子名稱多次反復實驗、調試的時間成本TOP1線23.85%CTOP219.31%服換士TOP3福18.93%月光龍子名稱鏡TOP124.73%景海巨族TOP2煙艾型23.45%6TOP3國督軍22.71%4費勝半前三子名稱勝取賠29.74%TOP1信制3TOP227.14%龍安發TOP327.01%費勝半前攜子名稱勝平TOP136.14%限海攜主TOP2最線兵裝34.40%TOP333
6、.56%WeTest主辦方:TesterHame#page#MTSC中國互聯網測試開發大會背景分析目標游戲內獲取成本技能搭配棋子真正抽取概率的價值職業搭配(真實定價)種族搭配研究這個問題的價值復雜元素的搭配涉及到基本屬性、裝備搭配、角色搭配、陣容站位、隨機性(抽取概率、技能)可推廣至其他策略、卡牌類游戲WeTest主辦方:TesterHeme#page#MTSC中國互聯網測試開發大會解決思路問題拆解:一個好的平衡性分析方法需要具備什么?元素搭配的分析與評估能力陣容實力的準確評估皖探索與挖掘能力發現異常的棋子或棋子的搭配時效性快速分析上線前完成WeTest主辦方:TesterHame#page#
7、MTSC中國互聯網測試開發大會陣容評估WeTest主辦方TesterHeme#page#MTSC中國互聯網測試開發大會陣容評估怎樣快速準確地分析陣容實力的強弱?陣容的真正實力通過兩兩對局的勝負體現:二值化結果陣容包含隨機性:對局結果為分布排位分人工規則+基礎數值分析方案ELO、TrueSkill等排位算法或配對比較基于消耗水晶、總攻擊力、總血量法之類準優勢簡單直接,快速郭端慢:送代多、收斂慢本質上還是依賴數值設計,無法實現平衡性分析的目標WeTest主辦方:TesterHeme#page#MTSC中國互聯網測試開發大會我們的方案方案一:提取GameCore,直接模擬對戰優勢:實現簡單耗時為線性
8、且可控衡量標準:1k勝率,可并行預設1000個陣容作為參照物每個陣容對陣所有參照物的勝率不足:耗時0.25秒/對陣-0.25*1000*2=250秒/陣容能不能更快?并行化:250秒-0.125秒能不能再快一些?WeTest主辦方TesterHame#page#MTSC中國互聯網網試開發大會陣容評估方案二:強度評估網絡模型:全連接+非線性經驗:對棋子而非屬性編碼訓練數據生成多樣化陣容進行大量對陣根據規則隨機生待預測戰力陣容參考陣容集成陣容隨機陣容勝率數據陣容強度預測模型訓練數據生成模塊陣容強度結果戰力預測模塊WeTestTTesterHeme王辦方#page#MTSC中國互聯網測試開發大會方案
9、二:強度評估網絡方案架構訓練數據獲?。?6小時,20億場對陣,100萬個陣容評估模型訓練耗時:2小時單次評估耗時:求最優解最優化搜索算法遺傳算法資溪維逐漸進化WeTest主辦方:TesterHeme#page#MTSC中國互聯網測試開發大會異常陣容挖掘遺傳算法簡介基因/染色體/種群定義當前工作的具體對應染色體陣容需要解決/優化問題的一個解(不一定指最優解)基因棋子:構成解的多個元素種群一組陣容需要優化的解的集合家Ce.g.5000:雙品心NOOWeTest主辦方:TesterHame#page#MTSC中國互聯網測試開發大會異常陣容控掘遺傳算法簡介基因/染色體/種群適應度函數/選擇交叉:種群淘
10、汰弱者后,強者被保留用于產生下一代中5發店每WeTest主辦方:TesterHame#page#MTSC中國互聯網測試開發大會異常陣容挖掘遺傳算法簡介基因/染色體/種群適應度函數/選擇交叉變異選擇和交叉保證留下優良的基因,但容易陷入局部最優WeTest主辦方:TesterHeme#page#MTSC中國互聯網測試開發大會異常陣容挖掘算法流程開始初始化種群,最耗時的一步。子獨立編碼用神經網絡直接預測2000次對應度函數計算適專具操作戰的結果極大提高了效率,是整套方案可行的關鍵滿足終止條件交叉操作輸出最優個體0.6結束WeTest主辦方:TesterHeme#page#MTSC中國互聯網測試開發大
11、會異常陣容挖掘自動化分析流水線傳統平衡性分析我們的方案新版本新版本新版本上線模擬對戰前提:訓練模型我們的陣容挖掘方案需要足玩家對戰夠強大和準確需潤控分析玩家數據陣容挖掘需調整平衡性分析版本環境穩定新版本上線WeTest主辦方:TesterHame#page#MTSC中國互聯網測試開發大會異常陣容挖掘結果分析挖掘結果:算法發現的且從未被玩家使用過的陣容的最高勝率Top300最高:同等水晶和人口下,線上最受歡迎的300個陣容中勝率的最大值Top300平均:上述300個陣容的勝率平均值95%線:上述300個陣容勝率的前5%注:所有勝率均為實際對戰結果,非神經網絡輸出9人口陣容勝率對比WeTest主辦
12、方:TesterHeme#page#MTSC中國互聯網測試開發大會異常陣容控掘結果分析1.存在策略的空間自走棋到底是不是只拼運氣而不用技術?2.低級卡vs高級卡3.前期vs后期陣容強度陣容過強異常陣容陣容大弱陣容成型概率(取決于每張卡的抽取概率)020.30.WeTest主辦方:TesterHame#page#MTSC中國互聯網測試開發大會異常陣容挖掘棋子出場率預測玩家傾向挑選更強的棋子強陣容挖掘結果中出現次數多的棋子實力更強Lha.11WeTest主辦方:TesterHame#page#MTSC中國互聯網測試開發大會異常陣容挖掘討論異常陣容挖掘-神經網絡求全局極值為什么要用遺傳算法?約束條件
13、的存在:基于梯度的方案難度高平衡性分析的新思路離線進行模擬數據-基于模型進行快速評估-大量選代進行最優化搜索基于這個套路,我們還能做什么?WeTest主辦方TesterHeme#page#MTSC中國互聯網測試開發大會擴展與探索WeTest主辦方TesterHeme#page#開發大會上分陣容擴展與探索店B擴展:更復雜元素的分析新香。站位裝備站位推薦。挑戰:C街復雜度極大提高38方案:R陣容實力評估模型升級RR優化方案升級樓+樓打財建法值+15回復1500點蘇普攻獲得5%我大鹿活1wWeTest#page#MTSC中國互聯網測試開發大會擴展與探索陣容實力評估模型升級深度卷積神經網絡而不是GAP
14、GAP會丟失掉棋子之間的位置關系,導致性能下降T4x8x86在測試集上MAE能到0.0146但是每個卷積層,借鑒了re里面的rlock的str就是說特征圖的尺寸與輸入保持致,最后一層卷積層的核數為32,防止在Tan時維度過大。WeTest主辦方:TesterHeme#page#MTSC中國互聯網測試開發大會擴展與探索裝備搭配分析遺傳算法坐標下降法搜索算法優化啟發式算法非梯度優化算法遺傳算法+坐標下降法每一步都有提升很快能找到較好的解。算法調優收斂速度快收斂速度慢或不收斂容易陷入局部最小修旺上Weiest主辦方TesterHeme#page#MTSC中國互聯網測試開發大會擴展與探索gavs ga
15、+altefinal0.8.baseline0.6-0.40.2Batalte-200-5000.0-alter03551020305WeTest主辦方:TesterHame#page#中國互聯網測試開發大會MTSC擴展與探索擴展:新玩法的支持大神陣容1185陣容配置自定義類雄大神陣容系統推薦我的陣容你喜歡關庭夏廣3530你喜歡關嘛的陣容2州U心不醉不歸3HNOA御風哥哥的陣容定哥碼海家E店4機械潛行5PUAID天使召晚我上傳的陣容:未上榜上傳詳情WeTest主辦方:TesterHame#page#MTSC中國互聯網測試開發大會擴展與探索擴展:新玩法的支持PVE關卡輔助設計本質為約束條件下(e
16、.g.劇情需要:角色、站位、裝備)的多元素組合強度評估算法評估是否有解以及解法的數量-快速評估關卡難度安X點擊開始戰斗金大我方存活數量大于2日限2個治療國WeTesTesterHeme#page#MTSC中國互聯網測試開發大會擴展與探索擴展:電競/直播/觀戰中的玩家勝率預測基于千萬級對戰歷史數據訓練可用于實時分析戰況、重點操作提示000.10.0101214101520典型局中玩家勝率預測曲線距離局終輪數與預測準確率的關系WeTest主辦方:TesterHame#page#MTSC中國互聯網測試開發大會項目歷程單維度預測多維度預游戲玩法游戲對抗中后置報告分析和內容設計的分析測分析WeTest主
17、辦方TesterHeme#page#MTSC中國互聯網測試開發大會項目歷程單維度預測多維度預游戲玩法游戲對抗中后置報告游戲AI和內容設計分析測分析的分析WeTest主辦方TesterHeme#page#MTSC中國互聯網測試開發大會AI強化學習架構基于規則的行為樹+強化學習方法無需人類數據大量自對戰進行自我提升掉線托管、新手指導、體驗可控的陪玩、測試,多機自對奔強化訓練對手模型WeTest主辦方TesterHeme#page#MTSC中國互聯網測試開發大會思考Test for idea,Test for bugproducttest forWeTest主辦方:TesterHeme#page#謝謝THANKSWeTest