次世代QAとAI
ゲーム開発におけるAI活⽤に正しく向き合うために
• 現在は過熱するAIブームの真っ只中
– AlphaGo(囲碁)、OpenAI Five(DotA2)
– ゲーム業界でも多くのケースが検討・実現されている
• AI導⼊は様々な困難もある
– 技術⾯、プロジェクト⾯、⼈材・組織
セッションの開催背景
• AIは企業の枠を超えて連携できる分野でもある
– 特にQA(品質保証)の領域は連携の余地が⼤きい
• AIへの期待値と実際の難しさに向き合った上で、
ゲーム開発の未来を議論したい
セッションの開催背景
• QAとAIは領域が広いため、
全ての項⽬をカバーするわけではありません
– 基本はパネリストの活動領域が中⼼になります
• 最後に質疑応答も設けます
セッション全般について
パネリスト紹介
株式会社スクウェア・エニックス
– テクノロジー推進部
– リードAIリサーチャー
三宅 陽⼀郎
• 『⾼校⽣のためのゲームAI⼊⾨』
• ディジタルゲームの⼈⼯知能(Artificial Intelligence in Digital Game)
https://www.ai-gakkai.or.jp/my-bookmark_vol32-no4/
ユニティ・テクノロジーズ・ジャパン合同会社
– QAマネージャー
⼤野 功⼆
• 『3Dゲームをおもしろくする技術』でCEDEC著述賞を受賞
(『Unityではじめる2Dゲーム作り徹底ガイド』の著者)
株式会社セガゲームス
– ⿓が如くスタジオ ドラゴンエンジン開発チーム
– QAエンジニア
阪上 直樹
• 過去講演(CEDEC2017):
無料で始める!「⿓が如く」を⾯⽩くするための⾼速デバッグログ分析と⾃動化
http://cedil.cesa.or.jp/cedil_sessions/view/1621
株式会社ディー・エヌ・エー
– AIシステム部
– AI研究開発エンジニア
奥村 エルネスト 純
『逆転オセロニア』におけるAI活⽤
〜ゲーム運⽤における取り組みとノウハウ〜
⽇時:2018年8⽉24⽇(⾦) 16:30 〜 17:30
会場:501
本セッションの流れ
1
2
イントロダクション(15分)
• 「AI」とは?
• 「ゲームAI」のこれまでとこれから
• 「QA」とは?
パネルディスカッション(40分)
• QAの⾃動化・AI化の取り組み
• 「QA×AI」の実際と未来予想図
• 質疑応答
AIとは?
AIにまつわる⽤語の整理
AI(⼈⼯知能)
⼈間と同等かそれ以上の処理を⾏うテクノロジー
機械学習
AIを実現するためのアプローチ
判断や予測を⾏う能⼒(モデル)を機械的に学習する
深層学習(ディープラーニング)
機械学習の⼀種
モデルに層の深いニューラルネットワークを利⽤
AIにまつわる⽤語の整理
AI(⼈⼯知能)
⼈間と同等かそれ以上の処理を⾏うテクノロジ
機械学習
AIを実現するためのアプローチ
判断や予測を⾏う能⼒(モデル)を機械的に学習する
深層学習(ディープラーニング)
機械学習の⼀種
モデルに層の深いニューラルネットワークを利⽤
「ゲームAI」は学術領域で使われている「AI」とは別の独⾃⽂脈を持っています
本セッションでは、機械学習領域を想定して「AI」という⾔葉を使います
AI(機械学習モデル)による推論
入力 モデル 出力
情報を数値に変換
(特徴量)
⼊⼒に対して演算を⾏う
例:⾏列演算、条件分岐
モデルの出⼒結果
(AIの推論結果)
深層学習(ディープラーニング)
入力 モデル 出力
• モデルとして深いニューラルネットワークを利⽤
– 複雑な特徴を表現することが出来る
学習のイメージ
入力 モデル 出力
• 例:ネコとイヌを⾒分けるAI
画像をRGB値に変換
ネコ イヌ
ネコ イヌ
AIの推論
教師データ教師に近づくように
モデルをアップデート
• ⼗分な量の教師データが必要
– データ取得やインフラのコストが⾼くなることがある
• チューニングが必要
– 課題に合わせてモデル・特徴量を設計しないといけない
• 専⾨技術や計算リソースが必要
– 合わせて、⼈材・組織作りもしなければならない
必要なもの
• 深層学習を中⼼としたAI技術の発展は⽇進⽉歩
• ゲーム業界でのトライアルも増えている
– GDCʼ18では海外パブリッシャーの実事例も豊富
ゲームとAI
ゲームとAI
モーションキャプチャの代替
コンテンツ⽣成
Karras, Tero, et al.
"Progressive growing of gans for improved quality, stability, and variation."
arXiv preprint arXiv:1710.10196(2017).
Achlioptas, Panos, et al.
"Learning Representations and Generative Models for 3D Point Clouds.”
arXiv preprint arXiv:1707.02392 (2017).
Güler, Rıza Alp, Natalia Neverova, and Iasonas Kokkinos.
"Densepose: Dense human pose estimation in the wild."
arXiv preprint arXiv:1802.00434 (2018).
ゲームとAI
⾳声に合わせた表情の⽣成
Karras, Tero, et al.
"Audio-driven facial animation by joint end-to-end learning of pose and emotion."
ACM Transactions on Graphics (TOG) 36.4 (2017): 94.
https://www.youtube.com/watch?v=lDzrfdpGqw4
⼈間 vs. AI コンテンツとして
Dota 2 challenge: DENDI 1v1 vs OpenAI
https://youtu.be/92tn67YDXg0?t=12m30s
The Future of Go Summit, Match One: Ke Jie & AlphaGo
https://www.youtube.com/watch?v=Z-HL5nppBnM
And more…
ゲームAIのこれまで
〜ゲームの中のAIとゲームの外のAI〜
ゲームの中、ゲームの外
ゲーム周辺AI
(外=開発、現実)
ゲームAI
(中=コンテンツ)
メタAI
キャラクター
AI
ナビゲーション
AI
開発支援
AI
QA-AI
自動バランス
AI
インターフェース
上のAI
データ
マイニング
©2018 SQUARE ENIX CO., LTD. All Rights Reserved.
シミュレーショ
ン技術ゲーム
可視化
ユーザーの
生体信号
プロシー
ジャルAI
ゲームの中、ゲームの外
ゲーム周辺AI
(外=開発、現実)
ゲームAI
(中=コンテンツ)
メタAI
キャラクター
AI
ナビゲーション
AI
開発支援
AI
QA-AI
自動バランス
AI
インターフェース
上のAI
データ
マイニング
©2018 SQUARE ENIX CO., LTD. All Rights Reserved.
シミュレーショ
ン技術ゲーム
可視化
ユーザーの
生体信号
プロシー
ジャルAI
フィールド
ゲームの中のAI
ナビゲーション
AI
メタAI
キャラクターAI
状況を監視し、キーとなる役割を
適切なタイミングでエージェントに
指示する。
自律的な判断。
仲間同士の協調
地形を解析する
目的に応じた点を見つけ出す
目的地までのパスを計算する
Support
エージェントが自律的に戦闘・協調しつつ、ナビゲーションAIが
戦術的ポイントを教え、メタAIは、全体の戦闘の流れを作る。
©2018 SQUARE ENIX CO., LTD. All Rights Reserved.
歴史
©2018 SQUARE ENIX CO., LTD. All Rights Reserved.
キャラクターAI
1995 2000
ナビゲーションAI
2007
メタAI
2015
ゲームの外のAI
ゲームの中、ゲームの外
ゲーム周辺AI
(外=開発、現実)
ゲームAI
(中=コンテンツ)
メタAI
キャラクター
AI
ナビゲーション
AI
開発支援
AI
QA-AI
自動バランス
AI
インターフェース
上のAI
データ
マイニング
©2018 SQUARE ENIX CO., LTD. All Rights Reserved.
シミュレーショ
ン技術ゲーム
可視化
ユーザーの
生体信号
プロシー
ジャルAI
ゲーム外AI
• 開発工程を助けるAI プロシージャル機能
• バランス調整するAI 遺伝的アルゴリズム、ニューラルネット
• QAのためのAI QA-AI
• メタAI バランス調整、ゲームメーキング
• インターフェース上のAI 音声解析、言語解析、ゼスチャー認識
• データマイニングするAI ロギング&アナライジング
• シミュレーション技術 パラメーター生成
• データビジュアリゼーション ゲームを可視化する
©2018 SQUARE ENIX CO., LTD. All Rights Reserved.
ゲームの中、ゲームの外
ゲーム周辺AI
(外=開発、現実)
ゲームAI
(中=コンテンツ)
メタAI
キャラクター
AI
ナビゲーション
AI
開発支援
AI
QA-AI
自動バランス
AI
インターフェース
上のAI
データ
マイニング
©2018 SQUARE ENIX CO., LTD. All Rights Reserved.
シミュレーショ
ン技術ゲーム
可視化
ユーザーの
生体信号
プロシー
ジャルAI
テスター
(人)
テスターをAIに置き換える
©2018	SQUARE	ENIX	CO.,	LTD.	All	Rights	Reserved.
AIプレイ
プレイ
©2018 SQUARE ENIX CO., LTD. All Rights
Reserved.
ゲームAI
(中=コンテンツ)
ゲーム周辺AI
(外=開発、現実)
人力
(All Script)
人力
©2018 SQUARE ENIX CO., LTD. All Rights
Reserved.
ゲームAI
(中=コンテンツ)
ゲーム周辺AI
(外=開発、現実)
AI技術
人力
人力
©2018 SQUARE ENIX CO., LTD. All Rights
Reserved.
ゲームAI
(中=コンテンツ)
ゲーム周辺AI
(外=開発、現実)
AI技術
人力
AI技術
人力
品質保証のための人工知能事例
開発会社 システム 詳細 参照
Ubi
2018
Assassin’s	Creed	Origin	の
レベルアセット自動検証
スクリプトによるオブジェクト同士の干渉テスト
キャラクターの生成ポイントと配置オブジェクトの干渉
テスト /	スクリプトによるテスト
‘Assassin’s	Creed	Origins‘:	Monitoring	and	Validation	of	World	Design	
Data Nicholas	Routhier Ubisoft Montreal
http://www.gdcvault.com/play/1025054/-Assassin-s-Creed-Origins
Guerrilla
2018	
Horizon Zero	Down	の自動プ
レイ
毎晩、自動的にAIキャラクターがゲームをプレイ ‘Horizon	Zero	Dawn’:	A	QA	Open	World	Case	Study Ana	Barbuta
https://www.gdcvault.com/play/1025326/-Horizon-Zero-Dawn-A
EA
2018
Battlefield1における模倣学習
による自動プレイ
模倣学習によるキャラクターがゲーム内で戦い合う https://www.ea.com/seed/news/seed-imitation-learning-concurrent-
actions
https://www.ea.com/seed/news/self-learning-agents-play-bf1
SEGA
2018
「龍が如く」~「北斗が如く」に
おける自動プレイ
ログからの自動リプレイシステム 無料で始める!「龍が如く」を面白くするための高速デバッグログ分析と
自動化https://cedil.cesa.or.jp/cedil_sessions/view/1621
RARE
2017
Thief	における Unreal	Engine	
上のキャラクタービヘイビアの
自動テスト
テストがクエリーの形でリスト化されて、毎晩テストされ
る
AUTOMATED	TESTING	FOR	MULTIPLAYER	GAME-AI	IN	SEA	OF	THIEVES
ROBERT	MASELLA
RARE	— MICROSOFT	GAME	STUDIOS
http://gameainorth.com/2017/
DELiGHT WORKS
2017
Fate/Grand	Orderにおける自
動リプレイ
サーバーを経由したログの収集とコマンド関数列の再
現
Fate/Grand	Orderにおける自動リプレイを用いたQA改善への挑戦
http://cedil.cesa.or.jp/cedil_sessions/view/1716
DeNA
2017	
「逆転オセロニア」における自
動ゲームプレイ
強化学習を用いて機械学習させる DeNA TechCon2018	ゲーム体験を支えるための強化学習
https://www.slideshare.net/juneokumura/dena-techcon2018
SQUARE	ENIX
2017
「グリムノーツ」における自動
ゲームバランス
遺伝的アルゴリズムを用いてプレイヤーAI群を進化さ
せてゲームバランスを調査する
遺伝的アルゴリズムによる人工知能を用いたゲームバランス調整
http://cedil.cesa.or.jp/cedil_sessions/view/1655
DeNA 「FINAL	FANTASY Record
Keeper」における自動プレイ
ニューロエボリューションによるプレイヤーAIの作成 AIによるゲームアプリ運用の課題解決へのアプローチ
https://cedil.cesa.or.jp/cedil_sessions/view/1511
強化学習を利用した自律型GameAIの取り組み ~高速自動プレイによる
ステージ設計支援
コンシューマ
モバイル
ゲームの外から
ゲームの中から
ゲーム自動プレイング
ゲームバランシング
Grimm’s	
Note	の
例
オセロニア
AIプレイヤ
ー
DOOM
自動
プレイ 龍が如く
リプレイ
FFRK
ゲーム自
動
プレイ
DQMP
デバッグ
Horizon	
の自動プ
レイ例
Sea	of
Thieves	の
例
Assassin’
s Creed	
の例 Battlefiel
d	1リプレ
イ
FGO
リプレイ
QAとは?
QAとは?
• 業務系:「正しく動作しているか?」が重要
– 仕様書やテスト計画書に基づいた正常系動作テスト
– ユーザー体験テスト
• ゲーム:「おもしろく遊べるか?」が重要
– 仕様書やテスト計画書に基づいた正常系動作テスト
– 主観的なプレイヤー体験をベースとした品質テスト
– プレイヤーが想定外のプレイをした場合の品質テスト
本セッションの流れ
1
2
イントロダクション(15分)
• 「AI」とは?
• 「ゲームAI」のこれまでとこれから
• 「QA」とは?
パネルディスカッション(40分)
• QAの⾃動化・AI化の取り組み
• 「QA×AI」の実際と未来予想図
• 質疑応答
QAの⾃動化・AI化の取り組み
ゲーム開発におけるテストピラミッド
データ
エンジン
ライブラリ
UI
結合
単体
⼿動プレイ
スモーク
コ
ス
ト
⾼
低
システム・Web系開発 ゲーム開発(現実)
毎⽇210台稼動
16,532件のエラー検知
40%のエラーを⾃動検知
14,351⽇の動作実績※1
11,481万円の価値※2
オートテストによる⾃動プレイテスト
※1:1⽇8時間換算
※2:時給1000円で単純計算
北⽃が如くの事例
オートテストのデモ(北⽃が如く)
会話中は○連打
バトル中は敵を倒す
操作に⾃動切換
スモーク
データ
AI活⽤で理想のテストピラミッドへ
オートテスト
(探索AI)
⼿動プレイ
エンジン
ライブラリ
オートテスト
(クリアAI)
ゲーム開発(理想)
より低コストである
データの整合性テストに
AI活⽤が期待される
• オセロがベースの戦略ゲーム
– 3000種類を超える選択肢からデッキを構築
– デッキの種類や戦略が多様で、継続的に更新される
『逆転オセロニア』のバランシング
キャラクターステータス
(HP:	ヒットポイント、
ATK:	攻撃力…)
キャラクター固有の
スキル
~3,000種類の選択肢から
16キャラクターを選択
• キャラクターを追加する際に、
意図したバランスを保ちたい
• 属⼈的な調整に加え、
AIによるサポートの可能性を検証している
1. データマイニングによるゲーム内環境の可視化
2. 機械学習を使ったキャラクターの性能評価
『逆転オセロニア』のバランシング
• 定番デッキの推移を可視化するフローを開発
– アソシエーション分析とクラスタリング分析を活⽤
ゲーム環境の可視化
※ 実際の分析結果ではなくイメージです
※ 技術詳細については3⽇⽬のセッションにて解説します
トレンドを⼀⽬
で確認できる
A⽉ B⽉ C⽉
• 追加されるキャラクターの運⽤⽅法を学習
• 学習したAIモデルを使ってゲーム環境への影響を調査
強化学習を使ったキャラクター評価
新キャラクターの学習
勝率(%)
様々なデッキで勝率を取得し、影響を事前に検知
※ 新キャラの学習は⼀定確認できており、概念検証を続けている段階
※ 技術詳細については3⽇⽬のセッションにて解説します
「QA×AI」の実際と未来予想図
• QA⽂脈でAIにできそうなこと・難しいこと
• AI導⼊に取り組む際の課題
• QAの課題
Items
…
まとめ
ゲーム×AIの議論の場を育てたい
今後について
Google Group: game-ai
https://goo.gl/4dVN2o
Slack: game-ai-ja
https://goo.gl/jqEgLf

次世代QAとAI 〜ゲーム開発におけるAI活用に正しく向き合うために〜