第一回☆GREE AI Programming ContestでTensorFlow

Copyright © GREE, Inc. All Rights Reserved.
第一回☆GREE AI Programming
Contest
で
TensorFlow
2017/05/24
グリー株式会社
開発本部データエンジニアリンググループ
森田想平

• グリーという会社で、全社横断的な分析基盤を開発運用するチームを
マネジメントしています
• 最近はAI関連システムも見ています
• アナリストチームは別にある
自己紹介（会社の宣伝）
第一回☆GREE AI Programming ContestでTensorFlow

• 開催のきっかけ / 開催趣旨
• 開催概要
• 運営側が用意したもの
• 実施期間中の出来事
• 参加者、運営者の感想など
• まとめ
あらすじ

開催のきっかけ
トップダウン

トップの気持ち

開催趣旨
• リテラシーをあげる
• 輪読会なども以前から実施
• http://www.deeplearningbook.org/
• 正しい方向に夢を広げたい
• 低コストで使える環境を用意する
• 使えばわかる事は多い（使わないとよくわからない）
• なるべく沢山のエンジニアが触った方がよい
• 応用範囲が広い
• 興味ある人も多い

• 日時
• 2016年9月中旬 2週間
• 最初1週間の予定だったが伸びた
• 参加者数
• 18チーム 30人くらい
• 思ったより多くなったので途中で締め切り
開催概要

• お題
• 画像の２値分類
• 決まりごと
• チーム戦（１〜３名）
• 生成されたモデルの権利は会社に帰属
• 簡単な賞品あり
• 画像の取り扱いについて取り決めをし、誓約する
• Ex. コンテスト環境（AWS）外への持ち出し禁止。ローカルPC使用不可
• 業務外の時間で
お題

• 学習データセット
• OK: 30,000件、NG: 10,000件
• 評価データセット
• 6,000件のhash key+labelを、規定のAPIに送信すると、そのう
ち秘密の4,000件のみを対象にしたスコアを返す
• コンテスト期間終了後、最後に送信されたデータ6,000件すべてを利
用した精度で順位を判定
• つまり、最終結果だけ6,000件すべてを利用する
評価方法

Ref. プロダクション側での実装

• コンテスト用のAWS環境
• サンプルプログラム
• サンプルプログラムが動くようセットアップしたAMI
• データセット
• スコア計算のためのAPIサーバ
• サポートチャット
運営側が用意したもの

• なんでAWSだったのか
• 業務で幅広く利用しており、アカウントやセキュリティ周りの設
定等になれてたから
• (Google) Cloud Datalabも検討しました
• 専用アカウントを作り、そこに各チームがEC2をたてて、作業を行う
• g2.2xlargeが各チーム１インスタンス
• APIサーバもそのアカウントの中にある
コンテスト用のAWS環境

• （注：コンテストは2016/09に実施しました）
• CUDA 7.5-18 (for Ubuntu14.04)
• cuDNN v4.0 for CUDA 7.0
• Python3
• TensorFlow 0.9.0
• がインストールしてあるAMIを用意
• awsコマンド用の設定ファイルに上記AMI（やセキュリティグループ
等）を書いておいて、それを使ってインスタンス作成等してもらう
サンプルプログラムが動くようセットアップしたAMI

• サンプルコードとデータはS3に置いておき、コピーしてもらう
• データはStandard TensorFlow formatと生画像の両方用意
• ４万枚程度
• サンプルコード
• 生TensorFlow
• 畳み込み層が２層、全結合が１層の、比較的単純なネットワーク
サンプルコードとデータセット
トレーニング
% python train.py --data_dir='data/train/*' --max_steps=100000
評価
% python output.py --checkpoint_dir=./train --eval_data=data/eval >
result.json

• WebUIからチーム名を登録してもらってAPIキーを発行
• 回答の送信時にはチーム名とAPIキーで認証
• 回答の送信はAPIを直接叩いてもいいけど、ラップしたコードを配る
• チーム一覧と現時点でのランキングを表示できる
• 最終スコアを一番最後の回答に対して計算する
• スコアは単純な正解率（正しく分類できたデータの比率）
スコア計算のためのAPIサーバ
評価結果をAPIサーバに送信
% ./submit result.json

• モデルの改善
• とりあえず複雑にしたり
• 前処理の工夫
• 画像に既存の仕組み（ Cloud Vision APIか何か）ラベルをつけて、
そのラベルを特徴にして分類した。
• 目視でもっと細かいラベルを自分たちでひたすらつけた
• こっちの方が効果があった
コンテスト中のできごと

• 参加者の感想
• とりあえずマシンパワーが貧弱
• 基本的に学習がゆっくり
• ３人チームで１人がGPU使うと２人が暇人になる
• 分散もしたくなる
• 運営の感想
• 動いてよかった
• 実アプリに適用する場合のだいたいの流れが把握できた
• こういうのに興味ある人や、各人の熱量がわかってよかった
終わってみて

• 深層学習に慣れ親しむためのプログラミングコンテストを実施した
• たくさんのエンジニアが、体験できた
• 参加者はTensorFlowを書くだけのつもりだった
• つもりだったが、結局前処理を頑張る感じになりました
• 私が浅はかでした
• 第二回もやる予定
まとめ

第一回☆GREE AI Programming ContestでTensorFlow

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to 第一回☆GREE AI Programming ContestでTensorFlow

Similar to 第一回☆GREE AI Programming ContestでTensorFlow (20)

More from gree_tech

More from gree_tech (20)

第一回☆GREE AI Programming ContestでTensorFlow