2019/11/29 JuliaTokyo#10 LT資料。Julia Gen.jl についてAI初心者的観点でチュートリアルやってみたときの所感等をまとめた。

1. 汎用AIプログラミングシステム Gen を使ってみた
2019/11/29(金)
任意団体AI一家 金子淳

2. AI一家 mit@heart.ocn.ne.jp 2
自己紹介
●
任意団体 AI一家
– 新横浜中心に活動
– 人工知能の勉強会などを行う予定です
– 親子で活動しています
●
金子淳
– Python歴9年のソフトウェアエンジニア
– シンクライアント開発をしていました
– 日本ディープラーニング協会のE資格を取得
– 現在就職活動中！

3. AI一家 mit@heart.ocn.ne.jp 3
Genって何?
(引用元)
Liam Tung （ZDNet.com）
『MIT、「Julia」上で動作する初心者向け
汎用AIプログラミングシステム「Gen」を発表』
2019年7月1日更新 (最終閲覧日2019年11月25日)
https://japan.zdnet.com/article/35139247/
➢
MITの論文によると「Gen」という名称は、従来の確率的プログ
ラミングでは考慮されていなかった、「汎用目的」（General
purpose）での使用を可能にすることを念頭に置いて付けられ
た。
➢
論文には「既存のシステムは汎用目的としては実用的ではな
い」と記されている。
➢
MITは、TensorFlowが「DLモデルに的を絞っている」という点
で、AIの持っている潜在的能力を完全に解放していない可能性
を指摘している。

4. AI一家 mit@heart.ocn.ne.jp 4
なるほど、分からん
…「汎用目的」(General Purpose)ってどゆこと？
→ チュートリアルあるのでやってみた
※ここで紹介するのは1つ目のチュートリアル冒頭の話
(私は3つ目のチュートリアルに苦戦中です)

5. AI一家 mit@heart.ocn.ne.jp 5
チュートリアルに入る前に
教師あり学習とは
「与えられたデータ(入力)を元に、そのデータがどんなパターン
(出力)になるかを識別・予測する」こと
(浅川伸一、江間有沙、工藤郁子、巣籠悠輔、瀬谷啓介、松井孝之、松尾豊著『深層学習教科書ディープラーニングG検定(ジェネラリスト)公式テキスト』株式会社翔泳社、2018、p.94)
モデル
(=何らかの数式 例: y=ax+b)
入力変数 x 予測値 y
実測値 t
性能指標
(=実測値と予測値が
どれほど合っているか)
パラメータ
(例: 傾きa, 切片b)
学習
(=性能指標が良くなるように
パラメータを調整)
例: マンション家賃例:
・部屋の大きさ
・駅からの距離
・周辺のコンビニの数
等々

6. AI一家 mit@heart.ocn.ne.jp 6
問題設定: 妥当な線を引こう(単線形回帰分析)
左図のような実測値が与えられたら、
右図のように予測値の線を引きたくなるよね

7. AI一家 mit@heart.ocn.ne.jp 7
Genではこうやって解決できる(1/3)
①生成関数(=先の教師あり学習で図示したモデルそのもの)を作る
←入力変数を引数から取得
←パラメータを
確率分布から取得
←モデル式
←予測値
←戻り値はあまり関係ない

8. AI一家 mit@heart.ocn.ne.jp 8
Genではこうやって解決できる(2/3)
②学習を行う
➢
チュートリアルではImportance Resamplingというアルゴリズムを使用
➢
生成関数が出力する予測値が実測値と近くなるように何度もサン
プリングしてパラメータを推測する
←引数に生成関数、
入力変数、実測値、
計算量を渡すと、
traceを返す。
←traceに推測したパラメータが入る
ちなみに正解は
slope = 1.2
intercept = 3.0
noise = 2.0

9. AI一家 mit@heart.ocn.ne.jp 9
Genではこうやって解決できる(3/3)
③予測を行う
➢
パラメーターを固定して生成関数を実行できる
➢
つまり、生成関数を学習済みモデルとして使うことができる
↑試しに0～24の範囲で値を予測してみる
←結果はこんな感じ、青い点が予測値
この予測結果は妥当だよね？

10. AI一家 mit@heart.ocn.ne.jp 10
もっといろいろできるぞ！(1/2)
●
ポイントは「生成関数」を自由に書けるということ
– 1. 入力変数を引数にとって
– 2. パラメーターをどの確率分布から取得するか決めて
– 3. モデル式を定義して
– 4. 入力変数に対応した予測値を出力すればよい
●
つまり「汎用目的(General Purpose)」な使い方が可能！

11. AI一家 mit@heart.ocn.ne.jp 11
もっといろいろできるぞ！(2/2)
●
モデル選択
– さっきはデータが線形であると仮定したが、間違えてるかもしれないよ?
– 複数のモデルを仮定してデータから1つを決めることを「モデル選択」といいます。
– モデル選択もパラメータの1つとして扱えばできる！
●
ノンパラメトリックベイズ
– パラメータの数に上限がないモデルはどうすれば?
– traceは階層構造にできるので生成関数を再帰的に呼び出せばできる！
●
エージェントモデル
– 頑張ればできるぞ！(2つ目のチュートリアル参照)
●
TensorFlow
– GenTFを使えばTensorFlowも呼び出せるぞ！(3つ目のチュートリアル参照)
– TensorFlowで実現できないようなパラメータを独自に導入できるかも！

12. AI一家 mit@heart.ocn.ne.jp 12
おわり
ご清聴ありがとうございました。
興味があればAI一家の勉強会にも参加してね。
メールアドレス: mit@heart.ocn.ne.jp