うんかいったーハッカソン 2016 02-20
•
1 like•4,647 views
阿蘇の雲海の発生を予報しているうんかいったーのハッカソン資料です。機械学習の説明から、性能向上策まで説明しています。軽く。笑 もっと洗練させたいな〜。
Recommended
More Related Content
Viewers also liked
Viewers also liked (20)
More from Katsuhiro Morishita
More from Katsuhiro Morishita (20)
うんかいったーハッカソン 2016 02-20
- 1. 熊本高等専門学校 建築社会デザイン工学科 助教 森下功啓 2016-02-20 1 うんかいったー ハッカソン
- 2. INDEX • うんかいったーの紹介 • 機械学習入門 • うんかいったーの場合の特徴量と結果 • プログラムの説明 • 環境構築方法の説明（さらっと） • ハッカソン解説 • ハッカソン！！！！！！ • 表彰 2
- 7. 阿蘇の雲海発生状況 • 2004年〜2013年のアマチュアカメラマンの観測結果 7 *観測者の行動パターンに起因した観測漏れは十分に考えられます。 0 2 4 6 8 10 12 14 12/30/01 12/31/03 12/30/05 12/30/07 12/30/09 12/30/11 12/30/13 12/30/15 頻度
- 9. 9
- 13. 雲海発生を予想する手法 13
- 17. 17
- 19. 機械学習 • 条件と結果 を ソフトウェア に学習させる • 機能を限定されたAIと考えても良い 19
- 21. 21 はあ？
- 30. 30 機械学習の用例を挙げる。 例えば、体重と身長で男女を識別する場合だ。 http://home page3.nifty. com/orang ejuice/weig htBunpu.gif 女 男
- 44. 44 本題に戻ろう。
- 47. 機械学習の学習を具体的に 47 y = 𝑓(𝑋) 特徴ベクトル 答え これを実現する関数fを学習する。
- 48. 明日の天候を識別する例 （例えば、Y>0.5で雨） 48 y = 𝑓(𝑋) y = 𝑎( 𝑥( + 𝑎+ 𝑥+ + 𝑎, 𝑥, + 𝑎- ここで、𝑥(:気圧配置, 𝑥+:可降水量, 𝑥,:地形 *この例では、式を線形で表しているが、非線形でも良い。 **このモデルはあくまで形を表現しただけで、実際に天候を予測できる訳ではない。 係数aを学習する
- 49. SIN関数を学習する例 49 http://riveroce an.blog85.fc2. com/blog- category- 1.html 学習データ（青+） 学習結果（赤線） 正解（緑線）
- 52. どうやって学習するの？ アルゴリズム的に。 52 学習の方法は無数にある。 ニューラルネットワーク サポートベクターマシン ランダムフォレスト その他 このスライドでは解説しきれないので、割愛します。
- 53. 言葉の整理 • 特徴量 • 識別・回帰などに使えるパラメータ • 数値である • 特徴ベクトル • 特徴量を順番に格納したベクトル • 学習データ • 学習に使うデータ • 教師データ • 学習データに正解ラベルをつけたもの 53
- 54. 54
- 55. うんかいったーの場合 55
- 63. 63 色々はしょって
- 64. 雲海が発生しやすい状況 • 逆転層が形成（≒ある意味上空よりも冷えている） • 風が弱い • 日中の飽和水蒸気量が大きい • 夜間に地表付近が冷える • 適度な標高まで露点温度を下回っている 64 ＊曇でも、雲海は発生する。 ＊曇りの日は写真に適さないだけだ。
- 69. 特徴ベクトルの作成 69
- 70. 70 Oops!
- 72. 1: 雲海が出た 72 2015-12-13 AM 6 AM 7 AM 8 AM 9 AM 10
- 74. 0 OR 1: 雲海が微妙 74 雲海は出ているが、 写真に適しているか どうかは微妙だ。 現状では、全く空が 見えない場合は0とし ている。
- 77. 作成した正解ラベル • 日付¥t結果¥t検証フラグ の順 • ¥tはタブを表すコード • xは不明 を表し、 • vは検証に利用してOK を表す。 77
- 78. 78
- 79. プログラムの説明 79
- 82. 重要なスクリプト • feature.py: 気象データと日付を渡すと特徴ベクトルを生成し ます。 • core.py: うんかいったーにツイートするサーバーが実行するス クリプトです。実行時点で最新の予想値を計算します。 • learning_repeat.py: 数千回の機械学習を行い、その都度学 習済みの機械学習機を保存します。同時に生成される verify_reportには個々の学習機の学習結果が保存され、性能 の高い機械学習機が分かります。 • check4learned_machine.py: learning_repeat.pyの作成 した学習機を読みだして、閾値による判定を実施します。利用 する学習機の選択に利用します。 82
- 83. ライブラリ • timeKM.py: 時刻関係の処理を行う。 • learning.py: 学習を行う。 • predict.py: 予想を行う。 • create_learning_data.py: 教師データと 検証用のデータを作成・保存する。 83
- 84. 補助ツール • twilog_photo: twilogにアップしているWebカメラの 写真をダウンロードする。 • weather: 気象庁発表の天気予報をダウンロードする。 • weather_satellite: 気象庁から気象衛星の写真をダ ウンロードする。 • web_cam_capt: 配信されているWebカメラ画像を ダウンロードする。 84
- 85. その他のファイル • amedas_asoOtohime.csv: 阿蘇乙姫のアメダス観測データ。 気象庁のサイトから収集した。 • amedas_kumamoto.csv: 熊本市のアメダス観測データ。気 象庁のサイトから収集した。 • entry_16.pickle: 16時台の予想に使う学習済み機械学習機の シリアライズ化データ。 • entry_23.pickle: 23時台の予想に使う学習済み機械学習機の シリアライズ化データ。 • unkai_date.csv: 雲海発生実績と学習の検証に使うかどうかの フラグを収めたファイル。 • production.sqlite3: ネットから収集した雲海の撮影日が格納さ れているデータベース。 85
- 98. 他言語に慣れた方へ • Pythonでは、インデントでスコープを表します。 • インデントはタブか半角スペースです。 • タブと半角スペースが混ざると良くないです。 98
- 99. 99
- 100. 環境構築 100
- 102. 必要な環境 • プログラムの実行環境 • エディタ • プログラムのソースコード • （GitHubのアカウント） • Excelの様な表計算ソフト 102
- 105. プログラムの実行環境構築方法 WINDOWS向けANACONDAインストール解説動画もあります。 105 https://www.youtube.com/watch?v=7u6FYmhFtNQ
- 106. プログラムの実行環境構築方法 FOR MAC • homebrew -> pyenv -> Anaconda • この順でインストールがお勧め 106
- 107. 107 プログラムの編集に必要なエディタ
- 108. エディタはPYCHARMか SUBLIME TEXTがお勧め • PyCharm • https://www.jetbrains.com/pycharm/ • Sublime Text • https://www.sublimetext.com/3 108
- 109. 109 プログラムソースコードの入手
- 110. GITHUBアカウントを持ってい るなら、フォーク 110 https://github.com/KatsuhiroMorishita/Aso_Sea_Clouds_Pridiction クリック
- 113. 113 持ってないよ（汗） という方は、
- 114. 114 アカウントを作って欲しいが・・・
- 116. 116
- 117. ハッカソン！！ 117
- 118. 提供データ • 2015-11〜2016-01の天気予報 • https://goo.gl/flq918 • 2015-08以降のWebカメラの映像 • https://goo.gl/0UfVf5 • SNSで収集した雲海情報 • https://goo.gl/DsUZQ7 • 2015-11以降の衛星赤外画像 • https://goo.gl/9c4R8q • Webカメラ画像の判定結果 ＆ ソースコード • https://github.com/KatsuhiroMorishita/Aso_Sea_Clouds_Pridiction 118
- 123. テーマの実現方法 • より良い特徴ベクトルを開発 • より良い機械学習器を使う • より良い学習アルゴリズムを用いる • 独自の学習器を構築 123
- 124. テーマの実現方法と編集対象 • より良い特徴ベクトルを開発 • feature.py • より良い機械学習器を使う • 「 RandomForestRegressor 」の記述のあるスク リプトファイル全て（core.pyは今回は不要） • 学習パラメータを変更してもよい • より良い学習アルゴリズムを用いる • 学習データの用意の仕方なら、 create_learning_data.py 124
- 125. 125 • 独自の学習器を構築 Free Your Mind. えーと、どう実現してもOKです！
- 126. 作業の流れ 1. プログラム改造 2. 学習 3. 検証 4. 成績を付ける 5. 成績をスプレッドシートに自己申告 1. https://goo.gl/CfqUJK 126
- 129. 学習の試行回数をセット • learning_repeat.py 129 時間がかかるの で100回とする *ここでの「試行回数」はニューラルネットワークなどでの「学習回数」とは区別してください。
- 132. LEARNING_REPEAT.PY を実行 • ターミナル、もしくはコマンドプロンプトを起動 • コマンド • python learning_repeat.py(return key) 132
- 135. CHECK4LEARNED_MACHINE.PY を実行 • ターミナル、もしくはコマンドプロンプトを起動 • コマンド • python check4learned_machine.py 16 _f16(return key) • 第1引数：対象時刻 • 第2引数：対象フォルダ名 135
- 139. 139 その他
- 140. ヒント • あまり予想に貢献していない特徴量は利用しない • ランダムフォレストを利用している場合、 learning.pyを実行すると各特徴量の重要性判定 値を出力してくれるので、それを見ると良い。 • 次元圧縮（主成分分析：PCA）をやっても良い 140 ↓大きい方が影響が大きいことを示している
- 141. 学習と予測の実行時にエラーメッ セージが出るけど無視して下さい • 特徴量を-1.0〜1.0の間に納めなさいとエラーが出る。 • 正規化という処理が必要です。 • 将来のバージョンでは特徴量がこの範囲内でないと実 行されなくなります。 141
- 142. 142
- 143. このスライドで省略したこと • このスライドでは、以下の項目を省略している • やってみて上手く行かなかったら勉強しよう • 省略項目 • 正規化 • 手法間の差異 • 過学習 • 局所解 • 次元の呪い • 最新の学習手法 • 次元圧縮 143 • 教師あり学習 • 教師なし学習 • 半教師あり学習 • 強化学習
- 144. 参考文献 • Neural Network TensorFlow入門講座 • https://drive.google.com/file/d/0B04 ol8GVySUubjVsUDdXc0hla00/view • 機械学習の最前線を俯瞰できます • ニューラルネットワークに関する解説もあり 144
- 145. 参考文献（動画） • CR10 Pythonとscikit-learnではじめる機械学習 (ja) • https://www.youtube.com/watch?v=yp6LIjc ZgoQ • 0319 WBS 機械学習が変える世界 • https://www.youtube.com/watch?v=CthNh T5lQlo • 人工知能：機械学習の視覚的理解 • https://www.youtube.com/watch?v=RnJCv GAGqtk 145
- 146. 146
- 147. 没スライド 147
- 148. これは回帰問題か？識別問題か？ • 「雲海が出る」 か 「雲海が出ない」 は識別問題 • だけど、予報値として「明日は○○%」としたい • そこで、あえて回帰問題として解く 148 *回帰か識別のどちらを使うかで機械学習器の種類が決まる。
- 151. 機械学習器の選択 • 以下の要素により、使う学習器を選択する • 学習データの量 • 特徴ベクトルの次元数 • 逐次学習の必要性 • 回帰か識別か • 時系列による状態変化の有無 • 教師データの有無 151