SlideShare a Scribd company logo
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
予測モデルを用いた
シミュレーションと最適化
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
本編(抜粋)
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
予測モデルを用いたシミュレーションと最適化
今回やること
● DataRobotでの予測モデル作成のやり方を復習する
● DataRobotのAPIを用いて予測を自動で回してみる
● 簡単なシミュレーションと最適化をやってみる
今回やらないこと
● Pythonそのものの書き方
● 最適化の数理的にガチな話
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
予測モデルを用いたシミュレーションと最適化
DataRobotで現実の因果関係を代替し、 = シミュレーション
予測値が最適になる条件を求める    = 最適化
● DataRobotは入力データに対して予測値を返す予測モデルを簡単に作る
ことができる。
● 一方で、特に製造業などでは欲しいのは予測値というよりも、最適な予測
値となる入力データというケースが多い。
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
DataRobotを用いてシミュレーションと最適化を行う
データの取得
前処理
データの用意
探索空間
の設定
最適化の
実行
結果
確認
モデル
生成
最適化対象
の設定
複数のモデルを生
成・比較して選択す
る
どの範囲をどのよう
に探索するかを決め
る
最適化する指標
(コスト関数)を決
める
最適化を実行する 結果の妥当性を確
認する
実際のR&D、ビジネスに
適用し、効果を検証する
得られた実データを加えて更に最適
化サイクルを回していく
最適化エンジンが
予測モデルを使っ
て”実験”しながら最
適条件を探してくれ
る。
(DataRobot APIを利
用)
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
DataRobotによる予測モデルの構築
今回は題材として、コンクリート圧縮強度のデータ( concrete.csv)を用いる。
コンクリート圧縮強度が最大になるような配合を求めたい。
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
予測モデルを用いたシミュレーションと最適化
1. DataRobotによる予測モデルの構築
a. ターゲットの設定とオートパイロット開始
b. 生成したモデルの確認
c. モデル選択
d. 予測APIのアクティベーション
2. シミュレーションと最適化の概要
a. 最適化の各アプローチと特徴
i. グリッドサーチ
ii. ランダムサーチ
iii. Sequential Model Based Optimization
(SMBO)
3. ランダムサーチ的アプローチによる最適化
a. 探索空間の設定
b. 乱数による入力データの生成
c. 予測の実行
d. 最適データの抽出
4. 【応用】hyperoptによる最適化
a. 探索空間の設定
b. 最適化対象の設定
c. 最適化の実行
d. 結果の確認と可視化
5. 【応用】その他、最適化を行う際の工夫
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
最適化について
最小化した
いなぁ
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
最適化について
この辺り?
高次元の特徴空間ではより複雑になるので、やり方を考える必要がある。
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
最適化手法について
グリッドサーチ ランダムサーチ
Sequential Model Based
Optimization (SMBO)
探索の仕方
各変数について、設定した候
補について、全ての組合せを
しらみ潰しにする。
探索空間からランダムサンプ
リングした変数の組合せにつ
いて試行を繰り返す。
内部に計算の軽い近似モデル
を持っていて、このモデルを元
に逐次更新しながら探索す
る。
メリット
並列化が容易
探索空間が比較的に小さい場
合には、網羅的な探索が可能
である。
並列化が容易
グリッドサーチと比較して試行
回数を減らせる。
有望な領域を集中的に探索し
てくれるので、無駄な試行が少
ない。
デメリット
探索空間が広大な場合、しら
み潰しは無理(重要変数の最
適値が抜け落ちる)。
無駄な試行が多い。
高次元になってくると厳しい場
合がある。
無駄な試行が多い。
並列化には工夫が必要
元関数が軽い場合、探索範囲
が狭すぎる場合には効率悪
い。
利用シナリオ
少ないパラメータ数を網羅的
に探索したい, e.g. SVMのハ
イパラ調整
探索領域が広い/モデルの計
算速度が遅い, e.g. XGBoost
やNNのハイパラ調整
探索領域が広い/モデルの計
算速度が遅い, e.g. XGBoost
やNNのハイパラ調整
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
DataRobotとhyperoptによる最適化
探索空間を確率の形で記述して、最適化対象の関数を指定してあげるといい感じに
最適化してくれるライブラリ。
sklearnのグリッドサーチやランダムサーチと似ていてとっつきやすい。
Kaggleなどでもハイパーパラメータ調整などで頻繁に用いられている。
Confidential. Copyright © DataRobot, Inc. - All Rights Reserved
結果の確認と可視化
材齢(日)
単位水量(kginm^3)
コンクリート圧縮強度(Mpa)
特徴量インパクトの大きい変数について、最適化の進行する過程を可視化して
みましょう。
試行回数

More Related Content

What's hot

BlackBox モデルの説明性・解釈性技術の実装
BlackBox モデルの説明性・解釈性技術の実装BlackBox モデルの説明性・解釈性技術の実装
BlackBox モデルの説明性・解釈性技術の実装
Deep Learning Lab(ディープラーニング・ラボ)
 
テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明
tmtm otm
 
密度比推定による時系列データの異常検知
密度比推定による時系列データの異常検知密度比推定による時系列データの異常検知
密度比推定による時系列データの異常検知
- Core Concept Technologies
 
画像キャプションの自動生成
画像キャプションの自動生成画像キャプションの自動生成
画像キャプションの自動生成
Yoshitaka Ushiku
 
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
RyuichiKanoh
 
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
Preferred Networks
 
機械学習による統計的実験計画(ベイズ最適化を中心に)
機械学習による統計的実験計画(ベイズ最適化を中心に)機械学習による統計的実験計画(ベイズ最適化を中心に)
機械学習による統計的実験計画(ベイズ最適化を中心に)
Kota Matsui
 
マルチモーダル深層学習の研究動向
マルチモーダル深層学習の研究動向マルチモーダル深層学習の研究動向
マルチモーダル深層学習の研究動向
Koichiro Mori
 
【DL輪読会】Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Mo...
【DL輪読会】Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Mo...【DL輪読会】Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Mo...
【DL輪読会】Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Mo...
Deep Learning JP
 
StanとRで折れ線回帰──空間的視点取得課題の反応時間データを説明する階層ベイズモデルを例に──【※Docswellにも同じものを上げています】
StanとRで折れ線回帰──空間的視点取得課題の反応時間データを説明する階層ベイズモデルを例に──【※Docswellにも同じものを上げています】StanとRで折れ線回帰──空間的視点取得課題の反応時間データを説明する階層ベイズモデルを例に──【※Docswellにも同じものを上げています】
StanとRで折れ線回帰──空間的視点取得課題の反応時間データを説明する階層ベイズモデルを例に──【※Docswellにも同じものを上げています】
Hiroyuki Muto
 
潜在ディリクレ配分法
潜在ディリクレ配分法潜在ディリクレ配分法
潜在ディリクレ配分法
y-uti
 
「世界モデル」と関連研究について
「世界モデル」と関連研究について「世界モデル」と関連研究について
「世界モデル」と関連研究について
Masahiro Suzuki
 
Zotero紹介
Zotero紹介Zotero紹介
Zotero紹介
Takara Ishimoto
 
ディープラーニングのフレームワークと特許戦争
ディープラーニングのフレームワークと特許戦争ディープラーニングのフレームワークと特許戦争
ディープラーニングのフレームワークと特許戦争
Yosuke Shinya
 
大規模な組合せ最適化問題に対する発見的解法
大規模な組合せ最適化問題に対する発見的解法大規模な組合せ最適化問題に対する発見的解法
大規模な組合せ最適化問題に対する発見的解法
Shunji Umetani
 
組合せ最適化問題と解法アルゴリズム
組合せ最適化問題と解法アルゴリズム組合せ最適化問題と解法アルゴリズム
組合せ最適化問題と解法アルゴリズム
sady_nitro
 
系列ラベリングの基礎
系列ラベリングの基礎系列ラベリングの基礎
系列ラベリングの基礎
Takatomo Isikawa
 
データ解析のための統計モデリング入門 1~2章
データ解析のための統計モデリング入門 1~2章 データ解析のための統計モデリング入門 1~2章
データ解析のための統計モデリング入門 1~2章
itoyan110
 
全力解説!Transformer
全力解説!Transformer全力解説!Transformer
全力解説!Transformer
Arithmer Inc.
 
東大大学院 電子情報学特論講義資料「ハイパーパラメタ最適化ライブラリOptunaの開発」柳瀬利彦
東大大学院 電子情報学特論講義資料「ハイパーパラメタ最適化ライブラリOptunaの開発」柳瀬利彦東大大学院 電子情報学特論講義資料「ハイパーパラメタ最適化ライブラリOptunaの開発」柳瀬利彦
東大大学院 電子情報学特論講義資料「ハイパーパラメタ最適化ライブラリOptunaの開発」柳瀬利彦
Preferred Networks
 

What's hot (20)

BlackBox モデルの説明性・解釈性技術の実装
BlackBox モデルの説明性・解釈性技術の実装BlackBox モデルの説明性・解釈性技術の実装
BlackBox モデルの説明性・解釈性技術の実装
 
テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明テーブル・テキスト・画像の反実仮想説明
テーブル・テキスト・画像の反実仮想説明
 
密度比推定による時系列データの異常検知
密度比推定による時系列データの異常検知密度比推定による時系列データの異常検知
密度比推定による時系列データの異常検知
 
画像キャプションの自動生成
画像キャプションの自動生成画像キャプションの自動生成
画像キャプションの自動生成
 
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial)
 
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
 
機械学習による統計的実験計画(ベイズ最適化を中心に)
機械学習による統計的実験計画(ベイズ最適化を中心に)機械学習による統計的実験計画(ベイズ最適化を中心に)
機械学習による統計的実験計画(ベイズ最適化を中心に)
 
マルチモーダル深層学習の研究動向
マルチモーダル深層学習の研究動向マルチモーダル深層学習の研究動向
マルチモーダル深層学習の研究動向
 
【DL輪読会】Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Mo...
【DL輪読会】Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Mo...【DL輪読会】Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Mo...
【DL輪読会】Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Mo...
 
StanとRで折れ線回帰──空間的視点取得課題の反応時間データを説明する階層ベイズモデルを例に──【※Docswellにも同じものを上げています】
StanとRで折れ線回帰──空間的視点取得課題の反応時間データを説明する階層ベイズモデルを例に──【※Docswellにも同じものを上げています】StanとRで折れ線回帰──空間的視点取得課題の反応時間データを説明する階層ベイズモデルを例に──【※Docswellにも同じものを上げています】
StanとRで折れ線回帰──空間的視点取得課題の反応時間データを説明する階層ベイズモデルを例に──【※Docswellにも同じものを上げています】
 
潜在ディリクレ配分法
潜在ディリクレ配分法潜在ディリクレ配分法
潜在ディリクレ配分法
 
「世界モデル」と関連研究について
「世界モデル」と関連研究について「世界モデル」と関連研究について
「世界モデル」と関連研究について
 
Zotero紹介
Zotero紹介Zotero紹介
Zotero紹介
 
ディープラーニングのフレームワークと特許戦争
ディープラーニングのフレームワークと特許戦争ディープラーニングのフレームワークと特許戦争
ディープラーニングのフレームワークと特許戦争
 
大規模な組合せ最適化問題に対する発見的解法
大規模な組合せ最適化問題に対する発見的解法大規模な組合せ最適化問題に対する発見的解法
大規模な組合せ最適化問題に対する発見的解法
 
組合せ最適化問題と解法アルゴリズム
組合せ最適化問題と解法アルゴリズム組合せ最適化問題と解法アルゴリズム
組合せ最適化問題と解法アルゴリズム
 
系列ラベリングの基礎
系列ラベリングの基礎系列ラベリングの基礎
系列ラベリングの基礎
 
データ解析のための統計モデリング入門 1~2章
データ解析のための統計モデリング入門 1~2章 データ解析のための統計モデリング入門 1~2章
データ解析のための統計モデリング入門 1~2章
 
全力解説!Transformer
全力解説!Transformer全力解説!Transformer
全力解説!Transformer
 
東大大学院 電子情報学特論講義資料「ハイパーパラメタ最適化ライブラリOptunaの開発」柳瀬利彦
東大大学院 電子情報学特論講義資料「ハイパーパラメタ最適化ライブラリOptunaの開発」柳瀬利彦東大大学院 電子情報学特論講義資料「ハイパーパラメタ最適化ライブラリOptunaの開発」柳瀬利彦
東大大学院 電子情報学特論講義資料「ハイパーパラメタ最適化ライブラリOptunaの開発」柳瀬利彦
 

Similar to DataRobotによる予測モデルを用いた シミュレーションと最適化(抜粋)

Optimization and simulation with DataRobot
Optimization and simulation with DataRobotOptimization and simulation with DataRobot
Optimization and simulation with DataRobot
Yuya Yamamoto
 
[db tech showcase Tokyo 2018] #dbts2018 #D23 『機械学習の自動化を実現するDataRobotによるAIの民主化とは』
[db tech showcase Tokyo 2018] #dbts2018 #D23 『機械学習の自動化を実現するDataRobotによるAIの民主化とは』[db tech showcase Tokyo 2018] #dbts2018 #D23 『機械学習の自動化を実現するDataRobotによるAIの民主化とは』
[db tech showcase Tokyo 2018] #dbts2018 #D23 『機械学習の自動化を実現するDataRobotによるAIの民主化とは』
Insight Technology, Inc.
 
[CTO Night & Day 2019] ML services: MLOps #ctonight
[CTO Night & Day 2019] ML services: MLOps #ctonight[CTO Night & Day 2019] ML services: MLOps #ctonight
[CTO Night & Day 2019] ML services: MLOps #ctonight
Amazon Web Services Japan
 
A3RT - the details and actual use cases of "Analytics & Artificial intelligen...
A3RT - the details and actual use cases of "Analytics & Artificial intelligen...A3RT - the details and actual use cases of "Analytics & Artificial intelligen...
A3RT - the details and actual use cases of "Analytics & Artificial intelligen...
DataWorks Summit/Hadoop Summit
 
A3RT -The details and actual use cases of“Analytics & Artificial intelligence...
A3RT -The details and actual use cases of“Analytics & Artificial intelligence...A3RT -The details and actual use cases of“Analytics & Artificial intelligence...
A3RT -The details and actual use cases of“Analytics & Artificial intelligence...
Recruit Technologies
 
SQL Server 2017 で実現される AIシステムモデル のご紹介
SQL Server 2017 で実現される AIシステムモデル のご紹介SQL Server 2017 で実現される AIシステムモデル のご紹介
SQL Server 2017 で実現される AIシステムモデル のご紹介
Tomoyuki Oota
 
[Japan Tech summit 2017] MAI 005
[Japan Tech summit 2017] MAI 005[Japan Tech summit 2017] MAI 005
[Japan Tech summit 2017] MAI 005
Microsoft Tech Summit 2017
 
Pythonで入門するApache Spark at PyCon2016
Pythonで入門するApache Spark at PyCon2016Pythonで入門するApache Spark at PyCon2016
Pythonで入門するApache Spark at PyCon2016
Tatsuya Atsumi
 
モデル最適化指標・評価指標の選び方
モデル最適化指標・評価指標の選び方モデル最適化指標・評価指標の選び方
モデル最適化指標・評価指標の選び方
幹雄 小川
 
Microsoft Intelligent Data Platform -データ活用のための最新技術-
Microsoft Intelligent Data Platform -データ活用のための最新技術-Microsoft Intelligent Data Platform -データ活用のための最新技術-
Microsoft Intelligent Data Platform -データ活用のための最新技術-
Daiyu Hatakeyama
 
機械学習システムのアーキテクチャアラカルト
機械学習システムのアーキテクチャアラカルト機械学習システムのアーキテクチャアラカルト
機械学習システムのアーキテクチャアラカルト
BrainPad Inc.
 
[RIT]MLmodeling service
[RIT]MLmodeling service[RIT]MLmodeling service
[RIT]MLmodeling service
RIT
 
タクシー×AIを支えるKubernetesとAIデータパイプラインの信頼性の取り組みについて
タクシー×AIを支えるKubernetesとAIデータパイプラインの信頼性の取り組みについてタクシー×AIを支えるKubernetesとAIデータパイプラインの信頼性の取り組みについて
タクシー×AIを支えるKubernetesとAIデータパイプラインの信頼性の取り組みについて
Takashi Suzuki
 
明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」 佐野正太郎
明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」  佐野正太郎明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」  佐野正太郎
明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」 佐野正太郎
Preferred Networks
 
DataRobotを用いた要因分析 (Causal Analysis by DataRobot)
DataRobotを用いた要因分析 (Causal Analysis by DataRobot)DataRobotを用いた要因分析 (Causal Analysis by DataRobot)
DataRobotを用いた要因分析 (Causal Analysis by DataRobot)
Yuya Yamamoto
 
オンライン講座を利用して機械学習・人工知能・ データ分析の最適な学び方を学ぶ講座
オンライン講座を利用して機械学習・人工知能・ データ分析の最適な学び方を学ぶ講座オンライン講座を利用して機械学習・人工知能・ データ分析の最適な学び方を学ぶ講座
オンライン講座を利用して機械学習・人工知能・ データ分析の最適な学び方を学ぶ講座
munjapan
 
システムトレード構築セミナー
システムトレード構築セミナーシステムトレード構築セミナー
システムトレード構築セミナー
Yoshiyuki Hongoh
 
Amebaにおけるレコメンデーションシステムの紹介
Amebaにおけるレコメンデーションシステムの紹介Amebaにおけるレコメンデーションシステムの紹介
Amebaにおけるレコメンデーションシステムの紹介
cyberagent
 
ML Sagemaker Dev.IO
ML Sagemaker Dev.IOML Sagemaker Dev.IO
ML Sagemaker Dev.IO
__john_smith__
 
データサイエンティスト協会 木曜勉強会 #09 『意志の力が拓くシステム~最適化の適用事例から見たデータ活用システムの現在と未来~』
データサイエンティスト協会 木曜勉強会 #09 『意志の力が拓くシステム~最適化の適用事例から見たデータ活用システムの現在と未来~』データサイエンティスト協会 木曜勉強会 #09 『意志の力が拓くシステム~最適化の適用事例から見たデータ活用システムの現在と未来~』
データサイエンティスト協会 木曜勉強会 #09 『意志の力が拓くシステム~最適化の適用事例から見たデータ活用システムの現在と未来~』
The Japan DataScientist Society
 

Similar to DataRobotによる予測モデルを用いた シミュレーションと最適化(抜粋) (20)

Optimization and simulation with DataRobot
Optimization and simulation with DataRobotOptimization and simulation with DataRobot
Optimization and simulation with DataRobot
 
[db tech showcase Tokyo 2018] #dbts2018 #D23 『機械学習の自動化を実現するDataRobotによるAIの民主化とは』
[db tech showcase Tokyo 2018] #dbts2018 #D23 『機械学習の自動化を実現するDataRobotによるAIの民主化とは』[db tech showcase Tokyo 2018] #dbts2018 #D23 『機械学習の自動化を実現するDataRobotによるAIの民主化とは』
[db tech showcase Tokyo 2018] #dbts2018 #D23 『機械学習の自動化を実現するDataRobotによるAIの民主化とは』
 
[CTO Night & Day 2019] ML services: MLOps #ctonight
[CTO Night & Day 2019] ML services: MLOps #ctonight[CTO Night & Day 2019] ML services: MLOps #ctonight
[CTO Night & Day 2019] ML services: MLOps #ctonight
 
A3RT - the details and actual use cases of "Analytics & Artificial intelligen...
A3RT - the details and actual use cases of "Analytics & Artificial intelligen...A3RT - the details and actual use cases of "Analytics & Artificial intelligen...
A3RT - the details and actual use cases of "Analytics & Artificial intelligen...
 
A3RT -The details and actual use cases of“Analytics & Artificial intelligence...
A3RT -The details and actual use cases of“Analytics & Artificial intelligence...A3RT -The details and actual use cases of“Analytics & Artificial intelligence...
A3RT -The details and actual use cases of“Analytics & Artificial intelligence...
 
SQL Server 2017 で実現される AIシステムモデル のご紹介
SQL Server 2017 で実現される AIシステムモデル のご紹介SQL Server 2017 で実現される AIシステムモデル のご紹介
SQL Server 2017 で実現される AIシステムモデル のご紹介
 
[Japan Tech summit 2017] MAI 005
[Japan Tech summit 2017] MAI 005[Japan Tech summit 2017] MAI 005
[Japan Tech summit 2017] MAI 005
 
Pythonで入門するApache Spark at PyCon2016
Pythonで入門するApache Spark at PyCon2016Pythonで入門するApache Spark at PyCon2016
Pythonで入門するApache Spark at PyCon2016
 
モデル最適化指標・評価指標の選び方
モデル最適化指標・評価指標の選び方モデル最適化指標・評価指標の選び方
モデル最適化指標・評価指標の選び方
 
Microsoft Intelligent Data Platform -データ活用のための最新技術-
Microsoft Intelligent Data Platform -データ活用のための最新技術-Microsoft Intelligent Data Platform -データ活用のための最新技術-
Microsoft Intelligent Data Platform -データ活用のための最新技術-
 
機械学習システムのアーキテクチャアラカルト
機械学習システムのアーキテクチャアラカルト機械学習システムのアーキテクチャアラカルト
機械学習システムのアーキテクチャアラカルト
 
[RIT]MLmodeling service
[RIT]MLmodeling service[RIT]MLmodeling service
[RIT]MLmodeling service
 
タクシー×AIを支えるKubernetesとAIデータパイプラインの信頼性の取り組みについて
タクシー×AIを支えるKubernetesとAIデータパイプラインの信頼性の取り組みについてタクシー×AIを支えるKubernetesとAIデータパイプラインの信頼性の取り組みについて
タクシー×AIを支えるKubernetesとAIデータパイプラインの信頼性の取り組みについて
 
明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」 佐野正太郎
明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」  佐野正太郎明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」  佐野正太郎
明治大学講演資料「機械学習と自動ハイパーパラメタ最適化」 佐野正太郎
 
DataRobotを用いた要因分析 (Causal Analysis by DataRobot)
DataRobotを用いた要因分析 (Causal Analysis by DataRobot)DataRobotを用いた要因分析 (Causal Analysis by DataRobot)
DataRobotを用いた要因分析 (Causal Analysis by DataRobot)
 
オンライン講座を利用して機械学習・人工知能・ データ分析の最適な学び方を学ぶ講座
オンライン講座を利用して機械学習・人工知能・ データ分析の最適な学び方を学ぶ講座オンライン講座を利用して機械学習・人工知能・ データ分析の最適な学び方を学ぶ講座
オンライン講座を利用して機械学習・人工知能・ データ分析の最適な学び方を学ぶ講座
 
システムトレード構築セミナー
システムトレード構築セミナーシステムトレード構築セミナー
システムトレード構築セミナー
 
Amebaにおけるレコメンデーションシステムの紹介
Amebaにおけるレコメンデーションシステムの紹介Amebaにおけるレコメンデーションシステムの紹介
Amebaにおけるレコメンデーションシステムの紹介
 
ML Sagemaker Dev.IO
ML Sagemaker Dev.IOML Sagemaker Dev.IO
ML Sagemaker Dev.IO
 
データサイエンティスト協会 木曜勉強会 #09 『意志の力が拓くシステム~最適化の適用事例から見たデータ活用システムの現在と未来~』
データサイエンティスト協会 木曜勉強会 #09 『意志の力が拓くシステム~最適化の適用事例から見たデータ活用システムの現在と未来~』データサイエンティスト協会 木曜勉強会 #09 『意志の力が拓くシステム~最適化の適用事例から見たデータ活用システムの現在と未来~』
データサイエンティスト協会 木曜勉強会 #09 『意志の力が拓くシステム~最適化の適用事例から見たデータ活用システムの現在と未来~』
 

More from Yuya Yamamoto

ウェビナー:Nejumiリーダーボードを使った自社LLMモデルの独自評価.pdf
ウェビナー:Nejumiリーダーボードを使った自社LLMモデルの独自評価.pdfウェビナー:Nejumiリーダーボードを使った自社LLMモデルの独自評価.pdf
ウェビナー:Nejumiリーダーボードを使った自社LLMモデルの独自評価.pdf
Yuya Yamamoto
 
W&B webinar finetuning_配布用.pdf
W&B webinar finetuning_配布用.pdfW&B webinar finetuning_配布用.pdf
W&B webinar finetuning_配布用.pdf
Yuya Yamamoto
 
MLOps Course Slides_JP(配布用).pdf
MLOps Course Slides_JP(配布用).pdfMLOps Course Slides_JP(配布用).pdf
MLOps Course Slides_JP(配布用).pdf
Yuya Yamamoto
 
Wandb Monthly Meetup August 2023.pdf
Wandb Monthly Meetup August 2023.pdfWandb Monthly Meetup August 2023.pdf
Wandb Monthly Meetup August 2023.pdf
Yuya Yamamoto
 
W&BであらゆるML関連データを可視化.pdf
W&BであらゆるML関連データを可視化.pdfW&BであらゆるML関連データを可視化.pdf
W&BであらゆるML関連データを可視化.pdf
Yuya Yamamoto
 
Wandb LLM Webinar May 30 2023 (配布用).pdf
Wandb LLM Webinar May 30 2023 (配布用).pdfWandb LLM Webinar May 30 2023 (配布用).pdf
Wandb LLM Webinar May 30 2023 (配布用).pdf
Yuya Yamamoto
 
DataRobotによる予測モデルを用いた シミュレーションと最適化(事前準備)
DataRobotによる予測モデルを用いた シミュレーションと最適化(事前準備)DataRobotによる予測モデルを用いた シミュレーションと最適化(事前準備)
DataRobotによる予測モデルを用いた シミュレーションと最適化(事前準備)
Yuya Yamamoto
 

More from Yuya Yamamoto (7)

ウェビナー:Nejumiリーダーボードを使った自社LLMモデルの独自評価.pdf
ウェビナー:Nejumiリーダーボードを使った自社LLMモデルの独自評価.pdfウェビナー:Nejumiリーダーボードを使った自社LLMモデルの独自評価.pdf
ウェビナー:Nejumiリーダーボードを使った自社LLMモデルの独自評価.pdf
 
W&B webinar finetuning_配布用.pdf
W&B webinar finetuning_配布用.pdfW&B webinar finetuning_配布用.pdf
W&B webinar finetuning_配布用.pdf
 
MLOps Course Slides_JP(配布用).pdf
MLOps Course Slides_JP(配布用).pdfMLOps Course Slides_JP(配布用).pdf
MLOps Course Slides_JP(配布用).pdf
 
Wandb Monthly Meetup August 2023.pdf
Wandb Monthly Meetup August 2023.pdfWandb Monthly Meetup August 2023.pdf
Wandb Monthly Meetup August 2023.pdf
 
W&BであらゆるML関連データを可視化.pdf
W&BであらゆるML関連データを可視化.pdfW&BであらゆるML関連データを可視化.pdf
W&BであらゆるML関連データを可視化.pdf
 
Wandb LLM Webinar May 30 2023 (配布用).pdf
Wandb LLM Webinar May 30 2023 (配布用).pdfWandb LLM Webinar May 30 2023 (配布用).pdf
Wandb LLM Webinar May 30 2023 (配布用).pdf
 
DataRobotによる予測モデルを用いた シミュレーションと最適化(事前準備)
DataRobotによる予測モデルを用いた シミュレーションと最適化(事前準備)DataRobotによる予測モデルを用いた シミュレーションと最適化(事前準備)
DataRobotによる予測モデルを用いた シミュレーションと最適化(事前準備)
 

DataRobotによる予測モデルを用いた シミュレーションと最適化(抜粋)

  • 1. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved 予測モデルを用いた シミュレーションと最適化
  • 2. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved 本編(抜粋)
  • 3. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved 予測モデルを用いたシミュレーションと最適化 今回やること ● DataRobotでの予測モデル作成のやり方を復習する ● DataRobotのAPIを用いて予測を自動で回してみる ● 簡単なシミュレーションと最適化をやってみる 今回やらないこと ● Pythonそのものの書き方 ● 最適化の数理的にガチな話
  • 4. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved 予測モデルを用いたシミュレーションと最適化 DataRobotで現実の因果関係を代替し、 = シミュレーション 予測値が最適になる条件を求める    = 最適化 ● DataRobotは入力データに対して予測値を返す予測モデルを簡単に作る ことができる。 ● 一方で、特に製造業などでは欲しいのは予測値というよりも、最適な予測 値となる入力データというケースが多い。
  • 5. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved DataRobotを用いてシミュレーションと最適化を行う データの取得 前処理 データの用意 探索空間 の設定 最適化の 実行 結果 確認 モデル 生成 最適化対象 の設定 複数のモデルを生 成・比較して選択す る どの範囲をどのよう に探索するかを決め る 最適化する指標 (コスト関数)を決 める 最適化を実行する 結果の妥当性を確 認する 実際のR&D、ビジネスに 適用し、効果を検証する 得られた実データを加えて更に最適 化サイクルを回していく 最適化エンジンが 予測モデルを使っ て”実験”しながら最 適条件を探してくれ る。 (DataRobot APIを利 用)
  • 6. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved DataRobotによる予測モデルの構築 今回は題材として、コンクリート圧縮強度のデータ( concrete.csv)を用いる。 コンクリート圧縮強度が最大になるような配合を求めたい。
  • 7. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved 予測モデルを用いたシミュレーションと最適化 1. DataRobotによる予測モデルの構築 a. ターゲットの設定とオートパイロット開始 b. 生成したモデルの確認 c. モデル選択 d. 予測APIのアクティベーション 2. シミュレーションと最適化の概要 a. 最適化の各アプローチと特徴 i. グリッドサーチ ii. ランダムサーチ iii. Sequential Model Based Optimization (SMBO) 3. ランダムサーチ的アプローチによる最適化 a. 探索空間の設定 b. 乱数による入力データの生成 c. 予測の実行 d. 最適データの抽出 4. 【応用】hyperoptによる最適化 a. 探索空間の設定 b. 最適化対象の設定 c. 最適化の実行 d. 結果の確認と可視化 5. 【応用】その他、最適化を行う際の工夫
  • 8. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved 最適化について 最小化した いなぁ
  • 9. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved 最適化について この辺り? 高次元の特徴空間ではより複雑になるので、やり方を考える必要がある。
  • 10. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved 最適化手法について グリッドサーチ ランダムサーチ Sequential Model Based Optimization (SMBO) 探索の仕方 各変数について、設定した候 補について、全ての組合せを しらみ潰しにする。 探索空間からランダムサンプ リングした変数の組合せにつ いて試行を繰り返す。 内部に計算の軽い近似モデル を持っていて、このモデルを元 に逐次更新しながら探索す る。 メリット 並列化が容易 探索空間が比較的に小さい場 合には、網羅的な探索が可能 である。 並列化が容易 グリッドサーチと比較して試行 回数を減らせる。 有望な領域を集中的に探索し てくれるので、無駄な試行が少 ない。 デメリット 探索空間が広大な場合、しら み潰しは無理(重要変数の最 適値が抜け落ちる)。 無駄な試行が多い。 高次元になってくると厳しい場 合がある。 無駄な試行が多い。 並列化には工夫が必要 元関数が軽い場合、探索範囲 が狭すぎる場合には効率悪 い。 利用シナリオ 少ないパラメータ数を網羅的 に探索したい, e.g. SVMのハ イパラ調整 探索領域が広い/モデルの計 算速度が遅い, e.g. XGBoost やNNのハイパラ調整 探索領域が広い/モデルの計 算速度が遅い, e.g. XGBoost やNNのハイパラ調整
  • 11. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved DataRobotとhyperoptによる最適化 探索空間を確率の形で記述して、最適化対象の関数を指定してあげるといい感じに 最適化してくれるライブラリ。 sklearnのグリッドサーチやランダムサーチと似ていてとっつきやすい。 Kaggleなどでもハイパーパラメータ調整などで頻繁に用いられている。
  • 12. Confidential. Copyright © DataRobot, Inc. - All Rights Reserved 結果の確認と可視化 材齢(日) 単位水量(kginm^3) コンクリート圧縮強度(Mpa) 特徴量インパクトの大きい変数について、最適化の進行する過程を可視化して みましょう。 試行回数