SAS Viya Deep Dive: 予測モデリング

SAS Viya Deep Dive
予測モデリング
SAS Institute Japan 株式会社
諸戸愼一

Company Confidential – For Internal Use Only
Copyright © SAS Institute Inc. All rights reserved.
本日お伝えしたいこと
2
✓ 深層学習を用いて数値予測もできる
⇒ 深層学習=クラス分類問題と思われがちだが、回帰問題にも適用できる
✓ 深層学習は一般的な線形回帰モデルよりも精度が高い
⇒ 線形回帰モデルに比べ、深層学習は未知のデータに対する予測精度が向上する
✓ 深層学習といえどもインプットデータの重要性は変わらない
⇒ 他の回帰モデルと同様、適切な変数の選択が精度の高いモデル構築には必要不可欠

Agenda
3
1. SAS Viyaの概要
➢ SAS Viyaの分析機能
➢ SAS Viyaの特徴
2. 予測モデリング
➢ 一般的な予測モデリング
➢ 予測モデリングの活用ケース
3. 使用データの内容
4. SAS VDMMLで作る線形回帰モデル
➢ モデルの概要
➢ モデル精度と予測結果
5. SAS VDMMLで作る深層学習モデル
➢ モデルの構造
➢ モデル精度と予測結果
6. 線形回帰モデルと深層学習モデルの比較
➢ モデル精度の比較
➢ モデル構造の違い
7. 深層学習モデルを利用するメリットとデメリット
8. 深層学習モデルの精度向上
➢ 深層学習の結果考察
➢ 精度向上施策①：変数追加
➢ 精度向上施策②：モデルのチューニング
➢ 施策実施後のモデル精度と予測結果
➢ 精度向上施策前後の精度比較
9. まとめ

SAS Viyaの概要
4

SAS Viyaの概要
アナリティクス・ライフサイクルを実現するための製品群
SAS® Access to Data Sources
SAS® Data Preparation
SAS® Data Quality
SAS® Visual Analytics
SAS® Visual Statistics
SAS® Visual Data Mining & Machine Learning
SAS® Decision Manager
SAS® Model Manager
SAS® Visual Forecasting
SAS® Optimization
SAS® Econometrics
SAS® Event Stream Processing
5

SAS Viyaの分析機能
最新かつ高度な機械学習手法を提供
テキスト解析
• 形態素解析
• 特異値分解による次元削減
• トピック抽出(SVD/LDA)
• テキスト・サーチ
• センチメント分析
画像処理
• 画像読込/保存
• フィルタ処理/画像比較
• 検出とマッチング
• 医療用画像解析
データ準備モデリングデプロイ
• ビン化
• カーディナリティ
• 欠損値補完
• 変数選択
• 次元削減
• サンプリングと分割
• データ処理
• Dataステップ実行
• 主成分分析
• Moving Window
主成分分析
• ロバスト主成分分析
• クラスター分析
• 変数クラスタリング
• マーケットバスケット
• テンソル因子分解
• 異常検出サポートベク
ターマシン(SVDD)
• 自動チューニング機能
• 線形回帰モデル
• ロジスティック回帰モデル
• ノンパラメトリック回帰
• 一般化線形/加法モデル
• 非線形回帰モデル
• 分位点回帰モデル
• 部分最小二乗法
• ディシジョン・ツリー
• ランダムフォレスト
• 勾配ブースティング
• ニューラルネットワーク
• ベイジアンネットワーク
• K-最近傍探索
• サポートベクターマシン
• ファクタライゼーションマシン
• ネットワーク分析
• スコアリングコード
生成
• モデルパフォーマン
ス指標
• モデル評価
• リフト・テーブル
• ROCチャート
機械学習・
データマイニング
加工・探索スコアリング
最適化
• 線形/非線形計画法
• 二次計画法
• 混合整数線形計画法
• ネットワークフロー最適化
フォーキャスティング
• 時系列分析
• 自動時系列モデリング
• 階層間調整
• 時間-周波数分析
計量経済分析
• コピュラ
• パネル分析
• 損失分布モデリング
ディープラーニング
• DNN
• CNN (VGG/ResNet)
• RNN / LSTM / GRU
• 自動チューニング機能
• 転移学習
※一部抜粋
※一部別オプションが必要な製品を含む

SAS Viyaの特徴
オープンなプラットフォーム＆API連携
7
APIからの呼び出し
ビジュアル・インターフェイス
プログラミング・インターフェイス
予測・分析結果の
利用
各アプリケーション
からの利用
ソリューション例
API
顧客分析
!
リスク管理
不正検知
機械学習
オープンな
開発環境
オープンな
利用環境
API連携
データ準備
探索・発見予測モデル
機械学習
業務適用
モデル管理
評価
SAS Viyaはオープンな開発環境・利用環境を提供しており、REST APIを通じ各種機能を直接呼び出すことが可能です。例えば外部
アプリケーションと直接連携することで顧客に対しリアルタイムにリコメンドするなど、アナリティクスを取り入れた直接的なアクションの実施も実
現できます。

8

一般的な予測モデリング
9
様々な活動データ、属性データ、環境データを用いて、
売上、販売数、その他ビジネス活動の判断基準として必要な数値を予測するモデルの構築
売上実績
売上予測ロジック = 予測モデル売上予測
活動データ
プロモーション
属性データ
地域製品
環境データ
天候日付

予測モデリングの活用ケース
10
【業務内容】
 受注予測を行い、物流センターの在庫量の調整を行う。
 過去のデータを用いて、受注実績を目的変数とした重回帰モデルを作成し、
その予測モデルを用いて受注予測を行っている。
【要望】
 さらなるSCMの効率化に向けて、予測精度の向上を行いたい。
売上実績
プロモーション実績
etc.
予測結果
受注予測

SAS VDMMLで作る線形回帰モデル
11
※SAS VDMML：
SAS Visual Data Mining & Machine Learningの略
深層学習を含めたデータマイニングと機械学習をサポートしたライセンス
https://www.sas.com/ja_jp/software/visual-data-mining-machine-learning.html

VDMMLで作る線形回帰モデル
モデルの概要
①タスクから線形回帰分析を選択
②分析に使用するデータセット、目的変数、説明変数を選択
⇒ 実行ボタンを押すだけ
※条件を選択していく仮定で、SASコードも自動で生成
クリックのみで手軽に線形回帰分析が可能

VDMMLで作る線形回帰モデル
モデル精度と予測結果
13
評価データを当てはめた際の平均平方誤差：81,265,741
0
50,000
100,000
150,000
200,000
250,000
300,000
0 50,000 100,000 150,000 200,000 250,000 300,000
P_actual
SCORE
予測値
実績値
学習データ
評価データ

SAS VDMMLで作る深層学習モデル
14

VDMMLで作る深層学習モデル
モデルの構造
15
入力層隠れ層出力層
入力層
レイヤー数 1
隠れ層
レイヤー数 4
ニューロン数 3,000
結合タイプ全結合
活性化関数 ReLU
ドロップアウト 0.3
重みの初期値エグゼビア
出力層
レイヤー数 1
ニューロン数 1
活性化関数恒等関数
重みの初期値エグゼビア
※最適化手法：ADAM

VDMMLで作る深層学習モデル
モデル精度と予測結果
16
評価データを当てはめた際の平均平方誤差：34,009,490
0
50,000
100,000
150,000
200,000
250,000
300,000
0 50,000 100,000 150,000 200,000 250,000 300,000
P_actual
SCORE
予測値
実績値
学習データ
評価データ

線形回帰モデルと深層学習モデルの比較
17

モデル精度の比較
18
深層学習を活用することで、平均平方誤差が 58.2% 改善
0
50,000
100,000
150,000
200,000
250,000
300,000
0 50,000 100,000 150,000 200,000 250,000 300,000
P_actual
SCORE
予測値
実績値
学習データ
評価データ
0
50,000
100,000
150,000
200,000
250,000
300,000
0 50,000 100,000 150,000 200,000 250,000 300,000
P_actual
SCORE
予測値
実績値
学習データ
評価データ
線形回帰モデル深層学習モデル
平均平方誤差： 81,265,741 平均平方誤差： 34,009,490

モデル構造の違い
19
𝑦 = 𝛽1 𝑥1 + 𝛽2 𝑥2 + 𝛽3 𝑥3 + ⋯ + 𝜀 𝑦 = 𝑓(⋯ (𝑓(𝑓(𝑥𝑖) ∙ 𝑤 𝑘) ∙ 𝑤𝑙) ⋯ )
※イメージ
■各変数の最適な係数(β)を見つける分析
■βを解釈することで、現象を説明できる可能性あり
■複雑な構造が表現可能
■モデルを解釈することはほぼ不可能
線形回帰モデル DNN
深層学習は関数を重ね合わせたような構造
⇒ 線形回帰モデルでは表現できない複雑な構造も表現可能になる

深層学習モデルを利用するメリットとデメリット
20

メリット
21
 複雑な関数で精度の高い予測モデルができる
 レイヤー数やニューロンの数など、モデルの自由度が高い
 過学習を避ける最適化手法で、汎化性能が高いモデルが作成できる

デメリット
22
 最適化の計算に時間がかかる
 自由度が高い反面、構造設計が難しい
 モデルの解釈が難しい（ほぼできない）

深層学習モデルの精度向上
23

深層学習の結果考察
24
0
5,000
10,000
15,000
20,000
25,000
30,000
0 5,000 10,000 15,000 20,000 25,000 30,000
予測値
実績値
代表商品：A
いくつかの商品の受注実績が低い範囲で
予測精度が極端に低下する現象が発生
現状の変数では、受注実績が小さくなる状態を説明できていない
⇒ 受注が低下する要因の情報を含んだ変数を追加する必要がある

精度向上施策①：変数追加
25
精度向上のために、気象データや行事フラグ等を追加して分析
⇒ 夏休みに売れにくくなる商品や天候によって受注数が変化する商品が見つかった
受注実績
夏休みフラグ
学校の夏休み
代表商品：A

精度向上施策②：モデルのチューニング
26
 ニューロン数やレイヤー数の決定後、学習アル
ゴリズムのパラメーターをチューニングする。
 SAS Viyaに実装されているオートチューニング
を活用することで、自動的に最適パラメーター
を探索する可能。
ニューロン数 / レイヤー数学習アルゴリズムのパラメーター
 試行錯誤して、データに合わせた最適な値を
探す必要がある。（必ずしもネットワークが大
きければ良いというわけではない。）
 実験計画法などを用いて、効率よくパラメー
ターの影響度を把握する。

施策実施後のモデル精度と予測結果
27
変数の追加、パラメーターのチューニングを行うことで、精度が向上
0
5,000
10,000
15,000
20,000
25,000
30,000
0 5,000 10,000 15,000 20,000 25,000 30,000
予測値
実績値
代表商品：A
改善前
0
5,000
10,000
15,000
20,000
25,000
30,000
0 5,000 10,000 15,000 20,000 25,000 30,000
予測値
実績値
代表商品：A
改善後

精度向上施策前後の精度比較
28
0
50,000
100,000
150,000
200,000
250,000
300,000
0 50,000 100,000 150,000 200,000 250,000 300,000
P_actual
SCORE
予測値
実績値
学習データ
評価データ
深層学習モデル
改善前
平均平方誤差： 34,009,490
0
50,000
100,000
150,000
200,000
250,000
300,000
0 50,000 100,000 150,000 200,000 250,000 300,000
P_actual
SCORE
予測値
実績値
平均平方誤差： 31,423,757
精度向上施策実施後、さらに平均平方誤差が 7.6% 改善
深層学習モデル
改善後
学習データ
評価データ

0
100
200
300
400
500
600
0
100
200
300
400
500
600
精度向上施策前後の精度比較
29
度数
予測値/実績値 [%]
深層学習モデル：改善前
度数
深層学習モデル：改善後
予測値/実績値 [%]
【予測精度±10%以内】
46.7%
【予測精度±10%以内】
53.8%
精度向上施策実施後、予測精度±10%以内のデータ数が 7.1ポイント改善
※全データ点数を含む ※全データ点数を含む

まとめ
30

まとめ
本日お持ち帰りいただきたいこと
31
✓ 深層学習を用いて数値予測もできる
⇒ 深層学習=クラス分類問題と思われがちだが、回帰問題にも適用できる
✓ 深層学習は一般的な線形回帰モデルよりも精度が高い
⇒ 線形回帰モデルに比べ、深層学習は未知のデータに対する予測精度が向上する
✓ 深層学習といえどもインプットデータの重要性は変わらない
⇒ 他の回帰モデルと同様、適切な変数の選択が精度の高いモデル構築には必要不可欠

まとめ
想定される活用領域
32
設備が複雑に関係した施設でのエネルギー需要予測
【想定目的】
施設の稼働状況に応じたエネルギー需要を予測し、ピー
ク電力やガスといったリソースの契約最適化を行う
【想定課題】
 稼働計画、環境情報等からエネルギー需要のピーク値
を予測する
消耗品等の摩耗量の予測
【想定目的】
消耗品の摩耗量を予測し、該当品の最大活用、および
最適なタイミングでのメンテナンスを行う
【想定課題】
 周辺装置、設備、環境等のデータを用いて、該当の消
耗品の寿命を予測する
想定活用ケース②想定活用ケース①

予測モデリング手法のひとつとして、是非、深層学習をご検討ください

SAS Viya Deep Dive: 予測モデリング

Recommended

Recommended

More Related Content

Similar to SAS Viya Deep Dive: 予測モデリング

Similar to SAS Viya Deep Dive: 予測モデリング (20)

More from SAS Institute Japan

More from SAS Institute Japan (20)

SAS Viya Deep Dive: 予測モデリング