傾向スコア解析とUplift Modelling

1. 傾向スコア解析と Uplift Modelling @yokkuns: 里洋平 yohei0511@gmail.com 2012.05.26 第23回Tokyo.R 2012年5月26日土曜日

2. AGENDA ◆ 自己紹介 ◆ 本発表の目的 ◆ 傾向スコア解析 ◆ Uplift Modelling ◆ まとめ 2012年5月26日土曜日

4. 自己紹介時系列解析や異常検知などの方法論を実ビジネスに適用するデータマイニングエンジニア ◆ 名前: 里洋平 ◆ ID : yokkuns ◆ 職業: データマイニングエンジニア ◆ 統計解析パターン認識機械学習データマイニング NLP 金融工学などを勉強中 2012年5月26日土曜日

5. 活動例: 勉強会の主催・執筆 Tokyo.R主催パッケージ本執筆しました！ 2012年5月26日土曜日

6. 活動例: 動画レコメンド閲覧されている動画の情報を用いておすすめ動画を表示する 2012年5月26日土曜日

7. 活動例: 市場予測 Web上の情報から市場予測 2012年5月26日土曜日

8. 活動例: 異常検知 Anomaly detection 複数時系列から異常な振る舞いを検知する C A 時系列のモデリング複数時系列の異常検知 B 時系列A 時系列A 異常な振る舞い時系列B 時系列C 時系列B 時系列C 異常な振る舞いの時系列を検出例1:トラフィック異常検知例2:CM効果のノイズ除去トラフィックA ケースA CM効果トラフィックB ケースB トラフィックC 調査ケースC 異常な振る舞いをしている異常な振る舞いをしているケースをトラフィックの原因を調査する除外して、CMの効果を算出する 85 2012年5月26日土曜日

9. 活動例: 時系列解析と異常検知 Anomaly detection 新しいデータと過去時系列モデルの乖離から異常検出 8000.0000 異常スコア推移 3.0000 モデル構築異常値 ◇例 : ARIMAモデル 2.2500 5970.7500 1.5000 0.7500 3941.5000 0 異常スコアの算出 -0.7500 ◇例 : 対数損失 1912.2500 -1.5000 -2.2500 -117.0000 -3.0000 t 4/ 週 4/ 1週 4/ 8週 5/ 週 5/ 週 5/ 週 5/ 週 5/ 週 6/ 週 6/ 週 6/ 週 6/ 週 7/ 週 7/ 週 7/ 週 7/ 8週週 4 25 2 9 16 23 30 6 13 20 27 4 11 25 1 1 1 4/ 86 2012年5月26日土曜日

10. 活動例: 時系列解析と影響分析 TV Commercial Eﬀects 時系列的な振る舞いの特徴から各KPIへのCMの影響度を算出イベン CM時系列ト新規登録 CM ARPP U ARPU 各KPIの時系列その他外部継続率要因ケース 87 2012年5月26日土曜日

11. 活動例: データマイニングCROSS 2012年5月26日土曜日

13. 本発表の目的傾向スコア解析とUplift Modellingが扱う効果やデータを切る軸が似ていて混乱するので整理する介入がなかった場合介入効果 = 処置群の値 - の処置群の値傾向スコア解析のデータを切る軸 Uplift Modellingのデータを切る軸介入を受けなかった場合の反応処置群対照群 Yes No 介入を受けた場合の結果介入を受けた場合の反応 No 介入を受けない場合の結果 Yes 2012年5月26日土曜日

14. 傾向スコア解析とUplift Modelling 傾向スコア解析とUplift Modellingはやりたい事や扱うデータの対象が大きく違う傾向スコア解析 Uplift Modelling やりたい事因果効果の推定費用対効果の最大化扱うデータ観察データ実験データ処置群と対照群の両方を使って介入による共変量を使って処置群と対照群の傾向をアプローチ行動変化をモデル化して調整して因果効果を算出するそれを最大化するような分類を行う 2012年5月26日土曜日

15. 介入による効果の扱いどちらも介入による効果を扱うがその目的はと扱うデータは大きく異なる介入がなかった場合介入効果 = 処置群の値 - の処置群の値 ◆ 傾向スコア解析: ・実験出来ないデータにおいて、割当による影響を除外して介入効果を推定する ◆ Uplift Modelling: ・実験可能なデータを用いて、介入効果を最大にするようなグループ分けを行う 2012年5月26日土曜日

16. 実験出来るデータの因果効果実験出来るデータでは因果効果は単純な処置群と対照群の差になる処置群対照群処置群のデータ対照群のデータ因果効果 = 処置群の平均 - 対照群の平均 2012年5月26日土曜日

17. 実験出来るデータの因果効果実験出来るデータでは因果効果は単純な処置群と対照群の差になる処置群と対照群をランダムに割当処置群対照群処置群のデータ対照群のデータ因果効果 = 処置群の平均 - 対照群の平均 2012年5月26日土曜日

18. 実験出来るデータの因果効果実験出来るデータでは因果効果は単純な処置群と対照群の差になる処置群と対照群をランダムに割当処置群対照群介入を受けた処置群のデータ欠測場合の結果介入を受けない場合の結果欠測対照群のデータ因果効果 = 処置群の平均 - 対照群の平均 2012年5月26日土曜日

19. 実験出来るデータの因果効果実験出来るデータでは因果効果は単純な処置群と対照群の差になる処置群と対照群をランダムに割当処置群対照群期待値が等しい！介入を受けた •対照群が介入を受けていた場合の期待値と処置群のデータ欠測場合の結果介入を受けた処置群の期待値は同じ介入を受けない欠測対照群のデータ •処置群が介入を受けない場合の期待値と場合の結果介入を受けなかった対照群の期待値は同じ因果効果 = 処置群の平均 - 対照群の平均 2012年5月26日土曜日

20. 実験出来ないデータの因果効果割当によって処置群と対照群に差が生じるため両者を単純に比較することが出来ない処置群対照群処置群のデータ対照群のデータ因果効果処置群の平均 - 対照群の平均 2012年5月26日土曜日

21. 実験出来ないデータの因果効果割当によって処置群と対照群に差が生じるため両者を単純に比較することが出来ない処置群と対照群の割当 (コントロール出来ない) 処置群対照群処置群のデータ対照群のデータ因果効果処置群の平均 - 対照群の平均 2012年5月26日土曜日

22. 実験出来ないデータの因果効果割当によって処置群と対照群に差が生じるため両者を単純に比較することが出来ない処置群と対照群の割当 (コントロール出来ない) 処置群対照群介入を受けた処置群のデータ欠測場合の結果介入を受けない場合の結果欠測対照群のデータ因果効果処置群の平均 - 対照群の平均 2012年5月26日土曜日

23. 実験出来ないデータの因果効果割当によって処置群と対照群に差が生じるため両者を単純に比較することが出来ない処置群と対照群の割当 (コントロール出来ない) 処置群対照群期待値が違う！介入を受けた •対照群が介入を受けていた場合の期待値と処置群のデータ欠測場合の結果介入を受けた処置群の期待値が異なる介入を受けない欠測対照群のデータ •処置群が介入を受けない場合の期待値と場合の結果介入を受けなかった対照群の期待値が異なる因果効果処置群の平均 - 対照群の平均 2012年5月26日土曜日

25. 傾向スコア解析実験出来ないデータの因果関係を解析する処置群と対照群の割当 (コントロール出来ない) 処置群対照群共変量で割当をモデリング介入を受けた処置群のデータ欠測場合の結果傾向スコアの算出介入を受けない場合の結果欠測対照群のデータ共変量項目共通で得られている変数傾向スコアを用いた調整 ◇マッチング ◇層別解析 ◇共分散分析 2012年5月26日土曜日

26. 欠測データ割当によって観測出来ない潜在的変数を考える処置群対照群 z=1 z=0 介入を受けた処置群のデータ欠測場合の結果介入を受けない欠測対照群のデータ場合の結果 y1とy0は両方存在するが割当によって観測出来ないと考える 2012年5月26日土曜日

27. 欠測データ割当変数zと求めたい因果効果処置群と対照群の割当 z 処置群対照群 z=1 z=0 介入を受けた処置群のデータ欠測場合の結果介入を受けない欠測対照群のデータ場合の結果処置群での平均介入効果 average treatment z=1の時のy1とy0の差を知りたいが eﬀect on the treated どちらか一方は観測出来ない 2012年5月26日土曜日

28. 欠測データ共変量の影響を除去した因果効果処置群と対照群の割当 z 処置群対照群 z=1 z=0 介入を受けた処置群のデータ欠測場合の結果介入を受けない欠測対照群のデータ場合の結果共変量項目共通で得られている変数共変量の値が等しい時は強く無視出来る割当条件 : 割当はランダムという仮定共変量の影響を除去した因果効果 : 2012年5月26日土曜日

29. 欠測データ共変量の影響を除去した因果効果処置群と対照群の割当 z 処置群対照群 z=1 z=0 介入を受けた処置群のデータ欠測場合の結果介入を受けない欠測対照群のデータ場合の結果共変量項目共通で得られている変数共変量が同じならz=1のy0の期待値を強く無視出来る割当条件 : z=0の時のy0の期待値で代用出来る共変量の影響を除去した因果効果 : 2012年5月26日土曜日

30. 傾向スコア対象者の群1へ割り当てられる確率第i対象者の割当変数の値第i対象者の共変量の値 2012年5月26日土曜日

31. 傾向スコアの推定プロビット回帰やロジスティック回帰で推定する 2012年5月26日土曜日

32. 傾向スコアを用いた調整 • マッチング • 2つの群で傾向スコアが等しい（近い）対象者をペアにしてその差の平均を因果効果とする • 層別解析 • 傾向スコアの大小によっていくつかのサブクラスに分け、その各クラスで処置群と対照群の平均の計算と、全体としての効果の推定量を計算する • 共分散分析 • 割当変数と傾向スコアを説明変数とした線形の回帰分析を行う 2012年5月26日土曜日

33. 傾向スコアを用いた調整傾向スコアの逆数による重み付け平均 2012年5月26日土曜日

34. 傾向スコアを用いた調整傾向スコアの逆数を重みづけたyの期待値は y1の周辺平均の不偏推定量 2012年5月26日土曜日

35. 傾向スコアを用いた調整因果効果の推定値とその分散が計算出来る因果効果因果効果の分散 2012年5月26日土曜日

36. Rによる実行 Matching パッケージ lalondeデータセット NSW職業訓練データ age 年齢 re74 74年実質賃金 educ 教育年数 re75 75年実質賃金 black 黒人かどうか re78 78年実質賃金 hisp ヒスパニックかどうか u74 74年の賃金が0かどうか married 結婚してるかどうか u75 75年の賃金が0かどうか nodegr 高校卒業有無 treat NSW対象者有無 2012年5月26日土曜日

37. Rによる実行 Matching パッケージ Match(Y=NULL, Tr, X, caliper=F,...) Y : 結果ベクトル Tr : 割当ベクトル X : 共変量または傾向スコア caliper : キャリパーマッチングをやる場合にTRUE ... 2012年5月26日土曜日

38. Rによる実行 Matchingパッケージとデータセットの読み込み 2012年5月26日土曜日

39. Rによる実行ロジスティック回帰分析で傾向スコアを算出 2012年5月26日土曜日

40. Rによる実行マッチングで因果効果を推定 NSWプログラムの効果 2012年5月26日土曜日

41. Rによる実行マッチングのペアの確認 2012年5月26日土曜日

42. Rによる実行マッチングのペアの確認処置群のindex 対照群のindex 2012年5月26日土曜日

43. Rによる実行キャリパーマッチングで因果効果を推定 NSWプログラムの効果キャリパーマッチング : ペアが特定の距離以上になる時はマッチングしないマッチング 2012年5月26日土曜日

44. RでIPW推定量傾向スコアの逆数による重みベクトルを作成 2012年5月26日土曜日

45. RでIPW推定量 lmで重みベクトルを指定してIPW推定量を算出 2012年5月26日土曜日

46. RでIPW推定量 lmで重みベクトルを指定してIPW推定量を算出処置群の IPW推定量と標準誤差対照群の IPW推定量と標準誤差 2012年5月26日土曜日

47. RでIPW推定量 lmで重みベクトルを指定してIPW推定量を算出処置群の IPW推定量と標準誤差因果効果 = 6213.0 - 4589.4 = 1623.6 標準誤差 = (462.2^2+436.4^2) = 635.668 対照群の IPW推定量と標準誤差 2012年5月26日土曜日

49. Uplift Modellingとは費用対効果の最大化を目的とした最新のデータマイニング手法介入による行動変化をモデル化し効果を最大化する介入による4つの行動パターン介入を受けた場合の反応 No あまのじゃく無関心 YES テッパン説得可能！ YES No 介入を受けなかった場合の反応 2012年5月26日土曜日

50. これまでのマーケティングモデル顧客を有望な顧客とそうでない顧客に分類し有望な顧客だけをターゲットにする事で費用対効果を向上させる ◆ 浸透モデル・既に製品を購入した顧客を特徴づけるモデル ◆ 購入モデル・最近購入した顧客を特徴づけるモデル・浸透モデルに似てるが、最近の履歴に注目し、顧客の特性の変化を捉える ◆ レスポンスモデル・マーケティング活動に反応して購入した顧客を特徴づけるモデル 2012年5月26日土曜日

51. これまでのマーケティングモデル顧客を有望な顧客とそうでない顧客に分類し有望な顧客だけをターゲットにする事で費用対効果を向上させる ◆ 浸透モデル・既に製品を購入した顧客を特徴づけるモデル ◆ 購入モデル・最近購入した顧客を特徴づけるモデル・浸透モデルに似てるが、最近の履歴に注目し、顧客の特性の変化を捉える ◆ レスポンスモデル・マーケティング活動に反応して購入した顧客を特徴づけるモデル 2012年5月26日土曜日

52. レスポンスモデリング処置群の反応データを用いてレスポンスをモデル化し、ターゲットを決める Training Data 従来のレスポンスモデリング反応なし反応あり処置群処置群分類結果反応ありの場合良いターゲット予測対象 2012年5月26日土曜日

53. レスポンスモデリングの課題処置群だけで学習しているため介入による行動変化を考慮出来ていない Training Data 従来のレスポンスモデリング反応なし反応ありあまのじゃく説得可能！処置群処置群無関心テッパン分類結果反応ありの場合良いターゲット予測対象 2012年5月26日土曜日

54. レスポンスモデリングの課題処置群だけで学習しているため介入による行動変化を考慮出来ていない Training Data 従来のレスポンスモデリング介入しなければ反応した反応なし反応ありあまのじゃく説得可能！処置群処置群無関心テッパン介入しなくても反応した分類結果反応ありの場合良いターゲット予測対象 2012年5月26日土曜日

55. 処置群と対照群を用いた学習処置群と対照群の両方を学習データとする事で介入による行動変化を捉える Training Data 反応なし反応ありあまのじゃく説得可能！処置群処置群無関心テッパン対照群説得可能！あまのじゃく対照群無関心テッパン予測対象 2012年5月26日土曜日

58. Uplift Modelling 単純な反応あり・反応なしではなく介入による行動変化をモデル化しターゲットを決める Training Data Response Uplift Modelling L R あまのじゃく説得可能！処置群処置群無関心テッパン分類結果 R の場合あまのじゃく対照群説得可能！良いターゲット対照群無関心テッパン予測対象 2012年5月26日土曜日

59. 分割基準行動変化によるレスポンス率増とその重要性を最大化する分割を行う L R あまのじゃく処置群(T) 説得可能！無関心テッパン UL UR あまのじゃく対照群(C) 説得可能！無関心テッパン 2012年5月26日土曜日

60. 分割基準行動変化によるレスポンス率増とその重要性を最大化する分割を行う L R あまのじゃく処置群(T) 説得可能！無関心テッパン UL UR あまのじゃく対照群(C) 説得可能！無関心テッパン ◆ 行動変化によるレスポンス率の増分 ◆ 重要性 (t統計量の2乗) 2012年5月26日土曜日

61. 分割基準行動変化によるレスポンス率増とその重要性を最大化する分割を行う L R あまのじゃく処置群(T) 説得可能！無関心テッパン UL UR あまのじゃく対照群(C) 説得可能！無関心テッパン ◆ 行動変化によるレスポンス率の増分 ◆ 重要性 (t統計量の2乗) 2012年5月26日土曜日

62. 分割基準行動変化によるレスポンス率増とその重要性を最大化する分割を行う L R あまのじゃく処置群(T) 説得可能！無関心テッパン UL UR あまのじゃく L 対照群(C) 説得可能！無関心テッパン ◆ 行動変化によるレスポンス率の増分 ◆ 重要性 (t統計量の2乗) L R 2012年5月26日土曜日

63. 介入による行動変化の定式化介入による行動変化を介入効果とグループ効果の相互作用として表現 L R 介入による効果介入による効果処置群(T) グループ効果グループ効果相互作用相互作用 UL UR 介入による効果介入による効果対照群(C) グループ効果グループ効果相互作用相互作用 ※Cの介入効果 = Lのグループ効果 = CR相互作用 = TL相互作用 = CL相互作用 = 0 とおく 2012年5月26日土曜日

64. 介入による行動変化の推定相互作用はRグループとLグループの増分の差で推定される L R 介入による効果介入による効果処置群(T) グループ効果グループ効果相互作用相互作用 UL UR 介入による効果介入による効果対照群(C) グループ効果グループ効果相互作用相互作用 ※Cの介入効果 = Lのグループ効果 = CR相互作用 = TL相互作用 = CL相互作用 = 0 とおく 2012年5月26日土曜日

65. 介入による行動変化の推定値の誤差と重要性介入による行動変化は回帰係数として算出されその重要性はt統計量で与えられる T:1, C:0 R:1, L:0 Xi1Xi2 基準値介入効果グループ効果相互作用 ◆ 標準誤差の算出 ◆ t統計量の2乗 2012年5月26日土曜日

66. 分割基準行動変化によるレスポンス率増とその重要性を最大化する分割を行う L R あまのじゃく処置群(T) 説得可能！無関心テッパン UL UR あまのじゃく L 対照群(C) 説得可能！無関心テッパン ◆ 行動変化によるレスポンス率の増分 ◆ 重要性 (t統計量の2乗) L R 2012年5月26日土曜日

68. 傾向スコア解析とUplift Modelling 傾向スコア解析とUplift Modellingはやりたい事や扱うデータの対象が大きく違う傾向スコア解析 Uplift Modelling やりたい事因果効果の推定費用対効果の最大化扱うデータ観察データ実験データ処置群と対照群の両方を使って介入による共変量を使って処置群と対照群の傾向をアプローチ行動変化をモデル化して調整して因果効果を算出するそれを最大化するような分類を行う 2012年5月26日土曜日

70. 次回以降の発表者・LTを募集しています！ 2012年5月26日土曜日

71. ご清聴ありがとうございました！ 2012年5月26日土曜日

72. 参考資料 ◆ Rで学ぶ傾向スコア解析入門 http://www.slideshare.net/yokkuns/r-9387843 ◆ Uplift Modelling 入門（1） http://www.slideshare.net/yokkuns/uplift-modelling-1 2012年5月26日土曜日

73. 欠測データ観測出来ない方のデータを欠測してると考える因果推論、選択バイアス、データ融合を統一的に扱えるデータ構造因果推論処置群対照群介入を受けた処置群のデータ欠測場合の結果データ融合介入を受けない場合の結果欠測対照群のデータ購買履歴データ市場調査データ購買履歴調査の購買履歴欠測共変量項目共通で得られている変数データ市場調査の質問紙項目欠測回答データ選択バイアス選択者非選択者共変量項目共通で得られている変数従属変数選択者のデータ非選択者のデータ共変量項目共通で得られている変数 2012年5月26日土曜日

傾向スコア解析とUplift Modelling

You are reading a preview.

Check these out next

傾向スコア解析とUplift Modelling

More Related Content

Slideshows for you (20)

Viewers also liked (20)

More from Yohei Sato (16)