Recommended
More Related Content
What's hot
Similar to Jsai2020
Similar to Jsai2020 (20)
Jsai2020
- 2. • 研究背景 • 説明可能な機械学習 • 先行研究 • 提案手法 • 計算機実験 • まとめと今後の課題
- 3. 研究背景 様々なタスクで高精度な予測を実現 問題：モデルの複雑化，予測の根拠が不明．なぜその結果が得られたか説 明できない • 複雑/ブラックボックスなモデルの例 • 非線形なモデル（多層ニューラルネット，非線形カーネルSVM） • Web APIで実装されたモデル（結果だけ得られる） 「機械学習」の検索結果，朝日新聞デジタルから一部抜粋 分類器 𝒇 入力 𝑥: インスタンス 出力 𝑓(𝑥): クラス 1
- 4. 説明可能な機械学習 説明手法：モデルから予測の判断根拠を読みとるための手法 • 予測に大きく影響を与えた特徴の提示 • 深層学習に対する説明手法 • モデルが重要視している特徴の提示 ・・・ 本研究では，モデル依存性のないルールモデルを用いた予測の 説明手法を提案する． 2
- 5. • 研究背景 • 先行研究 • ルールモデルを用いた説明手法 • Anchor • LORE • 問題点 • 提案手法 • 計算機実験 • まとめと今後の課題
- 6. ルールモデルを用いた説明手法 ルールモデル • 特徴の条件分岐によって予測を行うモデル • 決定木，ルールリスト • IF-THENの形式で表現でき可読なモデル ブラックボックスなモデルを • 局所的にルールモデルで近似， • 内部に含まれるルールを抽出 することで説明 𝑥 𝑥1 𝑥2 特徴空間上で，ルールモデル は矩形領域となる 3
- 7. Anchor [Ribeiro et. al. 2018] • どの特徴があれば予測に十分であるか を調べる • 高い確率でもとの予測を再現できる特徴 集合を求める 説明例（元論文より引用） 4 問題点 •データを二値表現に変換して扱う •数値データ： 区間化による離散化 •画像データ： 領域分割による離散化 •元のモデルとギャップが生じる
- 8. LORE [Guidotti et. al. 2018] • 説明対象のデータの近傍を決定木で学習 • 数値特徴にも対応 • 決定木の教師データはGenetic Algorithm で生成 Genetic Algorithmによる教師データの 生成（元論文より引用） GeneticAlgorithmによって正例と負例 のバランスのよい教師データを生成 5 問題点 • 決定木による局所的な近似 • 大域的には利用不可
- 9. 先行研究の問題点 6 • あくまで近似モデルによる説明なので，元のモデルとの ギャップが生じる • Anchor: インスタンスの二値表現 • LORE: 決定木による近似 • ルール内に説明対象のデータと異なる分類結果となる領 域がある． Anchor LORE Iris 0.633 0.924 BC 0.365 0.489 𝑥 𝑥1 𝑥2 ルールないにランダムにデータを生成し，そのデータが， 説明対象のデータと同じクラスに分類されるかを評価
- 10. 先行研究の問題点 6 • あくまで近似モデルによる説明なので，元のモデルとの ギャップが生じる • Anchor: インスタンスの二値表現 • LORE: 決定木による近似 • 説明がほしいデータごとに説明を作る • 大域的に利用できない→ データごとに説明の生成が必要 • 複数のデータの説明を求めると計算コスト大
- 11. • 研究背景 • 先行研究 • 提案手法 • 模倣ルールを用いた説明手法 • アルゴリズム • 計算機実験 • まとめと今後の課題
- 13. 模倣ルールを用いた説明手法 8 模倣ルールの定義 特徴𝑖 𝑖 = 1, … , 𝑑 の閉区間[𝑠𝑖, 𝑒𝑖]の直積 満たしてほしい性質 厳密性：ルールに含まれる全てのインスタン ス𝑥′ は𝑓(𝑥)に分類 ∀𝑥′ ∈ 𝑟, 𝑓(𝑥′ ) = 𝑓(𝑥) 極大性：領域を少しでも拡張すると，厳密性 が満たされない IF (𝑠1 ≤ 𝑥1 ≤ 𝑒1) AND (𝑠2 ≤ 𝑥2 ≤ 𝑒2) THEN class = y 𝑥 𝑥1 𝑥2 𝑠2 𝑒2 𝑠1 𝑒1
- 14. 模倣ルールを求める際の問題点 • 厳密に模倣ルールを求めるのは困難 • モデルを仮定しないので，全通りのチェック • 特徴は連続値 → サンプリングで対応 • 模倣ルールは無数に存在しうる → 全て見つけるのは困難 𝑥 𝑥1 𝑥2 9
- 15. 模倣ルール導出のアルゴリズム Key Idea • 説明対象のデータの近傍のデータ をサンプリング • 近傍のデータは等間隔に生成 • 組み合わせ的にデータを変化させて サンプリング • 同じクラスに属するデータのみ（赤 点）から構成されるようなルール（緑 の領域）を見つける 10
- 17. 模倣ルール導出のアルゴリズム データのサンプリング • まずは１つの特徴を変化 • 異なるクラスの領域にたどり着くま で生成 • 変化させる特徴数を増やす ただし，すべての特徴を変化させると， 2 𝑑 通り → パラメータ𝑃を導入し，𝑃個の特徴ま でを変化させる 12
- 18. • 研究背景 • 先行研究 • 提案手法 • 計算機実験 • 実験設定 • 説明手法の定量的な性能評価 • まとめと今後の課題
- 19. 実験設定 説明ルールがモデルを模倣できているかを定量的に評価 説明ルール内にランダムに1,000,000点を生成し，𝑓 𝑥 = 𝑓 𝑥′ が成り立つかどう かを検証 計算時間も評価 データセット: Iris (d=4)，BreastCancer (d=30) モデル: 3層パーセプトロン パラメータ: 𝑃 = 4，一次元あたり10点サンプリング 13
- 20. 実験結果 • 1.0に近いほどモデルを模倣 しているといえる． • 各データセットにおいて先行 研究よりも厳密なルールを生 成できている． • 大域的に利用可能 提案手法 Anchor LORE Iris 0.956 0.633 0.924 BC 1.000 0.365 0.489 提案手法 Anchor LORE Iris 0.024 0.266 1.054 BC 46.24 10.32 2.160 説明ルールの厳密性 計算時間[sec] • 次元が大きいと計算時間が増加 • 特徴数に対して指数時間 • ただし，ルールは再利用可能 14
- 22. • 研究背景 • 先行研究 • 提案手法 • 計算機実験 • まとめと今後の課題
- 23. まとめ 模倣ルールを用いた説明手法の提案 • 模倣ルール： 説明対象データと同じ予測結果を持つ極大なルール 先行研究に対する利点 • 先行研究よりも正しくモデルの挙動を捉えている • 大域的に利用可能なルール 今後の課題 • 模倣ルールは複数存在しうる → よりよいルールをどのよう にして求めるか • 計算量などの理論的な考察 𝑥 𝑥1 𝑥2 𝑠2 𝑒2 𝑠1 𝑒1 16