Jsai2020
- 5. • 研究背景
• 先行研究
• ルールモデルを用いた説明手法
• Anchor
• LORE
• 問題点
• 提案手法
• 計算機実験
• まとめと今後の課題
- 7. Anchor [Ribeiro et. al. 2018]
• どの特徴があれば予測に十分であるか
を調べる
• 高い確率でもとの予測を再現できる特徴
集合を求める
説明例(元論文より引用)
4
問題点
•データを二値表現に変換して扱う
•数値データ: 区間化による離散化
•画像データ: 領域分割による離散化
•元のモデルとギャップが生じる
- 8. LORE [Guidotti et. al. 2018]
• 説明対象のデータの近傍を決定木で学習
• 数値特徴にも対応
• 決定木の教師データはGenetic Algorithm
で生成
Genetic Algorithmによる教師データの
生成(元論文より引用)
GeneticAlgorithmによって正例と負例
のバランスのよい教師データを生成
5
問題点
• 決定木による局所的な近似
• 大域的には利用不可
- 13. 模倣ルールを用いた説明手法
8
模倣ルールの定義
特徴𝑖 𝑖 = 1, … , 𝑑 の閉区間[𝑠𝑖, 𝑒𝑖]の直積
満たしてほしい性質
厳密性:ルールに含まれる全てのインスタン
ス𝑥′
は𝑓(𝑥)に分類
∀𝑥′
∈ 𝑟, 𝑓(𝑥′
) = 𝑓(𝑥)
極大性:領域を少しでも拡張すると,厳密性
が満たされない
IF (𝑠1 ≤ 𝑥1 ≤ 𝑒1) AND (𝑠2 ≤ 𝑥2 ≤ 𝑒2)
THEN class = y
𝑥
𝑥1
𝑥2
𝑠2
𝑒2
𝑠1 𝑒1