Download as PDF, PPTX
![従来手法：機械学習のモデル化
14
Backprop as Functor[1]より
● P：パラメータの集合
● A：入力の集合
● B：予測結果の集合
● I: P×A → B //予測関数
● U: P×A×B → P //パラメータ更新
● r: P×A×B → A //誤差伝搬用
機械学習
モデル
M
入
力
パラ
メータ
予
測
機械学習
モデル
M’
パラ
メータ
予
測
[1]https://arxiv.org/abs/1711.10455](https://image.slidesharecdn.com/hashi0706-190708094201/75/slide-14-2048.jpg)
Uploaded bygree_tech
科学的説明を持つ機械学習システム
「第２回機械学習工学研究会(MLSE夏合宿2019)」で発表された資料です。 https://mlxse.connpass.com/event/121086/
科学的説明を持つ機械学習システム
- 1.
- 2. 発表の流れ ● 説明が必要とされる背景確認 ● 導入したい説明モデルの確認 ●LIMEを説明に使った場合の考察 ● 説明を組み込んだ再利用できる機械学習モデルの提案 ● まとめ 2
- 3. 背景：なぜ説明がほしい？ ● 機械学習に対する期待と不安 ○ モデルはデータ依存 ○顧客からはブラックボックスに見え、信頼できない ● 総務省のAI開発ガイドライン ○ AIの検証や説明をするように努力を求める ● AIに対する説明が必要 ○ システムの仕様に説明に関するものが必要ではないか ○ 説明できないと賠償などのリスクになる恐れがある（担当者がやめていたら？） 3 機械学習 モデル M 入 力 パラ メータ 予 測 説 明 説明がでてくるモデルがほしい プログラムのインターフェースを 決めたい
- 4. 説明とは何か？ ● 解釈性 (インタプリンタビリティ) ○機械学習の結果の解釈や解析に重点を置くもの ● 科学的説明(エクスプラネーション) ○ 法則と因果関係に重点を置くもの ● 心理学的説明(パースエーション) ○ 説明する相手を説得したり ,納得させることに重点を置くもの ○ *総務省の資料は人間中心とある * ● 説明責任(アカウンタビリティ) ○ 説明する義務や結果の保証を重点を置くもの 4
- 5. 科学的説明とはなにか？、なぜそれを使うのか？ ● ヘンペルの 演繹的法則論的モデル(DN モデル) ○ 物理の法則由来 ○ 物理量と数式で演繹的に説明 ● 必ずしも言語的なものでなくてよい ○ ニュートンの万有引力の法則は数式 ○ プログラムで扱いやすい ● 組み合わせやすい ○ 演繹的な推論をするための説明 ○ 既知の法則を組み合わせて推論をする ● 検証しやすい ○ 現象がルールにあっているかチェックできる 5
- 6.
- 7.
- 8.
- 9.
- 10.
- 11.
- 12.
- 13. 発表の流れ ● 説明が必要とされる背景確認 ● 導入したい説明モデルの確認 ●LIMEを説明に使った場合の考察 ● 説明を組み込んだ再利用できる機械学習モデルの提案 ● まとめ 13 機械学習 モデル M 入 力 パラ メータ 予 測 説 明 説明がでてくるモデルがほしい プログラムのインターフェースを 決めたい
- 14. 従来手法：機械学習のモデル化 14 Backprop as Functor[1]より ●P：パラメータの集合 ● A：入力の集合 ● B：予測結果の集合 ● I: P×A → B //予測関数 ● U: P×A×B → P //パラメータ更新 ● r: P×A×B → A //誤差伝搬用 機械学習 モデル M 入 力 パラ メータ 予 測 機械学習 モデル M’ パラ メータ 予 測 [1]https://arxiv.org/abs/1711.10455
- 15. 説明のある機械学習のモデル化 15 ● P：パラメータの集合 ● A：入力の集合 ●B：予測結果の集合 ● C：説明の集合 ● I: P×A → B //予測関数 ● U : P×A×B → P //パラメータ更新 ● r: P×A×B → A //誤差伝搬用 ● E: P×A×B → C //説明関数 ● D: P×B×C → A. //説明の例を出す関数 機械学習 モデル M 入 力 パラ メータ 予 測 説 明 入力例生成機 入力例 予 測 説 明
- 16. 説明のある機械学習のモデル化 16 入力例生成機 D’ 入力例 予測B’ 説明C’ 入力例生成機 D 入力例A’ 説明C 機械学習 モデル M 入力A パラ メータ 予 測 機械学習 モデル M’ パラ メータ 予測B’ 説明C’説 明 ●M,M’: 機械学習のモデル ● D,D’: MとM’に対応する入力例を出すモデル
- 17. まとめ 17 ● 科学的説明の演繹的法則論的モデルを利用 ○ 説明＝物理の法則のようなもの ●説明が不変量になる ● 説明と入力例生成器をもつ機械学習モデルの提案 課題 ● 説明に納得や信頼性がない ● 説明はモデルの正しさの指標ではない