世界一簡単な機械学習の説明と、機械学習でどのように微分が使われているのかを解説します

1. 機械学習入門者向け
微分を完全に理解する講座
mofmof inc.

2. この講座で学べること
• ものすごく簡単な機械学習の仕組み
• 線形回帰
• 微分とは何か
• 機械学習でどのように微分が使われてい
るか

3. この講座で学べないこと
• 実用のための機械学習の手法
• 機械学習の具体的な実装方法
• ディープラーニング
• 積分

4. 完全に理解とは
出典：https://twilab.org/item/1115270046794653696

5. 機械学習編

6. 線形回帰
0
100
200
300
400
500
600
0 5 10 15 20 25 30 35 40 45
年収
データ出典：
https://doda.jp/guide/heikin/age/
https://www.shunpon.com/entry/%E5%B9%B4%E4%BB%A3%E5%88%A5%E3%81%AE%E5%B9%B3
%E5%9D%87%E5%B9%B4%E5%8F%8E
万円
歳
𝑦 = 𝑎𝑥 + 𝑏

7. 機械学習とは
超単純化して説明すると…
• データから 𝑦 = 𝑎𝑥 + 𝑏 の 𝑎 と 𝑏
を探索すること
• 一般的に 𝑎 は 𝑤
と表記して重みと呼び、𝑏
はバイアスと呼ぶ
• この y = 𝑤𝑥 + 𝑏 を仮説関数と呼ぶ

8. どうやって𝑤(重み) を見つけるのか
• まず𝑦 = 𝑤𝑥 + 𝑏 の 𝑤 と 𝑏 に適当な値を代入する
• 例えば、𝑦 = 9𝑥 + 80 とする
• 次に、𝑥 にデータの年収を入れて 𝑦 を求める
• 𝑥 = 35 歳を代入すると 𝑦 = 323 万円となる
• 実際のデータの 𝑦
と比べることで、どの程度誤りがあるか測る
• 𝑥 = 35 歳のとき 𝑦 = 465 万円であるので、誤差は142万円
• この誤差を出来るだけ小さくしていけば、最も妥当な
𝑤, 𝑏 を求めることが出来る

9. イメージ
0
100
200
300
400
500
600
0 5 10 15 20 25 30 35 40 45
年収万円
歳
𝑦 = 𝑎𝑥 + 𝑏
データ出典：
https://doda.jp/guide/heikin/age/
https://www.shunpon.com/entry/%E5%B9%B4%E4%BB%A3%E5%88%A5%E3%81%AE%E5%B9%B3
%E5%9D%87%E5%B9%B4%E5%8F%8E

10. 誤差を数式にする
•
1
2𝑚 𝑖=1
𝑚
ℎ 𝑥𝑖 − 𝑦𝑖 2
• 𝑚 はデータ数
• ℎ 𝑥𝑖 は 𝑖 番目のデータ(年齢)を仮説関数に代入した結
果(年収)
• 𝑦𝑖 は実際の正解データ 年収
• つまり {ℎ 𝑥𝑖 − 𝑦𝑖 }を二乗して、全て合計したものに
1
2𝑚
を掛ける
• これを最小二乗法と呼ぶ
• ふーん、こういうもんなんだなー程度でOK

11. 誤差から重みを更新する

12. 微分編

13. 微分とは
• 傾きのことである

14. 微分の定義式
• 𝑓′
𝑥 = lim
ℎ→0
𝑓 𝑥+ℎ −𝑓(𝑥)
ℎ
• 関数をこの定義式にぶち込めばなんでも
微分できる
• とりあえず 𝑓 𝑥 = 𝑥3
でも微分してみよう
• 𝑦 を 𝑥 で微分することを
𝑑𝑦
𝑑𝑥
と表記する

15. 微分これだけ覚えておく
• 𝑎𝑥 ′
= 𝑎
• 𝑥 𝑎 ′
= 𝑎𝑥 𝑎−1
• 𝑎 ′
= 0
• 𝑎 は定数

16. 機械学習×微分編

17. 重みを更新する

18. 重み更新のイメージ

19. より詳しく知りたい人へ

21. 坂田アキラの 数IIIの微分積分が面白いほどわかる本