Submit Search
Upload
Study session#3
•
0 likes
•
48 views
恵
恵太 水野
Follow
for a study session in my company
Read less
Read more
Engineering
Report
Share
Report
Share
1 of 13
Download now
Download to read offline
Recommended
統計概論 isseing333
統計概論 isseing333
Issei Kurahashi
Prml 4.1.1
Prml 4.1.1
Satoshi Kawamoto
030 2変数の集計
030 2変数の集計
t2tarumi
prml4.1.3-4.1.4
prml4.1.3-4.1.4
Ryo Yamashita
Kim120 lt 12_6
Kim120 lt 12_6
amusementcreators
TopCoder SRM614 解説
TopCoder SRM614 解説
EmKjp
Permutation
Permutation
oupc
パターン認識と機械学習 §6.2 カーネル関数の構成
パターン認識と機械学習 §6.2 カーネル関数の構成
Prunus 1350
Recommended
統計概論 isseing333
統計概論 isseing333
Issei Kurahashi
Prml 4.1.1
Prml 4.1.1
Satoshi Kawamoto
030 2変数の集計
030 2変数の集計
t2tarumi
prml4.1.3-4.1.4
prml4.1.3-4.1.4
Ryo Yamashita
Kim120 lt 12_6
Kim120 lt 12_6
amusementcreators
TopCoder SRM614 解説
TopCoder SRM614 解説
EmKjp
Permutation
Permutation
oupc
パターン認識と機械学習 §6.2 カーネル関数の構成
パターン認識と機械学習 §6.2 カーネル関数の構成
Prunus 1350
漸化式と微分積分
漸化式と微分積分
政孝 鍋島
漸化式と微分積分
漸化式と微分積分
nabeshimamasataka
線形計画法入門
線形計画法入門
Shunji Umetani
はじめてのパターン認識 第6章 後半
はじめてのパターン認識 第6章 後半
Prunus 1350
20170327_レムニスケートにまつわる色々な計算
20170327_レムニスケートにまつわる色々な計算
matsumoring
20150922_楕円関数とおもしろい応用
20150922_楕円関数とおもしろい応用
matsumoring
奇関数・偶関数
奇関数・偶関数
yu_nahb219
C04
C04
anonymousouj
最急降下法
最急降下法
Akira Miyazawa
ダイクストラ法
ダイクストラ法
ohsofty
スペクトラル・クラスタリング
スペクトラル・クラスタリング
Akira Miyazawa
何もないところから数を作る
何もないところから数を作る
Taketo Sano
RUPC2017:M問題
RUPC2017:M問題
Takumi Yamashita
はじめてのパターン認識8章 サポートベクトルマシン
はじめてのパターン認識8章 サポートベクトルマシン
NobuyukiTakayasu
虚数は作れる!Swift で学ぶ複素数
虚数は作れる!Swift で学ぶ複素数
Taketo Sano
何もないところから数を作る
何もないところから数を作る
Taketo Sano
コードを書けば複素数がわかる
コードを書けば複素数がわかる
Taketo Sano
R上の変な位相
R上の変な位相
nabeshimamasataka
ユークリッド空間上の変な位相
ユークリッド空間上の変な位相
政孝 鍋島
Master Thesis
Master Thesis
Toshiyuki Shimono
More Related Content
What's hot
漸化式と微分積分
漸化式と微分積分
政孝 鍋島
漸化式と微分積分
漸化式と微分積分
nabeshimamasataka
線形計画法入門
線形計画法入門
Shunji Umetani
はじめてのパターン認識 第6章 後半
はじめてのパターン認識 第6章 後半
Prunus 1350
20170327_レムニスケートにまつわる色々な計算
20170327_レムニスケートにまつわる色々な計算
matsumoring
20150922_楕円関数とおもしろい応用
20150922_楕円関数とおもしろい応用
matsumoring
奇関数・偶関数
奇関数・偶関数
yu_nahb219
C04
C04
anonymousouj
最急降下法
最急降下法
Akira Miyazawa
ダイクストラ法
ダイクストラ法
ohsofty
スペクトラル・クラスタリング
スペクトラル・クラスタリング
Akira Miyazawa
何もないところから数を作る
何もないところから数を作る
Taketo Sano
RUPC2017:M問題
RUPC2017:M問題
Takumi Yamashita
はじめてのパターン認識8章 サポートベクトルマシン
はじめてのパターン認識8章 サポートベクトルマシン
NobuyukiTakayasu
虚数は作れる!Swift で学ぶ複素数
虚数は作れる!Swift で学ぶ複素数
Taketo Sano
何もないところから数を作る
何もないところから数を作る
Taketo Sano
コードを書けば複素数がわかる
コードを書けば複素数がわかる
Taketo Sano
R上の変な位相
R上の変な位相
nabeshimamasataka
ユークリッド空間上の変な位相
ユークリッド空間上の変な位相
政孝 鍋島
Master Thesis
Master Thesis
Toshiyuki Shimono
What's hot
(20)
漸化式と微分積分
漸化式と微分積分
漸化式と微分積分
漸化式と微分積分
線形計画法入門
線形計画法入門
はじめてのパターン認識 第6章 後半
はじめてのパターン認識 第6章 後半
20170327_レムニスケートにまつわる色々な計算
20170327_レムニスケートにまつわる色々な計算
20150922_楕円関数とおもしろい応用
20150922_楕円関数とおもしろい応用
奇関数・偶関数
奇関数・偶関数
C04
C04
最急降下法
最急降下法
ダイクストラ法
ダイクストラ法
スペクトラル・クラスタリング
スペクトラル・クラスタリング
何もないところから数を作る
何もないところから数を作る
RUPC2017:M問題
RUPC2017:M問題
はじめてのパターン認識8章 サポートベクトルマシン
はじめてのパターン認識8章 サポートベクトルマシン
虚数は作れる!Swift で学ぶ複素数
虚数は作れる!Swift で学ぶ複素数
何もないところから数を作る
何もないところから数を作る
コードを書けば複素数がわかる
コードを書けば複素数がわかる
R上の変な位相
R上の変な位相
ユークリッド空間上の変な位相
ユークリッド空間上の変な位相
Master Thesis
Master Thesis
Study session#3
1.
機械学習の理論 (回帰) part2 2018年11月
2.
微分で誤差を小さくしよう! ところで微分とは? 一言で言うと「瞬間の変化量」 dx f(x) = x
を微分するとn d f(x) = nx n-1
3.
微分を使うと? y x0 2 瞬間の変化量(傾き)がわかる! g(x) = (x-1)
4.
傾きがわかると? y x0 2 スライドできる! (y=0に近づくことができる) g(x) = (x-1)
5.
勾配降下法(名前はどうでもいい) y x0 g(x) = (x-1)2 学習率と呼ばれる正の定数 (イータ) 左の矢印の長さを決めるもの
6.
ex) y x 0 10 g(x) =
(x-1) 2 = 10 = 2x-2 = 0.5 10 - 0.1 * (2*10 - 2) ? ?
7.
ex) y x 0 10 g(x) =
(x-1) 2 = 10 = 2x-2 = 0.5 10 - 0.1 * (2*10 - 2) 8.8 8.8
8.
ここで思い出してほしい。目的関数! 誤差の総和
9.
そういえば目的関数も二次関数! y x0 誤差。 微分を使って 誤差を0に近づける!
10.
目的関数の微分→偏微分 目的関数の微分は先ほど出てきた微分とは少し違う。 違いは微分をする変数の数。 目的関数はfθ(x)を含んでいる。(fθ(x) = θ0+θ1x) つまり、目的関数はθ0とθ1の2つの変数を持つ関数である。 変数が2つ以上の場合は普通の微分ではなく偏微分を使う。 以下、更新式
11.
合成関数Eの微分はこうなる… まずはこちらから解く を解いてみよう!
12.
もう一方も解く あとは掛けるだけ
13.
こちらも同じように微分すると… 最終的にパラメータ更新式はこうなる…
Download now