Submit Search
Upload
20150303続パタ5章後半
•
5 likes
•
4,365 views
tetsuro ito
Follow
続わかりやすいパターン認識5章後半部分
Read less
Read more
Science
Report
Share
Report
Share
1 of 23
Download now
Download to read offline
Recommended
カップルが一緒にお風呂に入る割合をベイズ推定してみた
カップルが一緒にお風呂に入る割合をベイズ推定してみた
hoxo_m
20150303ぞくパタLT - Bayes LiNGAMのはなし
20150303ぞくパタLT-ゆるふわ構造学習
20150303ぞくパタLT-ゆるふわ構造学習
Toru Imai
わかりやすいパターン認識_2章
わかりやすいパターン認識_2章
weda654
ぞくパタのLT資料です。
わかりやすいパターン認識_3章
わかりやすいパターン認識_3章
weda654
LTという名のステマ
20140204はじパタlt
20140204はじパタlt
tetsuro ito
2015.09.29 「続・わかりやすパターン認識」読書会 #13 の 発表資料。
「続・わかりやすいパターン認識」 第12章 ディリクレ過程混合モデルによるクラスタリング(前半 : 12.1 )
「続・わかりやすいパターン認識」 第12章 ディリクレ過程混合モデルによるクラスタリング(前半 : 12.1 )
aich_08_
はじパタ8章 svm
はじパタ8章 svm
tetsuro ito
はじパタ2章
はじパタ2章
tetsuro ito
Recommended
カップルが一緒にお風呂に入る割合をベイズ推定してみた
カップルが一緒にお風呂に入る割合をベイズ推定してみた
hoxo_m
20150303ぞくパタLT - Bayes LiNGAMのはなし
20150303ぞくパタLT-ゆるふわ構造学習
20150303ぞくパタLT-ゆるふわ構造学習
Toru Imai
わかりやすいパターン認識_2章
わかりやすいパターン認識_2章
weda654
ぞくパタのLT資料です。
わかりやすいパターン認識_3章
わかりやすいパターン認識_3章
weda654
LTという名のステマ
20140204はじパタlt
20140204はじパタlt
tetsuro ito
2015.09.29 「続・わかりやすパターン認識」読書会 #13 の 発表資料。
「続・わかりやすいパターン認識」 第12章 ディリクレ過程混合モデルによるクラスタリング(前半 : 12.1 )
「続・わかりやすいパターン認識」 第12章 ディリクレ過程混合モデルによるクラスタリング(前半 : 12.1 )
aich_08_
はじパタ8章 svm
はじパタ8章 svm
tetsuro ito
はじパタ2章
はじパタ2章
tetsuro ito
Culture eats strategy for lunch? Hah—not this time! Ancestry.com has undergone a significant and rapid transformation to continuous delivery and business agility in less than three years—and they are not done yet. Today, Ancestry has a culture significantly different from what it used to, made possible by the adoption of new practices, tools, organizational changes, management involvement, and dramatic shifts in mindset. Adopting Agile development was the catalyst, but much more had to be mixed in to create their own flavor of DevOps and continuous delivery. This talk will focus on the specific challenges, phases, and actions taken during Ancestry’s cultural metamorphosis. Come listen to how Ancestry has beaten the culture monster so you can too!
Creating a culture for Continuous Delivery
Creating a culture for Continuous Delivery
Chef Software, Inc.
Allison Dew, Executive Director, Social Media, Community & Insights Austin American Marketing Association, August 2011
Customer Centered Marketing: The Social Media Journey
Customer Centered Marketing: The Social Media Journey
AllisonDew
Ahmed Ibrahim Elgabrouny
Ahmed Ibrahim Elgabrouny
ahmed ibrahim
The history of catalonia
The history of catalonia
mcast243
From High Dimensional Data to Big Data Presentation to MedicReS 5th World Congress on October 19,25,2015 in New York by Han Liu
Han Liu MedicReS World Congress 2015
Han Liu MedicReS World Congress 2015
MedicReS
Bi 108
Rise of christianity_in_rome
Rise of christianity_in_rome
BHUOnlineDepartment
5 Yearly Report of The Association of Alumni of Dayalbagh Educational Institutions (Regd.)
AADEIs - Blazing a Trail
AADEIs - Blazing a Trail
Amol Dhir
De slides bij mij inleiding op Blockchaintechnologie, ten behoeve van het seminar "Blockchain en Recht" bij Rijksuniversiteit Groningen
Blockchain en Recht 2016 06-22
Blockchain en Recht 2016 06-22
Lykle de Vries
Moustafa Alsharif cv oracle developer
Moustafa Alsharif cv oracle developer
Moustafa Alshreef
evaluation #2 for SAINT
Evaluation #2 (done)
Evaluation #2 (done)
megsrowlands
Storyboard sample
Midnight Snack
Midnight Snack
psingl20
The sps code of conduct 2011
The sps code of conduct 2011
bambangsaja
המלצה - טלדור
המלצה - טלדור
Orit Avital, Ottorita
japan.R2017noLT資料です
[Up用]rでqr
[Up用]rでqr
tetsuro ito
データアナリストミートアップで発表したDataOps in MoneyForwardの資料です
20170912 data analyst meetup tokyo vol.5
20170912 data analyst meetup tokyo vol.5
tetsuro ito
20170714 丸の内アナリティクスバンビーノ登壇資料
DataOps in Moneyforward
DataOps in Moneyforward
tetsuro ito
2017年2月7日に六本木アカデミーヒルズで行われたBigData Analytics Tokyoで発表したスライドです。
20170207 bigdata analytics_tokyo講演資料
20170207 bigdata analytics_tokyo講演資料
tetsuro ito
『機械学習エンジニア向け勉強会』の発表資料です
20161029 dots machine learning in money forward
20161029 dots machine learning in money forward
tetsuro ito
GCP_NEXT後のBQ_Sushiで発表した資料です
20160906 bq sushi
20160906 bq sushi
tetsuro ito
2015/10/10 Tokyo.R #51のLT資料です
TokyoR LT Rで連続データを離散化
TokyoR LT Rで連続データを離散化
tetsuro ito
2015/05/31 Bizreach✕Cookpad✕Gunosy✕UserLocal 分析プラットホームとその技術で発表した内容です
20150531分析プラットホームとその技術(bizreach) cookpad ito #dcube_analysis
20150531分析プラットホームとその技術(bizreach) cookpad ito #dcube_analysis
tetsuro ito
社内における読書会のスライドです。 毎回この作り込んだスライドは辛いので、以後はpublicには鳴り得ないのですが、せっかく作ったので、公開しています。
PRML読書会1スライド(公開用)
PRML読書会1スライド(公開用)
tetsuro ito
More Related Content
Viewers also liked
Culture eats strategy for lunch? Hah—not this time! Ancestry.com has undergone a significant and rapid transformation to continuous delivery and business agility in less than three years—and they are not done yet. Today, Ancestry has a culture significantly different from what it used to, made possible by the adoption of new practices, tools, organizational changes, management involvement, and dramatic shifts in mindset. Adopting Agile development was the catalyst, but much more had to be mixed in to create their own flavor of DevOps and continuous delivery. This talk will focus on the specific challenges, phases, and actions taken during Ancestry’s cultural metamorphosis. Come listen to how Ancestry has beaten the culture monster so you can too!
Creating a culture for Continuous Delivery
Creating a culture for Continuous Delivery
Chef Software, Inc.
Allison Dew, Executive Director, Social Media, Community & Insights Austin American Marketing Association, August 2011
Customer Centered Marketing: The Social Media Journey
Customer Centered Marketing: The Social Media Journey
AllisonDew
Ahmed Ibrahim Elgabrouny
Ahmed Ibrahim Elgabrouny
ahmed ibrahim
The history of catalonia
The history of catalonia
mcast243
From High Dimensional Data to Big Data Presentation to MedicReS 5th World Congress on October 19,25,2015 in New York by Han Liu
Han Liu MedicReS World Congress 2015
Han Liu MedicReS World Congress 2015
MedicReS
Bi 108
Rise of christianity_in_rome
Rise of christianity_in_rome
BHUOnlineDepartment
5 Yearly Report of The Association of Alumni of Dayalbagh Educational Institutions (Regd.)
AADEIs - Blazing a Trail
AADEIs - Blazing a Trail
Amol Dhir
De slides bij mij inleiding op Blockchaintechnologie, ten behoeve van het seminar "Blockchain en Recht" bij Rijksuniversiteit Groningen
Blockchain en Recht 2016 06-22
Blockchain en Recht 2016 06-22
Lykle de Vries
Moustafa Alsharif cv oracle developer
Moustafa Alsharif cv oracle developer
Moustafa Alshreef
evaluation #2 for SAINT
Evaluation #2 (done)
Evaluation #2 (done)
megsrowlands
Storyboard sample
Midnight Snack
Midnight Snack
psingl20
The sps code of conduct 2011
The sps code of conduct 2011
bambangsaja
המלצה - טלדור
המלצה - טלדור
Orit Avital, Ottorita
Viewers also liked
(13)
Creating a culture for Continuous Delivery
Creating a culture for Continuous Delivery
Customer Centered Marketing: The Social Media Journey
Customer Centered Marketing: The Social Media Journey
Ahmed Ibrahim Elgabrouny
Ahmed Ibrahim Elgabrouny
The history of catalonia
The history of catalonia
Han Liu MedicReS World Congress 2015
Han Liu MedicReS World Congress 2015
Rise of christianity_in_rome
Rise of christianity_in_rome
AADEIs - Blazing a Trail
AADEIs - Blazing a Trail
Blockchain en Recht 2016 06-22
Blockchain en Recht 2016 06-22
Moustafa Alsharif cv oracle developer
Moustafa Alsharif cv oracle developer
Evaluation #2 (done)
Evaluation #2 (done)
Midnight Snack
Midnight Snack
The sps code of conduct 2011
The sps code of conduct 2011
המלצה - טלדור
המלצה - טלדור
More from tetsuro ito
japan.R2017noLT資料です
[Up用]rでqr
[Up用]rでqr
tetsuro ito
データアナリストミートアップで発表したDataOps in MoneyForwardの資料です
20170912 data analyst meetup tokyo vol.5
20170912 data analyst meetup tokyo vol.5
tetsuro ito
20170714 丸の内アナリティクスバンビーノ登壇資料
DataOps in Moneyforward
DataOps in Moneyforward
tetsuro ito
2017年2月7日に六本木アカデミーヒルズで行われたBigData Analytics Tokyoで発表したスライドです。
20170207 bigdata analytics_tokyo講演資料
20170207 bigdata analytics_tokyo講演資料
tetsuro ito
『機械学習エンジニア向け勉強会』の発表資料です
20161029 dots machine learning in money forward
20161029 dots machine learning in money forward
tetsuro ito
GCP_NEXT後のBQ_Sushiで発表した資料です
20160906 bq sushi
20160906 bq sushi
tetsuro ito
2015/10/10 Tokyo.R #51のLT資料です
TokyoR LT Rで連続データを離散化
TokyoR LT Rで連続データを離散化
tetsuro ito
2015/05/31 Bizreach✕Cookpad✕Gunosy✕UserLocal 分析プラットホームとその技術で発表した内容です
20150531分析プラットホームとその技術(bizreach) cookpad ito #dcube_analysis
20150531分析プラットホームとその技術(bizreach) cookpad ito #dcube_analysis
tetsuro ito
社内における読書会のスライドです。 毎回この作り込んだスライドは辛いので、以後はpublicには鳴り得ないのですが、せっかく作ったので、公開しています。
PRML読書会1スライド(公開用)
PRML読書会1スライド(公開用)
tetsuro ito
20140614 tokyo r lt
20140614 tokyo r lt
tetsuro ito
20140329 tokyo r lt 「カーネルとsvm」
20140329 tokyo r lt 「カーネルとsvm」
tetsuro ito
20131207 Japan.R発表
Japan.r 2013 「実ビジネスデータへのrの活用とその限界」
Japan.r 2013 「実ビジネスデータへのrの活用とその限界」
tetsuro ito
2013年11月9日 第35回TokyoRのLT 「ロバスティーヌのお悩み」(ロバスト推定)
Tokyo R LT 20131109
Tokyo R LT 20131109
tetsuro ito
第31回TokyoR LT資料
第31回TokyoR LT資料
tetsuro ito
集合知プログラミング5章発表
集合知プログラミング5章発表
tetsuro ito
集合知プログラミング11章
集合知プログラミング11章
tetsuro ito
集合知プログラミング勉強会キックオフMTGの第1章LT資料です
集合知プログラミング勉強会キックオフMTG LT用資料
集合知プログラミング勉強会キックオフMTG LT用資料
tetsuro ito
20120326 zansa勉強会発表資料 (公開用) 02 04-38
20120326 zansa勉強会発表資料 (公開用) 02 04-38
tetsuro ito
複雑ネットワーク勉強会 第6章 後半
複雑ネットワーク勉強会 第6章 後半
tetsuro ito
発表資料(教科書必須資料)
複雑ネットワーク勉強会 第6章
複雑ネットワーク勉強会 第6章
tetsuro ito
More from tetsuro ito
(20)
[Up用]rでqr
[Up用]rでqr
20170912 data analyst meetup tokyo vol.5
20170912 data analyst meetup tokyo vol.5
DataOps in Moneyforward
DataOps in Moneyforward
20170207 bigdata analytics_tokyo講演資料
20170207 bigdata analytics_tokyo講演資料
20161029 dots machine learning in money forward
20161029 dots machine learning in money forward
20160906 bq sushi
20160906 bq sushi
TokyoR LT Rで連続データを離散化
TokyoR LT Rで連続データを離散化
20150531分析プラットホームとその技術(bizreach) cookpad ito #dcube_analysis
20150531分析プラットホームとその技術(bizreach) cookpad ito #dcube_analysis
PRML読書会1スライド(公開用)
PRML読書会1スライド(公開用)
20140614 tokyo r lt
20140614 tokyo r lt
20140329 tokyo r lt 「カーネルとsvm」
20140329 tokyo r lt 「カーネルとsvm」
Japan.r 2013 「実ビジネスデータへのrの活用とその限界」
Japan.r 2013 「実ビジネスデータへのrの活用とその限界」
Tokyo R LT 20131109
Tokyo R LT 20131109
第31回TokyoR LT資料
第31回TokyoR LT資料
集合知プログラミング5章発表
集合知プログラミング5章発表
集合知プログラミング11章
集合知プログラミング11章
集合知プログラミング勉強会キックオフMTG LT用資料
集合知プログラミング勉強会キックオフMTG LT用資料
20120326 zansa勉強会発表資料 (公開用) 02 04-38
20120326 zansa勉強会発表資料 (公開用) 02 04-38
複雑ネットワーク勉強会 第6章 後半
複雑ネットワーク勉強会 第6章 後半
複雑ネットワーク勉強会 第6章
複雑ネットワーク勉強会 第6章
20150303続パタ5章後半
1.
続わかりやすい パターン認識勉強会5章(後半) 教師付き学習と教師なし学習 @tetsuroito 2015/03/03 @dwango 2015年3月3日火曜日
2.
自己紹介 名前:伊藤 徹郎(@tetsuroito) 近況:PRMLとの併読に四苦八苦 WEBディレクター業(仲間増やしたい) 料理たのしぃー! 2015年3月3日火曜日
3.
5章後半のお品書き 5.4 教師なし学習 5.5 教師なし学習の実験 [1]パラメータπiの推定 [2]パラメータθikの推定 [3]推定結果の妥当性 [4]教師付き学習との関係 [5]教師なし学習アルゴリズムの演算 2015年3月3日火曜日
4.
前半:コイン種別がわかる教師の存在を仮定 後半では、その仮定を取り払う 2015年3月3日火曜日
5.
例題5.3 箱の中にc種のサイコロw1,w2,‥wcがある πi:サイコロwiの含有率 θik:wiを投げてkの目が出る確率 無作為、復元抽出をn回繰り返す X=x1‥xn:サイコロ目の系列 ∵ vkがrk回 上記の観測結果より πiおよび θikを最尤推定により推定せよ 2015年3月3日火曜日
6.
例題5.3 n回の観測結果は互いに独立より、 対数尤度 ∴ ∵ vkがrk回 2015年3月3日火曜日
7.
例題5.3 (5.8より) 上記の対数尤度を最大にするパラメータが 求めるべきパラメータ 2015年3月3日火曜日
8.
例題5.3 別の見方{P(vk)を新たなパラメータ}をすると‥ (5.6)の制約でlogP(x)を最大にする P(vk)を求める (k=1,2,...,m) パラメータは一意に定まらず、無数に存在する この件は後ほど触れるそうです 2015年3月3日火曜日
9.
教師なし学習によるパラメータ推定の定式化 教師付き学習との違いに注意 P(x,s)だった 以降で、パラメータπi、θikを順に行う 2015年3月3日火曜日
10.
[1]パラメータπiの推定 ラグランジュ未定乗数法より λは定数 極値を取るπi (i=1,2,...c) 2015年3月3日火曜日
11.
[1]パラメータπiの推定 (5.50)と(5.7)から →代入しただけ (i=1,2,...,c) (i=1,2,...,c) ベイズの定理利用 2015年3月3日火曜日
12.
[1]パラメータπiの推定 (5.59)を(5.56)に代入して変形 λ=n 両辺にΣ (i=1,2,...c) πiの推定値 2015年3月3日火曜日
13.
[2]パラメータθikの推定 πiと全くやり方は同様なので割愛(テキスト見てください) (i=1,2,...c) (k=1,2,...m) ラグランジュ未定乗数法、偏微分、各々代入、ベイズ定理 2015年3月3日火曜日
14.
[3]推定結果の妥当性 特定のサイコロwiについて、観測結果xiの 事後確率を求める。 n回の全観測結果について加算し、nで除算 δ(xt,vk)=1(xt=vk) 0(otherwise) xt=vkとなるP(wi|xt)のみ抽出して加算 次に全てのvk(k=1,...,m)ついて加算 = 投げたサイコロがwiだった回数の期待値期待値/nだから妥当! 2015年3月3日火曜日
15.
[3]推定結果の妥当性 観測結果がvkで投げたサイコロがwiの期待値 観測結果がvkで投げたサイコロがwiの期待値 投げたサイコロがwiだった回数の期待値 だから妥当! 2015年3月3日火曜日
16.
[4]教師付き学習との関係 教師付きはサイコロを取り出したものは確定的 確率は取り出した回数niと等しい 教師付き学習を特別な場合として含み、一般化できる 結果が一致 2015年3月3日火曜日
17.
[5]教師なし学習アルゴリズムの演算 直接求められないので、ベイズの定理を使う 未知パラメータπi,θikを含んでいる ∴次のような繰り返し演算を適用する 2015年3月3日火曜日
18.
教師なし学習アルゴリズム Step1 πi,θikの初期値を与える(パタメータ初期化) Step2 ベイズの定理によりP(wi|vk)を計算する Step3.1 πiを更新し、右を求める Step3.2 ベイズの定理に代入し、
を求め、θikを更新 Step4 と設定 対数尤度logP(x)を求め、増分が閾値以下なら終了 or Step2 2015年3月3日火曜日
19.
教師なし学習アルゴリズム 繰り返し演算を用いたのは次のEMアルゴリズムのため 本算法は収束性が保証されている 一般にEMアルゴリズムは局所最適解 収束性は次章で詳細にやるらしいぞ! 2015年3月3日火曜日
20.
教師なし学習の実験 w1, w2, w3の3種のサイコロを投げ、出た目の奇数・偶数を観測する 奇数の目(v1),偶数の目
(v2)w1, w2, w3の含有率π1,π2,π3 奇数の目の確率(θi1),偶数の目の確率 (θi2) (i=1,2,3) 実験条件 1,π1=0.1,π2=0.4,π3=0.5 θ11=0.8, θ21=0.6, θ31=0.3 2,推定するのはπiのみ,θikは既知 3,サイコロを選んで投げるは10,000回 4,初期値 π1=0.3,π2=0.5,π3=0.2 5,繰り返し演算を用いたが、既知のものは省いた 2015年3月3日火曜日
21.
教師なし学習の実験 実験結果 奇数の目が出た回数r1=4,746,偶数の目が出た回数r2=5,254 単調増加,50回で収束 推定値が真値に近い 2015年3月3日火曜日
22.
教師なし学習の実験 π1+π2+π3=1の制約 logP(x)を最大にする等高線が太線 一意に定まらない(line上は最適解) 大域的最適解が得られた 真値 2015年3月3日火曜日
23.
ご清聴ありがとうございました! 2015年3月3日火曜日
Download now