Recommended
Recommended
More Related Content
What's hot
What's hot (15)
Viewers also liked
Viewers also liked (20)
More from Akira Asano
More from Akira Asano (20)
Recently uploaded
Recently uploaded (8)
2014年度秋学期 統計学 第７回 分布をまとめるー回帰分析 (2014. 11. 12)
- 1. A. Asano, Kansai Univ. 2014年度春学期 統計学 データの関係を知る(2)̶回帰分析 浅野 晃 関西大学総合情報学部 第７回
- 2. A. Asano, Kansai Univ.
- 3. A. Asano, Kansai Univ. 回帰分析とは
- 4. 回帰分析とは 多変量データがあるとき ある変量の変化を他の変量の変化で ［説明］する方法 2014年度春A. Asano, Kansai Univ.
- 5. 回帰分析とは 多変量データがあるとき ある変量の変化を他の変量の変化で ［説明］する方法 説明？ 2014年度春A. Asano, Kansai Univ.
- 6. 回帰分析とは 緯度と気温のデータを例にとると 相関分析 緯度があがると，気温が下がる 傾向がはっきりしている 回帰分析 緯度が上がるから気温が下がると考える 緯度が１度あがると，気温が◯℃下がる 2014年度春A. Asano, Kansai Univ.
- 7. 回帰分析とは 緯度が上がるから気温が下がると考える 緯度が１度あがると，気温が◯℃下がる 2014年度春A. Asano, Kansai Univ.
- 8. 回帰分析とは 緯度が上がるから気温が下がると考える 緯度が１度あがると，気温が◯℃下がる 各都市の気温の違いは，緯度によって決まっ ているという［モデル］を考える 2014年度春A. Asano, Kansai Univ.
- 9. 回帰分析とは 緯度が上がるから気温が下がると考える 緯度が１度あがると，気温が◯℃下がる 各都市の気温の違いは，緯度によって決まっ ているという［モデル］を考える 統計学では， 気温（のばらつき）は，緯度によって ［説明］されるという 2014年度春A. Asano, Kansai Univ.
- 10. 説明変数・被説明変数 気温は緯度によって説明される （というモデル） 気温（℃） 8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 16.0 !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） 図1: 散布図：緯度と気温の関係
- 11. 説明変数・被説明変数 気温は緯度によって説明される （というモデル） !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ［説明変数］ 気温（℃） 8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 16.0 ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） 図1: 散布図：緯度と気温の関係
- 12. 説明変数・被説明変数 気温は緯度によって説明される （というモデル） !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ［説明変数］ 気温（℃） 8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 16.0 ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） 図1: 散布図：緯度と気温の関係 ［被説明変数］
- 13. A. Asano, Kansai Univ.
- 14. A. Asano, Kansai Univ. 線形単回帰
- 15. 線形単回帰 気温は緯度によって説明される 気温（℃） 8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 16.0 !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） 図1: 散布図：緯度と気温の関係
- 16. 線形単回帰 気温は緯度によって説明される どう説明される？ 気温（℃） 8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 16.0 !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） 図1: 散布図：緯度と気温の関係
- 17. 線形単回帰 気温は緯度によって説明される どう説明される？ 気温（℃） 8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 16.0 !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） 図1: 散布図：緯度と気温の関係
- 18. 線形単回帰 気温は緯度によって説明される どう説明される？ 気温（℃） 8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 16.0 !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） 散布図上で直線の関係がある，と考える 図1: 散布図：緯度と気温の関係
- 19. 線形単回帰 散布図上で直線の関係がある （℃） !! ! ! 温! ! 気! 25 27 29 31 33 35 37 39 41 43 45 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 緯度（度） x 図1: 散布図：緯度と気温の関係 y
- 20. 線形単回帰 散布図上で直線の関係がある （℃） !! ! ! 温! ! 気! 25 27 29 31 33 35 37 39 41 43 45 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 緯度（度） x 図1: 散布図：緯度と気温の関係 y y = a + bx という式で表される関係
- 21. 線形単回帰 散布図上で直線の関係がある （℃） !! ! ! 温! ! 気! 25 27 29 31 33 35 37 39 41 43 45 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 緯度（度） x 図1: 散布図：緯度と気温の関係 y y = a + bx という式で表される関係 ［線形単回帰］ という
- 22. 線形単回帰 （℃） !! ! ! 温! ! 気! 25 27 29 31 33 35 37 39 41 43 45 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 緯度（度） x 図1: 散布図：緯度と気温の関係 y y = a + bx という式で 表される関係
- 23. 線形単回帰 （℃） !! ! ! 温! ! 気! 25 27 29 31 33 35 37 39 41 43 45 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 緯度（度） x 図1: 散布図：緯度と気温の関係 y y = a + bx という式で 表される関係
- 24. 線形単回帰 （℃） !! ! ! 温! ! 気! 25 27 29 31 33 35 37 39 41 43 45 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 緯度（度） x 図1: 散布図：緯度と気温の関係 y y = a + bx という式で 表される関係
- 25. 線形単回帰 （℃） !! ! ! 温! ! 気! 25 27 29 31 33 35 37 39 41 43 45 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 緯度（度） x 図1: 散布図：緯度と気温の関係 y y = a + bx という式で 表される関係 a や b（パラメータ）は どうやって求める？
- 26. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y y = a + bx
- 27. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 x = xiのとき 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y y = a + bx
- 28. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 x = xiのとき 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y xi y = a + bx
- 29. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 x = xiのとき モデルによれば a + bxi 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y xi y = a + bx
- 30. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 x = xiのとき モデルによれば a + bxi 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y xi y = a + bx
- 31. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 x = xiのとき モデルによれば a + bxi 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y xi y = a + bx
- 32. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 x = xiのとき モデルによれば a + bxi 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y = a + bx
- 33. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 x = xiのとき モデルによれば a + bxi 2014年度春A. Asano, Kansai Univ. 実際は yi ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y = a + bx
- 34. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 x = xiのとき モデルによれば a + bxi 2014年度春A. Asano, Kansai Univ. 実際は yi ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y = a + bx
- 35. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 x = xiのとき モデルによれば a + bxi 2014年度春A. Asano, Kansai Univ. 実際は yi ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y = a + bx
- 36. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 x = xiのとき モデルによれば a + bxi 2014年度春A. Asano, Kansai Univ. 実際は yi ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi y = a + bx
- 37. パラメータの決定 x = xiのとき モデルによれば a + bxi 差 yi – (a + bxi ) ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. 実際は yi ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi y = a + bx
- 38. パラメータの決定 x = xiのとき モデルによれば a + bxi 差 yi – (a + bxi ) ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. 実際は yi 差が最小に なるように a,bを決める ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi y = a + bx
- 39. パラメータの決定 ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi 差 yi – (a + bxi )
- 40. パラメータの決定 すべてのxiについて， 差の合計が最小になるように a,bを決める ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi 差 yi – (a + bxi )
- 41. パラメータの決定 すべてのxiについて， 差の合計が最小になるように a,bを決める ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi 差 yi – (a + bxi )
- 42. ような回帰を，線形単回帰といいます。 ，このパ式ラのメータの決定 a, b つまりすパラべメてーのタを決める方法を考えまします。との間の関係が，xiについて， x y y = a + bx というモデル+ bxi となるはずです。差しのか合し計，が現最実に小はにy な= るyi よとうなに っのうちで，この「全てa,のb(をxi, 決yi) めにる ついての，yi とa + bxi メータをもっとも適切なパラメータとします。差には正すなわち ! ! ! {yi − (a + bxi)}2 なるようにa とb を決定します（n はデータの組の数ですうなa とb を求める方法は，おもに２つあります。ひとつそれらを両方とも0 とおいた方程式を解くものです。 ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi 差 yi – (a + bxi ) L = !n i=1 2
- 43. ような回帰を，線形単回帰といいます。 ，このパ式ラのメータの決定 a, b つまりすパラべメてーのタを決める方法を考えまします。との間の関係が，xiについて， x y y = a + bx というモデル+ bxi となるはずです。差しのか合し計，が現最実に小はにy な= るyi よとうなに っのうちで，この「全てa,のb(をxi, 決yi) めにる ついての，yi とa + bxi メータをもっとも適切なパラメータとします。差には正すなわち ! ! ! {yi − (a + bxi)}2 なるようにa とb を決定します（n はデータの組の数ですうなa とb を求める方法は，おもに２つあります。ひとつそれらを両方とも0 とおいた方程式を解くものです。 ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi 差 yi – (a + bxi ) L = !n i=1 が最小になる a,bを求める 2
- 44. Lが最小になるa,bを求める •偏微分による方法（付録１） •「２次関数の最大・最小」に よる方法（付録２） 2014年度春A. Asano, Kansai Univ.
- 45. なパ「ラメ偏ー微タと分し」ますに。よ差にるは方正法 負がありますから，実!n L = {yi − (a + bxi)}2 がi=1 定します（n はデータの組の数です）。 法は，おもに２つあります。ひとつは，(1) 式をa とb でおいた方程式を解くものです。 る」とは，次のような意味です。微分とは，関数のグラフ。そこで，(1) 式のL をa, b の２つの変数の関数と考える数で，a2，b2 の係数がいずれも正ですから，そのグラフは2014年度春A. Asano, Kansai Univ. 最小になる a,bを求める
- 46. なパ「ラメ偏ー微タと分し」ますに。よ差にるは方正法 負がありますから，実!n L = {yi − (a + bxi)}2 がi=1 定します（n はデータの組の数です）。 法は，おもに２つあります。ひとつは，(1) 式をa とb でおいた方程式を解くものです。 る」とは，次のような意味です。微分とは，関数のグラフ。そこで，(1) 式のL をa, b の２つの変数の関数と考える数で，a2，b2 の係数がいずれも正ですから，そのグラフは2014年度春A. Asano, Kansai Univ. 最小になる a,bを求める a,bの２次関数
- 47. なパ「ラメ偏ー微タと分し」ますに。よ差にるは方正法 負がありますから，実!n L = {yi − (a + bxi)}2 がi=1 定します（n はデータの組の数です）。 法は，おもに２つあります。ひとつは，(1) 式をa とb でおいた方程式を解くものです。 る」とは，次のような意味です。微分とは，関数のグラフ。そこで，(1) 式のL をa, b の２つの変数の関数と考える数で，a2，b2 の係数がいずれも正ですから，そのグラフは2014年度春A. Asano, Kansai Univ. 最小になる a,bを求める a,bの２次関数 a b L ★ a b L
- 48. なパ「ラメ偏ー微タと分し」ますに。よ差にるは方正法 負がありますから，実!n L = {yi − (a + bxi)}2 がi=1 定します（n はデータの組の数です）。 法は，おもに２つあります。ひとつは，(1) 式をa とb でおいた方程式を解くものです。 る」とは，次のような意味です。微分とは，関数のグラフ。そこで，(1) 式のL をa, b の２つの変数の関数と考える数で，a2，b2 の係数がいずれも正ですから，そのグラフは2014年度春A. Asano, Kansai Univ. 最小になる a,bを求める a,bの２次関数 a b L ★ a b L aだけの関数 と考えて微分
- 49. なパ「ラメ偏ー微タと分し」ますに。よ差にるは方正法 負がありますから，実!n L = {yi − (a + bxi)}2 がi=1 定します（n はデータの組の数です）。 法は，おもに２つあります。ひとつは，(1) 式をa とb でおいた方程式を解くものです。 る」とは，次のような意味です。微分とは，関数のグラフ。そこで，(1) 式のL をa, b の２つの変数の関数と考える数で，a2，b2 の係数がいずれも正ですから，そのグラフは2014年度春A. Asano, Kansai Univ. 最小になる a,bを求める a,bの２次関数 a b L ★ a b L aだけの関数 と考えて微分
- 50. なパ「ラメ偏ー微タと分し」ますに。よ差にるは方正法 負がありますから，実!n L = {yi − (a + bxi)}2 がi=1 定します（n はデータの組の数です）。 法は，おもに２つあります。ひとつは，(1) 式をa とb でおいた方程式を解くものです。 る」とは，次のような意味です。微分とは，関数のグラフ。そこで，(1) 式のL をa, b の２つの変数の関数と考える数で，a2，b2 の係数がいずれも正ですから，そのグラフは2014年度春A. Asano, Kansai Univ. 最小になる a,bを求める a,bの２次関数 a b L ★ a b L aだけの関数 と考えて微分 bだけの関数 と考えて微分
- 51. なパ「ラメ偏ー微タと分し」ますに。よ差にるは方正法 負がありますから，実!n L = {yi − (a + bxi)}2 がi=1 定します（n はデータの組の数です）。 法は，おもに２つあります。ひとつは，(1) 式をa とb でおいた方程式を解くものです。 る」とは，次のような意味です。微分とは，関数のグラフ。そこで，(1) 式のL をa, b の２つの変数の関数と考える数で，a2，b2 の係数がいずれも正ですから，そのグラフは2014年度春A. Asano, Kansai Univ. 最小になる a,bを求める a,bの２次関数 a b L ★ a b L aだけの関数 と考えて微分 bだけの関数 と考えて微分
- 52. 微分? a b L L aだけの関数 ★ a b 2014年度春A. Asano, Kansai Univ. と考えて微分
- 53. 微分? a b L L aだけの関数 ★ a b 2014年度春A. Asano, Kansai Univ. と考えて微分
- 54. 微分? a b L L aだけの関数 ★ a b 2014年度春A. Asano, Kansai Univ. と考えて微分 微分は，傾きを 求める計算
- 55. 微分? a b L L aだけの関数 ★ a b 2014年度春A. Asano, Kansai Univ. と考えて微分 微分は，傾きを 求める計算 下り(-)
- 56. 微分? a b L L aだけの関数 ★ a b 2014年度春A. Asano, Kansai Univ. と考えて微分 微分は，傾きを 求める計算 下り(-) 上り(+)
- 57. 微分? a b L L aだけの関数 ★ a b 2014年度春A. Asano, Kansai Univ. と考えて微分 微分は，傾きを 求める計算 下り(-) 上り(+) 底では微分=0
- 58. 微分? a b L L aだけの関数 ★ a b 2014年度春A. Asano, Kansai Univ. と考えて微分 微分は，傾きを 求める計算 下り(-) 上り(+) 底では微分=0 bについても同じ， 底では微分=0
- 59. 微分? a b L L aだけの関数 ★ a b 2014年度春A. Asano, Kansai Univ. と考えて微分 微分は，傾きを 求める計算 下り(-) 上り(+) 底では微分=0 bについても同じ， 底では微分=0 これらから a,bを求める
- 60. 計算はともかく結論は •偏微分による方法（付録１） •「２次関数の最大・最小」に よる方法（付録２） 2014年度春A. Asano, Kansai Univ.
- 61. 学部の１年生で習うくらいの解析学の知識がら，「２次関数の最大・最小」を使えば，こ，付録２で説明しています。 計算はともかく結論は •偏微分による方法（付録１） •「２次関数の最大・最小」に よる方法（付録２） b = σxy σ2x a = ¯y − b¯x 2014年度春A. Asano, Kansai Univ. 散，σxy はx, y の共分散です。¯x, ¯y は，前回
- 62. 学部の１年生で習うくらいの解析学の知識がら，「２次関数の最大・最小」を使えば，こ，付録２で説明しています。 計算はともかく結論は •偏微分による方法（付録１） •「２次関数の最大・最小」に よる方法（付録２） x, σxy b = σa = y ¯− bx ¯散，σxy はx, y の共分散です。x, ¯y ¯は，前2x 回2014年度春A. Asano, Kansai Univ. yの共分散
- 63. 学部の１年生で習うくらいの解析学の知識がら，「２次関数の最大・最小」を使えば，こ，付録２で説明しています。 計算はともかく結論は •偏微分による方法（付録１） •「２次関数の最大・最小」に よる方法（付録２） x, σxy b = σa = y ¯− bx ¯散，σxy はx, y の共分散です。x, ¯y ¯は，前2x 回2014年度春A. Asano, Kansai Univ. yの共分散 xの分散
- 64. 学部の１年生で習うくらいの解析学の知識がら，「２次関数の最大・最小」を使えば，こ，付録２で説明しています。 計算はともかく結論は •偏微分による方法（付録１） •「２次関数の最大・最小」に よる方法（付録２） x, σxy b = σa = y ¯− bx ¯散，σxy はx, y の共分散です。x, ¯y ¯は，前2x 回2014年度春A. Asano, Kansai Univ. yの共分散 xの分散 yの平均
- 65. 学部の１年生で習うくらいの解析学の知識がら，「２次関数の最大・最小」を使えば，こ，付録２で説明しています。 計算はともかく結論は •偏微分による方法（付録１） •「２次関数の最大・最小」に よる方法（付録２） x, σxy b = σa = y ¯− bx ¯散，σxy はx, y の共分散です。x, ¯y ¯は，前2x 回2014年度春A. Asano, Kansai Univ. yの共分散 xの分散 xの平均 yの平均
- 66. 最小二乗法 b = σxy σ2x a = ¯y − b¯x はx, y の共分散です。¯x, ¯y は，前回も出てうにして得られる１次式y = a+bx をy のx は回帰直線の傾きで，これを回帰係数といいσxy 2014年度春A. Asano, Kansai Univ.
- 67. 値のうちで，この「全ての(xi, yi) についての，ととの差の合ラメータ最yi a + bxi をも小っ二とも乗適切法 なパラメータとします。差には正負があります，すなわち σxy b = σ2x はx, y の共分散です。x, ¯y ¯は，前回も出てうにして得られる１次式y = a+bx をy のx は回帰直線の傾きで，これを回帰係数といい{yi − (a + bxi)}2 になるようにa とb を決定します（n はデータの組の数です）。 ようなとa = を求y ¯め− る方b法x ¯a b は，おもに２つあります。ひとつは，(1) 式を，それらを両方とも0 とおいた方程式を解くものです。 b それぞれで偏微分する」とは，次のような意味です。微分とは，関数傾きを求めることです。そこで，(1) 式のL をa, b の２つの変数の関数ちらについても２次関数で，a2，b2 の係数がいずれも正ですから，その統計学（2013 年度秋学期） 第７回(2013. 11. 7) http://racco.σxy L = 2014年度春A. Asano, Kansai Univ. !n i=1
- 68. 値のうちで，この「全ての(xi, yi) についての，ととの差の合ラメータ最yi a + bxi をも小っ二とも乗適切法 なパラメータとします。差には正負があります，すなわち σxy b = σ2x はx, y の共分散です。x, ¯y ¯は，前回も出てうにして得られる１次式y = a+bx をy のx は回帰直線の傾きで，これを回帰係数といい{yi − (a + bxi)}2 になるようにa とb を決定します（n はデータの組の数です）。 ようなとa = を求y ¯め− る方b法x ¯a b は，おもに２つあります。ひとつは，(1) 式を，それらを両方とも0 とおいた方程式を解くものです。 b それぞれで偏微分する」とは，次のような意味です。微分とは，関数傾きを求めることです。そこで，(1) 式のL をa, b の２つの変数の関数ちらについても２次関数で，a2，b2 の係数がいずれも正ですから，その統計学（2013 年度秋学期） 第７回(2013. 11. 7) http://racco.σxy L = 2014年度春A. Asano, Kansai Univ. !n i=1
- 69. 値のうちで，この「全てのについての，ととの差の合ラメータ最をも小っ二とも乗適切法 (xi, yi) yi a + bxi なパラメータとします。差には正負があります，すなわち はx, y の共分散です。x, ¯y ¯は，前回も出てうにして得られる１次式y = a+bx をy のx は回帰直線の傾きで，これを回帰係数といい{yi − (a + bxi)}2 になるようにa とb を決定します（n はデータの組の数です）。 ようなa とb を求める方法は，おもに２つあります。ひとつは，(1) 式を，それらを両方とも0 とおいた方程式を解くものです。 b それぞれで偏微分する」とは，次のような意味です。微分とは，関数傾きを求めることです。そこで，(1) 式のL をa, b の２つの変数の関数ちらについても２次関数で，a2，b2 の係数がいずれも正ですから，その統計学（2013 年度秋学期） 第７回(2013. 11. 7) http://racco.2014年度春A. Asano, Kansai Univ. を最小にしたので ［最小二乗法］ b = σxy σ2x a = ¯y − b¯x σxy L = !n i=1
- 70. 値のうちで，この「全てのについての，ととの差の合ラメータ最をも小っ二とも乗適切法 (xi, yi) yi a + bxi なパラメータとします。差には正負があります，すなわち はx, y の共分散です。x, ¯y ¯は，前回も出てうにして得られる１次式y = a+bx をy のx は回帰直線の傾きで，これを回帰係数といい{yi − (a + bxi)}2 でにすなる。ようx, に¯a y と¯b はを決，定し前ます回（n もはデ出ータての組きの数たですも）。 のでようなa とb を求める方法は，おもに２つあります。ひとつは，(1) 式を，それらを両方とも0 とおいた方程式を解くものです。 次b そ式れぞれで偏微分する」とは，次のような意味です。微分とは，関数傾きを求めy る= ことa+です。そbx こでを，(y 式ののx を上のへ1) L a, b ２つのの変回数の帰関方数，ちらこにれついをても回２次帰関数係で，数a2，b2 とのい係数いがいまずれすも正。ですなからお，そ，(の統計学（2013 年度秋学期） 第７回(2013. 11. 7) http://racco.2014年度春A. Asano, Kansai Univ. を最小にしたので ［最小二乗法］ b = σxy σ2x a = ¯y − b¯x σxy L = !n i=1
- 71. 値のうちで，この「全てのについての，ととの差の合ラメータ最をも小っ二とも乗適切法 (xi, yi) yi a + bxi なパラメータとします。差には正負があります，すなわち はx, y の共分散です。x, ¯y ¯は，前回も出てうにして得られる１次式y = a+bx をy のx は回帰直線の傾きで，これを回帰係数といい{yi − (a + bxi)}2 でにすなる。ようx, に¯a y と¯b はを決，定し前ます回（n もはデ出ータての組きの数たですも）。 のでようなa とb を求める方法は，おもに２つあります。ひとつは，(1) 式を，それらを両方とも0 とおいた方程式を解くものです。 次b そ式れぞれで偏微分する」とはy = a+bx を［，次のような意味です。微分と，関数傾きを求めることです。そこで，(y 式ののx を上1) L a, b のへ２つのの変回数の帰関方数，ちらこにれついをても回２次帰関数係で，数a2，b2 とのい係数いがいまずれすも正。ですなからお，そ，(の統計学（2013 年度秋学期） 第７回(2013. 11. 7) http://racco.2014年度春A. Asano, Kansai Univ. を最小にしたので ［最小二乗法］ b = σxy σ2x a = ¯y − b¯x σxy L = !n i=1 回帰方程式］あるいは ［回帰直線］
- 72. 値のうちで，この「全てのについての，ととの差の合ラメータ最をも小っ二とも乗適切法 (xi, yi) yi a + bxi なパラメータとします。差には正負があります，すなわち はx, y の共分散です。x, ¯y ¯は，前回も出てうにして得られる１次式y = a+bx をy のx は回帰直線の傾きで，これを回帰係数といい{yi − (a + bxi)}2 でにすなる。ようx, に¯a y と¯b はを決，定し前ます回（n もはデ出ータての組きの数たですも）。 のでようなa とb を求める方法は，おもに２つあります。ひとつは，(1) 式を，それらを両方とも0 とおいた方程式を解くものです。 次b そ式れぞれで偏微分する」とはy = a+bx を［，次のような意味です。微分と，関数傾きを求めることです。そこで，(y 式ののx を上1) L a, b のへ２つのの変回数の帰関方数，ちらこにれついをても回２次帰関数係で，数a2，b2 とのい係数いがいまずれすも正。ですなからお，そ，(の統計学（2013 年度秋学期） 第７回(2013. 11. 7) http://racco.2014年度春A. Asano, Kansai Univ. を最小にしたので ［最小二乗法］ b = σxy σ2x a = ¯y − b¯x σxy L = !n i=1 回帰方程式］あるいは ［回帰直線］
- 73. 値のうちで，この「全てのについての，ととの差の合ラメータ最をも小っ二とも乗適切法 (xi, yi) yi a + bxi なパラメータとします。差には正負があります，すなわち はx, y の共分散です。x, ¯y ¯は，前回も出てうにして得られる１次式y = a+bx をy のx は回帰直線の傾きで，これを回帰係数といい{yi − (a + bxi)}2 でにすなる。ようx, に¯a y と¯b はを決，定し前ます回（n もはデ出ータての組きの数たですも）。 のでようなa とb を求める方法は，おもに２つあります。ひとつは，(1) 式を，それらを両方とも0 とおいた方程式を解くものです。 次b そ式れぞれで偏微分する」とはy = a+bx を［，次のような意味です。微分と，関数傾きを求めることです。そこで，(y 式ののx を上1) L a, b のへ２つのの変回数の帰関方数，ちらこにれついをても回２次帰関数係で，数a2，b2 とのい係数いがいまずれすも正。ですなからお，そ，(の統計学（2013 年度秋学期） 第７回(2013. 11. 7) http://racco.2014年度春A. Asano, Kansai Univ. を最小にしたので ［最小二乗法］ b = σxy σ2x a = ¯y − b¯x σxy L = !n i=1 回帰方程式］あるいは ［回帰直線］
- 74. 値のうちで，この「全ての(xi, yi) についての，yi とa + bxi との差の合ラメータ最をも小っ二とも乗適切法 なパラメータとします。差には正負があります，すなわち L = {yi − (a + bxi)}2 でになるようにa とb を決定します（n はデータの組の数です）。 ようなa とb を求める方法は，おもに２つあります。ひとつは，(1) 式を，それらを両方とも0 とおいた方程式を解くものです。 b それぞれで偏微分する」とは，次のような意味です。微分と，関数傾きを求めることです。そこで，(1) 式のL をa, b の２つの変数の関数ちらについても２次関数で，a2，b2 の係数がいずれも正ですから，その統計学（2013 年度秋学期） 第７回(2013. 11. 7) http://racco.!n す。は，前回もi=1 x, ¯y ¯出てきたもので次式y = a+bx を［y のx 上への回帰方，これを回帰係数といいます。なお，(はx, y の共分散です回。帰x, ¯方程y ¯は式］，あ前る回いもは 出て［回帰直線］ うにして得られ［る１次式y = a+bx をy のx は回帰直線の傾きで，これを回帰係数といい2014年度春A. Asano, Kansai Univ. を最小にしたので ［最小二乗法］ b = σxy σ2x a = ¯y − b¯x σxy 回帰係数］
- 75. 散です。¯x, ¯y は，前回も出てきたもので，それ ところで １次式温（℃） y = a+bx をy よのx 上への回帰方程式， で，これを回帰係数といいます。なお，(2) 式 − y ¯= b(x − x) ¯2013. 11. 7) http://racco.mikeneko.jp/ 2/9 ペ8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 はの共分散です。は，前回も出てきたもので，そx) ¯x, y 23 x, ¯y ¯(3) 21 19 うにして得らhttp://れる17 １racco.次式mikeneko.y = !! ! a+jp/bx を2/9 y ペのーx ジ 上への回帰方程15 は回帰直線の傾きで，これを回! 13 帰係数といいます。なお，(2) 11 9 y 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! 7 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x y b = σxy σ2x a = ¯y − b¯x σxy り
- 76. 散です。¯x, ¯y は，前回も出てきたもので，それ ところで １次式温（℃） y = a+bx をy よのx 上への回帰方程式， で，これを回帰係数といいます。なお，(2) 式 − y ¯= b(x − x) ¯2013. 11. 7) http://racco.mikeneko.jp/ 2/9 ペ8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 はの共分散です。は，前回も出てきたもので，そx) ¯x, y 23 x, ¯y ¯(3) 21 19 うにして得らhttp://れる17 １racco.次式mikeneko.y = !! ! a+jp/bx を2/9 y ペのーx ジ 上への回帰方程15 は回帰直線の傾きで，これを回! 13 帰係数といいます。なお，(2) 11 9 y 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! 7 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x y b = σxy σ2x a = ¯y − b¯x σxy り ると y − ¯y = b(x − ¯x) 学期） 第７回(2013. 11. 7)
- 77. 散です。¯x, ¯y は，前回も出てきたもので，それ ところで １次式温（℃） y = a+bx をy よのx 上への回帰方程式， で，これを回帰係数といいます。なお，(2) 式 − y ¯= b(x − x) ¯2013. 11. 7) http://racco.mikeneko.jp/ 2/9 ペ8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 はの共分散です。は，前回も出てきたもので，そx) ¯x, y 23 x, ¯y ¯(3) 21 19 うにして得らhttp://れる17 １racco.次式mikeneko.y = !! ! a+jp/bx を2/9 y ペのーx ジ 上への回帰方程15 は回帰直線の傾きで，これを回! 13 帰係数といいます。なお，(2) 11 9 y 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! 7 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x y x b = σxy σ2x a = ¯y − b¯x σxy り ると y − ¯y = b(x − ¯x) 学期） 第７回(2013. 11. 7)
- 78. 散です。¯x, ¯y は，前回も出てきたもので，それ ところで １次式温（℃） y = a+bx をy よのx 上への回帰方程式， で，これを回帰係数といいます。なお，(2) 式 − y ¯= b(x − x) ¯2013. 11. 7) http://racco.mikeneko.jp/ 2/9 ペ8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 はの共分散です。は，前回も出てきたもので，そx) ¯x, y 23 x, ¯y ¯(3) 21 19 うにして得らhttp://れる17 １racco.次式mikeneko.y = !! ! a+jp/bx を2/9 y ペのーx ジ 上への回帰方程15 は回帰直線の傾きで，これを回! 13 帰係数といいます。なお，(2) 11 9 y 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! 7 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x y x y b = σxy σ2x a = ¯y − b¯x σxy り ると y − ¯y = b(x − ¯x) 学期） 第７回(2013. 11. 7)
- 79. 散です。¯x, ¯y は，前回も出てきたもので，それ ところで １次式温（℃） y = a+bx をy よのx 上への回帰方程式， で，これを回帰係数といいます。なお，(2) 式 − y ¯= b(x − x) ¯2013. 11. 7) http://racco.mikeneko.jp/ 2/9 ペ8.0 9.6 11.0 11.9 12.5 12.9 13.2 15.3 13.1 11.4 16.0 14.9 16.2 14.4 15.0 16.3 はの共分散です。は，前回も出てきたもので，そx) ¯x, y 23 x, ¯y ¯(3) 21 19 うにして得らhttp://れる17 １racco.次式mikeneko.y = !! ! a+jp/bx を2/9 y ペのーx ジ 上への回帰方程15 は回帰直線の傾きで，これを回! 13 帰係数といいます。なお，(2) 11 9 y 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! ! ! ! 7 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x y x y b = σxy σ2x a = ¯y − b¯x σxy り ると y − y ¯= b(x − x) ¯学期） 第７回(2013. 11. 7) 回帰直線は (x, y)を通る
- 80. A. Asano, Kansai Univ.
- 81. A. Asano, Kansai Univ. 決定係数
- 82. 残差 a,bが求められて，回帰直線が確定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y
- 83. 残差 a,bが求められて，回帰直線が確定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y xi
- 84. 残差 a,bが求められて，回帰直線が確定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y xi
- 85. 残差 a,bが求められて，回帰直線が確定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y xi
- 86. 残差 a,bが求められて，回帰直線が確定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y xi yi
- 87. 残差 a,bが求められて，回帰直線が確定 ! ! ! ! ! !! 23 21 19 17 15 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 y xi yi
- 88. 残差 a,bが求められて，回帰直線が確定 ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi
- 89. 残差 a,bが求められて，回帰直線が確定 ! ! ! ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi xi に対する，回帰直線によるyの推定値
- 90. 残差 a,bが求められて，回帰直線が確定 に対する，回帰直線によるyの推定値 xy が1 に近づくほどyi とˆ yi の差は小さxi 応するy の値，すなわちa+bxi をˆ yi = a+bxi ととyi ˆ の差を残差といい，di で表します。残差とはしたとき，予測に!! よ! って表現できなかった部分を表! （前回の講義参照）! ! と! すると 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi = ! (yi − ˆ yi)2 = (1 − r2 xy) ! (yi − ¯y)2 つまり，r2
- 91. 残差 a,bが求められて，回帰直線が確定 に対する，回帰直線によるyの推定値 xy が1 に近づくほどyi とˆ yi の差は小さxi 応するy の値，すなわちa+bxi をˆ yi = a+bxi ととyi ˆ の差を残差といい，di で表します。残差とはしたとき，予測に!! よ! って表現できなかった部分を表! （前回の講義参照）! ! と! すると 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi = ! (yi − ˆ yi)2 = (1 − r2 xy) ! (yi − ¯y)2 つまり，r2
- 92. りますから，散布図上で回帰直線は「傾きが定係数 各xi に対して，回帰直線上で対応するy の値，のとき，実際のデータにおけるyi とˆ yi の差を残値を使って，yi の値をˆ yi と予測したとき，予測ついて，rxy をx とy の相関係数（前回の講義参! (yi − ¯y)2 な残差 a,bが求められて，回帰直線が確定 傾きがb で点(¯x, ¯ y) を通る直線」になります。 に対する，回帰直線によるyの推定値 xy が1 に近づくほどyi とˆ yi の差は小さxi 応するy の値，すなわちa+bxi をˆ yi = a+bxi ととˆ yi の差を残差といい，di で表します。残差とはしたとき，予測によって表現できなかった部分を表（前回の講義参照）とすると の値，すなわちa+! ! bxi ! をyi ˆ = a+bxi と表すことの差を残差といい，di で表します。残差は回帰，予測によって表現できなかった部分を表していの講義参照）とすると ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi それでも残っている， 推定値と実際の差 = ! (yi − ˆ yi)2 = (1 − r2 xy) ! (yi − ¯y)2 つまり，r2 yi − ˆ yi)2 = (1 − r2 xy) ! d2i = ! (yi − ˆ yi)
- 93. りますから，散布図上で回帰直線は「傾きが定係数 各xi に対して，回帰直線上で対応するy の値，のとき，実際のデータにおけるyi とˆ yi の差を残値を使って，yi の値をˆ yi と予測したとき，予測ついて，rxy をx とy の相関係数（前回の講義参! (yi − ¯y)2 な残差 a,bが求められて，回帰直線が確定 傾きがb で点(¯x, ¯ y) を通る直線」になります。 に対する，回帰直線によるyの推定値 xy が1 に近づくほどyi とˆ yi の差は小さxi 応するy の値，すなわちa+bxi をˆ yi = a+bxi ととˆ yi の差を残差といい，di で表します。残差とはしたとき，予測によって表現できなかった部分を表（前回の講義参照）とすると の値，すなわちa+! ! bxi ! をyi ˆ = a+bxi と表すことの差を残差といい，di で表します。残差は回帰，予測によって表現できなかった部分を表していの講義参照）とすると ! ! !! 23 21 19 17 y 15 a + bxi 13 11 9 7 2014年度春A. Asano, Kansai Univ. ! ! ! ! ! ! ! ! ! ! ! ! 5 xi 25 27 29 31 33 35 37 39 41 43 45 気温（℃） 緯度（度） x 図1: 散布図：緯度と気温の関係 yi それでも残っている， 推定値と実際の差 = ! (yi − ˆ yi)2 = (1 − r2 xy) ! ［残差］という (yi − yi)ˆ (yi − ¯y)2 つまり，r2 yi − ˆ yi)2 = (1 − r2 xy) ! d2i = ! 図2: 偏微分と関数の最小値 図上で回帰直線は「傾きがb で点(¯x, ¯ y) を通る直線」直線上で対応するy の値，すなわちa+bxi をˆ yi = a+タにおけるyi とˆ yi の差を残差といい，di で表します。をˆ yi と予測したとき，予測によって表現できなかったの相関係数（前回の講義参照）とすると
- 94. 残差と決定係数 回帰方程式を使って yi を予測したときの， 予測によって表現できなかった部分 2014年度春A. Asano, Kansai Univ.
- 95. 残差と決定係数 回帰方程式を使って yi を予測したときの， 予測によって表現できなかった部分 残差について（付録３） 2014年度春A. Asano, Kansai Univ.
- 96. 残差と決定係数 回帰方程式を使って yi を予測したときの， 予測によって表現できなかった部分 ，回帰直線上で対応するy の値，すなわちa+bxi をのデータにおけるyi とˆ yi の差を残差といい，di で表しyi 対応するy の値，すなわちa+bxi をˆ yi = a+bxi と表すけるyi とˆ yi の差を残差といい，di で表します。残差とは，予測したとき，予測によって表現できなかった部分を表し係数（前回の講義参照）とすると ! xy を決定係数とよびま味は，次のように説明できます。(4) 式を少し変形しでの値をyi ˆ と予測したとき，予測によって表現できなをx とy の相関係数（前回の講義参照）とすると 残差について（付録３） ! d2i (yi − yi)ˆ 2 = = (1 − r2 (yi − y)¯2 ３）。つまり，r2 ! ! (yi − ˆ yi)2 = (1 − r2 d2i = ! xy が1 に近づくほどyi とˆ yi の差は小さくなすなわち，最小二乗法で求めたモデルによって，y がx かこのことから，r2 2014年度春A. Asano, Kansai Univ. xy) ! xy) (yi （導出は付録３）。つまり，r2 がに近づくほどとxy 1 yi となります。すなわち，最小二乗法で求めたモデルにになります。このを決xy こと定か係ら数，とr2 よびます。 うに説明できます。(4) 式を少し変形して " "
- 97. 残差と決定係数 回帰方程式を使って yi を予測したときの， 予測によって表現できなかった部分 ，回帰直線上で対応するy の値，すなわちa+bxi をのデータにおけるyi とˆ yi の差を残差といい，di で表しyi 対応するy の値，すなわちa+bxi をˆ yi = a+bxi と表すけるyi とˆ yi の差を残差といい，di で表します。残差とは，予測したとき，予測によって表現できなかった部分を表し係数（前回の講義参照）とすると ! xy を決定係数とよびま味は，次のように説明できます。(4) 式を少し変形しでの値をyi ˆ と予測したとき，予測によって表現できなをx とy の相関係数（前回の講義参照）とすると 残差について（付録３） ! d2i (yi − yi)ˆ 2 = = (1 − r2 (yi − y)¯2 ３）。つまり，r2 ! ! (yi − ˆ yi)2 = (1 − r2 d2i = ! 残差 xy が1 に近づくほどyi とˆ yi の差は小さくなすなわち，最小二乗法で求めたモデルによって，y がx かこのことから，r2 2014年度春A. Asano, Kansai Univ. xy) ! xy) (yi （導出は付録３）。つまり，r2 がに近づくほどとxy 1 yi となります。すなわち，最小二乗法で求めたモデルにになります。このを決xy こと定か係ら数，とr2 よびます。 うに説明できます。(4) 式を少し変形して " "
- 98. 残差と決定係数 回帰方程式を使って yi を予測したときの， 予測によって表現できなかった部分 ，回帰直線上で対応するy の値，すなわちa+bxi をのデータにおけるyi とˆ yi の差を残差といい，di で表しyi 対応するy の値，すなわちa+bxi をˆ yi = a+bxi と表すけるyi とˆ yi の差を残差といい，di で表します。残差とは，予測したとき，予測によって表現できなかった部分を表し係数（前回の講義参照）とすると ! xy を決定係数とよびま味は，次のように説明できます。(4) 式を少し変形しでの値をyi ˆ と予測したとき，予測によって表現できなをx とy の相関係数（前回の講義参照）とすると 残差について（付録３） ! d2i (yi − yi)ˆ 2 = = (1 − r2 (yi − y)¯2 ３）。つまり，r2 ! ! (yi − ˆ yi)2 = (1 − r2 d2i = ! 残差相関 がに近づxy 1 係数 くほどyi とyi ˆ の差は小さくなすなわち，最小二乗法で求めたモデルによって，y がx かこのことから，r2 2014年度春A. Asano, Kansai Univ. xy) ! xy) (yi （導出は付録３）。つまり，r2 がに近づくほどとxy 1 yi となります。すなわち，最小二乗法で求めたモデルにになります。このを決xy こと定か係ら数，とr2 よびます。 うに説明できます。(4) 式を少し変形して " "
- 99. 残差と決定係数 回帰方程式を使って yi を予測したときの， 予測によって表現できなかった部分 ，回帰直線上で対応するy の値，すなわちa+bxi をのデータにおけるyi とˆ yi の差を残差といい，di で表しyi 対応するy の値，すなわちa+bxi をˆ yi = a+bxi と表すけるyi とˆ yi の差を残差といい，di で表します。残差とは，予測したとき，予測によって表現できなかった部分を表し係数（前回の講義参照）とすると ! xy を決定係数とよびま味は，次のように説明できます。(4) 式を少し変形しでの値をyi ˆ と予測したとき，予測によって表現できなをx とy の相関係数（前回の講義参照）とすると 残差について（付録３） ! d2i (yi − yi)ˆ 2 = = (1 − r2 (yi − y)¯2 ３）。つまり，r2 ! ! (yi − ˆ yi)2 = (1 − r2 d2i = ! 残差相関 がに近づxy 1 係数 くほどyi とyi ˆ の差は小さくなすなわち，最小二乗法で求めたモデルによって，y がx かこのことから，r2 2014年度春A. Asano, Kansai Univ. xy) ! xy) (yi （導出は付録３）。つまり，r2 がに近づくほどとxy 1 yi となります。すなわち，最小二乗法で求めたモデルにになります。このを決xy こと定か係ら数，とr2 よびます。 うに説明できます。(4) 式を少し変形して " "
- 100. 残差と決定係数 回帰方程式を使って yi を予測したときの， 予測によって表現できなかった部分 ，回帰直線上で対応するy の値，すなわちa+bxi をのデータにおけるyi とˆ yi の差を残差といい，di で表しyi 対応するy の値，すなわちa+bxi をˆ yi = a+bxi と表すけるyi とˆ yi の差を残差といい，di で表します。残差とは，予測したとき，予測によって表現できなかった部分を表し係数（前回の講義参照）とすると ! xy を決定係数とよびま味は，次のように説明できます。(4) 式を少し変形しでの値をyi ˆ と予測したとき，予測によって表現できなをx とy の相関係数（前回の講義参照）とすると 残差について（付録３） ! d2i (yi − yi)ˆ 2 = = (1 − r2 (yi − y)¯2 ３）。つまり，r2 ! ! (yi − ˆ yi)2 = (1 − r2 d2i = ! 残差相関 決定 係数 がに近づxy 1 係数 くほどyi とyi ˆ の差は小さくなすなわち，最小二乗法で求めたモデルによって，y がx かこのことから，r2 2014年度春A. Asano, Kansai Univ. xy) ! xy) (yi （導出は付録３）。つまり，r2 がに近づくほどとxy 1 yi となります。すなわち，最小二乗法で求めたモデルにになります。このを決xy こと定か係ら数，とr2 よびます。 うに説明できます。(4) 式を少し変形して " "
- 101. 残差と決定係数 回帰方程式を使って yi を予測したときの， 予測によって表現できなかった部分 ，回帰直線上で対応するy の値，すなわちa+bxi をのデータにおけるyi とˆ yi の差を残差といい，di で表しyi 対応するy の値，すなわちa+bxi をˆ yi = a+bxi と表すけるyi とˆ yi の差を残差といい，di で表します。残差とは，予測したとき，予測によって表現できなかった部分を表し係数（前回の講義参照）とすると ! xy を決定係数とよびま味は，次のように説明できます。(4) 式を少し変形しでの値をyi ˆ と予測したとき，予測によって表現できなをx とy の相関係数（前回の講義参照）とすると 残差について（付録３） ! d2i (yi − yi)ˆ 2 = = (1 − r2 (yi − y)¯2 ３）。つまり，r2 ! ! (yi − ˆ yi)2 = (1 − r2 d2i = ! 残差相関 決定 係数 がに近づxy 1 係数 くほどyi とyi ˆ の差は小さくなすなわち，最小二乗法で求めたモデルによって，y がx かこのことから，r2 決定係数が１に近づくほど 残差の２乗和が0に近づく 2014年度春A. Asano, Kansai Univ. xy) ! xy) (yi （導出は付録３）。つまり，r2 がに近づくほどとxy 1 yi となります。すなわち，最小二乗法で求めたモデルにになります。このを決xy こと定か係ら数，とr2 よびます。 うに説明できます。(4) 式を少し変形して " "
- 102. ーとタにおけるとの差をとyi ˆ 決の差定を残yi 差値をyi ˆ と予測し係とyi いˆ たと数い，のdi で残意表差しき，予測によ味 まいすい。，残di 差でと表は，し回ま帰す方。程残式差ととは，回帰方程xi って表現できなかった部分を表していますとxy) は「もともとのy のばらつき具合に対する，線形モデルからのばらつきyi 測したとき，予測によって表現できなかった部分を表しています。残差 数（y 前の回相の関講係義数参（照前）回とすのる講と 義参照）とすると ! d2i (yi − yi)ˆ 2 = = (1 − r2 ! ! より (yi − ˆ yi)2 = (1 − r2 = ! xy) (yi − ¯y)2 (4) 。つまり，r2 xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy = 1の わち，最小二乗法で求めたモデルによって，y がx から完全に正確に ことから，r2 xy を決定係数とよびます。 2i 説明できます。(4) 式を少し変形して " d− r2 xy = " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n 母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２乗の平 ます。一方，分子は，残差の２乗の平均になっています。残差は「線 たUniv. り」ですから，分子は「線形モデルによる予測結果を中心とするば 3）Kansai 。 Asano, ともA. とのy のばらつき具合に対する，線形モデルからのばらつき具合の 2014年度春ます。線形単回帰では，「データが散布図上にばらついている」という xy) ! (yi − ¯y)2 出は付録３）。つまり，r2 2i xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy なります。すなわち，最小二乗法で求めたモデルによって，y がx から完全になります。このことから，r2 xy を決定係数とよびます。 は，次のように説明できます。(4) 式を少し変形して 1 r2 xy = " d2i " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n (5) 式の右端の分母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２分散を表しています。一方，分子は，残差の２乗の平均になっています。残差測結果からの隔たり」ですから，分子は「線形モデルによる予測結果を中心としています（図3）。 1−r2
- 103. ー，タr2 におけがるyi 1 とにyi ˆ の近差をづ残く差とほいいど，di yi で表としまyi すˆ 。の残差差とはは，回小帰さxy 方程最値小をyi ˆ 二と予乗測し法たでとき，予と求め測にたよっモてデ表現ルできになかよっった部て分を，表してがいますy x ら，r2 yi − y)¯端の分母は，y 全体の平均からの各yi のしています。一方，分子は，残差の２乗らの隔たり」ですから，分子は「線形モ。とすyi ˆ 決のな差定をわ残差係ちとい数，い，のdi 最で意表小し味 ま二す。乗残差法とはで，回帰求方程め式とたxi モデル。このことから，r2 xy) は「もともとのy のばらつき具合に対する，線形モデルからのばらつきyi 測したとき，予測によって表現できなかった部分を表しています。残差 数（前回講義参照）とすると 2i y の相関係数（前回の講義参照）とすると ! ! を決! 定係! 数とxy よびをま決す定。 係数とよび= (yi xy − yi)ˆ d2 = = (1 − (yi r2 xy) − yi)ˆ 2 (yi = − (1 y)¯− 2 r2 より (4) よき。つうまり，にr2 xy 説が1 明に近でづくほきどyi まとすyi ˆ の差。は小(さ4) くな式り，をr2 = 少1の xy し変形わちま，最す小。二乗(法4) で求式めたをモデ少ルにしよっ変て，形しy がx かて ら完全に正確に ことから" ，r2 を決定係数とよびますxy " 。 d2i 1 説明できます。(4) 式を少し変形して − r2 " " (yi − r2 − d2i 2 xy = y)¯xy = " (yi − ¯y)2 = " " d2i d2i /n (yi − ¯y)2 = (yi − ¯y)2/n " /n (yi − ¯y)2/n " d2i " /(母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２乗の平 ます。一方，分子は，残差の２乗の平均になっています。残差は「線 たり」ですから，分子は「線形モデルによる予測結果を中心とするば 3）。 ともとのy のばらつき具合に対する，線形モデルからのばらつき具合の ます。線形単回帰では，「データが散布図上にばらついている」という 全体の平均からの各yi のへだたり，すなわUniv. 一Kansai 方，分子は，残差の２乗の平均になっていでAsano, すから，分子は「線形モデルによる予測結A. 2014年度春xy) ! (yi − ¯y)2 出は付録３）。つまり，r2 2i xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy なります。すなわち，最小二乗法で求めたモデルによって，y がx から完全になります。このことから，r2 xy を決定係数とよびます。 は，次のように説明できます。(4) 式を少し変形して 1 r2 xy = " d2i " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n (5) " d2i 式右端の分母，y 全体の平均からの各yi のへだたり，すなわち偏差の２分散を表しています。一方，分子は，残差の２乗の平均になっています。残差測結果からの隔たり」ですから，分子は「線形モデルによる予測結果を中心としています（図3）。 1−r2
- 104. ー，タr2 におけがるyi 1 とにyi ˆ の近差をづ残く差とほいいど，di yi で表としまyi すˆ 。の残差差とはは，回小帰さxy 方程最値小をyi ˆ 二と予乗測し法たでとき，予と求め測にたよっモてデ表現ルできになかよっった部て分を，表してがいますy x ら，r2 yi − y)¯端の分母は，y 全体の平均からの各yi のしています。一方，分子は，残差の２乗らの隔たり」ですから，分子は「線形モ。とすyi ˆ 決のな差定をわ残差係ちとい数，い，のdi 最で意表小し味 ま二す。乗残差法とはで，回帰求方程め式とたxi モデル。このことから，r2 xy) は「もともとのy のばらつき具合に対する，線形モデルからのばらつきyi 測したとき，予測によって表現できなかった部分を表しています。残差 数（前回講義参照）とすると 2i y の相関係数（前回の講義参照）とすると ! ! を決! 定係! 数とxy よびをま決す定。 係数とよび= (yi xy − yi)ˆ d2 = = (1 − (yi r2 xy) − yi)ˆ 2 (yi = − (1 y)¯− 2 r2 より (4) よき。つうまり，にr2 xy 説が1 明に近でづくほきどyi まとすyi ˆ の差。は小(さ4) くな式り，をr2 = 少1の xy し変形わちま，最す小。二乗(法4) で求式めたをモデ少ルにしよっ変て，形しy がx かて ら完全に正確に ことから" ，r2 を決定係数とよびますxy " 。 d2i 1 説明できます。(4) 式を少し変形して − r2 " (yi − ¯y)2 xy = 決全体の平均からの各yi のへだたり，すなわ一方，分子は，残差の２乗の平均になっていですから，分子は「線形モデルによる予測結− r2 " d2i xy = " (yi − ¯y)2 = " " d2i d2i /n (yi − ¯y)2 = (yi − ¯y)2/n " /n (yi − ¯y)2/n " d2i " /(定 係数 母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２乗の平 ます。一方，分子は，残差の２乗の平均になっています。残差は「線 たUniv. り」ですから，分子は「線形モデルによる予測結果を中心とするば 3）Kansai 。 Asano, ともA. とのy のばらつき具合に対する，線形モデルからのばらつき具合の 2014年度春ます。線形単回帰では，「データが散布図上にばらついている」という xy) ! (yi − ¯y)2 出は付録３）。つまり，r2 2i xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy なります。すなわち，最小二乗法で求めたモデルによって，y がx から完全になります。このことから，r2 xy を決定係数とよびます。 は，次のように説明できます。(4) 式を少し変形して 1 r2 xy = " d2i " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n (5) " d2i 式右端の分母，y 全体の平均からの各yi のへだたり，すなわち偏差の２分散を表しています。一方，分子は，残差の２乗の平均になっています。残差測結果からの隔たり」ですから，分子は「線形モデルによる予測結果を中心としています（図3）。 1−r2
- 105. ー，タr2 におけがるyi 1 とにyi ˆ の近差をづ残く差とほいいど，di yi で表としまyi すˆ 。の残差差とはは，回小帰さxy 方程最値小をyi ˆ 二と予乗測し法たでとき，予と求め測にたよっモてデ表現ルできになかよっった部て分を，表してがいますy x ら，r2 yi − y)¯端の分母は，y 全体の平均からの各yi のしています。一方，分子は，残差の２乗らの隔たり」ですから，分子は「線形モ。とすyi ˆ 決のな差定をわ残差係ちとい数，い，のdi 最で意表小し味 ま二す。乗残差法とはで，回帰求方程め式とたxi モデル。このことから，r2 xy) は「もともとのy のばらつき具合に対する，線形モデルからのばらつきyi 測したとき，予測によって表現できなかった部分を表しています。残差 数（前回講義参照）とすると 2i y の相関係数（前回の講義参照）とすると ! ! を決! 定係! 数とxy よびをま決す定。 係数とよび= (yi xy − yi)ˆ d2 = = (1 − (yi r2 xy) − yi)ˆ 2 (yi = − (1 y)¯− 2 r2 より (4) よき。つうまり，にr2 xy 説が1 明に近でづくほきどyi まとすyi ˆ の差。は小(さ4) くな式り，をr2 = 少1の xy し変形わちま，最す小。二乗(法4) で求式めたをモデ少ルにしよっ変て，形しy がx かて ら完全に正確に ことから" ，r2 を決定係数とよびますxy " 。 d2i 1 説明できます。(4) 式を少し変形して − r2 " (yi − ¯y)2 xy = 決全体の平均からの各yi のへだたり，すなわ一方，分子は，残差の２乗の平均になっていですから，分子は「線形モデルによる予測結− r2 " d2i xy = " (yi − ¯y)2 = " " d2i d2i /n (yi − ¯y)2 = (yi − ¯y)2/n " /n (yi − ¯y)2/n " d2i " /(定 係数 母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２乗の平 ます。一方，分子は，残差の２乗の平均になっています。残差は「線 たUniv. り」ですから，分子は「線形モデルによる予測結果を中心とするば 3）Kansai 。 Asano, ともA. とのy のばらつき具合に対する，線形モデルからのばらつき具合の 2014年度春ます。線形単回帰では，「データが散布図上にばらついている」という xy) ! (yi − ¯y)2 出は付録３）。つまり，r2 2i xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy なります。すなわち，最小二乗法で求めたモデルによって，y がx から完全になります。このことから，r2 xy を決定係数とよびます。 は，次のように説明できます。(4) 式を少し変形して 1 r2 xy = " d2i " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n (5) " d2i 式右端の分母，y 全体の平均からの各yi のへだたり，すなわち偏差の２分散を表しています。一方，分子は，残差の２乗の平均になっています。残差測結果からの隔たり」ですから，分子は「線形モデルによる予測結果を中心としています（図3）。 1−r2
- 106. ー，タr2 におけがるyi 1 とにyi ˆ の近差をづ残く差とほいいど，di yi で表としまyi すˆ 。の残差差とはは，回小帰さxy 方程最値小をyi ˆ 二と予乗測し法たでとき，予と求め測にたよっモてデ表現ルできになかよっった部て分を，表してがいますy x ら，r2 yi − y)¯端の分母は，y 全体の平均からの各yi のしています。一方，分子は，残差の２乗らの隔たり」ですから，分子は「線形モ。とすyi ˆ 決のな差定をわ残差係ちとい数，い，のdi 最で意表小し味 ま二す。乗残差法とはで，回帰求方程め式とたxi モデル。このことから，r2 xy) は「もともとのy のばらつき具合に対する，線形モデルからのばらつきyi 測したとき，予測によって表現できなかった部分を表しています。残差 数（前回講義参照）とすると 2i y の相関係数（前回の講義参照）とすると ! ! を決! 定係! 数とよびをま決xy す定。 係数とよび= (yi xy − yi)ˆ d2 = = (1 − (yi r2 xy) − yi)ˆ 2 (yi = − (1 y)¯− 2 r2 より (4) よき。つまうまりす，にr2 。説が1 明に近で式づくをほどxy き少yi まとしすyi ˆ の変差。は形小(しさ(4) 残差の4) くて な式り，をr2 の ２乗のxy = 少1し変形わち，最小二乗法で求めたモデルによって，y がx から完全に平正確均 に ことから" ，r2 を決定係数とよびますxy " 。 d2i 1 説明できます。(4) 式を少し変形して − r2 " (yi − ¯y)2 xy = 決全体の平均からの各yi のへだたり，すなわ一方，分子は，残差の２乗の平均になっていですから，分子は「線形モデルによる予測結− r2 " d2i xy = " (yi − ¯y)2 = " " d2i d2i /n (yi − ¯y)2 = (yi − ¯y)2/n " /n (yi − ¯y)2/n " d2i " /(定 係数 母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２乗の平 ます。一方，分子は，残差の２乗の平均になっています。残差は「線 たUniv. り」ですから，分子は「線形モデルによる予測結果を中心とするば 3）Kansai 。 Asano, ともA. とのy のばらつき具合に対する，線形モデルからのばらつき具合の 2014年度春ます。線形単回帰では，「データが散布図上にばらついている」という xy) ! (yi − ¯y)2 出は付録３）。つまり，r2 2i xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy なります。すなわち，最小二乗法で求めたモデルによって，y がx から完全になります。このことから，r2 xy を決定係数とよびます。 は，次のように説明できます。(4) 式を少し変形して 1 r2 xy = " d2i " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n (5) " d2i 式右端の分母，y 全体の平均からの各yi のへだたり，すなわち偏差の２分散を表しています。一方，分子は，残差の２乗の平均になっています。残差測結果からの隔たり」ですから，分子は「線形モデルによる予測結果を中心としています（図3）。 1−r2
- 107. ー，タr2 におけがるyi 1 とにyi ˆ の近差をづ残く差とほいいど，di yi で表としまyi すˆ 。の残差差とはは，回小帰さxy 方程最値小をyi ˆ 二と予乗測し法たでとき，予と求め測にたよっモてデ表現ルできになかよっった部て分を，表してがいますy x ら，r2 yi − y)¯端の分母は，y 全体の平均からの各yi のしています。一方，分子は，残差の２乗らの隔たり」ですから，分子は「線形モ。とすyi ˆ 決のな差定をわ残差係ちとい数，い，のdi 最で意表小し味 ま二す。乗残差法とはで，回帰求方程め式とたxi モデル。このことから，r2 xy) は「もともとのy のばらつき具合に対する，線形モデルからのばらつきyi 測したとき，予測によって表現できなかった部分を表しています。残差 数（前回講義参照）とすると 2i y の相関係数（前回の講義参照）とすると ! ! を決! 定係! 数とよびをま決xy す定。 係数とよび= (yi xy − yi)ˆ d2 = = (1 − (yi r2 xy) − yi)ˆ 2 (yi = − (1 y)¯− 2 r2 より (4) よき。つまうまりす，にr2 。説が1 明に近で式づくをほどxy き少yi まとしすyi ˆ の変差。は形小(しさ(4) 残差の4) くて な式り，をr2 の ２乗のxy = 少1し変形わち，最小二乗法で求めたモデルによって，y がx から完全に平正確均 に ことから" ，r2 を決定係数とよびますxy " 。 d2i 1 説明できます。(4) 式を少し変形して − r2 " (yi − ¯y)2 xy = 決全体の平均からの各yi のへだたり，すなわ一方，分子は，残差の２乗の平均になっていですから，分子は「線形モデルによる予測結− r2 " d2i xy = " (yi − ¯y)2 = " " d2i d2i /n (yi − ¯y)2 = (yi − ¯y)2/n " /n (yi − ¯y)2/n " d2i " /(定 係数 母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２乗の平 ます。一方，分子は，残差の２乗の平均になっています。残差は「線 たUniv. り」ですから，分子は「線形モデルによる予測結果を中心とするば 3）Kansai 。 Asano, ともA. とのy のばらつき具合に対する，線形モデルからのばらつき具合の 2014年度春ます。線形単回帰では，「データが散布図上にばらついている」という xy) ! (yi − ¯y)2 出は付録３）。つまり，r2 2i xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy なります。すなわち，最小二乗法で求めたモデルによって，y がx から完全になります。このことから，r2 xy を決定係数とよびます。 は，次のように説明できます。(4) 式を少し変形して 1 r2 xy = " d2i " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n (5) " d2i 式右端の分母，y 全体の平均からの各yi のへだたり，すなわち偏差の２分散を表しています。一方，分子は，残差の２乗の平均になっています。残差測結果からの隔たり」ですから，分子は「線形モデルによる予測結果を中心としています（図3）。 1−r2
- 108. ー，タr2 におけがるyi 1 とにyi ˆ の近差をづ残く差とほいいど，di yi で表としまyi すˆ 。の残差差とはは，回小帰さxy 方程最値小をyi ˆ 二と予乗測し法たでとき，予と求め測にたよっモてデ表現ルできになかよっった部て分を，表してがいますy x ら，r2 yi − y)¯端の分母は，y 全体の平均からの各yi のしています。一方，分子は，残差の２乗らの隔たり」ですから，分子は「線形モ。とすyi ˆ 決のな差定をわ残差係ちとい数，い，のdi 最で意表小し味 ま二す。乗残差法とはで，回帰求方程め式とたxi モデル。このことから，r2 xy) は「もともとのy のばらつき具合に対する，線形モデルからのばらつきyi 測したとき，予測によって表現できなかった部分を表しています。残差 数（前回講義参照）とすると 2i y の相関係数（前回の講義参照）とすると ! ! を決! 定係! 数とよびをま決xy す定。 係数とよび= (yi xy − yi)ˆ d2 = = (1 − (yi r2 xy) − yi)ˆ 2 (yi = − (1 y)¯− 2 r2 より (4) よき。つまうまりす，にr2 。説が1 明に近で式づくをほどxy き少yi まとしすyi ˆ の変差。は形小(しさ(4) 残差の4) くて な式り，をr2 の ２乗のxy = 少1し変形わち，最小二乗法で求めたモデルによって，y がx から完全に平正確均 に ことから" ，r2 を決定係数とよびますxy " 。 d2i 1 説明できます。(4) 式を少し変形して − r2 " " (yi − r2 − d2i 2 xy = y)¯xy = " (yi − ¯y)2 = " " d2i d2i /n (yi − ¯y)2 = (yi − ¯y)2/n " /n (yi − ¯y)2/n " d2i " /(の偏差の２乗の平均 決定 係数 母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２乗の平 ます。一方，分子は，残差の２乗の平均になっています。残差は「線 たり」ですから，分子は「線形モデルによる予測結果を中心とするば 3）。 ともとのy のばらつき具合に対する，線形モデルからのばらつき具合の ます。線形単回帰では，「データが散布図上にばらついている」という 全体の平均からのy各yi のへだたり，すなわUniv. 一Kansai 方，分子は，残差の２乗の平均になっていでAsano, すから，分子は「線形モデルによる予測結A. 2014年度春xy) ! (yi − ¯y)2 出は付録３）。つまり，r2 2i xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy なります。すなわち，最小二乗法で求めたモデルによって，y がx から完全になります。このことから，r2 xy を決定係数とよびます。 は，次のように説明できます。(4) 式を少し変形して 1 r2 xy = " d2i " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n (5) " d2i 式右端の分母，y 全体の平均からの各yi のへだたり，すなわち偏差の２分散を表しています。一方，分子は，残差の２乗の平均になっています。残差測結果からの隔たり」ですから，分子は「線形モデルによる予測結果を中心としています（図3）。 1−r2
- 109. ー，タr2 におけがるyi 1 とにyi ˆ の近差をづ残く差とほいいど，di yi で表としまyi すˆ 。の残差差とはは，回小帰さxy 方程最値小をyi ˆ 二と予乗測し法たでとき，予と求め測にたよっモてデ表現ルできになかよっった部て分を，表してがいますy x ら，r2 yi − y)¯端の分母は，y 全体の平均からの各yi のしています。一方，分子は，残差の２乗らの隔たり」ですから，分子は「線形モ。とすyi ˆ 決のな差定をわ残差係ちとい数，い，のdi 最で意表小し味 ま二す。乗残差法とはで，回帰求方程め式とたxi モデル。このことから，r2 xy) は「もともとのy のばらつき具合に対する，線形モデルからのばらつきyi 測したとき，予測によって表現できなかった部分を表しています。残差 数（前回講義参照）とすると 2i y の相関係数（前回の講義参照）とすると ! ! を決! 定係! 数とよびをま決xy す定。 係数とよび= (yi xy − yi)ˆ d2 = = (1 − (yi r2 xy) − yi)ˆ 2 (yi = − (1 y)¯− 2 r2 より (4) よき。つまうまりす，にr2 。説が1 明に近で式づくをほどxy き少yi まとしすyi ˆ の変差。は形小(しさ(4) 残差の4) くて な式り，をr2 の ２乗のxy = 少1し変形わち，最小二乗法で求めたモデルによって，y がx から完全に平正確均 に ことから" ，r2 を決定係数とよびますxy " 。 d2i 1 説明できます。(4) 式を少し変形して − r2 " " (yi − r2 − d2i 2 xy = y)¯xy = " (yi − ¯y)2 = " " d2i d2i /n (yi − ¯y)2 = (yi − ¯y)2/n " /n (yi − ¯y)2/n " d2i " /(の偏差の２乗の平均 決定 係数 母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２乗の平 ます。一方，分子は，残差の２乗の平均になっています。残差は「線 たり」ですから，分子は「線形モデルによる予測結果を中心とするば 3）。 ともとのy のばらつき具合に対する，線形モデルからのばらつき具合の ます。線形単回帰では，「データが散布図上にばらついている」という 全体の平均からのy各yi のへだたり，すなわUniv. 一Kansai 方，分子は，残差の２乗の平均になっていでAsano, すから，分子は「線形モデルによる予測結A. 2014年度春xy) ! (yi − ¯y)2 出は付録３）。つまり，r2 2i xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy なります。すなわち，最小二乗法で求めたモデルによって，y がx から完全になります。このことから，r2 xy を決定係数とよびます。 は，次のように説明できます。(4) 式を少し変形して 1 r2 xy = " d2i " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n (5) " d2i 式右端の分母，y 全体の平均からの各yi のへだたり，すなわち偏差の２分散を表しています。一方，分子は，残差の２乗の平均になっています。残差測結果からの隔たり」ですから，分子は「線形モデルによる予測結果を中心としています（図3）。 1−r2
- 110. ー，タr2 におけがるyi 1 とにyi ˆ の近差をづ残く差とほいいど，di yi で表としまyi すˆ 。の残差差とはは，回小帰さxy 方程最値小をyi ˆ 二と予乗測し法たでとき，予と求め測にたよっモてデ表現ルできになかよっった部て分を，表してがいますy x ら，r2 yi − y)¯端の分母は，y 全体の平均からの各yi のしています。一方，分子は，残差の２乗らの隔たり」ですから，分子は「線形モ。とすyi ˆ 決のな差定をわ残差係ちとい数，い，のdi 最で意表小し味 ま二す。乗残差法とはで，回帰求方程め式とたxi モデル。このことから，r2 xy) は「もともとのy のばらつき具合に対する，線形モデルからのばらつきyi 測したとき，予測によって表現できなかった部分を表しています。残差 数（前回講義参照）とすると 2i y の相関係数（前回の講義参照）とすると ! ! を決! 定係! 数とよびをま決xy す定。 係数とよび= (yi xy − yi)ˆ d2 = = (1 − (yi r2 xy) − yi)ˆ 2 (yi = − (1 y)¯− 2 r2 より (4) よき。つまうまりす，にr2 。説が1 明に近で式づくをほどxy き少yi まとしすyi ˆ の変差。は形小(しさ(4) 残差の4) くて な式り，をr2 の ２乗のxy = 少1し変形わち，最小二乗法で求めたモデルによって，y がx から完全に平正確均 に ことから" ，r2 を決定係数とよびますxy " 。 d2i 1 説明できます。(4) 式を少し変形して − r2 " " (yi − r2 − d2i 2 xy = y)¯xy = " (yi − ¯y)2 = " " d2i d2i /n (yi − ¯y)2 = (yi − ¯y)2/n " /n (yi − ¯y)2/n " d2i " /(の偏差の２乗の平均 決定 係数 母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２乗の平 ます。一方，分子は，残差の２乗の平均になっています。残差は「線 たり」ですから，分子は「線形モデルによる予測結果を中心とするば 3）。 ともとのy のばらつき具合に対する，線形モデルからのばらつき具合の ます。線形単回帰では，「データが散布図上にばらついている」という 全体の平均からのy各yi のへだたり，すなわUniv. 一Kansai 方，分子は，残差の２乗の平均になっていでAsano, すから，分子は「線形モデルによる予測結A. 2014年度春xy) ! (yi − ¯y)2 出は付録３）。つまり，r2 2i xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy なります。すなわち，最小二乗法で求めたモデルによって，y がx から完全になります。このことから，r2 xy を決定係数とよびます。 は，次のように説明できます。(4) 式を少し変形して 1 r2 xy = " d2i " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n (5) " d2i 式右端の分母，y 全体の平均からの各yi のへだたり，すなわち偏差の２分散を表しています。一方，分子は，残差の２乗の平均になっています。残差測結果からの隔たり」ですから，分子は「線形モデルによる予測結果を中心としています（図3）。 1−r2
- 111. ー，タr2 におけがるyi 1 とにyi ˆ の近差をづ残く差とほいいど，di yi で表としまyi すˆ 。の残差差とはは，回小帰さxy 方程最値小をyi ˆ 二と予乗測し法たでとき，予と求め測にたよっモてデ表現ルできになかよっった部て分を，表してがいますy x ら，r2 yi − y)¯端の分母は，y 全体の平均からの各yi のしています。一方，分子は，残差の２乗らの隔たり」ですから，分子は「線形モ。とすyi ˆ 決のな差定をわ残差係ちとい数，い，のdi 最で意表小し味 ま二す。乗残差法とはで，回帰求方程め式とたxi モデル。このことから，r2 xy) は「もともとのy のばらつき具合に対する，線形モデルからのばらつきyi 測したとき，予測によって表現できなかった部分を表しています。残差 数（前回講義参照）とすると 2i y の相関係数（前回の講義参照）とすると ! ! を決! 定係! 数とよびをま決xy す定。 係数とよび= (yi xy − yi)ˆ d2 = = (1 − (yi r2 xy) − yi)ˆ 2 (yi = − (1 y)¯− 2 r2 より (4) よき。つまうまりす，にr2 。説が1 明に近で式づくをほどxy き少yi まとしすyi ˆ の変差。は形小(しさ(4) 残差の4) くて な式り，をr2 の ２乗のxy = 少1し変形わち，最小二乗法で求めたモデルによって，y がx から完全に平正確均 に ことから" ，r2 を決定係数とよびますxy " 。 d2i 1 説明できます。(4) 式を少し変形して − r2 " " (yi − r2 − d2i 2 xy = y)¯xy = " (yi − ¯y)2 = " " d2i d2i /n (yi − ¯y)2 = (yi − ¯y)2/n " /n (yi − ¯y)2/n " d2i " /(の偏差の２乗の平均 決定 係数 母は，y 全体の平均からの各yi のへだたり，すなわち偏差の２乗の平 ます。一方，分子は，残差の２乗の平均になっています。残差は「線 たり」ですから，分子は「線形モデルによる予測結果を中心とするば 3）。 ともとのy のばらつき具合に対する，線形モデルからのばらつき具合の ます。線形単回帰では，「データが散布図上にばらついている」という 全体の平均からのy各yi のへだたり，すなわUniv. 一Kansai 方，分子は，残差の２乗の平均になっていでAsano, すから，分子は「線形モデルによる予測結A. 2014年度春xy) ! (yi − ¯y)2 出は付録３）。つまり，r2 2i xy が1 に近づくほどyi とˆ yi の差は小さくなり，r2 xy なります。すなわち，最小二乗法で求めたモデルによって，y がx から完全になります。このことから，r2 xy を決定係数とよびます。 は，次のように説明できます。(4) 式を少し変形して 1 r2 xy = " d2i " (yi − ¯y)2 = " d2i " /n (yi − ¯y)2/n (5) " d2i 式右端の分母，y 全体の平均からの各yi のへだたり，すなわち偏差の２分散を表しています。一方，分子は，残差の２乗の測結果からの隔たり」ですから，分子＝は「y線の形分モデ散 平均になっています。残差ルによる予測結果を中心としています（図3）。 1−r2
- 112. 決定係数の意味 のように説明できます。(4) 式を少し変形して できます。(4) 式を少し変形して " " " ddd/n 残差" の２乗の平均 = " d/n 1 (yi − r2 = " = " − y)¯xy 2 決定 ((yi yi − − y)¯y)¯2/2 n yの(yi 偏− 差y)¯の2/２n 乗の平均 (5) 端y 全の体分の母平係は均，数 から全の各y 体のyi 平の均へかだたらり（の，各yのすな分のわ散ちへ） 偏だ差たのり２，乗すのな平 表。し一方て，い分ま子すは。，一残方差，の２分乗子のは平，均残に差なのっyi ２て乗いまのす平。均残に差なはっ「て線 か」らですのか隔らた，り分」子ではす「か線形らモ，デ分ル子にはよ「る線予形測モ結果デをy y ル中に心よとるす予る測ば y ます（図i 3）。 d = y – y i i i y – y y i i のy ［の偏差ば］ らつき具合に対する，［線残形差］ モデルからのばらつき具合の 。はy 線「形も単と回も帰とではの，「y のデばータらがつ散き布具図合上ににy 対ば［ すら分つる散］ い，て線い形るモ」デとルいかう とでにUniv. はななりくま，す線。形線モデ形ル単で回表帰さでれはる，直「線デにー沿タっがて散ば布らつ図い上［てに決ない定ば係らる数ら=残差ルつでKansai い完て全いにる表さのれでたはわなけくで，は線な形くモ，直線から見てもデータはいく x デルで表される直線に沿っx x しで，Asano, 完線全形に説モ明デがルつi でい完てA. 全いにる表わさけでれはたあわりけまでせはん図な。くこ4: 決定，う係数直考のえ線意味 るかとららと，あっ図偏差と残差 2014年度春上のた説y の明分で散3: 完に全比にべ説て，明何が%つ減い少てしいているるわのけかで」はをあ示りす2i 2i 2i 値まで せ2i
- 113. 決定係数の意味 のように説明できます。(4) 式を少し変形して できます。(4) 式を少し変形して " " " ddd/n 残差" の２乗の平均 = " d/n 1 (yi − r2 = " = " − y)¯xy 2 決定 ((yi yi − − y)¯y)¯2/2 n yの(yi 偏− 差y)¯の2/２n 乗の平均 (5) 端y 全の体分の母平係は均，数 から全の各y 体のyi 平の均へかだたらり（の，各yのすな分のわ散ちへ） 偏だ差たのり２，乗すのな平 表。し一方て，い分ま子すは。，一残方差，の２分乗子のは平，均残に差なのっyi ２て乗いまのす平。均残に差なはっ「て線 か」らですのか隔らた，り分」子ではす「か線形らモ，デ分ル子にはよ「る線予形測モ結果デをy y ル中に心よとるす予る測ば y ます（図i 3）。 d = y – y i i i y – y y i i のy ［の偏差ば］ らつき具合に対する，［線残形差］ モデルからのばらつき具合の 。はy 線「形も単と回も帰とではの，「y のデばータらがつ散き布具図合上ににy 対ば［ すら分つる散］ い，て線い形るモ」デとルいかう とでにUniv. はななりくま，す線。形線モデ形ル単で回表帰さでれはる，直「線デにー沿タっがて散ば布らつ図い上［てに決ない定ば係らる数ら=残差ルつでKansai い完て全いにる表さのれでたはわなけくで，は線な形くモ，直線から見てもデータはいく x デルで表される直線に沿っx x しで，Asano, 完線全形に説モ明デがルつi でい完てA. 全いにる表わさけでれはたあわりけまでせはん図な。くこ4: 決定，う係数直考のえ線意味 るかとららと，あっ図偏差と残差 2014年度春上のた説y の明分で散3: 完に全比にべ説て，明何が%つ減い少てしいているるわのけかで」はをあ示りす2i 2i 2i 値まで せ2i
- 114. 決定係数の意味 のように説明できます。(4) 式を少し変形して できます。(4) 式を少し変形して " " " d残差" の２乗の平均 = " 1 − r2 = " dd/n " d/n (yi − y)¯xy = (5) 2 決定 ((yi yi − − y)¯y)¯2/2 n yの(yi 偏− 差y)¯の2/２n 乗の平均 端y 全の体分の母平係は均，数 から全の体各のyi 平の均へかだたらり（の，各yのすな分のわち偏差のy yi 散へ） だたり２，乗すのな平 表。し一方て，い分ま子すは。，一残方差，の２分乗子のは平，均残に差なのっ２て乗いまのす平。均残に差なはっ「て線 か」らですのか隔らた，り分」子ではす「か線形らモ，デ分ル子にはよ「る線予形測モ結果デをル中に心よとるす予る測ば y y y ます（図i 3）。 d = y – y y – y y i i i i i のy ［の偏差ば］ らつき具合に対する，［線残形差］ モデルからのばらつき具合の y 。は線「形も単と回も帰とではの，「y のデばータらがつ散き布具図合上ににy 対ば［ すら分つる散］ い，て線い形るモ」デとルいかう とでにUniv. はななりくま，す線。形線モデ形ル単で回表帰さでれはる，直も「線とデにーも沿タと っがてy 散ばは布らこつ図いん上［てにな決い定ばに 係る数ら=なら残差ルつでKansai い完て全いにる表さのれでたはわなけくで，は線な形くモ，直デ線ルかでら表見てもデータx される直線はにい沿く っしで，Asano, x x 完線全形に説モ明デがルつi でいているわばらついていたA. 完全に表さけでれはたあわりけまでせはん図な。こ4: く決定，う係数直考のえ線意味 るかとららと，あっ図偏差と残差 2014年度春上のた説y の明分で散3: 完に全比にべ説て，明何が%つ減い少てしいているるわのけかで」はをあ示りす値2i 2i 2i ま2i で せ
- 115. 決定係数の意味 のように説明できます。(4) 式を少し変形して できます。(4) 式を少し変形して " " " " " dr2 " dd/n 残差のd２/n 乗の平均 = 1 − " xy = = (5) (yi − y)¯2 決定 ((yi yi − − y)¯y)¯2/2 n yの(yi 偏− 差y)¯の2/２n 乗の平均 端y 全の体分の母平係は均，数 から全の体各のyi 平の均へかだたらり（の，各yのすな分のわ散ちへ） 偏だ差たのり２，乗すの平 y な表。し一方て，い分ま子すは。，一残方差，の２分乗子のは平，均残に差なyi のっ２て乗いまのす平。均残に差なはっ「て線 か」らですのか隔らた，り分」子ではす「か線形らモ，デ分ル子にはよ「る線回予形測帰モ結直果デ線をル中かに心y らy よとるの す予る測ば y ます（図i y – y y i 3）。 d = y – y i i i ばらつきは i の［y ［の偏差ば］ らつき具合に対する，線残形差］ モデルからのばらつき具合の 。は線「形も単とy 回も帰とではの，「y のデばータらがつ散き布具図合上ににy こ対ばすらんつるなに減っ［ 分散］ い，て線い形るモ」デた とルいかう とでにUniv. はななりくま，す線。形線モデ形ル単で回表帰さでれはる，直も「線とデにーも沿タと っがてy 散ばは布らこつ図いん上［てにな決い定ばに 係る数ら=なら残差ルつでKansai い完て全いにる表さのれでたはわなけくで，は線な形くモ，直デ線ルかでら表見さてれもるデx 直ータ線はにい沿く っしで，Asano, x 完全に説明がつi いているわけではばあらりつまいx 線形モデルで完全に表されたわけでせんて。いこた A. は図な4: く決定，う係数直考のえ線意味 るかとららと，あっ図偏差と残差 2014年度春上のた説y の明分で散3: 完に全比にべ説て，明何が%つ減い少てしいているるわのけかで」はをあ示りす値2i 2i 2i ま2i で せ