Successfully reported this slideshow.
Your SlideShare is downloading. ×

はじめてのパターン認識 第1章

Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Upcoming SlideShare
はじパタ2章
はじパタ2章
Loading in …3
×

Check these out next

1 of 72 Ad
Advertisement

More Related Content

More from Prunus 1350 (12)

Recently uploaded (20)

Advertisement

はじめてのパターン認識 第1章

  1. 1. 第1回 「はじめてのパターン認識」読書会 2013/6/18 (火) Prunus1350
  2. 2. 1.1 パターン認識とは 「パターン認識」とは,
  3. 3. 1.1 パターン認識とは 「パターン認識」とは, 「物事の類型を知るはたらき,およびその内容」
  4. 4. 1.1 パターン認識とは 「パターン認識」とは, 「物事の類型を知るはたらき,およびその内容」 ちょっとわかりづらい?
  5. 5. 1.1 パターン認識とは 「パターン認識」とは,
  6. 6. 1.1 パターン認識とは 「パターン認識」とは, 「対象の特徴量から対象が属するカテゴリを推 測する方法」を指す. 『Rで学ぶデータサイエンス5 パターン認識』より
  7. 7. 1.1 パターン認識とは 識別対象 具体例
  8. 8. 1.1 パターン認識とは 識別対象 硬貨 具体例
  9. 9. 1.1 パターン認識とは 識別対象 特徴抽出 硬貨 具体例
  10. 10. 1.1 パターン認識とは 識別対象 特徴抽出 サイズ 重さ 透磁率 穴の有無 … 硬貨 具体例
  11. 11. 1.1 パターン認識とは 識別対象 特徴抽出 サイズ 重さ 透磁率 穴の有無 … 硬貨 識別の手がかりとなる 「特徴量」 具体例
  12. 12. 1.1 パターン認識とは 識別対象 特徴ベクトル 特徴抽出 サイズ 重さ 透磁率 穴の有無 … 硬貨 具体例
  13. 13. 1.1 パターン認識とは 識別対象 特徴ベクトル 特徴抽出 識別規則 サイズ 重さ 透磁率 穴の有無 … 硬貨 具体例
  14. 14. 1.1 パターン認識とは 識別対象 特徴ベクトル 識別クラス 特徴抽出 識別規則 サイズ 重さ 透磁率 穴の有無 … 10円 50円 100円 500円 識別不能 硬貨 具体例
  15. 15. 1.1 パターン認識とは 識別対象 特徴ベクトル 識別クラス 特徴抽出 識別規則 硬貨 識別対象は多岐に渡る 電話音声 顔画像 テキスト データ …
  16. 16. 1.1 パターン認識とは 識別対象 特徴ベクトル 識別クラス 特徴抽出 識別規則 硬貨 特徴ベクトルの形になってしまえば, 同じ識別規則が使え る 電話音声 顔画像 テキスト データ … 特徴量1 特徴量2 特徴量3 特徴量4 … クラス1 クラス2 クラス3 … 識別不能
  17. 17. 1.2 特徴の型 観測された特徴
  18. 18. 1.2 特徴の型 観測された特徴 • 定性的特徴(非数値データ) • 定量的特徴(数値データ)
  19. 19. 1.2 特徴の型 観測された特徴 • 定性的特徴(非数値データ) • 名義尺度 (分類のための単なる名前)  • 順序尺度 (順序関係を表す) • 定量的特徴(数値データ)
  20. 20. 1.2 特徴の型 観測された特徴 • 定性的特徴(非数値データ) • 名義尺度 (分類のための単なる名前)  • 順序尺度 (順序関係を表す) • 定量的特徴(数値データ) • 比例尺度 (原点が定まっており, 比率が意味を持つ) • 間隔尺度 (一定の単位で量られた量, 量間の比が意味を持た ない)
  21. 21. 例題 1.1 次の特徴の型は何か. (1)試験の点数 (2)成績表のA, B, C, D (3)偏差値 (4)単語の出現頻度
  22. 22. 例題 1.1 次の特徴の型は何か. (1)試験の点数 → 間隔尺度 (2)成績表のA, B, C, D (3)偏差値 (4)単語の出現頻度
  23. 23. 例題 1.1 次の特徴の型は何か. (1)試験の点数 → 間隔尺度 (2)成績表のA, B, C, D → 順序尺度 (3)偏差値 (4)単語の出現頻度
  24. 24. 例題 1.1 次の特徴の型は何か. (1)試験の点数 → 間隔尺度 (2)成績表のA, B, C, D → 順序尺度 (3)偏差値 → 間隔尺度 (4)単語の出現頻度
  25. 25. 例題 1.1 次の特徴の型は何か. (1)試験の点数 → 間隔尺度 (2)成績表のA, B, C, D → 順序尺度 (3)偏差値 → 間隔尺度 (4)単語の出現頻度 → 比例尺度
  26. 26. 1.2 特徴の型 定性的な特徴を計算機上で扱うために符号化を 行う.
  27. 27. 1.2 特徴の型 定性的な特徴を計算機上で扱うために符号化を 行う. 例1) 2クラス 男性:0, 女性:1
  28. 28. 1.2 特徴の型 定性的な特徴を計算機上で扱うために符号化を 行う. 例1) 2クラス 男性:0, 女性:1 例2) 多クラス (5つのクラスラベルでクラス2を表現) t = (0, 1, 0, 0, 0)T
  29. 29. 1.3 特徴ベクトル空間と次元の呪い • 特徴数がd個あれば, 特徴ベクトルはd次元線形 空間を張る. x1 x2 65 70 (例) 特徴数2の特徴ベクトル x = (65, 70)T
  30. 30. 1.3 特徴ベクトル空間と次元の呪い • 特徴数がd個あれば, 特徴ベクトルはd次元線形 空間を張る. (例) 手書き文字認識 (kaggle)
  31. 31. 1.3 特徴ベクトル空間と次元の呪い • 特徴数がd個あれば, 特徴ベクトルはd次元線形 空間を張る. (例) 手書き文字認識 (kaggle) • 28 28=784個の画素値 • 各画素が256階調のグレースケール
  32. 32. 1.3 特徴ベクトル空間と次元の呪い • 特徴数がd個あれば, 特徴ベクトルはd次元線形 空間を張る. (例) 手書き文字認識 (kaggle) • 28 28=784個の画素値 • 各画素が256階調のグレースケール → 784次元のベクトル空間の各軸が256個の区 画を持っている.
  33. 33. 1.3 特徴ベクトル空間と次元の呪い • 特徴数がd個あれば, 特徴ベクトルはd次元線形 空間を張る. (例) 手書き文字認識 (kaggle) • 28 28=784個の画素値 • 各画素が256階調のグレースケール → 784次元のベクトル空間の各軸が256個の区 画を持っている. 区画の数は全体で 256784
  34. 34. 1.3 特徴ベクトル空間と次元の呪い 適応制御において未知の複雑な関数を学習する ために必要なデータが, 次元の増加と共に指数 関数的に増加することを 「次元の呪い」 という.
  35. 35. 例題 1.2 d次元超立方体の面(ファセットという)の数 は2d個であることを示せ.
  36. 36. 例題 1.2 d次元超立方体の面(ファセットという)の数 は2d個であることを示せ. A. d次元超立方体は, 各軸の直交する二つのd-1次 元超平面で構成されるので, 面は全部で2d個あ る.
  37. 37. 章末問題 1.1 あなたの利き手でない方の人差し指と中指の指 紋を区別したい, どのような特徴をとればよい か観察せよ.
  38. 38. 章末問題 1.2 辺の長さが  の  次元超立方体について, 以下 の問いに答えよ. da
  39. 39. 章末問題 1.2 (1) 次元超立方体の頂点の数は  個であること を示せ. d 2d
  40. 40. 章末問題 1.2 (1) 次元超立方体の頂点の数は  個であること を示せ. • 0次元の場合 d 頂点の数: 2d 20 = 1
  41. 41. 章末問題 1.2 (1) 次元超立方体の頂点の数は  個であること を示せ. • 0次元 → 1次元 新しい軸  を 考える O x1 d 2d x1
  42. 42. 章末問題 1.2 (1) 次元超立方体の頂点の数は  個であること を示せ. • 0次元 → 1次元   の正負の方向   の 位置に頂点を移す O1 2 a 1 2 a x1 d 2d x1 ± 1 2 a
  43. 43. 章末問題 1.2 (1) 次元超立方体の頂点の数は  個であること を示せ. • 1次元の場合 O1 2 a 1 2 a x1 d 2d 頂点の数: 21 = 2
  44. 44. 章末問題 1.2 (1) 次元超立方体の頂点の数は  個であること を示せ. • 1次元 → 2次元 軸  に直交する軸  を 考える O1 2 a 1 2 a x1 x2 d 2d x1 x2
  45. 45. 章末問題 1.2 (1) 次元超立方体の頂点の数は  個であること を示せ. • 1次元 → 2次元 O1 2 a 1 2 a 1 2 a 1 2 a x1 x2 d 2d   の正負の方向   の 位置に頂点を移す ± 1 2 ax2
  46. 46. (1) 次元超立方体の頂点の数は  個であること を示せ. • 2次元の場合 章末問題 1.2 O1 2 a 1 2 a 1 2 a 1 2 a x1 x2 d 2d 頂点の数: 22 = 4
  47. 47. (1) 次元超立方体の頂点の数は  個であること を示せ. • 2次元 → 3次元 章末問題 1.2 3次元空間を考える x1 x2 d 2d
  48. 48. (1) 次元超立方体の頂点の数は  個であること を示せ. • 2次元 → 3次元 章末問題 1.2 x1 x2 d 2d x3 軸    に直交する 軸  を考える x1, x2 x3
  49. 49. (1) 次元超立方体の頂点の数は  個であること を示せ. • 2次元 → 3次元 章末問題 1.2 x1 x2 x3 d 2d   の正負の方向   の 位置に頂点を移す ± 1 2 ax3
  50. 50. (1) 次元超立方体の頂点の数は  個であること を示せ. • 3次元の場合 章末問題 1.2 x1 x2 x3 d 2d 頂点の数: 23 = 8
  51. 51. (1) 次元超立方体の頂点の数は  個であること を示せ. • 3次元 → 4次元 章末問題 1.2 軸     に直交する 軸  を考える x1 x2 x3 d 2d ? x1, x2, x3 x4
  52. 52. (1) 次元超立方体の頂点の数は  個であること を示せ. • 3次元 → 4次元 章末問題 1.2 x1 x2 x3 d 2d ?   の正負の方向   の 位置に頂点を移す ± 1 2 ax4
  53. 53. (1) 次元超立方体の頂点の数は  個であること を示せ. • 4次元の場合 章末問題 1.2 x1 x2 x3 d 2d ? 頂点の数: 24 = 16
  54. 54. (1) 次元超立方体の頂点の数は  個であること を示せ. • 同様にして, 次元が増えるごとに超立方体の頂 点の数は2倍になるので  次元超立方体の頂 点の数は  個である. 章末問題 1.2 d 2d d 2d
  55. 55. (2) 次元超立方体の表面積を求めよ. 章末問題 1.2 d
  56. 56. (2) 次元超立方体の表面積を求めよ. • 1辺の長さが  の   次元超平面の表面積 は   と表される. 章末問題 1.2 d a d 1 ad 1
  57. 57. (2) 次元超立方体の表面積を求めよ. • 1辺の長さが  の   次元超平面の表面積 は   と表される. 例題1.2より, これが  個あるので, 章末問題 1.2 d a d 1 ad 1 2d ad 1 ⇤ 2d = 2dad 1
  58. 58. (3)超立方体を構成する  次元超平面の個数が で表されることを, 3次元立方体で確かめよ. 章末問題 1.2 m (0  m  d 1) 2d m ✓ d m ◆
  59. 59. (3)超立方体を構成する超平面の個数 • 0次元(頂点) 章末問題 1.2 23 0 ✓ 3 0 ◆ = 23 ⇤ 1 = 8 x1 x2 x3
  60. 60. (3)超立方体を構成する超平面の個数 • 1次元(辺) 章末問題 1.2 23 1 ✓ 3 1 ◆ = 22 ⇤ 3 = 12 x1 x2 x3
  61. 61. (3)超立方体を構成する超平面の個数 • 2次元(面) 章末問題 1.2 23 2 ✓ 3 2 ◆ = 21 ⇤ 3 = 6 x1 x2 x3
  62. 62. (4)超立方体を構成する  次元超平面の総数を求 めよ. 章末問題 1.2 m
  63. 63. (4)超立方体を構成する  次元超平面の総数を求 めよ. •   次元超平面の個数は と表されるので, 章末問題 1.2 m 2d m ✓ d m ◆ m
  64. 64. (4)超立方体を構成する  次元超平面の総数を求 めよ. •   次元超平面の個数は と表されるので, それを0次元から   次元ま で合計すればよい. 章末問題 1.2 m 2d m ✓ d m ◆ m d 1
  65. 65. (4)超立方体を構成する  次元超平面の総数を求 めよ. •   次元超平面の個数は と表されるので, それを0次元から   次元ま で合計すればよい. よって 章末問題 1.2 m 2d m ✓ d m ◆ m d 1 d 1X m=0 2d m ✓ d m ◆
  66. 66. (5)その式から, 5次元超立方体を構成する超平面の 総数を求めよ. 章末問題 1.2
  67. 67. (5)その式から, 5次元超立方体を構成する超平面の 総数を求めよ. 章末問題 1.2 5 1X m=0 25 m ✓ 5 m ◆ = 4X m=0 25 m ✓ 5 m ◆
  68. 68. (5)その式から, 5次元超立方体を構成する超平面の 総数を求めよ. 章末問題 1.2 5 1X m=0 25 m ✓ 5 m ◆ = 4X m=0 25 m ✓ 5 m ◆ = 25 0 ✓ 5 0 ◆ + 25 1 ✓ 5 1 ◆ + 25 2 ✓ 5 2 ◆ + 25 3 ✓ 5 3 ◆ + 25 4 ✓ 5 4 ◆
  69. 69. (5)その式から, 5次元超立方体を構成する超平面の 総数を求めよ. 章末問題 1.2 5 1X m=0 25 m ✓ 5 m ◆ = 4X m=0 25 m ✓ 5 m ◆ = 25 0 ✓ 5 0 ◆ + 25 1 ✓ 5 1 ◆ + 25 2 ✓ 5 2 ◆ + 25 3 ✓ 5 3 ◆ + 25 4 ✓ 5 4 ◆ = 32 ⇤ 1 + 16 ⇤ 5 + 8 ⇤ 10 + 4 ⇤ 10 + 2 ⇤ 5
  70. 70. (5)その式から, 5次元超立方体を構成する超平面の 総数を求めよ. 章末問題 1.2 5 1X m=0 25 m ✓ 5 m ◆ = 4X m=0 25 m ✓ 5 m ◆ = 25 0 ✓ 5 0 ◆ + 25 1 ✓ 5 1 ◆ + 25 2 ✓ 5 2 ◆ + 25 3 ✓ 5 3 ◆ + 25 4 ✓ 5 4 ◆ = 32 ⇤ 1 + 16 ⇤ 5 + 8 ⇤ 10 + 4 ⇤ 10 + 2 ⇤ 5 = 32 + 80 + 80 + 40 + 10
  71. 71. (5)その式から, 5次元超立方体を構成する超平面の 総数を求めよ. 章末問題 1.2 5 1X m=0 25 m ✓ 5 m ◆ = 4X m=0 25 m ✓ 5 m ◆ = 25 0 ✓ 5 0 ◆ + 25 1 ✓ 5 1 ◆ + 25 2 ✓ 5 2 ◆ + 25 3 ✓ 5 3 ◆ + 25 4 ✓ 5 4 ◆ = 32 ⇤ 1 + 16 ⇤ 5 + 8 ⇤ 10 + 4 ⇤ 10 + 2 ⇤ 5 = 32 + 80 + 80 + 40 + 10 = 242
  72. 72. ご清聴ありがとうございました。

×