More Related Content
Viewers also liked
Viewers also liked (20)
集合知第7回
- 2. 目次 • 目次 1. 機械学習のアプローチ方法 2. SVMとは? 3. 集合知の本でやってること 4. まとめ 以下時間があったら（てかやります） 1. 線形SVMの理論（ハードマージンSVM） 2. ソフトマージンSVM 3. 非線形SVM（カーネルトリック）
- 3. はじめに • SVMだけで本が一冊書けてしまうので、今日 は本当に触りだけで許してください 作者: ネロクリスティアニーニ,ジョン ショー‐テイラー,Nello Cristianini,John Shawe‐Taylor,大北 剛 出版社/メーカー: 共立出版 発売日: 2005/03 通称赤本.読みづらいらしいので,右 側の黄色のPRMLのがオススメ.
- 4. SVMとは？ • （教師あり学習）パターン認識手法の1つ • 一番認識性能が優れた学習モデルの1つ • 実用例 – スパム検知,画像認識,文字認識,構文解析 （CaBoCha）,テキスト分類etc... • 具体例 – 顔の表情認識、軍事データセットを使用した新入 の検知,タンパク質の構造をシーケンスから予測
- 5. 機械学習のアプローチ方法 1. 識別関数 – 入力データを見て、特定のクラスに属するよう識 別（パーセプトロン、ニューラルネットワーク、 SVM） 2. 識別モデル – 入力データからクラス事後確率をモデル化して 識別（CRF:Conditional Random Fields） 3. 生成モデル – 入力データがどのような分布で生成させたもの かをモデル化して識別（ナイーブベイズ）
- 9. 集合知の本でやっていること（線形分類） • 注意点 – これはあくまで線形分類器であり,境界線を探す だけのものです. 誤判別ももちろん含まれる. • 学習サンプルに複数のベクトルデータを持た せても可能(9.4-9.5) – 定性データ（性別）も定量化（1,0）したり,スケール が異なるデータも,正規化すれば扱える
- 11. 集合知の本でやっていること（非線形分類） • しかし,実際は点の変換を行うのは,難しい場 合が多い • 次元が増えてしまうと更に複雑になり,なかな か変換できない • カーネルトリック – 元データを線形写像で高次元に変換し,高次元で 内積を計算し,元のデータに返す作業. – これで非線形も対応可能で超すごいんです！！
- 16. 集合知の本でやっていること（まとめ） • まとめ – サポートベクターを使い,超平面を求めるのが SVM – 超平面を求める⇔マージンの最大化 – 基本は線形分類だが,カーネルトリックを用いるこ とで非線形にも対応.
- 17. オススメの本 言語処理のための機械学習入門 (自然言語処理シリーズ) [単行本] 高村 大也 (著) パター...ry) わかりやすいパターン認識 [単行本] 石井 健一郎 (著)
- 18. 集合知の本でやっていること • 集合知の本のチャプターはこれで終了です が... • 内容があまりにもフワッとしすぎて,流石に SVMの理論をあまり知らずに使用するのは よくないのでは?（私もよくわかりません） • もうちょっと理論も一緒に見てみましょう.SVM は機械学習で超大事なポイントの1つです！
Editor's Notes
- 特徴空間がX=(サッカー、野球、政治、選挙)であり、Aさんが100単語発したある時の特徴ベクトルがX_A(50, 30, 15, 5)だとします。この場合、識別関数では、単に「サッカーという単語が出現した回数は50回である」とだけ考えます。対して、生成モデルでは「Aさんは特徴空間Xにおいて、サッカーという単語が出現したのは100回中50回なので、サッカーの出現確率は0.5だ」というように確率分布まで考えます。前者は、Aさんがさらに100単語発したときサッカーが何回出現するかを全く考慮していません。後者は、Aさんがさらに100単語発するなら、サッカーは50回程度出現するだろう」と考えます。「生成モデル」という名が表すように、「どのような確率分布でデータが生成されたのか？」というモデルを立てて識別するため、単に実際観測されたデータだけではなく、データが観測された背景まで考慮するので、データに欠損がある場合など、識別に有利に働く場合があります
- もともとX1はMoにちかいからM0に分類されるべき,そんでベクトル計算すると正になるから正解なのがわかる。
- 今回は年齢だけだったが、別にいろいろでーたあってもok! 黒板で説明しよう。