データモデリングとアルゴリズムで考える統計と機械学習の違い
•Download as PPTX, PDF•
2 likes•171 views
RandomForestの作者であるBreimanの論文「Statistical modeling: The two cultures」(Breiman, Leo. Statistical science 16.3 (2001): 199-231.) を紹介しながら、機械学習がどのような目的で統計学と離れて進化してきたかを解説します。 YouTubeでも解説動画をアップしています。 https://youtu.be/ZnxCssE9qR8
More Related Content
What's hot
What's hot (20)
More from 西岡 賢一郎
More from 西岡 賢一郎 (20)
Recently uploaded
Recently uploaded (14)
データモデリングとアルゴリズムで考える統計と機械学習の違い
- 2. 今回紹介する内容 ● Statistical modeling: The two cultures ○ 著者: Leo Breiman ○ 投稿: Statistical Science 2001, Vol. 16, No. 3, 199-231 ○ 引用: 3587件 (2021/04/15 地点) ● 論文の内容 ○ データから結論を導き出す統計モデルには、データモデリングとアルゴリズムという2つの文 化がある ■ データモデリング: データが確率的データモデルにより生成されたとする ■ アルゴリズムモデリング (以降、アルゴリズム): データ生成のメカニズムは未知とする。 統計学以外の分野で発展。 ○ データモデリングの世界とアルゴリズムの世界の両方を知る筆者が、問題を解決することに 集中して、それぞれの手法を選ぶべきと主張している。 ● 問題を解決するとはどういうことかを考えるきっかけとなる論文
- 3. Leo Breiman (1928~2005) ● 「ランダムフォレストの父」 ○ 2001年にDecision Treeを発展させて提案した 大学に勤める コンサルティング(13年) 大学へ戻る(1980~) ● 多くのプロジェクトに携わる ○ 翌日のオゾン濃度の予測 ○ 質量分析スペクトルを用いた化学構造の 決定 ○ など... ● 既存の統計モデルがうまくいかない ○ データ量 ○ 次元数 ● 既存の統計モデリングに疑問を感じる ○ どの論文を読んでも、 「~のモデルを仮定する」 → 仮定しない方がいいのでは？ ● 実社会に適用していきたい コンサルの経験が、アルゴリズム文化の考え方の元となった
- 4. 問題を解決するための認識 ● 良い解決策を見つけることに焦点をあてる ● モデリングを始める前にデータとしっかり向き合う ● 良い解決策を与えてくれるモデルを探す (アルゴリズム または データモデル) ● テストデータにおける予測精度は、作成したモデルの良さの基準である ● コンピューターは手放せないパートナーである
- 5. データとは ● 入力xにnatureファンクションで何らかの処理を加えてyを出力 → データ分析 ● データ分析2種類のゴール ○ 予測 → 将来の入力x に対し、その出力y を予測 ○ 情報 → 入力xと出力yをnatureファンクションがどのように関連付けているかの情報を抽出
- 6. 2つの文化 ● データモデリング文化 ○ 確率的なモデルを仮定 ○ データはモデルから発生 ○ データからモデルのパラメータを推定 ○ 例) y = f(x; α) ■ α: 推定したパラメータ ● アルゴリズム文化 (著者の立場) ○ モデルを仮定しない ○ 自然界は複雑でよくわからない ○ いい予測を返すアルゴリズムを探す
- 7. データモデリングの問題点 ● データをモデルにフィットさせ、定量的な結論を出すことは、“モデル”のメカニズムの 結論を出しており、“nature”のメカニズムではない ○ モデルが適切でない場合、結論を間違えてしまう ● モデルを評価するための決定係数や残差分析は万能ではない ● 「ハンマーしか持っていないと全ての問題が釘に見えてしまう」 ■ 限られた手段(モデルの仮定)しか持たないと、問題の本質を上手く捉えられない ■ データモデリングにこだわりすぎないようにする
- 8. アルゴリズム文化の誕生 ● 1980年代半ばに使えるようになったモデル ○ ニューラルネット ■ 脳の神経回路を模した数理モデル ■ 特徴量の生成が不要 ○ 決定木 ■ ツリー構造を用いて段階的にデータを分割 ■ 解釈性が高い ● 当初は複雑な問題に適用できなかった ○ 話者認識、画像認識、非線形時系列解析、... ● モデルの良し悪しは未知データに対する精度
- 9. 予測を目的とするなら ● どのようにデータが生成されるかを考えなくても、予測精度を高 くなればよい → データモデルからアルゴリズムへ ● データの生成について解釈をしたい場合は、予測精度が高いモデ ルを作ってから解釈をする (事前にモデルを仮定しない) データ生成の仕組みは後から解釈 予測をうまくできるかを第一に考える
- 11. 羅生門効果 ● 1つの現象を説明するモデルが複数存在 例) 線形回帰 (データモデリング) における変数選択 ● 今、30個の変数から5つの変数を選びたい ● 組み合わせは約14万通り ● テストデータに対する誤差が1.0%以下 のモデルを選択 ● Picture1~3のように3通りの組み合わせが 存在した時、どのモデルを採用すべき？ → 重要な変数が異なり、違った結論を導く → バギング (アルゴリズム文化)
- 12. オッカムの剃刀 ● ある事柄を説明するためには、必要以上に多くを仮定するべきで ない ● 同程度の予測性能なら、モデルはシンプルな方がいい ● しかし精度を求めるとモデルは複雑になってしまう ○ シンプルさと予測性能はトレードオフ ● モデルの精度をあげてから解釈していけばいい
- 13. 次元の呪い ● 変数が増えるとモデル作成が困難になる ● データモデリングにおけるプラクティス ○ 回帰などで高次元のデータを扱うことは危険 ○ 重要な情報を持つ変数だけを残す ● アルゴリズム ○ 変数を減らすと情報も減る ○ 他の変数と組み合わせることにより有効になる変数もある ○ → 変数を減らすのではなく、多くの関数を使う
- 14. まとめ ● 今回紹介した論文: Statistical modeling: The two cultures ● データモデリング文化(=統計学) ○ 型にそって、あるモデルを仮定する ○ モデルを評価し、データを説明することが目的 ● アルゴリズム文化(=機械学習) ○ モデルを仮定しない ○ 将来のデータに対する予測精度を高めることが目的 ○ 解釈は後付け ● 目的に応じて使い分けられるようにすることが大事
- 15. チャンネル紹介 ● チャンネル名: 【経営xデータサイエンスx開発】西岡 賢一郎のチャンネル ● URL: https://www.youtube.com/channel/UCpiskjqLv1AJg64jFCQIyBg ● チャンネルの内容 ○ 経営・データサイエンス・開発に関する情報を発信しています。 ○ 例: アジャイル開発、データパイプライン構築、AIで使われるアルゴリズム4種類など ● noteでも情報発信しています → https://note.com/kenichiro
Editor's Notes
- こんにちは、西岡です。 今回は、データモデリングとアルゴリズムで考える統計と機械学習の違いというテーマでお話ししたいと思います。 データサイエンスをやるためには、機械学習と統計両方の知識を持たないといけないという話をよく聞きます。 今回の動画では、統計の世界と機械学習の世界の違いを、データモデリングとアルゴリズムという切り口で論じている論文を紹介します。 このチャンネルでは、機械学習などの論文紹介を初めとして、開発や経営などに関連した情報も発信していきます。 興味のある方がいらっしゃいましたらぜひチャンネル登録お願いします。
- 今回紹介する論文は、統計モデル 2つのカルチャーという論文です。 この論文は、2001年にBreimanによって発表された論文です。 データから結論を導き出す統計モデルを、データモデリングとアルゴリズムという2つの文化に分けて論じています。 データモデリングはデータが確率的データモデルにより生成されるとし、統計学の中で長い間研究されていました。 一方アルゴリズムは、データ生成のメカニズムは未知としたまま問題解決するもので、統計学と別の分野で登場しました。 データモデリングの世界とアルゴリズムの世界を両方経験したBreimanが、データモデリングの世界の問題点を指摘しつつ、アルゴリズムの世界を紹介しています。 この論文は、アルゴリズムの世界が優れていることを主張する論文ではなく、問題を解決することにフォーカスして、適切な手法を選ぶべきという主張をしている論文となっています。 問題を解決するとはどういうことかを考えるきっかけにもなる論文だと思います。 それでは解説していきます。
- まず筆者であるBreimanを紹介します。 BreimanはRandom Forestの生みの親とも呼ばれ、機械学習の発展にも大きく貢献した研究者です。 Breimanは大学に務めた後、コンサルティング会社で働き、そこで統計モデルを使った様々なプロジェクトを経験しました。 しかし、統計モデリングを使っていく中で、統計モデリングだけでは問題解決がうまくいかないことに気づきました。 Breimanはコンサルティング会社を離れた後は、また大学へ戻り研究を始めました。 そして、どの論文でもモデルを仮定していることに疑問を持ち、モデルを仮定しない方がいいのではという考えはじめたんですね。 コンサルティングの経験と実社会に適応していきたいという思いがアルゴリズム文化の考え方の下のなったというわけです。 この論文はアルゴリズムが良い点が述べられていますが、Breiman自身はデータモデリングに否定的というわけではありません。 あくまでも問題を解決するという視点に立ったときに、データモデルを仮定しないほうがいいときもあるということを主張しています。
- Breimanがコンサルなどの経験を得て、問題解決のためのデータの扱い方について5つ認識をしていたようです。 1つ目は良い解決策を見つけることに焦点を当てること。 2つ目はモデリングを始めるためにデータとしっかり向き合うこと。 3つ目は良い解決策を与えてくれるモデルを探すこと。このモデルはアルゴリズムとデータモデリングの両方を指します。 4つ目はテストデータにおける予測精度が、モデルの良さの基準であるということ。ここらへんは今の機械学習の世界ではあたりまえになっていますね。 そして、最後5つ目がコンピューターは手放せないパートナーであるということです。大量演算を必要としていることを指しているんだと思います。
- そもそもデータとは何かということについて、この論文ではデータがこのようなグラフで生成されるとしています。 データxが何らかの処理であるnatureファンクションによって形を変えyとして出力されるということです。 機械学習をやっている人にとっては想像がつきやすい図かもしれません。 よくわからないという人は、データがnatureファンクションというものによって生成されているぐらいの認識でいて大丈夫です。 Breimanは、このように生成されるデータの分析のゴールを2種類に分けています。 データ分析のゴールの1つ目は予測で、新しく入ってきたxに対してyがどのようになるかを予測します。 もう一つのデータ分析のゴールは、入力xと出力yを紐付けるnatureファンクションがどのように動作しているかを調べます。 このデータ分析に対して、Breimanはデータモデリングの文化とアルゴリズムの文化という2種類の文化があるとことをBreimanは主張しています。
- では、今回の論文のメインの話である、データモデリングとアルゴリズムについてそれぞれについて簡単に説明します。 まず、データモデリングでは、Xをyに変換するNatureファンクションが何かしらの確率的なモデルとなっています。 このモデルを実際のパラメータから推定することにより、どのようにyが発生するかを解き明かしていきます。 一方、アルゴリズムでは、間にあるNatureファンクションは複雑なものとして、モデルを仮定することをしません。 アルゴリズムでは、とにかく良い予測結果を出せるようなアルゴリズムを探していくこととなります。 つまり、間にある関数を解き明かすことを目的とするか、間にある関数が複雑であるとして解き明かそうとせず予測結果だけをよくしていくかという方向性の違いがあるということです。
- では、データモデリングは何が問題かということについて少し紹介します。 Breimanはデータをモデルにフィットさせて定量的な結論を出すことは、モデルのメカニズムの結論を出しているだけで、Natureそのもののメカニズムではないと主張しています。 分析自体がモデルの良さを評価しているにすぎないので、実際のNatureを表しているわけではないということですね。 そのため、モデル自体が適切でなければ結論を間違えてしまうということです。 また、Breimanはモデルを評価するための決定係数や残差分析が万能ではないということも述べています。 実際の世界のデータでは、変数の欠如や非線形の変数や大量の変数などがあり、それらによって決定係数や残差分析が使えなくなってしまうということです。 ハンマーしか持っていないと全ての問題が釘に見えてしまうということわざがあるのですが、データモデリングだけで問題を解決するということはデータモデリングだというハンマーをもっているのと同じということですね。 データモデリングにこだわりすぎず、別のアプローチも考えてみようというのがBreimanの主張です。
- データモデリングが統計学者の中で主流となっている中、コンピューターサイエンスと物理学とエンジニアリングと統計学者による新しい研究コミュニティーから登場しました。 そこで誕生したものがアルゴリズムによるモデリングです。 1980年代なかばにニューラルネットワークや決定木が使われるようになったわけですが、その当時は複雑な問題には適用できなかったようです。 このアルゴリズムの世界ではモデルの善し悪しを決めるのは、未知のデータに対する予測精度でした。
- もし予測を目的とするのであれば、データがどのように生成されるかは主目的ではなく予測精度が主目的となります。 この予測をよくするという目的を達成するために出てきているのが、アルゴリズムの世界なんですね。 先程も紹介したようにアルゴリズムでは、Natureファンクションが複雑であるとして、特定のモデルを仮定しない代わりに、予測される出力yの予測精度の最大化を目指します。 もし、natureファンクションがどんな動きをしているかなど解釈をしたい場合は、まずは高い予測精度を持つモデルをアルゴリズムで構築して、そのあと解釈するというアプローチをBreimanは紹介しています。 目的を達成するためであれば手段は最初は気にしない、目的達成ができてから手段について考えようというようなアプローチとも言えると思います。 このように、目的が予測の精度となってきたことにより、アルゴリズムによるモデル作成が飛躍的な進化を遂げてきたというわけです。
- 高い精度を得るために研究が盛んになったアルゴリズムの世界で得られた重要な教訓3つをBreimanはこの論文で紹介しています。 それぞれについて、データモデルの世界と絡めて簡単に説明します。
- まずはじめに羅生門効果についてです。 羅生門効果とは1つの現象を説明するモデルが複数存在することを意味します。 羅生門効果がデータモデリングでどのようになるかを線形回帰を例にしてみます。 解きたい変数が30個会ったと仮定します。 このとき、データモデリングでは重要な変数を数個選ぶので、今回は5つの変数を選ぶとします。 変数の組み合わせは14万通りあるのですが、テストデータに対する誤差が1％以下であるモデルという制約をくわえたときに、モデルが3つ出てきました。 それぞれのモデルで使っている変数も変数の重みも違います。 これではどのモデルがよいかがわからないと思います。 それぞれのモデルがそれぞれ違った結論を導くというわけですね。 これがデータモデリングにおける難しさの一つとなります。 一方、アルゴリズムでは、複数のモデルを組み合わせて予測を実施することで、高い予測精度を実現できたという研究があります。 つまり、単一のモデルで解釈することを諦めることで、予測精度の向上ができたということですね。
- アルゴリズムの研究で得られた教訓2つめは、オッカムの剃刀についてです。 オッカムの剃刀は、ある事柄を説明するためには、必要以上に多くを仮定するべきではないということを意味しています。 つまり、同じような予測性能であれば、モデルはシンプルな方がいいということです。 しかし、モデルのシンプルさを求めることとと予測性能はトレードオフとなります。 モデルをシンプルにすればするほど予測性能が悪くなり、モデルを複雑にすればするほど予測性能が良くなっていきます。 Breimanはこの現象については、モデルの精度を上げた後にモデルの解釈をすればよいと述べています。
- アルゴリズムの研究で得られた教訓3つめは、次元の呪いについてです。 次元の呪いとは、変数が増えれば増えるほど、モデルの作成が困難になるというものです。 そのため、データモデリングの世界では、高次元のデータを扱うことは危険だとされ、重要な情報を持つ変数だけ残すというプラクティスがありました。 一方、アルゴリズムの世界では、変数を減らすと情報が減ると考えます。また、組み合わせることによって有効になる変数もあるとしてできる限り変数を残すようにします。 アルゴリズムでは、変数を減らさない代わりに多くの関数を用意することでフィッティングを行うようにしています。
- 最後にまとめです。 今回は、統計モデリングにおける2文化という論文について紹介しました。 この論文では、統計モデリングとアルゴリズムの2つの文化について解説してありました。 統計学の世界で主流となっていたデータモデリングの文化は、データを生み出すモデルを仮定します。 データモデリングでは、モデルを評価しデータを説明することが目的となってきます。 一方、機械学習でやられているアルゴリズムによるモデリングは、モデルを仮定しません。 アルゴリズムは、将来のデータに対する予測精度を高めることが目的となってきて、どのようにデータが生まれるかの解釈は後付となります。 どちらもデータサイエンスをやる上で重要な分野となってくるので、目的に応じて使い分けができるようになることが大事になってきます。 今回、論文の内容を全部紹介しきれていなかったのですが、統計と機械学習の違いなどを考える上で役に立つ論文なのでぜひご自身でも読んでみてください。
- 最後にチャンネルの紹介をさせてください。 このチャンネルでは、経営やデータサイエンスや開発の話をしていきます。 聞きたい話のリクエストも募集中です。 もし、この動画が役に立ったら高評価とチャンネル登録をお願いいたします。