Recommended
More Related Content
Similar to 未来のカタチ x AI
Similar to 未来のカタチ x AI (20)
More from 西岡 賢一郎
More from 西岡 賢一郎 (12)
Recently uploaded
Recently uploaded (8)
未来のカタチ x AI
- 1. 未来のカタチ×AI 2022/05/07 52期 西岡 賢一郎
- 2. 自己紹介 ✤ 西岡 賢一郎 (Kenichiro Nishioka) ✤ 博士 (学術) ✤ 52期生 (2003年卒) ✤ 学歴: 東京大学理科Ⅱ類 → 東京大学教養学部広域科学専攻 → 東京大学総合文 化研究科広域科学専攻広域システム科学 ✤ 職歴 ✤ 博士課程在学中に株式会社トライディア創業 → 株式会社ビービットにトラ イディアを売却しCTOに就任 → CTO退任後株式会社データインフォーム ド創業 ✤ その他, スタートアップ, 開発チーム, 解析チームの立ち上げなど ✤ その他 ✤ Twitter: https://twitter.com/ken_nishi ✤ Facebook: https://www.facebook.com/kenichiro.nishioka ✤ YouTube ✤ 【経営xデータサイエンスx開発】西岡 賢一郎のチャンネル https://www.youtube.com/channel/UCpiskjqLv1AJg64jFCQIyBg ✤ 機械学習の社会実装勉強会 https://www.youtube.com/channel/UCrjRZ4D2tpqV5UI2XSUKQ6g ✤ Linkedin: https://www.linkedin.com/in/kenichiro-nishioka-3206552a/ 【経営xデータサイエンスx開発】西岡 賢一郎のチャンネル
- 5. AI技術で起きた問題 AIはデータの不適切なバイアスも学習してしまう Chatbot → ヘイト発言 AI採用 → 男女差別 画像認識 → 人種差別 → データがそもそも完璧ではない、そしてAIにも倫理が必要 AIが「正しく」動くためには人間の介入が必要
- 7. 目的の違う2つの文化 【アルゴリズム/AI】 予測精度を上げたい (データが生まれた背景を仮定しない) 参考: Statistical modeling: The two cultures (Breiman, Leo. Statistical science 16.3 (2001): 199-231. 【統計モデリング】 現象を説明したい (データが生まれた背景を仮定する) 人間が理解できる関数 複雑な関数 Data Data 解き明かしたい 分からなくて良い データを生成 データを生成
- 8. 予測精度で既存理論を凌駕 参考: Peterson, Joshua C., et al. "Using large-scale experiments and machine learning to discover theories of human decision-making.” Science 372.6547 (2021): 1209-1214. モデルを仮定 アルゴリズムによる最適化 アルゴリズムで導出した関数は、予測精度が高いが説明できない 主観確率を組み込んだ関数 (プロスペクト理論) モデルを仮定しない不明な関数 行動経済学におけるディープラーニングの活用 < 予測精度
- 10. 人間の理解に焦点を当てたXAI (eXplainable AI) 参考 Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. "" Why should i trust you?" Explaining the predictions of any classifier." Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining. 2016. Lundberg, Scott M., and Su-In Lee. "A unified approach to interpreting model predictions." Proceedings of the 31st international conference on neural information processing systems. 2017. このデータが正と判断された 根拠を知りたい 全体の把握は難しい 局所的に把握する
- 11. AIの判断の「正しさ」を支える技術 参考: LANG, Oran, et al. Explaining in Style: Training a GAN to explain a classifier in StyleSpace. In: Proceedings of the IEEE/CVF International Conf
Editor's Notes
- こんにちはラ・サール52期の西岡です。今回は未来のカタチxAIというテーマでお話させていただきたいと思います。
- こちらが私のプロフィールです。 大学ではコンピューターサイエンスでAI・機械学習の研究をしていました。 大学院生のときにデータサイエンスのスタートアップを立ち上げてから、スタートアップのM&Aをしたり立ち上げ直したりと、データサイエンスのスタートアップに携わってきています。 他には、スタートアップの立ち上げの支援や開発・解析チームの立ち上げの支援なども行っています。 よろしくお願いいたします。
- 今回の講演のテーマが、未来のカタチxAIということで、私がデータサイエンスで新しいサービスを立ち上げる中で、今後とくに重要となっていると考えているAIの判断の正しさを人間が説明するための技術XAIについてお話します。 AIの普及により人間の仕事をどんどん奪っていくといわれ、すでにAIに置き換わり始めているものも出てきています。 実際、AIは多くのサービスにとってなくてはならないものとなっているので、「我社もAIを導入したいがどうしたらいいのか教えてく」というようなAIに関する相談を受けることがあります。 AIが多くの領域でイノベーションを起こしているので、AIならなにかやってくれるのではないか、そういう魔法の杖のようなイメージをAIに持つ人も少なくないです。 そのときによくお話しているのが、AIできることとできないこと、そして、それとともに人間がどのようにAIと付き合わないといけないかということです。 AIは特定の論理に従い、データ上最適な解を出してきます。 しかし、最適な解というものが必ずしも人間がほしいものではありません。 AIによって便利になるはずが、むしろ、予期せぬ問題が起きてしまったということはよくあります。 そこで、AI時代のこの世の中で人間がどのようにAIと付き合っていくために必要となる、AIの判断の正しさを人間が説明するための技術を紹介します。
- みなさんご存知のようにここ最近は、AI技術の躍進により、様々な技術革新ができてきています。 身近なところでは、自動的に人間のような受け答えをしてくれるChatbot, いまやスマホで当たり前に搭載されるようになった顔認証、判別精度の高い画像認識、突然の変化を捉える異常値検知などがあります。 他にも、AIが新しい絵を作成したり、囲碁や将棋の世界でプロを打ち負かしたりと、AIを活用されている事例がいたるところに存在します。 AIの躍進の背景には、PCやスマートフォンのマシンスペックの性能や分散処理技術の向上というインフラの進化の側面と、多くの人がインターネットを介したサービスを使うようになりデータを出すようになったビッグデータ時代の側面があります。 2020年アメリカの市場調査では、2020年に消費されるデジタルデータの総量は59ゼタバイトという報告も出ています。 1ゼタバイトが1兆ギガバイト, 10億テラバイト、59ゼタバイトは590億テラバイトです。 つまり、1テラバイトの容量のディスクを590億個を全部満タンにするぐらいのデータ量が消費されているということです。 そして、これからは5Gなどネットワークインフラの整備により、リアルタイムデータがますます増えてくることも予想されています。 計算インフラの発展、そしてデータの増加により、AI技術はさらに進化していくということです。 この話だけを聞くとAIに投資しない理由はないといえそうです。 しかし、AIの活用事例が増えるとともに、AIによる問題も増えてきています。
- AI技術で起きた問題として有名なものを3つ紹介します。 Microsoftの開発したTayは反ユダヤ発言をするようになり1日でヘイト発言するようになり、オフラインにされました。 AmazonはAI採用を導入したが、男性を高く評価するという男女差別をするAIとなっており、AI採用の利用が停止されました。 GoogleでGooglePhotoで、黒人をゴリラとタグ付けするという人種差別をAIがやり問題となりました。 このように世界を代表するトップ企業でさえ、AIが様々な問題を起こしています。 これらの問題は、多くの場合、データの偏りによって起きていること、つまり既存のデータを学習しても、人間が正しいと思う挙動を示さないということから起きます。 悪い情報をインプットされると悪いものとなってしまうのはAIも同じということです。 人間が考える正しさと、データから導き出せる解が違うのであれば、AIの挙動を正しくするために、人間の介入が必要となってくるということです。 しかし、人間がAIに介入することは、そんな簡単な話ではありません。
- なぜなら、AIはデータにもとづいて最適解を出し判断をすること断は得意だが、説明することは苦手であるという欠点があるからです。 説明とは相手が理解すること、つまり今回でいうと人間がいかに理解できるように説明するかということが重要となります。 例えば、算数しかやってきていない小学生に微分方程式を教える、そういうことが求められてきているということです。 あまりにも多くのことを理解し処理をして判断をできることになったAIが、多くのことを同時に処理できない人間に分かるように判断の根拠を説明することが求められているということです。 その結果、複雑な判断の根拠を簡単にわかるように噛み砕く、いわゆる参考書のような技術が求められるようになっています。 わかりやすい説明のための技術が今回の発表で紹介するXAIと呼ばれるものです。 その話に入る前に、もうすこしAIがなぜ説明が苦手なのか、なぜ人間はAIの判断を理解できないのかについてお話します。
- そもそも2つの文化があることを頭に入れておく必要がある。 AIの有名手法の一つであるRandomForestという有名手法の生みの親のBreimanは、統計モデリングとアルゴリズムの2つの考え方があると論じています。 統計モデリングの世界では、現実世界にある現象を説明することを目的とします。 つまり、データが生成される背景には何かしらの方程式があり、その方程式を導き出すことを目的とします。 たとえば、物理にあるニュートンの運動方程式の第２法則で、F=maつまり、外力は加速度に比例するという方程式というものがあります。 この方程式のように、特定の現象を方程式で表すことをやっていく世界というのが統計モデリングの世界です。 第一原理主義とも呼ばれるもので、現象を数式で表す数学的に美しい世界といえます。 観測されたデータが、何かしらの方程式によって生み出されており、その生み出している方程式、関数を解き明かしたいというのが統計モデリングの主目的となります。 一方で、アルゴリズムの世界、こちらがいわゆるAIの世界では、何かしらの予測精度を上げることを目的とします。 例えば、 株価の予測など未来に起こる現象の予測精度をとにかく上げたいなど、予測精度をあげることを目的としています。 そして、アルゴリズムでは、データを生み出す背景にある方程式は未知のままで、とにかく未来を正確に予測することを目的とします。 それぞれ目的が違うということですね。
- 予測精度を求めたAIが既存の理論よりよいパフォーマンスをだしたという例が、2021年のサイエンスの論文にあります。 この論文では、行動経済学における有名な理論、プロスペクト理論などとAIのディープラーニングで、どちらが予測精度が高いかを実験的に比較しています。 その結果、プロスペクト理論をベースにしたモデルより、ディープラーニングというアルゴリズムによって最適化されたモデルのほうが予測精度が高いことが示されています。 しかし、実際、最適化されたモデルを観察しても、AIが判断で使った関数を人間が理解することができなかったということです。 つまり、AIによる判断は精度としてはよいが、どのように判断しているかを人間が説明できないということです。 言い換えると、よくわからないけど、答えが出せますという状態、数学でいうと証明が意味不明だけど答えがあっているような状態です。
- そもそもAIが判断につかう関数というのは、複雑すぎてわからないのが当たり前です。 こちらで簡単な例を紹介します。 丸と✕を分離する関数を考えてみたとき、左側の境界は線形分離なので簡単に人間でも説明ができます。 一方で右側のように複雑な境界の場合、人間が境界を説明することは難しくなります。 実際のデータでは、左側のように簡単に分離でき説明しやすいものよりも、右側のように複雑で説明しにくいものになることがほとんどです。 AIは複雑な境界を再現することで飛躍的な性能向上を手に入れた一方で、判断基準となる境界条件は人間にとってブラックボックスにみえるようになってしまったということです。 ブラックボックスだから人間が理解しなくていいかというとそうではありません。 冒頭に説明したテック企業のAIの問題などに対処するためには、人間がAIの判断基準をどうにか説明できるようにならないといけません。
- そこで、ここ数年注目されているのが説明可能なAI, explainable AIです。 XAIと呼ばれたりもします。 XAI複雑な境界を局所的に着目したり、ゲーム理論などを応用したりして、人間が説明できるようにしていきます。 これによって予測精度の高いAIがなぜその判断をしたのかを人間が解釈し説明することができるようになってきました。 もちろん、このやり方自体は万能ではなく、そもそも無理に人間が理解するようにできることに意味がない主張するひとがいたりと、賛否両論あり、まだ研究が盛んな分野です。 例えば、医療の現場でデータに基づき疾患があると判断したときに、疾患であると判断した根拠などを示したりします。 私は、人間が解約など特定の行動をするとAIが予測したときになぜその人が解約すると判断されたかを説明するというようなプロダクトを作っています。 プロダクトの話をすると長くなってしまうので、今回は研究の事例を紹介します。
- この研究では、判断根拠とともに予想結果を出すものとして画像解析の例を紹介します。 左側が網膜疾患を表すAI、右側が葉っぱの病気を判定するAIとなっています。 従来のブラックボックスなAIの世界では、判断根拠は提示されず、疾患である確率や病気である確率が定義されていました。 理由はよくわからないが、AIが判断した しかし、この例 網膜疾患を判定するAI １つ目のattributeとして、exudate ２つ目のattributeとして、cotton wool 病気となっている葉っぱを見極めるAI 1つ目のAttributeとして、Base leaf color (葉脚 (ようきゃく) の色) 2つ目のAttributeとして、Rotten Apex (腐った頂部) このように判断根拠が示されていると、人間が理解し説明することもできるようになります。 そして、判断根拠が人間の想定していたものと違ったときに、新しい発見やまたデータの不具合を発見できる用になるということです。
- 駆け足になりましたが、最後に今回プレゼンで持ち帰っていただきたいメッセージをお伝えして終わりにしようと思います。 AIは飛躍的な進化を遂げており、プログラミングができなくてもAIを使うことができるようになるほど、コモディティ化が進んでいます。 ボタンをぽちぽち押すだけで予測モデルができるようなサービスはどんどん出てきており、この流れはより加速していきます。 しかし、私たちが活きている世界で生まれるデータは、無視できないバイアスを大量に含んでおり、そのバイアスによりAIは人間がやってほしくない正しくない挙動をすることがあります。 このような自体をさけるためにも、AIの判断がどのようにされたか、人間が解釈し説明することが必要となってきます。 身近になりすぎたAIは便利でもあり危険でもあります、AIを活用するのはあくまでも人間、AIの判断が正しいのかどうかを、人間が説明し保証していくことがより一層求められてくることとなります。 以上です。