More Related Content
What's hot
What's hot (20)
Similar to ChatGPTがもたらす未来予測
Similar to ChatGPTがもたらす未来予測 (20)
More from Koji Fukuoka
More from Koji Fukuoka (18)
ChatGPTがもたらす未来予測
- 2. 本シリーズ共通の趣旨：３つの謎への探求をカジュアルに楽しむ COPYRIGHT@ KOJI FUKUOKA 2 生命とは？ 宇宙とは？ 知能とは？ 宇宙物理学 宇宙生物学 分子生物学 合成生物学 神経科学 コンピュータ科学 物理学 生物学 化学 生理学 数学 解きたい謎 関連する学問テーマ 学問テーマの大分類 今回の テーマ
- 3. 資料の構成 • chatGPT誕生経緯（さらっと） • 生成系AIの分類と特徴 • 生成系AIのインパクト • 生成系AIによる未来予測 • まとめ ※質問・感想は都度チャットでお願いします COPYRIGHT@ KOJI FUKUOKA 3 【自己紹介】 某社でAIなど新技術を活用した事業開発。 元々宇宙物理研究を志し、今は１科学愛好家。
- 5. 参考：対話プログラムELIZA（1956年開発）の対話事例 COPYRIGHT@ KOJI FUKUOKA 5 （赤字はELIZAが発信） 「人は皆同じです。」 「どういうふうに？」 「いつも何かで私たちを悩ませます。」 「何か例を思いつきますか？」 「私のボーイフレンドが私をここに連れてきました。」 「あなたのボーイフレンドがあなたをここに連れてきたのですね。」 「彼がいうには、私はいつも元気がないそうです。」 「それはお気の毒です。」 「本当に。私は不幸です。」 「ここにくれば不幸でなくなると思いますか？」 「私には助けが必要です。それは確かのようです。」 「助けを得るとはどういうことですか？」 「私の母とうまくいくようになるといいのですが。」 「あなたの家族のことをもっと話してください。」 ※出所：ハワード・ガースナー著 佐伯 訳「認知革命」 当時、診察を受けた患者のなかには、 中身はマシンといっても信じずに、診察を 継続希望するほどの社会現象へ →プログラム開発者はAI批判側へ転向 2022/7セッション の資料再掲
- 8. ディープラーニングのインパクト：位置づけと特徴 COPYRIGHT@ KOJI FUKUOKA 8 従来の機械学習 ディープラーニング 人が特徴を抽出 機械学習で分類 結果 「機械自身」が 特徴を抽出して 分類 結果 画像 ディープラーニングとその他機械学習の違い AIにおけるディープラーニングの位置づけ 機械学習(教師 あり/なしで分類) ニューラル ネットワーク ディープ ラーニング 統計解析 ルールベース ソフトウェアのみ ・・・ ・・・ ・・・ CNN RNN GAN 次元削減 スパース モデリング ・・・ 強化学習 ・・・ CNN(Convolutional Neural Network):画像認識でよく使われる RNN(Recurrent Neural Network):時系列処理でよく使われる→GPTへ応用 GAN(Genera tive Adversarial Networks)：データ生成モデルでよく使われる AI手法 HWや環境も セット 2022/7セッション の資料再掲
- 9. Google系 chatGPTの誕生と特徴：ディープラーニングからChatGPTへ 9 Copyright@ Koji fukuoka ChatGPTへの系譜 各公式サイトを元に作成 RNN Transformer (2017) ※Open Source化 GPT: Generative Pretrained Transformer (2018) GPT-3 (2020) GPT-4 (2023/3) Attention 機構 ChatGPT (2020) 3.5をファイン チューニング ChatGPT plus 改 善 BERT: Bidirectional Encoder Representations from Transformers (2018) … LaMDA: Language Model for Dialogue Applications (2021) Bard: (2023/2) PaLM: Pathways Language Model (2022) 超ざっくりいうと、 関係ありそうな所 を巧妙に当たり付 けして処理を ショートカット ChatGPT plus (2023)
- 11. chatGPTの誕生と特徴：ザワザワな研究発表 COPYRIGHT@ KOJI FUKUOKA 11 https://arxiv.org/pdf/2001.08361.pdf https://openreview.net/forum?id=yzkSU5zdwD https://togetter.com/li/2069466 スケーリング則（OpenAI 2020年） 大規模言語モデル(LLM)では損失 L と３つのパラメーター間に 相関（べき乗関係）がある。 C : amount of compute D : dataset size N : number of model parameters
- 13. 爆速なChatGPT COPYRIGHT@ KOJI FUKUOKA 13 https://finance.yahoo.com/news/chatgpt-on-track-to-surpass-100-million-users-faster-than-tiktok-or-instagram-ubs-214423357.html https://openai.com/blog/chatgpt-plugins 2022/11末にChatGPT(GPT3.5)リリースし、2023/3にAPI/plugin、 GPT4を発表 Webテキスト系サービス以外にも、３D(Unity, Blender)・ ロボット(OrionStar)など関連分野でも連携。
- 14. GPT-4の特徴 COPYRIGHT@ KOJI FUKUOKA 14 難易度の高い米国試験群 性能向上（多言語も） マルチモーダル化（まず画像対応から） https://cdn.openai.com/papers/gpt-4.pdf
- 15. ChatGPTの利用方法例 COPYRIGHT@ KOJI FUKUOKA 15 https://mpost.io/chatgpt-the-future-of-text-to-image-prompts/ 私の利用方法 • アイデア出し（Blogとか計画素案とか） • 文章整形（表現・文法チェック・要約化など） • 画像・動画制作（他サービス組み合わせ） その他伺うケース • 計算/プログラミング支援 • 社内の書類作成（フォーマット等） • 壁打ち（交渉や成果物の評価とか）
- 16. LLM（テキスト生成AI）がもたらすマルチモーダル化 COPYRIGHT@ KOJI FUKUOKA 16 https://mpost.io/chatgpt-the-future-of-text-to-image-prompts/ 【画像生成AI】 Stable Fusion Midjourney Dalle-2 etc
- 18. 生成系AIがもたらす未来予測：産業分野・基礎研究で競争激化 「プロンプトエンジニアリング」というリテラシー競争 ※「検索エンジン」登場時と空気は類似しているが、今回は創発的な活動まで。 産業競争の決め手は性能よりマーケティング(UX, UI)/事業開発能力！？ COPYRIGHT@ KOJI FUKUOKA 18 OpenAI CEO サム・アルトマン 2005年：位置情報SNSを運営する「Loopt」を共同 起業 2011年：投資会社「Yコンビネーター」に参加 2012年：Looptを売却 2014年：Yコンビネーターの代表に就任 2015年：新たに設立されたAI研究機関「OpenAI」 のCEOに就任 2019年：OpenAIに注力するためYコンビネーターを 退職 https://www.paloaltoinsight.com/2022/11/15/openai-ceo-sam-altman/
- 19. 参考：脳とAIのつながり COPYRIGHT@ KOJI FUKUOKA 19 ※超AI入門 ※あたらしい脳科学と人工知能の教科書 ディープラーニング 実際の脳 誤差逆伝播法 (バックプロパゲー ション) 必要 未確認 層 縦に深い 100層超も 大脳皮質：6層 小脳皮質：3層 正解(教師) 必要 大脳：不必要の 可能性高 小脳：必要 ニューロンの接続 隣の層のニューロン と接続 RNNは時間報告 の接続も 近傍および遠方 と接続 ディープラーニングと実際の脳との比較 2021/2「テクノロジー から見た人類の知能」 の再掲
- 21. 脳に回帰！？ COPYRIGHT@ KOJI FUKUOKA 21 一般的なニューロン構造 （軸索 - 樹状突起間(シナプス)で 電気信号を授受） ショウジョウバエ（幼虫）のニューロン（3000個）の 全脳を解明（2023/3） https://www.livescience.com/1st-complete-map-of-an-insects-brain-contains-3016-neurons https://note.com/kojifukuoka/n/nf075f7513309 軸索 - 樹状突起だけでなく、 軸索→軸索、樹状突起→樹状突 起、の信号授受ルートが全体の3 分の1も占めていることが判明 →Attention機構との類似性を 指摘
- 22. 基礎科学にも影響：たんぱく質解析 COPYRIGHT@ KOJI FUKUOKA 22 https://gigazine.net/news/20221102-meta-esm-metagenomic-atlas-protein-structure/ https://www.science.org/doi/10.1126/science.ade2574 https://i.gzn.jp/img/2022/11/02/meta-esm-metagenomic-atlas-protein-structure/01.png 2022/7に、AlphaFoldが予測した 2億種以上のタンパク質の立体構造 を検索可能なデータベースとして 公開 →創薬の探索活動に影響 2022/11に、Metaが6億1700万種以上のメタゲノムタンパク質構造を予測した データベース「ESM Metagenomic Atlas」を公開(Transformerを活用) 「医療・自然化学・環境応用・再生可 能エネルギーなどの分野で実用化され るタンパク質の発見を加速させる可能 性を秘めています」by 研究G
- 23. 創発現象？ COPYRIGHT@ KOJI FUKUOKA 23 23 創発現象ともみれる現象（Google 2022年発表） CoT：Chain Of Though （思考の連鎖） モデル量を増やし続けるとどこかで飛躍的な 改善（相転移に似た現象）を確認
- 24. 生成系AIがもたらす未来予測：直近は産業分野で生産性の淘汰 24 Copyright@ Koji fukuoka 問題解決プロセスで見た影響度（予測） 目標設定 目的設計 実行 計画策定 他者 巻き込み AIアシスト領域
- 25. 生成系AIがもたらす未来予測：直近は産業分野で生産性の淘汰 COPYRIGHT@ KOJI FUKUOKA 25 ●通訳・翻訳者 ●調査研究者/市場調査員 ●詩人、作詞家 ●動物科学者 ●広報専門家 ●ライター、作家 ●数学者 ●税理士 ●金融データアナリスト ●ウェブデザイナー/ デジタルインターフェイスデザイナー https://www.forbes.com/sites/joemckendrick/2023/03/26/most-jobs-soon-to-be-influenced- by-artificial-intelligence-research-out-of-openai-and-university-of-pennsylvania-suggests/ https://japan.zdnet.com/article/35201926/ https://www.key4biz.it/wp-content/uploads/2023/03/Global-Economics-Analyst_-The- Potentially-Large-Effects-of-Artificial-Intelligence-on-Economic-Growth-Briggs_Kodnani.pdf 【Open AIのレポート(2023/3/27)】 高度なAI ベースの影響があると考えられて いる職業リスト （米国の労働力の約 80% は、GPT導入で 10%の仕事が影響を受ける可能性があり 【Goldman Sachsのレポート(2023/3/26)】 米国の雇用のうち約3分の2は、AIによる自動化に直面。 影響を受ける職（事務および管理支援職（46％）や法務 職（44％）など）では、業務の25～50％がAIに取って代 わられる可能性
- 26. 生成系AIがもたらす未来予測：例：デジタルマーケティング デジマ分野で影響を受ける領域 コンテンツマーケティング（クリエイティブの質・量） SEO（「検索」という意味合いが変わるか？） ABテスト系（自律化が促進） COPYRIGHT@ KOJI FUKUOKA 26 https://twitter.com/swyx/status/1639160009635536896 ExpediaのChatGPT pluginの中で、「自社以外のこと を触れてはならない」という命令らしきものがある →自社に有利な回答をするようにLLMを教育している ように見受けられる。
- 28. 生成系AIがもたらす未来予測：「政治」「環境」「教育」など社会混乱リスク COPYRIGHT@ KOJI FUKUOKA 28 https://www.eurasiagroup.net/issues/top-risks-2023 https://www.dlri.co.jp/report/ld/216976.html https://www.clearview.ai/ https://www.palantir.com/platforms/gotham/ TOP RISK 2023(eurosia group) 既にAIは今の戦争に投入済み。 • Palantir • Clearview ・・・
- 30. 生成系AIがもたらす未来予測：パラダイムシフトが加速して予測不可能に COPYRIGHT@ KOJI FUKUOKA 30 生物学と技術の歴史における主要な出 来事の 13 の複数の独立したリスト （2005年にレイ・カーツワイル作成）
- 31. まとめ ChatGPTをはじめ、人間の局所的能力に近いまたは超えたと思われるほど性能 が高まっている 問題解決のプロセスでみれば、目的作りと巻き込み力以外はAIが幅広く活躍す る可能性が高い（創発的活動にも） 当事者すら想定外なブレークスルーが起こっており、カーツワイルが唱える技術的 特異点（シンギュラリティ）の信ぴょう性が増してきた 31 Copyright@ Koji fukuoka 目標設定 目的設計 実行 計画策定 他者 巻き込み 問題解決活動 上記以外の活動 （芸術・遊び・恋愛等）