ふくしまプログラミング推進協会_生成AIの使いこなし202311.pdf
•
0 likes•151 views
2023/11/11 「ChatGPTの衝撃、生成AIが拓く未来」セッション資料
More Related Content
What's hot
What's hot (20)
Similar to ふくしまプログラミング推進協会_生成AIの使いこなし202311.pdf
Similar to ふくしまプログラミング推進協会_生成AIの使いこなし202311.pdf (20)
More from Ayako Omori
More from Ayako Omori (20)
Recently uploaded
Recently uploaded (8)
ふくしまプログラミング推進協会_生成AIの使いこなし202311.pdf
- 1. ChatGPTの衝撃、生成AIが拓く未来 ～ITに関わってゆく学生のみなさまへ～ 2023/11/11 日本マイクロソフト株式会社 Asia Global Blackbelt AI GBB Technology Specialist | Technical Evangelist 大森 彩子
- 3. ChatGPT, 生成 AI とは
- 4. ベネッセ「ChatGPTの利用に関する意識調査」 | ニュースリリース| 株式会社ベネッセホールディングス (benesse.ne.jp) 全業種でChatGTPが人気講座に急浮上、ベネッセ調べ (it-biz.jp)
- 5. 歴史的な テクノロジーシフト 1 億ユーザーに到達するまでの期間 3 ヵ月 16 年 5000万 1億 SNS: 4.5 年 ChatGPT: 3 ヵ月 携帯電話: 16 年 インターネット: 7 年 Source: UBS / Yahoo Finance
- 6. GPTとは何なのか ～チャットAIを例にした動作イメージ～ 安土桃山城を築き、天下統一を目指した織田▮… テキスト生成過程 戦国時代の終焉の歴史について 教えてください。 ■ 応答を停止して ✓ ‘日本の戦国時代の終焉’を検索しています… AIによる次の文字(or単語)の予測 0 0.1 0.2 0.3 5.3 22.7 71.3 … … … … 信秀 信忠 信長 次の単語の出現確率(％) AIは逐次、次に入りそうな文字(or単語)を予測し、 確率の高いものを埋めていく 次は何の単語かな？ たぶん信長 ※説明のため、かなり抽象化した表現をしています。実際の処理とは異なりますので、あくまでイメージとしてご認識ください。 事実関係でなく出現確率である点に注意 学習データ プロンプト 文脈 GPT
- 7. GPTとは何なのか OpenAI 社が開発した “生成AI” と 呼ばれる モデル (AI のエンジン) のひとつ インターネットをはじめとする膨大なテキ スト情報を学習させたモデルで、Large Language Model (LLM) に分類される ある程度の ”常識” を備えており、入力 (指示)に対して、言葉や文章を予測し ながら出力(回答)を生成する 基本的には文章で入力(指示)を行う GPT この文章の要約は こちらです --------- xxxxxxxxxxxxxxxxxx xxx … … … この内容の反対意見 としては、以下の点が 挙げられます --------- xxxxxxxxxxxxxxxxxx xxx … … … 入力 (指示) 出力 (回答) 以下の文章を300字 以内に要約して --------- xxxxxxxxxxxxxxxxxx xxx … … … xxxxxxxxxxxxxxxxxx xxx… … … --------- 以上の内容の反対 意見を出して 海岸にいるネコの絵 を描いて
- 9. PC ブラウザーからアクセス bing.com/chat スマホから Bing App インストール iOS (iPhone) Android
- 10. 生成 AI のなにがスゴイのか
- 11. Generative AI (生成AI) への道のり Artificial Intelligence Machine Learning Deep Learning 1956 人工知能 (Artificial Intelligence) 人間の知性を複製または超えることができるインテリジェントな 機械の作成を目指すコンピュータサイエンスの分野 1997 機械学習(Machine Learning) 機械が既存のデータから学習し、そのデータを改善して意思決定 や予測を行うことを可能にするAIのサブセット 2012 深層学習 (Deep Learning) ニューラルネットワークの層を使用してデータを処理し、意思決定 を行う機械学習技術decisions 2021 生成 AI (Generative AI) プロンプトまたは既存のデータに基づいて、新しい書類、画像、 および音声のコンテンツを作成 Generative AI
- 12. Simple model: 一つの要素に特化したモデル Massive model: 様々な用途に使える汎用的な AI 従来の AI モデル 新しい AI モデル AI モデルの変革
- 13. これまでの AI (認知 AI | Cognitive AI) 画像分類や音声認識など、個別のタスクに特化したAI 画像分類AI 音声認識AI 機械翻訳AI 需要予測AI 入力 出力 日本語 英語 入力 出力 過去の需要 未来の需要 入力 出力 音声 こんにちは テキスト レコメンドAI 感情分析AI 入力 出力 レビュー ポジティブ 感情 入力 出力 購買履歴 商品 入力 出力 画像 不良品 判定 こんにちは Hello AI AI AI AI AI AI タスクごとに大量のデータを集めてAIに学習させて、それぞれモデルを生成
- 14. 生成 AI (Generative AI) とは? 画像生成やテキスト生成のように “0から1を生み出す(ように見える)” AI 生成物 プロンプト(=AIへの指示) 生成AI 海岸にいるネコ GPT-3 テキスト生成 20年6月 Stable Diffusion 22年8月 画像生成 Midjourney 22年7月 画像生成 22年12月 ChatGPT テキスト生成 VALL-E 音声生成 23年1月 23年3月 GPT-4 テキスト生成 生成系AIの進化 事前に大量のデータによる 学習が実行済みの AI
- 15. ChatGPT 登場から10ヶ月… 2022/11 ChatGPT の登場 OpenAI社からUIサービスとして発表。 瞬く間に生成AIモメンタムが加速。 プロンプトエンジニアリングの テクニックに関する議論が各所で話題に。 2023/2 Bing Chat 検索を組み合わせて情報の精度を 高めたチャットサービス。検索した 情報を付与する「Grounding」と いう考え方が定着し、 これを実現するRAGアーキテクチャ の浸透が加速。 2023/3 GPT-4 / Plugin GPT-4＋Plugin の仕組みを使った 他サービスや機能との連携により、 GPT で実現可能な機能領域が大 幅に拡大。 2023/6 Function Calling API を使った Plugin 呼び出し機能 とも呼べる Function Calling が リリース。関数の定義をプロンプトと 共に渡すことで、プロンプトから必要 パラメータを抽出し JSON で応答する。 2023/8 Fine tuning 待望の ChatGPT モデルの Fine tuning がリリース。 会話トーンの変更や Few-shot Learning のトークン消費を抑える 用途で用いられる。 2023/9 ChatGPT アプリに新UX GPT-4V, Whisper などを 組み込んだ画像・音声・文字での 新しいユーザインタフェースを公開。
- 19. 生成 AI を使いこなす、とは
- 20. 生成 AI を使いこなす 生成 AI が使われた サービス、アプリを 上手に使う 生成 AI を使った サービス、アプリを (自分で)開発する
- 22. 株式会社ベネッセコーポレーション 小学生向け通信教育サービス「進 研ゼミ 小学講座」にて、夏休み自 由研究の相談窓口として Azure OpenAI Service を 活 用し た チ ャ ッ ト ボ ッ ト サ ー ビ ス を 提 供 。 保護者管理のもとで最新 AI に触 れることを可能にすると共に、子ども 自身の考える力を促す教材を開発。 https://www.benesse.co.jp/
- 23. 株式会社リクルート 国内最大級の旅行予約サイト「じゃらん net」に旅行先検討AIの試験運用版とし て Azure OpenAI Service を活用中。 本試験運用版では、旅行先エリアや 宿泊先の相談ができるチャットサービスに なっており、旅行先エリアが決まっていな いユーザが抽象的なイメージでも情報が 検索しやすくなり、旅行先エリアの決定 からサポートが可能。 リクルートグループ：https://recruit-holdings.com/ja/ リクルート：https://www.recruit.co.jp/
- 24. 生成 AI の導入プロセス OpenAI ＋ インターネット情報 OpenAI ＋ 社内＆独自情報 OpenAI を そのまま利用 Azure OpenAI Service
- 25. GPTにおけるハルシネーション (虚偽) GPTは確率に基づく言語生成モデルです。 十分な学習データや参考情報を与えなければ、正確な回答はできません。 Azure OpenAI の責任あるAIとしての利用に関するベストプラクティス (microsoft.com) 事実関係を示した外部情報をバックエンドで文脈として付与 (Grounding) ✓ 計算や最適化など苦手なタスクは別ロジックに任せる ✓ 取得情報が十分な領域に用途を限定するなど、 情報不足になるような事実関係を求められるサービス設計をしない ✓ Hallucinationをカバーするアイディア 正しい情報が記載されているドキュメントやサイトを併記するか、 回答を動的生成せず正解コンテンツを直接表示する。 ✓
- 26. Fine tuning VS Grounding コスト ①GPU学習コスト ②テキスト生成時トークン処理コストの割増 ③Fine tuned Model専用エンドポイント稼働費 ①検索エンジン利用料 ②トークンの肥大化による毎リクエストのコスト増 Grounding データを付与 Fine tuning データを追加して再学習 技術 ニューラルネットワークの学習の知見が必要 チャンクチューニング、Vector検索、Promptingの知識が必要 回答精度の確保 やや手間や技術が必要 比較的手軽 推奨用途 ①トーンの変更 ②タスク精度の強化 ③出力形式の固定化 ④トークンの節約 知識やロジックの獲得 生成速度 トークン処理量減少のため1回ごとの処理は高速化が見込める 検索へのアクセスやプロンプトのトークン増などで比較的低速 時間 データセットのサイズに依存し数分～数時間以上 数秒～ (検索エンジンへのデータ取り込みとして) ※ データやタスクにも依存するのであくまで目安です。また、GPTのAPIに限った比較であり、LLM全般に当てはまるものではありません。
- 27. まとめ GPT は生成 AI と呼ばれるモデルのひとつ 生成 AI が誰でも手頃に利用できるようになり、個人がモデルを使ったり、 企業がモデルを使ったサービスをいち早く開発したりできるようになった 生成AIや、生成AIを使ったサービスを利用することで、より創造的なこと、 人間でしかできないことに集中していきましょう 生成AIが常識を備えているといっても、データが限定的 (2019年ごろまで)。 それ以降、または独自のデータから回答を生成したい場合は、データを付与 したり、再学習させたりする方法がある ハルシネーション(虚偽の回答)に注意。生成AIの回答を確認するのは(最終 的には)利用者の責任
- 28. MICROSOFT CONFIDENTIAL 本資料は情報提供のみを目的としており、本資料に記載されている情報は、本資料作成時点でのマイクロソフトの見解を示したものです。状況等の変化により、内容は変更される場合が あります。本資料の記載内容（提示されている条件等を含みます）は、弊社での社内承認、および/またはお客様との有効な契約を経たうえで最終的に確定されます。それまでは、正式 に発効するものではありません。また、本資料に記載されている価格はいずれも、別段の表記がない限り、参考価格となります。お客様の最終的な購入価格は、お客様のリセラー様により 決定されます。マイクロソフトは、本資料の情報に対して明示的、黙示的または法的な、いかなる保証も行いません。 © 2023 Microsoft Corporation. All rights reserved. Thank you!