ChatGPTの衝撃、生成AIが拓く未来
~ITに関わってゆく学生のみなさまへ~
2023/11/11
日本マイクロソフト株式会社
Asia Global Blackbelt
AI GBB Technology Specialist | Technical Evangelist
大森 彩子
ChatGPT, 生成 AI とは
ベネッセ「ChatGPTの利用に関する意識調査」 | ニュースリリース|
株式会社ベネッセホールディングス (benesse.ne.jp)
全業種でChatGTPが人気講座に急浮上、ベネッセ調べ (it-biz.jp)
歴史的な
テクノロジーシフト
1 億ユーザーに到達するまでの期間
3 ヵ月
16 年
5000万
1億
SNS: 4.5 年
ChatGPT: 3 ヵ月
携帯電話: 16 年
インターネット: 7 年
Source: UBS / Yahoo Finance
GPTとは何なのか ~チャットAIを例にした動作イメージ~
安土桃山城を築き、天下統一を目指した織田▮…
テキスト生成過程
戦国時代の終焉の歴史について
教えてください。
■ 応答を停止して
✓ ‘日本の戦国時代の終焉’を検索しています…
AIによる次の文字(or単語)の予測
0
0.1
0.2
0.3
5.3
22.7
71.3
…
…
…
…
信秀
信忠
信長
次の単語の出現確率(%)
AIは逐次、次に入りそうな文字(or単語)を予測し、
確率の高いものを埋めていく
次は何の単語かな?
たぶん信長
※説明のため、かなり抽象化した表現をしています。実際の処理とは異なりますので、あくまでイメージとしてご認識ください。
事実関係でなく出現確率である点に注意
学習データ
プロンプト
文脈
GPT
GPTとは何なのか
 OpenAI 社が開発した “生成AI” と
呼ばれる モデル (AI のエンジン) のひとつ
 インターネットをはじめとする膨大なテキ
スト情報を学習させたモデルで、Large
Language Model (LLM) に分類される
 ある程度の ”常識” を備えており、入力
(指示)に対して、言葉や文章を予測し
ながら出力(回答)を生成する
 基本的には文章で入力(指示)を行う
GPT
この文章の要約は
こちらです
---------
xxxxxxxxxxxxxxxxxx
xxx … … …
この内容の反対意見
としては、以下の点が
挙げられます
---------
xxxxxxxxxxxxxxxxxx
xxx … … …
入力 (指示) 出力 (回答)
以下の文章を300字
以内に要約して
---------
xxxxxxxxxxxxxxxxxx
xxx … … …
xxxxxxxxxxxxxxxxxx
xxx… … …
---------
以上の内容の反対
意見を出して
海岸にいるネコの絵
を描いて
Microsoft Bing Chat
PC ブラウザーからアクセス
bing.com/chat
スマホから
Bing App インストール
iOS (iPhone)
Android
生成 AI のなにがスゴイのか
Generative AI (生成AI) への道のり
Artificial Intelligence
Machine Learning
Deep Learning
1956
人工知能 (Artificial Intelligence)
人間の知性を複製または超えることができるインテリジェントな
機械の作成を目指すコンピュータサイエンスの分野
1997
機械学習(Machine Learning)
機械が既存のデータから学習し、そのデータを改善して意思決定
や予測を行うことを可能にするAIのサブセット
2012 深層学習 (Deep Learning)
ニューラルネットワークの層を使用してデータを処理し、意思決定
を行う機械学習技術decisions
2021 生成 AI (Generative AI)
プロンプトまたは既存のデータに基づいて、新しい書類、画像、
および音声のコンテンツを作成
Generative AI
Simple model:
一つの要素に特化したモデル
Massive model:
様々な用途に使える汎用的な AI
従来の AI モデル 新しい AI モデル
AI モデルの変革
これまでの AI (認知 AI | Cognitive AI)
画像分類や音声認識など、個別のタスクに特化したAI
画像分類AI 音声認識AI
機械翻訳AI 需要予測AI
入力 出力
日本語 英語
入力 出力
過去の需要 未来の需要
入力 出力
音声
こんにちは
テキスト
レコメンドAI
感情分析AI
入力 出力
レビュー
ポジティブ
感情
入力 出力
購買履歴 商品
入力 出力
画像
不良品
判定
こんにちは Hello
AI
AI
AI
AI
AI
AI
タスクごとに大量のデータを集めてAIに学習させて、それぞれモデルを生成
生成 AI (Generative AI) とは?
画像生成やテキスト生成のように “0から1を生み出す(ように見える)” AI
生成物
プロンプト(=AIへの指示) 生成AI
海岸にいるネコ
GPT-3
テキスト生成
20年6月
Stable Diffusion
22年8月
画像生成
Midjourney
22年7月
画像生成
22年12月
ChatGPT
テキスト生成
VALL-E
音声生成
23年1月 23年3月
GPT-4
テキスト生成
生成系AIの進化
事前に大量のデータによる
学習が実行済みの AI
ChatGPT 登場から10ヶ月…
2022/11
ChatGPT の登場
OpenAI社からUIサービスとして発表。
瞬く間に生成AIモメンタムが加速。
プロンプトエンジニアリングの
テクニックに関する議論が各所で話題に。
2023/2
Bing Chat
検索を組み合わせて情報の精度を
高めたチャットサービス。検索した
情報を付与する「Grounding」と
いう考え方が定着し、
これを実現するRAGアーキテクチャ
の浸透が加速。
2023/3
GPT-4 / Plugin
GPT-4+Plugin の仕組みを使った
他サービスや機能との連携により、
GPT で実現可能な機能領域が大
幅に拡大。
2023/6
Function Calling
API を使った Plugin 呼び出し機能
とも呼べる Function Calling が
リリース。関数の定義をプロンプトと
共に渡すことで、プロンプトから必要
パラメータを抽出し JSON で応答する。
2023/8
Fine tuning
待望の ChatGPT モデルの
Fine tuning がリリース。
会話トーンの変更や Few-shot
Learning のトークン消費を抑える
用途で用いられる。
2023/9
ChatGPT アプリに新UX
GPT-4V, Whisper などを
組み込んだ画像・音声・文字での
新しいユーザインタフェースを公開。
生成 AI で新たに出来るタスク
文章生成系
要約
小学生にも分かるように300文字
程度で要約して
感情分析
喜び/怒り/悲しみの感情を0~5で
表現して
エンティティ分析
場所/人物名/組織名を抽出して
キーフレーズ抽出
次の文章の重要なフレーズを抽出
して
インサイト抽出
次のレビューから商品の改善点を
考えて
思考の壁打ち
〇〇という考えで抜けている点を
指摘して
問題作成
次の文章から4択問題を作成して
コード作成
OpenAIのAPIを実行するコードを
書いて
アイデア創出
人気の出るブログ記事の内容を
提案して
記述アシスタント
このメールの関係者の日程を調整
するメールを書いて
情報検索
WEBアプリの要件定義について
教えて
情報抽出系
従来からできるタスク
新しくできるタスク
従来からのタスクは精度が向上+文脈理解・文章生成系タスクができるように
文脈理解系
校正
誤字/脱字/タイプミスを見つけて
添削/評価
〇〇の基準で10点満点で評価
して
翻訳
次の文章をフォーマルな日本語に
翻訳して
テキスト分類
次のニュース記事のカテゴリーを教
えて
チェック系
翻訳系
分類系
GPTに期待される用途の簡易マッピング
厳密 創造的
仕事
生活
英会話アプリ
コード生成
要件定義
キャラクター
情報検索
文書添削
スライド作成
QAボット
ブログ作成
マーケインサイト提案
スマートスピーカー
カーナビ
メール作成
カウンセリング
教材作成
1次コンサル
ソースコード公開中
https://github.com/ayako/BuildJapan2023AOAIDemo
生成 AI を使いこなす、とは
生成 AI を使いこなす
生成 AI が使われた
サービス、アプリを
上手に使う
生成 AI を使った
サービス、アプリを
(自分で)開発する
Microsoft 365 Copilot
株式会社ベネッセコーポレーション
小学生向け通信教育サービス「進
研ゼミ 小学講座」にて、夏休み自
由研究の相談窓口として Azure
OpenAI Service を 活 用し た
チ ャ ッ ト ボ ッ ト サ ー ビ ス を 提 供 。
保護者管理のもとで最新 AI に触
れることを可能にすると共に、子ども
自身の考える力を促す教材を開発。
https://www.benesse.co.jp/
株式会社リクルート
国内最大級の旅行予約サイト「じゃらん
net」に旅行先検討AIの試験運用版とし
て Azure OpenAI Service を活用中。
本試験運用版では、旅行先エリアや
宿泊先の相談ができるチャットサービスに
なっており、旅行先エリアが決まっていな
いユーザが抽象的なイメージでも情報が
検索しやすくなり、旅行先エリアの決定
からサポートが可能。
リクルートグループ:https://recruit-holdings.com/ja/
リクルート:https://www.recruit.co.jp/
生成 AI の導入プロセス
OpenAI
+
インターネット情報
OpenAI
+
社内&独自情報
OpenAI を
そのまま利用
Azure OpenAI Service
GPTにおけるハルシネーション (虚偽)
GPTは確率に基づく言語生成モデルです。
十分な学習データや参考情報を与えなければ、正確な回答はできません。
Azure OpenAI の責任あるAIとしての利用に関するベストプラクティス (microsoft.com)
事実関係を示した外部情報をバックエンドで文脈として付与
(Grounding)
✓
計算や最適化など苦手なタスクは別ロジックに任せる
✓
取得情報が十分な領域に用途を限定するなど、
情報不足になるような事実関係を求められるサービス設計をしない
✓
Hallucinationをカバーするアイディア
正しい情報が記載されているドキュメントやサイトを併記するか、
回答を動的生成せず正解コンテンツを直接表示する。
✓
Fine tuning VS Grounding
コスト
①GPU学習コスト ②テキスト生成時トークン処理コストの割増
③Fine tuned Model専用エンドポイント稼働費
①検索エンジン利用料
②トークンの肥大化による毎リクエストのコスト増
Grounding
データを付与
Fine tuning
データを追加して再学習
技術 ニューラルネットワークの学習の知見が必要 チャンクチューニング、Vector検索、Promptingの知識が必要
回答精度の確保 やや手間や技術が必要 比較的手軽
推奨用途
①トーンの変更 ②タスク精度の強化
③出力形式の固定化 ④トークンの節約
知識やロジックの獲得
生成速度 トークン処理量減少のため1回ごとの処理は高速化が見込める 検索へのアクセスやプロンプトのトークン増などで比較的低速
時間 データセットのサイズに依存し数分~数時間以上
数秒~
(検索エンジンへのデータ取り込みとして)
※ データやタスクにも依存するのであくまで目安です。また、GPTのAPIに限った比較であり、LLM全般に当てはまるものではありません。
まとめ
 GPT は生成 AI と呼ばれるモデルのひとつ
 生成 AI が誰でも手頃に利用できるようになり、個人がモデルを使ったり、
企業がモデルを使ったサービスをいち早く開発したりできるようになった
 生成AIや、生成AIを使ったサービスを利用することで、より創造的なこと、
人間でしかできないことに集中していきましょう
 生成AIが常識を備えているといっても、データが限定的 (2019年ごろまで)。
それ以降、または独自のデータから回答を生成したい場合は、データを付与
したり、再学習させたりする方法がある
 ハルシネーション(虚偽の回答)に注意。生成AIの回答を確認するのは(最終
的には)利用者の責任
MICROSOFT CONFIDENTIAL
本資料は情報提供のみを目的としており、本資料に記載されている情報は、本資料作成時点でのマイクロソフトの見解を示したものです。状況等の変化により、内容は変更される場合が
あります。本資料の記載内容(提示されている条件等を含みます)は、弊社での社内承認、および/またはお客様との有効な契約を経たうえで最終的に確定されます。それまでは、正式
に発効するものではありません。また、本資料に記載されている価格はいずれも、別段の表記がない限り、参考価格となります。お客様の最終的な購入価格は、お客様のリセラー様により
決定されます。マイクロソフトは、本資料の情報に対して明示的、黙示的または法的な、いかなる保証も行いません。
© 2023 Microsoft Corporation. All rights reserved.
Thank you!


ふくしまプログラミング推進協会_生成AIの使いこなし202311.pdf