[四国クラウドお遍路 2024 in 高知] Generative AI with AWS

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Generative AI with AWS
AWSで実現する生成AI の取り組み
アマゾンウェブサービスジャパン合同会社
ソリューションアーキテクト
西田光彦

自己紹介
2
名前：西田光彦 (Mitsuhiko Nishida)
所属：アマゾンウェブサービスジャパン合同会社
技術統括本部エンタープライズ技術本部
ハイテク・製造・自動車産業グループ製造第三ソリューション部
ソリューションアーキテクト
経歴：SI企業のシステムエンジニアとして、
クラウドネイティブアプリケーションの設計・構築や、
オンプレミスからのマイグレーション・モダナイゼーションプロジェクトに従事
趣味：ゴルフ、Web3(DAO)コミュニティ運営
好きなサービス：
Amazon Kendra Amazon Bedrock

生成 AI を実現する仕組み - 基盤モデル
3
生成 AI は「基盤モデル」と呼ばれる
「膨大なデータに基づき事前にトレーニングされた大規模な機械学習モデル」によって実現
テキスト生成
要約
情報抽出
Q&A
チャットボット
利用
基盤モデル
タスク
ラベル付け
されていない
データ
(教師なし
データ)
基盤モデル
(FM)
従来の機械学習モデル
テキスト生成
要約
情報抽出
Q&A
チャットボット
学習利用
タスク
MLモデル
…
…
…
…
ラベル付き
データ
…
…
…
…
事前学習

生成 AI (Generative AI) とは
テキスト生成商品説明文の生成画像生成商品画像の背景生成
4
会話、ストーリー、画像、動画、音楽など、
指示に沿い高精度なコンテンツを生成可能なモデルやモデル込みのアプリケーション
一般に基盤モデルと呼ばれる、膨大なデータに基づいて事前にトレーニングされた大規模モデルを利用
指示：
プロのカメラマンが撮影した商品画像、
大理石のテーブルの上に、たくさんの果物が乗っている、
背景は少しボケている

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 5
生成 AI (Generative AI) とは
テキスト生成商品説明文の生成画像生成商品画像の背景生成
5
カスタマイズ要素
• 役割やシチュエーションを補足
E.g. あなたは、デジタルマーケティングの専門家です。
• 望ましい回答を例示
• 自社データ等を事前情報として埋め込む(RAG)
指示：
プロのカメラマンが撮影した商品画像、
大理石のテーブルの上に、たくさんの果物が乗っている、
背景は少しボケている
カスタマイズ要素
• 現れてはいけない項目の指定
• 元画像の特定要素や領域のみ指定
会話、ストーリー、画像、動画、音楽など、
指示に沿い高精度なコンテンツを生成可能なモデルやモデル込みのアプリケーション
一般に基盤モデルと呼ばれる、膨大なデータに基づいて事前にトレーニングされた大規模モデルを利用
簡単な指示（プロンプト）で多様なタスクを解かせることができる
⇒プロンプトの工夫にてカスタマイズや精度向上が可能

私も日常業務で活用してます

本日のアジェンダ
7
• 生成AIに対するAWSのアプローチ
• 生成AI関連サービス
• 事例から見るインパクトが大きいユースケース

生成 AI に対する AWS のアプローチ

生成AI搭載アプリケーションはビジネス価値につな
がりうる
想像力の向上
会話、ストーリー、画像、
動画、音楽といった
新しいコンテンツと
アイデアを創出
生産性向上
企業内の全ての部署や
ビジネスで
生産性を根本的に向上
洞察の獲得
企業内の様々な情報から
知見を抽出し回答
それによって意思決定を
迅速かつ高精度に
新しい体験
お客様や従業員との
接点を変える
新しく革新的な方法を開発

生成 AI 搭載
アプリケーション

生成 AI 搭載
アプリケーション
ストレージ
データレイク
データベース
分析処理基盤
データ統合
ガバナンスと
コンプライアンス
生成 AI を
支えるデータ

Amazon の生成 AI とデータによるイノベーショ
ン
Amazon.comの
カスタマーレビュー
熟練した
買い物アドバイザー
Rufus
毎週数十億の
やりとりを処理する
Alexa
迅速な処方薬提供と
サポートを提供する
Amazon Pharmacy

あなたのデータに基づく
生成 AI をめざして
検索拡張生成 ( R A G )
ファイン・チューニング
ビジネスドメインに関する汎用的・専門的知識
企業が持つ、ラベルなし・非構造化データを利用
基盤モデルを複製し、カスタマイズ
継続的な事前トレーニング
特定のタスクに特化した知識
少数のラベル付きサンプルデータを提供
基盤モデルを複製し、カスタマイズ
プロンプト拡張による専門知識の利用
企業独自のナレッジデータベースを組み込み
基盤モデル自体は変更しない

大規模言語モデル・基盤モデルを活用した構築済みアプリケーション
大規模言語モデル・基盤モデルを組み込んだアプリ開発のためのツール
基盤モデルのトレーニングと推論のためのインフラストラクチャー
生成 AI のテクノロジースタック
GPUs Inferentia
Trainium SageMaker
EC2 Capacity Blocks Neuron
UltraClusters EFA Nitro
Amazon Bedrock
Agents
Guardrails Customization Capabilities
Amazon Q
Business
Amazon Q
Developer
Amazon Q in
QuickSight
Amazon Q in
Connect

• 最大 16 個の AWS Trainium を搭載
• 同等の GPU インスタンスと比較し最
大 50% 低価格を実現
• 512 GB の高速 HBM2 メモリ搭載
• 最大 1600 Gbps の EFA ネットワーク
帯域に対応
• Trn1 上で学習したモデルのデプロイ
先は自由
Amazon EC2 Trn1/Trn1n インスタンス
AWS 自社設計高性能 ML 学習向けアクセラレータ AWS Trainium を搭載したインスタンス

Amazon EC2 Inf2 インスタンス
• 第 2 世代 ML 推論チップ AWS Inferentia2 搭
載
• Inf1 と比較して最大 4 倍高いスループット、
10 分の 1 の低レイテンシーを実現
• 384 GB の高速 HBM2 メモリ搭載
• 大規模言語モデル（LLM）を単一サーバ上に
デプロイ可能
• 小規模モデルの学習にも対応
最もコスト効率の高い生成 AI モデルに対応した推論向けインスタンス

AWS LLM 開発支援プログラム
2023年7月から2024年1月の半年間の日本独
自プログラム
LLM 開発支援プログラムに採択された NTT、
Stockmark、RICOH ら17社が
各社の日本語 LLM を開発
AWS Trainium、 NVIDIA GPU、Neuron SDK、
AWS ParallelCluster
などを駆使して大規模な機械学習を
安定的、かつコスト効率よく実施
18

大規模言語モデル・基盤モデルを活用した構築済みアプリケーション
Amazon Q
Business
Amazon Q
Developer
Amazon Q in
QuickSight
Amazon Q in
Connect
大規模言語モデル・基盤モデルを組み込んだアプリ開発のためのツール
基盤モデルのトレーニングと推論のためのインフラストラクチャー
生成 AI のテクノロジースタック
GPUs Inferentia
Trainium SageMaker
EC2 Capacity Blocks Neuron
UltraClusters EFA Nitro
Amazon Bedrock
Agents
Guardrails Customization Capabilities

生成 AI 活用をはじめる上での難しさ
生成 AI の進化への追従
プライバシーと
セキュリティ
インフラストラクチャ
複数のモデルを簡単に
利用できる環境の構築
データ漏洩の防止、
国内にデータを留めたい
…
…
モデル A
モデル B
…
モデル C
…
モデルの実行を支える
インフラの管理
“… ? “
“… 。“
in 海外
in 日本
必要なこと
• 各モデルごとの環境構築と
機械学習の知識
• モデルのデプロイや
カスタマイズのための
大規模な計算リソース
• インフラの維持管理
• 柔軟なスケーリング
• …
v1 v2 v3
v1
v1
Lite
パラ
メータ
○ B
パラ
メータ
△△ B
モデル
モデル
モデル
モデル

基盤モデルを活用した
生成 AI アプリケーションを
簡単に構築、拡張できる方法
Amazon
Bedrock
API を介してさまざまな基盤モデルにアクセス、
インフラ管理は不要
お客様の業務用途に適した基盤モデルを選択
Amazon、AI21 Labs、
Anthropic、Cohere、Meta、Stability AI
東京リージョン含む複数のリージョンで一般提供
( 2024 年 6 月時点)
エージェント機能、RAG 機能、非公開でのモデル
のカスタマイズなど基盤モデルの効果を高める
さまざまな機能を提供
データセキュリティやコンプライアンスを実現

幅広いモデルの選択肢を提供 - 将来のモデル変更への柔軟性確保
Amazon Bedrock
要約、複雑な推測、
文書作成、コーディング
文脈に応じた回答、
要約、書き換え
高品質な画像、
アート
テキスト生成、
検索、分類
Q&A、読解
文書要約、生成、
Q&A、検索、
画像生成
Titan Embeddings
Titan Text Lite
Titan Text Express
Titan Image Generator V2
Titan Image Generator
Titan Multimodal Embeddings
Titan Text Premier
Titan Text Embeddings V2
Claude 3.5 Sonnet
Claude 3 Opus
Claude 3 Sonnet
Claude 3 Haiku
Claude
Claude Instant
Llama 3 Instruct 8B
Llama 3 Instruct 70B
Llama 2 Chat 13B
Llama 2 Chat 70B
Llama 2 13B
Llama 2 70B
Command R+
Command R
Embed English
Embed Multilingual
Command
Command Light
SD3 Large 1.0
Stable Image Code
SD3 Ultra 1.0
SDXL1.0
Jamba 1.5 Mini
Jamba 1.5 Large
Jamba-Instruct
Jurassic-2 Ultra
Jurassic-2 Mid
Mistral 7B Instruct
Mixtral 8x7B Instruct
Mistral Large
Mistral Small
テキスト要約、Q&A、
テキスト分類、
テキスト補完、
コード生成

Amazon Bedrock における Claude 3 / 3.5 family
用途に合わせて、知能、スピード、コストの組み合わせを選択できる
マルチモーダル（画像入力）にも対応
Claude 3.5 Sonnet Claude 3 Haiku Claude 3 Sonnet Claude 3 Opus
Use case 高度な知能を備え、大規模
なユースケースに対応
最高のパフォーマンスを
最低コストで利用
知能、スピード、コストの
バランス
全体で第2に知能が高く、
Claude 3ファミリーで最も
知能が高い
Context 200K 200K 200K 200K
Vision ✓ ✓ ✓ ✓
Cost*
Input:
Output:
$0.003
$0.015
$0.00025
$0.00125
$0.003
$0.015
$0.015
$0.075
*Per 1K tokens

ファインチューニングで
ビジネスの差別化を俊敏かつ安全に実現
Meta—Llama
広告
製品情報
プログラム
生成されたコンテンツ
ファインチューン
モデル
Amazon Bedrock
ラベル付されたサンプル
Amazon S3
Copy
Meta—Llama
基盤モデル
少量のラベル付けされたサンプルを使って特定のタスクに精度の高い推論を実現

検索拡張生成
Retrieval augmented
generation (RAG)
回答を企業データに限定し
モデルのハルシネーション
(誤った発言) を軽減
ナレッジベースから取得した
情報にはソースの情報が付随
され、回答の透明性を確保
回答
質問
ナレッジベース
基盤モデル
自社の商品やサービスに
関する正確な情報を参照
1
2
3
4
ナレッジベースとしての Amazon Bedrock

26
Agents for
Amazon Bedrock
自然言語の指示で
ビジネスにおける複雑なやり取りのタ
スクをこなすエージェント
• LLMによる自然言語での対話
• タスクを自ら分解し連携して実行
• 外部API呼び出しやプログラムコ―ド
を動的生成＆実行してタスクを遂行
• 思考過程と内部プロンプトを可視化
• 利用者とのコンテキストを維持した
やり取りが可能
• 企業データにセキュアかつプライ
ベートにアクセス
Features

27
Agents for Amazon Bedrock - 概要
複雑なタスクを実行させる際に必要な基盤モデルのオーケストレーションと
“ReAct” の技法に基づく機能を「エージェント」として提供
ユーザー
VPC 生成AIアプリケーション
エンドユーザー
Agents for Amazon Bedrock
AWS
基盤モデル
UI/アプリ
エージェント
AWS Lambda
…
エージェント
Lambda関数
関数仕様
データストア
関連付け
(オプション)
※1つのエージェントあたり、アクショングループ(Lambda関数API)は最大5つまで有効化可能
実行
Return Control
関数仕様
メモリ
基盤モデル

Guardrails for Amazon Bedrock
アプリケーション要件と責任ある AI ポリシーに合わせた保護手段を実装する
ファインチューニングモデルやエー
ジェントを含め、すべてのFMにガー
ドレールを適用
（※ガードレール単体でも利用可能）
有害なコンテンツやトピックをフィ
ルタリング
個人を特定できる情報(PII)を編集
ハルシネーションを検出

基盤モデルの評価
ニーズに適したモデルを評価･比較･選択
✓ 重労働かつ高度なスキルが要求されるモ
デル評価を機能として吸収
✓ 自動評価か人間による評価（お客様か
AWS のマネージドワークフォース）か
ら選択
✓ 結果はレポート化され、お客様が設定す
る基準に対する結果が示される
人間による評価のレポート
自動評価のレポート

Claude 3
Llama 3
Titan Image
Generator
Input
Output
…
Amazon Bedrock の主な機能の全体像
ベクトル
DB
エージェント
外部 API
Ingest
Documents
Inference
input data
Custom Model File
(in Amazon S3)
31
モデル評価
モデル運用
モデルカスタマイズ
アプリ開発
プロンプト開発
ガード
レール

Claude 3
Llama 3
Titan Image
Generator
Input
Output
…
Amazon Bedrock の主な機能の全体像
ベクトル
DB
Agent
Custom Model
外部 API
Ingest
Documents
Inference
input data
Custom Model File
(in Amazon S3)
32
モデル評価
モデル運用
モデルカスタム
プロンプト開発
ガード
レール
アプリ開発

万全なセキュリティ：Amazon Bedrock におけるデータの保護
33
Bedrock への入出力は
発生したリージョンに留まり
顧客ごとに管理される
データは常に暗号化される
(AES-256 / TLS1.2)
顧客のデータは
Amazon およびサードパーティーの
モデルの学習に使用されない

Amazon Bedrockによる
生成 AI 搭載アプリケーション

生成 AI 搭載アプリケーションの構造
ユーザー
アプリ
or
システム
様々な基盤モデル
アプリを操作
アプリは
各社のモデルを各社が指定する
異なるAPIで呼び出し
A社のLLM
B社のLLM
C社のLLM
・
・
・
・

AWS Cloud
Amazon Bedrockを介した生成 AI 搭載アプリケーションの構造
ユーザー
アプリ
or
システム
Amazon Bedrock
Amazon Bedrock
で選べる基盤モデル
アプリを操作
アプリはBedrockを通じて
各社のモデルを共通的なAPIで
呼び出すことができる
Converse API

AWS Cloud
Amazon Bedrockを介した生成 AI 搭載アプリケーションの構造
ユーザー
アプリ
or
システム
アプリを操作
モデルごとに
求められる方法で
呼び出し
Guardrails for Amazon
Bedrockが
入出力を評価・フィルタ
Converse API
Amazon Bedrock
Amazon Bedrock
で選べる基盤モデル

ココ
地表のモデルが季節で移ろっても、
“You are my Bedrock”は、変わりません

SONY様生成AI社内導入支援事例
https://special.nikkeibp.co.jp/atcl/ONB/24/aws0208/?P=2&tkn=VaTHiCt8SL2yWVfTTLUwtRiDlHKEubsWW53t6DZxs90%3D

竹中工務店様
デジタル棟梁構築の取組み
建設業界の生産性向上を目的に、デジタルによるベテランの知識・経験の継承、人材育成への取り
組みを実施。生成AI によるデジタル棟梁の構築を進める。
ベテラン社員
経験
ノウハウ
実績
ナレッジ
蓄積
生成 AI
アドバイス
相談
若手社員
デジタル棟梁
教育
ルール、標準類
デジタル棟梁: 生成 AI がもつ一般的な知識だけでなく、自社の
業務ルールや保有技術などの専門知識を有する
Amazon Bedrock
Amazon Kendra
生成 AI への
アクセス
専門知識の
検索と統合

Amazon Q
AWSの生成AIを搭載した
アシスタントで働き方を改革
様々なタスクにおいて卓越した生成
AIのパフォーマンスを発揮
業務のあらゆる場面で利用可能
利用者の企業、ソフトウェア
コード、システムについて熟知

データから最大の
価値を引き出す
より安全な
ソフトウェアを素早く構築
コンタクトセンターに
おける優れた
顧客サービスを提供
サプライチェーン全体での
可視性の向上
多くの業務領域において有能な生成 A I アシスタント
Amazon Q: AWSが開発した生成AIを搭載したアシスタント
Q in QuickSight
Q Buisiness Q in Connect Q in SupplyChain
Q Developer

生成 A I で従業員の生産性を向上
Amazon Q Business 概要
ビジネスの質問に対して、迅速、正確、かつ
関連性の高い回答を、セキュリティとプライ
バシーを確保して提供
組み込みのプラグインまたはカスタムプラグ
インを使って、アクションを実行
ユーザーの権限に基づく既存のアクセス制御
に準拠
40種類を超える一般的な企業アプリケー
ションやドキュメントリポジトリに接続可能
管理者が簡単にガードレールを設定し、レス
ポンスをカスタマイズおよび制御
ユーザーが作成した軽量なアプリケーション
で、日々のタスクを最適化
Q Business

RAG アプリに必要なコンポーネント
画面アプリ
LLM
ベクトルDB
Embedding Model
Embedding コネクタデータストア
認証
ガードレール
特殊な要件無いのに、これらに必要な技術を学び、
ゼロから開発し、保守していくのは難しい
アクセス制御
Q Business

RAGアプリをマネージドに提供する Amazon Q Business
画面アプリ
LLM
ベクトルDB
Embedding Model
Embedding コネクタデータストア
認証
ガードレール
アクセス制御
Q Business
Amazon Q Buisiness

Amazon
Kendra
ユーザ
アプリ
❶ 質問
➍ ❶+❸を入力
➏ 回答
Amazon Bedrock
➎ ➌を元に➊への
回答を出力
❷ 検索クエリ
❸ 関連文書の
抜粋お客様
AWSにおけるRAGの実現方法の例
Amazon Bedrock
Knowledge base
Embedding Model
回答
Text Model
(Titan Embedding）
質問をベクトルに変換
ベクトルデータベース
回答
質問
質問
① エンタープライズサーチと基盤モデル
② ベクトルデータベースと基盤モデル
Amazon Q
③ フルマネージドな生成AIアシスタント

Built-in connectors
あらゆる企業ソースからのコンテン
ツを数クリックで統合
Adobe Experience Manager
Alfresco
Amazon Simple Storage Service
(Amazon S3)
Atlassian Confluence
Aurora (MySQL, PostgreSQL)
Box
DB2
Dropbox
Drupal
Custom Connector
FSX for Windows
Github
Gmail
Google Drive
Jira
Microsoft Exchange
Microsoft OneDrive
Microsoft SharePoint
Microsoft Teams
Microsoft Yammer
Microsoft SQL Server
Quip
Salesforce
ServiceNow
Slack
Web Crawler
Workdocs
Zendesk
Q Business

A M A Z O N Q B U S I N E S S は、企業
ユーザーの権限を認識
安全性とセキュ
リティ
User
Amazon Q
コンテンツ
権限によりフィルタ
リングされた応答
Identity
Provider
ユーザ、
グループ情報
文書の内容と権限
情報を取り込み
クエリ
アクセス許可
Q Business

データの価値を最大限に引き出す
A M A Z O N Q B U S I N E S S と A M A Z O N Q I N Q U I C K S I G H T
Amazon Q Business と Amazon Q in
QuickSightを活用することで、従業員全
員が組織内の全ての文書やデータから直ち
に洞察と価値を得ることができ、サイロ化
されたデータを検索および要約でき、デー
タ分析と意思決定のスピードアップを実現
可能
Q in QuickSight

Amazon Q in QuickSight が一般利用開始に
生成 BI アシスタントにより、自然言語によるダッシュボード作成を数分で実現
Q in QuickSight

より良く、より安全なソフトウェアを構築
A M A Z O N Q D E V E L O P E R
Amazon Q Developerは、開発者やITプ
ロフェッショナルに対して、コーディング、
テスト、アプリケーションのアップグレー
ド、エラーの診断、セキュリティスキャン
と修正、AWS リソースの最適化を支援しま
す。Amazon Qには、高度なマルチステップ
の計画と推論能力があり、開発者の要求か
ら新機能を生成し変換して実装できるだけ
でなく、信頼性が高く安全なアプリケー
ションをより速く構築するのに役立ちます。
Q Developer

54
Amazon Q Developer - 背景
開発者はソフトウェア開発ライフサイクル (SDLC) に責任を持つ
テストと
セキュリティ確保
運用
計画
作成
維持とモダナイズ
• 調査/計画
• 関連するドキュメントやコード例、リソース
などから的確かつ具体的な技術的解説を探す
• ビジネスや技術要件にもとづく設計の変更
• 作成
• コードとインフラを作成
• テストとセキュリティ確保
• テストを実行 & 脆弱性スキャン
• 運用
• コードの課題を認識して提言
• パフォーマンスや効率性をモニタリング
• 維持とモダナイズ
• 古いコードや依存関係をモダナイズして更新
Q Developer

56
Amazon Q Developer - 提供機能
Q Developer は、
ソフトウェア開発ライフサイクル全般に以下の機能を提供
Amazon Q in the IDE
Amazon Q for Command Line
Amazon Q in AWS Console
Amazon CodeCatalyst (Q 統合機能)
Amazon Q for AWS Chatbot
Pro ユーザー
Amazon Q Developer 機能
IDE内でのコードの補完/変換やチャット
CLI コマンド行の補完や生成
Free ユーザー
Pull Request処理など様々なタスクの実行
AWS管理コンソールを通じた支援
AWS Chatbot を通じた Qとのチャット
※macOSのみ
Q Developer

コンタクトセンターで優れたカスタマー体験を提供
A M A Z O N Q I N C O N N E C T
Amazon Q in Connectでは、カスタ
マーサービス担当者が顧客との対話と企業
の関連コンテンツを活用しながら、リアル
タイムで対応ができます。適切な対応内容
や次のアクションを自動的に推奨してくれ
るため、顧客への素早くて的確なサービス
提供が可能になります。
Q in Connect

生成 AI エージェントによるアシストで、
返信やアクションに関する提案を生成
A M A Z O N Q I N C O N N E C T
課題の検出
ソリューションの生成
返信文、ソリューションの
生成に利用された記事や
ドキュメントへのリンク
返信の出力
Q in Connect

サプライチェーン運用の状況可視性を強化
A M A Z O N Q I N A W S S U P P L Y C H A I N
Amazon Q in Supply Chain(近日公開
予定)は、サプライチェーン専門家が自社
のサプライチェーンで何が起きているか、
その理由、そして取るべき対応策について、
賢明な回答を得るサポートをします。また、
異なるサプライチェーンの選択肢を取った
際の、仮説シナリオの検討も行うことが出
来ます。
Q in Supply Chain

生成 AI 事例から見る
インパクトが大きいユースケース

インパクトが大きいユースケース
61
対応スキル底上げ営業支援
コンテンツ審査
データ読み取り
検索性向上商材作成
請求書や決算書等の帳票や議事
録音声などをテキスト・データ
化し人力での変換を効率化する
製品知識や業務知識、経験知を
問い合わせ可能な知識ベースに
登録しておき未熟練者でも高度
な対応を可能にする
提案機会の特定、商談内容の分
析、営業日報の作成や解析など
営業の機会創出と学びを深める
ことで商談数と成約数を伸ばす
作成した文書や画像が社内規定
やサービス規約に違反していな
いかなど審査業務を効率化する
商品の説明文の生成やユーザー
入力クエリを拡張することで
ユーザーとのエンゲージメント
数を向上させる
商品の背景生成や顧客イメージ
の具体化により、未熟練者でも
営業商材の作成を可能にする

01. データ読み取り
62
請求書や決算書等の帳票や
議事録音声などを
テキスト・データ化し
人力での変換を効率化する
様々な媒体からのデータ抽出を 40~90% 効率化できる
ナウキャスト (PDF)
手作業で行っていた決算短信データ (PDF) からの財務データ抽出手作業
に生成 AI を適用。日本の上場株式約 100 銘柄で検証した結果、90%以
上の精度で正しく財務データを抽出に成功。作業時間も最大90%短縮。
第一興商 (音声)
1 日 300 件近いコールセンターへの問い合わせの文字起こしに音声認識
サービス (Transcribe) と生成 AI を活用。AWS 未経験で入社 1 か月の
新人が約 3 週間で検証を実施し、約 9 割は基準を満たす良好な結果。
AI Inside (PDF)
帳票の OCR をするため個別モデルを開発するには各 2000 万円と１か
月以上の時間が必要だった。生成 AI 適用により対応が容易になり 7 年間
で 13 種類だった非定型帳票プリセットが 3 ヵ月で 1000 種類を超えた。
三井物産 ( PDF ・メール )
100 ページを超える入札仕様書や営業のメールからの情報抽出に生成 AI
を適用し、 1 件あたり作業時間が 40～70% 短縮。

02. 対応スキル底上げ
63
製品知識や業務知識、経験
知を問い合わせ可能な知識
ベースに登録しておき未熟
練者でも高度な対応を可能
にする
専門知識に基づく応対を 50~90% の精度で実現
日本製鋼 ( 営業応対 )
樹脂機械向けの消耗部品の受注に伴う顧客応対に生成 AI を適用。営業が
問合せ内容を転記して検索・回答案を参照でき、専門知識が必要な質問
に対し 80%以上の精度であることを確認。構築期間はわずか 2 ヵ月。
日本データサイエンス研究所 ( 調査回答 )
契約書、技術情報、規制情報、FAQ やメール等、様々な情報からなる約
1 万の専門性の高いドキュメントの横断的検索と回答に生成 AI を適用。
15 年以上の経験者が 1 時間かけていた回答を 3 年目でも 1～2 分へ短縮。
日立製作所 ( システム障害対応 )
統合システム運用監視ソリューション JP1 に検知した IT システム障害
に対し管理画面から対処方法を問い合わせできるように。マニュアルに
基づく回答生成で 9 割以上のアラートで正しい回答ができることを確認。
サイバーエージェント ( 開発支援 )
セキュリティに関する 60 ~ 80 件/月の問い合わせ回答を行うチームで、
専門領域の俗人化が課題に。回答に生成 AI を適用し半数近くは専門外で
も回答可能に。

03. 営業支援
64
提案機会の特定、商談内容
の分析、営業日報の作成や
解析など営業の機会創出と
学びを深めることで商談数
と成約数を伸ばす
情報抽出・商談要約作業を 30~70% 近く削減
エフピコ ( 製造業 )
1 日 580 件作成される営業日報の解析に多大な時間がかかるところ、若
手 4 名が 1 か月で日報作成補助、分析アプリケーションを開発。日報分
析にかかる時間を月 700 時間以上削減。
丸紅株式会社 ( 商社 )
社内の膨大な情報リソースの所在が不明で、営業活動に活用されない課
題があり、生成 AI による検索及び問合せ機能を若手社員2～3名がおよそ
1カ月間で内製。各業務で 25～65％程度の時間削減効果を確認。
Poetics ( 商談解析ソリューション開発 )
オンライン会議の録画・解析・整理を行う JamRoll で商談要約機能を 2
人のエンジニアが 1 ヶ月ほどで実装。毎月数十万件の商談を自動要約、
営業支援情報システムへの自動入力も併せ商談後の作業工数を 70% 削減。

04. コンテンツ審査
65
作成した文書や画像が社内
規定やサービス規約に違反
していないかなど審査業務
を効率化する
社内規定やガイドラインに基づくチェックを効率化
FleGrowth ( 金融 )
各事業部で年に一度 ISMS（情報セキュリティマネジメントシステム）認
証の維持審査を外部審査機関から受ける。監査では 100 以上の社内規定
を読み込む必要があり、万一回答できず指摘事項があった場合対応策の
立案と施行に膨大な時間がかかる。生成 AI により社内規定に基づく監査
の想定質問を作成することで対応時間を 90% 削減し会社全体で審査に
よる指摘事項を 3 分の 1 に、指摘事項への対応にかける時間を 10分の
1 まで削減。
野村ホールディングス ( 金融 )
金融商品に関する説明資料の審査が約 300 件/月あるが、審査には多様
な金融商品と社内外の規制・ルールを理解する社員の知見と能力が必要。
業務効率化効果の PoC を通じ、生成AIによる実現性を確認。

05. 検索性向上
66
商品の説明文の生成やユー
ザー入力クエリを拡張する
ことでユーザーとのエン
ゲージメント数を向上させ
る
生成 AI による検索機能の拡張で CTR を数倍~数十倍に
オズビジョン ( 広告 )
500 万人が会員登録するハピタスで、より意図に沿った広告検索体験を
実現するため基盤モデルを活用。生成 AI 初心者からわずか 3 ヵ月で実装、
検証を通じランニングコストの数十倍の ROI が見込めることを確認。
NatWest ( 金融 )
顧客向けの金融商品の提案メールのレビュー ( コンテンツ審査 ) と作成双
方に生成 AI を活用。人間が書いたメールより 4 倍高いクリック率を実現。
note ( 情報発信プラットフォーム )
公開コンテンツが約 4,344 万件 (2024 年 3 月時点 ) あり、ユーザーに向
けた効率的な訴求が課題。基盤モデルによるベクトル表現を推薦とタグ
付けに活用し、推薦の A/B テストで約 20% のクリック率改善を確認。

06. 商材作成
67
商品の背景生成や顧客
イメージの具体化により、
未熟練者でも営業商材の作
成を可能にする
マーケティング等のための商材作成を 50%~ 効率化
パルシステム生活協同組合連合会 ( 地域生協 )
広報誌・機関紙で扱う画像の手配が大きな負担。生成 AI の適用により、
社内ポスターに掲載する写真撮影に要する時間を 70％短縮見込み。
F.F.B.株式会社 ( SNS マーケティング )
ユーザーが撮影した写真を SNS へ投稿する際、キャプションとハッシュ
タグの作成に 15 分程度要していた。生成 AI の適用により作業時間を
50% 以上削減。
GreenSnap株式会社 ( コミュニティプラットフォーム )
ユーザーが庭の画像とイングリッシュガーデン風などスタイルを入力す
ると花を植えた状態の画像を生成する機能を garden AI としてサービス
リリース。
Fotographer.ai ( 商品クリエイティブ生成 )
広告クリエイティブの品質を維持しコストを削減するため商品画像等を
もとにクリエイティブの自動生成機能を提供。デザイナー外注業務の内
製化だけでなく、クリエイティブ量増による SNS 投稿増を確認。

事例化している企業の共通点
68
顧客起点文化
頻繁な実験
小規模なチーム
ほぼすべての会社が、顧客体験はもちろん社内の
営業やカスタマーサポートの人たちの作業がどれ
だけ改善されたのか効果を定量的に計測している。
2~4 名のチーム、最も小さい場合 1 名 ( 第一興商 )
で PoC を実施。エフピコ、丸紅などでは若手で
チームを組成し経験を積ませている。
ほぼすべての会社が 1~3 ヵ月で本番稼働。
ISMS 監査に使用している FleGrowth でもプロト
タイプは 3 ヵ月で仕上げており、この短さは基本
業界を問わない。
※当たり前のようだがデータ利活用に取り組む企業の 50% 近くは
成果を測定していない ( DX 白書 2023 より )

ユースケースの土台となる組織作りが不可欠
表面的なユースケース ( Technology ) の実装だけ真似ても、新技術を積極的に
活用する文化や人材 (People) 、小規模なチームで頻繁な改善を行う Process なしに
は継続的に生成 AI 、その先の技術をサービスや業務に活かすことはできない。
69
Technology
Process
People

まとめ
AWSはお客様の目的やフェーズに合わせて多様な生成AIサービスを提供
お客様データと基盤モデルを組み合わせて業務に取り込むことでビジネ
ス価値が生まれる
何から取り組めば良いか迷ったときはインパクトが大きいユースケース
から小さく始めてみる
70

AWS 知識不要ですぐに利用開始
最短わずか 10 分でデプロイ完了
Generative AI Use Cases JP
(略称：GenU)
すぐに業務活用できる
ビジネスユースケース集付きの
安全な生成 AI アプリ実装
https://github.com/aws-samples/generative-ai-use-cases-jp
OSS として無償提供中
インフラは使った分だけの従量課金
スモールスタートで生成 AI を活用
エンタープライズユースも可能
豊富なセキュリティ・統制機能
最新の日本語対応生成 AI モデルに対応
比較検証で最適なモデルを選定
様々なビジネスユースケースを標準搭載
触りながらアイディアを発見
独自のアイディアをすぐに形に
高いカスタマイズ性で高速に実証を完了

収録ユースケースと機能
• テキスト系ユースケース
• チャット
• 文章生成
• 要約
• 校正
• 翻訳
• Web コンテンツ抽出
• 画像系ユースケース
• 画像生成
• 映像分析
• ユースケース間連携
• ブログ記事作成
• 議事録作成
• ツール
• 音声認識
• ファイルアップロード
• Kendra 検索
• 外部ナレッジ連携ユースケース
• RAG チャット
• Agent チャット
• Web 検索エージェント
• セキュリティオプション
• Cognito 認証
• サインアップ無効化
• 登録メールアドレス制限
• SAML 認証対応
• AWS WAF 連携
• IPv4/IPv6 範囲制限
• 地域制限
• その他機能
• システムコンテキスト保存
• URL による外部連携
• 会話履歴のシェア
• 利用状況ダッシュボード
• ブラウザ拡張
• カスタムドメイン
• Sagemaker Endpoint 利用

生成 AI のジャーニーを
AWS と始めましょう

Thank you!

[四国クラウドお遍路 2024 in 高知] Generative AI with AWS

More Related Content

Similar to [四国クラウドお遍路 2024 in 高知] Generative AI with AWS

[四国クラウドお遍路 2024 in 高知] Generative AI with AWS