2024/03/08の勉強会で発表されたものです。

1. K.H
AWS Bedrock入門①

2. AWS bedrockとは
• AWSが提供する生成AIのサービス
• Amazonが提供する基盤モデル(FM)だけでなく、大手企業(Meta,Stablity
AI)のFMが利用可能
• 利用できるリージョンが限られる
• 東京リージョンでは利用可能

3. AWS bedrockでできること
• テキスト生成
• ブログやSNSなどに掲載するメッセージの作成
• テキスト及び画像検索
• テキストや画像から関連情報を検索して質問に回答する
• テキスト要約
• 記事や論文等の長い文書を簡潔にする
• 画像生成
• 広告やwebサイト等で使用する画像を生成する

4. 代表的なFM
•Claude
• Anthropicが提供するモデル
• 幅広いタスクを実行することができる
・Titan
・Amazonが提供するモデル
• 幅広いタスクを実行することができる
上記以外にも利用可能なモデルが存在する。モデルによって使用できる言語
(英語オンリー、多言語等)やできることが異なるため、注意が必要である。

5. Bedrockを試してみる
Bedrockを最初に使用する場合はAWSコンソールから使いたいモデルをリク
エストする必要がある。

6. Bedrockを試してみる
今回は以下の2つの方法を使用してテキスト生成を実行する方法を紹介す
る。
• boto3を使用する方法
• LangChainを使用する方法

7. boto3でBedrock APIを実行する
import json
import os
import sys
import boto3
import botocore
from utils import bedrock, print̲ww
boto3̲bedrock = bedrock.get̲bedrock̲client(
assumed̲role=os.environ.get("BEDROCK̲ASSUME̲ROLE", None),
region=os.environ.get("AWS̲DEFAULT̲REGION", None)
)
prompt̲data = """
私は工場で製品の品質管理を担当しています。取引先に不良品を送ってしまいました。
日本語で謝罪のメールを書いてください。
"""
• boto3はpythonで
利用できるAWS SDK
・今回はFMとして
Amazon Titanを利用
する
bedrockのクライアント作成
プロンプトを定義

8. boto3でbedrock APIを実行する
body = json.dumps({
"inputText": prompt̲data,
"textGenerationCon
fi
g":{
"maxTokenCount":4096,
"stopSequences":[],
"temperature":0,
"topP":0.9
}
})
modelId = 'amazon.titan-tg1-large'
accept = 'application/json'
contentType = 'application/json'
outputText = "n"
Promptやその他のパラメータ
を設定する
※設定方法は
モデルによって異なる
モデルを指定する

9. boto3でbedrock APIを実行する
try:
response = boto3̲bedrock.invoke̲model(
body=body,
modelId=modelId,
accept=accept,
contentType=contentType
)
response̲body = json.loads(response.get('body').read())
print(response̲body)
except botocore.exceptions.ClientError as error:
# 省略
モデルを呼び出して
テキスト生成を実行する

10. boto3でbedrock APIを実行する
出力は以下のようになる。
{
'inputTextTokenCount': 105,
'results': [
{
'tokenCount': 390,
'outputText': '件名：不良品のお詫びnn株式会社○○n○○部u3000○○様nnお世話になっており
ます。n株式会社□□の△△です。nn本日、ご案内いただいた商品につきまして、不良品が発覚しました。
nnこの度は、お客様にご迷惑をおかけしたことを深くお詫び申し上げます。nn不良品につきましては、突
然発生した事態であり、原因は調査中です。nn今後は、同様の事態が再発しないよう、品質管理体制を強化
し、更なる品質向上を図ります。nn今後とも、どうぞよろしくお願い申し上げます。nn署名',
'completionReason': 'FINISH'
}
]
}

11. LangChainでBedrock APIを実行する
• LangChainはLLMを使用したアプリケーションを開発するためのフレーム
ワーク
• Amazon Tian,OpenAI等の複数のLLMに対応している
• LangChainを使用することで複雑なユースケースでも対応することができ
る
• 実例は次のスライドで紹介

12. LangChainでBedrock APIを実行する
紹介するシナリオ:
カスタマーサービスマネージャーがお客様からクレームのメールを受け取っ
た。今後の信頼回復の為に謝罪のメールを送る必要がある。
また、カスタマーサービスマネージャーは忙しく、クレームのメール1件ずつ
対応できない。そのため機械的にメールを送る必要がある。
次のスライドでソースコードを下にこのケースの対応方法を紹介する。

13. LangChainでBedrock APIを実行する
• ソースコードは以下のようになる
import json
import os
import sys
import boto3
module̲path = ".."
sys.path.append(os.path.abspath(module̲path))
from utils import bedrock, print̲ww
boto3̲bedrock = bedrock.get̲bedrock̲client(
assumed̲role=os.environ.get("BEDROCK̲ASSUME̲ROLE", None),
region=os.environ.get("AWS̲DEFAULT̲REGION", None)
)
bedrockのクライアントを作成する

14. LangChainでBedrock APIを実行する
from langchain.llms.bedrock import Bedrock
inference̲modi
fi
er = {
'max̲tokens̲to̲sample':4096,
"temperature":0.5,
"top̲k":250,
"top̲p":1,
"stop̲sequences": ["nnHuman"]
}
textgen̲llm = Bedrock(
model̲id = "anthropic.claude-v2",
client = boto3̲bedrock,
model̲kwargs = inference̲modi
fi
er
)
LLMのパラメータを設定する
上記のパラメータをもとに
インスタンスを作成する

15. LangChainでBedrock APIを実行する
from langchain.prompts import PromptTemplate
multi̲var̲prompt = PromptTemplate(
input̲variables=[
"customerServiceManager",
"customerName",
"feedbackFromCustomer"
],
template="""
Human: お客様から頂いたフィードバックを下にサービスマネージャーである
{customerServiceManager}から{customerName}宛の謝罪のメールを書いてください。
<customer̲feedback>
{feedbackFromCustomer}
</customer̲feedback>
Assistant:"""
)
プロンプトのテンプレートを作成する
テンプレートで使用する
変数を定義する
テンプレートを定義する
{変数名}は変数として定義される

16. LangChainでBedrock APIを実行する
prompt = multi̲var̲prompt.format(
customerServiceManager="フリーレン",
customerName="アウラ",
feedbackFromCustomer="""
カスタマーサービスに電話したとき対応が非常に悪かったです。
3日後に電話するといったのに電話がありませんでした。
"""
)
response = textgen̲llm(prompt)
email = response[response.index('n')+1:]
変数を入力して
プロンプトを作成する
LLMを呼び出してテキスト
生成を実行する

17. AWS bedrockとは
• 出力は以下のようになる
この度は弊社のカスタマーサービスにご不満をお持ちいただき、誠に申し訳ございませ
ん。
お客様からいただいたご意見を真摯に受け止め、サービスの改善に努めてまいります。
3日後にご連絡するとお約束したにも関わらず、その約束を守れなかったことを深くお詫び
申し上げます。お客様にご迷惑をおかけしたことを重く受け止めております。
今後このようなことがないよう、社内のプロセスを見直し、お客様とのコミュニケーショ
ンをより確実にするための対策を講じてまいります。
お客様には大変ご不便をおかけしてしまったことを心よりお詫び申し上げます。今後とも変
わらぬご愛顧を賜りますよう、よろしくお願い申し上げます。
フリーレン
サービスマネージャー

18. まとめ
今回はBedrockの概要及びテキスト生成の実行方法について説明を行った。
次回はテキストの要約・RAGの実行方法を紹介する。