JAWS-UG初心者支部#55 LT大会 7.2020年からAWSに触れたエンジニアの初Summit参加フィードバック

1. 2020年からAWSに触れたエンジニアの初
Summit参加フィードバック
JAWS-UG 初心者支部#55 LT大会

2. Who am I ?
株式会社ターン・アンド・フロンティア
クラウドエンジニア テクニカルリード(2020年1月入社)
● 主な業務
○ クラウドサービスご利用検討中の企業様へ AWS導入設計、構築
○ コンサルタント
■ セキュリティレクチャー
■ お客様所有アカウントのコスト見直し
■ その他お悩み事サポート
○ AWSサービス(cloud link)の提供拡充プロジェクト 旗振り
○ 24/365 保守対応
● AWS Summit オフライン参加経験： 0回(今回初)
● re:Invent オフライン参加経験： 1回(2022年)
えかてりーな(Nao Nishihashi)
唯一動かしているFBです

3. AWS Summit、
現地参加された皆様お疲れ様でした。
ありがとうございました！！

4. アジェンダ
~AWS Summitの楽しみ方~
1. AWS Jam
2. AWS GameDay
3. 基調講演、SWAGなど(お土産)

5. 1. AWS Jam

6. 1. AWS Jam

7. https://aws.amazon.com/jp/blogs/news/aws-jam-report-aws-summit-tokyo-2023/
1. AWS Jam

8. 2. AWS GameDay
参照：https://aws.amazon.com/jp/gameday/

9. 2. AWS GameDay
- App Runner
- Amazon Kinesis
- Amazon EMR
- AWS Codeシリーズ
- AWS IoT
- AWS SageMaker studio
- もうひとつを失念しました..申し訳ないです。

10. 3. 基調講演、SWAGなど(お土産)

11. 3. 基調講演、SWAGなど(お土産)

12. 3. 基調講演、SWAGなど(お土産)

13. 3. 基調講演、SWAGなど(お土産)
Amazon Bedrock
生成AIツールキット開発を発表
この発表は、ChatGPTに代表されるジェネレーティブAI市場への本格参入宣言
現在一部のAWS顧客に限定して展開中
使用者はUber、New York Times
提供モデル
- Titan FMs (AWSが提供)
- Titan Text 自然言語処理(NLP)
- Titan Embeddings 検索・レコメンデーション
- Jurassic-2 (AI21 Labsが開発)
- Claude (Anthropic)
- Stable diffusion (Stability AI)
これらはEC2
- Trn1nインスタンス
- Inf2インスタンス
が推奨される

14. Trn 1 n (提供時期未定)
｛
｛
｛
第１世代
高速コンピューティング
(Trainium)
ｎ：ネットワーク最適化
ユースケース：機械学習
参考：https://codezine.jp/article/detail/16643
予測精度の向上でメモリー帯域幅の違いや異なる帯域幅の組み合わせによる効率性の変化を示しつつ、
「Ring」と呼ぶ大規模に並列化されたメモリー間およびメモリーのクラスター間でデータ学習を効率化する仕
組みを紹介した。
今回はEFAv2ネットワークを利用して1600Gbpsのネットワークインターフェースを持ち、“超”大規模なモデ
ルの並列学習を高速かつ効率的に行えるとする「Trn1n」の提供予定
https://aws.amazon.com/jp/ec2/instance-types/trn1/
https://aws.amazon.com/jp/blogs/news/aws-trainium-amazon-ec2-trn1-ml-training-part1/

15. Inf 2 (プレビュー)
｛
｛
第２世代
高速コンピューティング(Inferentia)
第 2 世代の AWS Inferentia アクセラレーターである AWS Inferentia2 を搭載
ユースケース：深層学習 (DL) 推論専用に構築
自然言語理解、言語翻訳、動画・画像生成、音声認識、パーソナライゼーション、不正検出などの推論アプリケーションを
実行
Inf1 インスタンスと比較して、Inf2 インスタンスは、3 倍のコンピューティングパフォーマンス、4 倍のアクセラレーターメモ
リ、最大 4 倍のスループット、10 分の 1 以下の低レイテンシーを提供します。Inf2 インスタンスは、大規模言語モデル
(LLM) やビジョン変換器など、ますます複雑化するモデルを大規模にデプロイするために最適化されています。Inf2 イン
スタンスはアクセラレーター間の超高速接続を備えた、スケールアウト分散推論をサポートする、Amazon EC2 で最初の
推論最適化インスタンスです。単一の Inf2 インスタンスで、複数のアクセラレーターにまたがる推論用の 175B パラメータ
モデルを効率的にデプロイできるようになりました。また、Inf2 インスタンスは、より小規模のモデルに対して Inf1 よりも優
れた料金パフォーマンスを提供します。 https://aws.amazon.com/jp/ec2/instance-types/inf2/

16. 課題
体験系のブースに全くお邪魔できなかった
sagemaker studio

17. ご静聴、ありがとうございました