More Related Content
Similar to 2020年からAWSに触れたエンジニアの初Summit参加フィードバック.pdf (20)
2020年からAWSに触れたエンジニアの初Summit参加フィードバック.pdf
- 2. Who am I ?
株式会社ターン・アンド・フロンティア
クラウドエンジニア テクニカルリード(2020年1月入社)
● 主な業務
○ クラウドサービスご利用検討中の企業様へ AWS導入設計、構築
○ コンサルタント
■ セキュリティレクチャー
■ お客様所有アカウントのコスト見直し
■ その他お悩み事サポート
○ AWSサービス(cloud link)の提供拡充プロジェクト 旗振り
○ 24/365 保守対応
● AWS Summit オフライン参加経験: 0回(今回初)
● re:Invent オフライン参加経験: 1回(2022年)
えかてりーな(Nao Nishihashi)
唯一動かしているFBです
- 9. 2. AWS GameDay
- App Runner
- Amazon Kinesis
- Amazon EMR
- AWS Codeシリーズ
- AWS IoT
- AWS SageMaker studio
- もうひとつを失念しました..申し訳ないです。
- 14. Trn 1 n (提供時期未定)
{
{
{
第1世代
高速コンピューティング
(Trainium)
n:ネットワーク最適化
ユースケース:機械学習
参考:https://codezine.jp/article/detail/16643
予測精度の向上でメモリー帯域幅の違いや異なる帯域幅の組み合わせによる効率性の変化を示しつつ、
「Ring」と呼ぶ大規模に並列化されたメモリー間およびメモリーのクラスター間でデータ学習を効率化する仕
組みを紹介した。
今回はEFAv2ネットワークを利用して1600Gbpsのネットワークインターフェースを持ち、“超”大規模なモデ
ルの並列学習を高速かつ効率的に行えるとする「Trn1n」の提供予定
https://aws.amazon.com/jp/ec2/instance-types/trn1/
https://aws.amazon.com/jp/blogs/news/aws-trainium-amazon-ec2-trn1-ml-training-part1/
- 15. Inf 2 (プレビュー)
{
{
第2世代
高速コンピューティング(Inferentia)
第 2 世代の AWS Inferentia アクセラレーターである AWS Inferentia2 を搭載
ユースケース:深層学習 (DL) 推論専用に構築
自然言語理解、言語翻訳、動画・画像生成、音声認識、パーソナライゼーション、不正検出などの推論アプリケーションを
実行
Inf1 インスタンスと比較して、Inf2 インスタンスは、3 倍のコンピューティングパフォーマンス、4 倍のアクセラレーターメモ
リ、最大 4 倍のスループット、10 分の 1 以下の低レイテンシーを提供します。Inf2 インスタンスは、大規模言語モデル
(LLM) やビジョン変換器など、ますます複雑化するモデルを大規模にデプロイするために最適化されています。Inf2 イン
スタンスはアクセラレーター間の超高速接続を備えた、スケールアウト分散推論をサポートする、Amazon EC2 で最初の
推論最適化インスタンスです。単一の Inf2 インスタンスで、複数のアクセラレーターにまたがる推論用の 175B パラメータ
モデルを効率的にデプロイできるようになりました。また、Inf2 インスタンスは、より小規模のモデルに対して Inf1 よりも優
れた料金パフォーマンスを提供します。 https://aws.amazon.com/jp/ec2/instance-types/inf2/