© Copyright 2020 Xilinx
ACRi 設立一周年 特別企画
「第1回ACRi討論会」
林田 裕 (HAYASHIDA Hiroshi)
カントリーマネジャー
ザイリンクス株式会社
2021年5月28日
© Copyright 2020 Xilinx
FPGAが次の10年で飛躍するために
どういった取り組みが必要か?
お題:
© Copyright 2020 Xilinx
ザイリンクスのイノベーションの歴史
11
ハードウェアの革新
世界初の FPGA
1984
ソフトウェアの革新
業界初のハイエンドな
大容量 FPGA
1999 業界初の SerDes と
プロセッサを統合した
FPGA
2001
業界初の 3D FPGA/
Zynq デュアル
HW プログラマブル SoC
2012
業界初の Zynq
MPSoC & RFSoC
2017
VERSAL
業界初の ACAP
(Adaptive Compute
Acceleration Platform)
2019
ALVEO
データセンター
アクセラレータ カード
2018
次世代開発環境 ソフトウェア開発者向け
プログラマビリティ
C、C++、
SystemC コードが
有効
1984 現在
統合ソフトウェア
プラットフォーム
KRIA SOM
量産対応の適応型 SOM
システムオンモジュール
2021
© Copyright 2020 Xilinx
HW を適用できる
デバイス
運用可能な
エンドシステム
FAAS
(サービスとしての FPGA)
アクセラレータ カード
SmartNIC、コンピュテー
ショナルストレージ
電子システムの
「チップダウン」設計
主なクラウド プロバイダー
経由でザイリンクス テクノロジを
活用および評価
Edge-To-Cloud : さまざまな運用方法を提供
SOM (システムオンモジュール)
4
Edge Public Cloud
Edge Cloud
/ On-Premise
© Copyright 2020 Xilinx
© Copyright 2020 Xilinx
FY2006 FY2013 FY2020
オートモーティブ 分野での好調な成長
Production deployments with our 28nm and 16nm families to fuel continued growth
Consistent Growth
 Double digit unit shipment growth over 15 years
 More than 190M devices shipped
 More than 80M devices shipped into ADAS
Tier-1s
OEMs
Startups
Note: Only showing publicly-announced customer collaborations
Unit Shipments
5.4M
12.1M
19.6M
© Copyright 2020 Xilinx
Dynamic Function eXchange (DFX)
6
デバイスを動的に再構成して、システム全体の消費電力とコストを削減
数ミリ秒で機能を入れ替え
SURROUND VIEW
CAMERA
REAR VIEW
CAMERA
FRONT CAMERA
• 同一デバイスで相互排他的
な機能を提供
• 時間多重化ハードウェアで
必要なデバイスはより小型
• デバイス数の削減によるシ
ステムコストおよびサイズの
低減
運転前の安全確保 低速運転 高速運転
© Copyright 2020 Xilinx
7
Why SUBARU selected Xilinx?
7
(出展:MONOist : 新型レヴォーグに新世代アイサイト搭載、ステレオカメラはヴィオニア製に https://monoist.atmarkit.co.jp/mn/articles/2008/21/news047.html)
 「ASICは慣れた“枯れた技術”で開発できたのに対し、FPGAは最新のプロセスとソフトウェア技術で
開発するため難易度が高かったというが、スケーラビリティの高さによる開発のスピードアップが
大きなメリットとなった。新開発のステレオカメラは試作の段階から一貫してFPGAを使用しており、
量産に向けた開発や機能安全対応でのサイズ変更が柔軟に行えた」
 スバル 第一技術本部 自動運転PGM ゼネラルマネージャー兼先進安全設計部 担当部長 柴田 英司 様
 スバル 第一技術本部 自動運転PGM 先進安全設計部先進安全設計部 先進安全設計第七課 課長 片平 聡 様
 「自動車業界でのADASの進化のスピードが速い中で、そのペースに合わせた開発が必要だった。
FPGAは自らプログラムして序盤から検証できるところにメリットがあった」
 スバル 第一技術本部 自動運転PGM 先進安全設計部先進安全設計部 先進安全設計第七課 課長 片平 聡 様
 画角と画素数を従来の2倍に向上するなどカメラの高性能化に合わせたデータ処理能力の引き上げと
センサーフュージョンをFPGAで実現した。アイサイトでは低遅延な処理が求められるため、
GPUよりもFPGAが効果的だった。
© Copyright 2020 Xilinx
ザイリンクス製品で実現する「アプリケーション全体の高速化」
「アプリケーション全体の高速化」 とは、AI 推論とその他の性能にクリティカルな処理を、単一デバイスに
密接結合することで両方の機能を高速化できる、最適化されたハードウェア アクセラレーション
アプリケーション全体の高速化
8
Xilinx – 最適化されたスループット
AI機械学習
前処理
(例:デコード/トリミング)
後処理
(例:再圧縮/暗号化)
GPU & CPU – ミスマッチによる性能低下
AI機械学習
前処理
(例:デコード/トリミング)
後処理
(例:再圧縮/暗号化)
AI推論アプリケーション
実行時間
© Copyright 2020 Xilinx
適応型演算アクセラレーション プラットフォーム : VERSAL
>> 9
• 粗粒度リコンフィギュレーション可能なアーキテクチャ (VLIW/SIMD タイル)
• 優れたワット/㎟ あたり性能
• 固定/浮動小数点データ型
• アプリケーション固有のデータパス、メモリ、データ移動
• 空間的/時間的局所性を利用
7nm
FinFET
Versal
業界初の ACAP
(Adaptive Compute
Acceleration Platform)
AI エンジン
高性能、高効率、高適応性
© Copyright 2020 Xilinx
ソフトウェア、フレームワーク、エコシステムで拡大する
ユーザー ベース
SW アクセラレーション
SW アプリケーション
AI アクセラレーション
エコシステム
HW/ファームウェア
ソフトウェア開発者と AI 開発者をサポート
 API と最適化されたライブラリで利便性が向上
 SW 言語: C/C++、Python
 標準フレームワーク: Tensorflow、PyTorch、Caffe
 オープンソースおよび ISV/IHV エコシステム
デザインの抽象度
HW/ファームウェア
HW を意識した SW
AI 開発者
SW 開発者
10
© Copyright 2020 Xilinx
FPGAが次の10年で飛躍するために
どういった取り組みが必要か?
まとめ
組込み市場で培った高性能・低遅延・省電力の技術を、ITインフラの世界に
「アプリケーション全体の高速化」を目ざす新しいHWアーキテクチャを投入
幅広いエンジニアに活用してもらうためにソフトウェア環境を整備
© Copyright 2020 Xilinx
ありがとうございました
© Copyright 2020 Xilinx
(質問1)
今後10年でどのようなパラダイムシフトが
起きると予想されますか?
© Copyright 2020 Xilinx
ザイリンクスが予想するコンピューティングモデルの進化
14
「CPU 中心」のアーキテクチャから、
カスタマイズ可能な分散コンピューティングへ移行
コンピューティング、ストレージ、
ネットワーク制御の統合が進む
ワークロードとアルゴリズムが急速に進化
© Copyright 2020 Xilinx
ヘテロジニアス分散コンピューティングへ向けて
15
Network
Compute
Storage
アクセラレータ カード NIC
CPU
SSD
GPU
FPGA
Smart
NIC
CPU Smart
SSD
GPU
FPGA
CPUがデータ転送
のボトルネック
分散コンピューティング
によるボトルネック解消
2018年10月発表
2020年3月発表
2020年11月発表
SmartNIC
SmartSSD
将来のコンピュータ
アーキテクチャ
© Copyright 2020 Xilinx
(質問2)
今後10年におきるパラダイムシフトで
FPGAはどのような位置を担うことが出来る
と予想されますか?
© Copyright 2020 Xilinx
ギャップが
大きすぎる
設計サイクルがイノベーションのスピードに追いつかない
設計 検証
シリコン設計サイクル
非常に遅い
開発 最適化 運用
急速に進む
アルゴリズム/
AIモデルの進化
17
再構成可能なハードウェア
によるDSAアップデート
両者のギャップを埋める
再構成可能ハードウェア(FPGA)が、設計サイクルのギャップを埋める
© Copyright 2020 Xilinx
Versal / AI アクセラレーションのロードマップ
 現行の 7nm ノード
 AIE 第 1 世代: 現行の Versal アーキテクチャ
 同じデバイスで特別な DSA によるさらなる性能向上
 AIE 第 2、3 世代: 同じノードで新しいアーキテクチャから高性能を
引き出す
 同じデバイスで特別な DSA によるさらなる性能向上
 次世代のシリコン
 推論密度、SRAM 密度および帯域幅のブレークスルー
 同じデバイスで特別な DSA によるさらなる性能向上
gen1 gen2 gen3 gen4
INT8
性能
5G、FP32、複雑な DSP
INT8 性能 > T4
AI 推論、
より多くの SRAM に
最適化
次世代テクノロジ
HPC & AI
帯域幅のブレークスルー
IC サイクル
革新的な
データ型
x
最適化 DSA*
x
最適化 DSA*
x
x
x
x x
新 DSA
x
新 DSA
x
新
DSA
次世代のサイクル
x
最適化 DSA*
シリコン アップグレードありとなしの両方で性能向上を可能にするロードマップ
Gen1 Gen2 Gen3 Gen4
*最適化 DSA: スパース性、混合精度など
18
© Copyright 2020 Xilinx
(質問3)
パラダイムシフトに向けて、若手エンジニア
へどういったアドバイスをされますか?
© Copyright 2020 Xilinx
再構成可能ハードウェアでイノベーションを起こそう
20
1
2
SW技術者とHW技術者の協調開発が不可欠
- HWを意識したソフトウェア設計。アルゴ/ワークロードを理解したHW実装。新しいアーキテ
クチャの使いこなしには、両者の協調が不可欠。
- SW設計部門とHW設計部門を明確に分けた効率優先の縦割り組織では、イノベーションは
生まれにくい
3 恐れず飛び込んでみよう!FPGAの世界に
- ザイリンクスは、ソフトウェア開発者向けの開発環境の整備、クラウドの充実、AlveoやSOM
などの低コスト機器も揃え、幅広い技術者にFPGAを活用頂くための準備が整っています
変革期は、小さな会社にこそチャンス
© Copyright 2020 Xilinx
HW/SW協調開発によるイノベーション
21
ML Engineers,
Data Scientists
Application &
Algorithm
Engineers
Embedded
Software
Developers
Hardware/FPGA
Developer
VHDL Verilo
g
TCL
© Copyright 2020 Xilinx
Thank You

ACRi panel_discussion_xilinx_hayashida_rev1.0

  • 1.
    © Copyright 2020Xilinx ACRi 設立一周年 特別企画 「第1回ACRi討論会」 林田 裕 (HAYASHIDA Hiroshi) カントリーマネジャー ザイリンクス株式会社 2021年5月28日
  • 2.
    © Copyright 2020Xilinx FPGAが次の10年で飛躍するために どういった取り組みが必要か? お題:
  • 3.
    © Copyright 2020Xilinx ザイリンクスのイノベーションの歴史 11 ハードウェアの革新 世界初の FPGA 1984 ソフトウェアの革新 業界初のハイエンドな 大容量 FPGA 1999 業界初の SerDes と プロセッサを統合した FPGA 2001 業界初の 3D FPGA/ Zynq デュアル HW プログラマブル SoC 2012 業界初の Zynq MPSoC & RFSoC 2017 VERSAL 業界初の ACAP (Adaptive Compute Acceleration Platform) 2019 ALVEO データセンター アクセラレータ カード 2018 次世代開発環境 ソフトウェア開発者向け プログラマビリティ C、C++、 SystemC コードが 有効 1984 現在 統合ソフトウェア プラットフォーム KRIA SOM 量産対応の適応型 SOM システムオンモジュール 2021
  • 4.
    © Copyright 2020Xilinx HW を適用できる デバイス 運用可能な エンドシステム FAAS (サービスとしての FPGA) アクセラレータ カード SmartNIC、コンピュテー ショナルストレージ 電子システムの 「チップダウン」設計 主なクラウド プロバイダー 経由でザイリンクス テクノロジを 活用および評価 Edge-To-Cloud : さまざまな運用方法を提供 SOM (システムオンモジュール) 4 Edge Public Cloud Edge Cloud / On-Premise
  • 5.
    © Copyright 2020Xilinx © Copyright 2020 Xilinx FY2006 FY2013 FY2020 オートモーティブ 分野での好調な成長 Production deployments with our 28nm and 16nm families to fuel continued growth Consistent Growth  Double digit unit shipment growth over 15 years  More than 190M devices shipped  More than 80M devices shipped into ADAS Tier-1s OEMs Startups Note: Only showing publicly-announced customer collaborations Unit Shipments 5.4M 12.1M 19.6M
  • 6.
    © Copyright 2020Xilinx Dynamic Function eXchange (DFX) 6 デバイスを動的に再構成して、システム全体の消費電力とコストを削減 数ミリ秒で機能を入れ替え SURROUND VIEW CAMERA REAR VIEW CAMERA FRONT CAMERA • 同一デバイスで相互排他的 な機能を提供 • 時間多重化ハードウェアで 必要なデバイスはより小型 • デバイス数の削減によるシ ステムコストおよびサイズの 低減 運転前の安全確保 低速運転 高速運転
  • 7.
    © Copyright 2020Xilinx 7 Why SUBARU selected Xilinx? 7 (出展:MONOist : 新型レヴォーグに新世代アイサイト搭載、ステレオカメラはヴィオニア製に https://monoist.atmarkit.co.jp/mn/articles/2008/21/news047.html)  「ASICは慣れた“枯れた技術”で開発できたのに対し、FPGAは最新のプロセスとソフトウェア技術で 開発するため難易度が高かったというが、スケーラビリティの高さによる開発のスピードアップが 大きなメリットとなった。新開発のステレオカメラは試作の段階から一貫してFPGAを使用しており、 量産に向けた開発や機能安全対応でのサイズ変更が柔軟に行えた」  スバル 第一技術本部 自動運転PGM ゼネラルマネージャー兼先進安全設計部 担当部長 柴田 英司 様  スバル 第一技術本部 自動運転PGM 先進安全設計部先進安全設計部 先進安全設計第七課 課長 片平 聡 様  「自動車業界でのADASの進化のスピードが速い中で、そのペースに合わせた開発が必要だった。 FPGAは自らプログラムして序盤から検証できるところにメリットがあった」  スバル 第一技術本部 自動運転PGM 先進安全設計部先進安全設計部 先進安全設計第七課 課長 片平 聡 様  画角と画素数を従来の2倍に向上するなどカメラの高性能化に合わせたデータ処理能力の引き上げと センサーフュージョンをFPGAで実現した。アイサイトでは低遅延な処理が求められるため、 GPUよりもFPGAが効果的だった。
  • 8.
    © Copyright 2020Xilinx ザイリンクス製品で実現する「アプリケーション全体の高速化」 「アプリケーション全体の高速化」 とは、AI 推論とその他の性能にクリティカルな処理を、単一デバイスに 密接結合することで両方の機能を高速化できる、最適化されたハードウェア アクセラレーション アプリケーション全体の高速化 8 Xilinx – 最適化されたスループット AI機械学習 前処理 (例:デコード/トリミング) 後処理 (例:再圧縮/暗号化) GPU & CPU – ミスマッチによる性能低下 AI機械学習 前処理 (例:デコード/トリミング) 後処理 (例:再圧縮/暗号化) AI推論アプリケーション 実行時間
  • 9.
    © Copyright 2020Xilinx 適応型演算アクセラレーション プラットフォーム : VERSAL >> 9 • 粗粒度リコンフィギュレーション可能なアーキテクチャ (VLIW/SIMD タイル) • 優れたワット/㎟ あたり性能 • 固定/浮動小数点データ型 • アプリケーション固有のデータパス、メモリ、データ移動 • 空間的/時間的局所性を利用 7nm FinFET Versal 業界初の ACAP (Adaptive Compute Acceleration Platform) AI エンジン 高性能、高効率、高適応性
  • 10.
    © Copyright 2020Xilinx ソフトウェア、フレームワーク、エコシステムで拡大する ユーザー ベース SW アクセラレーション SW アプリケーション AI アクセラレーション エコシステム HW/ファームウェア ソフトウェア開発者と AI 開発者をサポート  API と最適化されたライブラリで利便性が向上  SW 言語: C/C++、Python  標準フレームワーク: Tensorflow、PyTorch、Caffe  オープンソースおよび ISV/IHV エコシステム デザインの抽象度 HW/ファームウェア HW を意識した SW AI 開発者 SW 開発者 10
  • 11.
    © Copyright 2020Xilinx FPGAが次の10年で飛躍するために どういった取り組みが必要か? まとめ 組込み市場で培った高性能・低遅延・省電力の技術を、ITインフラの世界に 「アプリケーション全体の高速化」を目ざす新しいHWアーキテクチャを投入 幅広いエンジニアに活用してもらうためにソフトウェア環境を整備
  • 12.
    © Copyright 2020Xilinx ありがとうございました
  • 13.
    © Copyright 2020Xilinx (質問1) 今後10年でどのようなパラダイムシフトが 起きると予想されますか?
  • 14.
    © Copyright 2020Xilinx ザイリンクスが予想するコンピューティングモデルの進化 14 「CPU 中心」のアーキテクチャから、 カスタマイズ可能な分散コンピューティングへ移行 コンピューティング、ストレージ、 ネットワーク制御の統合が進む ワークロードとアルゴリズムが急速に進化
  • 15.
    © Copyright 2020Xilinx ヘテロジニアス分散コンピューティングへ向けて 15 Network Compute Storage アクセラレータ カード NIC CPU SSD GPU FPGA Smart NIC CPU Smart SSD GPU FPGA CPUがデータ転送 のボトルネック 分散コンピューティング によるボトルネック解消 2018年10月発表 2020年3月発表 2020年11月発表 SmartNIC SmartSSD 将来のコンピュータ アーキテクチャ
  • 16.
    © Copyright 2020Xilinx (質問2) 今後10年におきるパラダイムシフトで FPGAはどのような位置を担うことが出来る と予想されますか?
  • 17.
    © Copyright 2020Xilinx ギャップが 大きすぎる 設計サイクルがイノベーションのスピードに追いつかない 設計 検証 シリコン設計サイクル 非常に遅い 開発 最適化 運用 急速に進む アルゴリズム/ AIモデルの進化 17 再構成可能なハードウェア によるDSAアップデート 両者のギャップを埋める 再構成可能ハードウェア(FPGA)が、設計サイクルのギャップを埋める
  • 18.
    © Copyright 2020Xilinx Versal / AI アクセラレーションのロードマップ  現行の 7nm ノード  AIE 第 1 世代: 現行の Versal アーキテクチャ  同じデバイスで特別な DSA によるさらなる性能向上  AIE 第 2、3 世代: 同じノードで新しいアーキテクチャから高性能を 引き出す  同じデバイスで特別な DSA によるさらなる性能向上  次世代のシリコン  推論密度、SRAM 密度および帯域幅のブレークスルー  同じデバイスで特別な DSA によるさらなる性能向上 gen1 gen2 gen3 gen4 INT8 性能 5G、FP32、複雑な DSP INT8 性能 > T4 AI 推論、 より多くの SRAM に 最適化 次世代テクノロジ HPC & AI 帯域幅のブレークスルー IC サイクル 革新的な データ型 x 最適化 DSA* x 最適化 DSA* x x x x x 新 DSA x 新 DSA x 新 DSA 次世代のサイクル x 最適化 DSA* シリコン アップグレードありとなしの両方で性能向上を可能にするロードマップ Gen1 Gen2 Gen3 Gen4 *最適化 DSA: スパース性、混合精度など 18
  • 19.
    © Copyright 2020Xilinx (質問3) パラダイムシフトに向けて、若手エンジニア へどういったアドバイスをされますか?
  • 20.
    © Copyright 2020Xilinx 再構成可能ハードウェアでイノベーションを起こそう 20 1 2 SW技術者とHW技術者の協調開発が不可欠 - HWを意識したソフトウェア設計。アルゴ/ワークロードを理解したHW実装。新しいアーキテ クチャの使いこなしには、両者の協調が不可欠。 - SW設計部門とHW設計部門を明確に分けた効率優先の縦割り組織では、イノベーションは 生まれにくい 3 恐れず飛び込んでみよう!FPGAの世界に - ザイリンクスは、ソフトウェア開発者向けの開発環境の整備、クラウドの充実、AlveoやSOM などの低コスト機器も揃え、幅広い技術者にFPGAを活用頂くための準備が整っています 変革期は、小さな会社にこそチャンス
  • 21.
    © Copyright 2020Xilinx HW/SW協調開発によるイノベーション 21 ML Engineers, Data Scientists Application & Algorithm Engineers Embedded Software Developers Hardware/FPGA Developer VHDL Verilo g TCL
  • 22.
    © Copyright 2020Xilinx Thank You