ハードウェア領域とAI

1. AI班ハードウェア領域
研究室での人工知能プロジェクト
CNNアクセラレータ
情報工学科３年 山内 脩吾

2. 研究室のAIプロジェクト
 （下級生向け アピール）
 天野研はハードウェアというだけで見学しなか
った人が多数いた。(見学は10人程度)
 ただプロジェクトや実績をよく見れば研究室は
わかる
 無事配属されマシンのフォルダから卒論・修論
を漁り読んだ→成果共有(ハードウェア的観点
から)

3. 天野研究室におけるAIプロジェクト
 プロジェクト１：国立研究開発法人新エネルギ
ー・産業技術開発機構（NEDO）
 「省電力AIエンジンと異種エンジン統合クラウ
ドによる人工知能プラット フォーム」
 FPGAでのスイッチング・ソフト開発のテスト
ベッド・GPU部分が完成するまでの演算コア等
を担当
 プロジェクト２：CNN用ASICチップを用いた
研究
 開発環境の提供 コンパイラ・シミュレータ

5. FPGAをスイッチングに用いる
 回線交換方式(パケット交換方式ではない)
 通信の帯域を保証
 ＋GPU部分完成までの演算コアとしての役割

6. CNN畳み込みニューラルネットワー
ク

7. CNNの計算過程
 畳み込み＋プーリング＋正規化＋識別
 大規模な積和演算＋高い並列性
 →計算並列化が効果的
 専用ハードウェアの時代
 GPGPU
 FPGA
 ASIC

8. GPU
 計算並列性を生かして多数のコアから構成
 SIMD（一つの命令を多数のコアで同時実行）
 強力なキャッシュ階層や分岐予測機構を持たず
、Out-of-Order実行できない代わりに高い並列
性を持つ。

10. ASIC
 特定用途向け集積回路
 専用の目的のためにチップを設計
 高速で動作
 チップ開発コストがかかる

11. FPGA
 構成を変更できる集積回路
 開発リスクが低い。
 動作周波数・消費電力の最適化が難しい（ASICに比
べ）
 今回の例では並列積和演算器を構成
 →CPUに比べ658倍高速化に成功

13. ハードウェアによるCNNアクセラレ
ータ
 汎用的なニューラルネットワークの処理を大規模なシステムに
よっ て高速化、省電力化
 DaDianNaoマシンラーニングスーパーコン ピュータ（ASIC）
 UCLAのマルチレイヤーCNNアクセラ レータ(FPGAベース）
 Microsoft社のCatapultのCNNアクセラレータ（FPGA）
 Google社 Tensor Processing Unit 専用チップ(ASIC)
 NVIDIA・Facebook Big Basin(GPU)
 NEDO FiC (GPU+FPGA)

15. これからのAI講習会
 よりよい人工知能にはハードウェア的観点が欠
かせない！アルゴリズムのように実践は難しい
が知見を深めていこう
 ↓今後の活動
 実際に用いられているCNNアクセラレータの構
成・ボトルネック
 ハードウェア的進化の知見(プロセスルール・
スパコン)を深めていこう
 GPU・FPGA技術について