Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Misc for edge_devices_with_fpga

3,458 views

Published on

Various things to do for using Edge Device with FPGA

Published in: Engineering
  • Be the first to comment

Misc for edge_devices_with_fpga

  1. 1. エッジデバイスの実利用環境を考慮した 機械学習システム構築のあれこれ わさらぼ/イーツリーズ・ジャパン みよし たけふみ ( @miyox )
  2. 2. 今日はこういう話ですよね? エッジデバイス エッジデバイス エッジデバイス
  3. 3. エッジで推論
  4. 4. エッジデバイスのあれこれ
  5. 5. エッジで推論 SoC(RISC-V+KPU + uPython)
  6. 6. エッジで推論 SeeDot(Microsoft) + Arduino IDE 学習データ ProtoNN /usps10 最大1048576バイトのフラッシュメモリのうち、スケッチが25924バイト (2%)を使っています。 最大196608バイトのRAMのうち、グローバル変数が1236バイト (0%)を使っていて、ローカル変数で195372バイト使うことができま す。 2.8m秒SeeDot
  7. 7. エッジで推論 FPGA
  8. 8. こういう話ですよね? エッジデバイス エッジデバイス エッジデバイス
  9. 9. システムに潜むあれこれ エッジデバイス エッジデバイス エッジデバイス 電源管理 バッテリートラブル 通信トラブル 計算資源の不足 計算資源の不足 本物? 管理コスト
  10. 10. システムに潜むあれこれ エッジデバイス エッジデバイス エッジデバイス 電源管理 バッテリートラブル 通信トラブル 計算資源の不足 計算資源の不足 本物? 管理コスト キーワードはFPGA
  11. 11. いくつかの取り組みの紹介 ● サーバー側の処理の一部をFPGAでアクセラレート ● バッテリに関する話 - 組み込み向け電源マネジメント ● 手軽にFPGA使えるようになるといいな ○ Intel PAC ○ Amazon F1 ○ 高位合成 ● システムにまとめるために
  12. 12. サーバー側のボトルネックとFPGAによる解決案 ● エッジでの機械学習 “推論”だけやります(が多い) ● あらかじめ学習しておく必要がある ● 適宜データを収集して再学習できるとよい ● そもそも最初が収集から,ということもある    (たくさんの)エッジとサーバーの通信が必須
  13. 13. IEICE RECONF研 2019年1月 三好健文: “非整列ストリームデータ処理向けマルチコアプロセッサシステムの検討と評価” エッジとサーバーのギャップ
  14. 14. IEICE RECONF研 2019年1月 三好健文: “非整列ストリームデータ処理向けマルチコアプロセッサシステムの検討と評価” CPUで実行時の負荷
  15. 15. IEICE RECONF研 2019年1月 三好健文: “非整列ストリームデータ処理向けマルチコアプロセッサシステムの検討と評価” CPUで実行時の負荷 PEを20個くらい並べれば 40Gbpsくらい出せそうだ
  16. 16. バッテリに関する話 - 組み込み向け電源管理 ● 要は,必要なときに必要な電力が供給できればいい ● OSやCPUでの電源制御はあるが... ● もっと粗粒度に必要な時だけ電源ONするでもいいのでは? ● 電源をONにするやつの電源をONに...するやつの電源をO... ● 待機電力が小さくてすむFPGAを使ってみるのはいかが? ● FPGAなら電源ONですぐ起動
  17. 17. 電源 ● 要は,必要なときに必要な電力が供給できればいい ● OSやCPUでの電源制御はあるが... ● もっと粗粒度に必要な時だけ電源ONするでもいいのでは? ● 電源をONにするやつの電源をONに...するやつの電源をO... ● 待機電力が小さくてすむFPGAを使ってみるのはいかが? ● FPGAなら電源ONですぐ起動
  18. 18. バッテリに関する話 - 組み込み向け電源管理 バッテリー/ 電気二重層コンデンサ エネルギー源 太陽光パネルとか タスクリスト 動作条件 実装・実験中
  19. 19. とりあえずスポーツアクティビティ支援 から
  20. 20. 電源 BAYSUN リチウムイオン電池の話 http://www.baysun.net/ionbattery_story/lithium10.html
  21. 21. 手軽にFPGAはじめる話 FPGAって面倒ですよね 今なら, Python や Scala や C++ や Java や Go や Rust Matlab や Halide や で,開発できます サーバーとも割と簡単に連携できるようになってきてます
  22. 22. AWS F1 を 使ってみる なら
  23. 23. AWS F1 を 使ってみる なら - たとえばCAM(ハッシュ)
  24. 24. Intel PAC
  25. 25. 高位合成 ● Vivado HLS ● Intel High level Synthesis compiler
  26. 26. 高位合成
  27. 27. システムにまとめるために エッジデバイス エッジデバイス エッジデバイス 電源管理 バッテリートラブル 通信トラブル 計算資源の不足 計算資源の不足 本物? 管理コスト
  28. 28. システムにまとめるために エッジデバイス エッジデバイス エッジデバイス 電源管理 バッテリートラブル 通信トラブル 計算資源の不足 計算資源の不足 本物? 管理コスト  エッジデバイスってどこまで面倒みてあげないといけないの?  こういうサービスは使えたりしないの?提案したら喜ばれる?  FPGA使ってみたいけど,何からはじめてみたらいい?

×