Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

さくらインターネットにおけるアニーリングシステム評価の取り組みのご紹介

1,691 views

Published on

さくらインターネット研究所で実施中のCMOSアニーリングマシンの評価について。CMOSアニーリングマシンワークショップ@日立での発表資料です。

Published in: Internet
  • Be the first to comment

  • Be the first to like this

さくらインターネットにおけるアニーリングシステム評価の取り組みのご紹介

  1. 1. さくらインターネットにおける アニーリングシステム評価の 取り組みのご紹介 @ CMOSアニーリングマシンワークショップ 2019/08/30 さくらインターネット株式会社 さくらインターネット研究所 上級研究員 菊地 俊介 (C) Copyright 1996-2019 SAKURA Internet Inc
  2. 2. 本資料(本発表)の構成 • さくらインターネット、同研究所について • さくら(研究所)におけるCMOSアニーリングマシン 評価・検討の位置づけ • 評価結果 • アニーリングマシン活⽤事例のご紹介 • 今後の展開予定 • 本資料は、さくらインターネット研究所ブログで公開 予定です。 • https://research.sakura.ad.jp/ 2
  3. 3. 話者紹介 3 菊地 俊介 (東京都出⾝、品川区在住) 所属 さくらインターネット研究所 学歴 早稲⽥⼤学⼤学院 理⼯学研究科 電⼦・情報通信学専攻 修⼠課程修了 早稲⽥⼤学⼤学院 国際情報通信研究科 博⼠課程単位取得退学 職歴 富⼠通(株)富⼠通研究所に就職 ネットの研究やったり、SEやったり、 NICTに出向したり、トイレIoT作ったり さくらインターネットに転職 データ流通実証実験、OpenFogコンソーシアム、 AR/VR、量⼦(アニーリング)コンピュータ 専⾨ エッジ・Fogコンピューティング (分散系システムのあたり) 趣味 新技術調査、家庭内IoT、⾞、鉄道 @kikuzokikuzo https://note.mu/kikuzokikuzo https://www.facebook.com/ kikuzokikuzo
  4. 4. さくらインターネットの主要サービス構成 4
  5. 5. 新規サービスが成⻑を牽引 5 6-0 /25 26 5 3826 7 9 1 1 1 V 1 )1 1 )) 1 4 1 P T 1 6 2 2 148 1 3 7 7 7 7 7 7 7 7 7 7 7 ))) ( ) ( 3
  6. 6. ⾼⽕⼒コンピューティングサービス 6
  7. 7. さくらインターネット研究所のフォーカス さくらの現業ビジネスの先にあるものを⾒ていく。 7 さくら 現業ビジネス インフラ領域 新ビジネス領域新技術・研究領域 量⼦ コンピューティング サーバネットワーク データ流通 分散システム (エッジ・フォグ) クラウド・VPS IoT モビリティ・ ロボティクス 機械学習 ストレージ セキュリティ データセンター ファシリティ ⾳声インタフェース スマートシティ ・スマートビル ⾼⽕⼒ 衛星データPF 2019版 AR・VR・ ウェアラブル コンテナ・サービスメッシュ
  8. 8. さくらインターネット研究所では昨年より⽇⽴さんと共同で研究活動を推進 8
  9. 9. さくらインターネット研究所では昨年より⽇⽴さんと共同で研究活動を推進 9
  10. 10. なぜ、さくらでCMOSアニーリングマシンを評価するのか︖ 10 次のさくらのビジネスを⽀える(かもしれない) 要素技術へのキャッチアップ これまでも、新しい技術に⽀えられた新しいサービスが、会社を成⻑ させてきた︓「クラウド」「⾼⽕⼒」 新しい需要の創出への⽀援 NVIDIAが様々なGPU関連製品を出し、使い⽅セミナーを開催す るのと同様。その⽴場にある⽇⽴さんの⽀援。 ⾃社内サービスへの適⽤の可能性 (後ほど紹介)
  11. 11. 今回のプロダクトの⽴ち位置に関する理解 (1/2) ソリューションとしての位置づけ 11 対応できる問題の⼤きさ 消費電⼒ FPGA ⽇⽴ クラウド CMOS GPGPU による 解法 エッジ(現場)側にインストール ネットワーク越しに使う D-Wave ? 10000スピン〜2000スピン
  12. 12. 今回のプロダクトの⽴ち位置に関する理解 (2/2) ビジネスソリューションの構成(想定、可能性) • フルサポート・フルマネージドサービスとして︓ • ⽇⽴さんによる対応 • ⾃社開発向けソリューションとして︓ • さくらで環境準備のお⼿伝い︖ 12
  13. 13. アニーリングマシンの使い⽅ 13 解きたい問題をエネルギー関 数(コスト関数)として表現 問題をイジング模型 (QUBO)に変換 イジング模型をアニーリング マシンのハードウェア(トポ ロジー)に合わせて変形 アニーリングマシンで解く ソフトウェア定義でフルメッシュ 結合のため、変形不要 pyQUBOを 利⽤する さくらの⾼⽕⼒環境で評価 今回の評価では、 ランダムグラフを 利⽤
  14. 14. 問題をコスト関数にする 問題を定式化する (アニーリングマシンを使う上で⼀番難しいネックとなるポイントがここ) (ここはツールなどのソリューションがあまりなく、⾃⼒でやらなければなら ないところ) 参考サイト • QUANTUM COMPUTING SOLUTIONS : フィックスターズ社の解説サイト • https://quantum.fixstars.com/introduction_to_quantum_computer/quantum_a nnealing/ising_model/ • T-Wave : 東北⼤学量⼦アニーリング研究センターが運営するナレッジベース • https://qard.is.tohoku.ac.jp/T-Wave/?p=43 14 数式は⽇⽴サイト( https://annealing- cloud.com/tutorial/1.html )より借⽤
  15. 15. イジング模型の変形 イジング模型を、アニーリングマシンのハードウェア構 成に合わせて変形する必要がある (今回のソリューションでは、フルメッシュ結合となってい るため、対応不要。)(すばらしい︕) 15 キンググラフの場合 図はいずれも https://quantum.fixstars.com/introduction_t o_quantum_computer/quantum_annealing/ programming/graph_mapping/ より借用
  16. 16. 評価について さくらの「⾼⽕⼒コンピューティング」(GPGPU搭載ホスト時 間貸し環境)でMAソフトウェアを使⽤した場合の、使い勝⼿を ⾒出すことを⽬的に評価 評価した内容 • 評価1: 計算量と計算時間の特性 • 評価2: 精度の特性 費⽤⽬安 今回の評価の対象外 • 性能の上限 • 既存⼿法(SAや⽇⽴製作所の既存ソリューション)との⽐較 16
  17. 17. 評価環境 • さくらインターネット⾼⽕⼒コンピューティング環境 を利⽤ • ⼊⼒イジングモデルとして、ランダムグラフを利⽤ • ランダムグラフ⽣成には”rudy”を使⽤ • 汎⽤グラフジェネレータとして広く⽤いられている • https://web.stanford.edu/~yyye/yyye/Gset/ 17 Tesla P40モデル NVIDIA Tesla P40 x1 24GB メモリ 単精度性能:約12.0TFLOPS 倍精度性能: - (実装なし) Tesla P100モデル NVIDIA Tesla P100 x1 16GB メモリ 単精度性能:約9.3 TFLOPS 倍精度性能:約4.7 TFLOPS 今回評価対象
  18. 18. 評価1︓計算量と計算時間の特性 18 状態 エネルギー アニーリング処理(1試⾏) 動かす細かさの単位=ステップ(s) 試⾏回数(r) イジングモデル、 ステップ数(S)、試 ⾏回数(R)をパラ メータとして与え、 計算開始 試⾏回数分の結果 をまとめて(ヒス トグラム化、平均 値等を計算等)、 出⼒とする (⽇⽴製)アニーリング処理の構成 評価1-1:⼀つのイジングモデルに対して、アニーリング処理 のステップ数、試⾏回数を変化させて計算時間を観測
  19. 19. 評価1︓計算量と計算時間の特性 評価1-1:⼀つのイジングモデルに対して、アニーリング処理 のステップ数、試⾏回数を変化させて計算時間を観測 19 d=200 1試⾏あたり [ms] 全試⾏合計 [ms] コマンド実⾏ 時間 [s] 凡例︓ ( ) , - - ( , ,, , - - ( , , , ) , , -, - ) - ( ( ) ) -- ,, , , - ) - ) - , ) ) , , ) , 7456 . 0 2 1 3 6
  20. 20. 評価1︓計算量と計算時間の特性 20 2.634 3.753 4.898 6.419 7.143 8.241 9.406 10.585 12.234 13.79916.395 75.694 161.316157.569 809.244 1620.013 0 200 400 600 800 1000 1200 1400 1600 1800 100 200 300 400 500 600 700 800 900 1000 実行時間[sec] 試行回数 (r) 試⾏回数、ステップ数と試⾏時間の関係 1,000 10,000 100,000 ステップ数、試⾏回数に対して計算時間はリニアに変化する。 評価1-1:⼀つのイジングモデルに対して、アニーリング処理 のステップ数、試⾏回数を変化させて計算時間を観測
  21. 21. 評価1︓計算量と計算時間の特性 21 評価1-1:⼀つのイジングモデルに対して、アニーリング処理 のステップ数、試⾏回数を変化させて計算時間を観測 2.634 3.753 4.898 6.419 7.143 8.241 9.406 10.585 12.234 13.799 16.395 75.694 161.316157.569 809.244 1620.013 1 10 100 1000 100 200 300 400 500 600 700 800 900 1000 実⾏実感[sec] 試⾏回数(r) 試⾏回数、ステップ数と試⾏時間の関係 s=1,000 s=10,000 s=100,000 ステップ数あたりの効率は、試⾏回数が増えると悪化する。
  22. 22. 評価1︓計算量と計算時間の特性 評価1-2:⼊⼒イジングモデルのサイズ(スピン数)をパラ メータに、試⾏回数を変化させて計算時間を観測 22 s=1000 1試⾏あたり [ms] 全試⾏合計 [ms] コマンド実⾏ 時間 [s] 凡例︓ ( ) , ( , ( ) ) )( , , , , ) , ( ) ))( , , , , ) )) , ) ( ( , ) , ( , , ( ) ( ) ) ,( ) , ( , ( , , ) ) ( )( , , , ( ) ) ) ) ( ) , , ,( , ( ) ) ) ) ( ) , , ,( 014 52 34 . (
  23. 23. 評価1︓計算量と計算時間の特性 23 評価1-2:⼊⼒イジングモデルのサイズ(スピン数)をパラ メータに、試⾏回数を変化させて計算時間を観測 0 20 40 60 80 100 120 100 200 300 400 500 600 700 800 900 1000 計算時間[s] 試⾏回数 (r) 試⾏回数と計算時間の関係 d=200 d=300 d=400 d=500 d=600 d=700 d=800 d=900 d=1000 d=1200 d=1500 d=2000 試⾏回数に対して計算時間はリニアに変化する。 それはスピン数を変えても変わらない。
  24. 24. 評価1︓計算量と計算時間の特性 24 評価1-2:⼊⼒イジングモデルのサイズ(スピン数)をパラメータに、試⾏回数を変化させて計算時間を観測 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 100 200 300 400 500 600 700 800 900 1000 計算時間比(d=200を1として) 試行回数 (r) スピン数と計算時間の関係(比率) d=200 d=300 d=400 d=500 d=600 d=700 d=800 d=900 d=1000 d=1200 d=1500 d=2000 スピン数が⼤きくなると計算効率は上がる
  25. 25. 評価2︓精度の特性 評価2:d=200のイジングモデルにおいて、試⾏回数とステップ 数を変化させて最⼩エネルギー到達までの変化を確認 25 d=200 ) - ) - - - ) ( ) ), ( ( ) ), ), ), - )( ), ), ), 7456 . 0 2 1 3 6 ( , )) , ( , , ( ,) ) ( ,) ) ( ( ) )) )( 6345 1 0 2 5 . d=200 (ステップ数・試⾏回数と計算時間の関係表より抜粋) 1試⾏あたり [ms] 全試⾏合計 [ms] コマンド実 ⾏時間 [s] 凡例︓ 平均エネル ギー値 最省エネル ギー値 凡例︓ 【参考】計算時間平均エネルギー値と最⼩エネルギー値 試⾏回数よりもステップ数を増加させた ほうが、求解には有利
  26. 26. 評価2︓精度の特性 評価2:d=200のイジングモデルにおいて、試⾏回数とステップ数を 変化させて最⼩エネルギー到達までの変化を確認 26試⾏回数よりもステップ数を増加させたほうが求解には有利 0 0.05 0.1 0.15 0.2 0.25 0.3 -2058 -2008 -1958 -1908 -1858 -1808 出現頻度 最小エネルギー値 算出エネルギー値ヒストグラム r=100, s=1000 r=500, s=1000 r=1000, s=1000 r=100, s=10000 r=100, s=100000
  27. 27. 評価結果(まとめ) 特性 • 試⾏回数とステップ数に関して、計算時間は線形に増加する • ⼊⼒するイジングモデルのサイズに対して、計算時間はほぼ線形に 増加する • むしろ、⼊⼒サイズが⼤きくなるほど効率が上がる 計算時間(速度) • 200ノード、1000ステップ100試⾏で2.6秒 • 200ノード、1000ステップ1000試⾏で13.8秒 • 200ノード、10000ステップ100試⾏で16.4秒 • 1000ノード、1000ステップ1000試⾏で36.9秒 • クエリに対してリアルタイムで応答させるようなタイプの処理には (まだギリギリ)向かない。バッチ処理に組み込む分には⼗分⾼速。 • (SAに対しては1000倍くらい⾼速な模様。) 27
  28. 28. 【参考】評価結果(SAとの⽐較) 28 https://journals.aps.org/pre/abstract/10.1103/PhysRevE.100.012111
  29. 29. 費⽤について ⾼⽕⼒コンピューティング Tesla P40モデル の場合 • 時間貸しの場合 • 環境セットアップ︓10分弱 • アニーリング計算︓〜15分程度(⽬安、解かせたい問題サイズに依存) • 結果の回収︓1分 • →349円 (1時間分) • 1ヶ⽉借りっぱなしで251,280円 • ⽉額課⾦契約で借りる場合(最低3ヶ⽉以上) • 初期費875,000円+⽉額97,000円 x3 = 1,166,000円〜 29
  30. 30. アニーリングマシン応⽤検討 Fogコンピューティング試作 現場とクラウドを連携させて業務改善 (倉庫オペレーション改善を想定) 30 Fog Cloud Fog ↑データ送信 現場デバイス データ処理・現場制御 アプリケーション 制御指⽰↓ データ処理・ 現場制御 アプリ アニーリング クラウド 現場デバイス 最適配備計算 棚への荷物の最適な 格納の仕⽅を解く フィールドに現れた 荷物の⼤きさを検出 ToFカメラ センサ+LED表⽰ 荷物を収める倉庫を明⽰
  31. 31. アニーリングマシン応⽤検討 • さくらのクラウドにおける、VMの配備計画 • エッジノードへのジョブ配備計画 • 画像処理フィルタへの適⽤ • 検討中... 31
  32. 32. 今後の展開予定 (案であり本決まりのものではありません) • アニーリングマシン(GPGPU版)利⽤トライアルユー ザ募集 • アニーリングマシン(GPGPU版)社内適⽤(VM最適 配備への適⽤) • エッジコンピューティング・Fogコンピューティング 試作(実際に動かして使う、デモシステム)への適⽤ • 「現場で⼩問題を⾼速に解く」で、使っていきながら評価を 進める⽅向性を重視している。 32
  33. 33. ありがとうございました。 33

×