1. PyCUDAの紹介 PythonとAWSですぐ始める GPUコンピューティング

2. お前、誰よ 尾上洋介(おのうえようすけ) 関西大学総合情報学部4年 CUDA，PyCUDAは卒研で使用 4月から同大学院 数理最適化アルゴリズムの開発，応用 株式会社スプーキーズアルバイト Web開発，ソーシャルアプリ，Androidアプリなど Twitter: @_likr

3. GPGPU

4. GPU処理の特徴 コア数が多い メモリアクセスが高速 演算能力の費用対効果が高い 近年の性能向上率が高い

5. 極端な誤解 何でも速くなるって聞いたんだけど！ 何でも速くなるわけではない うまく並列化できればCPUシングルスレッドの100倍ぐらいは出ることも 条件分岐が苦手って聞いたんだけど！ CPUとは条件分岐の機構がちょっと違う 条件分岐を工夫すれば速くなる場合もある メモリアクセスの最適化の方が大事

6. GPGPUの適用分野 画像処理，音声処理 流体計算，天体シミュレーション 線形計画問題，ナップサック問題，スケジューリング問題，金融工学 行列演算

7. GPGPUのアーキテクチャ ヘテロジニアスコンピューティング メモリ間の転送がボトルネックになる 手続きが複雑 ホストのメモリの確保 デバイスのメモリ確保 デバイスへのデータ転送 デバイスでの計算 デバイスからのデータ転送 デバイスのメモリ解放 ホストのメモリ解放 Host Memory Device Memory Device Memory

8. ` BlockとThread 行列をうまく扱うような仕組み const inti=blockDim.x* blockIdx.x + threadIdx.x;out[i] = 2 * in[i]; Block内のThread同士は同期可能 Block間の同期は不可能 Hostに戻す Blocks Threads Grid

9. CUDA NVIDIA GPU向けの統合開発環境 パフォーマンスを上げるためにはカーネル関数内でのメモリアクセスの最適化が重要 カーネル関数はCや他言語のものと共通 ->Pythonでも十分速くなる！

10. Amazon EC2Cluster GPU Instance

11. スペック Intel Xeon X5570 × 2 64bit 4コア NVIDIA Tesla M2050 × 2 448GPUコア 単精度ピーク時1.03Tflops 倍精度対応 Memory 22GB 高速なネットワーク 同一Placement Group内は高速通信可能 CentOS 5.5 同程度のマシンを買うと80〜100万円ぐらい？

12. 費用 On-Demand Instance $2.1 / hour (￥178.5 / hour) 1年￥1,563,660，3年￥4,690,980，… Reserved Instance 1年 $5,630 (￥478,550) $0.65 / hour (￥55 / hour) 3年 $8,650 (￥735,250) $0.33 / hour (￥28 / hour) +EBS料金など(月$2〜) ※$1 = ￥85で計算

13. PyCUDA

14. PyCUDA CUDAのPythonバインディング 高度な抽象化 実行時コンパイル

15. cf. PyOpenCl NVIDIA以外のGPUや，マルチコアCPUでのヘテロジニアスコンピューティング 結局チューニングはデバイスに依存？ どっちがいいの？ 好きな方を http://wiki.tiker.net/PyCuda/FrequentlyAskedQuestions#Should_I_use_PyOpenCL_or_PyCUDA.3F

16. インストール NVIDIAドライバのインストール CUDA Toolkitのインストール pip install pycuda

17. GPU Instanceへのインストール CentOSだしちょっと面倒… http://d.hatena.ne.jp/likr/20110213#1297602704 http://d.hatena.ne.jp/likr/20110214#1297664336 Cluster GPU InstanceにPython2.7とPyCUDAなどをインストールしたAMIを公開中 501488653145/PythonGPU

18. SourceModule カーネル関数をJITコンパイル numpy.ndarrayを使ってデータの転送

19. Cだと

20. PyCUDAだと

21. GPUArray numpy.ndarrayライクなAPI データがGPU上のメモリに確保される 演算はGPUで並列計算される

26. ElementwiseKernelReductionKernel 毎回書くには面倒な定形処理を抽象化

27. CでReduction Shared Memory使ったり，条件分岐を工夫したり，入力サイズに応じて処理を変えたり… サンプルで500行ぐらいあったから割愛！

28. PyCUDAでReduction

29. その他 Stream Texture Multi GPU メタプログラミング 高速フーリエ展開等々

30. 参考文献 Amazon EC2 Documentation http://aws.amazon.com/documentation/ec2/ PyCUDA Documentation http://documen.tician.de/pycuda/ PyCUDA wiki http://wiki.tiker.net/PyCuda はじめてのCUDAプログラミング青木尊之，額田彰(I・O BOOKS)

31. Enjoy GPU Computing !

32. ご清聴ありがとうございました