Recommended
More Related Content
What's hot
What's hot (20)
Viewers also liked
Viewers also liked (16)
Similar to 研究生のためのC++ no.7
Similar to 研究生のためのC++ no.7 (20)
研究生のためのC++ no.7
- 3. プログラム改良のステップ 3 原因の特定 高速化① 最適化 高速化② アルゴリズムの改良 高速化③ マルチスレッド 高速化④ GPUアクセラレーション
- 10. 最適化 第二節 10
- 11. 最適化 11 コンパイラで最適化（自動） • コンパイルオプションを変えることで コンパイラが最適化を行う • とりあえず楽。 プログラマが最適化（手動） • プログラマがプログラムをいじって 手動で最適化を行う • めんどくさい。 • コンパイラオプションで最適化して、 まだ遅いときにやろう
- 13. SIMD拡張命令セット (Single Instruction Multi Data) 一つの命令で複数のデータを扱う (float×8やdouble×4の演算を一回の命令でやる) 13 Intel SSE / AVX 1.0 2.0 3.0 4.0 2.0 4.0 6.0 8.0 + ↓ 専用レジスタ 専用レジスタ 1.0 2.0 3.0 4.0 64×4=256bit
- 14. 14 Intel SSE / AVXの有効化 プロジェクトのプロパティ > C/C++ > コード生成の拡張命令 セットを変更 でIntel SSE/AVXの 有効化
- 15. sample 7-05 #include <immintrin.h> #include <iostream> using namespace std; void main() { __m256d a = _mm256_set_pd(1.0, 2.0, 3.0, 4.0); __m256d b = _mm256_set_pd(1.0, 2.0, 3.0, 4.0); __m256d c = _mm256_add_pd(a, b); cout << c.m256d_f64[0] << endl; cout << c.m256d_f64[1] << endl; cout << c.m256d_f64[2] << endl; cout << c.m256d_f64[3] << endl; } 実行結果 8 6 4 2 15 z Intel SSE / AVXの手動プログラミング
- 16. 16 ただし
- 20. アルゴリズムの改良 第三節 20
- 21. sample 7-06 static int a[length]; static int b[length]; static int c[length]; for (int i = 0; i < length; i++) { c[i] = a[i] + b[i]; } sample 7-07 struct int3 { int a, b, c; }; static int3 x[length]; for (int i = 0; i < length; i++) { x[i].c = x[i].a + x[i].b; } 21 アルゴリズムの改良 ①キャッシュミスを減らせ どっちのプログラムが早いだろうか
- 22. sample 7-06 static int a[length]; static int b[length]; static int c[length]; for (int i = 0; i < length; i++) { c[i] = a[i] + b[i]; } sample 7-07 struct int3 { int a, b, c; }; static int3 x[length]; for (int i = 0; i < length; i++) { x[i].c = x[i].a + x[i].b; } 22 アルゴリズムの改良 ①キャッシュミスを減らせ 答え 右 (左: 70msくらい) (右: 50msくらい)
- 25. for (int i = 0; i < 1024; i++) { // … } // … for (int i = 0; i < 1024; i++) { // … } for (int i = 0; i < 1024; i++) { // … // … } 25 ②ループを減らせ
- 26. #include "Eigen¥Dense.hpp" using namespace Eigen; void main() { MatrixXd A; } #include "Eigen¥Sparse.hpp" using namespace Eigen; void main() { SparseMatrix<float> A; } 26 ③余計な計算を減らせ スパース行列
- 27. 日頃から次に気をつけてプログラムを組む • キャッシュヒット率が上がりやすいプログラムにする • ループの数を減らす • 余分な計算を減らす 27 ここまでのまとめ
- 28. マルチスレッド 第四節 28
- 29. マルチコアCPUだと、異なるCPUコアで同時実行ができる マルチスレッドプログラミングの方法 • OSのマルチスレッドAPIを使う (Win32APIだとCreateThread関数) • マルチスレッドライブラリを使う (標準ライブラリ, IntelTBB等) • 言語拡張(OpenMP)を使う 29 マルチスレッド 複数の処理を並列に実行する
- 30. #pragma omp … を既存のプログラムに挿入する形で利用 ↓ プログラムをあまり修正しなくていいので導入が簡単 コンパイルオプションでOpenMPを無効にすれば、 シングルスレッドのプログラムにすぐに直せる (もとに戻すのが簡単) OSに依存しないので移植性が高い 30 OpenMP マルチスレッド
- 31. sample 7-01 // Calculation. float sum1 = 0, sum2 = 0, sum3 = 0, sum4 = 0; #pragma omp parallel sections { #pragma omp section { for (int i = 0; i < 2500000; i++) { sum1 += data[i]; } } #pragma omp section … } float sum = sum1 + sum2 + sum3 + sum4; sample 7-02 // Calculation. float sum = 0; { for (int i = 0; i < length; i++) { sum += data[i]; } } 31 OpenMP プログラム例1 配列の総和を求める
- 32. sample 7-01 // Calculation. float sum1 = 0, sum2 = 0, sum3 = 0, sum4 = 0; #pragma omp parallel sections { #pragma omp section { for (int i = 0; i < 2500000; i++) { sum1 += data[i]; } } #pragma omp section … } float sum = sum1 + sum2 + sum3 + sum4; sample 7-02 // Calculation. float sum = 0; { for (int i = 0; i < length; i++) { sum += data[i]; } } 32 OpenMP プログラム例1 配列の総和を求める 配列を4等分して それぞれ別々に総 和を計算する 素直なやり方
- 33. sample 7-01 実行結果 sum is 10000000.000000. 5 ms. sample 7-02 実行結果 sum is 10000000.000000. 13 ms. 33 OpenMP プログラム例1 配列の総和を求める 配列を4等分して それぞれで総和を 計算する 素直なやり方 スピードUP
- 35. sample 7-09 #include <iostream> void main() { #pragma omp parallel for for (int i = 0; i < 4; i++) { for (int j = 0; j < 4; j++) { printf("%d¥n", i); } } } 実行結果 Thread is 0 Thread is 3 Thread is 3 Thread is 3 Thread is 3 Thread is 2 Thread is 2 Thread is 2 Thread is 2 Thread is 1 Thread is 1 Thread is 1 Thread is 1 Thread is 0 Thread is 0 Thread is 0 35 OpenMP プログラム例2 for文の並列化
- 38. 38 時間足りませんでした