高精度線形代数演算ライブラリMPACK 0.8.0の紹介

1.
. 高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介 . 中田真秀理化学研究所情報基盤センター日本数式処理学会東北地区合同分科会@仙台青葉カルチャーセンター 602 号室, 2013/1/27 10:40 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

2.
高精度線形代数演算ライブラリ MPACK § ¤ http://mplapack.sourceforge.net/ ¦ ¥ 中田真秀@理化学研究所 MPACK: 高精度線形代数演算ライブラリ:BLAS,LAPACK をベース線形代数演算のビルディングブロック、参照実装、プログラムインターフェース (API) 提供 Version 0.8.0 (2012/12/25); ステータス: MBLAS 完成, MLAPACK 100 ルーチン完成 NVIDIA GPU C2050 での DD 精度の行列積の加速綿密なテスト: BLAS、LAPACK にあらゆる値を代入して行われる Linux/FreeBSD/Mac/Win/Intel Xeon Phi/NVIDIA C2050 をサポート 5 つの高精度計算の型をサポート: GMP, MPFR, 本物の 4 倍精度 (binary128), DD, QD, 倍精度 C++で書きなおした: プログラミングを容易にする。オープンソース: 2-条項 BSD ライセンス、再配布、変更など ok! 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

3.
中田のやりたいこと:コンピュータ上での線形代数演算おける精度問題を解決したい。人類は、線形代数を有志以来やってきた。エジプトが最古 (パピルス)、中国もガウスの消去法は 1000 年以上前に知っていた (九章算術)。コンピュータが生まれ、線形代数演算をコンピュータ上で高速に、大量にやらせることが重要になった。これまで主にスピードおよび規模を追求してきた。これがコンピュータの歴史。いままで無視してきたこと:線形代数的には精度も重要だということ。中田はコンピュータ上での線形代数演算おける精度問題を解決したい。中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

4.

5.

6.

7.

8.

9.
どうやってここにきたか量子化学の研究をしていた (今もしてます w) 量子化学の問題が半正定値計画法の問題に帰着することを示した[Nakata et al 2001](引用回数 100 回以上!) SDPA, SDPARA をもってしても 7 桁くらいしか最適値が出ない。(これは仕方ない) SDPA-GMP の作成を開始 [Nakata et al 2008](2006 年くらいから) SDPA-GMP で、BLAS, LAPACK のルーチンから 50 程度の多倍長精度版の関数を作った。 Google 検索すると高精度 BLAS, LAPACK をほしがっている人がいた。量子化学で食うのは大変... § ¤ (就職活動兼ねて) 作ってみようか ¦ ¥ 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

10.

11.

12.

13.

14.

15.

16.

17.
あらましはじめに:どうして我々は精度がほしいのか? 浮動小数点数と多倍長精度ライブラリについて。 MPACK, BLAS, LAPACK:線形代数演算ライブラリサマリ中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

18.
はじめに:どうして我々は精度がほしいのか? 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

19.
ペタ、エクサスケールの計算機ではより高い精度が必要となるエクサスケールのコンピュータは1023 回の浮動小数点演算! を一週間で行う。コンピュータを使った科学は精度が不足することになるだろうと考えられる。中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

20.

21.

22.
はじめに:どうして我々は精度がほしいのか? 反復法を倍精度で行うと、しばしば収束しないことがある [Hasegawa2007]。中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

23.
はじめに:どうして我々は精度がほしいのか? 反復法を倍精度で行うと、しばしば収束しないことがある [Hasegawa2007]。中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

24.
ペタ、エクサスケールの計算機ではより高い精度が必要となる半正定値計画問題(SDP): 解くべき線形方程式の条件数が最適解付近で発散する。最適解に近づくほど、数値的に問題が難しくなる。 [Nakata et al 2008], [Nakata 2009], [Waki-Nakata-Muramatsu] The 1-norm and the estimated 1-norm condition number of shur complement matrix 1e+20 1-cond 1-norm 1e+15 1e+10 100000 1 1e-05 1e-10 0 10 20 30 40 50 60 70 80 90 # of iter. 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

25.

26.

27.

28.
ペタ、エクサスケールの計算機ではより高い精度が必要となる今後高精度計算はやりやすくなる。演算器(CPU, GPU, アクセラレータ) などはどんどん高速になるが、メモリバンド幅はあがらないため、演算力は余るのでそれは高精度演算に使える。其れ以前に Intel Xeon などはとても高速で、演算能力があり過ぎ。10 年から 20 年前のプログラムは、力技で工夫なくそのまま高精度化しても、十分高速。中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

29.

30.

31.
浮動小数点数と多倍長精度ライブラリについて中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

32.
倍精度: 最もよく使われている浮動小数点数 “754-2008 IEEEStandard for Floating-Point Arithmetic” binary64 (倍精度) フォーマットは 10 進 16 桁の有効桁がある多くのプラットフォームで使われていて、高速。Core i7 920: ∼40GFLOPS; RADEON HD7970 ∼1000GFLOPS, 京コンピュータ ∼ 10PFLOPS) § ¤ 問題点:演算に丸め誤差が入ることがある ¥ ¦ 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

33.
丸め誤差対策に、多倍長精度計算を使う § ¤ 多倍長精度を使う: あんまり考えず、力づくで処理 ¥ ¦ 浮動小数点数: コンピュータ上での実数の近似表現の一つ a + (b + c) (a + b) + c 浮動小数点数、演算の種類によっては計算結果に誤差が入る。倍精度は 10 進 16 桁の精度しか持たない。 1 + 0.0000000000000001 = 1 解決方法の一つ: 多倍長精度計算中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

34.

35.

36.

37.

38.
多倍長精度、多倍長精度計算とは? § ¤ 多倍長精度とは、浮動小数点数で仮数部を大きく取る精度 ¥ ¦ GMP というライブラリが有名。http://gmplib.org/ 仮数部は任意に大きくとれる。演算はソフトウェア的に実装してある。これは最も高速なライブラリだが、それでも演算はかなり遅い。中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

39.
多倍長精度、多倍長精度計算とは? § ¤ 多倍長精度とは、浮動小数点数で仮数部を大きく取る精度 ¥ ¦ GMP というライブラリが有名。http://gmplib.org/ 仮数部は任意に大きくとれる。演算はソフトウェア的に実装してある。これは最も高速なライブラリだが、それでも演算はかなり遅い。中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

40.
他の多倍長精度演算ライブラリについて他の多倍長精度演算ライブラリについて: QDライブラリ: double-double (quad-double) 精度 : 10 進 32 (64) 桁、非常に高速 binary128, IEEE 754 2008 の四倍精度。 IEEE754 スタイルの多倍長精度演算ライブラリ: MPFR (実数) および MPC (複素数)。 § 一番厳密なのは MPFR+MPC の組み合わせ。これを正本として作成して ¦ 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

41.

42.

43.
多倍長精度演算ライブラリのまとめ精度丸めスピード複素数コメント GMP 任意なし △ とりあえずよく使われる MPFR 任意厳密遅い厳密最も厳密 DD 32 桁 ? 高速とりあえず倍精度演算で実現 QD 64 桁 ? GMP の 2 倍? とりあえず指数部削られ過ぎ double 16 桁ハード超高速コンパイラ依存最も高速 binary128 32 桁 ? 遅いコンパイラ依存 gcc/icc でサポート有中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

44.
BLAS, LAPACK, MPACKの紹介中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

45.
BLAS、LAPACK とは? BLAS: さまざまなタイプのベクトル-ベクトル、行列-ベクトル、行列-行列演算の参照実装。高速な実装も入手できる。たとえばOpenBLAS(GotoBLAS2), Intel MKL, ATLAS など。 LAPACK: 連立一次方程式、固有値問題、最小二乗法をとく。デファクトスタンダードなライブラリ。多くのソフトウェアがこれを参照している。 LAPACK の web ページのヒット数: 110,343,542 (Mon Dec 10 16:20:25 EST 2012) § ¤ ¦BLAS と LAPACK は大変重要なライブラリ ¥ 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

46.
BLAS、LAPACK とは? BLAS: さまざまなタイプのベクトル-ベクトル、行列-ベクトル、行列-行列演算の参照実装。高速な実装も入手できる。たとえばOpenBLAS(GotoBLAS2), Intel MKL, ATLAS など。 LAPACK: 連立一次方程式、固有値問題、最小二乗法をとく。デファクトスタンダードなライブラリ。多くのソフトウェアがこれを参照している。 LAPACK の web ページのヒット数: 110,343,542 (Mon Dec 10 16:20:25 EST 2012) § ¤ ¦BLAS と LAPACK は大変重要なライブラリ ¥ 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

47.

48.
MPACK 0.8.0: できることとできないこと Version0.8.0 (2012/12/25); ステータス: MBLAS 完成, MLAPACK 100 ルーチン完成 Rgemm (行列-行列積) : OpenMP で加速 Rgemm の倍々精度は NVIDIA C2050 での GPU 加速 MLAPACK : 対称、エルミート行列の固有値問題、LU 分解、コレスキー分解、条件数推定、逆行列 MLAPACK: 一般固有値問題、特異値分解、最小に情報、QR 分解など... 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

49.
MPACK の用途数値的に不安定な問題を解く場合:反復法、半正定値法の最適解付近。計算機援用証明を行いたい場合。精度保証を行いたい場合: INTLABとコラボレーションできないか? 既存の C++のコードを労力少なく多倍長化したいとき。 4 倍精度程度の計算を高速に行いたい場合。精度を実行時に様々に変化させたい場合。数値的に不安なときのデバッグに使う。 (カジュアルに、例えば) ある値が 0 であることを確認したい場合。中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

50.
関数の名前の付け方:プログラムインターフェース (API) 提供 Preﬁxの変化 ﬂoat, double → “R”eal, complex, double complex → “C”omplex. daxpy, zaxpy → Raxpy, Caxpy dgemm, zgemm → Rgemm, Cgemm dsterf, dsyev → Rsterf, Rsyev dzabs1, dzasum → RCabs1, RCasum 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

51.
MBLAS 0.8.0 でサポートされている全76 ルーチン LEVEL1 MBLAS Crotg Cscal Rrotg Rrot Rrotm CRrot Cswap Rswap CRscal Rscal Ccopy Rcopy Caxpy Raxpy Rdot Cdotc Cdotu RCnrm2 Rnrm2 Rasum iCasum iRamax RCabs1 Mlsame Mxerbla LEVEL2 MBLAS Cgemv Rgemv Cgbmv Rgbmv Chemv Chbmv Chpmv Rsymv Rsbmv Ctrmv Cgemv Rgemv Cgbmv Rgemv Chemv Chbmv Chpmv Rsymv Rsbmv Rspmv Ctrmv Rtrmv Ctbmv Ctpmv Rtpmv Ctrsv Rtrsv Ctbsv Rtbsv Ctpsv Rger Cgeru Cgerc Cher Chpr Cher2 Chpr2 Rsyr Rspr Rsyr2 Rspr2 LEVEL3 MBLAS Cgemm Rgemm Csymm Rsymm Chemm Csyrk Rsyrk Cherk Csyr2k Rsyr2k Cher2k Ctrmm Rtrmm Ctrsm Rtrsm 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

52.
MLAPACK 0.8.0 でサポートされている全100 ルーチン Mutils Rlamch Rlae2 Rlaev2 Claev2 Rlassq Classq Rlanst Clanht Rlansy Clansy Clanhe Rlapy2 Rlarfg Rlapy3 Rladiv Cladiv Clarfg Rlartg Clartg Rlaset Claset Rlasr Clasr Rpotf2 Clacgv Cpotf2 Rlascl Clascl Rlasrt Rsytd2 Chetd2 Rsteqr Csteqr Rsterf Rlarf Clarf Rorg2l Cung2l Rorg2r Cung2r Rlarft Clarft Rlarfb Clarfb Rorgqr Cungqr Rorgql Cungql Rlatrd Clatrd Rsytrd Chetrd Rorgtr Cungtr Rsyev Cheev Rpotrf Cpotrf Clacrm Rtrti2 Ctrti2 Rtrtri Ctrtri Rgetf2 Cgetf2 Rlaswp Claswp Rgetrf Cgetrf Rgetri Cgetri Rgetrs Cgetrs Rgesv Cgesv Rtrtrs Ctrtrs Rlasyf Clasyf Clahef Clacrt Claesy Crot Cspmv Cspr Csymv Csyr iCmax1 RCsum1 Rpotrs Rposv Rgeequ Rlatrs Rlange Rgecon Rlauu2 Rlauum Rpotri Rpocon 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

53.
BLAS, LAPACK との相違点:プログラムインターフェース(API) 提供呼び出し方が若干違う。call by value が、時々call by reference になっている。MBLAS/MLAPACK: Rgemm("n", "n", n, n, n, alpha, A, n, B, n, beta, C, n); Rgetrf(n, n, A, n, ipiv, &info); Rgetri(n, A, n, ipiv, work, lwork, &info); Rsyev("V", "U", n, A, n, w, work, &lwork, &info); BLAS/LAPACK: dgemm_f77("N", "N", &n, &n, &n, &One, A, &n, A, &n, &Zero, C, &n); dgetri_f77(&n, A, &n, ipiv, work, &lwork, &info); 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

54.
プログラミング詳細型は INTEGER, REAL,COMPLEX, LOGICAL を使っている。これのみでプログラム作成した。多倍長精度演算ライブラリは “typedef” を使った REAL → mpf class, qd real, dd real etc. 初等関数 (log, sin etc) はあれば使う、無ければ倍精度のものを使った。多倍長精度演算ライブラリは GMP, MPFR, QD, DD, binary128, double をサポートいくつか多倍長精度演算ライブラリの違いを吸収するような関数を書いた。ほとんど C++の “double” と同じ感覚でプログラムできる。 (例. SDPA-DD, および -GMP) 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

55.
MBLAS の実装例 Caxpy: Complexversion of axpy void Caxpy(INTEGER n, COMPLEX ca, COMPLEX * cx, INTEGER incx, COMPLEX * cy, INTE { REAL Zero = 0.0; if (n <= 0) return; if (RCabs1(ca) == Zero) return; INTEGER ix = 0; INTEGER iy = 0; if (incx < 0) ix = (-n + 1) * incx; if (incy < 0) iy = (-n + 1) * incy; for (INTEGER i = 0; i < n; i++) { cy[iy] = cy[iy] + ca * cx[ix]; ix = ix + incx; 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

56.
MLAPACK 実装例 Rsyev; diagonalizationof real symmetric matrices Rlascl(uplo, 0, 0, One, sigma, n, n, A, lda, info); } //Call DSYTRD to reduce symmetric matrix to tridiagonal form. inde = 1; indtau = inde + n; indwrk = indtau + n; llwork = *lwork - indwrk + 1; Rsytrd(uplo, n, &A[0], lda, &w[0], &work[inde - 1], &work[indtau - 1], &work[indwrk - 1], llwork, &iinfo); //For eigenvalues only, call DSTERF. For eigenvectors, first call //DORGTR to generate the orthogonal matrix, then call DSTEQR. if (!wantz) { Rsterf(n, &w[0], &work[inde - 1], info); } else { Rorgtr(uplo, n, A, lda, &work[indtau - 1], &work[indwrk - 1], llwork, &iinfo); Rsteqr(jobz, n, w, &work[inde - 1], A, lda, &work[indtau - 1], info); } //If matrix was scaled, then rescale eigenvalues appropriately. if (iscale == 1) { if (*info == 0) { 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

57.
MPACK (MBLAS/MLAPACK) についての事実 Googleに”Multiple precision BLAS” でお尋ねすると私のページおよび関連ページばかりがヒットダウンロードは 2013/1/26 現在 3043 ダウンロード。中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

58.
MBLAS の品質保証 § ¤ BLAS は代数的な処理のみ行う ¥ ¦ 想定される様々なケースについて数を代入してみて MPFR+MPC 版と BLAS の結果と良い一致を得ること。同じことを MPFR+MPC 版と DD 版、倍精度版、GMP 版... と比較して良い一致を得ること。バグが取れる。BLAS はこれで ok。 for (int k = MIN_K; k < MAX_K; k++) { for (int n = MIN_N; n < MAX_N; n++) { for (int m = MIN_M; m < MAX_M; m++) { ... for (int lda = minlda; lda < MAX_LDA; lda++) { for (int ldb = minldb; ldb < MAX_LDB; ldb++) { for (int ldc = max(1, m); ldc < MAX_LDC; ldc++) { Rgemm(transa, transb, m, n, k, alpha, A, lda, B, ldb, beta, C, ldc); dgemm_f77(transa, transb, &m, &n, &k, &alphad, Ad, &lda, Bd, &ldb, &betad, Cd, &ldc); ... diff = vec_diff(C, Cd, MAT_A(ldc, n), 1); if (fabs(diff) > EPSILON) { printf(‘‘#error %lf!!n’’, diff); 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

59.
MLAPACK の品質保証 § ¤ 収束の概念が入るため、とても難しい ¥ ¦ 同じように様々な値を代入して、MPFR+MPC 版と LAPACK と一致を得る。収束の概念が入ってくるルーチンもある。代数的操作しかないルーチンもあるし、反復するものでもだいたい ok 研究に用いると無限ループなどに陥る場合がある。これでもバグがわかる。(Waki et al.) 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

60.
GMP, MPFR では実行時に精度を変更できる MPACKのパッケージに入っている 50x50 のヒルベルト行列とその逆行列を数値的に求めて、単位行列との差を求めるプログラムについて精度を実行時に変更できる。 $ ./hilbert_mpfr ... 1norm(I-A*invA)=1.8784847910273908e-73 $ MPACK_MPFR_PRECISION=1024; $ export MPACK_MPFR_PRECISION ; ./hilbert_mpfr ... 1norm(I-A*invA)=1.9318639065194500e-226 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

61.
ベクトル演算:Raxpy のパフォーマンス測定 on IntelCore i7 920 (2.6GHz) / Ubuntu 10.04 / gcc 4.4.3 y ← αx + y Raxpy performance in Flops. multithread by OpenMP in parenthesis MP Library(sign. digs.) Flops (OpenMP) DD(32) 130(570)M QD(64) 13.7(67)M GMP(77) 11.3(45)M GMP(154) 7.6(32)M MPFR(154) 3.7(17)M GotoBLAS(16) 1.5G 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

62.
行列-ベクトル積:Rgemv のパフォーマンス on IntelCore i7 920 (2.6GHz) / Ubuntu 10.04 / gcc 4.4.3 y ← α Ax + βy Rgemv performance in Flops. MP Library(sign. digs.) Flops (OpenMP) DD(32) 140M QD(64) 13M GMP(77) 11.1M MPFR(77) 4.7M GMP(154) 7.1M MPFR(154) 3.7M GotoBLAS(16) 3.8G 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

63.
行列-行列積:Rgemm のパフォーマンス on IntelCore i7 920 (2.6GHz) / Ubuntu 10.04 / gcc 4.4.3 Rgemm performance in Flops. C ← αAB + βC MP Library(sign. digs.) Flops (OpenMP) DD(32) 136 (605)M QD(64) 13.9 (63)M GMP(77) 11.5 (44)M MPFR(77) 4.6 (20)M GMP(154) 7.2 (28) M MPFR(154) 3.7 (16) M GotoBLAS(16) 42.5G 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

64.
行列-行列積:Rgemm のパフォーマンス: 倍々精度(擬似的な 4 倍精度) Westmere EP Intel Composer, Intel WestmereEP, 40 cores, 2.4GHz: apporx 5GFlops 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

65.
行列-行列積:Rgemm のパフォーマンス: GMP(154 桁) Westmere EP Intel Composer, Intel WestmereEP, 40 cores, 2.4GHz, approx. 0.2GFlops 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

66.
行列-行列積:Rgemm のパフォーマンス: 倍々精度(擬似的な四倍精度) Magnycours 48cores GCC 4.6, Magny cours 2.4GHz, 48 cores : approx 3GFlops 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

67.
行列-行列積:Rgemm のパフォーマンス: binary128(本物の四倍精度) Magnycours 48cores GCC 4.6, Magny cours 2.4GHz, 48 cores : approx 0.3GFlops 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

68.
行列-行列積:Rgemm のパフォーマンス: GMP(154 桁) Magnycours 48cores GCC 4.6, Magny cours 2.4GHz, 48 cores: approx 0.15GFlops 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

69.
行列-行列積:Rgemm のパフォーマンス: binary128(本物の四倍精度) X5680@3.33GHz Intel Composer 2013, Xeon X5680@3.33GHz Rgemm (__float128) performance 700 600 500 400 FLOPS 300 NN NT TN 200 TT NN 24 NN gcc 100 NT gcc TN gcc TT gcc 0 0 100 200 300 400 500 600 700 800 900 1000 Dimension 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

70.
行列-行列積:Rgemm のパフォーマンス double-double精度 on NVIDIA C2050 CUDA 3.2, NVIDIA C2050, 16GFlops-26GFlops 高速かつ安定したパフォーマンス 25 20 GFLOPS 15 10 QuadMul−Sloppy, QuadAdd−Cray Kernel QuadMul−Sloppy, QuadAdd−Cray Total QuadMul−FMA, QuadAdd−Cray Kernel QuadMul−FMA, QuadAdd−Cray Total 5 QuadMul−Sloppy, QuadAdd−IEEE Kernel QuadMul−Sloppy, QuadAdd−IEEE Total QuadMul−FMA, QuadAdd−IEEE Kernel QuadMul−FMA, QuadAdd−IEEE Total 0 0 1000 2000 3000 4000 5000 6000 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介 Dimension

71.
行列-行列積:Rgemm のパフォーマンス double-double精度 on NVIDIA C2050 CUDA さまざまなバージョンを用いた比較 Rgemm (double-doule) performance on NVIDIA C2050 27000 26500 26000 FLOPS 25500 25000 CUDA 3.1 24500 CUDA 3.2 CUDA 4.0 CUDA 4.2 CUDA 5.0 24000 1540 1550 1560 1570 1580 1590 1600 1610 1620 Dimension 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

72.
行列-行列積:Rgemm のパフォーマンス double-double精度 on NVIDIA C2050 CUDA さまざまなバージョンを用いた比較。 Rgemm (double-doule) QuadADD-IEEE, QuadMul-FMA performance on NVIDIA C2050 16600 16400 16200 16000 15800 FLOPS 15600 15400 15200 CUDA 3.1 15000 CUDA 3.2 CUDA 4.0 14800 CUDA 4.2 CUDA 5.0 14600 1534 1535 1536 1537 1538 1539 1540 Dimension 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

73.
コレスキー分解:Rportf パフォーマンス double-double精度 on NVIDIA C2050 コレスキー分解分解を行った。Rgemm の加速によりコレスキー分解も加速される。 Rpotrf performance by NVIDIA C2050 (Note: gpu'ed Rgemm only) 1000 900 800 700 600 FLOPS 500 400 300 200 host upper CUDA upper (Gemm only) 100 host lower CUDA lower (Gemm only) 0 0 100 200 300 400 500 600 700 800 900 1000 Dimension 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

74.
対称固有値問題: Rsyev のパフォーマンス onIntel Core i7 920 (2.6GHz) / Ubuntu 10.04 / gcc 4.4.3 Rsyev のパフォーマンス (300x300 の対称行列、固有値、固有ベクトルを求める、秒) AX = diag[λ1 , λ2 , · · · λ N ]X MP Library(sign. digs.) seconds DD(32) 2.4 QD(64) 25.6 GMP(77) 36.9 MPFR(77) 78.9 GMP(154) 64.0 MPFR(154) 111 GotoBLAS(16) 0.1 中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

75.

76.
今後やりたいこと／やりたくないこと精度保証の研究成果の取り込み。 LAPACK の実装されてない関数の実装。疎行列、高速フーリエ変換 (FFT)の API の策定。 QPBLAS GPU の取り込み。区間演算はやらない。中田真秀高精度線形代数演算ライブラリ MPACK 0.8.0 の紹介

高精度線形代数演算ライブラリMPACK 0.8.0の紹介

More Related Content

Similar to 高精度線形代数演算ライブラリMPACK 0.8.0の紹介

More from Maho Nakata

Recently uploaded

高精度線形代数演算ライブラリMPACK 0.8.0の紹介