Froyo DalvikVM JIT

Froyo の DalvikVM の JIT Google I/O のセッションの解説 Tetsuyuki Kobayashi

Who am I?  20+ years involved in embedded systems  10 years in real time OS, such as iTRON  10 years in embedded Java Virtual Machine  Now Gcc, Linux, QEMU, Android, …  Blogs  http://d.hatena.ne.jp/embedded/ (Personal)  http://blog.kmckk.com/ (Corporate)  Twitter  @tetsu_koba 2

Today's topic  Google I/O での DalvikVM の JIT のセッションを読み解こう  ”A JIT Compiler for Android's Dalvik VM”  Ben Cheng, Bill Buzbee  このセッション資料をわかるところだけ訳出してみました。 http://code.google.com/intl/ja/events/io/2010/sessions/jit-compiler-androids-dalvik-vm.html 3

Dalvik インタプリタ  普通は 1/3 の時間しかインタプリタで消費されていない。  OS や性能に効くところはネイティブコードで書かれているから。  通常のアプリケーションには充分。  それでも CPU 喰いのアプリには  NDK でネイティブ化  JIT コンパイラ 4

どんな JIT?  いつコンパイルするか  インストール時、起動時、メソッド呼び出し時、命令フェッチ時  何をコンパイルするか  プログラム全体、共有ライブラリ、ページ、メソッド、トレース、命令 5

どんな JIT?  それぞれの組み合わせに利点と欠点がある  Android で重視する点  最小限の追加メモリ  DalvikVM のコンテナベースのセキュリティモデル  起動してすぐに加速する  インタプリタとコンパイル済みコードの間のスムーズな遷移 6

メソッド単位の JIT  ほとんどのサーバ用 Java の JIT はこのタイプ  ホットなメソッドをみつけてメソッド単位でコンパイルとオプティマイズを行う  利点  より大きな最適化のウィンドウ  メソッド呼び出しのところで仮想マシンの状態を同期  欠点  ホットメソッドの中のコールドコードもコンパイルされる  コンパイル中にずっと大きなメモリが必要  メソッドがホットになってからコンパイルして実行されるまでのディレイが大きい 7

トレース単位の JIT  ホットな実行経路をさがしながらインタープリタが実行される。  コンパイルしたコードの断片はトランスレーションキャッシュの中につながれる  利点  ホットコードしかコンパイルされないのでメモリ消費が最小限。  ホットなコードのコンパイル、実行までが素早い。  欠点  最適化の範囲が狭いので、ピーク性能が制限される。  インタープリタとの状態の同期の回数がずっと多い。  プロセスをまたがってトランスレーションキャッシュを共 8 有することが難しい。

決断：トレース JIT から始めることにした  使用メモリを最小限にすることがモバイルデバイスでは最重要。  素早く性能向上があることが重要。  JIT のために長時間かかるとその間にユーザはあきらめてしまうかも。  メソッド単位の JIT と補完する可能性を残す  両者は共存可能。  モバイルデバイスも電源につながっている時はサーバのように見える。  いいとこ取り  バッテリ駆動時はトレース JIT  充電中はバックグランドでメソッド JIT 10

Dalvik Trace JIT Flow 11

Dalvik JIT v1.0 Overview  インタプリタとの密接な統合  JIT をインタプリタの拡張と考えると便利  インタプリタはプロファイルを行ってホットなコードをみつけたらモードを切り替える  トレース要求はインタープリット中に処理される  実際の実行中の値にアクセスできる  トレースには少なくとも一回以上は実行できたところだけが含まれることが保証されている。 ( ある種の最適化で便利）  トレース要求はコンパイラスレッドに渡され、そこでネイティブコードにコンパイルされる。  コンパイルしたコードはトランスレーションキャッ 12 シュにつながれる。

Dalvik JIT v1.0 Features  プロセスごとのトランスレーションキャッシュ。（セキュリティサンドボックスの中でのみ共有。）  シンプルなトレース。一般的にひとつかふたつのベーシックブロックの分だけ。  Local optimizations  Register promotion  Load/store elimination  Redundant null-check elimination  Heuristic scheduling  Loop optimizations  Simple loop detection  Invariant code motion 13  Induction variable optimization

ベンチマーク結果 14

次の方向性  メソッドのインライン化  Trace extension  Persistent profile information  Off-line trace coalescing  Off-line method translation  チューニング、チューニング、もっとチューニング！ 15

ケーススタディ  Robo Defence というアクション系のゲーム  75% の時間は skia 描画ライブラリ  DalvikVM ではわずか 4%  JIT で向上する部分は DalvikVM での部分だけなので、このゲームでは JIT の効果はわずか  Checker というパズルゲーム  大半の時間を DalvikVM の実行が占める。  このケースは JIT の効果が高い。 5.4 倍の向上。  これに JIT を適用した結果 94% の時間は JIT のコードキャッシュの中。 16

Code Cache の中を覗いてみると  起動から 20 分間で　 9898 回コンパイル　合計 796264 バイト (1 回あたり 80 バイト）  生成したネイティブコードサイズは元の Dex コードの約 7.7 倍。  コンパイルの合計時間は 6 秒 (1 回の平均は 0.6msec) 17

まとめ  リソースを喰わない Dalvik JIT compiler  追加のメモリ要求量はわずか 100KB  バイトコード実行速度で 2 ～ 5 倍の向上  さらなるチューニングの予定 18

感想  普通の JIT の弱点  コンパイルによるもたつき、起動時間増加  メモリ消費増大 → GC 頻発 → もたつき  Dalvik の JIT はこれらの弱点を上手におさえこんでいるところが素晴らしい！   ソースが公開が楽しみ  何かわかったらまたどこかで話します。 19

Thank you Thank you for listening! Special thanks to @yoshi_rr and @kojira, who USTREAMed this session to us. 20

http://blog.kmckk.com	317
http://www.slideshare.net	210
http://translate.googleusercontent.com	4
http://s.deeeki.com	2
http://facebook.slideshare.com	1
http://webcache.googleusercontent.com	1

Froyo DalvikVM JIT

by Tetsuyuki Kobayashi on Jun 04, 2010

Accessibility

Categories

Upload Details

Usage Rights

6 Embeds 535

Statistics

Froyo DalvikVM JIT Presentation Transcript