1. Prefetch and Cache in PLDI'02 Dynamic Hot Data Stream Prefetching... プロファイリングとHot Data Streamの解析に基づくダイナミックプリフェッチング手法の提案 Efficient Discovery of Regular Stride... Irregularなload命令のストライドパタンの発見 Static Load Classification for... load命令を20種に分類。Load-value predictionの利用をコンパイル時に決定する

2. 読んだ人 みよし たけふみ 2010.06.30 CITED BY 40

3. 概要 プリフェッチは限られた場所でしか有効ではない

4. ダイナミックプリフェッチングの提案 Temporal data reference profile

5. Extract hot data stream

6. With the added prefetch inst(no profiler, analyzer) Improvement 5-19% speedup

7. Overview

8. Data Refs. Profiling and Analysis Bursty Tracing Framework for Low-over-head Temporal Profiling Not only the freq., but also temporal relationships

9. eg. cdeabcdeabfg と abcdefabcdeg Extensions for Online Optimization

10. Fast Hot Data Stream Detection

11. Bursty Tracing Framework [15] for Low-overhead temporal profiling 2 つのバージョンを用意 nCheck と nInst で実行コードを選択 Vulcan でバイナリ変換してチェックコード等を挿入

12. Extensions for Online Optilization

13. Fast Hot Data Stream Detection(1) = to compress the profile and infer its hierarchical structure. [23]

14. Fast Hot Data Stream Detection(2) v.heat = v.length*v.frequency A.heat = wA.length*A.coldUses

15. Overhead of profiling and analysis

16. Dynamic Prefetching Generating Detection and Prefetching Code

17. Injecting Detection and Prefetching Code

18. Generating Detection and Prefetching Code Hot data stream v = v1v2...v{v.length} into a head v.head = v1v2...vheadLen and a tail v.tail = v{headLen+1}v{headLen+2}...v{v.length} .

20. Performance impact

22. 読んだ人 みよし たけふみ 2010.06.30 CITED BY 18

23. 概要 Irregular data referencesのプリフェッチは難しい

24. 重要なIrregularなload命令はストライドアクセスパタンをもっている(ようだ)

25. ストライド付きload命令を発見するプロファイル手法 ストライド情報のプロファイルをedge frequencyなプロファイラに組み込む

26. 17%の速度低下 181.mcf: 1.59x, 254.gap: 1.14x などなど

27. 読んだ人 みよし たけふみ 2010.06.30 CITED BY 2

28. 概要 Load-value prediction [20] : loadの結果を推測する

29. Load-value predictionの有効利用には、キャッシュミスし正しく予測されるloadにSpeculationが限られる 従来: Hardware-/Profile-based method コンパイル時にSpeculationの決定を行う コンパイラによるloadの分類手法

30. CとJavaで効果を評価 [20] M. H. Lipasti, C. B. Wilkerson, and J. P. Shen. Value Locality and Load Value Prediction. In Proceedings of the second international conference on architectural support for programming languages and operating systems , pages 138–147, 1996.

31. もう少し詳しい概要 Load命令を静的に20種に分類 Region: S tack, H eap, G lobal space

32. Kind: object F ield, A rray element, S calar variable

33. Type: P ointer, N on-pointer 16K, 64K, 256Kの2-way set-associative cache

34. 5 load-value predictors, 2048/infinite entries (i) lv , which predicts the last value for every load (ii) l4v , which predicts one of the last four values for every load (iii) st2d , which uses strides to predict loads (iv) fcm , which uses a representation of the context of preceding loads to predict a load (v) dfcm , which enhances fcm with strides.

36. 種類別キャッシュミス率

37. Predictionの成功率