Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
コード最適化と機械学習
澄川 靖信
@sumi_1554

2014/1/11

DSIRNLP 5

1
今日の内容


興味がある研究について話します.
1.

コンパイラのコード最適化
私の修士論文の内容について説明した後,
現在の研究のざっくりしたテーマを話します.

2.

機械学習のクラスタリングと分類器

2
大域ロード命令集約(GLIA)(修論)


キャッシュメモリのヒット率を向上
同じ配列へのアクセスを連続させる
→ メモリの空間的局所性を向上




結果 (ベンチマーク: SPEC2000)



実行効率: 最大で約12.9%の...
大域ロード命令集約(GLIA)

x = a[i]
y = b[i]
z = a[i+1]
命令の実行順序
を表すグラフ

キャッシュメモリ
保存している
データを表す

4
大域ロード命令集約(GLIA)
この命令
を実行

x = a[i]
y = b[i]
z = a[i+1]
キャッシュヒットす
る事が期待できる

a[i]
a[i+1]

キャッシュメモリ
5
大域ロード命令集約(GLIA)

x = a[i]
y = b[i]
z = a[i+1]

b[i]

a[i+1]の
追い出し

b[i+1]

キャッシュメモリ
6
大域ロード命令集約(GLIA)

x = a[i]
y = b[i]
z = a[i+1]
キャッシュ
ミス

b[i]
b[i+1]

キャッシュメモリ
7
大域ロード命令集約(GLIA)
x = a[i]

レジスタスピルを
防ぐための移動

t = a[i+1]

キャッシュミスを
防ぐための移動

y = b[i]
z=t
8
コンパイラの研究での興味


ハードウェアを考慮した最適化
キーワード
 キャッシュメモリ
 レジスタ
 コード移動

9
MLで興味がある内容


クラスタリング,分類器




MDS
K近傍

ナイーブベイジアン分類器
 SVM
 蟻コロニー最適化
など


10
蟻コロニー最適化


蟻の群れによって解を求める.
蟻は,餌を巣に持ち帰るとき,
帰り道上にフェロモンを置く.
→ 他の蟻に餌のある場所を間接的に教える.


11
蟻コロニー最適化


蟻の群れによって解を求める.



データマイニングに適用可.


AntMiner*が初期の手法




*

分類を行う.
SVMに匹敵する結果が得られる場合もある.
改良版(AntMiner2, AntM...
MLの勉強している(知りたい)こと


教師あり学習





データ数はどのぐらい必要?
SVMなど用いた場合,過学習が起こりそうな状況は?

もっとよい他の分類・クラスタリングがあるか?




現状:入門 機械学習,自然言語処...
まとめ


コンパイラの興味






MLの興味




キャッシュ,レジスタの効率向上
GLIA

クラスタリング,分類器

注目している研究


蟻コロニー最適化


GLIAと組合わせるとおもしろいかも

14
補足資料

15
蟻コロニー最適化


条件となる変数とその値をグラフで表現




条件:性別,預金など.

グラフ上を蟻が歩く


最も質の高い経路を通った蟻だけが,
餌を見つけたとする.

16
蟻コロニー最適化


例:銀行で融資すべきではない人の特徴を知
りたい
Class

bad

Term

Term

male

start

Sex

1

1

end
female

5

5

any

20

20
17
蟻コロニー最適化


最も“質の高い”経路を歩いた蟻に注目




フェロモン値の更新
結果:貯金が5万円以上20万未満の男はダメ
Class

bad

最も質の高い
経路とする.

Term

Term

male

start

S...
Upcoming SlideShare
Loading in …5
×

コード最適化と機械学習. DSIRNLP5 2014/1/11

1,142 views

Published on

Published in: Technology
  • Be the first to comment

  • Be the first to like this

コード最適化と機械学習. DSIRNLP5 2014/1/11

  1. 1. コード最適化と機械学習 澄川 靖信 @sumi_1554 2014/1/11 DSIRNLP 5 1
  2. 2. 今日の内容  興味がある研究について話します. 1. コンパイラのコード最適化 私の修士論文の内容について説明した後, 現在の研究のざっくりしたテーマを話します. 2. 機械学習のクラスタリングと分類器 2
  3. 3. 大域ロード命令集約(GLIA)(修論)  キャッシュメモリのヒット率を向上 同じ配列へのアクセスを連続させる → メモリの空間的局所性を向上   結果 (ベンチマーク: SPEC2000)   実行効率: 最大で約12.9%の向上 キャッシュヒット率   L2: 最大で約17%向上 L3: 最大で約99%向上 3
  4. 4. 大域ロード命令集約(GLIA) x = a[i] y = b[i] z = a[i+1] 命令の実行順序 を表すグラフ キャッシュメモリ 保存している データを表す 4
  5. 5. 大域ロード命令集約(GLIA) この命令 を実行 x = a[i] y = b[i] z = a[i+1] キャッシュヒットす る事が期待できる a[i] a[i+1] キャッシュメモリ 5
  6. 6. 大域ロード命令集約(GLIA) x = a[i] y = b[i] z = a[i+1] b[i] a[i+1]の 追い出し b[i+1] キャッシュメモリ 6
  7. 7. 大域ロード命令集約(GLIA) x = a[i] y = b[i] z = a[i+1] キャッシュ ミス b[i] b[i+1] キャッシュメモリ 7
  8. 8. 大域ロード命令集約(GLIA) x = a[i] レジスタスピルを 防ぐための移動 t = a[i+1] キャッシュミスを 防ぐための移動 y = b[i] z=t 8
  9. 9. コンパイラの研究での興味  ハードウェアを考慮した最適化 キーワード  キャッシュメモリ  レジスタ  コード移動 9
  10. 10. MLで興味がある内容  クラスタリング,分類器   MDS K近傍 ナイーブベイジアン分類器  SVM  蟻コロニー最適化 など  10
  11. 11. 蟻コロニー最適化  蟻の群れによって解を求める. 蟻は,餌を巣に持ち帰るとき, 帰り道上にフェロモンを置く. → 他の蟻に餌のある場所を間接的に教える.  11
  12. 12. 蟻コロニー最適化  蟻の群れによって解を求める.  データマイニングに適用可.  AntMiner*が初期の手法    * 分類を行う. SVMに匹敵する結果が得られる場合もある. 改良版(AntMiner2, AntMiner+)も提案されている. Parpinelli et al. An ant colony based system for data mining, GECCO, 2001) 12
  13. 13. MLの勉強している(知りたい)こと  教師あり学習    データ数はどのぐらい必要? SVMなど用いた場合,過学習が起こりそうな状況は? もっとよい他の分類・クラスタリングがあるか?   現状:入門 機械学習,自然言語処理,言語処理のための機 械学習で勉強しながら,Weka等で遊んでいる Web分類や特徴抽出に関する論文のサーベイはこれから 13
  14. 14. まとめ  コンパイラの興味    MLの興味   キャッシュ,レジスタの効率向上 GLIA クラスタリング,分類器 注目している研究  蟻コロニー最適化  GLIAと組合わせるとおもしろいかも 14
  15. 15. 補足資料 15
  16. 16. 蟻コロニー最適化  条件となる変数とその値をグラフで表現   条件:性別,預金など. グラフ上を蟻が歩く  最も質の高い経路を通った蟻だけが, 餌を見つけたとする. 16
  17. 17. 蟻コロニー最適化  例:銀行で融資すべきではない人の特徴を知 りたい Class bad Term Term male start Sex 1 1 end female 5 5 any 20 20 17
  18. 18. 蟻コロニー最適化  最も“質の高い”経路を歩いた蟻に注目   フェロモン値の更新 結果:貯金が5万円以上20万未満の男はダメ Class bad 最も質の高い 経路とする. Term Term male start Sex 1 1 end female 5 5 any 20 20 18

×