1. バイナリより低レイヤな話
@hktechno

2. @hktechno
川田 裕貴 (かわたひろたか)
● 筑波大学に4月から入院中 (元coins09-AC)
○ システム情報工学研究科
コンピュータサイエンス専攻
○ 実時間組み込みアーキテクチャ研究室
● Open Design Computer Project
○ IPA 未踏 2011 スーパーなんとか
● トプスなんとかっていう会社でバイト中
○ LLVM-IR と最近戯れている
● PyCon JP 2014 プログラムチーム

3. Open Design Computer Project
http://open-arch.org/
● mist32 という自作CPUを作っている
○ 32bit Out of Order RISC コア
○ In-order 版もあるよ
○ FPGA (DE2-115, DE3) 上で動く
● CPU マニアと一緒にやっている
○ @cpu_labs
● 自分はソフトウェアを作っている
○ gcc, binutils, newlib...
○ 最近 xv6 OS が動いた (実機は微妙)

4. 今日の忘れ物

5. 低レイヤ
低レイヤ感の違い
● hktechno: 低レイヤ好きな人いなくて
● ???: 低レイヤ？うちにもいるよ？
● hktechno: どんなことやってるんですか？
● ???: ほら、C++ とか

6. 低レイヤ 検索
低レイヤ 検索

7. 低レイヤー入門
● http://www.slideshare.net/demuyan/ss-
19333584
疑問
● C が使えたら低レイヤなのか
● バイナリが喋れたら低レイヤなのか
● 低レイヤとはなにか

8. 低レイヤとは
システムソフトウェア
VM
OS kernel
アセンブラ
バイナリ
カーネル/VM 的
低レイヤ
Eject
アプリケーション

9. 最低レイヤはなにか
バイナリは、最低レイヤでしょうか？

10. バイナリが喋れればかっこいいか？
バイナリが喋れるだけで、満足していませんか
相手の心もわかっていないのに

11. 低レイヤ
自作コンピューター感の違い
● hktechno: コンピューターを自作してます
● ???: 最近自作しなくなったなー
● hktechno: えっ
● ???: えっ

12. 低レイヤとは システムソフトウェア
VM
OS kernel
アセンブラ
バイナリ
プロセッサ
本来の低レイヤ

13. 低レイヤとは システムソフトウェア
VM
OS kernel
アセンブラ
バイナリ
プロセッサ
低レイヤ

14. 低レイヤとは システムソフトウェア
VM
OS kernel
アセンブラ
バイナリ
プロセッサ
CPUマニアが考
える低レイヤ

15. 低レイヤを知るなら...
バイナリだけ出来てもプロセッサは口説けない
そうだ、低レイヤを極めよう

16. プロセッサの心を読み解く
# 前振りが長かった

17. プロセッサの違い
● Intel 第4世代 Core アーキテクチャ
○ Haswell (tock), Broadwell (tick)
● Intel 第3世代 Core アーキテクチャ
○ Sandy Bridge (tock), Ivy Bridge (tick)
違いは何ですか？
● AVX2
● TSX (HTM)
● ???

18. SandyBridge -> Haswell
誰も気にしてくれない進化
● 演算ポートが2つ追加
○ Integer ALU + Branch
○ AGU for stores
● Branch prediction unit の改良
● Reservation station の拡張
● Re-order buffer の拡張
● Physical register file の拡張
そもそもなんだかわからない

19. プロセッサのブロック図を眺めてみる
わかってそうで、わかってない内部構造
● Execution Ports
● Out of Order Execution
● Branch prediction
● x86 を中心に色々眺めてみる
明日から使えるムダ知識

20. 基本的なパイプライン
● Instruction Fetch
● Instruction Decode
● Execution
○ Memory Access
● Write Back

21. ● Instruction Fetch
● Instruction Buffer
● Instruction Decode
● Dispatch
● Execution
MIST32 (In-order: MIST1032ISA)
IB

22. ここまでが、インオーダーの話
ここから、アウトオブオーダーの話

23. 実行ポート
4個 OoOな領域
2命令同時
Fetch
Decode
…
(Super-
Scalar)

24. Out of Order Execution
mov eax, [eax]
xor ebx, ebx
add ebx, eax
inc ecx
add eax, ecx
Load (遅い)
↑の命令とは依存がない
↑の命令とは依存がない

25. Out of Order Execution
mov eax, [eax]
xor ebx, ebx
add ebx, eax
inc ecx
add eax, ecx
Load (遅い)
↑の命令とは依存がない
↑の命令とは依存がない
1
2
3
2
3
命令の順番を入れ替えても構わない
しかも、開いてるポートに並列に実行できる

26. Out of Order Execution
非順序実行
● 実行できる命令から実行する
プロセッサがやらなければならないこと
1. 命令の依存関係を知る
2. 命令をバッファする
3. 実行できる命令から実行する
4. どの命令が終わったかを知る
5. 本来の順序でレジスタへコミットする

27. Out of Order Execution
● Out of Order
○ Intel P6 から実装 (Pentium Pro)
○ Intel Atom (Silvermont から実装)
○ ARM Cortex-A9 から実装
○ mist32
■ ただし Load/Store OoO は未実装
● In Order
○ Intel Atom (初代 Bonnell)
○ ARM Cortex-A7 以前
速くはなるが
回路規模は大きくなる

28. 更に深く進んでみる

29. Out of Order Execution
● Register Renaming
○ 物理レジスタを仮想レジスタにリネームする
○ 命令の依存をより少なくできる
○ (アウトオブオーダー実行に必須ではないが...)
mov eax, [eax]
inc eax
mov [eax], eax
mov eax, ebx
mov eax, [eax]
同じ eax レジスタ
だが、依存はない
← 先に実行可能

30. Out of Order Execution
代表的な OoO の実装
● Reorder Buffer
○ 命令のコミットを制御するバッファ
○ 演算の結果は一度ここへ書かれる
● Reservation Station
○ 命令の依存関係を待つところ
○ ソースレジスタが利用可能かを監視して、
実行可能であれば実行を開始する
○ Unified な方式、実行ポートごとに持たせる方式

31. Reorder Buffer (の一例)
Reorder Buffer Stage
1. 割り当て
Writeback Stage
2. 結果の書き込み
Retire / Commit
Reorder Buffer
Register File
3. コミット

32. Reservation Station (の一例)
Reservation Station
命令1 SRC1
NG
SRC2
OK
命令2 NG NG
命令3 OK NG
命令4 OK OK
Reorder Buffer,
Register File
Execution ステージへ

33. 息抜きに、x86 のブロック図を眺めてみよう

34. http://www.tomshardware.com/reviews/athlon-processor,121-2.html

35. http://www.tomshardware.com/reviews/athlon-processor,121-2.html

36. http://www.thg.ru/cpu/20001120/print.html

37. uOPs (micro-OPs)
みんな知ってる？
カーネル/VM では説明不要

38. 最近? の uOPs
● Micro-OPs Fusion
○ Fused Micro-OP
○ 一部 uOP をまとめてパイプラインに流す
■ uOP 帯域の削減
● Macro-OPs Fusion
○ 複数の x86 命令をまとめる
○ 例えば CMP + Jxx
○ Macro-OP レベルの並列性を向上
■ 少ないデコーダで実現

39. Branch prediction
分岐予測
● ブランチは厄介
○ taken / not taken は直前になるまでわからない
○ ミスするとパイプラインをフラッシュしてやり直し
■ すごい大きなペナルティになる
○ ブランチするかしないか、予測する必要がある
分岐予測以外のアイデア
● Condition-Code (ARM)
○ AArch64 では消え去りました

40. Branch prediction
mov eax, [eax]
cmp eax, 0
je is_zero
...
...
is_zero:
...
実行完了するまで
分岐するかわからない

41. Branch prediction
● 分岐予測がアツイ (らしい)
○ 電力があまり食わない上に性能向上に直結する
○ Intel の 3% ルール
○ 最近もいろいろな変更がある (ただし企業秘密?)
● 基本的な分岐予測
○ 分岐しない (or する) 方向で常に予測しておく
■ 486
○ 前回分岐した結果を保存しておく
○ ループを検出する
○ ...

42. Branch prediction
● Bi-modal counter
○ よく branch するループは strongly taken に
○ ほとんど branch しない場合は stolongly not taken
○ 一度だけならいつもと違う動作をしても予測できる

43. Branch prediction
● Loop detector
○ n 回目で必ず分岐するなら、n を記憶しておく
○ 過去 n 回の分岐パターンを記憶する
● Global branch predictor
○ ある特定の分岐をそれぞれ記憶するのではなく、
すべての分岐のパターンを記憶しておく
○ 周りの分岐命令との相関関係
最近のプロセッサは、ハイブリッド分岐予測器
● Bimodal + Loop detector + Global
● どれか有効なものを使用する

44. 最近の x86 のブロック図を眺めてみよう

45. ブロック図を読み解く

47. http://arstechnica.com/business/2010/09/intels-next-must-have-upgrade-a-look-at-sandy-bridge/

48. http://www.hardwaresecrets.com/printpage/Inside-the-Intel-Haswell-Microarchitecture/1777

49. 最近の Intel のプロセッサ
● Zeroing Idioms
○ xor eax, eax のような命令をゼロレジスタに、
リネームする
● uOP Cache
○ uOp の変換をキャッシュする
○ フロントエンドが眠ることができる
○ Intel のデコーダはでかい
■ でかいデコーダを眠らせると電力効率アップ
● 実行ポートの増加
○ ブランチユニット、AGU が増えた

50. 最近の Intel プロセッサ
他にも...
● Physical Register File
○ 物理レジスタファイルへ直接書き込む
○ 待ち受け命令への ROB からのコピーを削減
● 分岐予測機のさらなる改良
○ 詳細不明、エントリが増えてるなど
● ROB, RS のエントリの追加
● Macro-Fusion の命令の追加

51. 最近の Intel のプロセッサ
● デコードの隠蔽に力を入れているっぽい
○ x86 のクソ命令セットが重い
○ デコーダに負担がかかる
■ デコーダ回路もでかい + 電力食い
○ いかにデコーダを回さないか
■ uOP Cache
■ uOP レベルでの分岐予測
● なぜ、あんなに性能が出るのか
○ 命令セットはクズなのに
○ Intel すごすぎ

52. ただし、Intel に x86 以外を作らせると...

54. http://pc.watch.impress.co.jp/docs/column/kaigai/20130912_615261.html

55. http://pc.watch.impress.co.jp/docs/column/kaigai/20120214_511793.html

56. まとめ
● マイクロアーキテクチャの進化
○ まだまだ続きそう
○ だけど Intel の独壇場的な感じもする
● 世代・メーカーで結構違う
○ Intel と AMD のポートのもたせ方の違いとか