AVX2時代の正規表現マッチング〜半群でぐんぐん！〜

AVX2時代の
正規表現マッチング
∼ 半群でぐんぐん！ ∼

Ryom a S in’y a @si ny a8282

Saturday, March 31, 12

はじめに
・発表者
新屋良磨 (しんやりょうま@東工大院生 @sinya8282)
正規表現好き。正規表現エンジンとか作ってます(grepも)
→ https://github.com/sinya8282/regen

・内容
AVX２で夢が広がる命令が色々入る!!
正規表現マッチングのSIMD実装を先日
思いついたのでソレを (正規表現パート長めです)
・Keywords:正規表現, 半群, AVX2


正規表現


正規とは!! (1)

X
言語が正規

e
, は正規表現で書ける
X
X = L(e)

正規とは!! (1)

X
言語が正規
eの受理言語集合
, は正規表現で書ける
X e
X = L(e)

正規表現で何が書ける？
・.*(hoge|fuga|piyo)
→ 複数文字列探索 (strstrの上位互換)
・ .*AUTHs[^n]{100}
→ IMAP認証のオーバーフロー
攻撃パケット (Snort)
・^(((X?|X6)|X8)|(((([^X]|X[^68])|X6[^4])|X8[^6])|(X64|X86).).*)$


正規表現で何が書ける？
・.*(hoge|fuga|piyo)
→ 複数文字列探索 (strstrの上位互換)
・ .*AUTHs[^n]{100}
→ IMAP認証のオーバーフロー
攻撃パケット (Snort)
・^(((X?|X6)|X8)|(((([^X]|X[^68])|X6[^4])|X8[^6])|(X64|X86).).*)$
→ “X86”, “X64”以外の文字列


正規表現で何が嬉しい？
・文字列探索において能力が高い
→ 正規表現 ⊃ 複数文字列 ⊃ 固定文字列
・テキスト長nに対して線形時間で探索可
→ 後述するDFAを作ればO(n)
→ NFAだとO(n × NFAの状態数)
・モノイド, DFA, 論理式,,, 性質の良いモデル
と対応


正規とは!! (2)

X
言語が正規
,X
はある有限モノイド
M の受理言語
X = L(M )

正規とは!! (2)

X
言語が正規
,X
はある有限モノイド
M の受理言語
このモノイドは特に
X =Monoid )
Syntactic L(M
と呼ばれる


モノイド？(復習)

モノイド M = {S, e, ·}
S : なんかの集合
· : 結合則を満たす二項演算
e 2 S : 単位元
8x 2 S [e · x = x · e = x]



モノイド M = {S, e, ·}
· : 結合則を満たす二項演算
e 2 S : 単位元
8x 2 S [e · x = x · e = x] {N, 0, +}
例えば → 自然数の加算,乗算 {N, 1, ⇥}



モノイド M = {S, e, ·}
· 「単位元のある」半群
: 結合則を満たす二項演算
(単位元なんて飾りです(ぇ)
e 2 S : 単位元
8x 2 S [e · x = x · e = x] {N, 0, +}
例えば → 自然数の加算,乗算 {N, 1, ⇥}


モノイドと言語受理

⌧：文字列→モノイドへの準同型写像
⌧: “abaab” 7!a · b · a · a · b

s
文字列が受理文字列
x
, 受理元が存在して： ⌧ s 7! x

モノイドと言語受理

⌧：文字列→モノイドへの準同型写像
⌧: “abaab” 7!a · b · a · a · b
*注意文字“a”とモノイド
の元はベツモノ a
s
文字列が受理文字列
x
, 受理元が存在して： ⌧ s 7! x

M = {{✏, a, b, aa, ab, ;}, ✏, ·}


M = {{✏, a, b, aa, ab, ;}, ✏, ·}
✏ a b aa ab ;
✏ ✏ a b aa ab ;
a a aa ab a b ;
b b ; ; ; ; ;
aa aa a b aa ab ;
ab ab ; ; ; ; ;
; ; ; ; ; ; ;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}
✏ a b aa ab ;
✏ ✏ a a · a = aa
b aa ab ;
a a aa ab a b ;
b b ; ; ; ; ;
aa aa a b aa ab ;
ab ab ; ; ; ; ;
; ; ; ; ; ; ;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}
✏ a b aa ab ;
✏ ✏ a b aa · ab
a b =; ab
a a aa ab a b ;
b b ; ; ; ; ;
aa aa a b aa ab ;
ab ab ; ; ; ; ;
; ; ; ; ; ; ;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}
✏ a b aa ab ;
✏ ✏ a b aa ab ;
a a aa ab a b ;
b b ; ; ; ; ;
aa aa a b aa ab ;
ab a · aa = a
ab ; ; ; ; ;
; ; ; ; ; ; ;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}
✏ a b aa ab ;
✏ ✏ a b aa ab ;
a a aa ab a b ;
b b ; ; ; ; ;
aa aa a b aa ab ;
ab ab a · ab = b
; ; ; ; ;
; ; ; ; ; ; ;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}
✏ a b aa ab ;
✏ ✏ a b aa ab ;
a a aa ab a b ;
b
aa
b
aa
✏; との二項演算
; ;
a は不変(単位元)
;
b aa ab
;
;
ab ab ; ; ; ; ;
; ; ; ; ; ; ;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}
✏ a b aa ab ;
✏ ✏ a b aa ab ;
a a aa ab a b ;
b b ; ; ; ;
; との二項演算 ;
aa aa b ;aa ab
a は常に (零元) ;
ab ab ; ; ; ; ;
; ; ; ; ; ; ;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}
✏ a b aa ab ;
⌧: ✏ 7! a b7! b
“a” ✏ a , “b” aa ab “”;
, 7! ✏
a a aa ab a b ;
b
b を受理元とすれば!!;
b ; ; ; ;
aa aa a b aa ab ;
ab ab ; ; ; ; ;
; ; ; ; ; ; ;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}
✏ a b aa ab ;
⌧: ✏ 7! a b 7! b
“a” ✏ a , “b” aa ab “”; , 7! ✏
a a aa ab a b ;
bbを受理元とすれば!!;
b ; ; ; ;
⌧:“aaaab” 7! a ·ba · aa · a · b = b
aa aa a a ab ;
ab ab ; ; ; ; ;
のように受理文字列が定められ
; ; ; ; ; ; ;


M = {{✏, a, b, aa, ab, ;}, ✏, ·}
✏ a b aa ab ;
⌧: ✏ 7! a b 7! b
“a” ✏ a , “b” aa ab “”; , 7! ✏
a a aa ab a b ;
bbを受理元とすれば!!;
b ; ; ; ;
⌧:“aaaab” 7! a ·ba · aa · a · b = b
aa aa a a ab ;
ab ab ; ; ; ; ;
のように受理文字列が定められ
; ; ; ; ; ; ;

L(M ) = L((aa)*b)


モノイドわかった？

・この説明では正規表現とモノイドの
具体的関係が良く掴めないと思います

・正規表現から対応するモノイドを
「作る」ことはできる？





できる!!





できる!! (´・ω・`)ｼ
ただもうちょっと待って

正規とは!! (3)

X
言語が正規
, ある有限オートマトン
A の受理言語
X = L(A)

正規とは!! (3)

X
言語が正規
, ある有限オートマトン
A の受理言語
X = L(A)
今回はDFAのみが登場


DFAの5個組表現(基本)

DFA D = {Q, ⌃, , q0 , F }
Q : 状態集合(有限)
⌃ : 文字集合(有限)
: Q ! Q 遷移関数
q0 : 初期状態
F : 受理状態集合

a, b
a
1 b
0 a
b a, b 3
DFA D 2

Q = {0, 1, 2, 3} q0 = 0
⌃ = {a, b} F = {2}
: (0, a) 7! 1, (0, b) 7! 2
···


a, b
a
1 b
0 a
b a, b 3
DFA D 2


a, b
a
1 b
0 a
b a, b 3
DFA D 2

(0, “aab”) = (1, “ab”) = (0, “b”) = 2


a, b
a
1 b
0 a
b a, b 3
DFA D 2

(0, “aab”) = (1, “ab”) = (0, “b”) = 2
(0, “aba”) = (1, “ba”) = (3, “a”) = 3


a, b
a
1 b
0 a
b a, b 3
DFA D 2

(0, “aab”) =による文字列 “b”) = 2
DFA D (1, “ab”) = (0, s
(0, “aba”) = (1, “ba”) = (3, “a”) = 3
の受理判定は
(q0 , s) 2 F ?
の判定


a, b
a
1 b
0 a
b a, b 3
DFA D 2

(0, “aab”) = (1, “ab”) = (0, “b”) = 2
(0, “aba”) = (1, “ba”) = (3, “a”) = 3
受理状態に
り着く→受理!!


a, b
a
1 b
0 a
b a, b 3
DFA D 2

(0, “aab”) = (1, “ab”) = (0, “b”) = 2
(0, “aba”) = (1, “ba”) = (3, “a”) = 3

L(D) = L((aa)*b)

DFAの行列表現(応用)

DF A D = {I, , F }
I : 初期状態ベクトル
: 遷移行列
F : 受理状態ベクトル

a, b
a
1 b
0 a
b a, b 3

2
DF A D = {I, , F }

8 0 1 0 19
>
> ; {a} {b} ; 0 >
>
< B{a} C B0C=
; ; {b} C B C
= 1 0 0 0 ,B
@ ; A , @1A>
>
> ; ; {a, b} >
: ;
; ; ; {a, b} 0


a, b
a
1 b
0 a
b a, b 3

2
DF A D = {I, , F }

8 初期状態のみ１
0 1 0 19
>
> ; {a} {b} ; 0 >
>
< B{a} C B0C=
; ; {b} C B C
= 1 0 0 0 ,B
@ ; A , @1A>
>
> ; ; {a, b} >
: ;
; ; ; {a, b} 0


a, b
a
1 b
0 a
b a, b 3

2
DF A D = {I, , F }

8 0受理状態のみ１ 0 19 1
>
> ; {a} {b} ; 0 >
>
< B{a} C B0C=
B ; ; {b} C B C
= 1 0 0 0 ,@ A , @1A>
>
> ; ; ; {a, b} >
: ;
; ; ; {a, b} 0


a, b
a
1 b
0 a
b a, b 3

状態０から状態０ 2
DF A D = {I, , F }
に遷移する文字はない

8 0 1 0 19
>
> ; {a} {b} ; 0 >
>
< B{a} C B0C=
; ; {b} C B C
= 1 0 0 0 ,B
@ ; A , @1A>
>
> ; ; {a, b} >
: ;
; ; ; {a, b} 0


a, b
a
1 b
0 a
b a, b 3

状態０から状態０状態０から状態１
2
DF A D = {I, , F }
に遷移する文字はないに遷移する文字はa

8 0 1 0 19
>
> ; {a} {b} ; 0 >
>
< B{a} C B0C=
; ; {b} C B C
= 1 0 0 0 ,B
@ ; A , @1A>
>
> ; ; {a, b} >
: ;
; ; ; {a, b} 0


a, b
a
1 b
0 a
b a, b 3

2

0 1 0 1
「文字ごと」に遷移行列を
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta 考えてみる (要素は１,０のみ C
=B
@0 0 0 1A
C Tb = B
@0 0 0 1A
0 論理行列) 0 0 1
0 0 1 0


a, b
a
1 b
0 a
b a, b 3

2

0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B C
@0 0 0 1A @0 0 0 1A
0 0 0 1 0 0 0 1


a, b
a
1 b
0 a
b a, b 3

文字aで状態０は 2
状態１に遷移
0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B C
@0 0 0 1A @0 0 0 1A
0 0 0 1 0 0 0 1


a, b
a
1 b
0 a
b a, b 3

文字aで状態０は 2
状態１に遷移
0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B C
@0 0 0 1A @0 0 0 1A
0 0 0 1 0 0 0 1
文字aで状態１は
状態０に遷移

I= 1 0 0 0
0 1 0 1 0 1
0 0 1 0 0 0 0 1 0
B0C B1 0 0 0C B0 0 0 1C
F = B C Ta = B0 0 C Tb = B C
@1A @ 0 1A @0 0 0 1A
0 0 0 0 1 0 0 0 1

行列演算で受理判定!!
例題: “aaaab”


I= 1 0 0 0
0 1 0 1 0 1
0 0 1 0 0 0 0 1 0
B0C B1 0 0 0C B0 0 0 1C
F = B C Ta = B0 0 C Tb = B C
@1A @ 0 1A @0 0 0 1A
0 0 0 0 1 0 0 0 1


I= 1 0 0 0
0 1 0 1 0 1
0 0 1 0 0 0 0 1 0
B0C B1 0 0 0C B0 0 0 1C
F = B C Ta = B0 0 C Tb = B C
@1A @ 0 1A @0 0 0 1A
0 0 0 0 1 0 0 0 1

“aaaab”


I= 1 0 0 0
0 1 0 1 0 1
0 0 1 0 0 0 0 1 0
B0C B1 0 0 0C B0 0 0 1C
F = B C Ta = B0 0 C Tb = B C
@1A @ 0 1A @0 0 0 1A
0 0 0 0 1 0 0 0 1

“aaaab”

4
I · T a · Tb · F


I= 1 0 0 0
0 1 0 1 0 1
0 0 1 0 0 0 0 1 0
B0C B1 0 0 0C B0 0 0 1C
F = B C Ta = B0 0 C Tb = B C
@1A @ 0 1A @0 0 0 1A
0 0 0 0 1 0 0 0 1

“aaaab”

4
I · T a · Tb · F
2
= I · Ta · T b · F


I= 1 0 0 0
0 1 0 1 0 1
0 0 1 0 0 0 0 1 0
B0C B1 0 0 0C B0 0 0 1C
F = B C Ta = B0 0 C Tb = B C
@1A @ 0 1A @0 0 0 1A
0 0 0 0 1 0 0 0 1

“aaaab”

0 1 0 1
4 0 0 1 0 0
I · T a · Tb · F B0
2 0 0 1C B0C
= I · Ta · T b · F = 1 0 0 0 ·B
@0
C·B C
0 0 1A @1A
0 0 0 1 0


I= 1 0 0 0
0 1 0 1 0 1
0 0 1 0 0 0 0 1 0
B0C B1 0 0 0C B0 0 0 1C
F = B C Ta = B0 0 C Tb = B C
@1A @ 0 1A @0 0 0 1A
0 0 0 0 1 0 0 0 1

“aaaab”

0 1 0 1
4 0 0 1 0 0
I · T a · Tb · F B0
2 0 0 1C B0C
= I · Ta · T b · F = 1 0 0 0 ·B
@0
C·B C
0 0 1A @1A
0 0 0 1 0
=1

I= 1 0 0 0
0 1 0 1 0 1
0 0 1 0 0 0 0 1 0
B0C B1 0 0 0C B0 0 0 1C
F = B C Ta = B0 0 C Tb = B C
@1A @ 0 1A @0 0 0 1A
0 0 0 0 1 0 0 0 1

“aaaab” 結果が１→ 受理
結果が０→ 非受理
0 1 0 1
4 0 0 1 0 0
I · T a · Tb · F B0
2 0 0 1C B0C
= I · Ta · T b · F = 1 0 0 0 ·B
@0
C·B C
0 0 1A @1A
0 0 0 1 0
=1

回帰

先例中の行列積

4
Ta · Tb = Ta · Ta · Ta · Ta · Tb

正方行列同士の積は閉じている
かつ結合則が成り立つ


回帰

先例中の行列積閉じてる? 結合的演算?

4
Ta · Tb = Ta · Ta · Ta · Ta · Tb



回帰

先例中の行列積閉じてる? 結合的演算?

4
Ta · Tb = Ta
半群·だっ!!T
·T ·T T ·
a a a b



遷移行列が成す半群
0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1

この２つの行列が生成する全ての
TD
行列の集合を計算(遷移閉包)


0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1

この２つの行列が生成する全ての
TD
行列の集合を計算(遷移閉包)
→ 読者自身で手を動かせ(圧迫)


0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1


0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1
0 1
1 0 0 0
B0 1 0 0C
Ta · Ta = B
@0
C
0 0 1A
0 0 0 1


0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1

Ta · Ta = Ta 2


0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1
0 1
0 0 0 1
B0 0 1 0C
Ta · Ta = Ta 2 Ta · Tb = B
@0
C
0 0 1A
0 0 0 1


0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1

Ta · Ta = Ta 2 Ta · Tb = Tab


0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1

2 2
Ta · Ta = Ta · Ta = Ta


0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1

2 2 2
Ta · Ta = Ta · Ta = Ta Ta · Tb = Tb


0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1

2 2 2
Ta · Ta = Ta · Ta2 = Ta T0 · Tb = Tb
a 13
0 0 0 1
6 B0 0 0 1C7
8x 2 TD 6Tb · x = B
4 @0 0 0
C7
1A5
0 0 0 1

0 1 0 1
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B
@0
C
@0 0 0 1A 0 0 1A
0 0 0 1 0 0 0 1

2 2 2

8x 2 TD [Tb · x = T; ]


0 1 01
0 1 0 0 0 0 1 0
B1 0 0 0C B0 0 0 1C
Ta = B C Tb = B C
遷移閉包が求まった!!→5つの行列 A
@0 0 0 1A @0 0 0 1
0 0 0 1 0 0 0 1
TD = {Ta , Tb , Taa , Tab , T; }
2 2 2

8x 2 TD [Tb · x = T; ]


半群+単位元=モノイド

0 1
1 0 0 0
B0 1 0 0C
I=B
単位行列を追加
@0 0 1 0A
C
( に)
TD 0 0 0 1


0
M = {{I, Ta , Tb , Taa , Tab , T; }, I, ·}


0
M = {{I, Ta , Tb , Taa , Tab , T; }, I, ·}

単位行列を追加
行列積
(もちろん単位元)


0
M = {{I, Ta , Tb , Taa , Tab , T; }, I, ·}
I Ta Tb Taa Tab T;
I I Ta Tb Taa Tab T;
Ta Ta Taa Tab Ta Tb T;
Tb Tb T; T; T; T; T;
Taa Taa Ta Tb Taa Tab T;
Tab Tab T; T; T; T; T;
T; T; T; T; T; T; T;


0
M = {{I, Ta , Tb , Taa , Tab , T; }, I, ·}
I Ta Tb Taa Tab T;
I D
これをのTTransition TMonoid
I a Tb Taa ab T;
Ta Ta Taa Tab Ta Tb T;
Tb Tb
T M (D)
と呼びで表す。;
T; T; T; T; T
(最初のモノイドの表と比べてみて :-)
Taa Taa Ta Tb Taa Tab T;
Tab Tab T; T; T; T; T;
T; T; T; T; T; T; T;


正規とは!! (4)

L(D) = L(M)
となる等価な最小DFA と D
Syntactic Monoid M
について

T M (D) Mは同型
と
([2] p691)


SIMD実装


普通のDFA実装

x86/x64最適化勉強会１
「正規表現とJITとベンチマーク」


普通のDFA実装

bool DFA::FullMatch(unsigned char *beg, unsigned char *end)
{
unsigned int state = 0; // initial state
while (beg < end) { // search whole string
state = transition_[state][*beg++];
if (state == DFA::REJECT) break;
}
return IsAccept(state);
O(n)
}

x86/x64最適化勉強会１
「正規表現とJITとベンチマーク」


今回提案のSIMD実装
・文字列は結合的二項演算列 (モノイド上の)
→ SIMDで並列reductionができれば!
→ SIMD実装だと
O(n log W/W )
ぐらい期待できる?
(Wはワードサイズ)


今回提案のSIMD実装
・文字列は結合的二項演算列 (モノイド上の)
→ SIMDで並列reductionができれば!
→ SIMD実装だと
O(n log W/W )
ぐらい期待できる?
(Wはワードサイズ)
*注意 NFAのビットパラレル
実装とはベツモノ


SIMD並列reduction
・加算等基本的な水平方向演算は現AVXにも


SIMD並列reduction

・今回やりたい演算と要素は正規表現に依存


SIMD並列reduction


・任意の二項演算なんてできるわけない


SIMD並列reduction


・任意の二項演算なんてできるわけない

そう、AVX２が出るまではねっ!!


AVX２追加命令群 [3][4]


AVX２追加命令群 [3][4]

・2013年のHaswellから入る(予定)
・整数256bit命令群の追加!!
・並列表引き命令gatherの追加!!
・Any-to-Any置換命令permの追加!!
(AVXのshufﬂeは128bit-laneに閉じてた)


gather: 並列表引き[4]

・引数3つ
→ DST,SRC1(index&table),SRC2(condition)
・浮動小数点は vgather, 整数はvpgather
→ インデックス/値はDword, Qwordを指定
→ 2つの元をpack(2byte)して表引き
→ 任意の二項演算が可(表はもちろん作る)


gather: 並列表引き[4]
VPGATHERDD (VEX.256 version)
FOR j ← 0 to7
i ・引数3つ
← j * 32;
IF MASK[31+i] THEN
→ DST,SRC1(index&table),SRC2(condition)
MASK[i+31:i] ← 0xFFFFFFFF; // extend from most signiﬁcant bit
ELSE
MASK[i +31:i] ← 0;
・浮動小数点は vgather, 整数はvpgather
FI;
ENDFOR
FOR j → 7
← 0 to インデックス/値はDword, Qwordを指定
i ← j * 32;
DATA_ADDR ← BASE_ADDR + (SignExtend(VINDEX1[i+31:i])*SCALE + DISP;
IF MASK[31+i] THEN
DEST[i +31:i] ← FETCH_32BITS(DATA_ADDR); // a fault exits the loop
FI;
MASK[i +31:i] ← 0;
ENDFOR
(non-masked elements of the mask register have the content of respective element cleared)


perm: Any-to-Any置換 [4]


perm: Any-to-Any置換 [4]

VPERMQ (VEX.256 encoded version)
DEST[63:0] ← (SRC[255:0] >> (IMM8[1:0] * 64))[63:0];
DEST[127:64] ← (SRC[255:0] >> (IMM8[3:2] * 64))[63:0];
DEST[191:128] ← (SRC[255:0] >> (IMM8[5:4] * 64))[63:0];
DEST[255:192] ← (SRC[255:0] >> (IMM8[7:6] * 64))[63:0];


実装方針

・reductionは並列表引き命令vpgatherdd
→ モノイドの元は256個以下に限定(1byte)
・要素を並べ替えて1つになるまで繰り返す
→ vpshufとvperm


c0 ⇠ c
メモリ上に F それぞれ1byte16個の元
cF cE cD cC cB cA c9 c8 c7 c6 c5 c4 c3 c2 c1 c0


c0 ⇠ c

*注意簡略化のため、各要素
ci (i = 1, . . . , F )はそれぞれ
１byteに収まるとし、演算列
は１６個に固定


c0 ⇠ c

(256bit)YMMレジスタに2つずつpack (上位2byteは0)
00cF cE 00cD cC 00cB cA 00c9 c8 00c7 c6 00c5 c4 00c3 c2 00c1 c0


c0 ⇠ c


並列表引によって二項演算 (結果上位3byteにゴミが)

???c0
7 ???c0
6 ???c0
5 ???c0
4 ???c0
3 ???c0
2 ???c0
1 ???c0
0


c0 ⇠ c



???c0
7 ???c0
6 ???c0
5 ???c0
4 ???c0
3 ???c0
2 ???c0
1 ???c0
0

0000 00c0 c0
7 6 0000 00c0 c0
5 4 0000 00c0 c0
3 2 0000 00c0 c0
1 0

shufﬂe&permで結果を2つずつpackしなおす(他は0に)


c0 ⇠ c



???c0
7 ???c0
6 ???c0
5 ???c0
4 ???c0
3 ???c0
2 ???c0
1 ???c0
0

0000 00c0 c0
7 6 0000 00c0 c0
5 4 0000 00c0 c0
3 2 0000 00c0 c0
1 0

shufﬂe&permで結果を2つずつpackしなおす(他は0に)
結果が1つの元になるまで繰り返す!!

デモプログラム

・YASMでAVX2プログラミング
→ YASM 1.2.0 からAVX2対応
→ 実は初アセンブラプログラミング(というかSIMDも)
・IntelのEmulatorで動作確認できた! (動いた)
・コードは一式githubに挙げてます
→ https://github.com/sinya8282/AVX2REGEX


コード片(YASM)
vpmovzxwd ymm0, [rdi]
vmovdqa ymm1, [shuffle1] 置換条件データ
vmovdqa ymm2, [shuffle2]
vpcmpeqd ymm3, ymm3, ymm3
(32byte aligned)
vmovapd ymm4, ymm3
vpgatherdd ymm0, [rdx+ymm0], ymm4
vpshufb ymm0, ymm0, ymm1
vmovapd ymm4, ymm3 最後は二つの元を
vpshufb ymm0, ymm0, ymm1 laneをまたいで置
vmovapd ymm4, ymm3
vpermq ymm0, ymm0, 0x08 換する必要がある
vpshufb ymm0, ymm0, ymm2
vmovapd ymm4, ymm3
vpgatherdd ymm0, [rdx+ymm0], ymm4 のでperm+shufﬂe
movq rax, xmm0


速いんでしょうか？
・知りません :-p gatherの速度次第!!
→ Emulatorじゃ速度指標が得られなげ？
→ 16回の表引きが4回のvpgatherddに
→ 今後もSIMDデータ幅は大きくなるんでしょうか？
・その他の命令(YMM shufﬂe/perm/mov)は
高速([6])なのであまり問題にならない？
・Haswell出るまで待ちましょう


不満な点

・gatherで条件レジスタが０クリアされる
・byte単位256bit Any-to-Any置換命令がない
→ permとshufbを組み合わせ...
・デモプログラムは制約条件有りまくり
→ 制約無くせる!! もっと最適化もできる
→ (実機出ないとやる気が...)


おまけ


並列表引きのきっかけ


NEONにも並列表引き


参考文献


正規全般

[1]Elements of
AutomataTheory

神本。
(正規な理論はこの本読めばok)

[2]Syntactic Semigroups
(in Handbook of Formal
Languages volume 1)


SIMD周り

Haswell New Instruction Descriptions
[3]
Now Available! - Intel Software Blogs
[4] Intel® Advanced Vector Extensions
Programming Reference - PDF
[5] Intel® 64 and IA-32 Architectures
Optimization Reference Manual - PDF
Tables (Lists of Instruction
[6] Instruction
latencies, throughputs) - PDF


AVX2時代の正規表現マッチング 〜半群でぐんぐん！〜

More Related Content

What's hot

Viewers also liked

Similar to AVX2時代の正規表現マッチング 〜半群でぐんぐん！〜