AVX2時代の正規表現マッチング 〜半群でぐんぐん!〜
Upcoming SlideShare
Loading in...5
×
 

AVX2時代の正規表現マッチング 〜半群でぐんぐん!〜

on

  • 4,658 views

x86/x64最適化勉強会での発表資料です ...

x86/x64最適化勉強会での発表資料です
http://atnd.org/events/25823
UST → http://www.ustream.tv/recorded/21484937

2013年度のHaswellから入るAVX2を使った正規表現マッチングというマニアックなネタ :-)

Statistics

Views

Total Views
4,658
Views on SlideShare
4,614
Embed Views
44

Actions

Likes
10
Downloads
42
Comments
0

5 Embeds 44

https://twimg0-a.akamaihd.net 23
https://si0.twimg.com 16
http://translate.googleusercontent.com 2
https://twitter.com 2
http://a0.twimg.com 1

Accessibility

Categories

Upload Details

Uploaded via as Adobe PDF

Usage Rights

© All Rights Reserved

Report content

Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
  • Full Name Full Name Comment goes here.
    Are you sure you want to
    Your message goes here
    Processing…
Post Comment
Edit your comment

AVX2時代の正規表現マッチング 〜半群でぐんぐん!〜 AVX2時代の正規表現マッチング 〜半群でぐんぐん!〜 Presentation Transcript

  • AVX2時代の 正規表現マッチング ∼ 半群でぐんぐん! ∼ Ryom a S in’y a @si ny a8282Saturday, March 31, 12
  • はじめに ・発表者  新屋 良磨 (しんや りょうま@東工大院生 @sinya8282)  正規表現好き。正規表現エンジンとか作ってます(grepも)   → https://github.com/sinya8282/regen ・内容  AVX2で夢が広がる命令が色々入る!!  正規表現マッチングのSIMD実装を先日  思いついたのでソレを (正規表現パート長めです) ・Keywords:正規表現, 半群, AVX2Saturday, March 31, 12
  • 正規表現Saturday, March 31, 12
  • 正規とは!! (1) X 言語 が正規 e ,  は正規表現 で書ける X X = L(e)Saturday, March 31, 12
  • 正規とは!! (1) X 言語 が正規 eの受理言語集合 ,  は正規表現 で書ける X e X = L(e)Saturday, March 31, 12
  • 正規表現で何が書ける? ・.*(hoge|fuga|piyo) → 複数文字列探索 (strstrの上位互換) ・ .*AUTHs[^n]{100} → IMAP認証のオーバーフロー 攻撃パケット (Snort) ・^(((X?|X6)|X8)|(((([^X]|X[^68])|X6[^4])|X8[^6])|(X64|X86).).*)$Saturday, March 31, 12
  • 正規表現で何が書ける? ・.*(hoge|fuga|piyo) → 複数文字列探索 (strstrの上位互換) ・ .*AUTHs[^n]{100} → IMAP認証のオーバーフロー 攻撃パケット (Snort) ・^(((X?|X6)|X8)|(((([^X]|X[^68])|X6[^4])|X8[^6])|(X64|X86).).*)$ → “X86”, “X64”以外の文字列Saturday, March 31, 12
  • 正規表現で何が嬉しい? ・文字列探索において能力が高い → 正規表現 ⊃ 複数文字列 ⊃ 固定文字列 ・テキスト長nに対して線形時間で探索可 → 後述するDFAを作ればO(n) → NFAだとO(n × NFAの状態数) ・モノイド, DFA, 論理式,,, 性質の良いモデル  と対応Saturday, March 31, 12
  • 正規とは!! (2) X 言語 が正規 ,X   はある有限モノイド M の受理言語 X = L(M )Saturday, March 31, 12
  • 正規とは!! (2) X 言語 が正規 ,X   はある有限モノイド M の受理言語 このモノイドは特に X =Monoid ) Syntactic L(M と呼ばれるSaturday, March 31, 12
  • モノイド?(復習) モノイド M = {S, e, ·} S : なんかの集合 · : 結合則を満たす二項演算 e 2 S : 単位元 8x 2 S [e · x = x · e = x]Saturday, March 31, 12
  • モノイド?(復習) モノイド M = {S, e, ·} S : なんかの集合 · : 結合則を満たす二項演算 e 2 S : 単位元 8x 2 S [e · x = x · e = x] {N, 0, +} 例えば → 自然数の加算,乗算 {N, 1, ⇥}Saturday, March 31, 12
  • モノイド?(復習) モノイド M = {S, e, ·} S : なんかの集合 · 「単位元のある」半群 : 結合則を満たす二項演算 (単位元なんて飾りです(ぇ) e 2 S : 単位元 8x 2 S [e · x = x · e = x] {N, 0, +} 例えば → 自然数の加算,乗算 {N, 1, ⇥}Saturday, March 31, 12
  • モノイドと言語受理 ⌧:文字列→モノイドへの準同型写像 ⌧: “abaab” 7!a · b · a · a · b s 文字列 が受理文字列 x , 受理元  が存在して : ⌧ s 7! xSaturday, March 31, 12
  • モノイドと言語受理 ⌧:文字列→モノイドへの準同型写像 ⌧: “abaab” 7!a · b · a · a · b *注意 文字“a”とモノイド    の元 はベツモノ a s 文字列 が受理文字列 x , 受理元  が存在して : ⌧ s 7! xSaturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·}Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ✏ ✏ a b aa ab ; a a aa ab a b ; b b ; ; ; ; ; aa aa a b aa ab ; ab ab ; ; ; ; ; ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ✏ ✏ a a · a = aa b aa ab ; a a aa ab a b ; b b ; ; ; ; ; aa aa a b aa ab ; ab ab ; ; ; ; ; ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ✏ ✏ a b aa · ab a b =; ab a a aa ab a b ; b b ; ; ; ; ; aa aa a b aa ab ; ab ab ; ; ; ; ; ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ✏ ✏ a b aa ab ; a a aa ab a b ; b b ; ; ; ; ; aa aa a b aa ab ; ab a · aa = a ab ; ; ; ; ; ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ✏ ✏ a b aa ab ; a a aa ab a b ; b b ; ; ; ; ; aa aa a b aa ab ; ab ab a · ab = b ; ; ; ; ; ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ✏ ✏ a b aa ab ; a a aa ab a b ; b aa b aa ✏; との二項演算 ; ; a は不変(単位元) ; b aa ab ; ; ab ab ; ; ; ; ; ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ✏ ✏ a b aa ab ; a a aa ab a b ; b b ; ; ; ; ; aa aa a b aa ab ; ab ab ; ; ; ; ; ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ✏ ✏ a b aa ab ; a a aa ab a b ; b b ; ; ; ; ; との二項演算 ; aa aa b ;aa ab a は常に (零元) ; ab ab ; ; ; ; ; ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ✏ ✏ a b aa ab ; a a aa ab a b ; b b ; ; ; ; ; aa aa a b aa ab ; ab ab ; ; ; ; ; ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ⌧: ✏ 7! a b7! b “a” ✏ a , “b” aa ab “”; , 7! ✏ a a aa ab a b ; b b を受理元とすれば!!; b ; ; ; ; aa aa a b aa ab ; ab ab ; ; ; ; ; ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ⌧: ✏ 7! a b 7! b “a” ✏ a , “b” aa ab “”; , 7! ✏ a a aa ab a b ; bbを受理元とすれば!!; b ; ; ; ; ⌧:“aaaab” 7! a ·ba · aa · a · b = b aa aa a a ab ; ab ab ; ; ; ; ; のように受理文字列が定められ ; ; ; ; ; ; ;Saturday, March 31, 12
  • M = {{✏, a, b, aa, ab, ;}, ✏, ·} ✏ a b aa ab ; ⌧: ✏ 7! a b 7! b “a” ✏ a , “b” aa ab “”; , 7! ✏ a a aa ab a b ; bbを受理元とすれば!!; b ; ; ; ; ⌧:“aaaab” 7! a ·ba · aa · a · b = b aa aa a a ab ; ab ab ; ; ; ; ; のように受理文字列が定められ ; ; ; ; ; ; ; L(M ) = L((aa)*b)Saturday, March 31, 12
  • モノイドわかった? ・この説明では正規表現とモノイドの  具体的関係が良く掴めないと思います ・正規表現から対応するモノイドを  「作る」ことはできる?Saturday, March 31, 12
  • モノイドわかった? ・この説明では正規表現とモノイドの  具体的関係が良く掴めないと思います ・正規表現から対応するモノイドを  「作る」ことはできる? できる!!Saturday, March 31, 12
  • モノイドわかった? ・この説明では正規表現とモノイドの  具体的関係が良く掴めないと思います ・正規表現から対応するモノイドを  「作る」ことはできる? できる!! (´・ω・`)シ ただもうちょっと待ってSaturday, March 31, 12
  • 正規とは!! (3) X 言語 が正規 , ある有限オートマトン A の受理言語 X = L(A)Saturday, March 31, 12
  • 正規とは!! (3) X 言語 が正規 , ある有限オートマトン A の受理言語 X = L(A) 今回はDFAのみが登場Saturday, March 31, 12
  • DFAの5個組表現(基本) DFA D = {Q, ⌃, , q0 , F } Q : 状態集合(有限) ⌃ : 文字集合(有限) : Q ! Q 遷移関数 q0 : 初期状態 F : 受理状態集合Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 DFA D 2 Q = {0, 1, 2, 3} q0 = 0 ⌃ = {a, b} F = {2} : (0, a) 7! 1, (0, b) 7! 2 ···Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 DFA D 2Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 DFA D 2 (0, “aab”) = (1, “ab”) = (0, “b”) = 2Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 DFA D 2 (0, “aab”) = (1, “ab”) = (0, “b”) = 2 (0, “aba”) = (1, “ba”) = (3, “a”) = 3Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 DFA D 2 (0, “aab”) =による文字列 “b”) = 2 DFA D (1, “ab”) = (0, s (0, “aba”) = (1, “ba”) = (3, “a”) = 3 の受理判定は (q0 , s) 2 F ? の判定Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 DFA D 2 (0, “aab”) = (1, “ab”) = (0, “b”) = 2 (0, “aba”) = (1, “ba”) = (3, “a”) = 3Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 DFA D 2 (0, “aab”) = (1, “ab”) = (0, “b”) = 2 (0, “aba”) = (1, “ba”) = (3, “a”) = 3   受理状態に り着く→受理!!Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 DFA D 2 (0, “aab”) = (1, “ab”) = (0, “b”) = 2 (0, “aba”) = (1, “ba”) = (3, “a”) = 3 L(D) = L((aa)*b)Saturday, March 31, 12
  • DFAの行列表現(応用) DF A D = {I, , F } I : 初期状態ベクトル : 遷移行列 F : 受理状態ベクトルSaturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 2 DF A D = {I, , F } 8 0 1 0 19 > > ; {a} {b} ; 0 > > < B{a} C B0C= ; ; {b} C B C = 1 0 0 0 ,B @ ; A , @1A> > > ; ; {a, b} > : ; ; ; ; {a, b} 0Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 2 DF A D = {I, , F } 8 初期状態のみ1 0 1 0 19 > > ; {a} {b} ; 0 > > < B{a} C B0C= ; ; {b} C B C = 1 0 0 0 ,B @ ; A , @1A> > > ; ; {a, b} > : ; ; ; ; {a, b} 0Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 2 DF A D = {I, , F } 8 0受理状態のみ1 0 19 1 > > ; {a} {b} ; 0 > > < B{a} C B0C= B ; ; {b} C B C = 1 0 0 0 ,@ A , @1A> > > ; ; ; {a, b} > : ; ; ; ; {a, b} 0Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 状態0から状態0 2 DF A D = {I, , F } に遷移する文字はない 8 0 1 0 19 > > ; {a} {b} ; 0 > > < B{a} C B0C= ; ; {b} C B C = 1 0 0 0 ,B @ ; A , @1A> > > ; ; {a, b} > : ; ; ; ; {a, b} 0Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 状態0から状態0 状態0から状態1 2 DF A D = {I, , F } に遷移する文字はない に遷移する文字はa 8 0 1 0 19 > > ; {a} {b} ; 0 > > < B{a} C B0C= ; ; {b} C B C = 1 0 0 0 ,B @ ; A , @1A> > > ; ; {a, b} > : ; ; ; ; {a, b} 0Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 2 0 1 0 1 「文字ごと」に遷移行列を 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta 考えてみる (要素は1,0のみ C =B @0 0 0 1A C Tb = B @0 0 0 1A 0    論理行列) 0 0 1 0 0 1 0Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 2 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B C @0 0 0 1A @0 0 0 1A 0 0 0 1 0 0 0 1Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 文字aで状態0は 2 状態1に遷移 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B C @0 0 0 1A @0 0 0 1A 0 0 0 1 0 0 0 1Saturday, March 31, 12
  • a, b a 1 b 0 a b a, b 3 文字aで状態0は 2 状態1に遷移 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B C @0 0 0 1A @0 0 0 1A 0 0 0 1 0 0 0 1 文字aで状態1は 状態0に遷移Saturday, March 31, 12
  • I= 1 0 0 0 0 1 0 1 0 1 0 0 1 0 0 0 0 1 0 B0C B1 0 0 0C B0 0 0 1C F = B C Ta = B0 0 C Tb = B C @1A @ 0 1A @0 0 0 1A 0 0 0 0 1 0 0 0 1 行列演算で受理判定!! 例題: “aaaab”Saturday, March 31, 12
  • I= 1 0 0 0 0 1 0 1 0 1 0 0 1 0 0 0 0 1 0 B0C B1 0 0 0C B0 0 0 1C F = B C Ta = B0 0 C Tb = B C @1A @ 0 1A @0 0 0 1A 0 0 0 0 1 0 0 0 1Saturday, March 31, 12
  • I= 1 0 0 0 0 1 0 1 0 1 0 0 1 0 0 0 0 1 0 B0C B1 0 0 0C B0 0 0 1C F = B C Ta = B0 0 C Tb = B C @1A @ 0 1A @0 0 0 1A 0 0 0 0 1 0 0 0 1 “aaaab”Saturday, March 31, 12
  • I= 1 0 0 0 0 1 0 1 0 1 0 0 1 0 0 0 0 1 0 B0C B1 0 0 0C B0 0 0 1C F = B C Ta = B0 0 C Tb = B C @1A @ 0 1A @0 0 0 1A 0 0 0 0 1 0 0 0 1 “aaaab” 4 I · T a · Tb · FSaturday, March 31, 12
  • I= 1 0 0 0 0 1 0 1 0 1 0 0 1 0 0 0 0 1 0 B0C B1 0 0 0C B0 0 0 1C F = B C Ta = B0 0 C Tb = B C @1A @ 0 1A @0 0 0 1A 0 0 0 0 1 0 0 0 1 “aaaab” 4 I · T a · Tb · F 2 = I · Ta · T b · FSaturday, March 31, 12
  • I= 1 0 0 0 0 1 0 1 0 1 0 0 1 0 0 0 0 1 0 B0C B1 0 0 0C B0 0 0 1C F = B C Ta = B0 0 C Tb = B C @1A @ 0 1A @0 0 0 1A 0 0 0 0 1 0 0 0 1 “aaaab” 0 1 0 1 4 0 0 1 0 0 I · T a · Tb · F B0 2 0 0 1C B0C = I · Ta · T b · F = 1 0 0 0 ·B @0 C·B C 0 0 1A @1A 0 0 0 1 0Saturday, March 31, 12
  • I= 1 0 0 0 0 1 0 1 0 1 0 0 1 0 0 0 0 1 0 B0C B1 0 0 0C B0 0 0 1C F = B C Ta = B0 0 C Tb = B C @1A @ 0 1A @0 0 0 1A 0 0 0 0 1 0 0 0 1 “aaaab” 0 1 0 1 4 0 0 1 0 0 I · T a · Tb · F B0 2 0 0 1C B0C = I · Ta · T b · F = 1 0 0 0 ·B @0 C·B C 0 0 1A @1A 0 0 0 1 0 =1Saturday, March 31, 12
  • I= 1 0 0 0 0 1 0 1 0 1 0 0 1 0 0 0 0 1 0 B0C B1 0 0 0C B0 0 0 1C F = B C Ta = B0 0 C Tb = B C @1A @ 0 1A @0 0 0 1A 0 0 0 0 1 0 0 0 1 “aaaab” 結果が1→ 受理 結果が0→ 非受理 0 1 0 1 4 0 0 1 0 0 I · T a · Tb · F B0 2 0 0 1C B0C = I · Ta · T b · F = 1 0 0 0 ·B @0 C·B C 0 0 1A @1A 0 0 0 1 0 =1Saturday, March 31, 12
  • 回帰 先例中の行列積 4 Ta · Tb = Ta · Ta · Ta · Ta · Tb 正方行列同士の積は閉じている かつ結合則が成り立つSaturday, March 31, 12
  • 回帰 先例中の行列積 閉じてる? 結合的演算? 4 Ta · Tb = Ta · Ta · Ta · Ta · Tb 正方行列同士の積は閉じている かつ結合則が成り立つSaturday, March 31, 12
  • 回帰 先例中の行列積 閉じてる? 結合的演算? 4 Ta · Tb = Ta 半群·だっ!!T ·T ·T T · a a a b 正方行列同士の積は閉じている かつ結合則が成り立つSaturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1 この2つの行列が生成する全ての TD 行列の集合  を計算(遷移閉包)Saturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1 この2つの行列が生成する全ての TD 行列の集合  を計算(遷移閉包) → 読者自身で手を動かせ(圧迫)Saturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1Saturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1 0 1 1 0 0 0 B0 1 0 0C Ta · Ta = B @0 C 0 0 1A 0 0 0 1Saturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1 Ta · Ta = Ta 2Saturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1 0 1 0 0 0 1 B0 0 1 0C Ta · Ta = Ta 2 Ta · Tb = B @0 C 0 0 1A 0 0 0 1Saturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1 Ta · Ta = Ta 2 Ta · Tb = TabSaturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1 Ta · Ta = Ta 2 Ta · Tb = Tab 2 2 Ta · Ta = Ta · Ta = TaSaturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1 Ta · Ta = Ta 2 Ta · Tb = Tab 2 2 2 Ta · Ta = Ta · Ta = Ta Ta · Tb = TbSaturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1 Ta · Ta = Ta 2 Ta · Tb = Tab 2 2 2 Ta · Ta = Ta · Ta2 = Ta T0 · Tb = Tb a 13 0 0 0 1 6 B0 0 0 1C7 8x 2 TD 6Tb · x = B 4 @0 0 0 C7 1A5 0 0 0 1Saturday, March 31, 12
  • 遷移行列が成す半群 0 1 0 1 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B @0 C @0 0 0 1A 0 0 1A 0 0 0 1 0 0 0 1 Ta · Ta = Ta 2 Ta · Tb = Tab 2 2 2 Ta · Ta = Ta · Ta = Ta Ta · Tb = Tb 8x 2 TD [Tb · x = T; ]Saturday, March 31, 12
  • 遷移行列が成す半群 0 1 01 0 1 0 0 0 0 1 0 B1 0 0 0C B0 0 0 1C Ta = B C Tb = B C 遷移閉包が求まった!!→5つの行列 A @0 0 0 1A @0 0 0 1 0 0 0 1 0 0 0 1 TD = {Ta , Tb , Taa , Tab , T; } Ta · Ta = Ta 2 Ta · Tb = Tab 2 2 2 Ta · Ta = Ta · Ta = Ta Ta · Tb = Tb 8x 2 TD [Tb · x = T; ]Saturday, March 31, 12
  • 半群+単位元=モノイド 0 1 1 0 0 0 B0 1 0 0C I=B 単位行列        を追加 @0 0 1 0A C (  に) TD 0 0 0 1Saturday, March 31, 12
  • 半群+単位元=モノイド 0 M = {{I, Ta , Tb , Taa , Tab , T; }, I, ·}Saturday, March 31, 12
  • 半群+単位元=モノイド 0 M = {{I, Ta , Tb , Taa , Tab , T; }, I, ·}  単位行列を追加 行列積  (もちろん単位元)Saturday, March 31, 12
  • 半群+単位元=モノイド 0 M = {{I, Ta , Tb , Taa , Tab , T; }, I, ·} I Ta Tb Taa Tab T; I I Ta Tb Taa Tab T; Ta Ta Taa Tab Ta Tb T; Tb Tb T; T; T; T; T; Taa Taa Ta Tb Taa Tab T; Tab Tab T; T; T; T; T; T; T; T; T; T; T; T;Saturday, March 31, 12
  • 半群+単位元=モノイド 0 M = {{I, Ta , Tb , Taa , Tab , T; }, I, ·} I Ta Tb Taa Tab T; I D これを のTTransition TMonoid I a Tb Taa ab T; Ta Ta Taa Tab Ta Tb T; Tb Tb T M (D) と呼び    で表す。; T; T; T; T; T (最初のモノイドの表と比べてみて :-) Taa Taa Ta Tb Taa Tab T; Tab Tab T; T; T; T; T; T; T; T; T; T; T; T;Saturday, March 31, 12
  • 正規とは!! (4) L(D) = L(M) となる等価な最小DFA と D Syntactic Monoid M  について T M (D) Mは同型 と  ([2] p691)Saturday, March 31, 12
  • SIMD実装Saturday, March 31, 12
  • 普通のDFA実装 x86/x64最適化勉強会1 「正規表現とJITとベンチマーク」Saturday, March 31, 12
  • 普通のDFA実装 bool DFA::FullMatch(unsigned char *beg, unsigned char *end) { unsigned int state = 0; // initial state while (beg < end) { // search whole string state = transition_[state][*beg++]; if (state == DFA::REJECT) break; } return IsAccept(state); O(n) } x86/x64最適化勉強会1 「正規表現とJITとベンチマーク」Saturday, March 31, 12
  • 今回提案のSIMD実装 ・文字列は結合的二項演算列 (モノイド上の) → SIMDで並列reductionができれば! → SIMD実装だと O(n log W/W ) ぐらい期待できる? (Wはワードサイズ)Saturday, March 31, 12
  • 今回提案のSIMD実装 ・文字列は結合的二項演算列 (モノイド上の) → SIMDで並列reductionができれば! → SIMD実装だと O(n log W/W ) ぐらい期待できる? (Wはワードサイズ) *注意 NFAのビットパラレル   実装とはベツモノSaturday, March 31, 12
  • SIMD並列reduction ・加算等基本的な水平方向演算は現AVXにもSaturday, March 31, 12
  • SIMD並列reduction ・加算等基本的な水平方向演算は現AVXにも ・今回やりたい演算と要素は正規表現に依存Saturday, March 31, 12
  • SIMD並列reduction ・加算等基本的な水平方向演算は現AVXにも ・今回やりたい演算と要素は正規表現に依存 ・任意の二項演算なんてできるわけないSaturday, March 31, 12
  • SIMD並列reduction ・加算等基本的な水平方向演算は現AVXにも ・今回やりたい演算と要素は正規表現に依存 ・任意の二項演算なんてできるわけない そう、AVX2が出るまではねっ!!Saturday, March 31, 12
  • AVX2追加命令群 [3][4]Saturday, March 31, 12
  • AVX2追加命令群 [3][4] ・2013年のHaswellから入る(予定) ・整数256bit命令群の追加!! ・並列表引き命令gatherの追加!! ・Any-to-Any置換命令permの追加!! (AVXのshuffleは128bit-laneに閉じてた)Saturday, March 31, 12
  • gather: 並列表引き[4] ・引数3つ  → DST,SRC1(index&table),SRC2(condition) ・浮動小数点は vgather, 整数はvpgather  → インデックス/値はDword, Qwordを指定  → 2つの元をpack(2byte)して表引き  → 任意の二項演算が可(表はもちろん作る)Saturday, March 31, 12
  • gather: 並列表引き[4] ・引数3つ  → DST,SRC1(index&table),SRC2(condition) ・浮動小数点は vgather, 整数はvpgather  → インデックス/値はDword, Qwordを指定  → 2つの元をpack(2byte)して表引き  → 任意の二項演算が可(表はもちろん作る)Saturday, March 31, 12
  • gather: 並列表引き[4] VPGATHERDD (VEX.256 version) FOR j ← 0 to7 i ・引数3つ ← j * 32; IF MASK[31+i] THEN  → DST,SRC1(index&table),SRC2(condition) MASK[i+31:i] ← 0xFFFFFFFF; // extend from most significant bit ELSE MASK[i +31:i] ← 0; ・浮動小数点は vgather, 整数はvpgather FI; ENDFOR FOR j → 7 ← 0 to インデックス/値はDword, Qwordを指定 i ← j * 32; DATA_ADDR ← BASE_ADDR + (SignExtend(VINDEX1[i+31:i])*SCALE + DISP;  → 2つの元をpack(2byte)して表引き IF MASK[31+i] THEN DEST[i +31:i] ← FETCH_32BITS(DATA_ADDR); // a fault exits the loop  → 任意の二項演算が可(表はもちろん作る) FI; MASK[i +31:i] ← 0; ENDFOR (non-masked elements of the mask register have the content of respective element cleared)Saturday, March 31, 12
  • perm: Any-to-Any置換 [4]Saturday, March 31, 12
  • perm: Any-to-Any置換 [4]Saturday, March 31, 12
  • perm: Any-to-Any置換 [4] VPERMQ (VEX.256 encoded version) DEST[63:0] ← (SRC[255:0] >> (IMM8[1:0] * 64))[63:0]; DEST[127:64] ← (SRC[255:0] >> (IMM8[3:2] * 64))[63:0]; DEST[191:128] ← (SRC[255:0] >> (IMM8[5:4] * 64))[63:0]; DEST[255:192] ← (SRC[255:0] >> (IMM8[7:6] * 64))[63:0];Saturday, March 31, 12
  • 実装方針 ・reductionは並列表引き命令vpgatherdd  → モノイドの元は256個以下に限定(1byte)  → 2つの元をpack(2byte)して表引き  → 任意の二項演算が可(表はもちろん作る) ・要素を並べ替えて1つになるまで繰り返す  → vpshufとvpermSaturday, March 31, 12
  • c0 ⇠ c メモリ上に    F それぞれ1byte16個の元 cF cE cD cC cB cA c9 c8 c7 c6 c5 c4 c3 c2 c1 c0Saturday, March 31, 12
  • c0 ⇠ c メモリ上に    F それぞれ1byte16個の元 cF cE cD cC cB cA c9 c8 c7 c6 c5 c4 c3 c2 c1 c0 *注意 簡略化のため、各要素 ci (i = 1, . . . , F )はそれぞれ 1byteに収まるとし、演算列 は16個に固定Saturday, March 31, 12
  • c0 ⇠ c メモリ上に    F それぞれ1byte16個の元 cF cE cD cC cB cA c9 c8 c7 c6 c5 c4 c3 c2 c1 c0 (256bit)YMMレジスタに2つずつpack (上位2byteは0) 00cF cE 00cD cC 00cB cA 00c9 c8 00c7 c6 00c5 c4 00c3 c2 00c1 c0Saturday, March 31, 12
  • c0 ⇠ c メモリ上に    F それぞれ1byte16個の元 cF cE cD cC cB cA c9 c8 c7 c6 c5 c4 c3 c2 c1 c0 (256bit)YMMレジスタに2つずつpack (上位2byteは0) 00cF cE 00cD cC 00cB cA 00c9 c8 00c7 c6 00c5 c4 00c3 c2 00c1 c0 並列表引によって二項演算 (結果上位3byteにゴミが) 00cF cE 00cD cC 00cB cA 00c9 c8 00c7 c6 00c5 c4 00c3 c2 00c1 c0 ???c0 7 ???c0 6 ???c0 5 ???c0 4 ???c0 3 ???c0 2 ???c0 1 ???c0 0Saturday, March 31, 12
  • c0 ⇠ c メモリ上に    F それぞれ1byte16個の元 cF cE cD cC cB cA c9 c8 c7 c6 c5 c4 c3 c2 c1 c0 (256bit)YMMレジスタに2つずつpack (上位2byteは0) 00cF cE 00cD cC 00cB cA 00c9 c8 00c7 c6 00c5 c4 00c3 c2 00c1 c0 並列表引によって二項演算 (結果上位3byteにゴミが) 00cF cE 00cD cC 00cB cA 00c9 c8 00c7 c6 00c5 c4 00c3 c2 00c1 c0 ???c0 7 ???c0 6 ???c0 5 ???c0 4 ???c0 3 ???c0 2 ???c0 1 ???c0 0 0000 00c0 c0 7 6 0000 00c0 c0 5 4 0000 00c0 c0 3 2 0000 00c0 c0 1 0 shuffle&permで結果を2つずつpackしなおす(他は0に)Saturday, March 31, 12
  • c0 ⇠ c メモリ上に    F それぞれ1byte16個の元 cF cE cD cC cB cA c9 c8 c7 c6 c5 c4 c3 c2 c1 c0 (256bit)YMMレジスタに2つずつpack (上位2byteは0) 00cF cE 00cD cC 00cB cA 00c9 c8 00c7 c6 00c5 c4 00c3 c2 00c1 c0 並列表引によって二項演算 (結果上位3byteにゴミが) 00cF cE 00cD cC 00cB cA 00c9 c8 00c7 c6 00c5 c4 00c3 c2 00c1 c0 ???c0 7 ???c0 6 ???c0 5 ???c0 4 ???c0 3 ???c0 2 ???c0 1 ???c0 0 0000 00c0 c0 7 6 0000 00c0 c0 5 4 0000 00c0 c0 3 2 0000 00c0 c0 1 0 shuffle&permで結果を2つずつpackしなおす(他は0に) 結果が1つの元になるまで繰り返す!!Saturday, March 31, 12
  • デモプログラム ・YASMでAVX2プログラミング  → YASM 1.2.0 からAVX2対応  → 実は初アセンブラプログラミング(というかSIMDも) ・IntelのEmulatorで動作確認できた! (動いた) ・コードは一式githubに挙げてます  → https://github.com/sinya8282/AVX2REGEXSaturday, March 31, 12
  • コード片(YASM) vpmovzxwd ymm0, [rdi] vmovdqa ymm1, [shuffle1] 置換条件データ vmovdqa ymm2, [shuffle2] vpcmpeqd ymm3, ymm3, ymm3 (32byte aligned) vmovapd ymm4, ymm3 vpgatherdd ymm0, [rdx+ymm0], ymm4 vpshufb ymm0, ymm0, ymm1 vmovapd ymm4, ymm3 最後は二つの元を vpgatherdd ymm0, [rdx+ymm0], ymm4 vpshufb ymm0, ymm0, ymm1 laneをまたいで置 vmovapd ymm4, ymm3 vpgatherdd ymm0, [rdx+ymm0], ymm4 vpermq ymm0, ymm0, 0x08 換する必要がある vpshufb ymm0, ymm0, ymm2 vmovapd ymm4, ymm3 vpgatherdd ymm0, [rdx+ymm0], ymm4 のでperm+shuffle movq rax, xmm0Saturday, March 31, 12
  • 速いんでしょうか? ・知りません :-p gatherの速度次第!!  → Emulatorじゃ速度指標が得られなげ?  → 16回の表引きが4回のvpgatherddに  → 今後もSIMDデータ幅は大きくなるんでしょうか? ・その他の命令(YMM shuffle/perm/mov)は  高速([6])なのであまり問題にならない? ・Haswell出るまで待ちましょうSaturday, March 31, 12
  • 不満な点 ・gatherで条件レジスタが0クリアされる ・byte単位256bit Any-to-Any置換命令がない  → permとshufbを組み合わせ... ・デモプログラムは制約条件有りまくり  → 制約無くせる!! もっと最適化もできる  → (実機出ないとやる気が...)Saturday, March 31, 12
  • おまけSaturday, March 31, 12
  • 並列表引きのきっかけSaturday, March 31, 12
  • NEONにも並列表引きSaturday, March 31, 12
  • 参考文献Saturday, March 31, 12
  • 正規全般 [1]Elements of  AutomataTheory 神本。 (正規な理論はこの本読めばok) [2]Syntactic Semigroups (in Handbook of Formal Languages volume 1)Saturday, March 31, 12
  • SIMD周り Haswell New Instruction Descriptions [3]  Now Available! - Intel Software Blogs [4] Intel® Advanced Vector Extensions    Programming Reference - PDF [5] Intel® 64 and IA-32 Architectures    Optimization Reference Manual - PDF Tables (Lists of Instruction [6] Instruction  latencies, throughputs) - PDFSaturday, March 31, 12