Differential Privacy Under Fireで紹介されていた攻撃手法の解説 (timing attackとprivacy budget attack

1. Differential Privacy Under
Fireの攻撃手法を解説
Haeberlen et al.
Usenix Security 2011
間違いあったらすみません

2. 対象：差分プライバシを
利用した2つのシステム
• PINQ [McSherry, SIGMOD09]
• SQL言語(C#のLINQ) + 差分プライバシ
• Airavat[Roy et al, NSDI10]
• Map Reduce + 差分プライバシ
• それぞれ、プロトタイプが公開されている

3. モデル
• SQL likeな言語(PINQ) or Map関数+Reduce関数
(Airavat)を通してデータにアクセスする
• microquery : DBのレコード単位の計算
• macroquery : 集約した結果 (ノイズが加わる)
noisy sum, foreach r in db, of{
if(r.score( hoge )>0)
then return 1
else return 0 }
microquerymacroquery

4. Privacy Budget
• クエリ回数を制限する仕組み
• クエリを繰り返すと, 徐々にプライバシが漏れる.
• クエリ回数i - 差分プライバシ
X
i
✏i
クエリの度に
budgetが減る

5. 攻撃手法を2つ紹介
• Timing attacks
• Privacy budget attack
• State attacks は今回扱いません

6. Timing attacks
• 結果の応答時間を測ることで秘密情報を奪取
• rがAlice&&cancerなら1秒停止し, 0を返す.
• クエリの結果 = rの戻り値の総和 + ノイズ
• 1秒停止したら, Aliceがcancerであることがわかる!!!
noisy sum, foreach r in db, of{
if(r.has( cancer )&&r.name( Alice ))
then{pause for 1 second};
return 0 }

7. Privacy budget attack
• privacy budgetがどれくらい減ったかを知ること
によって, 秘密の情報を奪取
• rがAlice&&cancerならbudgetを大量消費
• budgetを確かめることで, 秘密の情報を奪取
noisy sum, foreach r in db, of{
if(r.has( cancer )&&r.name( Alice ))
then{run sub-query that uses
a lot of privacy budget }
return 0 }