Recommended
Recommended
More Related Content
Similar to プライバシ保護クラウドソーシング
Similar to プライバシ保護クラウドソーシング (15)
More from Hiroshi Kajino
More from Hiroshi Kajino (8)
プライバシ保護クラウドソーシング
- 1. プライバシ保護 クラウドソーシング 梶野 洸1, 馬場 雪乃2, 鹿島 久嗣3 1: 東京大学, 日本学術振興会特別研究員 DC2 2: 国立情報学研究所, JST ERATO 河原林巨大グラフプロジェクト 3: 京都大学 14.05.12 1人工知能学会全国大会
- 2. 発表概要 ■ クラウドソーシングにおけるプライバシ問題 □ プライバシ問題の指摘: 仕事依頼時に渡すデータから秘密情報が漏洩 □ 提案手法: 渡すデータを制限し、プライバシを保護 □ 評価手法: 成果物品質＆プライバシ漏洩量の定義 □ 実験: 写真中の頭部を検出するタスクで提案手法の性能を評価 14.05.12 人工知能学会全国大会 2 クラウドソーシングにおけるプライバシ問題を紹介します
- 3. 発表概要 ■ クラウドソーシングにおけるプライバシ問題 □ プライバシ問題の指摘: 仕事依頼時に渡すデータから秘密情報が漏洩 □ 提案手法: 渡すデータを制限し、プライバシを保護 □ 評価手法: 成果物品質＆プライバシ漏洩量の定義 □ 実験: 写真中の頭部を検出するタスクで提案手法の性能を評価 14.05.12 人工知能学会全国大会 3 クラウドソーシングにおけるプライバシ問題を紹介します
- 4. プライバシ問題例 ■ クラウドソーシングにおけるプライバシ問題 □ 画像中の顔を隠すタスク 14.05.12 人工知能学会全国大会 4 仕事依頼時に渡すデータから秘密情報が漏洩する インスタンス 成果物ワーカー指示書 指示書通りに インスタンスを処理
- 5. プライバシ問題例 ■ クラウドソーシングにおけるプライバシ問題 □ 画像中の顔を隠すタスク 14.05.12 人工知能学会全国大会 5 仕事依頼時に渡すデータから秘密情報が漏洩する インスタンス 成果物 悪い ワーカー指示書
- 6. プライバシ問題例 ■ クラウドソーシングにおけるプライバシ問題 □ 画像中の顔を隠すタスク 14.05.12 人工知能学会全国大会 6 仕事依頼時に渡すデータから秘密情報が漏洩する インスタンス 成果物 悪い ワーカー指示書 仕事はやるがインスタンスから 秘密情報を抽出しようとする
- 7. プライバシ問題例 ■ クラウドソーシングにおけるプライバシ問題 □ 画像中の顔を隠すタスク 14.05.12 人工知能学会全国大会 7 仕事依頼時に渡すデータから秘密情報が漏洩する インスタンス 成果物 悪い ワーカー指示書 Aさんの 秘密情報 Aさん いつ・どこで・なにをしているか等
- 8. 発表概要 ■ クラウドソーシングにおけるプライバシ問題 □ プライバシ問題の指摘: 仕事依頼時に渡すデータから秘密情報が漏洩 □ 提案手法: 渡すデータを制限し、プライバシを保護 □ 評価手法: 成果物品質＆プライバシ漏洩量の定義 □ 実験: 写真中の頭部を検出するタスクで提案手法の性能を評価 14.05.12 人工知能学会全国大会 8 クラウドソーシングにおけるプライバシ問題を紹介します
- 9. 提案手法: 切抜型プロトコル ■ 切抜型プロトコル □ C × C pixels の切抜窓を C/2 pixels 重複させて移動・切抜 □ 小インスタンスを用いて仕事を依頼 14.05.12 人工知能学会全国大会 9 切抜窓を重複させつつ小インスタンスを生成する C C/2 切抜窓 小 イ ン ス タ ン ス
- 10. 提案手法: アイデア ■ 画像中の顔を隠すタスクの観察 □ タスク: インスタンスを局所的に見れば実行可能 □ プライバシ: インスタンスを大域的に見る必要あり 渡すインスタンスを制限すればよさそう • 手書き文書の書き起こし • 会議の録音からの会議録作成 14.05.12 人工知能学会全国大会 10 タスクとプライバシ侵害過程の性質の違いに注目する なども同様の性質を持つ 成果物品質△ プライバシ⃝ 成果物品質⃝ プライバシ
- 11. 提案手法: インターフェース ■ クラウドソーシングで用いたインターフェース □ 小インスタンスをまとめた画像で仕事を依頼 □ 25 × 25 pixels 単位で顔か否か選択 14.05.12 人工知能学会全国大会 11 複数インスタンスをまとめることでコスト削減 C = 100 pixels
- 12. 発表概要 ■ クラウドソーシングにおけるプライバシ問題 □ プライバシ問題の指摘: 仕事依頼時に渡すデータから秘密情報が漏洩 □ 提案手法: 渡すデータを制限し、プライバシを保護 □ 評価手法: 成果物品質＆プライバシ漏洩量の定義 □ 実験: 写真中の頭部を検出するタスクで提案手法の性能を評価 14.05.12 人工知能学会全国大会 12 クラウドソーシングにおけるプライバシ問題を紹介します
- 13. 評価: 動機 ■ プライバシ保護手法の評価手法 □ プライバシ保護手法の比較/パラメタ決定に必要 □ 二つの観点からの評価 成果物品質とプライバシはトレードオフ 1) タスク・プライバシ侵害過程のモデル化 2) モデルを用いて成果物品質・プライバシを定量化 14.05.12 人工知能学会全国大会 13 成果物品質とプライバシを評価する必要がある 成果物品質△ プライバシ⃝ 成果物品質⃝ プライバシ
- 14. 評価: 提案指標 14.05.12 人工知能学会全国大会 14 タスク実行過程 プライバシ侵害過程 モ デ ル ワーカーは p(R | In) から成果物 Rn をサンプリング R: 成果物 or 秘密情報 I: インスタンス p(R | I): 指示書 評 価 指 標 EI[ KL(p(R | I) || p’(R | I)) ] ■ 正解 との差を評価 ■ 小さい = 良い （R と I の相互情報量） = EI[ KL(p’(R | I) || p’(R)) ] ■ I からの情報漏洩量を評価 （いかなる情報も漏らしたくない） ■ 小さい = 良い 保護前 保護後 ワーカーのモデルを元に、評価指標を提案
- 15. 発表概要 ■ クラウドソーシングにおけるプライバシ問題 □ プライバシ問題の指摘: 仕事依頼時に渡すデータから秘密情報が漏洩 □ 提案手法: 渡すデータを制限し、プライバシを保護 □ 評価手法: 成果物品質＆プライバシ漏洩量の定義 □ 実験: 写真中の頭部を検出するタスクで提案手法の性能を評価 14.05.12 人工知能学会全国大会 15 クラウドソーシングにおけるプライバシ問題を紹介します
- 16. 実験: 設定 ■ Stanford 40 Actions Dataset [Yao+, 11] □ タスク: 画像中の顔を隠す作業を依頼 □ プライバシ: 小インスタンスからの行動の推定を依頼 • 10 択から選択: 料理、魚釣り、ランニング、フリスビー、テレビ鑑賞、 馬に餌やり、ギター演奏、携帯でメール、パソコン、 ノート書き □ 500 × 500 pixels に収まるように拡大・縮小 14.05.12 人工知能学会全国大会 16 切抜窓の大きさと性能の関係から提案手法の性質を明らかにする
- 17. 実験: 実験結果 ■ 成果物品質・プライバシの違い □ 成果物品質: C = 100 では C = 300 の1.1倍程度の損失 □ プライバシ: C = 300 では C = 100 の1.9倍程度漏洩 成果物品質をあまり落とさずプライバシ保護可能 14.05.12 人工知能学会全国大会 17 成果物品質とプライバシのトレードオフが捉えられた 50 100 150 200 250 300 C: clipping window size [pixels] 0.14 0.16 0.18 0.20 0.22 0.24 0.26 Taskinformationloss[bits] 1.0 1.5 2.0 2.5 3.0 Privacyinformationloss[bits] プライバシ 漏洩量 成果物品質 高 性 能 切抜窓の大きさ C
- 18. まとめ ■ クラウドソーシングにおけるプライバシ問題 □ プライバシ問題の指摘: 仕事依頼時に渡すデータから秘密情報が漏洩 □ 提案手法: 切抜型プロトコル 渡すデータを制限し、プライバシを保護 □ 評価手法: 成果物品質＆プライバシ漏洩量の定義 □ 実験: • 頭部検出タスクで提案手法の性能を評価 • プライバシ保護タスク実行可能であることを示した 14.05.12 人工知能学会全国大会 18 クラウドソーシングでのプライバシ問題を解決する手法を提案した
- 19. 文献 [Yao+, 11] Yao, B., Jiang, X., Khosla, A., Lin, A. L., Guibas, L., & Fei-Fei, L. (2011). Human action recognition by learning bases of action attributes and parts. In Proceedings of 2011 IEEE International Conference on Computer Vision (ICCV) (pp. 1331‒1338). 14.05.12 人工知能学会全国大会 19