SlideShare a Scribd company logo
1 of 20
Download to read offline
データ活用社会における
プライバシーと中立性
川口 将司 / Cho Jang Sa
as Enigma Collective
この資料のChallenge
1. 秘匿性と中立性を両立する計算基盤の必要性を説く
2. Enigmaネットワークを構成する技術要素を直感的に理
解できる簡潔さを目指す
3. Enigmaが未来社会にもたらす価値を明らかにする
もくじ
◦ プライバシーと中立性の問題
◦ 秘匿計算基盤”Enigma”の提案
◦ Enigmaの未来と課題
もくじ
◦ プライバシーと中立性の問題
◦ 秘匿計算基盤”Enigma”の提案
◦ Enigmaの未来と課題
<プライバシーの問題>
ひとびとは自らが提供するデータに対するコントロールを失っている
適法・公正・透明なデータ
処理を受けられている
か?
データは取り決めた目的
に限定して使われている
か?
収集されているデータの
範囲は必要最小限に抑
えられているか?
最新かつ正確なデータが
適切に扱われているか?
必要な期間を超えてデー
タが保管されていない
か?
データは完全性・秘匿性
を損なわない環境下に保
護されているか?
GDPRデータ保護7原則の1〜6より
◦ 受け渡し対象のコントロールを持ち主が取り戻すには……
<プライバシーの問題の本質>
モノと異なり、データの受け渡しは不可逆な行為である
流出された
可能性も
削除済みの
証明は困難
渡したら
返してもらえばいい
渡したら
モ
ノ
の
場
合
デ
|
タ
の
場
合
システムの裏側でのデータの扱
われ方は証明困難である
◦ 商業的・政治的利害のために、不都合なデータは取り除かれた上で、その
サービスは提供されているかもしれない
◦ 以下に挙げるような情報を操作することで利害が生まれる
▫ 製品の評価、レコメンド
▫ 歴史・経緯・定義の説明
▫ 価格情報・シグナル
▫ ほか
◦ ひとびとがAIに依存することで、
この影響は今後さらに強まっていく
<中立性の問題>
ひとびとはサービスの由来成分・制作工程を知らない
結果的にバイアスに晒される
個人であれ、組織であれ、
あらゆる情報を好き嫌いせず、
公正公平に取り扱うことは難しい
もくじ
◦ プライバシーと中立性の問題
◦ 秘匿計算基盤”Enigma”の提案
◦ Enigmaの未来と課題
★sMPCモードなEnigmaの環境
<Enigmaの本質的な価値>
Enigmaとは、データの被処理を許しながらも、データ提供者がそのコントロール
を失うことはない計算基盤である
Enigmaネットワーク
生データ
分割した生データを均等に
重複する形で複数ノードに
分けて保管(秘密分散法)
秘密鍵無しに生データの復
元は不可能である
許可されたコントラクトだけが
データを計算に利用できる
許可 許可
シークレットコントラクト
→ 処理内容の透明化
オフチェーンに分割されたデータを保管し、
オンチェーンに暗号化が施されたデータへのポ
インタとアクセス権(利用権)を刻む
★平文を公開せずに加法/乗法準同型な計算が可能 = 機能的完全性を満たす
<Enigmaの特徴>
Enigma上での計算過程において生データが復元されることは一度もない
秘密分散法と制限付き準同型暗号を応用した計算法で秘匿性は守られる
sMPCモードのEnigmaネットワークによる計算
(例)合計値の計算コントラクトの執行
計算結果(平文)を
reconstruct
Trusted Execution Environment(TEE)は、CPUベンダーを信頼する前提と引
き換えに、sMPCに比べて優れた計算速度を手に入れることができる
<補足資料:Enigmaのもうひとつの秘匿計算アプローチ>
Enigmaはハードウェアに依拠する秘匿計算モードも持つ(TEE)
分権性/秘匿性とパフォーマンスのトレードオフといえる
Intel製CPUの証明
DH鍵交換
耐タンパ性を備える
SGXモジュール
Trusted Execution Environment(TEE)は、CPUベンダーを信頼する前提と引
き換えに、sMPCに比べて優れた計算速度を手に入れることができる
<補足資料:Enigmaのもうひとつの秘匿計算アプローチ>
Enigmaはハードウェアに依拠する秘匿計算モードも持つ(TEE)
分権性/秘匿性とパフォーマンスのトレードオフといえる
SGXモジュール以外から読み取ることが
できない暗号化されたメモリ領域
(Enclave)にデータを書き込む
DH鍵交換で共有した
共通鍵で暗号化
<補足資料:Enigmaのもうひとつの秘匿計算アプローチ>
Enigmaはハードウェアに依拠する秘匿計算モードも持つ(TEE)
分権性/秘匿性とパフォーマンスのトレードオフといえる
Intel製CPUの証明
(DH鍵交換)
他者のデータが保管さ
れたEnclave
を引数としたシークレットコントラクトを執行する時と★
<補足資料:Enigmaのもうひとつの秘匿計算アプローチ>
Enigmaはハードウェアに依拠する秘匿計算モードも持つ(TEE)
分権性/秘匿性とパフォーマンスのトレードオフといえる
復号
復号
DH鍵交換で共有した
共通鍵で再暗号化
再々暗号化された
Enclave
を引数としたシークレットコントラクトを執行する時と★
を引数としたシークレットコントラクトを執行する時
<補足資料:Enigmaのもうひとつの秘匿計算アプローチ>
Enigmaはハードウェアに依拠する秘匿計算モードも持つ(TEE)
分権性/秘匿性とパフォーマンスのトレードオフといえる
計算結果を得る
復号&計算
と★
もくじ
◦ プライバシーと中立性の問題
◦ 秘匿計算基盤”Enigma”の提案
◦ Enigmaの未来と課題
<Enigmaで実現できる仕組み>
Enigmaによる【 1 to 10 】と【 0 to 1 】
既存の仕組みを改善する【 1 to 10 】 まったく新しい価値を提供する【 0 to 1 】
既存のしくみを置き換え、プライバシーと中立性
の問題を解決する手段を提供する
Enigmaの到来以前は実現が困難だったしくみを
提供する
投票、オークション
クレジットスコア、ID
ヘッジファンド、
価格情報、シグナル
………
情報銀行基盤
※従来のパーソナルデータ取引所やデーターブローカーのための
基盤と、インセンティブを提供する基盤を併せた環境
次スライド参照
単価や報酬の支払い条件はコントラクト毎に定義できる
例)データ利用毎、計算結果が利用されて売上が立つ毎、など
<Enigmaによるデータマーケットプレイス(情報銀行基盤)>
”秘匿性を保ったデータ提供”という行為がひとびとの新たな収入源となる
インセンティブにより多種多様なデータが提供されることが期待できる
デポジットを原資に
データ提供者へ報酬を
支払うコントラクト
Contribute
計算結果に再利用性があれ
ば、その利用権を売買する
市場も考えられる
例:指標、畳込み計算、転移学習
モデル、クラスタリング、etc
同属性データの
提供者たち
<Enigmaの課題>
Enigmaの本格活用に向けて、技術的・政治的な課題が存在する
その解決に向けたいくつかの研究開発の必要性を提言する
技術的課題 政治的課題
1. シークレットコントラクトを読める人は少数
派である
データ提供者のリテラシ格差を埋める手段の研
究(例:コントラクトの自然言語化)が必要
2. コントラクトの表現制約が必須である
秘匿されたデータを絞り込めてしまう表現を排除
する手段の研究が必要
3. sMPCの計算速度が遅い ※特に非定数の乗算
4. アプリケーション層の信頼性
1. 反社会勢力への対処法を喪失する恐れ
従来は省庁の求めに応じ、サービスの管理者
がデータ提供を可能としていたが、中央管理者
が不在な秘匿計算基盤では不可能である。
対策例として、データを暴露すべきかの判断を
ERC792的なアプローチで、全ノード間で投票し
合う仕組みが有効と個人的に考える。
2. デジタルマーケティング技 術の後退は許
容されづらい
プライバシーを犠牲にした現在のマーケティン
グ技術の利便性に、 Enigma上の仕組みが追い
つくには時間がかかる。
既得権団体からのロビー活動がある限り、法規
制などの追い風は期待しにくい。
翻訳
<まとめ>
ひとびとが自身のデータに対して望むコントロールと、分析対象への需要を両立
しながら、公正公平な計算基盤を提供できるのが”Enigma”
◦ 『他人が管理するサーバに自身の情報を送った。けれど、その管理人に自
身の情報を明け渡したつもりはないし、覗き見されたくもない』
◦ 『だれかに私のことを知って欲しい。けれど、私のことを知って欲しくない人
たちもいる』
◦ 『あの人のことには興味ないけれど、あの人のデータが稼いでくれるおカネ
には興味がある』
◦ このような複雑かつ困難な要求に応えられる仕組みが実現したとき、健全
なデータ活用社会の発展を目指すことができる
◦ また提供されるサービスの構築プロセスを正しく明かすことで、権力の局所
化を未然に防ぐことは、必然的になされるべき努力であると私は考える
Enigmaは
乙女心のように複雑で矛盾した
ひとびとの気持ちに応えてくれる
運命の出会い!!
Enigma meets privacy.
Enigma meets neutrality.

More Related Content

Featured

2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by HubspotMarius Sescu
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTExpeed Software
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsPixeldarts
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthThinkNow
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfmarketingartwork
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024Neil Kimberley
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)contently
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024Albert Qian
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsKurio // The Social Media Age(ncy)
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Search Engine Journal
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summarySpeakerHub
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next Tessa Mero
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentLily Ray
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best PracticesVit Horky
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project managementMindGenius
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...RachelPearson36
 

Featured (20)

2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPT
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage Engineerings
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
 
Skeleton Culture Code
Skeleton Culture CodeSkeleton Culture Code
Skeleton Culture Code
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
 
How to have difficult conversations
How to have difficult conversations How to have difficult conversations
How to have difficult conversations
 
Introduction to Data Science
Introduction to Data ScienceIntroduction to Data Science
Introduction to Data Science
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best Practices
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project management
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
 

データ活用社会におけるプライバシーと中立性 v0.1.1