Recommended
More Related Content
What's hot
What's hot (20)
Similar to Private Recommender Systems: How Can Users Build Their Own Fair Recommender Systems without Log Data?
Similar to Private Recommender Systems: How Can Users Build Their Own Fair Recommender Systems without Log Data? (20)
More from joisino
More from joisino (11)
Private Recommender Systems: How Can Users Build Their Own Fair Recommender Systems without Log Data?
- 1. 1 KYOTO UNIVERSITY KYOTO UNIVERSITY Private Recommender Systems: How Can Users Build Their Own Fair Recommender Systems without Log Data? 佐藤竜馬 論文: https://arxiv.org/abs/2105.12353 コード: https://github.com/joisino/private-recsys
- 4. 4 KYOTO UNIVERSITY 問題点: それぞれのユーザーが欲しいサービスは違う A さんの理想とするサービス B さんたちの理想とするサービス C さんの理想とするサービス D さんの理想とするサービス 距離がある 実現されているサービス
- 5. 5 KYOTO UNIVERSITY ユーザーサイドシステムは各ユーザーの理想を実現する 実現されているサービス A さんの理想とするサービス B さんたちの理想とするサービス C さんの理想とするサービス D さんの理想とするサービス ここの距離を ユーザーサイドで埋める → 提案概念: ユーザーサイドシステム
- 6. 6 KYOTO UNIVERSITY 推薦システムに不満を持ったことはないですか IMDb 「トイ・ストーリー」への推薦。 推薦されるまでもなく知ってる情報。 アメリカ映画・ディズニー映画ばかりだけど、 トイ・ストーリーに似た邦画も知りたい。 たった数件しか推薦がない。 もっと長い推薦リストが欲しい。 https://www.imdb.com/title/tt0114709/ https://twitter.com/Suzu_Mg https://twitter.com/sudaofficial Twitter 「広瀬すず」「菅田将暉」への推薦 女性ユーザーには女性アカウントが 男性ユーザーには男性アカウントが多い エコーチェンバーが起こりうる 採用・ヘッドハンティングに使うと特定の 性別や人種に偏りうる 平等な推薦リストが欲しい
- 7. 7 KYOTO UNIVERSITY 推薦システムに不満を持ったとき、どうする？ 解決策？ Twitter の推薦システムに不満 じゃあ、Twitter 使うのやめれば？ Twitter は使い続けたいんだよな じゃあ、運営にリクエスト送って実装されるの待てば？ 望み薄だしそんなに長い間待ちたくない
- 8. 8 KYOTO UNIVERSITY 推薦システムに不満を持ったとき、どうする？ 解決策 Twitter の推薦システムに不満 じゃあ、Twitter 使うのやめれば？ Twitter は使い続けたいんだよな じゃあ、運営にリクエスト送って実装されるの待てば？ 望み薄だしそんなに長い間待ちたくない そこで、ユーザーサイド推薦システムです
- 9. 9 KYOTO UNIVERSITY ユーザーサイドシステムはユーザーが実装するシステム ユーザーサイドの推薦システムは、ユーザーの側で 実現する推薦システムのこと サービス運営側のエンジニアが実装する通常のシステムと対照的 操作可能な推薦システムというのもあるが、これも根本的に異なる 操作可能な推薦システムも結局はサービス運営側が実装するので 実装されるまでユーザーは待つ必要がある。 操作可能な推薦システムでは、 興味のない推薦を除去できる 攻めの姿勢 受け身の姿勢 提案法
- 10. 10 KYOTO UNIVERSITY ユーザーサイドシステムは細かい要請に対応できる ユーザーサイドの推薦システムの利点 細かい要請に対応ができる 公平性の基準はユーザーによってさまざま。 検索結果の男女比を 50:50 にしてほしいユーザーもいれば、 Demographic parity が満たされほしいユーザーもいる。 男女ではなく、人種、あるいは有名度のバランスが取れてほしい人もいる。 運営側で全ての細かい基準に対処するのは不可能。 ユーザーサイドの検索システムでは、各人がシステムをつくるので、 独自の基準に合わせることができる。 透明性 推薦結果はしばしばブラックボックス。 自分が推薦システムを構築すれば、理由の解明もしやすい。
- 11. 11 KYOTO UNIVERSITY ユーザーサイドシステムは効率は悪い ユーザーサイドの推薦・検索システムの欠点 効率は悪い 運営側がオフィシャルに実装してくれるに越したことはない どうしても機能が欲しいときの手段 ユーザーにプログラミングの知識や労力が必要 多くのユーザーはプログラミングができない 対処策: - 趣味エンジニアが構築してアドオンとして配布し、同志ユーザーが利用する - 使いやすいライブラリの構築 - ノーコード - プログラミング教育
- 12. 12 KYOTO UNIVERSITY ユーザーサイドシステムではデータベースにアクセスできない 従来の検索システム Twitter 社のエンジニアがデータベースに 完全にアクセスできる状態で実装する ユーザーサイドの検索システム 外部のユーザーがデータベースに直接アクセスできない状態でやりくりして実装する 実装上はブラウザアドオンなどで実現することを想定 Twitter 社 データベース 社内エンジニア 検索システム SQL ANN Twitter 社 データベース ユーザー SQL 検索クエリ API
- 13. 13 KYOTO UNIVERSITY ユーザーサイドアルゴリズムの全体像 提供されている推薦・検索システムが望ましくない時にも、 ユーザー側が工夫することで望ましいシステムが利用できるようにする 個々人が求めるものは違うが、共通する「型」を抜き出して、 汎用的に使えるユーザーサイドアルゴリズムを設計するのが目標 推薦システム この部分はユーザー自身が実装 結果を「フェア化」する ユーザーサイドアルゴリズム （ラッパー） 利用 ユーザー データベース 運営側のエンジニアが実装 ユーザーは自由に利用できる だけど機能に不満あり
- 14. 14 KYOTO UNIVERSITY Private Recommender Systems: How Can Users Build Their Own Fair Recommender Systems without Log Data? 具体的な話に入っていきます
- 15. 15 KYOTO UNIVERSITY アイテム-アイテム推薦を考える 問題設定: アイテム to アイテムの推薦を考える 映画の推薦 @IMDb アイテム: 映画 トイ・ストーリーを見ている人は こちらも見ています ユーザーの推薦 @Twitter アイテム: ユーザー 広瀬すずをフォローしている人は こちらもフォローしています 商品の推薦 @Amazon アイテム: 商品 解析概論を買った人は こちらも買っています https://www.imdb.com/title/tt0114709/ https://twitter.com/Suzu_Mg https://www.amazon.co.jp/dp/4000052098
- 16. 16 KYOTO UNIVERSITY センシティブ属性が均等に推薦してほしいとする 各アイテムにはセンシティブ属性が定まっており観測できるとする 各属性が平等に登場してほしい（が公式はそうなっていない）とする どういうセンシティブ属性を指定するかは、まさに各ユーザーの裁量 センシティブ属性さえ観測でき、それについて平等にしたいとユーザーが 指定したらその通りに動くユーザーサイドアルゴリズムを作るのが目標 映画: センシティブ属性 = 国 ユーザー: センシティブ属性 = 性別 https://twitter.com/Suzu_Mg https://twitter.com/sudaofficial https://www.imdb.com/title/tt0114709/ https://www.imdb.com/title/tt0245429/ センシティブ属性 = 人気度 ∈ {高, 中, 低} （フォロワー数を基に分類）なども考えられる
- 18. 18 KYOTO UNIVERSITY 推薦グラフを使ってプライベート推薦システムを作る アイデア: 推薦グラフを使う 推薦グラフ: アイテムがノード・推薦関係にあるアイテムに辺 ページにアクセスして推薦欄を見ると一介のユーザーも観測できる 推薦グラフで近いアイテムは共起性が高いと考えられる Point 運営が推薦結果を生成 した元の共起データには アクセスできないが、 結果だけからも多くの 情報を引き出すことができる
- 19. 19 KYOTO UNIVERSITY 提案法は推薦グラフ上で類似度高い順に推薦 提案法1: PrivateRank 推薦を生成したいソースアイテムに対して 推薦グラフの他ノードの personalized PageRank (PPR, グラフノードの近接性の指標) を計算 アイテムを PPR の順にソートし、各センシティブ属性が均等に 含まれるように上から取っていく 提案法2: PrivateWalk 推薦を生成したいソースアイテムから推薦グラフ上で ランダムウォークを実行し、各センシティブ属性が均等に 含まれるように訪れた順にアイテムを追加していく パフォーマンス高 計算効率低 パフォーマンス低 計算効率高
- 20. 20 KYOTO UNIVERSITY 提案法の具体的な動作: 利用可能な情報で完結する たとえば、ユーザーがトイ・ストーリーのページにアクセスし、日米平等に 推薦して！と唱えて PrivateWalk を呼び出すと、裏で ランダムウォークが走り、トイ・ストーリーのページの付近に留まりつつ、 かつ日米同数になるように映画を引っ張ってきてユーザーに提示する → このプロセスはユーザーからアクセスできる情報内で完結する 公式の推薦は 米に偏っている
- 21. 21 KYOTO UNIVERSITY 実験により提案法の効果を確認 実験: Adult, MovieLens, Amazon, LastFM データセットなどで 定量的に効果を確認 IMDb と Twitter 上で実際に PrivateWalk を動かした ケーススタディ（下表） 実際の IMDb 推薦 PrivateWalk トイ・ストーリー3（米） トイ・ストーリー3（米） トイ・ストーリー2（米） リメンバーミー（米） ファインディングニモ（米） ミスターインクレディブル（米） モンスターズインク（米） 千と千尋の神隠し（日） カールじいさんの空飛ぶ家（米） 天空の城ラピュタ（日） ウォーリー（米） ハウルの動く城（日） 実際の Twitter 推薦 PrivateWalk ジム・キャリー（男） ジム・キャリー（男） ヒュー・ジャックマン（男） サラ・シルヴァーマン（女） サミュエル・ジャクソン（男） ヒュー・ジャックマン（男） ドゥウェイン・ジョンソン（男） サミュエル・ジャクソン（男） セス・マクファーレン（男） エマ・ワトソン（女） サラ・シルヴァーマン（女） アリッサ・ミラノ（女） IMDb 上でトイ・ストーリーに対する推薦 日米映画が同数になるよう変換 Twitter 上でトム・ハンクスに対する推薦 男女が同数になるよう変換
- 23. 23 KYOTO UNIVERSITY まとめ ユーザーサイドの推薦システムというものを提案した 提供されている推薦システムが望ましくない時にも、 ユーザー側が工夫することで望ましいシステムが利用できるようになる 推薦システム この部分はユーザー自身が実装 結果を「フェア化」する ユーザーサイドアルゴリズム （ラッパー） 利用 ユーザー データベース 運営側のエンジニアが実装 ユーザーは自由に利用できる だけど機能に不満あり 論文: https://arxiv.org/abs/2105.12353 コード: https://github.com/joisino/private-recsys
- 24. 24 KYOTO UNIVERSITY その後 Towards Principled User-side Recommender Systems (CIKM 2022) いちユーザーが観測できる情報量はサービス側よりも少ない 実際どれほどの情報量が利用できる？ 推薦システムを作るのに十分？その情報でどこまで実現可能？ ということを理論的な側面から明らかにした Retrieving Black-box Optimal Images from External Databases (WSDM 2022) CLEAR: A Fully User-side Image Search System (CIKM 2022) ユーザーサイドの（推薦システムではなく）検索システムを考えた https://arxiv.org/abs/2208.09864 https://arxiv.org/abs/2112.14921 https://arxiv.org/abs/2206.08521