WWW2017読み会 Recommender Systemsセッションのスライドです。

1. WWW2017
Recommender Systems ふりかえり
Yuji Yamamoto

2. Recommender Systems
• 推薦システムについて扱うセッション。
• 2セッション構成。
• 論文数は 4本/セッション × 2セッション = 8本。
• Recommender System 1が従来研究の改良、
Recommender System 2が新しい問題設定への取り組み
が多い印象。

3. 気になった論文

4. Collaborative Metric Learning

5. 概要
• ユーザと商品を同じ次元の空間に写像する。
• ユーザと商品が同じ次元の点として扱える。
• あるユーザとある商品の距離を学習するという
(距離)計量学習を提案する。

6. ユーザと商品の距離を学習ってどうするの?
Given
uとvを最適化したい
positive pairs
ランク学習に似ている

7. Matrix Factorizationと何が違うの? (1/2)
• 以下のような購買履歴があったとする。
ユーザ / 商品 v1
v2
U1
✔
U2
✔
v1
とv2
は全然違う性質のものかー
Matrix Factorizationの解
v1
とv2
は直交している
(妥当そう)

8. Matrix Factorizationと何が違うの? (2/2)
• 両方商品を買ったユーザU3
が登場
ユーザ / 商品 v1
v2
U1
✔
U2
✔
U3
✔ ✔
案外v1
とv2
は似てる?
Matrix Factorizationの解
v1
とv2
は直交のまま (╹д╹;)
Collaborative Metric Learningの解
U3
を受けてv1
とv2
も移動する

9. 所感
• どういう場面で有用そうか?
• 商品購買履歴以外に、ユーザや商品に関しての情報(テキスト / 写真など)
が利用できる場合。
• 高 に商品検索をしたい場合。
• あるユーザに近しいTop-Kの商品はLSH (location-sensitive hashing) な
どを使うことで高 に得ることができる (4.4節参照)。
• 一方、Matrix Factorizationの高 化は内積が最大となる商品を検索し
ないといけない。
この探索に関する最適化がややこしい。
• 感想
• 目的関数の作り方については推薦以外の機械学習(e.g. domain
adaptationなど)でも使えそう。
• 目的関数にあるハイパーパラメータが多いのでチューニングが難しそう。

10. Fairness in
Package-to-Group Recommendation

11. この論文で議論していること
• Package-to-Group Recommendationとは?
• あるグループ(ユーザ群)に複数商品(パッケージ)を
推薦する。
• この論文で議論していること:
• どのようなパッケージ構成が望ましいのか?
• グループのメンバーが各商品にどのような評価値をつけ
ているかはわかっている。
• Fairness (公平性) を満たすようにする (後述)。
• またFairnessを満たすようにパッケージを作る問題の
計算複雑性は?
• NP困難。

12. Fairness
• 以下の2つの異なる観点を考察している。
• Proportionality
• 各ユーザについて、パッケージ中に含まれている好ん
でいる商品の数が、パッケージ外にある好んでいる商
品の数と比べて十分ある。
• envy-freeness
• 各ユーザについて、好んでいる商品の数が他のユーザ
の好んでいる商品の数と比較して十分ある。

13. 例題: 旅行のレクリエーション何がいい? (ただし2つまで)
• m-propotionalityの観点で求めてみる。
• 各ユーザについて、できるだけ、好んでいる商品が1個以上あるようにしたい (m=1)。
• 好んでいるかどうかの基準は、各ユーザ単位で見たときに評点が上位50%である商品
(Δ=50%)。
✔ ✔
✔ ✔
✔ ✔
✔ ✔
✔ ✔
maximize:
条件を満たすユーザ数
グループ内のユーザ数 (|G|=5)

14. 例題: 旅行のレクリエーション何がいい? (ただし2つまで)
= 1
… 最大被覆問題じゃないですかー
→ NP困難。
✔ ✔
✔ ✔
✔ ✔
✔ ✔
✔ ✔
上の選び方だと (最適解)

15. 論文での考察など
• Fairness (m-proportionality, m-envy-freeness) 最大化問題は
NP困難である(Lemma 4.1)。
• 商品をカテゴリー分けして、それぞれのカテゴリーから1つ以上商
品をとってパッケージを作る場合 (カテゴリー制約):
• それぞれのカテゴリーからちょうど1つ商品を取るという設定で
は貪欲法で近似比 0.5 (Lemma 4.3)。
• 商品の相性を制約(距離制約)に入れる場合についての貪欲法を
提案。

16. 所感
• アルゴリズム解析が得意な人にとってはPackage-to-Group
Recommendationは研究の対象にしやすいのかもしれない。
• Package-to-GroupのFairnessについては同時期に開催された
RecSys 2017でも別グループが発表しているようだ (驚)
• http://yongfeng.me/attach/recsys17-lin.pdf
• 今回紹介した論文とはちょっと違う観点の議論があるので併せて
読むとよいかも。

17. むすびにかえて

18. キーワード一覧
• Neural Collaborative Filtering
• Collaborative Filtering, Neural Networks, Deep Learning, Matrix Factorization, Implicit
Feedback
• Learning to Recommend Accurate and Diverse Items
• Diversity, Collaborative Filtering, Recommender systems, Structural SVM
• Collaborative Metric Learning
• (Paperにキーワード書かれてないが) Matrix Factorization, Metric Learning
• Beyond Globally Optimal: Focused Learning for Improved Recommendations
• recommendation, regularization
----------
• Fairness in Package-to-Group Recommendations
• Recommendation systems, Package-to-Group, Fairness, Proportionality, Envy-freeness
• Streaming Recommender Systems
• Streaming, recommender system, online learning, continuous time, data stream
• What Your Images Reveal: Exploiting Visual Contents for Point-of-Interest Recommendation
• POI recommendation, Visual contents, Location-based Social Network
• A General Model for Out-of-town Region Recommendation
• Location-based Social Network, region recommendation, out-of-town recommendation

19. Appendix

20. WWW2017 Recommender Systems を
ひとことでふりかえり

21. Recommender Systems 1
• Neural Collaborative Filtering
• 協調フィルタリングの内積部分をニューラル機構に置き換えた。ニューラルの層を
深くすると推薦のパフォーマンスが上がることを実験にて確認した。
• Learning to Recommend Accurate and Diverse Items
• 多様性のある推薦を教師あり学習で行う研究。行列分解と構 学習で一対となる
最適化問題として定義している。
• Collaborative Metric Learning
• ユーザと商品を同じ次元に写像することを考える。あるユーザと、ある商品の距離
を学習するという(距離)計量学習を提案した。
• Beyond Globally Optimal: Focused Learning for Improved Recommendations
• (訓練データセットで)大域的な予測を改善するようにモデルのパラメータを最適化
すると、ユーザ×商品で見た場合に(局所的には)最適になっていないことを実験
的、理論的に示した。特定のユーザ×商品の部分集合に関して推薦の質が改善さ
れるような学習方法LLORMAを提案した。

22. Recommender Systems 2
• Fairness in Package-to-Group Recommendations
• ユーザグループに対して複数の商品(パッケージ)を薦める方法について。Fairnessが
最大となるようにパッケージを推薦する問題のいくつかのバリエーションについてア
ルゴリズムを考察している。
• Streaming Recommender Systems
• ストリーミング(データに時間順序・連続性がある)での推薦システム。ユーザ/トピック
の生成、および、ユーザの関心の移り変わりを確率過程でモデル化している。
• What Your Images Reveal: Exploiting Visual Contents for Point-of-Interest
Recommendation
• POI(興味のあると思われる場所)の推薦。視覚的コンテンツ(visual content)を用いて
推薦性能を向上させるフレームワークを提案した。
• A General Model for Out-of-town Region Recommendation
• 旅行で新しい街や国に訪れたユーザに対しての区画(region)の推薦。旅行者の滞在
時間が限られているので、(バラバラの)地点を推薦するのではなく区画で推薦する。
ユーザの移動履歴に基づいてスコアリング。

23. Collaborative Metric Learning
予備スライド

24. 最適化問題について
商品の素性 (画像とか言語情報とか) も学習に組み入れられる。
① ② ③
① ② ③
商品とユーザの関係
商品情報を反映
(写像されたベクトルが商品の素性ベクトルに
近づくようにする)
ベクトルの要素に
関する正則化

25. 実験 (Recall@50, Recall@100)
商品情報なし
比較手法: Matrix Factorizationなど
商品情報あり
比較手法: Factorization Machineなど