Graph-Neural-Recommendation-for-Social-Recommendation
•
1 like•305 views
Reading material used in Toriumi Lab. "Graph Neural Recommendation for Social Recommendation" presented in WWW 2019.
![発表論文
[Title]
Graph Neural Networks for Social Recommendation
[Author]
Wenqi Fan, Yua Ma, Qing Li, Yuan He, Eric Zhao, Jiling Tang, and Dawei
Yin
[Publish]
The World Wide Web Conference. ACM, 2019.](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
More Related Content
Similar to Graph-Neural-Recommendation-for-Social-Recommendation
Similar to Graph-Neural-Recommendation-for-Social-Recommendation (17)
Recently uploaded
Recently uploaded (6)
Graph-Neural-Recommendation-for-Social-Recommendation
- 1. Graph Neural Networks for Social Network 東京大学大学院工学系研究科 鳥海研究室M2 菊田俊平 WWW 2019 鳥海研 輪読会2019
- 2. 発表論文 [Title] Graph Neural Networks for Social Recommendation [Author] Wenqi Fan, Yua Ma, Qing Li, Yuan He, Eric Zhao, Jiling Tang, and Dawei Yin [Publish] The World Wide Web Conference. ACM, 2019.
- 3. 背景
- 4. Social Recommendation [1] Paul Resnick and Hal R Varian. 1997. Recommender systems. Commun. ACM 40,3 (1997), 56–58. [社会理論] ユーザーは周辺の人々から情報を集め、影響を受ける [1] →周りの人との関係性が情報選択に大きな役割を担っている アイテムの推薦に social network(人の繋がり)の情報を用いる推薦 - 社会理論に基づいた推薦方法
- 5. Graph Neural Networks(GNNs) グラフにおける深層学習技術GNNsが大きく発展 - 周りのノードの構造情報とノードの属性情報を取り込み、ベクトル表現を学習 GCNsの概略 from [2] [2] T. N. Kipf and M. Welling, “Semi-supervised classification with graph convolutional networks,” in Proceedings of the 6th International Conference on Learning Representations, 2017. [3] Gilmer, Justin, et al. "Neural message passing for quantum chemistry." Proceedings of the 34th International Conference on Machine Learning-Volume 70. JMLR. org, 2017. MPNNs式 from [3] input Ho(属性行列), A(隣接行列) output Y(クラスラベル行列)
- 6. Social Recommendationにおけるグラフ Userグラフと、User-Itemグラフの二つのグラフが存在 User-Item グラフ User グラフ 二つのグラフを組み合わせ ユーザーiにアイテムjを推薦
- 7. Social RecommendationとGNNsの難しさ - 二つのグラフを組み合わせ、ベクトルを得る - 強い繋がりと弱い繋がりが存在 - 全てのユーザーの関係が同等ではない - User-Itemグラフには意見(評価)を含む - 人とアイテムの関係も同等ではない
- 9. 手法
- 10. Overview ユーザーの ベクトル表現を生成 アイテムの ベクトル表現を生成 ユーザー i のアイテム j へのレート ri j を予測
- 11. User Modeling 二つの視点 ★ Userグラフ: どんな人から影響を受けているか ★ User-itemグラフ どんなアイテムを嗜好するか ユーザーのベクトル表現を生成 Item Aggregationと、Social Aggregationに二分
- 12. Item Aggregation アイテムへの意見(評価)から、ユーザーのベクトルを生成 C(i): ユーザーuiが評価したことがあるアイテム Aggreitem: 周りのノードから情報をまとめ上げる関数 W, b: 重み、バイアス -> ユーザー i のアイテムから得たベクトルを生成 -> ユーザーiにとっての アイテムaの評価ベクトル qa: アイテムaのembedding(ランダムに初期化) er: 評価rのベクトル(密表現でランダムに初期化 ) gv: MLP(論文では二層) xia1 xial
- 13. Aggregation Function どのアイテムに重きを置くべきか？ 全部同じならMean 関数 Attention関数を利用 -> 特定のアイテムに 強烈な気持ちを反映
- 14. Social Aggregation ho: item-aggregationから得たユーザーベクトル N(i): ユーザーiに隣接するユーザー W, b: 重み、バイアス ->隣接した人から アイテムに対する好みが 伝播 I
- 16. B(j): アイテムjを評価したことがあるユーザー Aggreitem: 周りのノードから情報をまとめ上げる関数 W, b: 重み、バイアス -> アイテムjのベクトルを生成 Item Modeling pt: ユーザーのembedding(ランダムに初期化) er: 評価rのベクトル(密表現でランダムに初期化 ) gu: MLP(論文では二層) ->ユーザーtのアイテム j への評価ベクトル アイテムへの意見(評価)から、アイテムのベクトルを生成
- 19. 実験
- 21. MAE(Mean Absolute Error) -> 予測値r’ ijと実現値rijの差の絶対値の和 / N(データ数) RMSE(Root Mean Squared Error) -> 予測値r’ ijと実現値rijの差の二乗のルートの和 / N 評価指標
- 22. Baseline ❏ Social Infoを使わない手法 ❏ 協調フィルタリングベース PMF, NeuMF ❏ Social Recommendationの手法 ❏ Userの関係性を利用 ❏ SoRec, SoReg, SocialMF, DeepSor ❏ Graph Neural Network Basedな手法 ❏ GCMC + SR ❏ Userの関係を組み込むために、node2vecを利用
- 23. ・traing set: [60%, 80%] ・embedding size: [8, 16, 32, 64, 128, 256] ・batch size: [32, 64, 128, 256] ・learning rate: [0.0005, 0.001, 0.005, 0.01, 0.05, 0.1] のCross Validation ・NNのパラメータはmean 0, std 0.1の正規分布に従う Parameter Setting
- 24. 結果(1/4) Social Info使う手法(SoRec, SoReg, SocialMF, TrustMF) が、常に使わない手法(PMF)より良い →Social Infoが役に立っている
- 29. Social Netと意見の効果検証 GraphRecの強さの理解のため、 ・GraphRec-SN: Social Network情報を無視 ・GraphRec-Opinion: rateを無視して、0-1評価 二つの亜種と比較実験
- 30. Social Netと意見の効果検証結果 ・GraphRecとGraphRec-SNの評価 -> Social Networkの情報は大切 ・GraphRecとGraphRec-Opinion -> 意見を反映したベクトルはレート予測に役立つ
- 32. 結論と今後の課題
- 34. 今後の課題 - ユーザーやアイテムの属性情報を利用すること - 動的に予測できるようなモデルを作成したい - online learning的な