ABCPRec：何を創作したかという情報がコンテンツの消費時に反映されるユーザ生成コンテンツ推薦手法（WebDB Forum 2019...

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

佃洸摂（産業技術総合研究所）
Twitter: @ktsukuda
WebDB Forum 2019 (2019. 9. 9)
ABCPRec：何を創作したかという情報が
コンテンツの消費時に反映される
ユーザ生成コンテンツ推薦手法

ユーザ生成コンテンツ（UGC） 2
 プロのクリエータでない一般の人々が創作するコンテンツ
 主にWeb上で公開される
 User-Generated Content (UGC)

UGCの特徴：ユーザの役割 3
 eコマース
 映画配信サービス
ユーザ＝消費者ユーザ＝消費者＋創作者
UGCサービス非UGCサービス
消
創
消

UGCの特徴：コンテンツの創作ペース 4
創作の容易化創作者数の増加
一億総クリエータ
 非UGCに比べてコンテンツの創作ペースが速い
 膨大なUGCからユーザが望むコンテンツの発見を支援
するためにコンテンツの推薦は極めて重要
ソフトウ...

UGC時代における推薦 5
何を創作したかという情報が推薦精度の改善に活用できる
UGCサービス非UGCサービス
 何を消費したか
 何を消費したか
 何を創作したか
消
消
創

CPRec (consumer and producer based recommendation) 6
CPRec の論文：
Wang-Cheng Kang, Julian McAuley
Learning Consumer and Prod...

１CPRecの概要
UGC推薦におけるstate-of-the-art手法

一般的な行列分解ベースのコンテンツ推薦 8
𝑢𝑢
𝑖𝑖
? = �𝑥𝑥𝑢𝑢𝑢𝑢 = 𝛼𝛼 + 𝛽𝛽𝑢𝑢 + 𝛽𝛽𝑖𝑖 + 𝜸𝜸𝑢𝑢, 𝜸𝜸𝑖𝑖
𝜸𝜸𝑢𝑢 𝜸𝜸𝑖𝑖
 ユーザとコンテンツをそれぞれ𝐾𝐾次元ベクトルで表現
 ユーザ𝑢𝑢のコンテン...

ユーザのコアベクトル 9
全てのユーザはを持つ
𝜸𝜸𝑢𝑢
コアベクトル 𝑾𝑾𝑐𝑐
𝑾𝑾𝑝𝑝
𝜸𝜸𝑢𝑢
𝑐𝑐
𝜸𝜸𝑢𝑢
𝑝𝑝
 コアベクトル：一人のユーザとしての性質を表す
 消費者ベクトル・創作者ベクトルはコアベクトルから生成
 𝑾𝑾𝑐...

ユーザのコアベクトル 10
𝜸𝜸𝑢𝑢
𝑐𝑐
𝜸𝜸𝑢𝑢
𝑝𝑝
好きベクトル
好きベクトル
日頃の
消費コンテンツ
創作コンテンツ
に応じた
消費者ベクトル
創作者ベクトル
が作成される
消
創
𝜸𝜸𝑢𝑢
コアベクトル 𝑾𝑾𝑐𝑐
𝑾𝑾𝑝𝑝

CPRecにおけるスコア計算 11
? = �𝑥𝑥𝑢𝑢𝑢𝑢 = 𝛼𝛼 + 𝛽𝛽𝑢𝑢 + 𝛽𝛽𝑖𝑖 + 𝜸𝜸𝑢𝑢
𝑐𝑐 , 𝜸𝜸𝑖𝑖 + 𝜸𝜸𝑢𝑢
𝑐𝑐 , 𝜸𝜸𝑝𝑝𝑖𝑖
𝑝𝑝
𝜸𝜸𝑢𝑢
𝑐𝑐
𝜸𝜸𝑖𝑖𝜸𝜸𝑝𝑝𝑖𝑖
𝑝𝑝
①消費者とコンテンツの相...

２CPRecの問題点
モデルの柔軟性と妥当性の不十分な点

問題点１ 13
 消費・創作コンテンツを十分に反映したベクトル作成が困難
 モデルの柔軟性に欠けて推薦精度が下がる
𝜸𝜸𝑢𝑢
コアベクトル
𝑾𝑾𝑝𝑝 −1
𝜸𝜸𝑢𝑢
𝑐𝑐
𝜸𝜸𝑢𝑢
𝑝𝑝
60%好きベクトル
好きベクトル
𝑾𝑾𝑐𝑐
𝜸𝜸𝑢𝑢...

問題点２ 14
𝜸𝜸𝑢𝑢𝑢
𝑝𝑝
𝜸𝜸𝑢𝑢𝑢
𝑝𝑝
𝜸𝜸𝑢𝑢𝑢
𝑐𝑐
𝜸𝜸𝑢𝑢𝑢
𝑐𝑐
創作者ベクトル空間消費者ベクトル空間
𝜸𝜸𝑢𝑢
𝑐𝑐
= 𝑾𝑾𝑐𝑐
𝑾𝑾𝑝𝑝 −1
𝜸𝜸𝑢𝑢
𝑝𝑝
𝑾𝑾𝑐𝑐, 𝑾𝑾𝑝𝑝: 全ユーザ共通
似た創作者ベクト...

問題点２ 15
𝜸𝜸𝑢𝑢𝑢
𝑝𝑝
𝜸𝜸𝑢𝑢𝑢
𝑝𝑝
𝜸𝜸𝑢𝑢𝑢
𝑐𝑐
𝜸𝜸𝑢𝑢𝑢
𝑐𝑐
創作者ベクトル空間消費者ベクトル空間
似た創作者ベクトルを持つユーザ同士は似た消費者ベクトルを持つ
固定化した関係性を排除
好き
好き
好き
好き
 創...

問題点のまとめ 16
学習を通してベクトルが適切な値を持てず推薦精度が下がる
 𝜸𝜸𝑢𝑢
𝑐𝑐
と𝜸𝜸𝑢𝑢
𝑝𝑝
の固定的な関係
 モデルの柔軟性の欠如
 𝑾𝑾𝑐𝑐と𝑾𝑾𝑝𝑝は全ユーザ共通
 モデルの妥当性の欠如

３提案手法ABCPRec
Adaptively Bridging CPRec
Kosetsu Tsukuda, Satoru Fukayama, Masataka Goto
ABCPRec: Adaptively Bridging Consum...

コアベクトルの排除 18
𝝂𝝂𝑢𝑢
𝑐𝑐
𝝂𝝂𝑢𝑢
𝑝𝑝
コアベクトルを持たないことで
𝝂𝝂𝑢𝑢
𝑐𝑐
と𝝂𝝂𝑢𝑢
𝑝𝑝
の固定化した関係性を排除
モデルの柔軟性を向上
全てのユーザはを持つ
消費者としてのベクトル𝜸𝜸𝑢𝑢
𝑐𝑐
創作者として...

ABCPRecにおけるスコア計算 19
= �𝑥𝑥𝑢𝑢𝑢𝑢 = 𝛼𝛼 + 𝛽𝛽𝑢𝑢 + 𝛽𝛽𝑖𝑖 + 𝝂𝝂𝑢𝑢
𝑐𝑐 , 𝜸𝜸𝑖𝑖 + 𝝂𝝂𝑢𝑢
𝑐𝑐 , 𝝂𝝂𝑝𝑝𝑖𝑖
𝑝𝑝
①消費者とコンテンツの相性
②消費者と創作者の相性
＋ ユーザ𝑢𝑢...

制約を加える必要性 20
CPRec ABCPRec
低
モデルの複雑さ
（パラメータ数）
高
低過学習の危険性高
 コアベクトルを除いてモデルの複雑さを高めるだけでは不十分
 より現実に即した制約を加えて適切なパラメータ学習を実現

制約 21
ユーザ𝑢𝑢の消費者としての性質と創作者としての性質が類似
消費者ベクトル 𝝂𝝂𝑢𝑢
𝑐𝑐
と創作者ベクトル 𝝂𝝂𝑢𝑢
𝑝𝑝
の値が類似
𝝂𝝂𝑢𝑢
𝑐𝑐
𝝂𝝂𝑢𝑢
𝑝𝑝
𝝂𝝂𝑢𝑢
𝑐𝑐
𝝂𝝂𝑢𝑢
𝑝𝑝
性質の類似度に応じて𝝂𝝂𝑢𝑢
𝑐...

目的関数
制約の目的関数への反映 22
max �
𝑢𝑢,𝑖𝑖,𝑗𝑗
ln𝜎𝜎 �𝑥𝑥𝑢𝑢𝑢𝑢𝑢𝑢 − 𝜆𝜆Θ Θ 2 − 𝜆𝜆𝑠𝑠 �
𝑢𝑢∈𝒰𝒰
𝑠𝑠𝑠𝑠 𝑠𝑠 𝑢𝑢 𝝂𝝂𝑢𝑢
𝑐𝑐 − 𝝂𝝂𝑢𝑢
𝑝𝑝 2
where 𝑠𝑠𝑠𝑠 𝑠𝑠 𝑢𝑢...

消費コンテンツと創作コンテンツの消費ユーザ 23
推薦対象ユーザ 𝑢𝑢
𝐴𝐴 𝐵𝐵
消費
𝒖𝒖の消費コンテンツ 𝒖𝒖の創作コンテンツ
消費
 𝑢𝑢の消費コンテンツを消費したユーザ集合：𝐴𝐴
 𝑢𝑢の創作コンテンツを消費したユーザ集合：𝐵𝐵

コンテンツの類似度とユーザ集合の重複度の関係１ 24
𝐴𝐴 𝐵𝐵
消費
𝒖𝒖の消費コンテンツ 𝒖𝒖の創作コンテンツ
消費
推薦対象ユーザ 𝑢𝑢
𝐴𝐴と𝐵𝐵の重複度は高くなる
𝑢𝑢の消費コンテンツと創作コンテンツの類似度：高

コンテンツの類似度とユーザ集合の重複度の関係２ 25
推薦対象ユーザ 𝑢𝑢
𝐴𝐴 𝐵𝐵
消費
𝒖𝒖の創作コンテンツ
消費
𝐴𝐴と𝐵𝐵の重複度は低くなる
𝑢𝑢の消費コンテンツと創作コンテンツの類似度：低
𝒖𝒖の消費コンテンツ

ドメイン非依存の類似度判定 26
𝑢𝑢の消費者としての性質と創作者としての性質の類似度
≒𝑢𝑢の消費コンテンツと創作コンテンツの類似度≒
𝑢𝑢の消費コンテンツと創作コンテンツの消費ユーザの重複度
ドメインに依存せず汎用的に二つの性質の類似度を判定

消費ユーザの重複度に基づく消費者の性質と創作者の性質の類似度 27
類似度＝𝑠𝑠𝑠𝑠 𝑠𝑠(𝑢𝑢)＝高類似度＝𝑠𝑠𝑠𝑠 𝑠𝑠(𝑢𝑢)＝低

𝒔𝒔𝒔𝒔 𝒔𝒔 𝒖𝒖 の計算のための仮説１ 28
𝑠𝑠𝑠𝑠 𝑠𝑠 𝑢𝑢 =
𝐴𝐴 ∩ 𝐵𝐵
𝐴𝐴
=
5
7
𝑠𝑠𝑠𝑠 𝑠𝑠 𝑢𝑢 =
𝐴𝐴 ∩ 𝐵𝐵
𝐴𝐴
=
1
7
 ユーザ集合𝐴𝐴に焦点を当てる
 𝐴𝐴のユーザが𝑢𝑢の創作コンテンツも...

𝒔𝒔𝒔𝒔 𝒔𝒔 𝒖𝒖 の計算のための仮説２ 29
 ユーザ集合𝐵𝐵に焦点を当てる
 𝐵𝐵のユーザが𝑢𝑢の消費コンテンツも消費：𝝂𝝂𝑢𝑢
𝑐𝑐
と𝝂𝝂𝑢𝑢
𝑝𝑝
は類似すべき
𝑠𝑠𝑠𝑠 𝑠𝑠 𝑢𝑢 =
𝐴𝐴 ∩ 𝐵𝐵
𝐵𝐵
=
5
6
𝑠𝑠𝑠...

評価実験

Research Question 31
CPRecからコアベクトルを除くことは有用であるかRQ1
ユーザの二つの役割の類似度に応じて
𝝂𝝂𝒖𝒖
𝒄𝒄
と𝝂𝝂𝒖𝒖
𝒑𝒑
の間に適応的に制約を加えることは有用であるか
RQ2
𝑠𝑠𝑠𝑠 𝑠𝑠(𝑢𝑢...

データセット 32
写真共有サービス内容掲示板
写真への
☆マーク
消費
スレッドへの
書き込み
写真投稿創作スレッド作成
11,299,060 ユーザ数 1,752,654
11,557,286 コンテンツ数 1,336,743
11...

比較手法｜ベースライン 33
BPR (Bayesian Personalized Ranking)
FMs (Factorization Machines)
 ユーザ𝑢𝑢のコンテンツ𝑖𝑖に対する好み＝①消費者とコンテンツの相性
 �𝑥𝑥𝑢...

比較手法｜state-of-the-art・ABCPRecの変種 34
CPRec
NBCPRec (No-bridging CPRec)
 UGC推薦におけるstate-of-the-art手法
 �𝑥𝑥𝑢𝑢𝑢𝑢 = 𝛼𝛼 + 𝛽𝛽𝑢𝑢 ...

提案手法｜ABCPRec 35
ABCPRecH2
 仮説１を反映した提案手法
 ユーザ集合𝐴𝐴に焦点
ABCPRecH1
 仮説２を反映した提案手法
 ユーザ集合𝐵𝐵に焦点

評価指標・データ分割 36
評価指標
データ分割
 𝐴𝐴𝐴𝐴𝐴𝐴 =
1
𝒰𝒰
∑𝑢𝑢∈𝒰𝒰
1
𝒟𝒟𝑢𝑢
∑ 𝑖𝑖,𝑗𝑗 ∈𝒟𝒟𝑢𝑢
𝛿𝛿 �𝑥𝑥𝑢𝑢𝑢𝑢 > �𝑥𝑥𝑢𝑢𝑗𝑗
 テスト用コンテンツが高順位になるほど高スコア (0 ≤ 𝐴𝐴...

ベクトルの次元数𝑲𝑲 =20・50・80に対する結果 37
𝑲𝑲 BPR FMs CPRec NBCPRec ABCPRecH1 ABCPRecH2
Flickr
20 0.8698 0.8764 0.8563 0.8839 0.8861 0....

Research Question 38
CPRecからコアベクトルを除くことは有用であるかRQ1
vs
CPRec:コアベクトル有り NBCPRec:コアベクトル無し

𝑲𝑲 BPR FMs CPRec NBCPRec ABCPRecH1 ABCPRecH2
Flickr
20 0.8698 0.8764 0.8563 0.8839 0.8861 0.8900
50 0.8772 0.8822 0.8664 0...

Research Question 40
ユーザの二つの役割の類似度に応じて
𝝂𝝂𝒖𝒖
𝒄𝒄
と𝝂𝝂𝒖𝒖
𝒑𝒑
の間に適応的に制約を加えることは有用であるか
RQ2
𝝂𝝂𝑢𝑢
𝑐𝑐
𝝂𝝂𝑢𝑢
𝑝𝑝
𝝂𝝂𝑢𝑢
𝑐𝑐
𝝂𝝂𝑢𝑢
𝑝𝑝
𝝂𝝂𝑢𝑢
𝑐𝑐...

𝑲𝑲 BPR FMs CPRec NBCPRec ABCPRecH1 ABCPRecH2
Flickr
20 0.8698 0.8764 0.8563 0.8839 0.8861 0.8900
50 0.8772 0.8822 0.8664 0...

Research Question 42
𝑠𝑠𝑠𝑠 𝑠𝑠(𝑢𝑢)はどちらの仮説に基づく計算の方が有用であるかRQ3
仮説１
𝑠𝑠𝑠𝑠 𝑠𝑠 𝑢𝑢 =
𝐴𝐴 ∩ 𝐵𝐵
𝐴𝐴
vs
仮説２
𝑠𝑠𝑠𝑠 𝑠𝑠 𝑢𝑢 =
𝐴𝐴 ∩ 𝐵𝐵
𝐵𝐵

𝑲𝑲 BPR FMs CPRec NBCPRec ABCPRecH1 ABCPRecH2
Flickr
20 0.8698 0.8764 0.8563 0.8839 0.8861 0.8900
50 0.8772 0.8822 0.8664 0...

仮説２の有用性の検証：𝒔𝒔𝒔𝒔 𝒔𝒔 𝒖𝒖 の分布比較 44
仮説１仮説２
Flickr Reddit Flickr Reddit
𝑠𝑠𝑠𝑠 𝑠𝑠 𝑢𝑢 = 0 62.70% 13.77% 62.87% 14.17%
0 < 𝑠𝑠𝑠𝑠 𝑠𝑠 ...

仮説２の有用性の検証：ユーザ間の好みの類似性 45
消費
共通の消費コンテンツ
…
 A内の全ユーザペアに対して共通の消費コンテンツ数をカウント
 この値が大＝A内のユーザの消費コンテンツの好みの類似度が高い
 𝐵𝐵内の全ユーザペアに対し...

仮説２の有用性の検証：ユーザ間の好みの類似性 46
0%
10%
20%
30%
40%
50%
0 1 2 3 4 5 6 7 8 9 10 > 10
共通の消費コンテンツ数
ユーザペアの割合
 共通の消費コンテンツ数が２以上のユーザペアの...

ベクトルの次元数𝑲𝑲の値に応じたAUCの推移 47
0.85
0.86
0.87
0.88
0.89
0.9
10 20 30 40 50 60 70 80 90 100
0.865
0.885
0.905
0.925
0.945
10 20 ...

ベクトルの次元数𝑲𝑲の値に応じたAUCの推移 48
0.85
0.86
0.87
0.88
0.89
0.9
10 20 30 40 50 60 70 80 90 100
0.865
0.885
0.905
0.925
0.945
10 20 ...

まとめ 49
ABCPRec：UGC時代における新しい推薦
今後の
発展
 コンテンツ特徴量(色・タグ)による二つの役割の類似度計算
 異なるユーザ間の消費者ベクトルへの制約の付与
 消費に加えて何を創作したかを反映することでより良い推薦...

photo by Emma
photo by CetusPhotography
photo by Richard Levitte
photo by cuatrok77
photo by Bryan Ochalla
photo by panli5...

photo by hehaden
photo by hehaden
photo by Egan Snow
photo by monetmama
photo by Farid Bueri
photo by Cats by moonwhiskers...

Share Slideshare

LinkedIn
Facebook
Twitter

Embed

Size (px)

Show related Slideshows at end

WordPress Shortcode

Link

Share
Email

2024 Trend Updates: What Really Wor... by Search Engine Jou... 1042022 views
Storytelling For The Web: Integrate... by Chiara Aliotta 954721 views
Artificial Intelligence, Data and C... by OECD Directorate ... 880306 views
How to Leverage AI to Boost Employe... by SocialHRCamp 370586 views
2024 State of Marketing Report – by... by Marius Sescu 210442 views
Everything You Need To Know About C... by Expeed Software 229923 views

View on Slideshare

1 of 52 Ad

View on Slideshare

1 of 52 Ad