La recommandation d'articles scientifiques dans une bibliothèque numérique Recommending Journal Articles in a Scientific Digital Library Andre Vellino [email_address] Institute canadien de l'information scientifique et technique David Zeber [email_address] Département de statistiques université de Cornell

Apercu de l’ exposé Motivation Qu'est-ce qu'un système de recommandation? Problèmes pour les systèmes de recommandations d’articles Solutions proposées: Un système hybride comprenant: (a) du filtrage collaboratif (CF) et (b) du filtrage basé sur l’analyse de texte (CBF) Utilisation de PageRank sur le réseau de citations Recommandation basé sur des préférences multidimensionnels Une interface utilisateur centrée sur les explications Travaux à venir

Motivation

Qu'est-ce qu'un système de recommandation?

Problèmes pour les systèmes de recommandations d’articles

Solutions proposées:

Un système hybride comprenant:

(a) du filtrage collaboratif (CF) et

(b) du filtrage basé sur l’analyse de texte (CBF)

Utilisation de PageRank sur le réseau de citations

Recommandation basé sur des préférences multidimensionnels

Une interface utilisateur centrée sur les explications

Travaux à venir

Motivation Motivations du projet de recherche Contribuer au outils de découverte de la connaissance. Faire évoluer la technologie de la recommandation automatique dans le domaine des bibliothèques numériques. Critère de succès Aider l'innovation scientifique canadienne en créant un outil pratique de recommandation automatique pour une bibliothèque nationale.

Motivations du projet de recherche

Contribuer au outils de découverte de la connaissance.

Faire évoluer la technologie de la recommandation automatique dans le domaine des bibliothèques numériques.

Critère de succès

Aider l'innovation scientifique canadienne en créant un outil pratique de recommandation automatique pour une bibliothèque nationale.

L'apport d'un système de recommandation pour une bibliothèque scientifique Pour le chercheur scientifique : Ajouter une fonction supplémentaire à un portail de recherche Rencontre fortuite de documents pertinents Pour la bibliothèque en ligne : Fidéliser davantage les utilisateurs en créant des services dynamiques et personnalisés Par exemple : alertes par courriel basées sur le profil de l'utilisateur, et l'usage collectif Pour les auteurs : Pour un article donné (avec des citations) trouver des articles supplémentaires qui devraient être cités par celui-ci. Pour les maisons d ' édition : Pour un article à évaluer, recommander des évaluateurs

Pour le chercheur scientifique :

Ajouter une fonction supplémentaire à un portail de recherche

Rencontre fortuite de documents pertinents

Pour la bibliothèque en ligne :

Fidéliser davantage les utilisateurs en créant des services dynamiques et personnalisés

Par exemple : alertes par courriel basées sur le profil de l'utilisateur, et l'usage collectif

Pour les auteurs :

Pour un article donné (avec des citations) trouver des articles supplémentaires qui devraient être cités par celui-ci.

Pour les maisons d ' édition :

Pour un article à évaluer, recommander des évaluateurs

Qu'est-ce qu'un "système de recommandation”? Un logiciel qui prévoit les éléments d'information susceptibles d'intéresser l'utilisateur, en fonction : du contenu des éléments à recommander du profil de l'utilisateur du comportement collectif des utilisateurs Les éléments d'information peuvent comprendre… des marchandises : films, musique, livres du texte : actualités, blogs, pages web, et des articles dans des revues scientifiques

Un logiciel qui prévoit les éléments d'information susceptibles d'intéresser l'utilisateur, en fonction :

du contenu des éléments à recommander

du profil de l'utilisateur

du comportement collectif des utilisateurs

Les éléments d'information peuvent comprendre…

des marchandises : films, musique, livres

du texte : actualités, blogs, pages web, et

des articles dans des revues scientifiques

Taxonomie des systèmes de recommandation Filtrage du contenu des éléments Recherche par l’analyse du texte intégrale Recherche par similitude de profils explicites (par exemple en utilisant les taxonomie sémantiques) Filtrage collaboratif Usage des utilisateurs (avec profil de préférences) « User-based » (utilisateurs semblable) « Item-based » (éléments semblable) Algorithmes « Memory-based » (compare chaque usager chaque fois) « Model-based » (construit un model probabiliste)

Filtrage du contenu des éléments

Recherche par l’analyse du texte intégrale

Recherche par similitude de profils explicites (par exemple en utilisant les taxonomie sémantiques)

Filtrage collaboratif

Usage des utilisateurs (avec profil de préférences)

« User-based » (utilisateurs semblable)

« Item-based » (éléments semblable)

Algorithmes

« Memory-based » (compare chaque usager chaque fois)

« Model-based » (construit un model probabiliste)

Moteur de recherche vu comme un système de recommandation

“ Pages similaires”: recommandations en fonction du texte intégral

Le système d‘Amazon

Item Based User Ratings Explanations

Sociétés commerciales qui exploitent la technologie de recommandation automatique

L’utilisateur indique ses préférences (ou commande un article) Le système de recommandation calcule les corrélations parmi : les utilisateurs (selon leurs profil de préférences) les articles (selon les préférences attribuées par les utilisateurs) Le système prévoit les préférences que l’utilisateur aurait attribué aux articles pour lesquels il n’y a pas encore d’attribution et lui présente les premier « N » éléments Les étapes-types de la recommandation par filtrage collaboratif

L’utilisateur indique ses préférences (ou commande un article)

Le système de recommandation calcule les corrélations parmi :

les utilisateurs (selon leurs profil de préférences)

les articles (selon les préférences attribuées par les utilisateurs)

Le système prévoit les préférences que l’utilisateur aurait attribué aux articles pour lesquels il n’y a pas encore d’attribution et lui présente les premier « N » éléments

How Collaborative Filtering Works User-Based CF Given user A find all the other users { U } that have the most “similar” item-rating patterns For each item I not yet rated by A , predict the likely rating A will assign to I given the ratings for I given by { U } Present the Top-N ordered list of items { I } to the user Item-Based CF Given user A and the set of items { I } to which A has given ratings, find all the other items { O } that are “similar” to { I } Present the Top-N ordered list of items { O } to the user

User-Based CF

Given user A find all the other users { U } that have the most “similar” item-rating patterns

For each item I not yet rated by A , predict the likely rating A will assign to I given the ratings for I given by { U }

Present the Top-N ordered list of items { I } to the user

Item-Based CF

Given user A and the set of items { I } to which A has given ratings, find all the other items { O } that are “similar” to { I }

Present the Top-N ordered list of items { O } to the user

User-Based Collaborative Filtering Goal: predict the rating Ted will give the movie “Ran” Step 1 – eliminate the user-profiles of users who didn’t rate “Ran” Step 2 – find Ted’s “K-nearest neighbours” who rated “Ran” and at least 2 other movies (Alice)‏ R(Ted,Ran) ~= 5. 5 5 2 Alien ? 4 4 Ted 5 3 4 5 Alice 4 3 4 Carol 5 1 Bob Ran X-Men Babe Fargo

Goal: predict the rating Ted will give the movie “Ran”

Step 1 – eliminate the user-profiles of users who didn’t rate “Ran”

Step 2 – find Ted’s “K-nearest neighbours” who rated “Ran” and at least 2 other movies (Alice)‏

R(Ted,Ran) ~= 5.

Item-Based Collaborative Filtering Goal: predict the rating Ted will give the movie “Ran” Step 1 – find the other items rated by Ted that are “nearest neighbours” to “Ran” Step 2 – predict the likely rating “Ran” based on Ted’s ratings for Ran’s nearest neighbours R(Ted,Ran) ~= 4. 4 5 2 Alien ? 4 4 Ted 5 3 4 5 Alice 4 3 4 Carol 5 1 Bob Ran X-Men Babe Fargo

Goal: predict the rating Ted will give the movie “Ran”

Step 1 – find the other items rated by Ted that are “nearest neighbours” to “Ran”

Step 2 – predict the likely rating “Ran” based on Ted’s ratings for Ran’s nearest neighbours

R(Ted,Ran) ~= 4.

Find “Nearest Neighbour” and Predict Rating Find Nearest Neighbours (e.g. cosine similarity) Predict Rating (item i for user u ) Weighted average of user’s ratings on N similar users

Find Nearest Neighbours (e.g. cosine similarity)

Predict Rating (item i for user u )

Weighted average of user’s ratings on N similar users

Typical Issues with CF Recommenders Data Sparsity Ratio of Users / Items is low (~ 1:10) Number of Ratings per User is low Ratings matrix sparsity ~ 95% Cold Start Problem First-time users get poor or no recommendations because CF matrix has no entries Rating Items CF recommender must be trained (explicitly or implicitly) by providing ratings to items Principle of Induction People who exhibited similar behaviour in the past will tend to exhibit similar behaviour in the future.

Data Sparsity

Ratio of Users / Items is low (~ 1:10)

Number of Ratings per User is low

Ratings matrix sparsity ~ 95%

Cold Start Problem

First-time users get poor or no recommendations because CF matrix has no entries

Rating Items

CF recommender must be trained (explicitly or implicitly) by providing ratings to items

Principle of Induction

People who exhibited similar behaviour in the past will tend to exhibit similar behaviour in the future.

Specific Issues for Collaborative Filtering in Science Digital Libraries Data Sparsity More Articles & Fewer Users (10x) Fewer Item / Ratings (~ 99% sparsity) Rating Articles Explicit ratings are more difficult to obtain DL users have less need to “express themselves” by explicitly rating items than movie watchers Implicit ratings depend on UI features of DL No reliable method for inferring ratings from browsing and query behaviour Principle of Induction not necessarily true in DL context Interest drift Context shifts

Data Sparsity

More Articles & Fewer Users (10x)

Fewer Item / Ratings (~ 99% sparsity)

Rating Articles

Explicit ratings are more difficult to obtain

DL users have less need to “express themselves” by explicitly rating items than movie watchers

Implicit ratings depend on UI features of DL

No reliable method for inferring ratings from browsing and query behaviour

Principle of Induction not necessarily true in DL context

Interest drift

Context shifts

Suivre les traces de TechLens+, c.à.d. Développement d’une implantation “ Fusion Mixed Hybrid ” : CF(filtrage collaboratif) + CBF (filtrage par analyse de texte) Initialiser un système collaboratif avec des préférences déduites d’une matrice de citations Intégrer une fonction pour expliquer des recommandations Avec des extensions Ajouter une valeur “PageRank” aux citations Déterminer les modes de recherches pour l’utilisateur Identifier les préférences implicites provenant des clics du navigateur Ajouter de multiples dimensions de préférences Stratégie de recherche a l’ICIST

Suivre les traces de TechLens+, c.à.d.

Développement d’une implantation “ Fusion Mixed Hybrid ” : CF(filtrage collaboratif) + CBF (filtrage par analyse de texte)

Initialiser un système collaboratif avec des préférences déduites d’une matrice de citations

Intégrer une fonction pour expliquer des recommandations

Avec des extensions

Ajouter une valeur “PageRank” aux citations

Déterminer les modes de recherches pour l’utilisateur

Identifier les préférences implicites provenant des clics du navigateur

Ajouter de multiples dimensions de préférences

Recommender Citation Seeding Articles either cite or don’t cite other articles Some articles that are cited are not in collection Users’ “article collection profile”  citations TechLens approach to Cold Start / Data Sparsity problem

Articles either cite or don’t cite other articles

Some articles that are cited are not in collection

Users’ “article collection profile”  citations

Apply PageRank to Citation Matrix PageRank algorithm applied to citations d – damping factor = 0.85 PR (  ) – PageRank score of article  B (  ) – articles that that cite  N  – number of citations for article  Aurel Constantinescu “Ranking Full-Text Articles using Citation Based Methods” Master’s Thesis, University of Ottawa 47.5 135 87.5 47.5 47.5 87.5 87.5

PageRank algorithm applied to citations

d – damping factor = 0.85

PR (  ) – PageRank score of article 

B (  ) – articles that that cite 

N  – number of citations for article 

PageRank-weighted Citation matrix Apply Page Rank on Citations Use citation data (as in TechLens+) Apply PageRank to weight the citation-based “ratings” Done before but only at the Journal level ( http://www.eigenfactor.org/ )‏ p 6 p 1 p 5 p 2 p 4 p 3 u 2 p 1 u 1 p 2 p 4 p 3 articles citations p 7 p 8  = constant users     0.3 0.2 0.6 0.3 0.5 0.5 0.7 0.6 0.2 0.4 0.5 0.4

Apply Page Rank on Citations

Use citation data (as in TechLens+)

Apply PageRank to weight the citation-based “ratings”

Done before but only at the Journal level ( http://www.eigenfactor.org/ )‏

User Project Profiles & IR Modes Project Profiles Explicit User-defined Projects Subject-matter expertise (Novice / Knowledgeable / Expert) Defined by a document collection that characterizes the project: By content - the feature vectors (bag of words) from that collection By CF similarity from “citations” list for the user IR Modes Users of DLs have a broad range of IR goals, such as seeking answers to highly specific scientific questions developing literature surveys establishing prior art for patent claims “ innovation” / “information” / “authority”

Project Profiles

Explicit User-defined Projects

Subject-matter expertise (Novice / Knowledgeable / Expert)

Defined by a document collection that characterizes the project:

By content - the feature vectors (bag of words) from that collection

By CF similarity from “citations” list for the user

IR Modes

Users of DLs have a broad range of IR goals, such as

seeking answers to highly specific scientific questions

developing literature surveys

establishing prior art for patent claims

“ innovation” / “information” / “authority”

Génération implicite de profils contextuels Termes Texte Intégral Auteur Mots clés Revue Résumé Projet Mode Clics du navigateur État de l’utilisateur

Matrice de préférences multidimensionnels Tom Alice Bob Carol p 1 p 2 p 3 p 4 p 5 p 6 Innovation Information Autorité 0.3 0.6 0.3 0.7 0.4 0.7 0.2 G. Adomavicious, R. Sankaranarayanan, S. Sen, A. Tuzhilin, ACM Transactions on Information Systems 2005 Incorporating Contextual Information in Recommender Systems Using a Multidimensional Approach 0.7 0.2 0.5

Scaling Strategy: Distributed Recommenders Multiple ratings matrices decomposed by subject area Merge separate recommendations by subject Reduces matrix sparsity Improves accuracy of recommendations Distributed Collaborative Filtering with Domain Specialization S. Berkovsky, T.Kuflik, and F. Ricci Proceedings of RecSys2007

Multiple ratings matrices decomposed by subject area

Merge separate recommendations by subject

Reduces matrix sparsity

Improves accuracy of recommendations

L'interface utilisateur pour naviguer dans l’espace des recommandations Inspiration pour l’interface de navigation incrémentale Carte topographique des grappes de documents “Carrot 2 ” Explications des recommandations Assurer la transparence   accroître la confiance des utilisateurs en la machine Profitez des explications pour permettre aux utilisateurs de visualiser les recommandation par type de cause filtrer les recommandations indésirables

Inspiration pour l’interface de navigation incrémentale

Carte topographique des grappes de documents “Carrot 2 ”

Explications des recommandations

Assurer la transparence   accroître la confiance des utilisateurs en la machine

Profitez des explications pour permettre aux utilisateurs de

visualiser les recommandation par type de cause

filtrer les recommandations indésirables

Carrot 2 Cluster maps 2D projection of Recommended Item-User Similarity Explanation Clusters Dimensionality weighting slider

Travaux à venir Étudier l’effet de PageRank sur la qualité des recommandations Analyser : des profils contextuels des recommandations distribuées et multidimensionnelles Étudier de l’impact produit par des informations supplémentaires Indice Hirsch pour évaluer les auteurs Évaluation d’articles sur des sites spécialisés tel que “Faculty of 1000” Affiner le filtrage basé sur le texte intégrale à partir d’une analyse sémantique

Étudier l’effet de PageRank sur la qualité des recommandations

Analyser :

des profils contextuels

des recommandations distribuées et multidimensionnelles

Étudier de l’impact produit par des informations supplémentaires

Indice Hirsch pour évaluer les auteurs

Évaluation d’articles sur des sites spécialisés tel que “Faculty of 1000”

Affiner le filtrage basé sur le texte intégrale à partir d’une analyse sémantique

Merci! Questions? http://lab.cisti-icist.nrc-cnrc.gc.ca /synthese/