Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Editorialisation

12,035 views

Published on

Intervention au Séminaire de Sens Public sur la question de l'éditorialisation algorithmique

Published in: Education
  • Be the first to comment

  • Be the first to like this

Editorialisation

  1. 1. 1
  2. 2. Éditorialisation • « l’ensemble des dispositifs qui permettent la structuration et la circulation du savoir. En ce sens l’éditorialisation est une production de visions du monde, ou mieux, un acte de production du réel.* » Marcello Vitali-Rosati. • http://blog.sens- public.org/marcellovitalirosati/quest-ce-que- leditorialisation/ • * Et de fabrique de l’opinion 2
  3. 3. <Incise> • A propos « d’acte de production du réel », d’éditorialisation et de redocumentarisation, si vous avez 5 minutes, allez lire l’histoire d’Adam Boyd dans le billet : « La réalité alternative existe. J’y ai pénétré ». • L’histoire d’un type qui modifie une page Wikipédia pour entrer en zone VIP dans un concert. • Mais pas uniquement. • http://affordance.typepad.com/mon_weblog/2017/03 /realite-alternative-existe.html 3 </Incise>
  4. 4. Argument / ÉDITORIAL • Un algorithme est un éditorialiste comme les autres (1) (2) • L’éditorialisation (algorithmique) est un méta- déterminisme technique, modelé par des régimes de vérité propres à chaque plateforme, à chaque écosystème connecté. • Faute de s’être interrogé à temps sur l’éditorialisation algorithmique on écope aujourd’hui le tonneau des Danaïdes des Fake News et autres « faits alternatifs ». Et faute de l’interroger « correctement » on continuera d’écoper pendant longtemps. 4 (1) donc chaque fois que je parlerai « d’éditorialisation » je désignerai en fait « l’éditorialisation algorithmique » (2) http://affordance.typepad.com/mon_weblog/2016/11/un-algorithme-est-un-editorialiste-comme-les-autres.html
  5. 5. Éléments d’iconographie Petite typologie de l’éditorialisation algorithmique (illustrée) 5
  6. 6. http://affordance.typepad.com/mon_weblog/2016/04/poids-mots-choc-algos.html 6 #Fail #malaise Editorialisation texte image.
  7. 7. 7 http://affordance.typepad.com/mon_weblog/2016/04/poids-mots-choc-algos.html #Fail ? #SecondDegré ? Editorialisation sémantique (automatisée).
  8. 8. 8 Editorialisation savante ? Sachante ? A la volée ? Éditorialisation ou recommandation ? Éditorialisation est une forme (et une force) de recommandation. Éditorialiser c’est recommander
  9. 9. http://affordance.typepad.com/mon_weblog/2016/11/pari-pascal-zuckerberg-trump.html 9 Editorialisation du fait divers (dont vous êtes le héros - malgré vous). #bug
  10. 10. http://affordance.typepad.com/mon_weblog/2015/09/recherche-aylan-kurdi.html 10 Editorialisation paradoxale. #obfuscation
  11. 11. http://affordance.typepad.com/mon_weblog/2015/09/recherche-aylan-kurdi.html 11 #euphémisation
  12. 12. http://affordance.typepad.com/mon_weblog/2015/09/recherche-aylan-kurdi.html 12 Pendant ce temps sur Twitter #saturation
  13. 13. http://affordance.typepad.com/mon_weblog/2015/09/recherche-aylan-kurdi.html 13 Pendant ce temps sur Google #saturation
  14. 14. 14 Facebook, Twitter, Google. 3 plateformes. 3 régimes de visibilité 3 logiques d’éditorialisation 3 « choix » ou 3 « états » très complexes à interroger
  15. 15. 15 En tout ca beaucoup plus complexes que ces 2 choix éditoriaux documentés. WKP francophone WKP anglophone
  16. 16. Complexe mais pas impossible. 16
  17. 17. 17 http://algotransparency.org/index.html
  18. 18. 18 http://algotransparency.org/index.html
  19. 19. 19 http://algotransparency.org/index.html
  20. 20. 20 http://algotransparency.org/index.html
  21. 21. 21 http://algotransparency.org/index.html
  22. 22. 22 http://algotransparency.org/index.html Constat (très rapide) Pour tous les candidats, cette vidéo (« INCROYABLE ASSELINEAU Dévoile l’arnaque macron ») est toujours présente dans le trio de tête des suggestions, et avec un ratio toujours très élevé. Pourtant elle n’est pas (et de loin) la + « vue », la + « likée », la + longue, la + polémique POURQUOI ? Alors … Et combien de temps le restera-t-elle ? Et laquelle la remplacera ? Et pourquoi ? #AdLibitum
  23. 23. 23 Éditorialisation politique
  24. 24. 24 Éditorialisation romantique #oupas http://www.newyorker.com/cartoons/a18186 #EffetDeRéel
  25. 25. 25 Où j’ai découvert la question de l’éditorialisation algorithmique
  26. 26. C’était en travaillant sur la sérendipité*. Qui est à l’éditorialisation ce que l’anti-matière est à la matière. La sérendipité est 1 anti-éditorialisation 26 * Sérendipité : désigne le fait de trouver avec habilité quelque chose que l’on ne cherchait pas. Ou de trouver autre chose que ce que l’on cherchait initialement
  27. 27. Intervention dans un colloque en 2003. « Chercher faux et trouver juste ». https://archivesic.ccsd.cnrs.fr/sic_00000689 • « Quand nous consultons une page de résultat de Google (…) nous ne disposons pas simplement du résultat d'un croisement combinatoire binaire entre des pages répondant à la requête et d'autres n'y répondant pas ou moins (MATCHING). Nous disposons d'une vue sur le monde (WATCHING) dont la neutralité est clairement absente. (…) l'affichage lisible d'une liste de résultats est le résultat de l'itération de principes (…) implicites, (…) invisibles, et surtout dynamiques (…) » O. Ertzscheid et G. Gallezot. • Plus loin dans notre présentation orale nous avions souligné le fait que les moteurs de recherche (le « feeling lucky » de Google en particulier) était un moyen d’instrumentaliser la sérendipité pour imposer à l’utilisateur les résultats voulus par le moteur et sa régie publicitaire. • 1 an avant l’invention de Facebook. 8 ans avant qu’Eli Pariser ne parle de la « Filter Bubble ». • Moralité 1 : nous étions des visionnaires incompris ;-) • Mais je ne vous raconte pas ça pour ça. 27
  28. 28. Intervention dans un colloque en 2003. « Chercher faux et trouver juste ». https://archivesic.ccsd.cnrs.fr/sic_00000689 • Moralité 2 : Matching => Watching : Tout dispositif technique informationnel reposant sur des logiques calculatoires* ne peut pas ne pas éditorialiser. Un algorithme est nécessairement un Mr Jourdain de l’éditorialisation. • Ecole de Palo Alto nous avait appris que « on ne peut pas ne pas communiquer » (P. Watzlawick), le grand enseignement du web des plateformes sociales c’est qu’un algorithme ne peut pas ne pas éditorialiser. • « Edito Algo Sum » : Je suis un algorithme donc j’éditorialise, je produis du réel (pas du « vrai », juste du réel) 28 15 ans plus tard : Intervention séminaire 2017. « Juste chercher, et trouver faux » (« on veut juste chercher mais on trouve plein de fake news ») * Bachimont expliquait qu’il fallait « donner un statut documentaire au calculable »
  29. 29. Si un algorithme ne peut pas ne pas éditorialiser. Alors une plateforme ne peut pas ne pas le savoir ou le nier. • Pourtant pendant très longtemps les plateformes ont nié tout cela. Soit : – en rejetant la faute sur les utilisateurs (Google Bombing*) – en s’abritant derrière le calcul et la statistique (cf « Google cache des juifs »**) – en se réfugiant derrière le statut d’hébergeur – les 3 à la fois • Jusqu’à … – la lettre de M. Zuckerberg du 16 février 2017, « Building a global community » qui marque une rupture assez claire***. 29*** la lettre de M. Zuckerberg : https://www.facebook.com/notes/mark-zuckerberg/building-global-community/10154544292806634 et l’analyse que j’en ai proposé : http://affordance.typepad.com//mon_weblog/2017/03/lettre-zuckerberg.html * http://affordance.typepad.com/mon_weblog/2010/09/de-qui-trou-du-cul-est-il-le-nom-.html ** http://affordance.typepad.com/mon_weblog/2012/06/google-cache-des-juifs.html
  30. 30. • Reconnaît les effets « Filter Bubble » et le phénomène des Fake News : – « Les médias sociaux sont des médias de formes courtes où les messages qui résonnent sont amplifiés à de nombreuses reprises. Cela récompense la simplicité et décourage la nuance. Dans le meilleur des cas cela rend plus visibles certains messages et expose les gens à des idées différentes. Dans le pire des cas cela sur- simplifie des sujets importants et nous pousse à des points de vue extrêmes. » Il admet aussi « les effets très puissants qui lient sensationnalisme et polarisation de l'opinion et conduisent à une perte de compréhension globale d'un phénomène. » • Il a une réflexion « éditoriale » : – « Nous avons fait des progrès dans notre manière de lutter contre les hoax comme nous l'avions fait contre le Spam, mais nous devons en faire davantage. Nous avançons avec précaution car il n'y a pas de ligne de démarcation nette entre les hoax, la satire et l'opinion. » • Il revendique une éditorialisation explicite : – « Notre approche va désormais moins se focaliser sur la suppression de la désinformation, et davantage sur la mise en avant d'informations et de points de vue complémentaires, incluant le travail des fact-checkers sur l'exactitude ("accuracy") d'une information. » 30
  31. 31. « Facebook is not just technology or media, but a community of people » • Triangulation : communauté – média – technologie • Quelle part et quelle responsabilité « éditoriale » pour chacun de ces 3 sommets ? • Questions d’éditorialisation se sont déplacées. – Médias « traditionnels » : c’est la rédaction (le rédac’chef) qui éditorialise. – Médias numériques (web 1.0) : c’est le réseau (rhizome) en tant qu’architecture (décentralisée) de liens qui vaut pour éditorialisation, qui produit des visions du monde et construit du réel, le réel du réseau. – Médias numériques (web 2.0) : ce sont les communautés qui commencent à faire le travail d’éditorialisation (les fameux « commentaires », le web « participatif », « conversationnel ») – Plateformes socio-techniques : les 3 à la fois : la communauté éditorialise, le « média » a une ligne éditoriale (nonobstant les dénégations de son fondateur) puisqu’il est un média, et bien sûr l’algorithme (techno) éditorialise par le déterminisme qu’il produit et les choix au cœur du code. • Moralité : – déplacement du centre de gravité de l’éditorialisation – conflits éditoriaux permaments entre les 3 « attracteurs éditoriaux » que sont la communauté, le média et la technique algorithmique (modérateurs humains + algorithme Edgerank + IA d’apprentissage et de nettoyage) 31 technologie
  32. 32. 32 communauté technologie média ligne de front éditoriale Fil Twt Mur Fb SERP Goog « Facebook is not just technology or media, but a community of people »
  33. 33. « Facebook is not just technology or media, but a community of people » • Ces conflits éditoriaux ne sont rien d’autre que les guerres d’édition sur Wikipédia. Ils produisent donc des « fake news ». • Une guerre d’édition sur Wikipédia c’est une fake news que l’on combat. Mais elle n’est pas problématique et ne dure jamais longtemps. • Car la différence (fondamentale) vient du régime de vérité propre à la plateforme. 33
  34. 34. Régimes de vérité • Foucault : « Chaque société a son régime de vérité, sa politique générale de la vérité: c’est-à-dire les types de discours qu’elle accueille et fait fonctionner comme vrais ; les mécanismes et les instances qui permettent de distinguer les énoncés vrais ou faux, la manière dont on sanctionne les uns et les autres ; les techniques et les procédures qui sont valorisées pour l’obtention de la vérité ; le statut de ceux qui ont la charge de dire ce qui fonctionne comme vrai. » (cf polémique autour du Décodex) • Google, Facebook, Twitter, Wikipédia … Autant de plateformes, autant de régimes de vérité différents. Qui sont aussi des régimes de visibilité. Et donc autant de logiques ou de mécaniques éditoriales. 34
  35. 35. Impossible de parler d’éditorialisation si on ne comprend pas la particularisme de chaque régime de vérité pour chaque plateforme. • Google. Popularité. Est « vrai » ce qui est populaire (et la manière dont on pose la question compte beaucoup : cf « l’holocauste a-t-il vraiment existé »* ) • Wikipédia. Vérifiabilité. Est « vrai » dans l'écosystème Wikipédia ce qui est vérifiable (et est vérifiable ce qui est « documentable ») • Facebook. (taux d’)Engagement. Est "vrai" dans l'écosystème Facebook ce qui permet de produire de l'engagement. • Facebook ne veut pas "afficher des informations qui correspondent à vos centres d'intérêts établis en fonction de vos interactions dans ou en dehors de sa plateforme" (ça c'est son algorithme qui s'en charge), Facebook veut "constituer une audience segmentable à volonté au service d'intérêts d'annonceurs". Et il a pour cela besoin de contenus suscitant de "l'engagement". La "valeur" transmise et appliquée par l'algorithme de Facebook est donc celle de l'engagement. Facebook est une machine à produire de l'engagement. Peu importe que cela soit "vérifiable", peu importe que cela soit "populaire" (effet de l'illusion de la majorité), il faut que ce soit « engageant » 35 * http://affordance.typepad.com/mon_weblog/2016/12/algorithmes-tondus-liberation.html et la suite http://affordance.typepad.com/mon_weblog/2016/12/google-google-pourquoi-mas-tu-abandonne.html
  36. 36. Mais revenons aux conflits entre ces trois attracteurs éditoriaux 36 technologie ligne de front éditoriale Fil Twt Mur Fb SERP Goog Déterminisme technique Ça ne vous rappelle rien ?
  37. 37. 37Et oui 
  38. 38. Œil de la providence Franc-maçonnerie Illuminati Théories du complot Fake News #COMBO #CQFD Voilà ce qu’il se produit quand 3 lignes de front éditoriales se confrontent (dans une architecture de panoptique) De la même manière que l’architecture sociale panoptique de Facebook (friending) produit de la sur- et de la sous-veillance, son architecture « éditoriale » alliée à son régime de vérité ne peut que produire du Fake (ou pour être plus précis, elle ne peut pas ne pas produire du Fake) Plus sérieusement (ou moins métaphoriquement)
  39. 39. Et pour Google ? Plutôt effet tunnel que triangulation (Un média, une technologie et pas – vraiment – de communauté.) Régime de vérité de la popularité produit des stéréotypies. 39http://affordance.typepad.com/mon_weblog/2010/09/la-reponse-avant-la-question.html
  40. 40. Problème du passage à l’échelle • Face à tous ces problèmes éditoriaux qu’il admet en tant que tels, M. Zuckerberg parle d’un problème de passage à l’échelle : « Ces erreurs ne venaient presque jamais (sic) de positions idéologiques que nous aurions pu avoir en conflit avec notre communauté, mais plutôt d'opérations de passage à l'échelle ("operational scaling issues"). » • De fait certains régimes de vérité supportent mieux que d’autres les phénomènes de passage à l’échelle. • Il y avait bcp plus d’erreurs dans Wikipédia lorsqu’il y avait très peu de consultations, de contenus et de wikipédiens actifs. Le passage à l’échelle du régime de vérifiabilité s’est avéré vertueux. • Il y a toujours eu une prime à la popularité dans l’algo de Google, plus ou moins bien compensée par l’algorithme. Passage à l’échelle du régime de popularité n’a fait que perpétuer cet équilibre. • Il y avait bcp moins de Fake News dans Facebook quand il y avait bcp moins d’utilisateurs et que chacun d’entre eux n’était ami qu’avec sa famille et ses proches (et le fait qu’il y en ait quand même était bien moins préoccupant). Passage à l’échelle du régime de l’engagement est un cercle vicieux. 40
  41. 41. Solution algorithmique à un problème algorithmique ? • Zuckerberg Propose de (presque) tout solutionner par l’IA : c’est à dire une techno (IA) sur une autre techno (Edgerank). De garantir une techno par une autre. A grands coups de « Machine » et de « Deep » Learning. • Du discours « technique » au discours « magique » • « No one really knows how the most advanced algorithms do what they do. That could be a problem. » https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/ • Directeur de Google Research Europe (programme Langage naturel et Deep Learning) : “Il y a un moment magique ou le programme reconnait une image de chat même s’il n’a pas déjà mémorisé cette image” https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/qu-est-ce-que-le-deep- learning-l-explication-du-directeur-de-google-research-europe_112195 • Moralité : Pour ces plateformes, l’éditorialisation est une forme de prestidigitation. 41
  42. 42. 42 https://twitter.com/jeffjarvis/status/854419468184821761 Le projet de Facebook tel que présenté à la #F8 conférence Conclusion ?
  43. 43. 43 https://twitter.com/jeffjarvis/status/854419468184821761 La ligne rouge du déterminisme algorithmique. Qui définit (par projection) des espaces sociaux éditorialisés. Qui sont autant « d’actes de production du réel ». Conclusion ?
  44. 44. 44 Ou alors c’est encore un coup du côté obscur. Conclusion ?
  45. 45. Merci  45
  46. 46. BONUS TRACKS 46
  47. 47. Il y a donc bien des logiques d’éditorialisations. A qui les confier ? • « Un quotidien affectant la gravité confiera la plume de l'éditorialiste à un politicien chevronné et assagi, tandis que son concurrent aux opinions mieux tranchées donnera la préférence à un polémiste ou à un doctrinaire. » COSTON, L'A.B.C. du journalisme, 1952, p. 107. • Si le « quotidien » est Google, FB ou Twt et “l’éditorialiste” est leur algo de hiérarchisation / obfuscation alors ... • + une plateforme d’accès à l’info affecte la gravité (= 1 forme d’objectivité) plus son algorithmie est celle non pas d’un politicien chevronné mais d’une régie publicitaire assagie • + une plateforme fait la part belle à des opinions tranchées (FB, Twt ...) et plus son algo. jouera le rôle d’un polémiste ou d’un doctrinaire. 47
  48. 48. Conclusion contextuelle • Vous voulez savoir qui sera au second tour dimanche ? • Probablement les deux qui : – éditorialisent le plus. – produisent le plus « d’engagement » – jouissent de la plus grande « popularité ». – Ont le moins besoin de documenter leur propre vérifiabilité et donc leur propre crédibilité. 48

×