Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Ertzscheid Ehess

12,857 views

Published on

Intervention au Séminaire Etudier les cultures du numérique organisé par Antonio Casilli à l'EHESS. Janvier 2018.

Published in: Education
  • Be the first to comment

Ertzscheid Ehess

  1. 1. Gouvernementalité algorithmique et libertés / séminaire EHESS / Etudier les cultures numériques De plus en plus d’ingénieurs de la Silicon Valley critiquent les technologies qu’ils ont eux-mêmes construites : crise éthique personnelle ou échec de la gouvernementalité algorithmique ? 1 Les 7 crises de la gouvernementalité algorithmique. Olivier Ertzscheid. Université de Nantes. 8 Janvier 2017.
  2. 2. Gouvernementalité algorithmique ? • « La gouvernementalité algorithmique est un mode de gouvernement des conduites qui s’appuie sur des données numériques insignifiantes mais quantifiables. • L’objectif n’est pas de gérer le présent, mais de se protéger contre l’incertitude de l’avenir. • On ne gouverne plus des sujets rationnels, on contrôle un espace purement spéculatif en analysant le potentiel d’un individu à adopter un comportement plutôt qu’un autre. » • Antoinette Rouvroy*. * http://www.lemonde.fr/idees/article/2017/12/29/en-2018-resistez-aux-algorithmes-avec-la-philosophe-antoinette-rouvroy_5235555_3232.html 2 PRÉAMBULE
  3. 3. Plateformes ? • Cette gouvernementalité s’exerce au sein des « plateformes » (GAFAM, NATU, BATX en Chine, etc ...) • A. Casilli (je souligne) : « une plateforme est une entité politique, et non pas une simple métaphore – elle illustre les dimensions collectives et la nature consensuelle des négociations qui ont lieu dans son périmètre*. » * http://www.casilli.fr/2017/10/01/de-quoi-une-plateforme-est-elle-le-nom/ • Le périmètre de ces entités « politiques » et donc de leur action politique est avant tout un périmètre « documentaire » : le périmètre des comportements, interactions, individualités, sentiments, expressions, etc … qu’elles sont en capacité de « documenter » au sens premier. • Et je travaille sur les enjeux politiques de cette capacité à documenter. A documenter le réel, à documenter l’inanimé et à documenter le vivant. À une échelle macro et micro. 3 PRÉAMBULE
  4. 4. Au programme Tenter de faire 3 choses. • Dire d’où je parle dans ce livre : – Resituer ce livre, ce recueil d’articles publiés sur mon blog dans le champ des problématiques de mon champ de recherche initial, c’est à dire problématiques documentaires. Liées à l’épistémologie du document. Et comment la dimension « politique » de la gouvernementalité est arrivée au centre de mes réflexions. A partir de 5 « moments » qui ont marqué mon positionnement de chercheur et de citoyen autour des « cultures du numérique ». • Dire de quoi je parle dans ce livre : – d’un moment de crise. Une crise de la gouvernementalité algorithmique. Vous proposer un focus sur « des crises ». Sept crises qui me semblent essentielles. • Ouvrir sur le prochain moment : – 4 interrogations fortes, à la conjonction de la politique, de la gouvernementalité algorithmique et de la documentation. 4 PRÉAMBULE
  5. 5. L’appétit des géants. Pouvoir des algorithmes, ambition des plateformes. • Ce livre est une série de variations sur le même thème : la place du document et de la documentation dans ces « entités politiques » que sont les plateformes. Comprendre pourquoi et comment cette documentation est au service de ce « mode de gouvernement des conduites ». • Et dans ce qui ressemble à une extension presqu’infinie de champ du documentable, de ce qui peut être documenté, puisque même l’être humain est un document, comprendre quelle place peut occuper notre libre arbitre (souvenir de Beckett et de mes études de lettres probablement) dans la tourbe d’un déterminisme algorithmique multi-factoriel que quelques plateformes cristallisent dans nos usages. • Le « libre arbitre » étant, en un sens, ce qui ne peut pas être documenté, ce qui résiste à toute forme de documentation, ou en tout cas ce qui peut permettre une forme de « résilience documentaire », la capacité de prendre acte des activités de documentation qui nous définissent et nous caractérisent au sein de ces plateformes pour mieux s’en abstraire et s‘en éloigner ; pour s’affranchir du déterminisme calculatoire qu’elles pourraient nous imposer. • Une interrogation sur le libre-arbitre qu’Antonio a d’ailleurs très bien observée et décrite dans la préface qu’il a eu la gentillesse d’accepter de rédiger. 5 PRÉAMBULE
  6. 6. NOS PREMIÈRES LIBERTÉS SONT NOS LIBERTÉS DOCUMENTAIRES* 6 * Toutes proportions gardées 
  7. 7. La question documentaire est plurielle. Mais ses enjeux sont toujours, in fine, politiques. • 1ER MOMENT : L’HOMME EST UN DOCUMENT COMME LES AUTRES • Décembre 2007 (Séminaire GDR-Tics). Publication en 2009, dans Hermès, de « l’homme est un document comme les autres ». • Résumé : Les réseaux sociaux posent aujourd'hui, au sens propre, la question documentaire appliquée au facteur humain. La gestion des identités numériques laisse entrevoir la constitution d'un pan-catalogue des individualités humaines, ouvert à l'indexation par les moteurs de recherche, et pose ainsi la question de la pertinence des profils humains. (…) Il devient nécessaire de questionner le processus qui après avoir ouvert l'indexation à la marchandisation, après l'avoir parée de vertus « sociales », place aujourd'hui l'homme au centre même du cycle documentaire, non plus comme sujet-acteur, mais comme un objet-documentaire ... parmi d'autres. La question qui se pose est donc clairement celle du caractère indexable de l'être humain. Celle de savoir si l'Homme est, ou non, un document comme les autres. » • Si l’Homme est un document comme les autres, alors pourquoi en faire collection ? Quel pouvoir en tirera celui qui disposera du catalogue complet de l’humanité connectée ? • Thèse de Suzanne Briet : « Pour S. Briet, tout élément qui fait office de preuve est un document, y compris les êtres vivants, s'ils ont  cette  fonction.  Ainsi  une  antilope  dans  un  zoo  est  une  source  primaire  donnant  naissance  à  une  très  nombreuse  documentation  secondaire. À l'inverse, la même antilope, gambadant libre dans la savane n'a pas de statut documentaire. Selon cette perspective, tout  individu est potentiellement un document s'il est utile à prouver quelque chose. Les hommes vivant en sociétés organisées, tous leurs  faits  et  gestes  sont  potentiellement  utiles  pour  au  moins  trois  champs  de  connaissances  :  le  savoir  scientifique,  le  commerce,  le  politique. » ** • Et aussi de la cybernétique, N. Wiener (être vivant comme système d’information). • Question de la « preuve physique », et derrière la question de la preuve, la question de la vérité. Une interrogation que nous retrouverons plus tard sur les différents « régimes de vérité » à l’œuvre dans les plateformes. 7 INTRODUCTION ** http://blogues.ebsi.umontreal.ca/jms/index.php/post/2010/01/02/Suis-je-un-document
  8. 8. 8 « L’antilope qui court dans les plaines d’Afrique ne peut être considérée comme un document…» « Mais si elle est capturée… et devient un objet d’études, on la considère alors comme un document. Elle devient une preuve physique. » Suzanne Briet INTRODUCTION
  9. 9. La question documentaire est plurielle. Mais ses enjeux sont toujours, in fine, politiques. • 2ème MOMENT : LE GÉNOME COMME PRIMO-DOCUMENT – 2007 : la société 23andMe annonce le séquençage complet de notre génome pour 1000 dollars. Wired titre sur « Welcome to the age of genomics » * – 23andMe est co-dirigée par Anne Wojcicki. Qui épouse Serguei Brin en 2007. Ils ont deux enfants. Se séparent en 2015. Google et 23andMe sont deux entreprises documentaires. Qui ont en commun un objectif de séquençage. « Séquencer » c’est déterminer un ordre (des nucléotides pour la génomique et des informations pour un moteur de recherche), séquencer c’est « organiser », « organiser l’information à l’échelle de la planète » (1er Motto de Google) • 3ÈME MOMENT : « WE SHALL DOCUMENT THEM ». – Mai 2010 : un candidat au congrès américain, républicain, médecin, parle de pucer les immigrés « We shall document them » : "Je pense que nous devrions les attraper, les documenter, s'assurer de savoir là où ils sont et ce qu'ils font. (...) En fait, je soutiens les micropuces. Je peux pucer mon chien pour que je puisse le trouver. Pourquoi ne puis-je pas pucer un clandestin ? »**. – Je rappelle qu’aujourd’hui des entreprises « pucent » leurs employés (volontaires) – On commence à parler et à réfléchir à des dispositifs, à des stratégies de « résistance à la redocumentarisation des humains » *** 9 * https://www.wired.com/2007/11/ff-genomics/ ** https://web.archive.org/web/20100502040045/http://iowaindependent.com/32926/install-microchips-in-illegal-immigrants-gop-candidate-says *** http://blogues.ebsi.umontreal.ca/jms/index.php/post/2010/04/13/R%C3%A9sistance-%C3%A0-la-redocumentarisation-des-humains INTRODUCTION
  10. 10. La question documentaire est plurielle. Mais ses enjeux sont toujours, in fine, politiques. • 5ÈME MOMENT : L’HUMANITÉ SANS DOCUMENTS. – Février 2017 : les « undocumented men » font la une de Time. http://affordance.typepad.com/mon_weblog/2017/02/undocumented-men.html 10 • 4ÈME MOMENT : PREUVE D’UNE SURVEILLANCE DOCUMENTAIRE GLOBALE – Mai 2013 : révélations de Snowden sur la NSA. INTRODUCTION
  11. 11. • 1ER MOMENT : L’HOMME EST UN DOCUMENT COMME LES AUTRES • 2ÈME MOMENT : AVEC LE GÉNOME COMME PRIMO-DOCUMENT • 3ÈME MOMENT : IL EXISTE UNE HUMANITÉ QUI VEUT PUCER UNE AUTRE PARTIE DE L’HUMANITÉ (« WE SHALL DOCUMENT THEM ») • 4ÈME MOMENT : NOUS AVONS LES PREUVES D’UNE SURVEILLANCE DOCUMENTAIRE GLOBALE • 5ÈME MOMENT : IL EXISTE UNE HUMANITÉ « SANS DOCUMENTS ». 11 NOS PREMIÈRES LIBERTÉS SONT NOS LIBERTÉS DOCUMENTAIRES ALORS … SI … QUELQUES SOCIÉTÉS PRIVÉES SUFFISENT-ELLES À EN GARANTIR LE LIBRE EXERCICE ET L’ÉQUILIBRE ? INTRODUCTION
  12. 12. NON. • C’est parce que ces plateformes ont grandi et se sont développées dans un impensé politique – presque – total (heureusement ça va mieux, grâce à ce séminaire et aux travaux de Casilli, Rouvroy, Kaplan, Cardon, Morozov …) • que se manifestent ces crises éthiques individuelles comme autant de symptômes d’un (r)éveil tardif • et que les postures (individuelles et collectives) autour de la gouvernementalité algorithmique se radicalisent et s’essentialisent. 12 Alors qui pour garantir cet équilibre et éviter toute forme d’abus ? INTRODUCTION
  13. 13. • La nature ayant horreur du vide idéologique, face au libertariens, au libéralisme, au capitalisme (linguistique), retour en force de l’analyse Marxiste  13 INTRODUCTION
  14. 14. * http://affordance.typepad.com//mon_weblog/2017/11/contre-nous-algorithmie.html 14 INTRODUCTION
  15. 15. * http://affordance.typepad.com//mon_weblog/2017/11/contre-nous-algorithmie.html 15 2012 2014 INTRODUCTION
  16. 16. Les 7 crises de la gouvernementalité algorithmique Bosch. https://upload.wikimedia.org/wikipedia/commons/0/03/Hieronymus_Bosch-_The_Seven_Deadly_Sins_and_the_Four_Last_Things.JPG 16
  17. 17. 1. La crise du catalogue et de la collection • La figure du catalogue comme modèle, comme paradigme. Toute l’histoire du web s’organise autour de deux figures tutélaires qui sont celles du catalogue et de la collection*. • Tous les grands services du web sont construits et pensés comme des collections (Youtube, FlickR, Wikipédia, etc.). Toutes les grandes plateformes se caractérisent par leur capacité d’avoir la main mise sur le catalogue permettant de naviguer au mieux dans ces collections. – 1968 : Whole Earth Catalogue de Steward Brand. Pionnier de contre-culture. Un « Google fait avec des papiers, de la colle des ciseaux et des photos polaroïd, 30 ans avant Google » Steve Jobs**. – 1994 : Amazon et le web / catalogue des marchandises. – 1996 : Yahoo! et le web / catalogue des adresses – 1998 : Google et le web / catalogue des documents. – 2004 : Facebook et le web / catalogue des profils : Pan-catalogue des individualités humaines. – 20?? : le web / catalogue des objets (IoT) ? Le web / catalogue du génome ? • La « crise » naît ici de l’inadéquation entre le catalogue et la collection, inadéquation entre (l’intentionnalité de) l’activité de collection et l’usage du catalogue. – Au début les gens tapaient dans Google des mots-clés pour trouver des pages pertinentes contenant ces mots-clés, et allaient dans Facebook pour voir ce que faisaient leurs amis. – Aujourd’hui les gens vont dans Facebook pour s’informer sans le vouloir (= ils « sont » passivement informés) et dans Google pour obtenir des confirmations sans le savoir (et réciproquement). Exemple de l’Holocauste qui a vraiment existé. – Du coup ça coince. Et Zuckerberg envisage d’ailleurs de scinder son outil en deux : d’un côté les « status » de ses « friends » et de l’autre les « news » des « médias ». * https://fr.slideshare.net/olivier/lavenir-des-collections-la-bibliothque-comme-mme ** https://www.theguardian.com/books/2013/may/05/stewart-brand-whole-earth-catalog 17
  18. 18. Et si l’histoire des plateformes n’était qu’un hoquet de l’histoire des bibliothèques ? • Assez troublant de constater, quand on connaît l’histoire des bibliothèques, que les grandes plateformes semblent aujourd’hui confrontées aux mêmes enjeux que les bibliothèques dans leur mue depuis bibliothèques de l’ancien régime vers les premières bibliothèques « publiques ». • Elles ont dû – les bibliothèques – inventer des « politiques documentaires ** » pour que leurs collections : – ne se fassent plus de manière « confiscatoire » (comme aux premiers temps d’Alexandrie ou de la Révolution Française) – trouvent un mode équilibré et respectueux de droit à la copie. Qui (ré)autorise la copie. – Repensent les logiques de diffusion et de « public » lors même que toutes ces plateformes (hors peut-être Google) sont des espaces ni publics ni privés mais semi-publics ou semi-privés (danah boyd) 18** la « politique documentaire », c’est à dire la « conception et mise en œuvre de méthodes et d’outils permettant de répondre aux missions de la structure et aux attentes des usagers. » Bertrand Calenge. Données collectées (statut et mode de collecte avec ou sans consentement, explicite ou implicite) Données collectées (statut et mode de collecte avec ou sans consentement, explicite ou implicite) Statut de la copie. Droit à la copie Régulation et financement de la circulation des copies Statut de la copie. Droit à la copie Régulation et financement de la circulation des copies Articulation entre activité de lecture publique et confidentialité de l’acte de lecture privée Articulation entre activité de lecture publique et confidentialité de l’acte de lecture privée 3 piliers des bibliothèques « modernes » Et des plateformes contemporaines. 3 piliers des bibliothèques « modernes » Et des plateformes contemporaines.
  19. 19. 2. Crise de croissance : où est le prochain milliard d’utilisateurs ? • 1ère guerre de croissance : qui aura la plus grosse BdD de pages indexées pour moteurs, base de profils utilisateurs pour réseaux sociaux • 2nde guerre de croissance commence : qui aura le prochain milliard d’utilisateurs (next billion). • Pas trop de choix pour le « Next Billion » d’utilisateurs ce sera soit : – Les enfants * – Les population pauvres et/ou opprimées. Régimes non-démocratiques • Dans les deux cas, énormes enjeux éthiques • Crise de croissance > implique crise de gouvernance (Google en chine, Facebook en Inde, puis récemment en Chine aussi** : « It’s better for Facebook to be a part of enabling conversation, even if it’s not yet the full conversation ») • A tel point que la résolution 2018 de Mark Zuckerberg est de « s’occuper des problèmes de Facebook*** » : – « Le monde semble anxiogène et divisé, et Facebook a beaucoup de travail à faire – qu’il s’agisse de protéger notre communauté contre la cruauté et la haine, de la défendre contre les interférences des Etats, ou de s’assurer que le temps passé sur Facebook est du temps bien dépensé. Mon défi personnel de 2018 est de me consacrer à régler ces problèmes. (…) Nous ne pourrons pas empêcher toutes les fautes et les abus, mais nous faisons pour l’instant trop d’erreurs dans la façon dont nous appliquons nos règles et tentons de contrecarrer les détournements de notre outil. » * http://affordance.typepad.com/mon_weblog/2017/12/kids-united-for-facebook.html ** http://affordance.typepad.com/mon_weblog/2016/11/comment-dit-on-facebook-en-chinois-censure.html *** http://www.lemonde.fr/pixels/article/2018/01/04/la-bonne-resolution-de-mark-zuckerberg-regler-les-problemes-de-facebook_5237671_4408996.html 19
  20. 20. 20 Ceci n’est pas un algorithme. 3. Crise de (l’interface de) la représentation La trahison des images. René Magritte. 1928-1929 La trahison des technologies. Anonyme. Circa 2018
  21. 21. 3. Crise de (l’interface de) la représentation • Une crise de « l’interface ». Crise de ce qui peut / doit être représenté. • Technologies de l’artefact* – des systèmes socio-techniques capables de créer des « représentations volontairement altérées et artificielles de la réalité dans une recherche (une « mimesis ») de la vraisemblance. À coût cognitif et économique quasi-nul. • Même affichée, éditée, animée, photographiée, enregistrée ou filmée de la manière la plus réaliste qui soit, une représentation de la réalité n'est pas la réalité. Le problème c’est qu’à la différence de la peinture et de la démarche artistique de Magritte, le numérique dans son usage trivial est supposé suppléer au vrai. • Les technologies de l'artefact sont un avatar du capitalisme cognitif – forme ultime de spéculation sur le vrai, sur la vraisemblance, une spéculation sur le réel. Un réel qui serai insuffisant, dont nous aurions exploré ou épuisé la quasi-totalité des ressources de vraisemblance et de vérité comme autant de ressources "naturelles", et où il s'agirait maintenant de produire des faits alternatifs au service de réalités fantasmées pour que ces formes de spéculation - bâties sur différents régimes documentaires de l'altération et de la dis-simulation - puissent continuer de se déployer de manière exponentielle. • Technologies de l’artefact disposent d’intentionnalités – souvent cachées, parfois paradoxales (Disparition d’Aylan Kurdi**), culturelles et / ou normatives (nudité, pronographie) et sont servies par des « technologies de la persuasion » (captologie) • Et génèrent d’autres crises potentielles : – faux-positifs*** – biais algorithmiques (racisme, credit-scoring, justice, accès au logement, etc …) http://affordance.typepad.com//mon_weblog/2017/12/gal-gadot-porno-politique-faux-document.html ** http://affordance.typepad.com/mon_weblog/2015/09/recherche-aylan-kurdi.html *** http://affordance.typepad.com/mon_weblog/2017/09/erreur-404-.html 21
  22. 22. 3. Crise de (l’interface de) la représentation • Solution proposée (par les plateformes) : – 1er temps : Editorialisation algorithmique* – 2ème temps : Des interfaces WYSIWYG aux interfaces WYSIWYWTS : What You See Is What You Want To See (cf lettre de facebook). En apparence en tout cas … – WYSITAWYTS : What You See Is What The Algorithm Wants You To See • Cette crise de la représentation annonce aussi une crise de la représentativité, algorithmique et politique => facebook influence vote (on y reviendra) * http://affordance.typepad.com/mon_weblog/2016/11/un-algorithme-est-un-editorialiste-comme-les-autres.html 22 Techno artefactTechno artefact Capitalisme cognitifCapitalisme cognitif Spéculation sur le vraiSpéculation sur le vrai Faux-positifsFaux-positifs Biais algosBiais algos captologiecaptologie Effondrement valeur de preuve Effondrement valeur de preuve Se nourrit / entretient Avec l’appui entraîne Nouvelles croyancesNouvelles croyances Avec le risque Produit / entretient Nx automatismes Arcs Réflexes cognitifs Nx automatismes Arcs Réflexes cognitifs Facilitent installation Qui contribuent Qui alimenteQui vient nourrir
  23. 23. 4. Crise de foi / crise de confiance. • On a de plus en plus de mal à croire ce que l’on voit (cf crise précédente) • On a de plus en plus tendance à ne plus croire à ce que disent nos applications. – Après le doute Cartésien (Descartes), voilà maintenant le doute cardinal (GPS) qui nous amène à remettre en cause ce que disent nos GPS. – « don’t trust your apps » – https://linc.cnil.fr/fr/applications-gps-des-petites-villes-se-rebiffent – http://www.internetactu.net/a-lire-ailleurs/gps-de-la-valeur-par-defaut/ • On ne croit plus au « projet » algorithmique des plateformes – parce que de plus en plus d’observateurs démontrent que la réalité sociale produite par l’exercice algorithmique est le contraire de celle affichée dans le discours marketing des plateformes : – exemple avec le « hack » des données AirB’nB par un observatoire indépendant pour la ville de Bordeaux* : « Beaucoup de gens aux revenus modestes (…) ne trouvent plus de logements à un prix abordable ; Airbnb a raréfié l’offre. De plus en plus de propriétaires utilisent exclusivement cette plateforme pour louer leur bien car cela leur rapporte trois fois la somme qu’ils toucheraient avec un locataire classique. Des gens se retrouvent donc contraints d’aller habiter en dehors de la ville, là où les prix sont moins élevés. A Bordeaux par exemple, en un an, le nombre d’annonces Airbnb a augmenté de 135%. Et 83% des logements loués sont entièrement dédiés à cette activité. On est loin de l’image sur laquelle la plateforme communique, celle de propriétaires qui louent de temps en temps leur résidence principale pour arrondir leurs fins de mois. Airbnb est devenu un business d’investisseurs immobiliers, de gens qui achètent de petits logements, des studios ou des T2, pour les mettre en location via la plateforme et rentabiliser très vite leur achat. La conséquence c’est que beaucoup de jeunes, d’étudiants, de célibataires modestes sont chassés du centre-ville. Il est devenu très difficile de se loger à Bordeaux. » • On se rebelle, on manifeste, parfois violemment. Courant luddite (peut-être parce qu’il est de plus en plus difficile de « jouer » - ludique – avec les algorithmes comme au temps du Google Bombing) * http://www.urbislemag.fr/-airbnb-rarefie-l-offre-de-logements-abordables--billet-433-urbis-le-mag.html 23
  24. 24. 5. La crise de la bulle spéculative des discours. • Pourquoi semble-t-il si difficile pour ces plateformes, avec leurs moyens, techniques, informatiques, financiers, de lutter contre Fake News et / ou les discours de haine ? Pourquoi Facebook annonçait encore récemment qu’il renonçait à signaler Fake News ** ? • Hypothèse : Discours de haine et Fake News comme forme spéculative, inflationniste des régimes discursifs de l’engagement. • Dans contexte de capitalisme linguistique, spéculation est économiquement féconde puisqu'elle alimente en interactions lesdites plateformes. • Laisser se déployer la volumétrie des logiques de harcèlement (ou refuser de prendre les mesures nécessaires pour les stopper rapidement et efficacement) équivaut à entretenir la spéculation linguistique sur des logiques de haine, de détestation, de stigmatisation, de colère, etc. *** • Il y aura toujours des Fake News et des discours de haine sur Facebook. Sauf si on ferme Facebook. Ou sauf si Facebook renonce à son modèle publicitaire. • « nous déclarons que les moteurs de recherche reposant sur un modèle économique de régie publicitaire sont biaisés de manière inhérente et très loin des besoins des utilisateurs. (…) En général et du point de vue de l'utilisateur, le meilleur moteur de recherche est celui qui nécessite le moins de publicité possible pour lui permettre de trouver ce dont il a besoin. Ce qui, bien sûr, condamne le modèle de régie publicitaire de la plupart des moteurs de recherche actuels. (…) nous croyons que le modèle publicitaire cause un nombre tellement important d'incitations biaisées qu'il est crucial de disposer d'un moteur de recherche compétitif qui soit transparent et transcrive la réalité du monde. » **** 24 ** http://www.atlantico.fr/decryptage/facebook-renonce-signaler-fake-news-cliquaient-encore-plus-mal-atteints-nadaud-albertini-nathalie-3267606.html *** http://affordance.typepad.com/mon_weblog/2017/11/sagesse-ou-folie-des-foules.html **** http://affordance.typepad.com/mon_weblog/2016/04/google-appendice-8.html
  25. 25. 6. La crise des régimes de vérité* • Foucault : "Chaque société a son régime de vérité, sa politique générale de la vérité: c’est-à-dire les types de discours qu’elle accueille et fait fonctionner comme vrais ; les mécanismes et les instances qui permettent de distinguer les énoncés vrais ou faux, la manière dont on sanctionne les uns et les autres ; les techniques et les procédures qui sont valorisées pour l’obtention de la vérité ; le statut de ceux qui ont la charge de dire ce qui fonctionne comme vrai." • 3 grands régimes de vérité induits par chaque plateforme : • Google : popularité. Google est une machine à produire de la popularité. Est "vrai" dans l'écosystème Google, au regard des critères de l'algorithme de Google, ce qui est populaire. • Wikipédia : vérifiabilité. Est "vrai" dans l'écosystème Wikipédia ce qui est vérifiable. • Facebook : engagement. FB est une machine à produire de l’engagement. Est "vrai" dans l'écosystème Facebook ce qui permet de produire de l'engagement, d'être "atteint" (le fameux "reach") et, par effet de bord, de "porter atteinte". Peu importe que cela soit "vérifiable", peu importe que cela soit "populaire" (effet de l'illusion de la majorité), il suffit, dans le régime de vérité de Facebook, que cela produise de l'engagement. * http://affordance.typepad.com/mon_weblog/2016/11/un-algorithme-est-un-editorialiste-comme-les-autres.html 25
  26. 26. 6. La crise des régimes de vérité* • Je reviens deux minutes sur Wikipédia (et je souligne) : • "A la différence des lois mathématiques ou scientifiques, la vérité wikipédienne n'est pas basée sur des principes de cohérence ou d'observabilité. Pas davantage qu'elle n'est basée sur le bon sens ou l'expérimentation. Wikipedia a construit un ensemble de standards épistémologiques radicalement différents (...) qui doivent interroger ceux qui sont concernés par le sens traditionnel des notions de vérité et de précision. (…) La ligne officielle de Wikipédia est (…) la suivante : "La condition d'inclusion d'un article dans Wikipédia est la vérifiabilité, et non sa vérité. (…) Alors qu'est-ce que la vérité ? (...) En pratique, le standard d'inclusion des articles mis en place par Wikipedia est devenu, de facto, le standard pour la vérité, et depuis que Wikipédia est la source en ligne la plus lue sur la planète, c'est également le standard de vérité que la plupart des gens utilisent quand ils font une recherche sur Google ou Yahoo. Sur Wikipédia, la vérité est la vue concensuelle d'un sujet. » • Simson Garfinkel. « Wikipédia and the meaning of truth », MIT TecReview, 20 Octobre 2008. https://www.technologyreview.com/s/411041/wikipedia-and-the-meaning-of-truth/ • Il y a un effet de contamination, de percolation, lié aux régimes de vérité. A l’échelle de Wikipédia, est vrai ce qui est vérifiable. Mais à l’échelle documentaire du web, tout ou presque est vérifiable, y compris des contre-vérités. • Cette fracture de la « vérité » est tenable tant qu’elle peut être contrebalancée par la concurrence des régimes de vérité (médiatiques, plateformes, journaux, etc.). Le risque est que des silos de régimes de vérité, étanches les uns aux autres, émergent et ne soient plus en dialogue. • Ce risque c’est la 7ème crise. * http://affordance.typepad.com/mon_weblog/2016/11/un-algorithme-est-un-editorialiste-comme-les-autres.html 26
  27. 27. 7. La crise de la concurrence attentionnelle. • Neutralité du net • Le « web » n’est plus très « net ». • Guerre ouverte des plateformes • 12 décembre : Google empêche appareils Amazon Fire TV et Echo Show d’avoir accès à Youtube. Réaction Amazon : «Google établit un précédent décevant en bloquant de façon sélective l’accès des clients à un site internet ouvert ». Réponse au fait qu’Amazon ne propose pas produits Chromecast et Google Home. http://bo.slate.fr/story/154940/guerre-plateformes-vocales- commence/ • 20 décembre : Amazon dépose deux noms de marques « AmazonTube » et « OpenTube ».https://www.theverge.com/2017/12/20/16802986/amazon-amazontube-opentube-trademark-filing-google-echo- show-feud • 20 décembre : Google annonce un gros Deal avec Universal (prépare son entrée sur Streaming musical) https://scinfolex.com/2018/01/03/le-remix-selon-google-ou-la-culture-web-digeree-par-la-novlangue/ • 21 décembre : Facebook annonce un énorme Deal avec Universal pour réutiliser son catalogue. • https://www.engadget.com/2017/12/21/facebook-deal-lets-you-use-universals-music-in-your-videos/ • Série de « licences globales privées » (Lionel Maurel) • En marche vers le pire cauchemar de TBL : Empilement de réseaux et de services incompatibles les uns avec les autres. Et quand on entend 1ères réactions des opérateurs (dont PDG Orange), on n’est pas rassuré. 27
  28. 28. 28 Crise de l’inadéquation entre l’activité de collection et l’usage du catalogue. Crise de croissance et de gouvernance. Crise de la représentation Crise de foi (et de confiance) Crise spéculative (capitalisme linguistique en crise) Crise (des régimes) de vérité Crise de concurrente attentionnelle favorisée par fin de neutralité du net.
  29. 29. 7 crises de gouvernementalité algorithmique 4 horizons documentaires, politiques et sociétaux assez angoissants. 29
  30. 30. 30 1. Le corps est (en train de devenir) un document comme les autres.
  31. 31. 31
  32. 32. 1. Le corps est (en train de devenir) un document comme les autres. • L'idée selon laquelle, à l'heure des bio-tech et de l'internet du génome, le corps devient une technologie "détachable" dont les traces fondent un bio-capitalisme de la surveillance. • Simondon « un objet technique est produit quand est détachable » • La question du corps (séquençage) comme nouvelle frontière. • Le résultat est une forme de nouveau capitalisme, un capitalisme "biologique" dans l'héritage du capitalisme cognitif et linguistique, qui organise la spéculation sur le corps en jouant de traces extra-corporelles (les capteurs disséminés sur notre corps ou dans notre environnement pour le mesurer) et intra-corporelles (les "marqueurs" au sens génétique du terme). • question de la "pertinence" et donc de la "valeur" d'un documents (web 1.0), • "pertinence" et donc de la "valeur" d'un profil (web 2.0) • question de la "pertinence" et donc de la "valeur" d'un corps. D'un corps dans sa globalité, c'est à dire autant pour l'héritage génétique dont il est porteur que dans sa capacité à s'inscrire dans un ensemble d'interactions sociales pour l'essentiel administrées et régulées dans l'ombre des grandes plateformes d'aujourd'hui et de demain. 32
  33. 33. Téléphoner le livre, télégraphier un Homme, imprimer le vivant. 33 Début 1900, Paul Otlet imagine le « livre téléphoné » : « On peut imaginer le télescope électrique, permettant de lire chez soi des livres exposés dans la salle « teleg » des grandes bibliothèques, aux pages demandées d’avance. Ce sera « le livre téléphoné ». 1948, Norbert Wiener imagine qu’il sera un jour possible de « télégraphier un être humain ». 2017 : on sait « imprimer du vivant » (Bioprinting). https://usbeketrica.com/article/imprimer-humain-complet-possible-un- jour
  34. 34. 2. Totalitarisme des plateformes et néo- fascisme documentaire. • Campagne et présidence de Trump • sa haine viscérale est adressée à des communautés et à des minorités (rien de nouveau sous le fascisme ordinaire ...) • stigmatise principalement ces communautés du fait de leur absence de papiers ("Undocumented Men") • utilise, pour conduire et guider cette haine, les outils et les métriques ne pouvant s'appliquer qu'à une population "sur-documentable". (Cambridge Analytica) ; • toute puissance du discours totalitaire est d'autant plus efficiente qu'elle s'applique à des communautés ciblées parce que sur-documentées (et sur-documentables) ; • Projet fasciste de dessiner et d’opposer deux humanités : d'un côté ceux qu'il est possible de contrôler et de manipuler (les "sur-documentés") et de l'autre ceux contre qui il faut diriger la haine des premiers (les "sous-documentés", la "undocumented mankind"). Le reste est une histoire d’administration (Facebook) qui n’est pour l’instant ni coupable ni complice mais qui fournit et collecte les données. 34
  35. 35. 3. L’effondrement régimes de vérité. • 14 points caractéristiques du fascisme selon Umberto Eco. Parmi lesquels : "Appel à la frustration sociale", "obsession du complot", "populisme sélectif", "novlangue appauvrie et à la syntaxe élémentaire" : ces quatre traits sont aussi (je n'ai pas dit uniquement, j'ai dit "aussi"), ces quatre traits sont aussi les traits les plus saillants de la viralité, ceux dont le déterminisme algorithmique se satisfait le plus, ceux capables de faire du déterminisme algorithmique une arme de destruction matheuse (Weapon of Maths Destruction). • Hannah Arendt : « la pensée idéologique s’émancipe de la réalité que nous percevons (...) et affirme l’existence d’une réalité plus vraie qui se dissimule derrière les choses sensibles. ». • Jusqu'à parvenir à ce point où l'idéologie va totalement couper "les masses" du "monde réel" : • "(elles) ne croient à rien de visible, à la réalité de leur propre expérience. Elles se laissent convaincre, non par les faits, même inventés, mais seulement par la cohérence du système dont ils font partie. » • N’est-ce pas là le principal ressort du déterminisme algorithmique que de s’émanciper aussi de la réalité que nous percevons ? (cf techno de l’artefact) 35
  36. 36. 4. La démocratie publicitaire. • Nous construisons une société dystopique juste en cliquant sur des publicités. • Zeynep Tufekci • dernière élection américaine a été gagnée avec un écart de 100 000 voix. Or un seul affichage d'un petit badge Facebook permettant de vous indiquer lesquels de vos amis sont allés voter a permis d'envoyer aux urnes 340 000 personnes qui sans cela n'y seraient pas allé lors d'élections en 2010 aux USA, expérience reproduite lors des élections de 2012 et qui avait cette fois permis d'amener aux urnes 270 000 nouveaux votants. Tout cela est décrit dans cet article scientifique. https://www.nature.com/news/facebook- experiment-boosts-us-voter-turnout-1.11401 36
  37. 37. 37 As a conclusion. • « Il n’y a pas de démocratie sans exercice de rendu public » #PointStiegler • Les algorithmes sont des formules qui n’ont rien de magique. • Les programmes en charge de les appliquer poursuivent des finalités explicites (au moins pour ceux qui les commanditent et les conçoivent). • À chaque fois dans l'histoire de l'humanité que nous nous sommes mis à calculer, à utiliser des « formules » (cf J. Goody), nous avons été en capacité de produire de nouvelles formes de compréhension du monde. • Se demander ce que ces nouvelles formes de calcul algorithmique (plus rapides, instantanées, difficilement auditables parce qu'invisibles, etc.) sont en capacité de produire comme nouvelles formes de compréhension du monde. • Et de quelles formes de compréhension du monde elles peuvent également … nous priver.
  38. 38. 3838 NOS PREMIÈRES LIBERTÉS SONT NOS LIBERTÉS DOCUMENTAIRES "PUISQUE NOUS ÉTIONS TRAQUÉS, CHACUN DE NOS GESTES AVAIT LE POIDS D’UN ENGAGEMENT." JEAN-PAUL SARTRE. MERCI  QUESTIONS ?

×