Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Algorithmes Que (nous) font-ils et comment garder le contrôle ?

394 views

Published on

Les algorithmes transforment sensiblement notre relation au monde. Comment en saisir les ressorts, en comprendre les biais et agir en toute connaissance de cause dans son environnement professionnel et citoyen ? Le Mouton Numérique répondait à ces questions lors du cours / atelier « algorithmes : que nous font-ils et comment garder le contrôle » à l’Université de Nanterre, aux étudiants du Master 1 Humanités et Industries Créatives, option Journalisme culturel.

Published in: Internet
  • Be the first to comment

Algorithmes Que (nous) font-ils et comment garder le contrôle ?

  1. 1. Algorithmes Que (nous) font-ils et comment garder le contrôle ? Extrait de Le profil de Jean Melville, Robin Cousin, Ed. FLBLB
  2. 2. Le Mouton Numérique Association qui se donne pour objectif d’interroger notre rapport aux nouvelles technologies et au numérique par l’organisation de rencontres accessibles et ouvertes à tous afin de porter dans le débat public un certain recul critique sur ces questions de société. www.mouton-numerique.org
  3. 3. Acte 2 Dans les biais des algorithmes (et des données !) Acte 3 Algorithmes et pratique du journalisme Déroulé Acte 1 Algorithme : définition
  4. 4. Acte 1 Algorithme : définition Acte 1.
  5. 5. Exercice Une recette de cuisine !
  6. 6. ●  Pour concevoir une recette de cuisine ●  Agencez les cartes pour créer la recette et faire en sorte que quelqu’un d’autre puisse refaire la recette Utilisez les cartes
  7. 7. « Un algorithme est une suite finie et non ambiguë d’opérations ou d'instructions permettant de résoudre un problème ou d'obtenir un résultat » (merci Wikipédia)
  8. 8. 1.  Mettre la farine et les oeufs dans un saladier 2.  Ajouter le lait en mélangeant 3.  Cuire une louche de pâte dans une poêle avec du beurre (salé svp)
  9. 9. Les variables
  10. 10. $ingrédient-1
  11. 11. $ingrédient-1
  12. 12. 1.  Mettre $ingredient-1 et $ingredient-2 dans un saladier 2.  Ajouter $ingrédient-3 en mélangeant 3.  Cuire une louche de (résultat de étapes 1 + 2) dans $ustensile-1 avec $ingrédient-4
  13. 13. 1.  Mettre $ingredient-1 et $ingredient-2 dans un saladier 2.  Ajouter $ingrédient-3 en mélangeant 3.  SI $ustensile-1 est déjà gras : a.  Cuire une louche de (résultat de étapes 1 + 2) SINON : a.  Déposer une mèche de $ingrédient-4 b.  Puis cuire une louche de (résultat de étapes 1 + 2)
  14. 14. 1.  Mettre $ingrédient-1 dans un saladier 2.  Pour chaque $ingrédient-2 présent dans ma boite de 4 $ingrédient-2: a.  Casser $ingrédient-2-X dans le saladier 3.  Ajouter $ingrédient-3 en mélangeant 4.  SI $ustensile-1 est déjà gras : a.  Cuire une louche de (résultat de étapes 1 + 2) SINON : a.  Déposer une mèche de $ingrédient-4 b.  Puis cuire une louche de (résultat de étapes 1 + 2)
  15. 15. 1.  Avec les algorithmes, c’est comme avec Lavoisier : rien ne crée, rien ne se perd, mais tout se transforme. 2.  Les algorithmes sont très bêtes : ils ne savent faire que des opérations basiques (addition, soustraction…) en prenant en compte des opérations logiques : conditions ou boucles. 3.  Les opérations qu’applique un algorithme ne sont pas les siennes mais celle que le développeur lui a dit d’appliquer. In fine
  16. 16. Acte 2 Dans les biais des algorithmes (et des données !) Déroulé.
  17. 17. Ils sont partout !
  18. 18. Bref historique « Ce qui se rattache à l’espèce humaine, considérée en masse, est de l’ordre des faits physiques » Adolphe Quételet (1796 – 1874)
  19. 19. Les humains ne sont pas objectifs
  20. 20. Biais ? On parle de « biais algorithmique » dès lors que des données utilisées pour entraîner des systèmes d’apprentissage automatique reflètent les valeurs implicites des humains impliqués dans la collecte, la sélection ou l’utilisation de ces données.
  21. 21. L’importance des données dans les réseaux de neurones Données (ou « Dataset ») Moulinette très opaque (boîte noire) Résultat
  22. 22. Traduction automatique
  23. 23. Police prédictive
  24. 24. Quelques citations intelligentes Pour Surya Mattu (ProPublica), un biais algorithmique est : « Un ensemble de règles implémentées dans un input (données entrantes), et qui produisent en output (données sortantes) des conséquences différentes pour tel ou tel groupe de personne ». Pour Cathy O’Neil : « Un algorithme, c’est une opinion formalisée dans du code ». C’est à dire un objet social produit par des acteurs, pris dans des faisceaux de pratiques.
  25. 25. « THERE IS NO ALGORITHM. IT'S JUST SOMEONE ELSE'S DECISION. »
  26. 26. Les biais algorithmiques sont-ils conscients ? Oui Non
  27. 27. Oups.
  28. 28. Facebook, biaisé ?
  29. 29. Et nous, biaisé.e.s ?
  30. 30. Facebook fait levier sur nos biais •  Biais de confirmation : désigne le biais cognitif qui consiste à privilégier les informations confirmant ses idées préconçues ou ses hypothèses (sans considération pour la véracité de ces informations) •  Biais de Désirabilité Sociale: consiste a créer un environnement social qui créée une forme de pression pour pousser les utilisateurs a vouloir un produit sans qu'ils en aient nécessairement besoin •  Illusion de récence : nous sommes plus sensibles aux informations récentes, ce biais implique de "faire semblant" qu'une information est nouvelle alors qu'elle est, en fait, "recyclée". •  Biais de Rareté : crée une illusion de rareté pour donner une illusion d'urgence et pousser un consommateur a faire un achat
  31. 31. Bulles de filtres, biais ou modèle économique ?
  32. 32. A qui la faute ? Pour Pablo Barbera, chercheur à l’Université de New York : « Il est aujourd’hui impossible de répondre si oui ou non les algorithmes de recommandation et les techniques de personnalisation nous enferment dans des bulles plus que nous nous enfermons nous-mêmes. »
  33. 33. Comment Facebook choisit le contenu à afficher ? 1.  Inventaire : à la connexion, l’algorithme de Facebook fait un inventaire de tout ce qui a été publié par vos amis et les pages que vous suivez 2.  Signaux : Facebook analyse ensuite les milliers de données (ou signaux) à sa disposition pour prédire les publications qui vous intéressent le plus 3.  Prédictions : Facebook utilise ensuite ces signaux pour faire des prédictions sur le contenu qui pourrait vous intéresser, on parle : d’un contenu que vous aimeriez lire, d’un contenu que vous trouveriez utile ou informatif, d’un contenu sur lequel vous aimeriez interagir 4.  Score : Facebook classe les publications dans votre fil d’actualités. Pour ça, il leur attribue un score de pertinence (qui évalue votre intérêt supposé pour une publication)
  34. 34. On ne cherche pas sur Facebook
  35. 35. A quelle question répond l’algorithme de Facebook ? Pour Olivier Ertzcheid, chercheur à l’université de Nantes : « Le problème de l'algorithme de Facebook est de savoir comment inciter des gens à interagir avec des contenus qui ne les concernent pas et qu'ils ne recherchent pas. »
  36. 36. Un autre Facebook est-il possible ? Votre mission (si vous l’acceptez) : reconstruire Facebook pour qu’il nous informe « bien » Vous devez couvrir la période suivante : des rumeurs circulent quant à l’éventuelle démission de Trump. A la fin de cette séquence, Trump démissionne. Comment l’algorithme évolue-t-il au cours de cette période, quels contenus sont affichés sur Facebook ? à Dessinez votre mur !
  37. 37. Quelques pistes : •  Actualité variée (locale, internationale) •  Information recoupée à partir de différentes sources (personnes, points de vue) •  Pas forcément de l’actualité chaude ni du scoop •  Pas forcément destinée à vous faire réagir •  Etc.
  38. 38. Acte 3 Algorithmes et pratique du journalisme Acte 3
  39. 39. Robot + travail = ?
  40. 40. Quelques questions CC Mirko Tobias Schäfer •  Comment fonctionnent les algorithmes supposés remplacer ou aider les journalistes dans certains de leurs tâches •  Quels contenus vont être automatisés ? •  Quel regard critique poser sur leur « efficacité » ? •  Comment la profession peut-elle réagir pour ne pas « se faire dépasser » ? •  Et même… •  Comment le journaliste peut utiliser les algorithmes pour améliorer sa pratique ?
  41. 41. Fin du travail ? https://willrobotstakemyjob.com
  42. 42. Que fait l’automatisation ?
  43. 43. Déplacement, remplacement, parcellisation ?
  44. 44. Mais encore ?
  45. 45. Comme si cela ne suffisait pas… •  La presse va mal (kiosques désertés, rédactions décimées) •  Défiance importante envers la profession, et les médias en général •  Perte de contrôle sur la distribution des nouvelles, au profit des plateformes (et des assistants vocaux) •  La « vérité » et les faits sont des notions (encore plus) relatives que jamais L’important n’est plus que les histoires soient vraies, mais que les gens cliquent •  Les nouveaux médias ont aussi des biais, notamment dans le fait qu’ils favorisent des réponses très émotionnelles. Ils nous proposent d’interagir avec des choses, plutôt que de les comprendre •  L’information est abondante, on parle d’ « infobésité » •  Les journalistes ne sont plus les seuls producteurs de contenu, une certaine partie de la population s’y est mis •  Etc. Bon courage
  46. 46. Le futur a une tête de robot
  47. 47. Fichier tabulé
  48. 48. En 2015, la commune comptait 920 habitants, en diminution de -3,36 % par rapport à 2010 (Eure-et-Loir : 1,9 %, France hors Mayotte : 2,49 %).
  49. 49. En 2015, la commune comptait $var1 habitants, en $var2 de $var3 % par rapport à 2010 ($var4 : $var5 %, $var6 : $var7 %). En 2015, la commune comptait 920 habitants, en diminution de -3,36 % par rapport à 2010 (Eure-et-Loir : 1,9 %, France hors Mayotte : 2,49 %).
  50. 50. 2 composantes à cette automatisation 1/ La publication automatique par les machines, directement sur les sites web et les applis 2/ L’envoi de messages courts à la rédaction qui choisit, ou pas, de les intégrer dans sa production.
  51. 51. Ils sont déjà parmi nous 2 (le retour)
  52. 52. Ouf ! “Quakebot neatly illustrates the present limitations of automated journalism. It can’t assess the damage on the ground, can’t interview experts, and can’t discern the relative newsworthiness of various aspects of the story.”
  53. 53. Je m’en fous je veux bosser à la télé
  54. 54. Quelques acteurs…
  55. 55. Match LO-SPG Date : samedi 23 septembre 2017 Heure de début : 20h02 Heure de fin : 21h45 Lieu : Paris-Saint-Gervais Equipe 1 : LO Equipe 1, Joueur 1 : Tony Lopes Equipe 1, Joueur X : … Equipe 2 : SPG Equipe 2, Joueur 1 : Siago Thilva Equipe 2, Joueur X : .... Résultats : 2-0 2:27 : Faute de XX 4:47 : But de XX LO a mis la pâté au SPG ! Quel match ce samedi soir au Paris-Saint-Gervais ! LO a mené par 2 buts de Tony Lopes le SPG de Siago Thilva.
  56. 56. 0-0 match nul Egalité match nul Victoire dans la moyenne des victoires remporté Défaite dans la moyenne des défaites vaincu Victoire dans le premier décile triomphe Défaite dans le dernier décile humiliation
  57. 57. Schema.org
  58. 58. A vous de jouer Votre rédac chef vous demande d’écrire un article sur la meilleure enceinte connectée du moment Vous avez une startup et vous souhaitez uberiser le journalisme d’investigation. Votre modèle : Elise Lucet Vous travaillez à la rubrique éco d’un grand journal national, on vous demande de faire un point sur la situation de l’emploi en France
  59. 59. MERCI ! www.mouton-numerique.org bonjour&@mouton-numerique.org Twitter : @MoutonNumerique

×