Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

3.débat sur les algorithmes

136 views

Published on

formation EMC - 23 janvier 2018 - Angers

Published in: Education
  • Be the first to comment

  • Be the first to like this

3.débat sur les algorithmes

  1. 1. Formation en une image
  2. 2. Le débat Les algorithmes sont-ils les nouveaux décideurs ? http://eduscol.education.fr/philosophie/actualites/cnil-ethique-et-numerique-algorithmes-en https://www.cnil.fr/fr/ethique-et-numerique-les-algorithmes-en-debat-1
  3. 3. Une situation de recherche ● Temps 1. En groupe, mise en situation de préparer une séquence : Le questionnement initial – Que savez-vous ? Vos connaissances, vos échanges et vos recherches – Identifiez des problèmes. Quelques domaines possibles : Santé, emploi, éducation, justice, média, culture, défense, démocratie, assurance, consommation, recherche – Constat d’un manque ? Constat d’un besoin ? ● Temps 2. La recherche : Base de cas et arguments ● Temps 3. Légitimité de cette question – Pourquoi la CNIL s’empare de ce débat ? – Pourquoi est-ce le sujet illustratif choisi pour cette formation eu égard à la problématique de l’EMC que nous avons définie ? – ● Temps 4. Faisabilité d’une séquence en E.M.C. https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux- ethiques-des-algorithmes-et-de
  4. 4. ● 5 groupes de 4 enseignants, de disciplines différentes si possible et d’établissements différents ● Se mettre en situation de créer une séquence à partir de cette problématique : Temps à y consacrer, sujets de recherche, rôles des élèves dans le groupe, productions attendues, quel média, moyens réflexifs à mettre en œuvre, pré-requis ● Vivre l’enquête : se mettre en situation d’élève et constater un manque. ● Le rôle du formateur : aiguiller, donner des pistes, donner des apports, répondre aux questions sur cette notion ● Que savez-vous sur cette question ? ● Quels sont vos besoins d’information ? Que vous manque-t-il ? Le premier travail
  5. 5. Une situation de recherche ● Temps 1. En groupe, mise en situation de préparer une séquence : Le questionnement initial – Que savez-vous ? Vos connaissances, vos échanges et vos recherches – Identifiez des problèmes. Quelques domaines possibles : Santé, emploi, éducation, justice, média, culture, défense, démocratie, assurance, consommation, recherche – Constat d’un manque ? Constat d’un besoin ? ● Temps 2. La recherche : Base de cas et arguments ● Temps 3. Légitimité de cette question – Pourquoi la CNIL s’empare de ce débat ? – Pourquoi est-ce le sujet illustratif choisi pour cette formation eu égard à la problématique de l’EMC que nous avons définie ? – ● Temps 4. Faisabilité d’une séquence en E.M.C. https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux- ethiques-des-algorithmes-et-de
  6. 6. Retour – Que savez-vous ? Vos connaissances, vos échanges et vos recherches – Identifiez des problèmes. Quelques domaines possibles : Santé, emploi, éducation, justice, média, culture, défense, démocratie, assurance, consommation, recherche – Constat d’un manque ? Constat d’un besoin ? – Base de cas et arguments – Pourquoi ce débat aujourd’hui ? – Définition et chaîne de fabrication Une industrie lourde
  7. 7. Formation en une image
  8. 8. Pourquoi cette question maintenant ? ● Pourquoi la CNIL s’empare de ce sujet maintenant ? ● Pourquoi ce choix de formation ? https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux- ethiques-des-algorithmes-et-de
  9. 9. Pourquoi la CNIL s’empare de ce sujet maintenant ? ● Les images : tsunami, déferlement, big data... – s’applique à tous les aspects de la vie économique et sociale – bouscule tous les partages habituels entre privé et public, entre intime et relationnel, entre secret et révélation, entre consentement passif et consentement explicite, entre usage et confiance, – fonde son expansion sur la nature intrinsèquement relationnelle des données, qui décloisonne et fait communiquer toutes les dimensions et tous les domaines d’activité générateurs d’informations * https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux- ethiques-des-algorithmes-et-de * http://books.openedition.org/cdf/4990
  10. 10. ● L’écosystème des données – Mettre en données (objet) l’environnement et le corps et le corps dans l’environnement – Big data, le principe des 4 V : volume, variété, vélocité, véracité – Open data : rendre visible et mettre à disposition pour créer de la valeur et améliorer la société https://www.symbaloo.com/mix/opendata – Mettre en relation les données et faire émerger des corrélations * – Définir des Paterns (modèles) exploitables – Automatiser, industrialiser, commercialiser des services – créer de la valeur – Analyser statistiquement les actions des usagers et en déduire des intentions ** – Automatiser des fonctions intellectuelles humaines (intelligences?) – Déterminismes algorithmiques, transformation des comportements et négociation des usages*** – Une nouvelle économie autour des données, de l’usage contre la propriété, de l’automatisation et l’intermédiation * http://www.tylervigen.com/spurious-correlations * http://books.openedition.org/cdf/4990 ** http://affordance.typepad.com//mon_weblog/2017/02/vie-en-biais.html Pourquoi la CNIL s’empare de ce sujet maintenant ?
  11. 11. ● Le marché des données – Un public captif à satisfaire (fournir un service désirable) et des données comme objet de valorisation – Les interactions et l’asymétrie d’information – Profiler et personnaliser * – Prédire et persuader – contrôler – Travail bénévole à but lucratif – la propriété des données – Au service des plateformes et non de l’usager / consommateur / citoyen / professionnel ** * http://internetactu.blog.lemonde.fr/2017/11/11/la-personnalisation-un-mythe ** http://affordance.typepad.com//mon_weblog/2016/11/un-algorithme-est-un-editorialiste-comme-les-autres.html Pourquoi la CNIL s’empare de ce sujet maintenant ?
  12. 12. Pourquoi la CNIL s’empare de ce sujet maintenant ? ● Un débat public en construction autour d’un acteur incontournable (algorithme) présent dans tous les espaces sociaux – Un besoin de connaissance et de définition du périmètre (cartographie) pour recommander une politique publique – La boite noire des algorithmes (le code ; le citoyen et le service public ; le consommateur et le service au public ; la propriété des données ; retro-ingenierie ; machine learning...) – Des exemples ± médiatisés (APB, élections américaines…)… … et des affaires régulières qui défraient ± l’actualité (apple et l’obsolescence programmée, la faille de sécurité intel...) – Aide à la décision de la puissance publique et question économique de la confiance (LCEN-2004) – Un environnement fictionnel favorable (séries, dystopies…) – Maturité du public (majorité numérique) malgré une faible appétence (réelle ou supposée ?) pour la science et la technique – Une question éducative : Pour une didactique des algorithmes. Entrée par les maths et la technique dans les programmes aujourd’hui ? https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux- ethiques-des-algorithmes-et-de
  13. 13. Pourquoi la CNIL s’empare de ce sujet maintenant ? ● Des raisons plus troubles (difficiles à cernées OU/ET inavouables) d’éducation des publics – Reflux de l’enchantement (désenchantement) – Dialogue entre la tradition et la modernité ● « c’était mieux avant » / « cours le vieux monde est derrière toi » ● ou « ce qui est intrinsèquement nouveau et ce qui perdure » – Dialogue entre une vision élitiste et une vision « populaire » - « donner à manger aux cochons » et « on nous cache tout, on nous dit rien » – Dialogue fondateur de l’environnement socio-technique entre monde ouvert (libre) et monde fermé (propriétaire) – Un effet de mode à mettre à côté des big data et de l’IA… ● Une réponse : Une question éthique de loyauté et de vigilance https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux- ethiques-des-algorithmes-et-de
  14. 14. Pourquoi ce choix de formation ? ● Un constat – Trois acteurs en interaction dans une environnement (modèle de l’orchestre) – Question des usages ou régulation des comportements ● Un parti-pris : appréhender un acteur essentiel et discret dans les programmes, peu questionné par le filtre de l’EMC ● Une question éducative et sociale sur le temps long – Comment médiatiser/vulgariser/didactiser un phénomène essentiel pour comprendre l’évolution de nos sociétés ? – Comment acquérir une connaissance juste du phénomène ? ● Dépasser les effets de mode et les effets de peurs (l’opinion) ● Identifier ce qui perdure, se transforme ou ce qui est radicalement nouveau ? https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux- ethiques-des-algorithmes-et-de
  15. 15. Formation en une image
  16. 16. Formation en une image
  17. 17. Principe de loyauté ● L’intérêt des usagers doit primer l’intérêt des plateformes (conseil d’État – 2014) et de manière générale tout type d’intérêt contraire ● Intérêt des individus, des groupes (constitués ou calculés), de la société, voire de l’espèce ● C’est une obligation faite aux plateformes et à tous les créateurs d’algorithmes ● Pertinence des critères de classement - Des critères de classement documentés ● La question du consentement et et celle de la perte de contrôle (machine learning) https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux- ethiques-des-algorithmes-et-de https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf#page=50
  18. 18. Principe de vigilance ● Questionnement régulier, méthodique et délibératif ● Mesurer en continu des objets instables et changeants qui instrumentent notre société – Prévoir les évolutions par les concepteurs – Obligation de vigilance des usagers (contre la magie) – le doute méthodique ● Favoriser une vision globale et responsabilisante contre une naturalisation des questions techniques – De la chaîne des acteurs (concepteurs, entreprises, citoyens) ● Porteurs de valeurs éthiques et de croyances différentes ● La question des biais cognitifs ● Lutter contre l’indifférence des usagers – Des systèmes d’algorithmes ● Introduire de l’éthique à tous les niveaux Conseil du numérique : comment ouvrir les boites noires, appel à idées ? https://plateformes.cnnumerique.fr/project/defi-1 Conseil du numérique : comment se faire entendre des plateformes ? https://plateformes.cnnumerique.fr/project/defi-2 https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux- ethiques-des-algorithmes-et-de https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf#page=50
  19. 19. Préparer les arguments du débat ● La CNIL https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux-ethiques-des-algorithmes- Des études de cas https://www.cnil.fr/sites/default/files/atoms/files/cr_concertation_citoyenne_algorithmes.pdf Comment permettre à l’homme de garder la main https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf ● Le conseil du numérique https://cnnumerique.fr/ Consultation sur la confiance à l’ère des plateformes numériques https://contribuez.cnnumerique.fr/loyaute/fr Recueil collaboratif d’initiatives en faveur de la confiance https://contribuez.cnnumerique.fr/loyaute/fr/initiatives ● L’INRIA Transalgo https://www.inria.fr/actualite/actualites-inria/transalgo
  20. 20. Les recommandations de la CNIL ● Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique » (concepteurs, professionnels, citoyens) : l’alphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine ; ● Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ; ● Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet « boîtes noires » ; ● Constituer une plateforme nationale d’audit des algorithmes ; ● Encourager la recherche sur l’IA éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général ; ● Renforcer la fonction éthique au sein des entreprises (par exemple, l’élaboration de comités d’éthique, la diffusion de bonnes pratiques sectorielles ou la révision de chartes de déontologie peuvent être envisagées). Synthèse de la consultation de la CNIL Rapport complet
  21. 21. 6 problématiques ● L’autonomie humaine au défi de l’autonomie des machines ● Biais, discrimination et exclusion ● Fragmentation algorithmique : la personnalisation contre les logiques collectives ● Entre limitation des mégafichiers et développement de l’intelligence artificielle : un équilibre à réinventer ● Qualité, quantité, pertinence : l’enjeu des données fournies à l’IA ● L’identité humaine au défi de l’intelligence artificielle https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux- ethiques-des-algorithmes-et-de
  22. 22. Sitographie https://www.numerama.com/ www.leblogducommunicant2-0.com/ https://www.blogdumoderateur.com/ http://www.internetactu.net/ http://www.slate.fr/ https://theconversation.com/fr http://eduscol.education.fr/numerique/tout-le-numerique/veille-education-numerique/fil https://framasoft.org/ https://www.cnil.fr/ https://linc.cnil.fr/ http://www.inaglobal.fr/ http://www.iscc.cnrs.fr/ https://scinfolex.com/ http://affordance.typepad.com//mon_weblog/ https://usbeketrica.com/ https://www.mesdatasetmoi-observatoire.fr/

×