SlideShare a Scribd company logo
1 of 69
Download to read offline
RENDRE LA COMPLEXITÉ INTELLIGIBLE
OU DE LA RÉGULATION DES ALGORITHMES
NOS SYSTÈMES BY FING
Présentation des pistes d’innovations NosSystèmes, un groupe de travail de la Fing, soutenu par le
SGMAP - Hubert Guillaud - Thierry Marcou - juin 2017 

http://www.fing.org - http://www.internetactu.net
L’INTUITION
POUR UNE RÉTROINGÉNIERIE SOCIALE
DES SYSTÈMES TECHNIQUES
http://www.internetactu.net/2016/01/13/nos-systemes-pour-une-retroingenierie-des-systemes-techniques/
« TOUCHE 

PAS AU 

SYSTÈME,
SALO… !»
FB,…
70 MILLIONS DE
CALCULÉS
ALGORITHMES, BIG DATA, MACHINE LEARNING, IA
FAIBLE, IA FORTE, IA SUPERVISÉE, IA NON SUPERVISÉE,
APPRENTISSAGE AUTOMATISÉ, SYSTÈMES PRÉDICTIFS,
YIELD MANAGEMENT, SCORING, MODÈLES,
PLATEFORMES, LOGICIELS, PROGRAMMES…
L’ARBRE DE L’IA NE DOIT PAS CACHER LA FORÊT DES
SYSTÈMES…
« LE MONDE NE PEUT PAS ÊTRE
ADMINISTRÉ D’UNE MANIÈRE
ININTELLIGIBLE AUX GENS QUI
L’HABITENT »…
Nos Systèmes : pour une rétroingénierie sociale 

des systèmes techniques 

http://www.internetactu.net/2016/01/13/nos-systemes-pour-une-retroingenierie-des-systemes-techniques/
COMPRENDRE COMMENT NOUS SOMMES CALCULÉS ET RENDRE LES
CALCULS À CEUX QUI SONT CALCULÉS
OUVRIR UN DIALOGUE NON TECHNIQUE AVEC LA TECHNIQUE
UN SYSTÈME TECHNIQUE PLUS INTELLIGIBLE OUVRE DE NOUVELLES OPPORTUNITÉS
L’enjeu de la conception : « Si les calculs façonnent la société, alors
cela doit avoir des incidences sur la manière dont la société en
choisit les règles, en conçoit les fonctionnements - c’est-à-dire leur
conception sociale. »
L’enjeu des nouvelles opportunités : Trop de stratégies sont liées à
l’opacité. Des formes de transparences - permettant de discuter des
critères, des seuils, des modalités - peuvent-elles libérer de
nouvelles opportunités d’affaires ?
L’enjeu de la confiance : Le risque de l’opacité est qu’elle génère
une défiance toujours plus grande envers les objets techniques à
mesure qu’ils se répandront dans la société. L’opacité n’est pas
soutenable. Et l’objectivation des comportements que les
calculateurs proposent ne suffira pas à rétablir la confiance !
5 PISTES D’INNOVATIONS
▸ la responsabilité par la médiation :
organiser le dialogue et la médiation entre
les systèmes et la société
▸ l’explicabilité : expliquer, se signaler, se
faire comprendre, rendre lisible
▸ la jouabilité : l’interaction pour
comprendre, améliorer et rendre réactif
▸ la symétrie : vers une parité des traitements
▸ la justicialibilité (open science) :
encourager les « bonnes pratiques »
d’ouverture et de partage
LA RESPONSABILITÉ
L’ENJEU DU DIALOGUE 

ET DE LA MÉDIATION
1re piste d’innovation
QUI EST RESPONSABLE ?
VOLKSWAGEN, UBER, ETC.
http://www.internetactu.net/2015/09/29/qui-nous-protegera-des-logiciels-
tricheurs/ 

http://www.internetactu.net/2017/04/11/uber-les-gouvernances-fantomes/
SI LES SYSTÈMES NE SONT JAMAIS RESPONSABLES, C'EST D'ABORD PARCE
QU'ILS NE SONT JAMAIS JOIGNABLES, JAMAIS ACCESSIBLES.
LA QUESTION DE LA RESPONSABILITÉ POSE D'ABORD LA QUESTION DU DIALOGUE,
DES VOIES DE RECOURS DES UTILISATEURS CONFRONTÉS AUX SYSTÈMES
TECHNIQUES. OR, CETTE QUESTION DU DIALOGUE ENTRE LES UTILISATEURS ET LES
SYSTÈMES TECHNIQUES SEMBLE TOUJOURS NIÉE, MINIMISÉE SOUS PRÉTEXTE DE
LEUR COMPLEXITÉ TECHNIQUE. JOINDRE LE RESPONSABLE TECHNIQUE NE SUFFIT
PAS !
Nicholas Diakopoulos

http://www.internetactu.net/a-lire-ailleurs/comment-rendre-les-algorithmes-responsables/
PAS DE RESPONSABILITÉ SANS DIALOGUE
LE DIALOGUE EST PARTOUT
STRUCTURER LES MODALITÉS DU
DIALOGUE
L’ORGANISATION DU DIALOGUE
EXISTE DÉJÀ…
BASE DE CONNAISSANCE, SERVICES DE RÉPONSES EN LIGNE,
ORGANISATION DE LA RELATION USAGER, STANDARDISATION,
ORGANISATION DES CHAINES DE TRAITEMENT DES DEMANDES,
SOLUTIONS CROSS-CANAL…
Le modèle : https://www.service-public.fr
« FACE À UNE BUREAUCRATIE OU À UN SYSTÈME TECHNIQUE,
L’ATTENTE DES USAGERS EST LA MÊME. CE QUE VEULENT LES
USAGERS, CE N’EST PAS UN MUR, MAIS UN DIALOGUE,
NOTAMMENT PARCE QUE SOUVENT, L’EXPRESSION DE LEUR
QUESTION EST COMPLEXE ET QU’IL FAUT UN HUMAIN POUR LA
COMPRENDRE ET PROPOSER UNE RÉPONSE ADAPTÉE. »
Bénédicte Roullier

responsable du département Administration numérique au SGMAP
BUG@SYSTEMETECHNIQUE.COM NE SUFFIT PAS !
DES IDÉES POUR DES LEVIERS !
COMMENT AMÉLIORER LA RÉPONSE ET LA
RESPONSABILITÉ ? PRENDRE LA MÉDIATION AU SÉRIEUX !
▸ Prendre la médiation au sérieux : équipe
dédiée à la qualité du dialogue usager
▸ Le pourcentage médiation : quelle part
du budget des équipes est dédiée à la
médiation ?
▸ De nouvelles contre-parties : de
nouveaux droits pour les calculés
▸ Une échelle de responsabilisation : Vers
une grille ou une labélisation des
niveaux de médiation
▸ …
AMÉLIORER LA QUALITÉ DE LA RÉPONSE HUMAINS-ALGOS
PRENDRE LA MÉDIATION AU SÉRIEUX
- Des systèmes dédiés à la médiation : http://www.service-public.fr
- Des équipes interfaces entre le système et les usagers (Chargé de relation usagers comme on a
ingénieurs qualité ?) : http://facebook.com/compassion - http://alireailleurs.tumblr.com/post/
141246307693/g%C3%A9rer-les-ruptures-new-york-times
- L’expérience usager au coeur des systèmes : du modèle service client d’Amazon aux systèmes de
feedback permanents…
- Faire monter le niveau d’exigence : obligations de réponse, engagements sur les délais de réponse,
etc. (référentiel Marianne), motivation des décisions…
- Vers des « Ecosystèmes de la médiation » : Démultiplier les médiateurs et les outils de médiation,
tisser des partenariats entre différents types de médiateurs (internes, externes, médias…).
AMÉLIORER LA QUALITÉ DE LA RÉPONSE HUMAINS-ALGOS
LE POURCENTAGE MÉDIATION
- Managers de la médiation : des community managers dédiés ?
- Forums, Base de connaissance, numéro verts, etc. Vers des services d’assistance obligatoire ou
minimums ?
- Les systèmes techniques permettent des économies d’échelles… Quel pourcentage du budget d’un
projet est dédié à la médiation, à la relation humaine ? Peut-on imaginer une labélisation qui
prendrait en compte le niveau du budget ou les attributions des personnels dédiés à la relation (1%
- 5% - 20% - 50%)… ?
AMÉLIORER LA QUALITÉ DE LA RÉPONSE HUMAINS-ALGOS
VERS DE NOUVELLES CONTRE-PARTIES ?
- « Toute extension du calcul nécessite d’étendre ses contre-parties » : http://www.internetactu.net/
2015/06/04/toute-extension-de-la-surveillance-necessite-detendre-ses-contreparties/
- Droit de réponse, de modification, de suppression, de contestation, de compensation… Redonner
du pouvoir à ceux auxquels les calculs nuisent. Besoin de nouvelles garanties face à des systèmes
qui se considèrent trop souvent comme infaillibles… Besoin de faciliter des réponses opposables
aux traitements, des procédures de contestations avec des compensations, notamment en cas
d’abus de faiblesse, d’abus d’asymétrie, etc.
- Obligation minimale au bouton d’alerte (« panique bouton ») : coordonnées, bouton d’arrêt,
possibilité de joindre quelqu’un avec délai de réponse minimal et indiqué… sont un MINIMA
obligatoire.
AMÉLIORER LA QUALITÉ DE LA RÉPONSE HUMAINS-ALGOS
VERS UNE ÉCHELLE DE RESPONSABILISATION ?
Niveau 0 : aucune modalité d’assistance voir
difficulté à trouver l’information
Niveau 1 : Contact : on peut joindre le
système seulement en-dehors du système (e-
mail, numéro vert, panic bouton…)
Niveau 2 : systèmes auto-assistants
Niveau 3 : personnalisation des réponses
Niveau 4 : modalités de médiation
organisées et distribuées, obligation à
répondre…
Niveau 5 : assistance déportée : l’assistance
va répondre aux utilisateurs même en-dehors
du système.
Niveau 6 : droit de contestation,
compensation, modification : l’assistance
offre des compensations aux calculés
Peut-on imaginer une échelle d’évaluation
de la médiation/responsabilisation
permettant de noter le nombre de
modalités de médiation accessibles,
d’évaluer le niveau d’assistance et de
réponse offerts par le système ?
Label extérieur ou grille d’auto-évaluation
pour permettre aux systèmes d’évaluer
leur niveau de responsabilisation ?
Faut-il établie une grille de la
responsabilisation des organisations,
comme on dispose d’une grille
d’ouverture des données dans les
organisations : http://infolabs.io/cd16
L’EXPLICABILITÉ
L’ENJEU DE LA COMPRÉHENSION
2e piste d’innovation
LA SOCIÉTÉ A UN DROIT
D’EXPLICATION
DES TECHNOLOGIES IMPÉNÉTRABLES ?
http://internetactu.blog.lemonde.fr/2016/10/30/lintelligence-artificielle-va-t-elle-rester-impenetrable/
QUELQUES SOIENT LES MODALITÉS D’APPRENTISSAGE DES ALGORITHMES (« SUPERVISÉ », « NON
SUPERVISÉ » OU « PAR RENFORCEMENT »), LES MACHINES N’ACQUIÈRENT PAS POUR AUTANT
D’AUTONOMIE AU SENS PHILOSOPHIQUE, CAR ELLES RESTENT SOUMISES AUX CATÉGORIES ET FINALITÉS
IMPOSÉES PAR CEUX QUI AURONT ANNOTÉ LES EXEMPLES DANS LA PHASE D’APPRENTISSAGE. (…) CELUI
QUI CONFIGURE L’ALGORITHME D’APPRENTISSAGE PAR RENFORCEMENT CHOISIT LUI-MÊME LE CRITÈRE À
OPTIMISER, SANS QUE LA MACHINE SOIT EN MESURE DE LE CHANGER.
« LES MACHINES NE MODIFIENT PAS D’ELLES-MÊMES LE LANGAGE DANS LEQUEL S’EXPRIMENT LES
OBSERVATIONS QUI ALIMENTENT LEURS MÉCANISMES D’APPRENTISSAGE ET LES CONNAISSANCES
QUELLES CONSTRUISENT. »
Jean-Gabriel Ganascia
in Le mythe de la Singularité
EXPLIQUER NE DÉGRADE PAS LA QUALITÉ OU LA ROBUSTESSE D’UN
SYSTÈME
L’ABSENCE
D’INTERPRÉTABILITÉ N’EST
PAS UNE OPTION.
http://internetactu.blog.lemonde.fr/2016/10/30/lintelligence-artificielle-va-t-elle-rester-
impenetrable/
L’EXPLICABILITÉ N’EST PAS NÉGOCIABLE ! CE QUI N’EST PAS EXPLICABLE
NE PEUT ENTRE EN DISCUSSION AVEC LA SOCIÉTÉ !
L’ENJEU EST D’EXIGER LA TRANSPARENCE DES FINALITÉS. IL NE
PEUT Y AVOIR DE MOTIVATIONS DES DÉCISIONS SANS
CAUSALITÉS, SANS EXPLIQUER CES MOTIVATIONS ET LES
COMMUNIQUER SOUS UNE FORME INTELLIGIBLE.
Antoinette Rouvroy

http://www.internetactu.net/2016/03/16/algorithmes-et-responsabilites/
PAS DE SOCIÉTÉ SANS MOTIVATION DES DÉCISIONS : L’EXPLICABILITÉ N’EST
PAS PROCÉDURALE !
COMPRENDRE, RENDRE
ACCESSIBLE
PÉDAGOGIE FIRST
L’EFFORT CONTINUE POUR RENDRE LA
COMPLEXITÉ COMPRÉHENSIBLE…
FAQ, VIDÉOS, SCHÉMAS, VISUALISATIONS,
INFOGRAPHIES, TUTORIELS, SIMULATEURS…
« LA TRANSPARENCE NE SUFFIT PAS »
Kate Crawford

http://www.internetactu.net/2017/01/13/la-transparence-ne-suffira-pas/
http://www.internetactu.net/2016/11/28/comment-armer-la-transparence/
EXPLIQUER, EXPLIQUER ET ENCORE EXPLIQUER
DES IDÉES POUR DES LEVIERS !
SOUTENIR L’EFFORT PERMANENT
D’INTELLIGIBILITÉ
▸ Expliquer : la pédagogie comme
support
▸ Se faire comprendre : donner
accès aux paramètres, aux finalités,
aux causes, aux enjeux : les enjeux
pour comprendre la Big Picture
▸ Se signaler : « vous avez été
calculés »
AMÉLIORER L’INTELLIGIBILITÉ
EXPLIQUER : LA PÉDAGOGIE COMME SUPPORT
- Infographies, vidéos explicatives… Dès que des systèmes sont en jeux, l’effort pédagogique est
multiple. Il faut expliquer les principes, montrer comment cela fonctionne… préciser les enjeux.
Détailler les paramètres pris en compte, les données (quels sont les données, les exemples qui le
nourrissent), les finalités que l’on demande au système (qu’est-ce qu’on lui demande d’optimiser)
http://www.r2d3.us/lapprentissage-automatique-en-images-chapitre-1/ 

https://blog.juliedesk.fr/2016/11/03/presentation-assistante-intelligence-artificielle-infographie/ 

https://www.youtube.com/watch?v=DywO4zksfXw 

https://www.abondance.com/actualites/20160129-16083-infographie-comment-fonctionne-
google-2.html
- Expliquer, c’est déplier, mettre à plat, sortir les tensions… Vers un « SystemViz » : rendre visible
l’architecture fonctionnelle des systèmes ?
- 

AMÉLIORER L’INTELLIGIBILITÉ
SE FAIRE COMPRENDRE : DONNER ACCÈS AUX PARAMÈTRES, AUX FINALITÉS, AUX CAUSES, AUX ENJEUX
- Donner accès aux catégories dans lesquelles vous êtes calculés, à ce qui est pris en compte pour le
calcul est essentiel. C’est ce que propose par exemple Google ou Facebook en donnant accès aux
« catégories » qui permettent de calculer nos profils. Trop souvent pourtant, cet accès est limité à ce
que le calculateur sait de nous, sans donner la « Big Picture », les enjeux, la finalité du calcul : s’il
permet de supprimer des catégories (de minimiser leur prise en compte), il permet plus rarement
d’en ajouter, d’en changer… Les systèmes doivent expliciter leurs enjeux, donner à lire leur « Big
Picture », expliquer leurs finalités… 



Amazon : la personnalisation de son moteur de recommandation : https://www.amazon.fr/gp/
yourstore/iyr?ie=UTF8&ref_=ya_improve_recommendations& 

Google et ses catégories : https://accounts.google.com/Login?continue=https://
myactivity.google.com/myactivity&hl=fr et https://www.google.com/settings/u/0/ads/authenticated?
hl=en 

Facebook : sites et thèmes publicitaires : https://www.facebook.com/about/ads 

Twitter : https://twitter.com/settings/your_twitter_data
- Se faire comprendre pour rétablir la confiance 

« les gens ont plus confiance dans les algorithmes quand ils peuvent en ajuster les variables, même si
ce sont des variables qui n'ont pas d'effets sur le modèle. Quand ils peuvent prendre part à la
décision et l'utiliser pour ajuster leur jugement, leur niveau de confiance remonte. »

http://alireailleurs.tumblr.com/post/111360073624/laversion-aux-algorithmes-knowledgewharton
AMÉLIORER L’INTELLIGIBILITÉ
SE SIGNALER : « VOUS AVEZ ÉTÉ CALCULÉS ! »
- La « loi du drapeau rouge » : les systèmes autonomes doivent se signaler comme tels ? http://
www.numerama.com/politique/222569-tribune-doit-on-voter-une-loi-du-drapeau-rouge-pour-
lintelligence-artificielle.html - Les systèmes ne doivent pas nous tromper !
- Un prix calculé algorithmiquement doit se signaler. Une décision calculée ou tirée au sort également.
Une interaction avec un système automatisé doit se signaler comme tel à l’utilisateur qui y est
confronté et ne pas se faire passer pour un humain.
- Signaler c’est un premier pas pour encourager la motivation des décisions et leur explication.
LA JOUABILITÉ
L’ENJEU DE L’INTERACTION
3e piste d’innovation
FACE AUX SYSTÈMES, LA RÉTROINGÉNIERIE
NE PEUT PAS ÊTRE PERSONNELLE
DANSER AVEC LES SYSTÈMES
TECHNIQUES
http://www.internetactu.net/2013/10/08/surveiller-les-algorithmes/
LA RÉTRO-INGÉNIERIE,
RESTE TECHNIQUE !
L’OBSERVATION
PERSONNELLE 

NE SUFFIT PAS
A MESURE QUE LA COMPLEXITÉ
AUGMENTE, BESOIN D’OUTILS POUR
COMPRENDRE CE QUE LES
ALGORITHMES OPTIMISENT
VRAIMENT…
HTTP://ALGOTRANSPARENCY.ORG
« VOUS NE SAVEZ PAS VRAIMENT CE QUE FAIT UN MODÈLE TANT
QUE VOUS NE POUVEZ PAS INTERAGIR AVEC LUI. VOUS NE SAVEZ
PAS SI UN MODÈLE EST ROBUSTE TANT QUE VOUS NE POUVEZ PAS
JOUER AVEC SES PARAMÈTRES. ENFIN, VOUS NE SAVEZ PAS SI UN
MODÈLE EST LE MEILLEUR POSSIBLE TANT QUE VOUS N’AVEZ PAS
LAISSÉ LES GENS ESSAYER DE L’AMÉLIORER. »
Cathy O’Neil

http://www.internetactu.net/2014/11/18/ouvrir-les-modeles-pas-seulement-les-donnees/

http://www.internetactu.net/2016/06/29/il-est-plus-que-temps-que-le-big-data-evalue-ses-impacts/
ACCÉDER AUX PARAMÈTRES POUR COMPRENDRE
TESTER C’EST AMÉLIORER
FAIRE QUE LE MODÈLE CALCULE BIEN
LA BONNE CHOSE !
L’exemple des algorithmes pour prédire la récidive : http://www.internetactu.net/a-lire-ailleurs/
144849747113/ et 

http://www.internetactu.net/2016/06/29/il-est-plus-que-temps-que-le-big-data-evalue-ses-impacts/
EVALUER L’EFFICACITÉ
A DÉFAUT D’OUVERTURE, INTERROGER
LES MODÈLES
Predpol : http://www.laviedesidees.fr/A-qui-profite-le-crime.html et http://www.internetactu.net/2015/06/23/
predpol-la-prediction-des-banalites/
« LA TRANSPARENCE NE SUFFIT PAS »
Kate Crawford

http://www.internetactu.net/2017/01/13/la-transparence-ne-suffira-pas/
http://www.internetactu.net/2016/11/28/comment-armer-la-transparence/
LE LEVIER DE LA TRANSPARENCE NE SUFFIT PAS !
DES IDÉES POUR DES LEVIERS !
JOUER !
▸ Jouer pour comprendre : se faire
une idée des paramètres,
comprendre c’est toucher
▸ Feedback pour améliorer : intégrer
le retour, boucle de rétroaction
vertueuse, améliorer, rendre les
systèmes robustes
▸ Simuler et tester, c’est apprendre
▸ Donner accès aux paramètres pour
redonner confiance
INTERAGIR POUR ÉVALUER : JOUER, C’EST RENDRE TRANSPARENT
JOUER POUR COMPRENDRE
- A défaut d’accéder au « code », aux « modalités », exemples, modèles, données et paramètres… des
algorithmes « privés », sous copyright, permettre de jouer …
- - pour le producteur, permet de tester leur robustesse sans dégrader le système, d’introduire des
accès à de nouveaux paramètres, d’améliorer avec les utilisateurs ;
- - pour l’utilisateur, permet de tenter de les comprendre ou d’entendre leur fonctionnement, de faire
remonter des problèmes ;
- Développer des espaces de tests, de jeux, c’est aussi permettre de faire de la médiation et de
l’explicabilité, par l’exemple.
- Calculateurs d’itinéraires permettent de jouer. Tarification automatique (SNCF, Avion) où les usagers
jouent pour comprendre. Mais beaucoup de systèmes ne permettent pas de jouer, de comprendre.
INTERAGIR POUR AMÉLIORER
BOUCLE DE RÉTROACTION
- Les plateformes analysent en permanence leurs utilisateurs pour améliorer leurs services. Le jeu, l’espace de
simulation et de test, est un espace de test et d’amélioration privilégié des services.
- Comprendre pourquoi les utilisateurs cherchent à vous contourner et le meilleur moyen pour y répondre.
- Besoin de mesurer l’appréciation morale que les utilisateurs auront de vos améliorations : Le contre-exemple
d’Uber : http://www.internetactu.net/2017/04/11/uber-les-gouvernances-fantomes/
- ATTENTION : beaucoup de jeux n’en sont pas ! Ils sont procéduraux ! Ils n’aident à rien ! http://
www.simulation-apb.fr/
ACCÉDER À DES OUTILS DE SIMULATION POUR APPRÉCIER LES SYSTÈMES
SIMULER ET TESTER
- A défaut d’accéder au « code », aux « modalités », exemples, modèles, données et paramètres… des
algorithmes « privés », sous copyright, permettre de jouer …
- - pour le producteur, permet de tester leur robustesse sans dégrader le système, d’introduire des
accès à de nouveaux paramètres, d’améliorer avec les utilisateurs ;
- - pour l’utilisateur, permet de tenter de les comprendre ou d’entendre leur fonctionnement, de faire
remonter des problèmes ;
- Développer des espaces de tests, de jeux, c’est aussi permettre de faire de la médiation et de
l’explicabilité, par l’exemple.
AMÉLIORER L’INTELLIGIBILITÉ
SE FAIRE COMPRENDRE : DONNER ACCÈS AUX PARAMÈTRES
- Donner accès aux catégories dans lesquelles vous êtes calculés, à ce qui est pris en compte pour le
calcul est essentiel. C’est ce que propose par exemple Google ou Facebook en donnant accès aux
« catégories » qui permettent de calculer nos profils. Trop souvent pourtant, cet accès est limité à ce
que le calculateur sait de nous, sans donner la « Big Picture » : s’il permet de supprimer des
catégories (de minimiser leur prise en compte), il permet plus rarement d’en ajouter, d’en changer… 



Amazon : la personnalisation de son moteur de recommandation : https://www.amazon.fr/gp/
yourstore/iyr?ie=UTF8&ref_=ya_improve_recommendations& 

Google et ses catégories : https://accounts.google.com/Login?continue=https://
myactivity.google.com/myactivity&hl=fr et https://www.google.com/settings/u/0/ads/authenticated?
hl=en 

Facebook : sites et thèmes publicitaires : https://www.facebook.com/about/ads
- Se faire comprendre pour rétablir la confiance 

« les gens ont plus confiance dans les algorithmes quand ils peuvent en ajuster les variables, même si
ce sont des variables qui n'ont pas d'effets sur le modèle. Quand ils peuvent prendre part à la
décision et l'utiliser pour ajuster leur jugement, leur niveau de confiance remonte. »

http://alireailleurs.tumblr.com/post/111360073624/laversion-aux-algorithmes-knowledgewharton
LA SYMÉTRIE
POUR UNE ÉQUITÉ DES TRAITEMENTS
4e piste d’innovation
LES TRAITEMENTS PEUVENT-ILS ÊTRE
INVISIBLES À CEUX QU’ILS CALCULENT ?
LE RETOUR DES DONNÉES AUX
UTILISATEURS NE SUFFIT PAS !
Après le retour des données aux utilisateurs (cf. http://mesinfos.fing.org ) l’enjeu repose plus sur l’utilisation de nos données que
notre seul droit à y accéder : http://www.internetactu.net/2013/01/22/de-quels-traitements-sommes-nous-les-proies/
« LA RESTITUTION DES DONNÉES À L’UTILISATEUR NE SUFFIRA PAS À LES
ARMER, S’ILS NE PEUVENT ÊTRE CONSCIENTS DES TRAITEMENTS QUE LEURS
DONNÉES SUBISSENT ». LES UTILISATEURS, MÊME S’ILS RÉCUPÉRAIENT
LEURS DONNÉES NE SERAIENT PAS À ÉGALITÉ AVEC LES SERVICES QUI LES
UTILISENT, « CAR CEUX-CI SAVENT LES TRAITER ». MAIS PAS LES
UTILISATEURS ! EUX N’ONT AUCUN MOYEN POUR L’INSTANT DE CONNAÎTRE
LES TRAITEMENTS QUI SONT APPLIQUÉS À LEURS DONNÉES ! ILS N’EN
CONNAISSENT MÊME PAS LES RÉSULTATS.»
Hubert Guillaud



http://www.internetactu.net/2014/11/18/ouvrir-les-modeles-pas-seulement-les-donnees/
RENDRE LE CALCUL AUX CALCULÉS !
LA RÉPONSE À L’OPACITÉ, N’EST PAS LA
TRANSPARENCE, MAIS LA SYMÉTRIE !
APRÈS LE RETOUR DES DONNÉES AUX
UTILISATEURS : LE RETOUR DES TRAITEMENTS…
« NOUS NE SAVONS PAS COMMENT NOUS
AVONS ÉTÉ CALCULÉS, MAIS NOUS NE SAVONS
PAS NON PLUS À QUI NOUS AVONS ÉTÉ
COMPARÉS »
Dominique Cardon



http://www.internetactu.net/2016/01/05/larchitecture-et-le-bazar-quest-ce-qui-nous-determine/
FAIRE APPARAÎTRE LE CONTRAT SOCIAL ENTRE LES INTERNAUTES ET LES
CALCULATEURS : LA SYMÉTRIE POUR RÉPONDRE À L’OPACITÉ !
DES ALGORITHMES FONCTIONNANT AVEC DES DONNÉES INEXACTES PEUVENT ÊTRE NOCIFS
D’AUTANT PLUS, SI DU FAIT DE LEURS APPROXIMATIONS PAR TRAITEMENT, IL EST DIFFICILE
DE LES MODIFIER, COMME C’EST LE CAS QUAND ON UTILISE DES CODES POSTAUX POUR
INFÉRER VOTRE NIVEAU DE REVENU OU VOTRE ORIGINE ETHNIQUE.
PIRE, L’INTERRELATION DES DONNÉES ENTRE ELLES ET DES SYSTÈMES ENTRE EUX TEND À
CRÉER DES BIAIS QUI SE RENFORCENT LES UNS LES AUTRES. L’INFÉRENCE D’UN NIVEAU DE
REVENU SUR UN CODE POSTAL, ABAISSE LE SCORE D’EMPRUNT ET AUGMENTE LE TAUX
D’INTÉRÊT, CE QUI AUGMENTE VOTRE PROBABILITÉ À FAIRE DÉFAUT ET RENFORCE LE
MAUVAISE SCORE LIÉ À VOTRE CODE POSTAL...
Adam Clair

http://www.internetactu.net/2017/04/04/les-algorithmes-sont-ils-une-nouvelle-forme-de-bureaucratie/
DE LA SYMÉTRIE DE L’INFORMATION À LA SYMÉTRIE DES TRAITEMENTS !
MONTRER AUX UNS LES
STRATÉGIES DES AUTRES
DE L’ÉGALITÉ D’INFORMATION POUR FAIRE RECULER L’OPACITÉ
DES IDÉES POUR DES LEVIERS !
SYMÉTRIE : LE TRAITEMENT DE MES
DONNÉES ME CONCERNE
▸ Loi numérique : vers un droit
d’accès aux traitements ?
▸ Pour une égalité de traitement : Si
les traitements agissent sur les
personnes, alors le calculé doit voir
comment il a été traité !
VERS UNE OBLIGATION DE SYMÉTRIE !
VERS UN DROIT D’ACCÈS AUX TRAITEMENTS
- La Loi Lemaire et le règlement européen sur la protection des données introduisent un droit d’accès aux
données et une politique de portabilité de celles-ci. Ils préfigurent un droit d’accès aux résultats des traitements,
permettant d’accéder aux degrés et paramètres des traitements, aux opérations effectuées par celui-ci. A l’avenir,
ces droits encourageant la « responsabilité des décisions » qu’évoque Pierre Rosanvallon dans Le bon
gouvernement sont certainement appelés à s’étendre…
Décret n° 2017-330 du 14 mars 2017 relatif aux droits des personnes faisant l'objet de décisions individuelles
prises sur le fondement d'un traitement algorithmique : https://www.legifrance.gouv.fr/affichTexte.do?
cidTexte=JORFTEXT000034194929&fastPos=1&fastReqId=1449082291&categorieLien=id&oldAction=rechTexte
La Loi pour une « République numérique a créé un principe de communication des règles définissant un traitement
algorithmique lorsque celui-ci a participé au fondement d'une décision individuelle ».
« Art. R. 311-3-1-2.-L'administration communique à la personne faisant l'objet d'une décision individuelle
prise sur le fondement d'un traitement algorithmique, à la demande de celle-ci, sous une forme intelligible
et sous réserve de ne pas porter atteinte à des secrets protégés par la loi, les informations suivantes : 

« 1° Le degré et le mode de contribution du traitement algorithmique à la prise de décision ; 

« 2° Les données traitées et leurs sources ; 

« 3° Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de
l'intéressé ; 

« 4° Les opérations effectuées par le traitement ; ».
Le règlement européen sur la protection des données introduit un droit à la limitation du traitement (article 18), un
droit d’opposition au traitement (article 21) et un droit d’information et de contestation

(article 22) : https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre3#Article22
POUR UN NOUVEAU CONTRAT DE CONFIANCE : MONTREZ-MOI À QUOI
SERVENT MES DONNÉES !
POUR UNE ÉGALITÉ DE TRAITEMENTS
- Etablir un nouveau contrat de confiance entre calculateurs et calculés, permettant de lever l’opacité
des traitements
- - Expliquer à quoi servent les données ;
- - Montrer à quoi servent les calculs ;
- Etablir une relation de confiance entre calculateurs et calculés… Lever l’opacité des calculs en
mettant calculateurs et calculés sur un pied d’égalité. Calculés et calculateurs doivent avoir accès aux
mêmes informations. Pour rendre les systèmes équitables, il faut que les calculs soient partagés !
- Accéder aux statistiques inférées de mes données par exemple, me permet de comprendre comment
je suis calculé.
JUSTICIABILITÉ
ENCOURAGER LES « BONNES
PRATIQUES »
5e piste d’innovation
TROP PROTÉGÉ, TROP
COMPLIQUÉ…
HORMIS POUR LES ALGORITHMES « PUBLICS »,
L’AUDITABILITÉ RISQUE DE DEMEURER
INATTEIGNABLE
« QUI POURRAIT AUDITER/EXPERTISER DE TELS
SYSTÈMES, QUAND BIEN MÊME DEVIENDRAIENT-
ILS OUVERTS ? »
Hubert Guillaud



http://www.internetactu.net/2016/01/13/nos-systemes-pour-une-retroingenierie-des-systemes-techniques/
L’AUDITABILITÉ : UN DIALOGUE TECHNIQUE AVEC LA TECHNIQUE
« JE CROIS QUE LA TRANSPARENCE ALGORITHMIQUE CRÉE UN
FAUX ESPOIR. NON SEULEMENT ELLE EST TECHNIQUEMENT
INSOUTENABLE, MAIS ELLE OBSCURCIT LES POLITIQUES RÉELLES
QUI SONT EN JEU » 



OUVRIR LE CODE NE SUFFIT PAS À CE QUE TOUT LE MONDE
L’INSPECTE NI NE PERMET QU’IL RENDE DES COMPTES.
danah boyd



http://www.internetactu.net/a-lire-ailleurs/comment-rendre-les-algorithmes-responsables/
FAIRE QUE LES SYSTÈMES RENDENT DES COMPTES NE SIGNIFIE PAS LES
RENDRE TRANSPARENTS
OUVERTURE, PARTAGE DE DONNÉES, ACCÈS
AUX CHERCHEURS, STATISTIQUES,
RÉCIPROCITÉ…
ENCOURAGER DES PRATIQUES
VERTUEUSES
« QUAND UN SYSTÈME TECHNIQUE EST ÉQUITABLE, QU’EST-CE QUE ÇA
CHANGE POUR SES DESTINATAIRES, QU’EST-CE QUE ÇA OUVRE COMME
OPPORTUNITÉS D’AFFAIRES NOUVELLES POUR SES PRODUCTEURS? »
AVANTAGE CONCURRENTIEL AUX BONNES PRATIQUES ?
DES IDÉES POUR DES LEVIERS !
JUSTICIABILITÉ : ENCOURAGER LES
« BONNES PRATIQUES »
▸ Open Science : Encourager la
recherche ouverte
▸ Open Data dans les organisations :
Encourager la publication ouverte,
déclaration d’impact social, et le
développement des données
d’intérêt écosystèmiques
▸ Protéger les lanceurs d’alerte
▸ Débattre, croiser, mêler, décloisonner
: favoriser les passerelles
OUVRIR À LA RECHERCHE
FAVORISER L’OPEN SCIENCE
- Dans un territoire de brevets, de propriété intellectuelle… il est nécessaire d’encourager les pratiques
alternatives : ouvertes, réplicables, libres de droits… Favoriser l’accueil de scientifiques extérieurs aux
entreprises, développer des projets de recherches ouverts… pour inviter à produire autrement les
systèmes techniques.
- Plutôt que décréter l’auditabilité des systèmes qui entrera en conflit avec leur propriété intellectuelle,
l’enjeu est d’encourager le développement de l’open source, qui permettra l’audibilité des systèmes,
via des compensations ou des incitations fiscales aux entreprises qui ouvrent leurs systèmes.
- Favoriser l’open science, c’est encourager la publication de jeux de données, d’extraits de jeux de
données, de simulateurs… de statistiques, d’espaces de simulation, pour tester des modalités
d’amélioration et le développement de nouveaux services.
- De Distill - http://distill.pub -, la plateforme de publication de Google pour le Machine Learning, à
Transalgo - https://www.inria.fr/actualite/actualites-inria/transalgo - ou Algorithmtips - http://
algorithmtips.org ou DataTransparency Lab : http://www.datatransparencylab.org
- Reste à trouver les modalités réglementaires pour accompagner ces pratiques, ces outils, ces
modèles, les faire passer à l’échelle, les labelliser, les soutenir, les développer !
- http://www.internetactu.net/a-lire-ailleurs/10-regles-simples-pour-rendre-les-recherches-big-data-
responsables/
ENCOURAGER LES BONNES PRATIQUES
L’OUVERTURE DES DONNÉES DES ORGANISATIONS
- Inviter les entreprises à ouvrir des données, à publier des jeux de données : faire contribuer les
entreprises à l’Open data (et pas seulement les organisations publiques),
- http://www.internetactu.net/2012/06/12/les-enjeux-de-lextension-de-lopen-data-au-monde-de-
lentreprise/
- Encourager et développer l’action de la recherche sur les données des organisations. Et aider
financièrement au développement d’associations et de think tank indépendants de contrôle.
- Vers une déclaration d’impact social des traitements, faisant reposer sur l’entreprise la publication
d’une évaluation des effets de leurs algorithmes ? http://www.fatml.org/resources/principles-for-
accountable-algorithms#social-impact
- Hormis les acteurs publics et les délégataires, les acteurs privés (hormis quelques secteurs) n’ont pas
d’obligation à ouvrir des données. Si elles publient leurs bilans financiers par exemple, aucune
obligation ne les contraints à les publier en formats ouverts. Or le secteur privé dispose de « données
d’intérêt éco-systémique » et données d’intérêt général qu’elle pourrait publier de manière ouverte
dans le cadre de démarche RSE par exemple (accidentologie, statistiques, bilan financier, données
d’intérêt général, etc.).
ENCOURAGER LES BONNES PRATIQUES
PROTÉGER LES LANCEURS D’ALERTES
- Dans bien des cas, on ne sait qu’un système dysfonctionne que lorsque des lanceurs d’alertes
donnent l’alerte, qu’un travail d’investigation est mené, ou lorsqu’un contrôle indépendant est mis en
place : http://www.internetactu.net/2017/04/11/uber-les-gouvernances-fantomes/ et http://
www.internetactu.net/2015/09/29/qui-nous-protegera-des-logiciels-tricheurs/ et http://
www.internetactu.net/2017/05/10/les-donnees-suffisent-elles-pour-piloter-la-ville/
- Elargir le cadre de la loi à tous les secteurs économiques, développer la protection des lanceurs
d’alerte comme le recommande Transparency International… développer une agence indépendante
des alertes, un fonds de dotation, des réparations financières et un droit à des procédures judiciaires
équitables semblent indispensables…
ENCOURAGER LES BONNES PRATIQUES
DÉBATTRE, CROISER, MÊLER, DÉCLOISONNER…
- Rendre Hackable !
- Relier les approches, les recherches, les univers.
- Initier des espaces de débats, de tests, de discussion, de croisement.
DES PISTES
D’INNOVATIONS
POUR
TRANSFORMER
LES SYSTÈMES
NOS SYSTEMES S02
5 PISTES D’INNOVATIONS
▸ la responsabilité par la médiation :
organiser le dialogue et la médiation entre
les systèmes et la société
▸ l’explicabilité : expliquer, se signaler, se
faire comprendre, rendre lisible
▸ la jouabilité : l’interaction pour
comprendre, améliorer et rendre réactif
▸ la symétrie : vers une parité des traitements
▸ la justicialibilité (open science) :
encourager les « bonnes pratiques »
d’ouverture et de partage
AMÉLIORER LA « RESPONSABILITÉ SOCIALE » DES SYSTÈMES
APB, CAS
D’ECOLE DES
ALGORITHMES
PUBLICS
LES
RECOMMANDATIONS
« NOS SYSTEMES »
APPLIQUÉES À 

APB (ADMISSION
POST-BAC)
JOURNÉE D’ÉTUDE - 

JUIN 2016
TESTER LES PISTES D’INNOVATION DE NOS SYSTÈMES
2017-2018 : DES DÉMONSTRATEURS NOS SYSTÈMES
Pour la seconde année du programme Nos Systèmes de la Fing,
l’enjeu est d’accueillir des systèmes qui souhaitent travailler avec
nous à développer concrètement les 5 pistes d’innovation
esquissées en année 1 et regarder comment mettre en place ces
recommandations et montrer ce que leur mise en place génère.
Cf. Note APB : APB, un cas d’école - journée d’étude.
Nous sommes à la recherche de systèmes prêts à développer ces
points avec nous, d’une manière ouverte, en mode test ; d’écoles, de
chercheurs et d’étudiants pour nous accompagner dans les ateliers
que nous souhaitons organiser.
Besoin d’affiner, de préciser et de mettre en débat nos pistes
d’innovation.
AMÉLIORER LA RESPONSABILITÉ
SOCIALE DES SYSTÈMES
▸ Affiner la grille d’évaluation de la
responsabilité des systèmes
▸ Faire de la pédagogie sur la
responsabilité par la médiation et
l’explicabilité.
▸ Tester la symétrie d’une manière
opérationnelle
▸ Comment encourager les bonnes
pratiques (justiciabilité),
concrètement ?
OBJECTIFS DE LA SAISON 2 DE NOS SYSTEMES
NOS SYSTÈMES S02
DEVENEZ PARTENAIRES DE LA FING !
VERS UNE « RÉ-INGÉNIERIE SOCIALE » DES SYSTÈMES
TECHNIQUES
Hubert Guillaud - hubertguillaud@gmail.com - Thierry Marcou - tmarcou@fing.org
http://fing.org/?NosSystemes

More Related Content

What's hot

Les défis des services publics
Les défis des services publicsLes défis des services publics
Les défis des services publicsOFO - IFA
 
Open Data Week Marseille - Démarche Open Data en PACA
Open Data Week Marseille - Démarche Open Data en PACAOpen Data Week Marseille - Démarche Open Data en PACA
Open Data Week Marseille - Démarche Open Data en PACAStéphane Martayan
 
Crise de l'emploi, de l'entreprise, du travail... la faute aux technologies ?
Crise de l'emploi, de l'entreprise, du travail... la faute aux technologies ?Crise de l'emploi, de l'entreprise, du travail... la faute aux technologies ?
Crise de l'emploi, de l'entreprise, du travail... la faute aux technologies ?Fing
 
Open data et biens communs : 4 pistes à explorer
Open data et biens communs : 4 pistes à explorerOpen data et biens communs : 4 pistes à explorer
Open data et biens communs : 4 pistes à explorerSimon Chignard
 
CR Ces2015 - Business Innovation Network focusing on usages
CR Ces2015  - Business Innovation Network focusing on usagesCR Ces2015  - Business Innovation Network focusing on usages
CR Ces2015 - Business Innovation Network focusing on usagesBertrand Petit
 
Pour un rétro-design de l'attention
Pour un rétro-design de l'attentionPour un rétro-design de l'attention
Pour un rétro-design de l'attentionFing
 
Cahier d'enjeux et de prospective fing questions numeriques transitions
Cahier d'enjeux et de prospective fing questions numeriques transitionsCahier d'enjeux et de prospective fing questions numeriques transitions
Cahier d'enjeux et de prospective fing questions numeriques transitionsFing
 
Open models citations
Open models citationsOpen models citations
Open models citationsWithoutModel
 
Synthese expédition ReFaire
Synthese expédition ReFaireSynthese expédition ReFaire
Synthese expédition ReFaireFing
 
Questions Numériques 2014/2015 : Les Controverses
Questions Numériques 2014/2015 : Les ControversesQuestions Numériques 2014/2015 : Les Controverses
Questions Numériques 2014/2015 : Les ControversesFing
 
Le bon la brute et le truand western collaboratif
Le bon la brute et le truand western collaboratifLe bon la brute et le truand western collaboratif
Le bon la brute et le truand western collaboratifWithoutModel
 
ecology by design METTRE L’INFORMATIQUE AU SERVICE DE LA TRANSFORMATION ÉCOLO...
ecology by design METTRE L’INFORMATIQUE AU SERVICE DE LA TRANSFORMATION ÉCOLO...ecology by design METTRE L’INFORMATIQUE AU SERVICE DE LA TRANSFORMATION ÉCOLO...
ecology by design METTRE L’INFORMATIQUE AU SERVICE DE LA TRANSFORMATION ÉCOLO...Geoffrey Dorne
 
Plan d'action Fing 2017
Plan d'action Fing 2017Plan d'action Fing 2017
Plan d'action Fing 2017Fing
 
Administration et nouvelle économie
Administration et nouvelle économieAdministration et nouvelle économie
Administration et nouvelle économieGiorgio Pauletto
 
Plan d'action de la Fing en 2018
Plan d'action de la Fing en 2018Plan d'action de la Fing en 2018
Plan d'action de la Fing en 2018Fing
 
Schéma de Développement des Usages et Services numériques
Schéma de Développement des Usages et Services numériquesSchéma de Développement des Usages et Services numériques
Schéma de Développement des Usages et Services numériquesNordPasdeCalais
 
Guide ecocentres
Guide ecocentres Guide ecocentres
Guide ecocentres Jean Pouly
 

What's hot (20)

MSIT_Network_2_201309
MSIT_Network_2_201309MSIT_Network_2_201309
MSIT_Network_2_201309
 
Les défis des services publics
Les défis des services publicsLes défis des services publics
Les défis des services publics
 
Open Data Week Marseille - Démarche Open Data en PACA
Open Data Week Marseille - Démarche Open Data en PACAOpen Data Week Marseille - Démarche Open Data en PACA
Open Data Week Marseille - Démarche Open Data en PACA
 
Administration Demain
Administration Demain Administration Demain
Administration Demain
 
Crise de l'emploi, de l'entreprise, du travail... la faute aux technologies ?
Crise de l'emploi, de l'entreprise, du travail... la faute aux technologies ?Crise de l'emploi, de l'entreprise, du travail... la faute aux technologies ?
Crise de l'emploi, de l'entreprise, du travail... la faute aux technologies ?
 
Open data et biens communs : 4 pistes à explorer
Open data et biens communs : 4 pistes à explorerOpen data et biens communs : 4 pistes à explorer
Open data et biens communs : 4 pistes à explorer
 
Sommaire datanomics
Sommaire datanomicsSommaire datanomics
Sommaire datanomics
 
CR Ces2015 - Business Innovation Network focusing on usages
CR Ces2015  - Business Innovation Network focusing on usagesCR Ces2015  - Business Innovation Network focusing on usages
CR Ces2015 - Business Innovation Network focusing on usages
 
Pour un rétro-design de l'attention
Pour un rétro-design de l'attentionPour un rétro-design de l'attention
Pour un rétro-design de l'attention
 
Cahier d'enjeux et de prospective fing questions numeriques transitions
Cahier d'enjeux et de prospective fing questions numeriques transitionsCahier d'enjeux et de prospective fing questions numeriques transitions
Cahier d'enjeux et de prospective fing questions numeriques transitions
 
Open models citations
Open models citationsOpen models citations
Open models citations
 
Synthese expédition ReFaire
Synthese expédition ReFaireSynthese expédition ReFaire
Synthese expédition ReFaire
 
Questions Numériques 2014/2015 : Les Controverses
Questions Numériques 2014/2015 : Les ControversesQuestions Numériques 2014/2015 : Les Controverses
Questions Numériques 2014/2015 : Les Controverses
 
Le bon la brute et le truand western collaboratif
Le bon la brute et le truand western collaboratifLe bon la brute et le truand western collaboratif
Le bon la brute et le truand western collaboratif
 
ecology by design METTRE L’INFORMATIQUE AU SERVICE DE LA TRANSFORMATION ÉCOLO...
ecology by design METTRE L’INFORMATIQUE AU SERVICE DE LA TRANSFORMATION ÉCOLO...ecology by design METTRE L’INFORMATIQUE AU SERVICE DE LA TRANSFORMATION ÉCOLO...
ecology by design METTRE L’INFORMATIQUE AU SERVICE DE LA TRANSFORMATION ÉCOLO...
 
Plan d'action Fing 2017
Plan d'action Fing 2017Plan d'action Fing 2017
Plan d'action Fing 2017
 
Administration et nouvelle économie
Administration et nouvelle économieAdministration et nouvelle économie
Administration et nouvelle économie
 
Plan d'action de la Fing en 2018
Plan d'action de la Fing en 2018Plan d'action de la Fing en 2018
Plan d'action de la Fing en 2018
 
Schéma de Développement des Usages et Services numériques
Schéma de Développement des Usages et Services numériquesSchéma de Développement des Usages et Services numériques
Schéma de Développement des Usages et Services numériques
 
Guide ecocentres
Guide ecocentres Guide ecocentres
Guide ecocentres
 

Similar to Pistes d'innovation Nos Systèmes (version de travail)

Conduire Le Changement Référentiel
Conduire Le Changement RéférentielConduire Le Changement Référentiel
Conduire Le Changement RéférentielNomia
 
Entreprise Numérisée : Ethique et GouvernanceS
Entreprise Numérisée : Ethique et GouvernanceSEntreprise Numérisée : Ethique et GouvernanceS
Entreprise Numérisée : Ethique et GouvernanceSGenève Lab
 
Les entreprises doivent accélérer leur e-mutation
Les entreprises doivent accélérer leur e-mutationLes entreprises doivent accélérer leur e-mutation
Les entreprises doivent accélérer leur e-mutationBenjamin Blassiau
 
Introduction sur le concept d'Entreprise Augmentée et les projets que cela pe...
Introduction sur le concept d'Entreprise Augmentée et les projets que cela pe...Introduction sur le concept d'Entreprise Augmentée et les projets que cela pe...
Introduction sur le concept d'Entreprise Augmentée et les projets que cela pe...Minnovarc
 
Brochure formation-institut-boostzone-mettre-en-place-culture-collaborative
Brochure formation-institut-boostzone-mettre-en-place-culture-collaborativeBrochure formation-institut-boostzone-mettre-en-place-culture-collaborative
Brochure formation-institut-boostzone-mettre-en-place-culture-collaborativeBoostzone Institute
 
2014 03 vf j1 fongecifonline_itg_j_vds
2014 03 vf j1 fongecifonline_itg_j_vds2014 03 vf j1 fongecifonline_itg_j_vds
2014 03 vf j1 fongecifonline_itg_j_vdsJean Vanderspelden
 
Gouvernance de l'information par une Offre de Services Riches (OSR) pour tran...
Gouvernance de l'information par une Offre de Services Riches (OSR) pour tran...Gouvernance de l'information par une Offre de Services Riches (OSR) pour tran...
Gouvernance de l'information par une Offre de Services Riches (OSR) pour tran...Perrein Jean-Pascal
 
La collaboration pour quoi faire
La collaboration pour quoi faireLa collaboration pour quoi faire
La collaboration pour quoi faireJean-Luc ABELIN
 
#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...
#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...
#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...Cap'Com
 
Sécurité des réseaux sociaux
Sécurité des réseaux sociauxSécurité des réseaux sociaux
Sécurité des réseaux sociauxInter-Ligere
 
Mesurer ses actions sur le web
Mesurer ses actions sur le webMesurer ses actions sur le web
Mesurer ses actions sur le webCamille A
 
La gouvernance au cœur de la transformation numérique - Le contexte et la sit...
La gouvernance au cœur de la transformation numérique - Le contexte et la sit...La gouvernance au cœur de la transformation numérique - Le contexte et la sit...
La gouvernance au cœur de la transformation numérique - Le contexte et la sit...Antoine Vigneron
 
Useo ETUDE RSE février 2011
Useo ETUDE RSE février 2011Useo ETUDE RSE février 2011
Useo ETUDE RSE février 2011Claude Super
 
Quels enjeux pour la veille de demain ?
Quels enjeux pour la veille de demain ?Quels enjeux pour la veille de demain ?
Quels enjeux pour la veille de demain ?Camille A
 
Comment envisager positivement l’impact de l'intelligence artificielle au sei...
Comment envisager positivement l’impact de l'intelligence artificielle au sei...Comment envisager positivement l’impact de l'intelligence artificielle au sei...
Comment envisager positivement l’impact de l'intelligence artificielle au sei...LIEGE CREATIVE
 

Similar to Pistes d'innovation Nos Systèmes (version de travail) (20)

Conduire Le Changement Référentiel
Conduire Le Changement RéférentielConduire Le Changement Référentiel
Conduire Le Changement Référentiel
 
Entreprise Numérisée : Ethique et GouvernanceS
Entreprise Numérisée : Ethique et GouvernanceSEntreprise Numérisée : Ethique et GouvernanceS
Entreprise Numérisée : Ethique et GouvernanceS
 
Les entreprises doivent accélérer leur e-mutation
Les entreprises doivent accélérer leur e-mutationLes entreprises doivent accélérer leur e-mutation
Les entreprises doivent accélérer leur e-mutation
 
Introduction sur le concept d'Entreprise Augmentée et les projets que cela pe...
Introduction sur le concept d'Entreprise Augmentée et les projets que cela pe...Introduction sur le concept d'Entreprise Augmentée et les projets que cela pe...
Introduction sur le concept d'Entreprise Augmentée et les projets que cela pe...
 
Brochure formation-institut-boostzone-mettre-en-place-culture-collaborative
Brochure formation-institut-boostzone-mettre-en-place-culture-collaborativeBrochure formation-institut-boostzone-mettre-en-place-culture-collaborative
Brochure formation-institut-boostzone-mettre-en-place-culture-collaborative
 
2014 03 vf j1 fongecifonline_itg_j_vds
2014 03 vf j1 fongecifonline_itg_j_vds2014 03 vf j1 fongecifonline_itg_j_vds
2014 03 vf j1 fongecifonline_itg_j_vds
 
Mediatar Fr
Mediatar FrMediatar Fr
Mediatar Fr
 
Gouvernance de l'information par une Offre de Services Riches (OSR) pour tran...
Gouvernance de l'information par une Offre de Services Riches (OSR) pour tran...Gouvernance de l'information par une Offre de Services Riches (OSR) pour tran...
Gouvernance de l'information par une Offre de Services Riches (OSR) pour tran...
 
Entreprise20 2013
Entreprise20 2013Entreprise20 2013
Entreprise20 2013
 
La collaboration pour quoi faire
La collaboration pour quoi faireLa collaboration pour quoi faire
La collaboration pour quoi faire
 
Monitoring 4
Monitoring 4Monitoring 4
Monitoring 4
 
#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...
#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...
#CapCom17 : CN3 - [Carrefour numérique] Comprendre la réalité des algorithmes...
 
Sécurité des réseaux sociaux
Sécurité des réseaux sociauxSécurité des réseaux sociaux
Sécurité des réseaux sociaux
 
Mesurer ses actions sur le web
Mesurer ses actions sur le webMesurer ses actions sur le web
Mesurer ses actions sur le web
 
La gouvernance au cœur de la transformation numérique - Le contexte et la sit...
La gouvernance au cœur de la transformation numérique - Le contexte et la sit...La gouvernance au cœur de la transformation numérique - Le contexte et la sit...
La gouvernance au cœur de la transformation numérique - Le contexte et la sit...
 
Useo ETUDE RSE février 2011
Useo ETUDE RSE février 2011Useo ETUDE RSE février 2011
Useo ETUDE RSE février 2011
 
Les geants-du-web
Les geants-du-webLes geants-du-web
Les geants-du-web
 
Quels enjeux pour la veille de demain ?
Quels enjeux pour la veille de demain ?Quels enjeux pour la veille de demain ?
Quels enjeux pour la veille de demain ?
 
RH et 2.0 Novametrie Sept09
RH et 2.0  Novametrie Sept09RH et 2.0  Novametrie Sept09
RH et 2.0 Novametrie Sept09
 
Comment envisager positivement l’impact de l'intelligence artificielle au sei...
Comment envisager positivement l’impact de l'intelligence artificielle au sei...Comment envisager positivement l’impact de l'intelligence artificielle au sei...
Comment envisager positivement l’impact de l'intelligence artificielle au sei...
 

More from Fing

Guide methodologique Innovation Facteur 4 by La Fing
Guide methodologique Innovation Facteur 4 by La FingGuide methodologique Innovation Facteur 4 by La Fing
Guide methodologique Innovation Facteur 4 by La FingFing
 
L'agenda pour un futur numérique et écologique (Fing, 2019)
L'agenda pour un futur numérique et écologique (Fing, 2019)L'agenda pour un futur numérique et écologique (Fing, 2019)
L'agenda pour un futur numérique et écologique (Fing, 2019)Fing
 
Nos Systèmes by Fing : "Signaux Faibles"
Nos Systèmes by Fing : "Signaux Faibles"Nos Systèmes by Fing : "Signaux Faibles"
Nos Systèmes by Fing : "Signaux Faibles"Fing
 
Nos Systèmes by Fing : "Kit d'auto-évaluation des algorithmes"
Nos Systèmes by Fing : "Kit d'auto-évaluation des algorithmes"Nos Systèmes by Fing : "Kit d'auto-évaluation des algorithmes"
Nos Systèmes by Fing : "Kit d'auto-évaluation des algorithmes"Fing
 
Nos Système by Fing : "La taxe d'habitation"
Nos Système by Fing : "La taxe d'habitation"Nos Système by Fing : "La taxe d'habitation"
Nos Système by Fing : "La taxe d'habitation"Fing
 
ANR_Capacity_SeminaireCloture_21092018
ANR_Capacity_SeminaireCloture_21092018ANR_Capacity_SeminaireCloture_21092018
ANR_Capacity_SeminaireCloture_21092018Fing
 
Sobriété Numérique - Fabrice Flipo @Transitions²
Sobriété Numérique - Fabrice Flipo @Transitions²Sobriété Numérique - Fabrice Flipo @Transitions²
Sobriété Numérique - Fabrice Flipo @Transitions²Fing
 
L'Agenda pour le Futur de Transitions² / 3 juillet 2018, Paris, Le Square
L'Agenda pour le Futur de Transitions² / 3 juillet 2018, Paris, Le SquareL'Agenda pour le Futur de Transitions² / 3 juillet 2018, Paris, Le Square
L'Agenda pour le Futur de Transitions² / 3 juillet 2018, Paris, Le SquareFing
 
Kit AgirLocal, le numérique au service des démarches environnementales de nos...
Kit AgirLocal, le numérique au service des démarches environnementales de nos...Kit AgirLocal, le numérique au service des démarches environnementales de nos...
Kit AgirLocal, le numérique au service des démarches environnementales de nos...Fing
 
Les Transformations du travail à l'ère numérique - Fing
Les Transformations du travail à l'ère numérique - Fing Les Transformations du travail à l'ère numérique - Fing
Les Transformations du travail à l'ère numérique - Fing Fing
 
Présentation de la Musette numérique de l'actif (juillet 2017)
Présentation de la Musette numérique de l'actif (juillet 2017)Présentation de la Musette numérique de l'actif (juillet 2017)
Présentation de la Musette numérique de l'actif (juillet 2017)Fing
 
Innovation facteur 4, journée Agenda du Futur le 04/07/17
Innovation facteur 4, journée Agenda du Futur le 04/07/17Innovation facteur 4, journée Agenda du Futur le 04/07/17
Innovation facteur 4, journée Agenda du Futur le 04/07/17Fing
 
Daniel Kaplan - Transitions² / "Agenda pour le Futur" - Open Conference, 23 m...
Daniel Kaplan - Transitions² / "Agenda pour le Futur" - Open Conference, 23 m...Daniel Kaplan - Transitions² / "Agenda pour le Futur" - Open Conference, 23 m...
Daniel Kaplan - Transitions² / "Agenda pour le Futur" - Open Conference, 23 m...Fing
 
Pierre-Yves Longaretti - Transitions² / "Agenda pour le Futur" - Open Confere...
Pierre-Yves Longaretti - Transitions² / "Agenda pour le Futur" - Open Confere...Pierre-Yves Longaretti - Transitions² / "Agenda pour le Futur" - Open Confere...
Pierre-Yves Longaretti - Transitions² / "Agenda pour le Futur" - Open Confere...Fing
 
Projet Open Source Ecology - Transitions² / "Agenda pour le Futur" - Open Con...
Projet Open Source Ecology - Transitions² / "Agenda pour le Futur" - Open Con...Projet Open Source Ecology - Transitions² / "Agenda pour le Futur" - Open Con...
Projet Open Source Ecology - Transitions² / "Agenda pour le Futur" - Open Con...Fing
 
Projet WeDoGood - Transitions² / "Agenda pour le Futur" - Open Conference, 23...
Projet WeDoGood - Transitions² / "Agenda pour le Futur" - Open Conference, 23...Projet WeDoGood - Transitions² / "Agenda pour le Futur" - Open Conference, 23...
Projet WeDoGood - Transitions² / "Agenda pour le Futur" - Open Conference, 23...Fing
 
Comprendre et accompagner les transformations à l’ère numérique
Comprendre et accompagner les transformations à l’ère numériqueComprendre et accompagner les transformations à l’ère numérique
Comprendre et accompagner les transformations à l’ère numériqueFing
 
10 projets, initiatives, idées, qui font le lien entre écologie et numérique
10 projets, initiatives, idées, qui font le lien entre écologie et numérique10 projets, initiatives, idées, qui font le lien entre écologie et numérique
10 projets, initiatives, idées, qui font le lien entre écologie et numériqueFing
 
Transitions singulières : Imaginer les mondes d’après
Transitions singulières : Imaginer les mondes d’aprèsTransitions singulières : Imaginer les mondes d’après
Transitions singulières : Imaginer les mondes d’aprèsFing
 
Musette Numérique de l'Actif - livrable final
Musette Numérique de l'Actif - livrable finalMusette Numérique de l'Actif - livrable final
Musette Numérique de l'Actif - livrable finalFing
 

More from Fing (20)

Guide methodologique Innovation Facteur 4 by La Fing
Guide methodologique Innovation Facteur 4 by La FingGuide methodologique Innovation Facteur 4 by La Fing
Guide methodologique Innovation Facteur 4 by La Fing
 
L'agenda pour un futur numérique et écologique (Fing, 2019)
L'agenda pour un futur numérique et écologique (Fing, 2019)L'agenda pour un futur numérique et écologique (Fing, 2019)
L'agenda pour un futur numérique et écologique (Fing, 2019)
 
Nos Systèmes by Fing : "Signaux Faibles"
Nos Systèmes by Fing : "Signaux Faibles"Nos Systèmes by Fing : "Signaux Faibles"
Nos Systèmes by Fing : "Signaux Faibles"
 
Nos Systèmes by Fing : "Kit d'auto-évaluation des algorithmes"
Nos Systèmes by Fing : "Kit d'auto-évaluation des algorithmes"Nos Systèmes by Fing : "Kit d'auto-évaluation des algorithmes"
Nos Systèmes by Fing : "Kit d'auto-évaluation des algorithmes"
 
Nos Système by Fing : "La taxe d'habitation"
Nos Système by Fing : "La taxe d'habitation"Nos Système by Fing : "La taxe d'habitation"
Nos Système by Fing : "La taxe d'habitation"
 
ANR_Capacity_SeminaireCloture_21092018
ANR_Capacity_SeminaireCloture_21092018ANR_Capacity_SeminaireCloture_21092018
ANR_Capacity_SeminaireCloture_21092018
 
Sobriété Numérique - Fabrice Flipo @Transitions²
Sobriété Numérique - Fabrice Flipo @Transitions²Sobriété Numérique - Fabrice Flipo @Transitions²
Sobriété Numérique - Fabrice Flipo @Transitions²
 
L'Agenda pour le Futur de Transitions² / 3 juillet 2018, Paris, Le Square
L'Agenda pour le Futur de Transitions² / 3 juillet 2018, Paris, Le SquareL'Agenda pour le Futur de Transitions² / 3 juillet 2018, Paris, Le Square
L'Agenda pour le Futur de Transitions² / 3 juillet 2018, Paris, Le Square
 
Kit AgirLocal, le numérique au service des démarches environnementales de nos...
Kit AgirLocal, le numérique au service des démarches environnementales de nos...Kit AgirLocal, le numérique au service des démarches environnementales de nos...
Kit AgirLocal, le numérique au service des démarches environnementales de nos...
 
Les Transformations du travail à l'ère numérique - Fing
Les Transformations du travail à l'ère numérique - Fing Les Transformations du travail à l'ère numérique - Fing
Les Transformations du travail à l'ère numérique - Fing
 
Présentation de la Musette numérique de l'actif (juillet 2017)
Présentation de la Musette numérique de l'actif (juillet 2017)Présentation de la Musette numérique de l'actif (juillet 2017)
Présentation de la Musette numérique de l'actif (juillet 2017)
 
Innovation facteur 4, journée Agenda du Futur le 04/07/17
Innovation facteur 4, journée Agenda du Futur le 04/07/17Innovation facteur 4, journée Agenda du Futur le 04/07/17
Innovation facteur 4, journée Agenda du Futur le 04/07/17
 
Daniel Kaplan - Transitions² / "Agenda pour le Futur" - Open Conference, 23 m...
Daniel Kaplan - Transitions² / "Agenda pour le Futur" - Open Conference, 23 m...Daniel Kaplan - Transitions² / "Agenda pour le Futur" - Open Conference, 23 m...
Daniel Kaplan - Transitions² / "Agenda pour le Futur" - Open Conference, 23 m...
 
Pierre-Yves Longaretti - Transitions² / "Agenda pour le Futur" - Open Confere...
Pierre-Yves Longaretti - Transitions² / "Agenda pour le Futur" - Open Confere...Pierre-Yves Longaretti - Transitions² / "Agenda pour le Futur" - Open Confere...
Pierre-Yves Longaretti - Transitions² / "Agenda pour le Futur" - Open Confere...
 
Projet Open Source Ecology - Transitions² / "Agenda pour le Futur" - Open Con...
Projet Open Source Ecology - Transitions² / "Agenda pour le Futur" - Open Con...Projet Open Source Ecology - Transitions² / "Agenda pour le Futur" - Open Con...
Projet Open Source Ecology - Transitions² / "Agenda pour le Futur" - Open Con...
 
Projet WeDoGood - Transitions² / "Agenda pour le Futur" - Open Conference, 23...
Projet WeDoGood - Transitions² / "Agenda pour le Futur" - Open Conference, 23...Projet WeDoGood - Transitions² / "Agenda pour le Futur" - Open Conference, 23...
Projet WeDoGood - Transitions² / "Agenda pour le Futur" - Open Conference, 23...
 
Comprendre et accompagner les transformations à l’ère numérique
Comprendre et accompagner les transformations à l’ère numériqueComprendre et accompagner les transformations à l’ère numérique
Comprendre et accompagner les transformations à l’ère numérique
 
10 projets, initiatives, idées, qui font le lien entre écologie et numérique
10 projets, initiatives, idées, qui font le lien entre écologie et numérique10 projets, initiatives, idées, qui font le lien entre écologie et numérique
10 projets, initiatives, idées, qui font le lien entre écologie et numérique
 
Transitions singulières : Imaginer les mondes d’après
Transitions singulières : Imaginer les mondes d’aprèsTransitions singulières : Imaginer les mondes d’après
Transitions singulières : Imaginer les mondes d’après
 
Musette Numérique de l'Actif - livrable final
Musette Numérique de l'Actif - livrable finalMusette Numérique de l'Actif - livrable final
Musette Numérique de l'Actif - livrable final
 

Recently uploaded

Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IA
Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IAMilo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IA
Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IAUGAIA
 
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...Faga1939
 
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...OCTO Technology
 
GUM365 - Rencontre mensuelle Avril 2024 - Montréal
GUM365 - Rencontre mensuelle Avril 2024 - MontréalGUM365 - Rencontre mensuelle Avril 2024 - Montréal
GUM365 - Rencontre mensuelle Avril 2024 - MontréalNicolas Georgeault
 
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloudLe Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloudOCTO Technology
 
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...OCTO Technology
 
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdf
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdfEtude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdf
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdfsnapierala
 
Intelligence Artificielle: Vers l'ère de l'imagination
Intelligence Artificielle: Vers l'ère de l'imaginationIntelligence Artificielle: Vers l'ère de l'imagination
Intelligence Artificielle: Vers l'ère de l'imaginationTony Aubé
 

Recently uploaded (8)

Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IA
Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IAMilo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IA
Milo-AI Milo AI Congress est conçu pour transformer votre compréhension de l'IA
 
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...
LA SUPERINTELLIGENCE ARTIFICIELLE, SES BÉNÉFICES ET NUIRES ET QUE FAIRE POUR ...
 
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
La Grosse Conf 2024 - Philippe Stepniewski -Atelier - Live coding d'une base ...
 
GUM365 - Rencontre mensuelle Avril 2024 - Montréal
GUM365 - Rencontre mensuelle Avril 2024 - MontréalGUM365 - Rencontre mensuelle Avril 2024 - Montréal
GUM365 - Rencontre mensuelle Avril 2024 - Montréal
 
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloudLe Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
Le Comptoir OCTO - MLOps : Les patterns MLOps dans le cloud
 
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...
La Grosse Conf 2024 - Philippe Prados - Atelier - RAG : au-delà de la démonst...
 
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdf
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdfEtude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdf
Etude_Bpifrance_-_Les_Greentech_francaises_-_3eme_edition_annuelle_2024.pdf
 
Intelligence Artificielle: Vers l'ère de l'imagination
Intelligence Artificielle: Vers l'ère de l'imaginationIntelligence Artificielle: Vers l'ère de l'imagination
Intelligence Artificielle: Vers l'ère de l'imagination
 

Pistes d'innovation Nos Systèmes (version de travail)

  • 1. RENDRE LA COMPLEXITÉ INTELLIGIBLE OU DE LA RÉGULATION DES ALGORITHMES NOS SYSTÈMES BY FING Présentation des pistes d’innovations NosSystèmes, un groupe de travail de la Fing, soutenu par le SGMAP - Hubert Guillaud - Thierry Marcou - juin 2017 
 http://www.fing.org - http://www.internetactu.net
  • 2. L’INTUITION POUR UNE RÉTROINGÉNIERIE SOCIALE DES SYSTÈMES TECHNIQUES http://www.internetactu.net/2016/01/13/nos-systemes-pour-une-retroingenierie-des-systemes-techniques/
  • 3. « TOUCHE 
 PAS AU 
 SYSTÈME, SALO… !» FB,…
  • 4. 70 MILLIONS DE CALCULÉS ALGORITHMES, BIG DATA, MACHINE LEARNING, IA FAIBLE, IA FORTE, IA SUPERVISÉE, IA NON SUPERVISÉE, APPRENTISSAGE AUTOMATISÉ, SYSTÈMES PRÉDICTIFS, YIELD MANAGEMENT, SCORING, MODÈLES, PLATEFORMES, LOGICIELS, PROGRAMMES… L’ARBRE DE L’IA NE DOIT PAS CACHER LA FORÊT DES SYSTÈMES…
  • 5. « LE MONDE NE PEUT PAS ÊTRE ADMINISTRÉ D’UNE MANIÈRE ININTELLIGIBLE AUX GENS QUI L’HABITENT »… Nos Systèmes : pour une rétroingénierie sociale 
 des systèmes techniques 
 http://www.internetactu.net/2016/01/13/nos-systemes-pour-une-retroingenierie-des-systemes-techniques/ COMPRENDRE COMMENT NOUS SOMMES CALCULÉS ET RENDRE LES CALCULS À CEUX QUI SONT CALCULÉS
  • 6. OUVRIR UN DIALOGUE NON TECHNIQUE AVEC LA TECHNIQUE UN SYSTÈME TECHNIQUE PLUS INTELLIGIBLE OUVRE DE NOUVELLES OPPORTUNITÉS L’enjeu de la conception : « Si les calculs façonnent la société, alors cela doit avoir des incidences sur la manière dont la société en choisit les règles, en conçoit les fonctionnements - c’est-à-dire leur conception sociale. » L’enjeu des nouvelles opportunités : Trop de stratégies sont liées à l’opacité. Des formes de transparences - permettant de discuter des critères, des seuils, des modalités - peuvent-elles libérer de nouvelles opportunités d’affaires ? L’enjeu de la confiance : Le risque de l’opacité est qu’elle génère une défiance toujours plus grande envers les objets techniques à mesure qu’ils se répandront dans la société. L’opacité n’est pas soutenable. Et l’objectivation des comportements que les calculateurs proposent ne suffira pas à rétablir la confiance !
  • 7. 5 PISTES D’INNOVATIONS ▸ la responsabilité par la médiation : organiser le dialogue et la médiation entre les systèmes et la société ▸ l’explicabilité : expliquer, se signaler, se faire comprendre, rendre lisible ▸ la jouabilité : l’interaction pour comprendre, améliorer et rendre réactif ▸ la symétrie : vers une parité des traitements ▸ la justicialibilité (open science) : encourager les « bonnes pratiques » d’ouverture et de partage
  • 8. LA RESPONSABILITÉ L’ENJEU DU DIALOGUE 
 ET DE LA MÉDIATION 1re piste d’innovation
  • 9. QUI EST RESPONSABLE ? VOLKSWAGEN, UBER, ETC. http://www.internetactu.net/2015/09/29/qui-nous-protegera-des-logiciels- tricheurs/ 
 http://www.internetactu.net/2017/04/11/uber-les-gouvernances-fantomes/
  • 10. SI LES SYSTÈMES NE SONT JAMAIS RESPONSABLES, C'EST D'ABORD PARCE QU'ILS NE SONT JAMAIS JOIGNABLES, JAMAIS ACCESSIBLES. LA QUESTION DE LA RESPONSABILITÉ POSE D'ABORD LA QUESTION DU DIALOGUE, DES VOIES DE RECOURS DES UTILISATEURS CONFRONTÉS AUX SYSTÈMES TECHNIQUES. OR, CETTE QUESTION DU DIALOGUE ENTRE LES UTILISATEURS ET LES SYSTÈMES TECHNIQUES SEMBLE TOUJOURS NIÉE, MINIMISÉE SOUS PRÉTEXTE DE LEUR COMPLEXITÉ TECHNIQUE. JOINDRE LE RESPONSABLE TECHNIQUE NE SUFFIT PAS ! Nicholas Diakopoulos
 http://www.internetactu.net/a-lire-ailleurs/comment-rendre-les-algorithmes-responsables/ PAS DE RESPONSABILITÉ SANS DIALOGUE
  • 11. LE DIALOGUE EST PARTOUT STRUCTURER LES MODALITÉS DU DIALOGUE
  • 12. L’ORGANISATION DU DIALOGUE EXISTE DÉJÀ… BASE DE CONNAISSANCE, SERVICES DE RÉPONSES EN LIGNE, ORGANISATION DE LA RELATION USAGER, STANDARDISATION, ORGANISATION DES CHAINES DE TRAITEMENT DES DEMANDES, SOLUTIONS CROSS-CANAL… Le modèle : https://www.service-public.fr
  • 13. « FACE À UNE BUREAUCRATIE OU À UN SYSTÈME TECHNIQUE, L’ATTENTE DES USAGERS EST LA MÊME. CE QUE VEULENT LES USAGERS, CE N’EST PAS UN MUR, MAIS UN DIALOGUE, NOTAMMENT PARCE QUE SOUVENT, L’EXPRESSION DE LEUR QUESTION EST COMPLEXE ET QU’IL FAUT UN HUMAIN POUR LA COMPRENDRE ET PROPOSER UNE RÉPONSE ADAPTÉE. » Bénédicte Roullier
 responsable du département Administration numérique au SGMAP BUG@SYSTEMETECHNIQUE.COM NE SUFFIT PAS !
  • 14. DES IDÉES POUR DES LEVIERS ! COMMENT AMÉLIORER LA RÉPONSE ET LA RESPONSABILITÉ ? PRENDRE LA MÉDIATION AU SÉRIEUX ! ▸ Prendre la médiation au sérieux : équipe dédiée à la qualité du dialogue usager ▸ Le pourcentage médiation : quelle part du budget des équipes est dédiée à la médiation ? ▸ De nouvelles contre-parties : de nouveaux droits pour les calculés ▸ Une échelle de responsabilisation : Vers une grille ou une labélisation des niveaux de médiation ▸ …
  • 15. AMÉLIORER LA QUALITÉ DE LA RÉPONSE HUMAINS-ALGOS PRENDRE LA MÉDIATION AU SÉRIEUX - Des systèmes dédiés à la médiation : http://www.service-public.fr - Des équipes interfaces entre le système et les usagers (Chargé de relation usagers comme on a ingénieurs qualité ?) : http://facebook.com/compassion - http://alireailleurs.tumblr.com/post/ 141246307693/g%C3%A9rer-les-ruptures-new-york-times - L’expérience usager au coeur des systèmes : du modèle service client d’Amazon aux systèmes de feedback permanents… - Faire monter le niveau d’exigence : obligations de réponse, engagements sur les délais de réponse, etc. (référentiel Marianne), motivation des décisions… - Vers des « Ecosystèmes de la médiation » : Démultiplier les médiateurs et les outils de médiation, tisser des partenariats entre différents types de médiateurs (internes, externes, médias…).
  • 16. AMÉLIORER LA QUALITÉ DE LA RÉPONSE HUMAINS-ALGOS LE POURCENTAGE MÉDIATION - Managers de la médiation : des community managers dédiés ? - Forums, Base de connaissance, numéro verts, etc. Vers des services d’assistance obligatoire ou minimums ? - Les systèmes techniques permettent des économies d’échelles… Quel pourcentage du budget d’un projet est dédié à la médiation, à la relation humaine ? Peut-on imaginer une labélisation qui prendrait en compte le niveau du budget ou les attributions des personnels dédiés à la relation (1% - 5% - 20% - 50%)… ?
  • 17. AMÉLIORER LA QUALITÉ DE LA RÉPONSE HUMAINS-ALGOS VERS DE NOUVELLES CONTRE-PARTIES ? - « Toute extension du calcul nécessite d’étendre ses contre-parties » : http://www.internetactu.net/ 2015/06/04/toute-extension-de-la-surveillance-necessite-detendre-ses-contreparties/ - Droit de réponse, de modification, de suppression, de contestation, de compensation… Redonner du pouvoir à ceux auxquels les calculs nuisent. Besoin de nouvelles garanties face à des systèmes qui se considèrent trop souvent comme infaillibles… Besoin de faciliter des réponses opposables aux traitements, des procédures de contestations avec des compensations, notamment en cas d’abus de faiblesse, d’abus d’asymétrie, etc. - Obligation minimale au bouton d’alerte (« panique bouton ») : coordonnées, bouton d’arrêt, possibilité de joindre quelqu’un avec délai de réponse minimal et indiqué… sont un MINIMA obligatoire.
  • 18. AMÉLIORER LA QUALITÉ DE LA RÉPONSE HUMAINS-ALGOS VERS UNE ÉCHELLE DE RESPONSABILISATION ? Niveau 0 : aucune modalité d’assistance voir difficulté à trouver l’information Niveau 1 : Contact : on peut joindre le système seulement en-dehors du système (e- mail, numéro vert, panic bouton…) Niveau 2 : systèmes auto-assistants Niveau 3 : personnalisation des réponses Niveau 4 : modalités de médiation organisées et distribuées, obligation à répondre… Niveau 5 : assistance déportée : l’assistance va répondre aux utilisateurs même en-dehors du système. Niveau 6 : droit de contestation, compensation, modification : l’assistance offre des compensations aux calculés Peut-on imaginer une échelle d’évaluation de la médiation/responsabilisation permettant de noter le nombre de modalités de médiation accessibles, d’évaluer le niveau d’assistance et de réponse offerts par le système ? Label extérieur ou grille d’auto-évaluation pour permettre aux systèmes d’évaluer leur niveau de responsabilisation ? Faut-il établie une grille de la responsabilisation des organisations, comme on dispose d’une grille d’ouverture des données dans les organisations : http://infolabs.io/cd16
  • 19. L’EXPLICABILITÉ L’ENJEU DE LA COMPRÉHENSION 2e piste d’innovation
  • 20. LA SOCIÉTÉ A UN DROIT D’EXPLICATION DES TECHNOLOGIES IMPÉNÉTRABLES ? http://internetactu.blog.lemonde.fr/2016/10/30/lintelligence-artificielle-va-t-elle-rester-impenetrable/
  • 21. QUELQUES SOIENT LES MODALITÉS D’APPRENTISSAGE DES ALGORITHMES (« SUPERVISÉ », « NON SUPERVISÉ » OU « PAR RENFORCEMENT »), LES MACHINES N’ACQUIÈRENT PAS POUR AUTANT D’AUTONOMIE AU SENS PHILOSOPHIQUE, CAR ELLES RESTENT SOUMISES AUX CATÉGORIES ET FINALITÉS IMPOSÉES PAR CEUX QUI AURONT ANNOTÉ LES EXEMPLES DANS LA PHASE D’APPRENTISSAGE. (…) CELUI QUI CONFIGURE L’ALGORITHME D’APPRENTISSAGE PAR RENFORCEMENT CHOISIT LUI-MÊME LE CRITÈRE À OPTIMISER, SANS QUE LA MACHINE SOIT EN MESURE DE LE CHANGER. « LES MACHINES NE MODIFIENT PAS D’ELLES-MÊMES LE LANGAGE DANS LEQUEL S’EXPRIMENT LES OBSERVATIONS QUI ALIMENTENT LEURS MÉCANISMES D’APPRENTISSAGE ET LES CONNAISSANCES QUELLES CONSTRUISENT. » Jean-Gabriel Ganascia in Le mythe de la Singularité EXPLIQUER NE DÉGRADE PAS LA QUALITÉ OU LA ROBUSTESSE D’UN SYSTÈME
  • 22. L’ABSENCE D’INTERPRÉTABILITÉ N’EST PAS UNE OPTION. http://internetactu.blog.lemonde.fr/2016/10/30/lintelligence-artificielle-va-t-elle-rester- impenetrable/ L’EXPLICABILITÉ N’EST PAS NÉGOCIABLE ! CE QUI N’EST PAS EXPLICABLE NE PEUT ENTRE EN DISCUSSION AVEC LA SOCIÉTÉ !
  • 23. L’ENJEU EST D’EXIGER LA TRANSPARENCE DES FINALITÉS. IL NE PEUT Y AVOIR DE MOTIVATIONS DES DÉCISIONS SANS CAUSALITÉS, SANS EXPLIQUER CES MOTIVATIONS ET LES COMMUNIQUER SOUS UNE FORME INTELLIGIBLE. Antoinette Rouvroy
 http://www.internetactu.net/2016/03/16/algorithmes-et-responsabilites/ PAS DE SOCIÉTÉ SANS MOTIVATION DES DÉCISIONS : L’EXPLICABILITÉ N’EST PAS PROCÉDURALE !
  • 25. L’EFFORT CONTINUE POUR RENDRE LA COMPLEXITÉ COMPRÉHENSIBLE… FAQ, VIDÉOS, SCHÉMAS, VISUALISATIONS, INFOGRAPHIES, TUTORIELS, SIMULATEURS…
  • 26. « LA TRANSPARENCE NE SUFFIT PAS » Kate Crawford
 http://www.internetactu.net/2017/01/13/la-transparence-ne-suffira-pas/ http://www.internetactu.net/2016/11/28/comment-armer-la-transparence/ EXPLIQUER, EXPLIQUER ET ENCORE EXPLIQUER
  • 27. DES IDÉES POUR DES LEVIERS ! SOUTENIR L’EFFORT PERMANENT D’INTELLIGIBILITÉ ▸ Expliquer : la pédagogie comme support ▸ Se faire comprendre : donner accès aux paramètres, aux finalités, aux causes, aux enjeux : les enjeux pour comprendre la Big Picture ▸ Se signaler : « vous avez été calculés »
  • 28. AMÉLIORER L’INTELLIGIBILITÉ EXPLIQUER : LA PÉDAGOGIE COMME SUPPORT - Infographies, vidéos explicatives… Dès que des systèmes sont en jeux, l’effort pédagogique est multiple. Il faut expliquer les principes, montrer comment cela fonctionne… préciser les enjeux. Détailler les paramètres pris en compte, les données (quels sont les données, les exemples qui le nourrissent), les finalités que l’on demande au système (qu’est-ce qu’on lui demande d’optimiser) http://www.r2d3.us/lapprentissage-automatique-en-images-chapitre-1/ 
 https://blog.juliedesk.fr/2016/11/03/presentation-assistante-intelligence-artificielle-infographie/ 
 https://www.youtube.com/watch?v=DywO4zksfXw 
 https://www.abondance.com/actualites/20160129-16083-infographie-comment-fonctionne- google-2.html - Expliquer, c’est déplier, mettre à plat, sortir les tensions… Vers un « SystemViz » : rendre visible l’architecture fonctionnelle des systèmes ? - 

  • 29. AMÉLIORER L’INTELLIGIBILITÉ SE FAIRE COMPRENDRE : DONNER ACCÈS AUX PARAMÈTRES, AUX FINALITÉS, AUX CAUSES, AUX ENJEUX - Donner accès aux catégories dans lesquelles vous êtes calculés, à ce qui est pris en compte pour le calcul est essentiel. C’est ce que propose par exemple Google ou Facebook en donnant accès aux « catégories » qui permettent de calculer nos profils. Trop souvent pourtant, cet accès est limité à ce que le calculateur sait de nous, sans donner la « Big Picture », les enjeux, la finalité du calcul : s’il permet de supprimer des catégories (de minimiser leur prise en compte), il permet plus rarement d’en ajouter, d’en changer… Les systèmes doivent expliciter leurs enjeux, donner à lire leur « Big Picture », expliquer leurs finalités… 
 
 Amazon : la personnalisation de son moteur de recommandation : https://www.amazon.fr/gp/ yourstore/iyr?ie=UTF8&ref_=ya_improve_recommendations& 
 Google et ses catégories : https://accounts.google.com/Login?continue=https:// myactivity.google.com/myactivity&hl=fr et https://www.google.com/settings/u/0/ads/authenticated? hl=en 
 Facebook : sites et thèmes publicitaires : https://www.facebook.com/about/ads 
 Twitter : https://twitter.com/settings/your_twitter_data - Se faire comprendre pour rétablir la confiance 
 « les gens ont plus confiance dans les algorithmes quand ils peuvent en ajuster les variables, même si ce sont des variables qui n'ont pas d'effets sur le modèle. Quand ils peuvent prendre part à la décision et l'utiliser pour ajuster leur jugement, leur niveau de confiance remonte. »
 http://alireailleurs.tumblr.com/post/111360073624/laversion-aux-algorithmes-knowledgewharton
  • 30. AMÉLIORER L’INTELLIGIBILITÉ SE SIGNALER : « VOUS AVEZ ÉTÉ CALCULÉS ! » - La « loi du drapeau rouge » : les systèmes autonomes doivent se signaler comme tels ? http:// www.numerama.com/politique/222569-tribune-doit-on-voter-une-loi-du-drapeau-rouge-pour- lintelligence-artificielle.html - Les systèmes ne doivent pas nous tromper ! - Un prix calculé algorithmiquement doit se signaler. Une décision calculée ou tirée au sort également. Une interaction avec un système automatisé doit se signaler comme tel à l’utilisateur qui y est confronté et ne pas se faire passer pour un humain. - Signaler c’est un premier pas pour encourager la motivation des décisions et leur explication.
  • 31. LA JOUABILITÉ L’ENJEU DE L’INTERACTION 3e piste d’innovation
  • 32. FACE AUX SYSTÈMES, LA RÉTROINGÉNIERIE NE PEUT PAS ÊTRE PERSONNELLE DANSER AVEC LES SYSTÈMES TECHNIQUES http://www.internetactu.net/2013/10/08/surveiller-les-algorithmes/
  • 33. LA RÉTRO-INGÉNIERIE, RESTE TECHNIQUE ! L’OBSERVATION PERSONNELLE 
 NE SUFFIT PAS A MESURE QUE LA COMPLEXITÉ AUGMENTE, BESOIN D’OUTILS POUR COMPRENDRE CE QUE LES ALGORITHMES OPTIMISENT VRAIMENT… HTTP://ALGOTRANSPARENCY.ORG
  • 34. « VOUS NE SAVEZ PAS VRAIMENT CE QUE FAIT UN MODÈLE TANT QUE VOUS NE POUVEZ PAS INTERAGIR AVEC LUI. VOUS NE SAVEZ PAS SI UN MODÈLE EST ROBUSTE TANT QUE VOUS NE POUVEZ PAS JOUER AVEC SES PARAMÈTRES. ENFIN, VOUS NE SAVEZ PAS SI UN MODÈLE EST LE MEILLEUR POSSIBLE TANT QUE VOUS N’AVEZ PAS LAISSÉ LES GENS ESSAYER DE L’AMÉLIORER. » Cathy O’Neil
 http://www.internetactu.net/2014/11/18/ouvrir-les-modeles-pas-seulement-les-donnees/
 http://www.internetactu.net/2016/06/29/il-est-plus-que-temps-que-le-big-data-evalue-ses-impacts/ ACCÉDER AUX PARAMÈTRES POUR COMPRENDRE
  • 35. TESTER C’EST AMÉLIORER FAIRE QUE LE MODÈLE CALCULE BIEN LA BONNE CHOSE ! L’exemple des algorithmes pour prédire la récidive : http://www.internetactu.net/a-lire-ailleurs/ 144849747113/ et 
 http://www.internetactu.net/2016/06/29/il-est-plus-que-temps-que-le-big-data-evalue-ses-impacts/
  • 36. EVALUER L’EFFICACITÉ A DÉFAUT D’OUVERTURE, INTERROGER LES MODÈLES Predpol : http://www.laviedesidees.fr/A-qui-profite-le-crime.html et http://www.internetactu.net/2015/06/23/ predpol-la-prediction-des-banalites/
  • 37. « LA TRANSPARENCE NE SUFFIT PAS » Kate Crawford
 http://www.internetactu.net/2017/01/13/la-transparence-ne-suffira-pas/ http://www.internetactu.net/2016/11/28/comment-armer-la-transparence/ LE LEVIER DE LA TRANSPARENCE NE SUFFIT PAS !
  • 38. DES IDÉES POUR DES LEVIERS ! JOUER ! ▸ Jouer pour comprendre : se faire une idée des paramètres, comprendre c’est toucher ▸ Feedback pour améliorer : intégrer le retour, boucle de rétroaction vertueuse, améliorer, rendre les systèmes robustes ▸ Simuler et tester, c’est apprendre ▸ Donner accès aux paramètres pour redonner confiance
  • 39. INTERAGIR POUR ÉVALUER : JOUER, C’EST RENDRE TRANSPARENT JOUER POUR COMPRENDRE - A défaut d’accéder au « code », aux « modalités », exemples, modèles, données et paramètres… des algorithmes « privés », sous copyright, permettre de jouer … - - pour le producteur, permet de tester leur robustesse sans dégrader le système, d’introduire des accès à de nouveaux paramètres, d’améliorer avec les utilisateurs ; - - pour l’utilisateur, permet de tenter de les comprendre ou d’entendre leur fonctionnement, de faire remonter des problèmes ; - Développer des espaces de tests, de jeux, c’est aussi permettre de faire de la médiation et de l’explicabilité, par l’exemple. - Calculateurs d’itinéraires permettent de jouer. Tarification automatique (SNCF, Avion) où les usagers jouent pour comprendre. Mais beaucoup de systèmes ne permettent pas de jouer, de comprendre.
  • 40. INTERAGIR POUR AMÉLIORER BOUCLE DE RÉTROACTION - Les plateformes analysent en permanence leurs utilisateurs pour améliorer leurs services. Le jeu, l’espace de simulation et de test, est un espace de test et d’amélioration privilégié des services. - Comprendre pourquoi les utilisateurs cherchent à vous contourner et le meilleur moyen pour y répondre. - Besoin de mesurer l’appréciation morale que les utilisateurs auront de vos améliorations : Le contre-exemple d’Uber : http://www.internetactu.net/2017/04/11/uber-les-gouvernances-fantomes/ - ATTENTION : beaucoup de jeux n’en sont pas ! Ils sont procéduraux ! Ils n’aident à rien ! http:// www.simulation-apb.fr/
  • 41. ACCÉDER À DES OUTILS DE SIMULATION POUR APPRÉCIER LES SYSTÈMES SIMULER ET TESTER - A défaut d’accéder au « code », aux « modalités », exemples, modèles, données et paramètres… des algorithmes « privés », sous copyright, permettre de jouer … - - pour le producteur, permet de tester leur robustesse sans dégrader le système, d’introduire des accès à de nouveaux paramètres, d’améliorer avec les utilisateurs ; - - pour l’utilisateur, permet de tenter de les comprendre ou d’entendre leur fonctionnement, de faire remonter des problèmes ; - Développer des espaces de tests, de jeux, c’est aussi permettre de faire de la médiation et de l’explicabilité, par l’exemple.
  • 42. AMÉLIORER L’INTELLIGIBILITÉ SE FAIRE COMPRENDRE : DONNER ACCÈS AUX PARAMÈTRES - Donner accès aux catégories dans lesquelles vous êtes calculés, à ce qui est pris en compte pour le calcul est essentiel. C’est ce que propose par exemple Google ou Facebook en donnant accès aux « catégories » qui permettent de calculer nos profils. Trop souvent pourtant, cet accès est limité à ce que le calculateur sait de nous, sans donner la « Big Picture » : s’il permet de supprimer des catégories (de minimiser leur prise en compte), il permet plus rarement d’en ajouter, d’en changer… 
 
 Amazon : la personnalisation de son moteur de recommandation : https://www.amazon.fr/gp/ yourstore/iyr?ie=UTF8&ref_=ya_improve_recommendations& 
 Google et ses catégories : https://accounts.google.com/Login?continue=https:// myactivity.google.com/myactivity&hl=fr et https://www.google.com/settings/u/0/ads/authenticated? hl=en 
 Facebook : sites et thèmes publicitaires : https://www.facebook.com/about/ads - Se faire comprendre pour rétablir la confiance 
 « les gens ont plus confiance dans les algorithmes quand ils peuvent en ajuster les variables, même si ce sont des variables qui n'ont pas d'effets sur le modèle. Quand ils peuvent prendre part à la décision et l'utiliser pour ajuster leur jugement, leur niveau de confiance remonte. »
 http://alireailleurs.tumblr.com/post/111360073624/laversion-aux-algorithmes-knowledgewharton
  • 43. LA SYMÉTRIE POUR UNE ÉQUITÉ DES TRAITEMENTS 4e piste d’innovation
  • 44. LES TRAITEMENTS PEUVENT-ILS ÊTRE INVISIBLES À CEUX QU’ILS CALCULENT ? LE RETOUR DES DONNÉES AUX UTILISATEURS NE SUFFIT PAS ! Après le retour des données aux utilisateurs (cf. http://mesinfos.fing.org ) l’enjeu repose plus sur l’utilisation de nos données que notre seul droit à y accéder : http://www.internetactu.net/2013/01/22/de-quels-traitements-sommes-nous-les-proies/
  • 45. « LA RESTITUTION DES DONNÉES À L’UTILISATEUR NE SUFFIRA PAS À LES ARMER, S’ILS NE PEUVENT ÊTRE CONSCIENTS DES TRAITEMENTS QUE LEURS DONNÉES SUBISSENT ». LES UTILISATEURS, MÊME S’ILS RÉCUPÉRAIENT LEURS DONNÉES NE SERAIENT PAS À ÉGALITÉ AVEC LES SERVICES QUI LES UTILISENT, « CAR CEUX-CI SAVENT LES TRAITER ». MAIS PAS LES UTILISATEURS ! EUX N’ONT AUCUN MOYEN POUR L’INSTANT DE CONNAÎTRE LES TRAITEMENTS QUI SONT APPLIQUÉS À LEURS DONNÉES ! ILS N’EN CONNAISSENT MÊME PAS LES RÉSULTATS.» Hubert Guillaud
 
 http://www.internetactu.net/2014/11/18/ouvrir-les-modeles-pas-seulement-les-donnees/ RENDRE LE CALCUL AUX CALCULÉS !
  • 46. LA RÉPONSE À L’OPACITÉ, N’EST PAS LA TRANSPARENCE, MAIS LA SYMÉTRIE ! APRÈS LE RETOUR DES DONNÉES AUX UTILISATEURS : LE RETOUR DES TRAITEMENTS…
  • 47. « NOUS NE SAVONS PAS COMMENT NOUS AVONS ÉTÉ CALCULÉS, MAIS NOUS NE SAVONS PAS NON PLUS À QUI NOUS AVONS ÉTÉ COMPARÉS » Dominique Cardon
 
 http://www.internetactu.net/2016/01/05/larchitecture-et-le-bazar-quest-ce-qui-nous-determine/ FAIRE APPARAÎTRE LE CONTRAT SOCIAL ENTRE LES INTERNAUTES ET LES CALCULATEURS : LA SYMÉTRIE POUR RÉPONDRE À L’OPACITÉ !
  • 48. DES ALGORITHMES FONCTIONNANT AVEC DES DONNÉES INEXACTES PEUVENT ÊTRE NOCIFS D’AUTANT PLUS, SI DU FAIT DE LEURS APPROXIMATIONS PAR TRAITEMENT, IL EST DIFFICILE DE LES MODIFIER, COMME C’EST LE CAS QUAND ON UTILISE DES CODES POSTAUX POUR INFÉRER VOTRE NIVEAU DE REVENU OU VOTRE ORIGINE ETHNIQUE. PIRE, L’INTERRELATION DES DONNÉES ENTRE ELLES ET DES SYSTÈMES ENTRE EUX TEND À CRÉER DES BIAIS QUI SE RENFORCENT LES UNS LES AUTRES. L’INFÉRENCE D’UN NIVEAU DE REVENU SUR UN CODE POSTAL, ABAISSE LE SCORE D’EMPRUNT ET AUGMENTE LE TAUX D’INTÉRÊT, CE QUI AUGMENTE VOTRE PROBABILITÉ À FAIRE DÉFAUT ET RENFORCE LE MAUVAISE SCORE LIÉ À VOTRE CODE POSTAL... Adam Clair
 http://www.internetactu.net/2017/04/04/les-algorithmes-sont-ils-une-nouvelle-forme-de-bureaucratie/ DE LA SYMÉTRIE DE L’INFORMATION À LA SYMÉTRIE DES TRAITEMENTS !
  • 49. MONTRER AUX UNS LES STRATÉGIES DES AUTRES DE L’ÉGALITÉ D’INFORMATION POUR FAIRE RECULER L’OPACITÉ
  • 50. DES IDÉES POUR DES LEVIERS ! SYMÉTRIE : LE TRAITEMENT DE MES DONNÉES ME CONCERNE ▸ Loi numérique : vers un droit d’accès aux traitements ? ▸ Pour une égalité de traitement : Si les traitements agissent sur les personnes, alors le calculé doit voir comment il a été traité !
  • 51. VERS UNE OBLIGATION DE SYMÉTRIE ! VERS UN DROIT D’ACCÈS AUX TRAITEMENTS - La Loi Lemaire et le règlement européen sur la protection des données introduisent un droit d’accès aux données et une politique de portabilité de celles-ci. Ils préfigurent un droit d’accès aux résultats des traitements, permettant d’accéder aux degrés et paramètres des traitements, aux opérations effectuées par celui-ci. A l’avenir, ces droits encourageant la « responsabilité des décisions » qu’évoque Pierre Rosanvallon dans Le bon gouvernement sont certainement appelés à s’étendre… Décret n° 2017-330 du 14 mars 2017 relatif aux droits des personnes faisant l'objet de décisions individuelles prises sur le fondement d'un traitement algorithmique : https://www.legifrance.gouv.fr/affichTexte.do? cidTexte=JORFTEXT000034194929&fastPos=1&fastReqId=1449082291&categorieLien=id&oldAction=rechTexte La Loi pour une « République numérique a créé un principe de communication des règles définissant un traitement algorithmique lorsque celui-ci a participé au fondement d'une décision individuelle ». « Art. R. 311-3-1-2.-L'administration communique à la personne faisant l'objet d'une décision individuelle prise sur le fondement d'un traitement algorithmique, à la demande de celle-ci, sous une forme intelligible et sous réserve de ne pas porter atteinte à des secrets protégés par la loi, les informations suivantes : 
 « 1° Le degré et le mode de contribution du traitement algorithmique à la prise de décision ; 
 « 2° Les données traitées et leurs sources ; 
 « 3° Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l'intéressé ; 
 « 4° Les opérations effectuées par le traitement ; ». Le règlement européen sur la protection des données introduit un droit à la limitation du traitement (article 18), un droit d’opposition au traitement (article 21) et un droit d’information et de contestation
 (article 22) : https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre3#Article22
  • 52. POUR UN NOUVEAU CONTRAT DE CONFIANCE : MONTREZ-MOI À QUOI SERVENT MES DONNÉES ! POUR UNE ÉGALITÉ DE TRAITEMENTS - Etablir un nouveau contrat de confiance entre calculateurs et calculés, permettant de lever l’opacité des traitements - - Expliquer à quoi servent les données ; - - Montrer à quoi servent les calculs ; - Etablir une relation de confiance entre calculateurs et calculés… Lever l’opacité des calculs en mettant calculateurs et calculés sur un pied d’égalité. Calculés et calculateurs doivent avoir accès aux mêmes informations. Pour rendre les systèmes équitables, il faut que les calculs soient partagés ! - Accéder aux statistiques inférées de mes données par exemple, me permet de comprendre comment je suis calculé.
  • 53. JUSTICIABILITÉ ENCOURAGER LES « BONNES PRATIQUES » 5e piste d’innovation
  • 54. TROP PROTÉGÉ, TROP COMPLIQUÉ… HORMIS POUR LES ALGORITHMES « PUBLICS », L’AUDITABILITÉ RISQUE DE DEMEURER INATTEIGNABLE
  • 55. « QUI POURRAIT AUDITER/EXPERTISER DE TELS SYSTÈMES, QUAND BIEN MÊME DEVIENDRAIENT- ILS OUVERTS ? » Hubert Guillaud
 
 http://www.internetactu.net/2016/01/13/nos-systemes-pour-une-retroingenierie-des-systemes-techniques/ L’AUDITABILITÉ : UN DIALOGUE TECHNIQUE AVEC LA TECHNIQUE
  • 56. « JE CROIS QUE LA TRANSPARENCE ALGORITHMIQUE CRÉE UN FAUX ESPOIR. NON SEULEMENT ELLE EST TECHNIQUEMENT INSOUTENABLE, MAIS ELLE OBSCURCIT LES POLITIQUES RÉELLES QUI SONT EN JEU » 
 
 OUVRIR LE CODE NE SUFFIT PAS À CE QUE TOUT LE MONDE L’INSPECTE NI NE PERMET QU’IL RENDE DES COMPTES. danah boyd
 
 http://www.internetactu.net/a-lire-ailleurs/comment-rendre-les-algorithmes-responsables/ FAIRE QUE LES SYSTÈMES RENDENT DES COMPTES NE SIGNIFIE PAS LES RENDRE TRANSPARENTS
  • 57. OUVERTURE, PARTAGE DE DONNÉES, ACCÈS AUX CHERCHEURS, STATISTIQUES, RÉCIPROCITÉ… ENCOURAGER DES PRATIQUES VERTUEUSES
  • 58. « QUAND UN SYSTÈME TECHNIQUE EST ÉQUITABLE, QU’EST-CE QUE ÇA CHANGE POUR SES DESTINATAIRES, QU’EST-CE QUE ÇA OUVRE COMME OPPORTUNITÉS D’AFFAIRES NOUVELLES POUR SES PRODUCTEURS? » AVANTAGE CONCURRENTIEL AUX BONNES PRATIQUES ?
  • 59. DES IDÉES POUR DES LEVIERS ! JUSTICIABILITÉ : ENCOURAGER LES « BONNES PRATIQUES » ▸ Open Science : Encourager la recherche ouverte ▸ Open Data dans les organisations : Encourager la publication ouverte, déclaration d’impact social, et le développement des données d’intérêt écosystèmiques ▸ Protéger les lanceurs d’alerte ▸ Débattre, croiser, mêler, décloisonner : favoriser les passerelles
  • 60. OUVRIR À LA RECHERCHE FAVORISER L’OPEN SCIENCE - Dans un territoire de brevets, de propriété intellectuelle… il est nécessaire d’encourager les pratiques alternatives : ouvertes, réplicables, libres de droits… Favoriser l’accueil de scientifiques extérieurs aux entreprises, développer des projets de recherches ouverts… pour inviter à produire autrement les systèmes techniques. - Plutôt que décréter l’auditabilité des systèmes qui entrera en conflit avec leur propriété intellectuelle, l’enjeu est d’encourager le développement de l’open source, qui permettra l’audibilité des systèmes, via des compensations ou des incitations fiscales aux entreprises qui ouvrent leurs systèmes. - Favoriser l’open science, c’est encourager la publication de jeux de données, d’extraits de jeux de données, de simulateurs… de statistiques, d’espaces de simulation, pour tester des modalités d’amélioration et le développement de nouveaux services. - De Distill - http://distill.pub -, la plateforme de publication de Google pour le Machine Learning, à Transalgo - https://www.inria.fr/actualite/actualites-inria/transalgo - ou Algorithmtips - http:// algorithmtips.org ou DataTransparency Lab : http://www.datatransparencylab.org - Reste à trouver les modalités réglementaires pour accompagner ces pratiques, ces outils, ces modèles, les faire passer à l’échelle, les labelliser, les soutenir, les développer ! - http://www.internetactu.net/a-lire-ailleurs/10-regles-simples-pour-rendre-les-recherches-big-data- responsables/
  • 61. ENCOURAGER LES BONNES PRATIQUES L’OUVERTURE DES DONNÉES DES ORGANISATIONS - Inviter les entreprises à ouvrir des données, à publier des jeux de données : faire contribuer les entreprises à l’Open data (et pas seulement les organisations publiques), - http://www.internetactu.net/2012/06/12/les-enjeux-de-lextension-de-lopen-data-au-monde-de- lentreprise/ - Encourager et développer l’action de la recherche sur les données des organisations. Et aider financièrement au développement d’associations et de think tank indépendants de contrôle. - Vers une déclaration d’impact social des traitements, faisant reposer sur l’entreprise la publication d’une évaluation des effets de leurs algorithmes ? http://www.fatml.org/resources/principles-for- accountable-algorithms#social-impact - Hormis les acteurs publics et les délégataires, les acteurs privés (hormis quelques secteurs) n’ont pas d’obligation à ouvrir des données. Si elles publient leurs bilans financiers par exemple, aucune obligation ne les contraints à les publier en formats ouverts. Or le secteur privé dispose de « données d’intérêt éco-systémique » et données d’intérêt général qu’elle pourrait publier de manière ouverte dans le cadre de démarche RSE par exemple (accidentologie, statistiques, bilan financier, données d’intérêt général, etc.).
  • 62. ENCOURAGER LES BONNES PRATIQUES PROTÉGER LES LANCEURS D’ALERTES - Dans bien des cas, on ne sait qu’un système dysfonctionne que lorsque des lanceurs d’alertes donnent l’alerte, qu’un travail d’investigation est mené, ou lorsqu’un contrôle indépendant est mis en place : http://www.internetactu.net/2017/04/11/uber-les-gouvernances-fantomes/ et http:// www.internetactu.net/2015/09/29/qui-nous-protegera-des-logiciels-tricheurs/ et http:// www.internetactu.net/2017/05/10/les-donnees-suffisent-elles-pour-piloter-la-ville/ - Elargir le cadre de la loi à tous les secteurs économiques, développer la protection des lanceurs d’alerte comme le recommande Transparency International… développer une agence indépendante des alertes, un fonds de dotation, des réparations financières et un droit à des procédures judiciaires équitables semblent indispensables…
  • 63. ENCOURAGER LES BONNES PRATIQUES DÉBATTRE, CROISER, MÊLER, DÉCLOISONNER… - Rendre Hackable ! - Relier les approches, les recherches, les univers. - Initier des espaces de débats, de tests, de discussion, de croisement.
  • 65. 5 PISTES D’INNOVATIONS ▸ la responsabilité par la médiation : organiser le dialogue et la médiation entre les systèmes et la société ▸ l’explicabilité : expliquer, se signaler, se faire comprendre, rendre lisible ▸ la jouabilité : l’interaction pour comprendre, améliorer et rendre réactif ▸ la symétrie : vers une parité des traitements ▸ la justicialibilité (open science) : encourager les « bonnes pratiques » d’ouverture et de partage AMÉLIORER LA « RESPONSABILITÉ SOCIALE » DES SYSTÈMES
  • 66. APB, CAS D’ECOLE DES ALGORITHMES PUBLICS LES RECOMMANDATIONS « NOS SYSTEMES » APPLIQUÉES À 
 APB (ADMISSION POST-BAC) JOURNÉE D’ÉTUDE - 
 JUIN 2016
  • 67. TESTER LES PISTES D’INNOVATION DE NOS SYSTÈMES 2017-2018 : DES DÉMONSTRATEURS NOS SYSTÈMES Pour la seconde année du programme Nos Systèmes de la Fing, l’enjeu est d’accueillir des systèmes qui souhaitent travailler avec nous à développer concrètement les 5 pistes d’innovation esquissées en année 1 et regarder comment mettre en place ces recommandations et montrer ce que leur mise en place génère. Cf. Note APB : APB, un cas d’école - journée d’étude. Nous sommes à la recherche de systèmes prêts à développer ces points avec nous, d’une manière ouverte, en mode test ; d’écoles, de chercheurs et d’étudiants pour nous accompagner dans les ateliers que nous souhaitons organiser. Besoin d’affiner, de préciser et de mettre en débat nos pistes d’innovation.
  • 68. AMÉLIORER LA RESPONSABILITÉ SOCIALE DES SYSTÈMES ▸ Affiner la grille d’évaluation de la responsabilité des systèmes ▸ Faire de la pédagogie sur la responsabilité par la médiation et l’explicabilité. ▸ Tester la symétrie d’une manière opérationnelle ▸ Comment encourager les bonnes pratiques (justiciabilité), concrètement ? OBJECTIFS DE LA SAISON 2 DE NOS SYSTEMES
  • 69. NOS SYSTÈMES S02 DEVENEZ PARTENAIRES DE LA FING ! VERS UNE « RÉ-INGÉNIERIE SOCIALE » DES SYSTÈMES TECHNIQUES Hubert Guillaud - hubertguillaud@gmail.com - Thierry Marcou - tmarcou@fing.org http://fing.org/?NosSystemes