Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
Intelligence artificielle : opportunités et risques
juridiques associés
Michaël Zadworny et Louis Lantonnois - Avocats
NAU...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
IA: opportunités et risques jur...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Les points présentés aujourd’hu...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Définition & Evolution
- Intell...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Définition & Evolution
- Robot ...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Définition & Evolution
- Test d...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Définition & Evolution
- 1950: ...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Définition & Evolution
- 1997: ...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Définition & Evolution
- 2000: ...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Définition & Evolution
- 2006: ...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Définition & Evolution
- 2011: ...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Définition & Evolution
- 2014: ...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - Législation...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - Législation...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - Législation...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - Législation...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - Personnalit...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - Personnalit...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - Responsabil...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - Responsabil...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - IP
- Le dro...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - IP
- Le dro...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Challenges légaux - IP
- Un rob...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Questions éthiques - notions de...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Questions éthiques - notions de...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Questions éthiques - emplois
“P...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Questions éthiques - fiscalité
...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Questions éthiques - risques de...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Questions éthiques - le “Trolle...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Questions éthiques - le “Trolle...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Questions éthiques - le surhomm...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Questions éthiques - armement
a...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Quelques opportunités…
- “Infra...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Quelques opportunités…
- Assura...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Quelques opportunités…
- Assist...
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Merci pour votre attention !
36
International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
Contacts
Louis Lantonnois Micha...
28 avril 2017,
de 8h30 à 10h
General Data Protection Regulation : impact pour les entreprises innovantes
Orateur : Centre ...
Intelligence artificielle - juridique - Le Point du LIEGE science park - 31 mars 2017
Upcoming SlideShare
Loading in …5
×

Intelligence artificielle - juridique - Le Point du LIEGE science park - 31 mars 2017

358 views

Published on

Les technologies et applications de l'Intelligence Artificielle connaissent une évolution rapide et suscitent curiosité, enthousiasme et espoirs, aussi bien que méfiance, incrédulité ou oppositions. Mais leur utilisation soulève plusieurs interrogations sur le plan juridique, en particulier en matière de droit social, de vie privée, de propriété intellectuelle, de données personnelles, de discrimination et surtout de responsabilité.
Une conférence organisée par l'Interface Entreprises-Université de LIège, le 31 mars 2017.
Orateur : NAUTADUTILH

Published in: Technology
  • Be the first to comment

  • Be the first to like this

Intelligence artificielle - juridique - Le Point du LIEGE science park - 31 mars 2017

  1. 1. Intelligence artificielle : opportunités et risques juridiques associés Michaël Zadworny et Louis Lantonnois - Avocats NAUTADUTILH 31-03-2017 L'Interface vous donne rendez-vous chaque mois au LIEGE science park, pour faire le point, avec un conseiller en innovation, sur une mesure en lien avec vos préoccupations. Une initiative de
  2. 2. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam IA: opportunités et risques juridiques associés Michaël Zadworny & Louis Lantonnois
  3. 3. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Les points présentés aujourd’hui - Définition & Evolution - Challenges légaux - Questions éthiques - Opportunités 3
  4. 4. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Définition & Evolution - Intelligence artificielle (“IA”): “La recherche de moyens susceptibles de doter les systèmes informatiques de capacités intellectuelles comparables à celle des humains” (Dictionnaire du Centre National de Ressources Textuelles et Lexicales du CNRS). 4
  5. 5. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Définition & Evolution - Robot (1920, du tchécoslovaque Robota, signifiant travail, esclave): “Une machine intelligente capable de prendre des décisions de manière libre, interagissant avec son environnement, dotée de mobilité, agissant en coopération avec les hommes et dotée d’une capacité d’apprentissage.” (Jérémy Bensoussan et Alain Bensoussan, Droit des robots, Larcier, 2017) Karel Čapek 5
  6. 6. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Définition & Evolution - Test de Turing (Imitation Game): ce test est réussi lorsque, dans plus de 30% des cas, l’opérateur humain chargé de poser des questions à des interlocuteurs ne se trouvant pas dans son champ de vision n’est pas en mesure de distinguer, au regard des réponses qui lui sont données, l’humain de la machine. (A.M. Turing 1950, “Computing machinery and intelligence”, Mind, 49: pp. 433-460) Alan Turing 6
  7. 7. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Définition & Evolution - 1950: établissement du test de Turing. - 1973: création de Wabot-1, premier robot humanoïde à marche bipède (Université Waseda, Japon). 7
  8. 8. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Définition & Evolution - 1997: Deep Blue (IBM) l’emporte face à Garry Kasparov aux échecs (10120 parties différentes possibles). 8
  9. 9. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Définition & Evolution - 2000: création de Advanced Step In MObility de Honda Robotics. 9
  10. 10. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Définition & Evolution - 2006: création de Nao par Aldebaran Robotics. 10
  11. 11. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Définition & Evolution - 2011: le programme d’IA Watson (IBM) remporte un jeu télévisé de questions-réponses en langage naturel. - 2012: l’algorithme Deep Learning (Google) reconnaît des chats parmi 10 millions d’images (se basant sur des vidéos postées sur Youtube). 11
  12. 12. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Définition & Evolution - 2014: le programme d’IA Eugène Gootsman réussit le test de Turing en parvenant à convaincre 33% des juges qu’il est un être humain sur une conversation de 5 minutes mais… ce bot conversationnel a été présenté au jury comme un enfant de 13 ans dont l’anglais n’est pas la langue maternelle… - 2016: l’algorithme Deep Mind (Google) l’emporte face à Lee Sedol au jeu de Go (10600 parties différentes possibles). 12
  13. 13. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - Législation - L’approche légaliste / téléologique: est-ce que les lois actuelles couvrent l’IA et les robots? Peut-on étendre la personnalité juridique aux robots? “Vs.” - L’approche technologique / anthropologique: est-ce que l’IA et les robots génèrent des problèmes qui méritent d’être réglés par des lois? Faisons un test de Turing afin de déterminer si la personnalité juridique doit être octroyée à un robot. 13
  14. 14. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - Législation - La résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)) est un mix entre les deux approches et se base sur les lois d’Isaac Asimov. - Cette résolution ne contient pas beaucoup d’informations pertinentes et est peu claire quant à certains aspects. Ainsi, par exemple, elle indique qu’il convient de ne pas imputer sur les humains la responsabilité des actes des robots autonomes mais elle prône une assurance obligatoire pour les utilisateurs de ces robots. 14
  15. 15. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - Législation Une très forte réglementation Une absence de réglementation Ne stimule pas l’innovation (Red Flag Act, OGM, bitcoin, drônes) Incertitude juridique et manque d’investissement Protège davantage le consommateur Cantonnement des fabricants à des risques limités et calculables Peut également ne pas stimuler l’innovation Moins protecteur du consommateur 15
  16. 16. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - Législation - L’influence des lobbies (fabricants de bougies, assureurs). - Le paradoxe de Collingridge: le législateur doit attendre que la technologie soit développée avant de légiférer mais il ne peut pas non plus agir trop tard (ex. biotech). Trouver le juste milieu entre trop ou pas suffisamment de règles et agir ni trop tôt ni trop tard. Agir ex post lorsque les IA / robots produisent des externalités limitées et ex ante lorsqu’ils produisent des externalités systémiques ou existentielles afin d’éviter le paradigme de Collingridge. 16
  17. 17. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - Personnalité juridique - La personnalité juridique est l’aptitude à être titulaire de droits et de devoirs: conclure des contrats, attaquer ou défendre en justice, être propriétaire, payer des impôts, etc. - La personnalité juridique est octroyée aux êtres humains et aux personnes morales. - Les animaux bénéficient d’une protection pénale et civile (indirecte) mais pas de la personnalité juridique: c’est toujours l’homme qui agit en son nom et pour l’animal. 17
  18. 18. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - Personnalité juridique - La personnalité juridique n’est pas (encore) octroyée aux robots mais… - Résolution du Parlement européen: demande à la Commission d’envisager toutes les hypothèses juridiques, telles que la création, à terme, d’une personnalité juridique spécifique aux robots, pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques responsables, tenues de réparer tout dommage causé à un tiers; il serait envisageable de conférer la personnalité électronique à tout robot qui prend des décisions autonomes ou qui interagit de manière indépendante avec des tiers. 18
  19. 19. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - Responsabilité - Qui est responsable des dommages? * La personne les ayant causés (art. 1382 C. Civ.); * Le tiers responsable de la personne/chose les ayant causés (parents–enfants mineurs/maître–domestique/instituteurs– élèves/artisans–apprentis, propriétaire–objet) (art. 1384 C.Civ.); ou * Le fabricant du produit défectueux (génère un dommage imprévu dans le cadre d’un usage normal, pas besoin de faute, loi du 25 février 1991). - Comment peut-on appliquer cela à l’IA et aux robots? 19
  20. 20. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - Responsabilité - Lorsque le robot sera vendu en open source, la personne responsable devrait, en principe, être celle qui aura élaboré l’application du robot lui ayant permis d’occasionner un dommage. - Lorsque le robot aura causé un dommage qui trouvera son origine dans la conception ou la fabrication du robot, le concepteur ou le fabricant devrait être considéré comme responsable. - Lorsque le robot aura causé un dommage qui trouvera son origine dans l’usage ou la période d’apprentissage du robot, il faudrait considérer que son utilisateur ou son propriétaire (pro ou non / victime ou non) devrait être désigné comme responsable. - Location / robots autonomes – non autonomes / au pénal? 20
  21. 21. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - IP - Le droit d’auteur: œuvres littéraires et artistiques si elles sont mises en forme et peuvent être considérées comme originales (une création intellectuelle de l’auteur reflétant la personnalité de ce dernier et se manifestant par les choix libres et créatifs de celui-ci). - Le droit des dessins et modèles: l'apparence d'un produit, lorsqu’elle est nouvelle. - Le droit sur les bases de données: bases de données qui sont le résultat d’un investissement qualitativement ou quantitativement substantiel. 21
  22. 22. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - IP - Le droit des brevets: invention technique nouvelle qui apporte une solution technique à un problème technique, susceptible d’application industrielle et licite. - Le droit des marques protège les signes susceptibles d'une représentation graphique servant à distinguer les produits ou services d'une entreprise. 22
  23. 23. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Challenges légaux - IP - Un robot peut faire l’objet de plusieurs protections: droit d’auteur, droit de modèle et brevet. - Quid de l’œuvre du robot lui-même? https://www.youtube.com/watch?v=LSHZ_b05W7o * Droit d’auteur : le robot a t-il une personnalité juridique? Fait-il des choix libres et créatifs? (U.S.A.: pas de protection accordée à un selfie réalisé par un singe). * Bases de données: le robot est-il le producteur, “la personne qui prend l'initiative et le risque des investissements correspondants”? * Brevet : quelque chose d’inventif pour un humain pourrait devenir totalement basique pour un robot. 23
  24. 24. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Questions éthiques - notions de base - Lois d’Asimov (1950): * “Un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu’un être humain soit exposé au danger.” * “Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.” * “Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.”  Loi 0: “Nulle machine ne peut porter atteinte à l’humanité ni, restant passive, laisser l’humanité exposée au danger.” 24
  25. 25. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Questions éthiques - notions de base - Evolution de la “robot-éthique”: * Lignes directrices du projet “Robolaw” (financé par l’UE) * Les préconisations de la Commission de réflexion sur l’Ethique de la Recherche en sciences et technologies du numérique d’Allistène (CERNA – France) * Initiatives internationales (Corée du Sud, USA, Japon, etc.) * Référentiel général d’éthique (national – européen – international) 25
  26. 26. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Questions éthiques - emplois “Pour beaucoup de personnes avoir un emploi donne un sens à leur vie car cela les rend utiles. Ils peuvent faire une différence. Que se passe-t-il si ces personnes perdent leur job? Sont-elles alors inutiles? Il s’agit là de quelque chose qui ne peut pas être sous-estimé.” (Elon Musk, CEO Tesla Motors) 26
  27. 27. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Questions éthiques - fiscalité - Les robots devraient-ils être imposés? - Remplacent des contribuables - Sont plus productifs - Peuvent travailler 24h/24 MAIS - Frein à l’innovation? - Mise en œuvre?  Emergence d’un revenu universel (“Win for life” – Nele Lijnen (Open VLD))? 27
  28. 28. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Questions éthiques - risques de discrimination - Les algorithmes utilisent les données du passé pour établir des modèles ou effectuer des prévisions. - Les algorithmes ne sont pas créatifs. - Exemple: “Applicant Tracking Systems”.  Correction des algorithmes possible, mais audit des “boîtes noires” nécessaire. 28
  29. 29. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Questions éthiques - le “Trolley Dilemma” - Véhicules autonomes - Que faire lorsque l’accident est inévitable? Le “Trolley Dilemma” 29
  30. 30. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Questions éthiques - le “Trolley Dilemma” - Les chaînes de production et la fabrication du trombone parfait 30
  31. 31. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Questions éthiques - le surhomme - Utilisation des technologies réparatrices: * Assistance au travail pénible * Aide aux personnes souffrant de défaillances physiques - MAIS restriction des technologies augmentatives: * Courant transhumaniste * Empêcher que certaines personnes puissent bénéficier de qualités physiques / mentales supérieures aux capacités humaines * Risque de concurrence entre les employés 31
  32. 32. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Questions éthiques - armement autonome - Distinction entre armement autonome et semi-autonome: * Semi-autonome: une partie des décisions subsiste chez l’humain, * Autonome: une fois activée, l’arme sélectionne seule ses cibles et, le cas échéant, attaque. - Levée de boucliers importante de la société civile, du monde scientifique et de nombreuses ONG.  Demande d’une interdiction préventive de robots-soldats autonomes. 32
  33. 33. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Quelques opportunités… - “Infrastructures” d’intégration de l’IA - Mise en place d’infrastructures d’intégration - Optimisation des interactions robot-humain et robot-robot - Amélioration de la sécurité - Utilisation des données - Protection des données: - Inflation des données disponibles - Données à caractère personnel moins sauvegardées - Pierre angulaire de la confiance 33
  34. 34. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Quelques opportunités… - Assurances en matière d’IA / robotique - Multitude de données (futures) disponibles - Infrastructures adaptées - Atténuation / disparition de l’erreur humaine (ex. roulage) - Fintech - Rapidité / efficacité - Réduction des coûts - Accès illimité à l’information 34
  35. 35. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Quelques opportunités… - Assistance aux personnes / médecine: - Augmentation de l’autonomie - Amélioration des soins - Réduction des coûts - Attention à la rupture du lien social 35
  36. 36. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Merci pour votre attention ! 36
  37. 37. International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam Contacts Louis Lantonnois Michaël Zadworny NautaDutilh BVBA/SPRL NautaDutilh BVBA/SPRL Associate Associate T: +32 2 566 81 44 T: +32 2 566 81 66 M: +32 499 69 84 63 M: +32 499 69 84 03 E: louis.lantonnois@nautadutilh.com E: michael.zadworny@nautadutilh.com 37
  38. 38. 28 avril 2017, de 8h30 à 10h General Data Protection Regulation : impact pour les entreprises innovantes Orateur : Centre Recherche Info Droit et Société (CRIDS - UNamur) 19 mai 2017, de 8h30 à 10h Incitants fiscaux en R&D : état des lieux Orateur : DELOITTE

×