Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Autonomes Handeln intelligenter Menschen: Internet der Dinge und Industrie 4.0

919 views

Published on

Dem Internet der Dinge sowie dessen Ausprägungen – z.B. Industrie 4.0, Smart Cities oder Smart Grids – werden in den kommenden Jahren wegweisende Bedeutungen für den Wirtschaftsstandort Deutschland zugeschrieben. Es steht unter Anderem sinnbildlich für autonom agierende und intelligente Computersysteme, die selbständig Entscheidungen treffen können, die nur bedingt vorbestimmt sind. Der Vertrag stellt dar, für wen sich juristischen Konsequenzen aus einem intelligenten Handeln autonomer Maschinen ableiten. Dabei wird zivil-, haftungs- und datenschutzrechtlichen Fragen autonomer Software und Systeme nachgegangen und aufgezeigt, welche rechtlichen Anforderungen bei Entwicklung und Einsatz von smarten Anwendungen im Internet der Dinge zu berücksichtigen sind.

Published in: Law
  • Be the first to comment

  • Be the first to like this

Autonomes Handeln intelligenter Menschen: Internet der Dinge und Industrie 4.0

  1. 1. Autonomes Handeln intelligenter Maschinen Internet der Dinge und Industrie 4.0 Arbeitskreis EDV & Recht, Köln, 2.12.2015
  2. 2. Überblick 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 2
  3. 3. Wer? • Sascha Kremer • „Überzeugungstäter“ • Fachanwalt für IT-Recht, Datenschutzbeauftragter, Datenschutzauditor • Lehrbeauftragter, Dozent, Autor • „Surfer“ (Digitalisierung) und „Inselbewohner“ (Vinyl) • twitter.com/saschakremer, slideshare.net/saschakremer • facebook.com/lpkhb, loginpartners.de 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 3
  4. 4. Was? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 4 Industrie 4.0 1.0 = Mechanisierung 2.0 = Elektrifizierung 3.0 = Digitalisierung 4.0 = Vernetzung
  5. 5. Fragen? • Willenserklärungen? • Haftung autonomer Systeme/für autonome Systeme? • Leistungsgegenstand Interaktionsfähigkeit? • Telekommunikation? • (Personenbezogene) Daten und Zuordnung? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 5
  6. 6. Willenserklärungen? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 6
  7. 7. Willenserklärungen • BGB: nicht definiert • Willenserklärung verlangt Geschäftsfähigkeit, § 105 I BGB • Geschäftsfähigkeit verlangt Volljährigkeit, § 104, 106 BGB • Sonderfall: beschränkte Geschäftsfähigkeit, §§ 106 ff. BGB • Beachte: Geschäftsfähigkeit ≠ Rechtsfähigkeit 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 7
  8. 8. Willenserklärungen • Klassisches Verständnis differenziert: • Subjektiver Erklärungstatbestand • Handlungsbewusstsein • Erklärungsbewusstsein • Geschäftsführungswille • Objektiver Erklärungstatbestand • Rechtsbindungswille (oder dessen Erkennbarkeit) 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 8
  9. 9. Willenserklärungen • Klassisches Verständnis „Computererklärung“: • Keine Verantwortlichkeit der Maschine • Verantwortlichkeit des Entwicklers = Geschäftsfähigen • BGH, Urt. v. 26.1.2005 – VIII ZR 79/04: • „Die Verfälschung des ursprünglich richtig Erklärten auf dem Weg zum Empfänger durch eine unerkannt fehlerhafte Software ist als Irrtum in der Erklärungshandlung [der den Programmablauf bestimmenden Person] anzusehen.“ 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 9
  10. 10. Willenserklärungen • Autonomes Handeln von Maschinen • Autonomie-Grad 10: „The computer decides everything, acts autonomously, ignoring the human“ • Autonome Systeme verfolgen eigene Interessen (gegen Entwickler) • Entwickler beherrscht Programmablauf nicht (mehr) • Subjektiver Erklärungstatbestand entfällt 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 10
  11. 11. Willenserklärungen • Autonomes System = kein Erklärungstatbestand • Keine Willenserklärung = keine Rechtsgeschäfte? • Fiktion einer Willenserklärung durch (vorherigen) Vertrag? • Vereinbarung der Parteien über Erklärungsfähigkeit autonomer Systeme • Beachte: Relativität der Vereinbarung = Bindung nur beteiligter Parteien • Ersetzung Willenserklärung durch Risikozuordnung? • mit BGB unvereinbar = §§ 104 ff. BGB analog? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 11
  12. 12. Haftung? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 12
  13. 13. Haftung • Beispiel: autonomes Fahren im Smart Car • § 7 I StVG: „Wird bei dem Betrieb eines [Kfz ...] ein Mensch getötet [...] oder eine Sache beschädigt, so ist der Halter verpflichtet, dem Verletzten den daraus entstehenden Schaden zu ersetzen.“ • § 7 II StVG: „Die Ersatzpflicht ist ausgeschlossen, wenn der Unfall durch höhere Gewalt verursacht wird.“ • Fehlfunktion autonomes System = höhere Gewalt? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 13
  14. 14. Haftung • Beispiel: autonomes Fahren im Smart Car • § 18 I StVG: „In den Fällen des § 7 [I] ist auch der Führer des Kraftfahrzeugs [...] zum Ersatz des Schadens [...] verpflichtet. Die Ersatzpflicht ist ausgeschlossen, wenn der Schaden nicht durch ein Verschulden des Führers verursacht ist.“ • Fehlfunktion autonomes System = kein Verschulden Führer Kfz? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 14
  15. 15. Haftung • Vertragliche Haftung • § 280 I 1 BGB: Pflichtverletzung beim Handeln autonomer Systeme? • § 280 I 2 BGB: Vertreten müssen der Pflichtverletzung? • § 241 II BGB: Schutzpflichten bei autonomen Systemen? • § 311 II BGB: Vorvertragliche Aufklärungspflichten? • § 434 I, 633 II BGB: Sachmangel bei Fehlfunktion? • Darlegungs- und Beweislast? Umkehrung? Sekundäre Beweislast? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 15
  16. 16. Haftung • Gesetzliche Haftung (I) • § 823 I BGB: Deliktische Haftung (Verschulden)? • § 823 II BGB: Schutzgesetzverletzung? • § 831 I BGB: Haftung für Verrichtungsgehilfen? • Hersteller autonomer Systeme als „zur Verrichtung Bestellter“? • Auswahlverschulden? • Ergänzend: Organisationsverschulden, § 823 I BGB? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 16
  17. 17. Haftung • Gesetzliche Haftung (II) • § 830 BGB: Mittäter und Beteiligte? • § 830 I S. 2 BGB: „Das Gleiche gilt, wenn sich nicht ermitteln lässt, wer von mehreren Beteiligten den Schaden durch seine Handlung verursacht hat.“ • Hersteller autonomer Systeme als Beteiligter = Gesamthaftung? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 17
  18. 18. Haftung • Gesetzliche Haftung (III) • § 833 BGB: Tierhalterhaftung analog? • § 836 BGB: Grundstücksbesitzer analog? • Fehlerhafte Errichtung = Fehlerhafte Entwicklung autonomer Systeme? • Mangelhafte Unterhaltung = Nichtvornahme erforderlicher Updates? • Abwendung durch Beobachtung im Verkehr erforderlicher Sorgfalt? • § 1 I Produkthaftungsgesetz? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 18
  19. 19. Haftung • Haftungsgegner • Vertragsparteien • Anwender autonomer Systeme • Hersteller autonomer Systeme, Zwischenhändler/OEM • Softwarezulieferer • Datenzulieferer 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 19
  20. 20. Haftung • Versicherbarkeit Haftungsrisiken autonomer Systeme? • Deckung durch (freiwillige) Vermögensschadenshaftpflicht? • Deckung durch (zwingende) Haftpflichtversicherung? • Deckung durch Berufshaftpflichtversicherung? • Beispiele: • Automated legal decision making • Automated medical decision making 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 20
  21. 21. Leistungsgegenstand Interaktionsfähigkeit? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 21
  22. 22. Interaktionsfähigkeit • Kommunikation M2M verlangt Interaktionsfähigkeit • Interaktionsfähigkeit = Standards und Schnittstellen • Standards und Schnittstellen sind „moving target“ • Fehlerbehebung • Technische Änderungen • Funktionale Erweiterungen 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 22
  23. 23. Interaktionsfähigkeit • Leistungsgegenstand Interaktionsfähigkeit bei Kauf • Vereinbarte Beschaffenheit, § 434 I 1 BGB? • Eignung für im Vertrag vorausgesetzte Verwendung, § 434 I 2 Nr. 1 BGB? • Eignung für gewöhnliche Verwendung plus übliche und zu erwartende Beschaffenheit für Sachen gleicher Art, § 434 I 2 Nr. 2 BGB? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 23
  24. 24. Interaktionsfähigkeit • Leistungsgegenstand Interaktionsfähigkeit • Erhaltung Interaktionsfähigkeit ist in Zukunft gerichtete Leistung • Werkvertrag oder Mietvertrag mit Erhaltungspflicht? • Kaufvertrag mit anschließendem Pflege-/Wartungsvertrag? • Problem: Zugang Anbieter (Remote/IT-Sicherheit/Datenschutz)? • Problem: Erhaltung Integration in Umsysteme? • Problem: Test der (zukünftigen) autonomen Interaktionsfähigkeit? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 24
  25. 25. Telekommunikation? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 25
  26. 26. Telekommunikation • Autonome Systeme als Telekommunikationsdienste • Rechtsfolgen u.a. • Meldepflicht, § 6 TKG • Fernmeldegeheimnis, § 88 TKG • Telekommunikationsdatenschutz, §§ 91 ff. TKG • „Vorratsdatenspeicherung“, §§ 108 ff. TKG 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 26
  27. 27. Telekommunikation • Telekommunikationsdienst, § 3 Nr. 24 TKG: • „in der Regel gegen Entgelt erbrachte Dienste, die ganz oder überwiegend in der Übertragung von Signalen über Telekommunikationsnetze bestehen, [...]“ • Diensteanbieter, § 3 Nr. 6 TKG: • „jeder, der [...] geschäftsmäßig a) Telekommunikationsdienste erbringt oder b) an der Erbringung solcher Dienste mitwirkt“ 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 27
  28. 28. Telekommunikation • Signalübertragung = Rückgriff OSI-Schichtenmodell • strittig: Einordnung OTT-Dienste („over the top“) • VG Köln, Urt. v. 11.11.2015 – 21 K 450/15 (zu Google Mail) • „wertend-funktionale Betrachtung“ erforderlich • Veranlassung der Signalübertragung eines Dritten ausreichend • Beachte: Drittbezug erforderlich (nicht ausreichend: interne Übertragung) • Beachte: Nicht rechtskräftig, Sprungrevision zugelassen 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 28
  29. 29. (Personenbezogene) Daten und Zuordnung? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 29
  30. 30. (personenbezogene) Daten • Zuordnung der Daten von oder aus autonomen Systemen • Kein Eigentum an Daten (fehlende Sacheigenschaft) • Data Ownership bedarf vertraglicher Festlegung • Data Quality bedarf vertraglicher Festlegung (vergleichbar SLA) • Daten/Datensammlungen als sonstiges Recht? • Daten/Datensammlungen als Betriebs-/Geschäftsgeheimnisse? • Daten/Datensammlungen als Urheber-/Leistungsschutzrecht? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 30
  31. 31. (personenbezogene) Daten • Personenbeziehbarkeit der Daten • Weites Verständnis: absolute Theorie • Zur Entscheidung beim EuGH – C 582/14 • Vorlage durch BGH, Beschl. v. 28.10.2014 –VI ZR 135/13 • Bei Personenbeziehbarkeit: Anwendbarkeit BDSG • Zu beachten: ggf. Vorrang Spezialgesetze (TKG, siehe oben) • Rechtsfolge: Verbot mit Erlaubnisvorbehalt, § 4 Abs. 1 BDSG 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 31
  32. 32. (personenbezogene) Daten • Lösungsansätze: • Anonymisierung, § 3 VI BDSG = Datenschutzrecht unanwendbar • Beachte: De-Anonymisierung führt zurück ins Datenschutzrecht • Notwendig: Fortlaufende Überprüfung der Anonymität in Prozessen • Pseudonymisierung, § 3 VIa BDSG = Datenschutzrecht anwendbar • Eigene Erlaubnistatbestände (z.B. § 15 Abs. 3 TMG) • Reduzierung der Anforderungen an TOM, § 9 BDSG 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 32
  33. 33. (personenbezogene) Daten • Folgeproblem im Datenschutzrecht: Transfer in Drittland • Zweite Stufe Rechtmäßigkeitsprüfung, §§ 4b, 4c BDSG • Voraussetzung: Angemessenes Datenschutzniveau im Drittland (oder Einwilligung des Betroffenen u.a. Fälle, § 4c I BDSG) • Unwirksamkeit Safe Harbor: EuGH, Urt. v. 6.10.2015 – C-362/14 • Alternativen: • Binding Corporate Rules, EU Model Clauses (Standardverträge)? • Art. 38, 39 DS-GVO (Code of Conduct, Zertifizierungen)? 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 33
  34. 34. Fazit 2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 34
  35. 35. Fragen? Fragen! Sascha Kremer sascha.kremer@loginpartners.de Tel +49(2238)5408700 / Mobil +49(171)8319621

×