Successfully reported this slideshow.
Your SlideShare is downloading. ×

idalab seminar #15 - Carla Hustedt

Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Loading in …3
×

Check these out next

1 of 15 Ad

idalab seminar #15 - Carla Hustedt

Algorithms are increasingly relied upon in decision making processes that can have far-reaching implications for all of us. They help doctors diagnose diseases and develop treatment plans. They tell police officers where to patrol. They decide who is going to be invited to the job interview. If these decisions are made by people and the way they decide seems harmful or unjust, our laws enable us to hold them accountable for their actions and correct them if necessary. Principally, these laws are based on what we, as a society, regard as ‘ethical’. But algorithms make decisions differently and are able to make decisions that human beings can’t, because of the amount of data they can take into consideration. Thus, if we wish to hold algorithms accountable for the decisions they make, we need to define the ethical standards that they’re meant to hold up to.

In this seminar, Carla will present the project “A Quality Criteria Catalogue for Algorithms” of the Bertelsmann Stiftung. Among others she will discuss the questions “What standards of quality could algorithms be held to?” and, one step further, “How is it possible to make sure that these standards are actually being implemented?”

Algorithms are increasingly relied upon in decision making processes that can have far-reaching implications for all of us. They help doctors diagnose diseases and develop treatment plans. They tell police officers where to patrol. They decide who is going to be invited to the job interview. If these decisions are made by people and the way they decide seems harmful or unjust, our laws enable us to hold them accountable for their actions and correct them if necessary. Principally, these laws are based on what we, as a society, regard as ‘ethical’. But algorithms make decisions differently and are able to make decisions that human beings can’t, because of the amount of data they can take into consideration. Thus, if we wish to hold algorithms accountable for the decisions they make, we need to define the ethical standards that they’re meant to hold up to.

In this seminar, Carla will present the project “A Quality Criteria Catalogue for Algorithms” of the Bertelsmann Stiftung. Among others she will discuss the questions “What standards of quality could algorithms be held to?” and, one step further, “How is it possible to make sure that these standards are actually being implemented?”

Advertisement
Advertisement

More Related Content

More from idalab GmbH (20)

Recently uploaded (20)

Advertisement

idalab seminar #15 - Carla Hustedt

  1. 1. © 2018 | idalab GmbH | Potsdamer Straße 68 | 10785 Berlin | idalab.de page 1 | confidential Agency for Data Science Machine learning & AI Mathematical modelling Data strategy Carla Hustedt What makes an algorithm ethical? – Defining and implementing a Quality Criteria Catalogue for Algorithms idalab seminar #15 | December 7th 2018
  2. 2. What makes an algorithm ethical? December 2018 twitter: @algoethik & @carlahustedt
  3. 3. Algorithmen gehen uns alle an! What makes an algorithm ethical? 207.12.2018 |
  4. 4. Chancen Effizienz Komplexitätsmanagement Konsistenz Fairness 07.12.2018 | 3What makes an algorithm ethical?
  5. 5. Algorithmen skalieren menschliche Entscheidungen 07.12.2018 | 4 MEHR TEILHABE FÜR ALLE VERSTÄRKTE SOZIALE UNGERECHTIGKEIT ALGORITHMISCHE SYSTEME What makes an algorithm ethical?
  6. 6. WAS KÖNNEN WIR TUN? Eine Professionsethik für Programmierer:innen? 07.12.2018 |What makes an algorithm ethical? 6
  7. 7. Viele Entwicklungsphasen, viele Beteiligte à Prozessbezogene Professionethik #algorules 7 What makes an algorithm ethical? Personen, die über den Zweck und die Ziele eines solchen Prozesses entscheiden, den Prozess gestalten. Personen, die einen Algorithmus testen, weiterentwickeln oder Anpassen. Personen, die den Prozess anwenden oder über die Art der Anwendung entscheiden. Personen, die einen Algorithmus programmieren. Personen, die die Daten sammeln, bündeln und pflegen. Personen, die designen, wie algorithmische Ergebnisse Anwender:innen präsentiert werden. 07.12.2018 |
  8. 8. Entwicklung eines Gütekriterienkatalogs für algorithmische Systeme 07.12.2018 | 8 + What makes an algorithm ethical? 1. Workshop zur Definition von Zielgruppe und Inhalten 2. Analyse bestehender Gütekriterienkataloge 3. Expert:innenkonsultation durch Telefoninterviews 4. Arbeitspapier + Workshop zur Entwicklung einer Implementationsstrategie 5. Breiter Beteiligungsprozess
  9. 9. Man muss das Rad nicht neu erfinden: Analyse bestehender Gütekriterienkataloge 07.12.2018 | 9What makes an algorithm ethical? “Principles for Accountable Algorithms & Social Impact Statement for Algorithms” “Asilomar AI Principles” “Principles for Algorithmic Transparency and Accountability”
  10. 10. 07.12.2018 |What makes an algorithm ethical? 10 Blick über den Tellerrand: Was macht eine Professionsethik erfolgreich? Medizin Soziale Arbeit Journalismus Öffentlichkeits- arbeit Werbung Ingenieurwesen
  11. 11. Erfolgsfaktoren erfolgreicher Professionsethiken: #1 Historische Tradition 07.12.2018 |What makes an algorithm ethical? 11 #6 Institutionalisierung #5 Sensibilisierung durch Berufsausbildung #4 Homogenität der Gruppe #3 Sitz im Leben #2 Persönliches Anliegen #7 Sanktionen #8 Materieller Hintergrund #9 Wissenschaftliche Reflexion #10 Langfristiges Engagement
  12. 12. 1. Kompetenz aufbauen Die Funktionsweisen und Wirkungen von Algorithmen müssen verstanden werden. 2. Verantwortung zuweisen Für die Wirkungen eines algorithmischen Systems muss eine natürliche Person verantwortlich sein. 3. Ziele und erwartete Wirkung nachvollziehbar machen Die Ziele und die erwartete Wirkung eines Algorithmus müssen nachvollziehbar gemacht werden. 4. Sicherheit gewährleisten Der Einsatz von algorithmischen Systemen muss sicher sein. Die 8 #algorules: 07.12.2018 | 12What makes an algorithm ethical? 5. Transparenz erhöhen Der Einsatz eines algorithmischen Systems muss gekennzeichnet sein. 6. Beherrschbarkeit sichern Der Einsatz von algorithmischen Systemen muss beherrschbar sein. 7. Wirkung überprüfen (lassen) Die Auswirkungen eines algorithmischen Systems auf den Menschen müssen regelmäßig überprüft werden. 8. Korrigierbarkeit herstellen Entscheidungen eines Algorithmus dürfen nie unumkehrbar sein.
  13. 13. Offene Fragen: §Braucht es eine akteurs- oder eine sektorspezifische Personalisierung der Kriterien? §Was ist der Geltungsbereich des Gütekriterienkatalogs? §Wie kann der Katalog mit bestehenden berufsethischen Leitlinien kombiniert werden? §Wie kann der Katalog in Arbeitsprozesse integriert werden? §Wie kann Verbindlichkeit geschaffen werden? 07.12.2018 |What makes an algorithm ethical? 13
  14. 14. BACKUP 07.12.2018 | 14
  15. 15. Bildquellen: Fotos von Unsplash.com Icons von Flaticon.com - Vectors Market - Becris - Freepic 10.12.18 |Titel der Präsentation 20

×