1. Beeinflussung
durch
Künstliche
Intelligenz
Über die Banalität
der Beeinflussung
und das Leben
mit Algorithmen
Gemälde von Sarina Walter
mit freundlicher Genehmigung der Künstlerin

2. Die Menschen befürchten, dass Computer
zu intelligent werden und die Welt erobern.
Aber Computer sind zu dumm und
haben die Welt bereits erobert.
Kate Crawford

3. Über uns
AMSTERDAM MACHINE
LEARNING LAB
UNIVERSITEIT VAN AMSTERDAM
KAREN ULLRICH HENDRIK HEUER
INSTITUT FÜR
INFORMATIONSMANAGEMENT BREMEN
UNIVERSITÄT BREMEN
karenullrich.info
@karen_ullrich
hen-drik.de
@hen_drik

4. Spam erkennen
IMPERATIVE
PROGRAMMIERUNG
MASCHINELLES
LERNEN
if "V!agrå" in mail:
return "Spam"
else:
return "Ham"
1. prognostiziere für viele
Beispiele, ob Nachricht Spam ist
2. berechne Fehler
3. ändere Parameter,
um Fehler zu verringern
4. goto 1

5. Brustkrebs erkennen
Example: breast cancer classification
Plot of two features: mean area vs. mean concave points, for two classes
J. Zico Kolter,
15-388/688,
Practical Data
Science

6. Brustkrebs erkennen
Linear classification example
Linear classification ≡ “drawing line separating classes”
J. Zico Kolter,
15-388/688,
Practical Data
Science

7. Persönlichkeitsmerkmale erkennen
Weiße/r oder Afroamerikaner/in: 95%
Männlich oder Weiblich: 93%
Heterosexuell oder homosexuell: 88%
Demokrat oder Republikaner: 85%
Christlich oder muslimisch: 82%
Drogenerfahrung: 65% - 73%
Ehe der Eltern hat bis zum 21. Lebensjahr gehalten: 60%
Kosinski et al.: Private traits
and attributes are predictable
from digital records of human
behavior

8. Persönlichkeitsmerkmale erkennen
Kosinski et al.: Private traits
and attributes are predictable
from digital records of human
behavior

9. ProPublica:
Machine Bias
Verbrechen vorhersagen
3 LOW RISK 8 HIGH RISK

10. LOW RISK
HIGH RISK
X y' '

11. Verbrechen vorhersagen
Deutschlandfunk:
Algorithmen im US-
Justizsystem
Schicksalsmaschinen
von Tom Schimmeck

14. Algorithmic News Curation
Paul Butler: Visualizing
Friendships

15. Algorithmic News Curation
Paul Butler: Visualizing
Friendships

16. Wieviel Vertrauen
ist angebracht?
Wann scheitern
die Algorithmen?
Gemälde von Sarina Walter
mit freundlicher Genehmigung der Künstlerin

17. Bias der Daten
Bias des Modells

18. Rechtschaffende
1100 Fotos aus verschiedenen
Quellen des Internets.
1800 Fotos, Chinesen, 18-55, keine Gesichtshaare, Narben, Tattoos
Kriminelle
700 Fotos verurteilter Krimineller,
bereitgestellt durch die Polizei.

20. Verzerrung der Stichprobe
Anzahl der Daten
Melde-Bias
Ausgewählte Merkmale, die ein Problem beschreiben

21. Bias der Daten
Bias des Modells

22. “No Free Lunch” - Theorem
Betrachtet man alle möglichen Situationen,
funktioniert kein Modell besser als alle anderen.
Wir müssen Annahmen machen, um Szenarien zu
beschreiben und Modelle zu vereinfachen (Modell-Bias).
Aber: Annahmen versagen in gewissen Situationen.
Unsere Aufgabe: Annahmen benennen und überprüfen, ob
sie valide sind.

23. Zielsetzung: Was ist Erfolg?
Ziele basieren auf Annahmen
Problem: Richtigkeit einer Übersetzung
Wort für Wort?
Paragraph für Paragraph?
Synonyme?

24. Ziele basieren auf Annahmen
Problem: Richtigkeit einer Übersetzung
Satz für Satz
Sätze sind unabhängig
Nur das wahrscheinlichste Wort/
Phrase wird als richtig bewertet
Zielsetzung: Was ist Erfolg?

25. Zielsetzung als Bias

26. Bias der Daten
Bias des Modells

27. Aktives Lernen
Human in the Loop
Me
Anreicherung des
Datensets
Algorithmus lernt durch
Maschinelles Lernen
Bei unsicheren Daten
wird ein Experte befragt
Me

29. Übertragendes Lernen
Ziel: Aufgabe erledigen
Problem: Wenige Daten
Bias
Ähnliche Aufgabe, die
erfolgreich gelöst werden kann

31. Extrapolieren
?
Interpolieren

32. Interpolieren

33. Extrapolieren
??

34. RARE EVENT
URSACHE
EFFEKT
?

35. Gemälde von Sarina Walter
mit freundlicher Genehmigung der Künstlerin
KAREN ULLRICH
karenullrich.info
@karen_ullrich
HENDRIK HEUER
hen-drik.de
@hen_drik
Beeinflussung
durch
Künstliche
Intelligenz