1. Polit-Automatisierung
Fake News, Social Bots, Hacks & Co –
Gefahr für die Demokratie?
Referent: Peter Welchering

2. Polit-Automatisierung
Was passiert da gerade im Netz und in der Politik?

3. Polit-Automatisierung
Der amerikanische Präsidentschafts-Wahlkampf als Beispiel
4.000.000 Social Bots auf Seiten Trumps
900.000 Social Bots vom Clinton-Team
Cyberangriffe, um an sensibles Wissen zu gelangen
Inferenzanalysen zur Identifizierung von individuellen Botschaften

4. Polit-Automatisierung
„Propaganda, die wir in sozialen Netzwerken in Teilen feststellen, ist teilweise
falsch, ist überzogen und ist oftmals emotional und verleitet dazu, dass die
Menschen sich eine andere Meinung, eine fehlerhafte Meinung von der
Realität machen.“
Hans-Georg Maaßen, Präsident des Bundesamtes für Verfassungsschutz auf
der Berliner Cybersicherheitskonferenz am 22. November 2016.

5. Polit-Automatisierung
„Wir erwarten einen rasanten Anstieg von Cyberangriffen in den
anstehenden Wahlkämpfen, insbesondere einen rasanten Anstieg der
Cyberangriffe auf Computer von Politikern, Rechnersysteme der Parlamente
und Server der Parteien.“
Steven Wilson, Chef der Cybercrime-Einheit von Europol, am 23. November
2016 gegenüber dem Deutschlandfunk

6. Polit-Automatisierung
„Wir haben in den Vereinigten Staaten gesehen, dass es Cyberangriffe
gab, die das Wahlergebnis manipulieren sollten. Das werden wir in Europa
auch sehen. Es hat wahrscheinlich schon stattgefunden. Zumindest die
Vorbereitungen für diese Versuche, Wahlergebnisse zu beeinflussen,
haben mit hoher Wahrscheinlichkeit bereits vor einigen Monaten oder noch
früher begonnen. Die Zahl der Angriffe steigt mit der Möglichkeit,
demokratische Prozesse damit beeinflussen zu können. Diese Zahl der
Angriffe wird zunehmen. Wir müssen lernen, mit diesem Risiko
umzugehen.“
Freddy Dezeure, Chef des EU-CERT, am 22. März 2017 auf der
europäischen Forensiker-Tagung in Überlingen gegenüber dem
Deutschlandfunk

7. Polit-Automatisierung
Vorbild USA: Das digitale politische Direktmarketing des Jared Kushner
-Big-Data-Analysen für die personalisierte Wählerwerbung
-Propaganda-Roboter für die Wahlwerbung in den sozialen Netzen
-Fake News mit einem nachvollziehbaren Ausgangspunkt
zur Diskreditierung des politischen Gegners
Hierzu ein Hörtipp:

8. Polit-Automatisierung
Big-Data-Analysen für die Wahlwerbung
Aufgabe: Online-Profiling der Wählerzielgruppen
Methode: Individuelle verstärkende Botschaften auf der Basis von
Inferenzanalysen
Datenquelle: Kartell von 1000 Datenhändlern weltweit, die alle
Netznutzer umfassend überwachen
Jared Kushner nutzte die Datenbasis von Cambridge Analytica

9. Polit-Automatisierung
„Bislang war es so, dass wir ja das Prinzip der geheimen Wahlen
hatten. Also, eigentlich wussten Politiker im Großen und Ganzen,
welche Meinungen und welche Strömungen es im Volk gibt. Jetzt ist es
so, dass man die Meinungen und die Interessen und auch politische
Gesinnung bis zum Individuum hinunter erfassen und bestimmen kann.
Und das ist prinzipiell natürlich etwas, das widerstrebt eigentlich auch
dem demokratischen Grundgedanken der freien Meinungsbildung.
Man kann die Leute unmittelbar und direkt beeinflussen, und dann
entsprechend auch eine Wahl beeinflussen.“
Karsten Schramm, ehem. Gründer von GMX

10. Polit-Automatisierung
„Wir wissen es nicht zuletzt dank Michael Kosinski, dessen Verfahren
von Cambridge Analytica bei Brexit und Trump eingesetzt worden ist
und gerade die Runde macht, also die Wahrscheinlichkeit, mit der die
dann nachträglich abgefragten Eigenschaften anhand von
durchschnittlich 70 Facebook-Likes errechnet worden sind. Also es
gibt hier nirgends eine Frage auf Facebook Bist Du schwul, ja nein,
sondern aus dem individuellen Musikgeschmack, aus dem
Kaufverhalten oder eben aus dem, was geliked worden ist, lässt sich
das ableiten.“
Professor Volker Grassmuck, Leuphana

11. Polit-Automatisierung
Propaganda-Roboter in den sozialen Netzen:
Aufgaben: Reichweite schaffen, Diskussion automatisieren,
virtuelle Echokammern erzeugen
Methoden: Wortmatrizen, Bot-Chat, Tweet-Kaskaden
Quellen: Softwareentwicklung aus der hybriden Kriegsführung

12. Polit-Automatisierung
Ein Beispiel

13. Polit-Automatisierung

14. Polit-Automatisierung
Die Schnellanalyse auf
Bot or Not
ergab Indizien für einen
Social Bot

15. Polit-Automatisierung
Social Bots werden international in fast allen politischen
Auseinandersetzungen eingesetzt, natürlich auch in Deutschland

16. Polit-Automatisierung
Ein Ziel dieser Bots sind so Social-Media-Monitoring-Dienste die
automatisch analysieren, wie über Personen gesprochen wird. Denn
wer die öffentliche Meinung in dieser Form beeinflussen kann, wer
also sagen kann, seht her, die Präsidentin ist beliebt auf den
sozialen Netzwerken, das ist natürlich eine gute Nachricht und führt
auch dazu, dass man Rückenwind bei den Wählerinnen und
Wählern kriegt.
Professor Joachim Scharloth, TU Dresden

17. Polit-Automatisierung
Fake News in der politischen Auseinandersetzung
Aufgaben: Diskreditierung des Gegners, Mobilisierung der eigenen Anhänger
Methoden: PsyOps der hybriden Kriegsführung
Quellen: „operative Ansatzpunkte“ werden durch Cyberangriffe beschafft

18. Polit-Automatisierung

19. Polit-Automatisierung
Cyberangriffe liefern operative Ansatzpunkte
-Der sogenannte wahre Kern
-Die Präsentationsattacke
-Angriff auf Parlamente und Parteizentralen
-Sicherheitslücken als Basis

20. Polit-Automatisierung
Was tun in dieser Situation?
Nachrichtendienste wollen mehr Mittel für PsyOps und Gegenspionage
Politiker fordern eine Zentralstelle gegen Fake News
Sicherheitsexperten fordern schärfere Gesetz, egal welche
Wissenschaftler fordern bessere Aufklärung des Bürgers
Kritiker halten politische Effekte von Social Bots, Fake News & Co
für nicht erwiesen

21. Polit-Automatisierung
Meine Thesen zur Situation:
1: Die Situation ist nicht neu.
2: Fake News sind so alt wie die Medien.
3: Spähattacken haben eine lange Tradition.
4: Software für Inferenzanalysen wird seit über 40 Jahren eingesetzt.
Aaaaaaaber:
1: Online-Profiling war noch nie so effizient.
2: Dokumentenmanipulation war in technischer Hinsicht noch nie so einfach.
3: Journalisten nehmen ihre Wächterfunktion nur noch miserabel wahr.

22. Polit-Automatisierung
Manipulation am Bild – quick and dirty

23. Polit-Automatisierung
Dasselbe gilt auch für die Recherche mit Videomaterial
Dara Hassanzadeh

24. Polit-Automatisierung
Reaktionen der Journalisten
-In zu vielen Fällen überhaupt keine Reaktion, keine Konsequenz
-Flucht in die Aktivistenrolle
-Kapitulation vor der Fülle des Materials
-Rückzug auf „einfachere Themen“
-„Schreiben in jede Richtung“

25. Polit-Automatisierung
Vorschläge zum Umgang mit der Situation:
-Sicherheitslücken effizient schließen
-Umfassendes Ausspähen der Netznutzer unterbinden
(„ehrliche Software“, Verbot von User-IDs zur Identifizierung, bessere parl. Kontrolle des
nachrichtendienstlich-industriellen Komplexes)
-Plattformbetreiber von sozialen Medien in die medienrechtliche
Verantwortung nehmen
-Bildung, Bildung, Bildung (der Journalisten, der Politiker, der Funktionsträger)
-Stärkung der journalistischen Wächterfunktion

26. Polit-Automatisierung
Kritik, Anregungen, Fragen ?
peter@welchering.de
auf Twitter: @welchering
www.welchering.de
oder voice to voice: 0171-5135624