Ethical vs Evil Design

EVIL DESIGN
ETHICAL VS.
Julian Mengel, UX -Designer @Micromata, https://twitter.com/vitamin_J

ETHICAL VS. EVIL DESIGN
DESIGN TYPEN
▸ Ethical Design
▸ Aufrichtiges Design
▸ Überzeugendes Design
▸ Evil Design (Täuschendes Design)

ABGRENZUNG DER FOLGENDEN BEGRIFFLICHKEIT
▸ Evil Design
▸ Webstandards
▸ Persuasive Design
▸ User Experience (UX)
▸ Dark User Experience (Dark UX)
▸ Barrierefreiheit
▸ Dark Design Patterns

STANDORTBESTIMMUNG
ETHICAL
DESIGN
AUFRICHTIGES
DESIGN
ÜBERZEUGENDES
DESIGN
EVIL
DESIGN

DEFINITION „DESIGN“
„Design“ meint in diesem
Zusammenhang, jede
Entscheidung, die von der
Planung eines Produktes bis zur
Auslieferung getroffen wird.

WAS BEDEUTET „ETHISCH“ IN DIESEM ZUSAMMENHANG
„Handle so, daß die Maxime deines Willens jederzeit
zugleich als Prinzip einer allgemeinen Gesetzgebung gelten
könne.“
Immanuel Kant

WAS BEDEUTET DAS IM ALLTAG?
Ist es ethisch korrekt zu stehlen?

WAS BEDEUTET DAS IM ALLTAG?
Ist es ethisch korrekt seinen Lieblingsﬁlm oder die
Lieblings CD für einem Freund zu kopieren?

GESETZ UND ETHIK
Verbreitete Haltung
“Technisch gesehen
kann man unbegrenzt
und ohne
Qualitätsverlust Musik
kopieren, verändern
und weitergeben - also
muss das legal sein.”
Allgemeine Erklärung der
Menschenrechte
Resolution der
Generalversammlung der
Vereinten Nationen vom 10.
Dezember 1948
„Jeder hat das Recht auf Schutz
der geistigen und materiellen
Interessen, die ihm als Urheber
von Werken der Wissenschaft,
Literatur oder Kunst erwachsen.“
(Artikel 27)

GESETZ UND ETHIK
Verbreitete Haltung
“Ich kann meine Daten
im Internet faktisch
nicht mehr
kontrollieren, also muss
ich es gut ﬁnden, wenn
jeder sie sehen kann.”
Allgemeine Erklärung der
Menschenrechte
Resolution der
Generalversammlung der Vereinten
Nationen vom 10. Dezember 1948
„Niemand darf willkürlichen
Eingriffen in sein Privatleben, seine
Familie, seine Wohnung und seinen
Schriftverkehr [...] ausgesetzt
werden. Jeder hat Anspruch auf
rechtlichen Schutz gegen solche
Eingriffe oder Beeinträchtigungen.“
(Artikel 12)

TECHNIK UND ETHIK
Technische Lösungen entstehen aktuell so schnell, dass
Menschen, Firmen, die Gesellschaft, Politik und
Gesetzgebung nicht hinterher kommen.

TECHNIK UND ETHIK
Es gibt technische Entwicklungen, die bereits an den
Bedürfnissen des Menschen vorbei gehend weitreichende
negative Folgen haben - in sozialer, politischer oder
gesundheitlicher Hinsicht.
„59% aller 12 -17 jährigen geben laut einer DAK Studie an, wegen Social Media an Schlafstörungen zu
leiden

ETHICAL DESIGN
Dezentralisiert, Privatsphäre schützend, Datensparsamkeit, Accessible,
Sicher & Nachhaltig, exzellente usability & User Experience

EVIL DESIGN
▸ Waygu Rinder werden in Japan mit Bier getränkt und
massiert. Dabei geht es nicht darum, das es den Rindern
besser geht, sondern das Produkt – das Fleisch – zu
verbessern um höhere Preise zu erzielen. Wenn z.B.
Facebook oder Google die UX ihres Produktes verbessern,
seid Ihr in dieser Analogie das Rind.
Aral Balkan (Author „Ethical Design Manifesto“)

AUFRICHTIGES DESIGN
Getrieben von Webstandards, Barrierefreiheit, Transparenz, Usability
Design orientiert sich am Benutzer und seinen vielfältigen Bedürfnissen,
auch auf Kosten kurzfristiger Gewinne (z.B. Conversion Rate).
Webseite des australischen
Wesley LifeForce-Programms
(Suizid-Prävention) - ohne
manipulierende
Überzeugungsarbeit.

ÜBERZEUGENDES DESIGN
Getrieben von scheinbaren Nutzerbedürfnissen, die eigentlich
Businessziele sind.
Überzeugendes Design überzeugt Benutzer fälschlicherweise davon, dass das
Nutzenversprechen in ihrem eigenen Interesse liegt. Kann auch böse sein.
Ziel der Persuasive Design-
Strategie ist es, Gewohnheiten
und das Verhalten von Nutzern
durch Überzeugung und sozialen
Einﬂuss, nicht aber durch Zwang,
zu ändern.

TÄUSCHENDES DESIGN (EVIL DESIGN)
Getrieben von Business-Bedürfnisse welche unbestreitbar trügerisch sind
jedoch rechtlich einwandfrei
Gezielte Fehlleitung der Nutzer

EVIL DESIGN - MANIPULATIVE DESIGNTECHNIKEN

DIE SIEBEN TODSÜNDEN
‣ Stolz
‣ Trägheit
‣ Völlerei
‣ Zorn
‣ Neid
‣ Lust
‣ Gier
Die Sünden stehen für menschliche Schwächen. Die Schwächen lassen sich,
u.a. mithilfe von Design, ausnutzen, um Benutzer zu manipulieren.
Chris Nodder

1. TODSÜNDE: STOLZ
Arroganz. Überschätzung der
eigenen Fähigkeiten. Denken,
dass man nichts falsch machen
kann.
Benutzer wollen stolz sein: Gefühl
zu vermitteln, dass das Produkt
richtig und gut ist. Dass man Stolz
darauf sein kann, es zu nutzen.
Chris Nodder

1. TODSÜNDE: STOLZ
Arroganz. Überschätzung der
eigenen Fähigkeiten. Denken, dass
man nichts falsch machen kann.
Benutzer wollen stolz sein:
Gefühl zu vermitteln, dass das
Produkt richtig und gut ist. Dass man
Stolz darauf sein kann, es zu nutzen.
Chris Nodder

STOLZ BEWAHREN
‣ Bulletliste mit den wichtigsten
Produktfeatures
‣ Bewertungen zeigen (Sterne)
‣ Trust-Logos zeigen
‣ Auszeichnungen zeigen
‣ Best-Price Versprechen

STOLZ BEWAHREN
‣ Bulletliste mit den wichtigsten
Produktfeatures
‣ Bewertungen zeigen (Sterne)
‣ Trust-Logos zeigen
‣ Auszeichnungen zeigen
‣ Best-Price Versprechen
Vertrauen — und damit Stolz — sind ein Geschäft. Diese Logos geben ein
gutes Gefühl.

2. TODSÜNDE: TRÄGHEIT
Faulheit. Benutzter wollen nur
das absolute Minimum an Arbeit
tun, um ihre Ziele zu erreichen.
Benutzer verlangen einfach zu
bedienende Websiten. Sie folgen
dem Weg des minimalem
Aufwand/Widerstand, um Ihre
Ziele zu verfolgen. Sie verlassen
Websiten, die zu sehr anstrengen.

1. TODSÜNDE: TRÄGHEIT
Benutzer Scannen Seiten oft
nach dem F-Pattern.
Untersuchung zeigen, das
Inhalte ausserhalb des F-Pattern
nicht wahrgenommen werden.

Einsatz von manipulativen Designtechniken
um menschen Süchtig nach Produkten zu
machen.

Aktivierung des Belohnungssystems (Nukleus Accumbens) mit der Folge
das Dopamin ausgeschüttet wird.

EVIL DESIGN
„Essen, Arbeiten, Fortpﬂanzen: Ohne das
Belohnungszentrum des Gehirns würde der Mensch wohl so
gut wie gar nichts machen. Die Mechanismen der Motivation
haben aber einen ungesunden Nebeneffekt: Sie sind auch
Grund für unsere Suchtanfälligkeit.“
https://www.dasgehirn.info/denken/motivation/sucht-motivation-zu-schlechten-zielen?limit=all

EVIL DESIGN
Vorgehensmodell nach Nir Eyal.

EVIL DESIGN - FUNKTIONIERT DAS?
„79 Prozent alle Smartphone-Benutzer checken jeden
Morgen innerhalb von 15 Minuten nach dem Aufwachen ihr
Gerät“

„Ein drittel aller Amerikaner gibt an, sie würden lieber auf
Sex verzichten, als ihr Handy zu verlieren.“

„Eine Universitätsstudie (von 2011) gibt an, das Nutzer Ihre
Telefone 34 mal am Tag überprüfen“

„59% aller 12 -17 jährigen geben laut einer DAK Studie an,
wegen Social Media an Schlafstörungen zu leiden, 24% sind
mehr als 4 Stunden täglich auf Instagram + WhatsApp“
Die Zahl der Selﬁe-Todesopfer ist seit der Einführung von Instagram von 0 auf 194 gestiegen.

EVIL DESIGN - DARK UX PATTERNS BEISPIELE
‣ Facebook, Twitter, Instagram Likes (variable Belohnung,
Dopaminausschüttung)
‣ Benachrichtigungen von Apps (siehe was Deine Freunde
auf Instagram gepostet haben -> setzen Trigger,
künstlichen Druck aufbauen)
‣ Pull to refresh (Digitale adaption des einarmigen Banditen)
‣ Inﬁnite Scrolling (vermeiden von Zielerreichungen)

ABGRENZUNG DER FOLGENDEN BEGRIFFLICHKEIT
▸ Evil Design
▸ Webstandards
▸ Persuasive Design
▸ User Experience (UX)
▸ Dark User Experience (dark UX)
▸ Barrierefreiheit
▸ Dark Design Patterns

▸ https://www.ethicsfordesigners.com/tools/
▸ https://www.bmi.bund.de/DE/themen/it-und-
digitalpolitik/datenethikkommission/
datenethikkommission-node.html
▸ https://www.copenhagencatalog.org/, https://
copenhagenletter.org/
▸ Center for humane technology, http://humanetech.com/
▸ Marc Hurst, https://creativegood.com/blog/
▸ https://www.smashingmagazine.com/2018/03/ethical-
design-practical-getting-started-guide/
▸ https://www.mindtheproduct.com/2018/09/ﬁrst-do-no-
harm-by-mariah-hay/
▸ https://2017.ind.ie/ethical-design/
▸ https://evilbydesign.info/
▸ Dark Patterns Collection https://
darkpatterns.org/
▸ Dark Patterns: Deception vs. Honesty in UI
Design https://alistapart.com/article/dark-
patterns-deception-vs.-honesty-in-ui-design
▸ Dark Patterns And Other Design No-Nos For
Mobile https://www.smashingmagazine.com/
2018/09/dark-patterns-and-other-design-no-
nos-for-mobile/
▸ The Good, the Bad, and the Ugly of Dark Pattern
https://1stwebdesigner.com/dark-patterns-
good-bad-ugly/

Ethical vs Evil Design

Recommended

Recommended

More Related Content

Featured

Featured (20)

Ethical vs Evil Design