Saidot.ai:n toimitusjohtaja Meeri Haatajan esitys Työeläkepäivässä 20.11.2019.

1. saidot.ai
AI Ethics – Digital Extension
of Fundamental Rights
saidot.ai
Työeläkepäivä 20.11.2019
Meeri Haataja, @meerihaataja

2. Meeri Haataja
• Over 18 years of experience on driving data, analytics and AI
use as well as privacy in large enterprises in financial services,
telecommunications, high-tech and media.
• Chair of IEEE’s Ethics Certification Program for Autonomous &
Intelligent Systems.
• Affiliate at the Berkman Klein Center for Internet & Society at
Harvard University (2019-2020).
• Previous chair of Ethics working group of Finland’s AI
Program.
CEO & Co-Founder
+358407725010
meeri@saidot.ai
@meerihaataja

3. Työeläkepäivän 20.11.2019 osallistujien mielipide

5. The AI ethics is one of the most important missions of
our time, since it defines our core values and frames
who we are as a society.
In a way, it is the digital extension of the EU Charter of
Fundamental Rights.
The more sophisticated and influential our AI becomes,
our obligation is to protect our freedoms, equality &
human rights.

6. Synthesis of the AI ethics guidelines
Lawful Value driven, principled
Technically
robust
Risk-aware
Over the
lifecycle

8. Source: PwC 2019 AI Predictions
Making AI systems trustworthy
is becoming a top priority

9. ETHICS PRINCIPLES
Which values & principles are
important for us while utilizing AI?
ROLES & RESPONSIBILITIES
Who has the responsibility over governing
& overseeing our AI?
GOVERNANCE & RISK PROCESS
How do we make decisions and evaluate
risks related to our AI?
END-USER COMMUNICATION
How do we keep our customers
informed & enable explainability?
OPERATIONS & TRANSPARENCY
How do we manage the quality & ensure
the transparency of our operations?
A task list for
AI governance

10. Läpinäkyvyys
Perustuslakivaliokunta on lausunnossa PeVL 62/2018 vp kiinnittänyt huomiota
algoritmin julkisuuteen. Valiokunta totesi ns. perustulokokeilun yhteydessä
kiinnittäneensä huomiota lailla säätämisen vaatimuksen johdosta huomiota tuolloin
ehdotettuun otantamenettelyyn ja sen läpinäkyvyyteen.
Lentoliikenteen matkustajarekisteritietojen käyttöä koskeneen lakiehdotuksen
arvioinnin yhteydessä valiokunta katsoi, että hallintovaliokunnan oli perustuslain 12 §:n
2 momentista ja 21 §:stä johtuvista syistä tarkasteltava huolellisesti ehdotettujen
kriteerien ja niitä mahdollisesti soveltavien automatisoitujen menettelyjen algoritmien
suhdetta viranomaisten toiminnan julkisuudesta annettuun lakiin ja tarvittaessa
selkeytettävä sääntelyä (PeVL 29/2018 vp, s. 5).
Valiokunta toistaa nämä huomiot ja painottaa myös, että algoritmin julkisuuden
asianmukainen toteutuminen yksityiselle ymmärrettävässä muodossa edellyttää, että
laissa on tarkkarajaisesti ja täsmällisesti määritelty, mitä algoritmilla automatisoidussa
päätöksenteossa tarkoitetaan. Hallintovaliokunnan on myös nyt kiinnitettävä erityistä
huomiota mainittuihin seikkoihin ja täsmennettävä ja selkeytettävä sääntelyä.
Virkavastuu
Perustuslain 118 §:ssä säädetään vastuusta virkatoimista. Pykälän 1 momentin mukaan
virkamies vastaa virkatoimiensa lainmukaisuudesta.
Ehdotettu säännös kohdistaisi vastuun ainoastaan ylijohtajaan ja vahvistaa vastoin
perustuslain 118 §:ä käsitystä siitä, että muut henkilöt kuin ylijohtaja eivät voisi olla
virkavastuussa. Toisaalta ehdotuksessa jää epäselväksi, mistä virkatoimista
Maahanmuuttoviraston ylijohtaja itseasiassa vastaa ja mistä virkatoimista hän olisi
tosiasiassa oikeudellisissa käytännöissä vastuuseen saatettavissa, kun päätökset
tehdään tietojärjestelmässä automatisoidusti ilman välitöntä ja suoraa päätöskohtaista
inhimillistä kontrollia.
Virkavastuun kohdistaminen viraston yleisjohtamisesta vastaavaan ylijohtajaan on
perustuslakivaliokunnan mielestä järjestelynä näennäinen ja keinotekoinen.
Valiokunta katsoo, että automatisoidun päätöksentekomenettelyn tulee olla
perustuslain 118 §:stä johtuvista syistä tarkasti valvottua ja oikeudellisesti
kontrolloitavissa. Siihen on voitava liittää viime kädessä myös virkamiehiin kohdistuva
vastuu virkatoimista.
Säännöksen muuttaminen siten, että virkavastuusääntely muodostuu tosiasioita
vastaavaksi, on edellytyksenä sille, että 1. lakiehdotus voidaan käsitellä tavallisen lain
säätämisjärjestyksessä.
ESIMERKKI
Maahanmuuttoviraston automaattinen päätöksenteko;
Perustuslakivaliokunnan lausunnon avainkohtia.

11. Citizen trust through
AI transparency

12. The Ethics Certification Program for Autonomous and Intelligent Systems (ECPAIS)
has the goal to create specifications for certification and marking processes that
advance transparency, accountability, and reduction in algorithmic bias in
autonomous and intelligent systems. ECPAIS intends to offer a process and define
a series of marks by which organizations can seek certifications for their
processes around the A/IS products, systems, and services they provide.
For More Information:
standards.ieee.org/industry-connections/ecpais.html

13. Takeaways
AI has matured and is influencing
everyone. AI ethics protects our
core values & fundamental rights
in digital.
___
Ethical AI is lawful, value-based,
robust and risk-aware. It considers
ethics over the whole lifecycle.
___
Finland is leading the way with AI
transparency for citizens.

14. CEO & Co-Founder
Meeri Haataja
meeri@saidot.ai
@meerihaataja
+358 (40) 772 5010
Thank you. Kiitos.