Kulttuuriympäristöpäivät 2018. Innovaatiot ja muutos. Järjestäjä Museovirasto / Kulttuuriympäristöpalvelut https://www.museovirasto.fi/fi/kulttuuriymparisto/kulttuuriymparistopalvelut-tehtavat-ja-yhteistyo/kulttuuriymparistopalveluiden-tilaisuudet-ja-tapahtumat/kulttuuriymparistopaivat Raul Haklin ja Pekka Mäkelän esitelmä.

1. Vastuukysymykset ja robotiikka
Raul Hakli Pekka M¨akel¨a
29. lokakuuta 2018

2. Huolia ja toiveita
Robotit ja teko¨aly viev¨at ty¨opaikat.
Robotit ja teko¨aly vapauttavat ihmisen luovaan ty¨oh¨on.
Robotit ja teko¨aly mullistavat ja muuttavat tieteellisen
tiedontuotannon ja moraaliset k¨ayt¨ant¨omme.
Robotit ovat moraalisia toimijoita: vastuullisia ja niille
kuuluu oikeuksia.
Teko¨aly ratkaisee kaikki ihmiskunnan ongelmat.
Singulariteetti tulee ja tappaa.
2 / 14

3. Taustaa
Automaation m¨a¨ar¨a lis¨a¨antyy yhteiskunnissa: algoritmeill¨a
ja roboteilla on alati kasvava rooli p¨a¨at¨oksenteossa.
Mit¨a vastuulle tapahtuu, kun ihmiset luopuvat
kontrollista? Kuka kantaa vastuun mahdollisista
teko¨alyagenttien tai robottien aikaansaamista
vahingoista?
Perinteisesti vastuu ja kontrolli likeisi¨a: vastuu edellytt¨a¨a
kontrollia vastuun sis¨alt¨on¨a olevien tapahtumien suhteen
(tekojen tai niiden seurausten).
Teko¨aly ja koneoppiminen tekev¨at algoritmien toiminnan
ennustamisen alati vaikeammaksi.
N¨aytt¨a¨a siis silt¨a, ett¨a my¨os toinen perinteinen vastuun
edellytys, tieto, lipuu ihmisten saavuttamattomiin niin
yksil¨ollisesti kuin kollektiivisestikin.
3 / 14

4. Taustaa
Jos ihmiset eiv¨at ole vastuussa koneiden toiminnan
seurauksista, on vaarana ett¨a kukaan ei ole vastuussa (nk.
vastuuaukot).
Edell¨a sanotun perusteella onkin esitetty, ett¨a vastuuta
tulisi attribuoida koneille itselleen.
T¨am¨a ei ole ongelmaton kanta. Robottien vastuuta tai
niiden “vastuusopivuutta” (fitness to be held responsible)
vastaan on esitett¨aviss¨a lukuisia argumentteja
Tarkastelemme robotteihin liittyv¨a¨a vastuukeskustelua
t¨ast¨a n¨ak¨okulmasta.
4 / 14

5. Robottien vastuu ja vastuullinen robotiikka
Filosofisessa keskustelussa yksi keskeinen jako:
Robottien vastuu → moraalinen toimijuus (metafyysinen
kysymys)
Vastuullinen robotiikka (eettinen ja poliittinen kysymys):
intellektuaalinen ja kulttuurillinen vastuu siit¨a, kuinka
keskustelua k¨ayd¨a¨an
mink¨alaista koneita kehit¨amme ja mit¨a koneiden
annetaan tehd¨a.
5 / 14

6. Vastuun lajeja
Retrospektiivinen ja prospektiivinen vastuu
Moraalinen vastuu
Legaalinen vastuu
Kausaalinen vastuu
Yksil¨on vastuu
Kollektiivinen vastuu
Roolivastuu
6 / 14

7. Robottien vastuullisuus
Melko yleinen intuitio: Aikuiset ihmiset ovat kykenevi¨a
kantamaan vastuuta, robotit eiv¨at ole.
Robottien vastuuttomuutta on kuitenkin vaikea osoittaa
k¨asitteelliseksi totuudeksi.
Melko tyypillinen argumenttirakenne:
1. Vastuu edellytt¨a¨a kyky¨a X (t¨ass¨a X voi olla
intentionaalisuus, tietoisuus, itsereflektio,
perustesensitiivisyys, tunteet,...).
2. Roboteilla ei ole kyky¨a X.
3. Siis, robotit eiv¨at ole vastuullisia.
Insin¨o¨orin vastalause: me ohjelmoimme X:n!
7 / 14

8. Robottien vastuullisuus
Me argumentoimme:
1. Vastuu edellytt¨a¨a autonomiaa
2. Robotit ovat ohjelmoituja (v¨altt¨am¨att¨a)
3. Autonomia ei sovi yhteen sen kanssa, ett¨a on ohjelmoitu
4. Siis, robotit eiv¨at voi olla vastuullisia.
8 / 14

9. Huoli liittyen robottien vastuuseen
Robotit ovat insin¨o¨ority¨on tulosta.
Oletetaan, ett¨a voimme implementoida robotin, jolla on
kaikki kyvyt, joita vastuullisilta ja autonomisilta
toimijoilta edellytet¨a¨an.
T¨am¨a edelleen j¨att¨a¨a tilaa argumenteille, joiden mukaan
robotit eiv¨at ole vastuussa teoistaan.
Alfred R. Melen esimerkki psykologisista kaksosista.
9 / 14

10. Melen kaksoset
Anna on autonominen toimija ja erityisen tehokas
intendentti
Liisa on yht¨a kyvyk¨as kollega, mutta h¨an arvostaa
muitakin asioita kuin museotoimintaa, joskus jopa
museotoimintaa enemm¨an
Satunnainen opetus- ja kulttuuriministeri haluaa, ett¨a
Liisa olisi kuin Anna
Normaali suostuttelu ja konsulenttipuhe ei Liisaan tepsi,
joten OM p¨a¨att¨a¨a ohittaa Liisan toimijuuden
Intendenttien tiet¨am¨att¨a OM palkkaa ryhm¨an uuden
aallon aivopesij¨oit¨a muokkaamaan Liisasta Annan
kaltaisen
Liisasta tulee aivopesun tuloksena Annan psykologinen
kaksonen
Liisasta tulee tehokas intendentti, joka ei en¨a¨a tuhlaa
aikaansa muihin harrasteisiin
10 / 14

11. Historiasensitiivinen eksternalismi
Melen historiasensitiivinen eksternalismi autonomian suhteen
Toimijoiden autonomia riippuu heid¨an kausaalisesta
historiastaan: mink¨alaisen prosessin tuloksena heill¨a on ne
asenteet, arvot ja kyvyt, jotka heill¨a nyt on?
Keskeinen kysymys ei ole kykyjen omaaminen vaan niiden
autenttisuus.
Vaikka roboteista voisi rakentaa sellaisia ett¨a niill¨a on
kaikki moraalisilta toimijoilta vaaditut kyvyt, itse
rakennusprosessi on manipulointia joka kaivaa maata
kykyjen autenttisuuden alta ja vie roboteilta autonomian.
11 / 14

12. Historiasensitiivinen eksternalismi
On huomattava, ett¨a keskeist¨a edell¨a sanotussa ei ole se
robotit ovat ohjelmoituja, eik¨a niill¨a siis ole “vapaata
tahtoa”.
T¨am¨a huomio on tehty kyll¨astymiseen asti
kirjallisuudessa: Itse asiassa sama saattaa p¨ate¨a
ihmisist¨akin. DNA, kasvatus ja ymp¨arist¨o vaikuttavat
meihin ja siihen millaisia meist¨a tulee.
Ydin ei ole se, ett¨a autonomia v¨altt¨am¨att¨a katoaa mik¨ali
ulkoiset seikat vaikuttavat toimintaan tai jopa
determinoivat sen.
Historiasensitiivisen eksternalismin ydin on kiinnitt¨a¨a
huomiota determinaation laatuun: Autonomia ei
v¨altt¨am¨att¨a vaadi mahdollisuutta tehd¨a toisin vaan sen,
ett¨a toiminta perustuu toimijan omille autenttisille arvoille
ja tavoitteille.
12 / 14

13. Yhteenveto
Argumenttimme mukaan koneet eiv¨at ole eiv¨atk¨a voi olla
vastuullisia toimijoita: Vaikka ihmisten t¨oit¨a korvattaisiin
koneilla, ihmisi¨a tarvitaan vastuunkantajiksi.
Jos siis intendentille kuuluu esimerkiksi vastuu
kulttuuriperinn¨on s¨ailytt¨amisest¨a ja t¨at¨a voidaan pit¨a¨a
moraalisena vastuuna, niin robotti ei voi koskaan t¨aysin
korvata intendentti¨a.
Teknologia on ihmisten tuottamaa ja ohjaamaa ja vastuu
sen kehitt¨amisest¨a ja seurauksista on ihmisill¨a
kollektiivisesti. Vastuuaukkojakin voi synty¨a, mutta niihin
on varauduttava etuk¨ateen.
Humanisteilla ja kulttuurialan ihmisill¨a on erityisvastuu
teknologisen muutoksen seurauksista sosiaalisille
k¨ayt¨ann¨oillemme, kielellemme ja k¨asitteist¨ollemme,
ymp¨arist¨ollemme ja kulttuurillemme.
13 / 14

14. Kiitos.
14 / 14

15. Mele’s notions of authenticity and compulsion
A necessary condition of an agent S’s authentically possessing a
pro-attitude p that he has over an interval t is that it be false that S’s
having P over that interval is compelled* – where compulsion* is
compulsion not arranged by S.
Compulsion of pro-attitude requires that the shedding, that is,
eradicating or significantly attenuating, of the pro-attitude is beyond the
agent’s control in the sense that her psychological constitution precludes
her from voluntarily producing conditions that would empower her to
shed the pro-attitude. Such a pro-attitude is practically unsheddable.
Mele’s focus is on cases where the agent previously possesses authentic
values which are then bypassed by some kind of manipulation. However
this is not necessary for his idea of compulsion: Agents with unsheddable
pro-attitudes already in place at the time of creation are reasonably
viewed as being possessed of innate compelled pro-attitudes. ⇒ Robots!
15 / 14