Dua leciono de la kurso por la Akademio Internacia de la Sciencoj kadre de la 100a UK en Lillo, Francio, la 27an de Julio 2015.

1. Akademio Internacia de la Sciencoj – Sanmarino
Kien iras Artefarita Inteligenteco? 2/3
La graveco de etiko por la nuntempa AI
Federico Gobbo
Amsterdamo / Milano-Bicocca / Torino
F.Gobbo@uva.nl
27 Julio 2015 – Internacia Kongresa Universitato, Lille, FR
1 de 19

2. Etiko de Informadiko,
30 jarojn poste
2 de 19

3. Filozofoj interesiˆgas al informadiko
Edke la 1980aj jaroj, moralaj filozofoj komencis interesiˆgi al
informadiko, pro la influo de komputiloj en la societo. Historie, la
unua aliro al etiko de informadiko nomiˆgas mikroetiko, kaj venas de
Deborah D. Johnson. Jen la proprecoj:
ˆgi estas logike argumenta, kun tendenco al rezonado per komparo
de studkazoj;
ˆgi estas empiri-baza kaj do metodologie induktiva;
ˆgi estas konsekvencisma: oni ˆcefe analizas la kostojn kaj la
avantaˆgojn de la konsekvencoj de la agoj, sekvante minmaksan
regulon: minimumu la kostoj, maksimumu la avantaˆgoj;
ˆgi utilas por preni konkretajn decidojn cele al solvado de specifaj
problemoj.
3 de 19

4. Kritikoj al mikroetiko
Ju pli la influo de komputiloj disvastiˆgis en la societo, des pli venis la
kritikoj al la mikroetika aliro:
mikroetiko estas bazita je timo de la puno se oni eraras en la ago,
ne en la konscio pri kio estas justa;
mikroetiko ne permesas ˆgeneraligi la rezultojn, kaj tio malfacilas
akordiˆgi kiam novaj studkazoj alvenas;
ofte malfacilas kalkuli la sociajn kostojn por apliki la minmaksan
regulon: ekzemple, kiom valoras homa vivo, en terminoj de mona
sumo?
4 de 19

5. La klasika metodo de la studkazoj
En 1999 James H. Moor kolektis la kritikojn al mikroetiko kaj
proponis procedon por analizi studkazojn kiu respektus aliajn
filozofiajn alirojn, kiel ekzistismo kaj realismo, per tri ˆstupoj kun
anta˘uˆstupo kaj posta fazo:
0 unuavide: kion la studkazo movas en ni emocie? (ekzistismo)
1. faktoj: ˆcu ni havas ˆciun informeron? Kio vere okazis? Kiu faris
kion? Kiu estas implikita? (realismo)
2. reguloj: kiuj rajtoj estas malobservataj? ˆcu homoj estas traktataj
kiel celoj, ne kiel iloj? (idealismo)
3. konsekvencoj: kiuj estas la probablaj scenaroj: malplej bona; plej
bona; optimuma (‘ˆgusta mezvojo’).
Post la ˆstupoj, oni povas eltiri konkludon.
5 de 19

6. Anta˘uˆstupo nul: unuavide
Kiam oni renkontas etikan dilemon, gravas rekoni la emocian reagon
kiun oni ricevas senvole, unuavide, anta˘u ˆcia analizo.
ˆGenerale etikaj dilemoj tuˆsas gravajn faktorojn de niaj kredoj,
konvinkoj, kutimoj, kaj pro tio gravas disigi la unuavidan reagon de la
analizoj. La ˆstupo nulo estas grava je la fino de la analizo, en la
konkluda fazo, kiam oni komparas la tri ˆstupoj kun la nula.
La graveco de la emocia impakto estas substrekata de la ekzistisma
skolo en filozofio: Kierkegaard, Barth, Sartre, de
Beauvoir, Camus estas gravaj ekzistismaj a˘utoroj.
6 de 19

7. ˆStupo unu: faktoj
ˆCi tiu ˆstupo estas substrekita ˆcefe de la brit-itala filozofo Luciano
Floridi, kie metas en la centro de la esplorado la koncepton de
informado: sen informado ne eblas morala ago. Ju pli la informado
estas kompleta kaj korekta, des pli ˆgi estas fidinda. Jen la demandoj
farendaj:
Kion oni scias pri kio okazis?
Kiuj agentoj (homaj, bestaj, juraj kaj robotaj) decidis kaj faris la
agojn?
Kiuj agentoj (homaj, bestaj, juraj kaj robotaj) estas pasive
implikataj?
La aro de ˆciaj agentoj + procezitaj informeroj + medio formas
informosferon kiu povas esti analizita kiel kompleksa sistemo.
7 de 19

8. ˆStupo du: reguloj
Idealismo estas longa filozofia skolo kiu venas de Platono. En la
moderna tempo, gravas la figuro de Immanuel Kant. La Zamenhofa
homaranismo povas esti konsiderata parto de tiu ˆci skolo. Homo estas
en la centro de la analizo, kaj moralo estas konsiderata obeo al
esplicitaj universalaj leˆgoj, kiel:
agu samkiel viaj faraˆoj estus fareblaj de ˆciu alia same;
en via agado konsideru homojn ˆciam kiel celojn, neniam kiel ilojn;
agu samkiel viaj faraˆoj validus por ˆciu ajn.
La universalaj leˆgoj estas reinterpretitaj diverse la˘u tempoj kaj moroj,
do por nia tasko la defio estas retrovi ilin en la konkretaj studkazoj.
8 de 19

9. ˆStupo tri: konsekvencoj
La analizo de poroj kaj malporoj estas la tradicia kampo de
konsekvencismo – parto de pragmatismo. Oni imagas tri scenarojn kie
la sendependa variablo estas la eblaj konsekvencoj por la agentoj kaj
la medio:
1. en la malplej bona scenaro, la kostoj estas maksimumaj, dum la
avantaˆgoj minimumaj por ˆciuj agentoj (homaj, bestaj, robotaj) kaj
por la medio – Floridi aldonas la informajn kostojn: kion oni
perdas je la perspektivo de informado?
2. en la plej bona scenaro, la situacio inversigitas: la kostoj estas
minimumaj, la avantaˆgoj maksimumaj; ˆgenerale tiu ˆci scenaro ne
estas realigebla;
3. la optimuma scenaro estas realisme aktualigebla versio de la plej
bona: oni plialtigas la kostojn iom kaj / a˘u malaltigas la
avantaˆgojn por ke ˆgi estu plenigita.
9 de 19

10. Post la ˆstupoj: kontroldemandoj
Oni procedu retroen por eltiri la konkludojn. Ek el la optimuma
scenaro, oni sin demandu:
idealisme: ˆcu ˆciuj agentoj povas profiti de la optimuma scenaro?
ˆcu estas agentoj traktitaj kiel iloj anstata˘u celoj? ˆcu la scenaro
estas ‘natura’, t.e. ne damaˆgas la medion – naturan, socian?
konsekvencisme: ˆcu la solvo vere optimumas a˘u ˆcu ˆgi estas
neekvilibra en terminoj de poroj kaj malporoj? ˆcu ˆgi maksimumigas
la avantaˆgojn de majoritato sur minoritato?
realisme: ˆcu estas ˆgenerala akordo por efektive aktualigi la
scenaron? ˆcu estas grava perdo de informoj, t.e., informojn kiujn
oni ne povas repreni poste?
10 de 19

11. Eltiri konkludon: repreni la unuavidan reagon
Finfine, oni reprenu la unuavidan reagon (anta˘ustupo nul), per la
sekvaj demandoj:
ˆcu la elektita solvo distanciˆgas de la unuavida reago? kiel? kial?
ˆcu la analizanto sentis sin libera esprimi sian penson a˘u ˆcu ˆs/li sin
sentis premita de aliaj?
kiu aliro estis pli grava en la eltiro de la konkludo, inter la tri ˆcefaj
(idealismo, konsekvencismo, realismo)?
11 de 19

12. La agado de la Instituto por la
Estonteco de la Vivo
12 de 19

13. La timo de la Singulareco
Per ‘singulareco’ oni intencas indiki la momenton kiam la AI iˆgos pli
inteligentaj ol homoj: tio estus punkto de nereveno, ˆcar AI estos for
de la homa kontrolo – ili sin programos kaj eˆc reproduktos.
Kvankam estas neniu fakta, evidenta pruvo pri realigebleco de
Singulareco, la timo de tio stimulis la debaton pri AI denove post
kunveno pri la estonteco de AI okazinta en 2008-9 organizita de
AAAI, internacia societo pri AI.
Tio estis ja bona afero, ˆcar en la lastaj dek jaroj la konkretaj aplikoj
de la malforta AI (ˆcefe bazita je probableco kaj Grandaj Datumoj)
estas ˆciam pli nombraj kaj influaj en la socia vivo.
13 de 19

14. AI-fakuloj re-organizas sin en speco de movado
Post 2008-9 naskiˆgis diversaj asocioj kies celo estas ‘protekti’ la
esploradon pri AI kadre de la ˆsanco konstrui malbonajn teknologiojn
por la homaro.
Unu el ili estas la Instituto por la Estonteco de la Vivo (angle FLI;
retejo: http://futureoflife.org) kies celo estas:
altiri kaj subteni esplorojn kaj iniciatojn por protekti la vivon kaj
disvolvi optimismajn viziojn de la estonteco, inkluzive de
pozitivaj vojoj por la homaro gvidi propran fluon konsiderante
novajn teknologiojn kaj defiojn ligataj al ili.
En la Scienca Komitato, estas inter la aliaj la fama fizikisto Stephen
Hawking kaj Stuart Russell, profesoro pri AI en Berkeley, unu el la
plej influaj AI-fakuloj en la lastaj 20 jaroj.
14 de 19

15. Por bona AI-esplorado, nun
En 2015 FLI lanˆcis malfermitan leteron:
AI esploris diversajn problemojn kaj sekvis diversajn alirojn ekde
sia naskiˆgo, sed en la lastaj 20 jaroj ˆgi fokusiˆgis je la problemo
konstrui inteligentajn sistemojn – sistemojn kiuj perceptas la
medion kaj agas en ˆgi. En ˆci konteksto, “inteligenteco” rilatas
al statistikaj kaj ekonomiaj nocioj de racio – en nefaka lingvaˆo,
la kapablo preni bonajn decidojn, fari planojn kaj
inferencojn. La adopto de probablaj kaj decid-teoriaj
reprezentadoj kaj statistik-lernaj metodoj portis al larˆggrada
integriˆgo kaj kunlaboro inter AI, a˘utomata lernado, statistiko,
kontrol-teorio, ne˘urosciencoj, kaj aliaj fakoj. La establiˆgo de
kunaj teoriaj kadroj, kune kun la preteco de datumoj kaj proceza
povo fine portis al rimarkindaj sukcesoj en diversaj taskoj.
15 de 19

16. La lastatempaj sukcesoj de AI
La letero listigas la jenajn:
a˘utomata voˆc-rekono;
a˘utomata bild-klasifikado;
senpilotaj veturiloj;
per-a˘utomata tradukado;
a˘utomata dupieda moviˆgo;
a˘utomataj demand-respondaj sistemoj.
16 de 19

17. Tekniko ne˘utralas, apliko ne
Denove el la letero:
La fako de AI mem fokusiˆgis ˆgis nun ˆcefe je teknikoj, kiuj estas
ne˘utralaj respekte al la celo. Ni rekomendas plilarˆgan esploradon
cele al garantii, ke AI-sistemoj estus pli kaj pli robustaj kaj
bonfaraj: niaj AI-sistemoj devas fari kion ni volas ke ili
faru. La algluita dokumento pri esplor-prioritatoj donas multajn
ekzemplojn de tiu esploraj direktoj kiuj povas maksimumigi la
societan bonfarecon de AI. ˆCi esplorado estas la˘unecese
interfaka, ˆcar ˆgi kuntrenas kaj societon kaj AI. ˆGi inkluzivas
interalie ekonomion, juron, filozofion.
17 de 19

18. AI-fakuloj rekonas nun la gravecon de etiko
Nur en la ˆci-lastaj jaroj la kunlaboro inter la AI-fakuloj kaj la filozofoj,
aparte la moralaj kaj politikaj, iˆgis normala afero. Tio estas klara
signo, ke la influoj de la sukcesoj de AI estas pli kaj pli gravaj en la
ˆciutaga vivo en multaj societoj de la mondo.
Ekde nun, mi proponas al vi malmultajn verajn etikajn studkazojn
kiuj rilatas al la lastatempaj rezultoj de AI iel. La defio estas analizi
ilin per la klasika metodo kiun mi prezentis anta˘u (anta˘uˆstupo, tri
ˆstupoj, eltiro de konkludoj).
18 de 19

19. Dankon por via atento!
Se ne nun, sendu ilin poste al:
F.Gobbo@uva.nl
Deˆsutu kaj disvastigu ˆci prezenton de ˆci-tie:
http:/federicogobbo.name/eo/2015.php
CC BY: $
C
Federico Gobbo 2015
19 de 19