Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
Akademio Internacia de la Sciencoj – Sanmarino
Kien iras Artefarita Inteligenteco? 2/3
La graveco de etiko por la nuntempa...
Etiko de Informadiko,
30 jarojn poste
2 de 19
Filozofoj interesiˆgas al informadiko
Edke la 1980aj jaroj, moralaj filozofoj komencis interesiˆgi al
informadiko, pro la i...
Kritikoj al mikroetiko
Ju pli la influo de komputiloj disvastiˆgis en la societo, des pli venis la
kritikoj al la mikroetik...
La klasika metodo de la studkazoj
En 1999 James H. Moor kolektis la kritikojn al mikroetiko kaj
proponis procedon por anal...
Anta˘uˆstupo nul: unuavide
Kiam oni renkontas etikan dilemon, gravas rekoni la emocian reagon
kiun oni ricevas senvole, un...
ˆStupo unu: faktoj
ˆCi tiu ˆstupo estas substrekita ˆcefe de la brit-itala filozofo Luciano
Floridi, kie metas en la centro...
ˆStupo du: reguloj
Idealismo estas longa filozofia skolo kiu venas de Platono. En la
moderna tempo, gravas la figuro de Imman...
ˆStupo tri: konsekvencoj
La analizo de poroj kaj malporoj estas la tradicia kampo de
konsekvencismo – parto de pragmatismo...
Post la ˆstupoj: kontroldemandoj
Oni procedu retroen por eltiri la konkludojn. Ek el la optimuma
scenaro, oni sin demandu:...
Eltiri konkludon: repreni la unuavidan reagon
Finfine, oni reprenu la unuavidan reagon (anta˘ustupo nul), per la
sekvaj dem...
La agado de la Instituto por la
Estonteco de la Vivo
12 de 19
La timo de la Singulareco
Per ‘singulareco’ oni intencas indiki la momenton kiam la AI iˆgos pli
inteligentaj ol homoj: ti...
AI-fakuloj re-organizas sin en speco de movado
Post 2008-9 naskiˆgis diversaj asocioj kies celo estas ‘protekti’ la
esplor...
Por bona AI-esplorado, nun
En 2015 FLI lanˆcis malfermitan leteron:
AI esploris diversajn problemojn kaj sekvis diversajn ...
La lastatempaj sukcesoj de AI
La letero listigas la jenajn:
a˘utomata voˆc-rekono;
a˘utomata bild-klasifikado;
senpilotaj v...
Tekniko ne˘utralas, apliko ne
Denove el la letero:
La fako de AI mem fokusiˆgis ˆgis nun ˆcefe je teknikoj, kiuj estas
ne˘...
AI-fakuloj rekonas nun la gravecon de etiko
Nur en la ˆci-lastaj jaroj la kunlaboro inter la AI-fakuloj kaj la filozofoj,
a...
Dankon por via atento!
Se ne nun, sendu ilin poste al:
F.Gobbo@uva.nl
Deˆsutu kaj disvastigu ˆci prezenton de ˆci-tie:
htt...
Upcoming SlideShare
Loading in …5
×

Kien iras Artefarita Inteligenteco? Leciono 2/3

501 views

Published on

Dua leciono de la kurso por la Akademio Internacia de la Sciencoj kadre de la 100a UK
en Lillo, Francio, la 27an de Julio 2015.

Published in: Education
  • Be the first to comment

Kien iras Artefarita Inteligenteco? Leciono 2/3

  1. 1. Akademio Internacia de la Sciencoj – Sanmarino Kien iras Artefarita Inteligenteco? 2/3 La graveco de etiko por la nuntempa AI Federico Gobbo Amsterdamo / Milano-Bicocca / Torino F.Gobbo@uva.nl 27 Julio 2015 – Internacia Kongresa Universitato, Lille, FR 1 de 19
  2. 2. Etiko de Informadiko, 30 jarojn poste 2 de 19
  3. 3. Filozofoj interesiˆgas al informadiko Edke la 1980aj jaroj, moralaj filozofoj komencis interesiˆgi al informadiko, pro la influo de komputiloj en la societo. Historie, la unua aliro al etiko de informadiko nomiˆgas mikroetiko, kaj venas de Deborah D. Johnson. Jen la proprecoj: ˆgi estas logike argumenta, kun tendenco al rezonado per komparo de studkazoj; ˆgi estas empiri-baza kaj do metodologie induktiva; ˆgi estas konsekvencisma: oni ˆcefe analizas la kostojn kaj la avantaˆgojn de la konsekvencoj de la agoj, sekvante minmaksan regulon: minimumu la kostoj, maksimumu la avantaˆgoj; ˆgi utilas por preni konkretajn decidojn cele al solvado de specifaj problemoj. 3 de 19
  4. 4. Kritikoj al mikroetiko Ju pli la influo de komputiloj disvastiˆgis en la societo, des pli venis la kritikoj al la mikroetika aliro: mikroetiko estas bazita je timo de la puno se oni eraras en la ago, ne en la konscio pri kio estas justa; mikroetiko ne permesas ˆgeneraligi la rezultojn, kaj tio malfacilas akordiˆgi kiam novaj studkazoj alvenas; ofte malfacilas kalkuli la sociajn kostojn por apliki la minmaksan regulon: ekzemple, kiom valoras homa vivo, en terminoj de mona sumo? 4 de 19
  5. 5. La klasika metodo de la studkazoj En 1999 James H. Moor kolektis la kritikojn al mikroetiko kaj proponis procedon por analizi studkazojn kiu respektus aliajn filozofiajn alirojn, kiel ekzistismo kaj realismo, per tri ˆstupoj kun anta˘uˆstupo kaj posta fazo: 0 unuavide: kion la studkazo movas en ni emocie? (ekzistismo) 1. faktoj: ˆcu ni havas ˆciun informeron? Kio vere okazis? Kiu faris kion? Kiu estas implikita? (realismo) 2. reguloj: kiuj rajtoj estas malobservataj? ˆcu homoj estas traktataj kiel celoj, ne kiel iloj? (idealismo) 3. konsekvencoj: kiuj estas la probablaj scenaroj: malplej bona; plej bona; optimuma (‘ˆgusta mezvojo’). Post la ˆstupoj, oni povas eltiri konkludon. 5 de 19
  6. 6. Anta˘uˆstupo nul: unuavide Kiam oni renkontas etikan dilemon, gravas rekoni la emocian reagon kiun oni ricevas senvole, unuavide, anta˘u ˆcia analizo. ˆGenerale etikaj dilemoj tuˆsas gravajn faktorojn de niaj kredoj, konvinkoj, kutimoj, kaj pro tio gravas disigi la unuavidan reagon de la analizoj. La ˆstupo nulo estas grava je la fino de la analizo, en la konkluda fazo, kiam oni komparas la tri ˆstupoj kun la nula. La graveco de la emocia impakto estas substrekata de la ekzistisma skolo en filozofio: Kierkegaard, Barth, Sartre, de Beauvoir, Camus estas gravaj ekzistismaj a˘utoroj. 6 de 19
  7. 7. ˆStupo unu: faktoj ˆCi tiu ˆstupo estas substrekita ˆcefe de la brit-itala filozofo Luciano Floridi, kie metas en la centro de la esplorado la koncepton de informado: sen informado ne eblas morala ago. Ju pli la informado estas kompleta kaj korekta, des pli ˆgi estas fidinda. Jen la demandoj farendaj: Kion oni scias pri kio okazis? Kiuj agentoj (homaj, bestaj, juraj kaj robotaj) decidis kaj faris la agojn? Kiuj agentoj (homaj, bestaj, juraj kaj robotaj) estas pasive implikataj? La aro de ˆciaj agentoj + procezitaj informeroj + medio formas informosferon kiu povas esti analizita kiel kompleksa sistemo. 7 de 19
  8. 8. ˆStupo du: reguloj Idealismo estas longa filozofia skolo kiu venas de Platono. En la moderna tempo, gravas la figuro de Immanuel Kant. La Zamenhofa homaranismo povas esti konsiderata parto de tiu ˆci skolo. Homo estas en la centro de la analizo, kaj moralo estas konsiderata obeo al esplicitaj universalaj leˆgoj, kiel: agu samkiel viaj faraˆoj estus fareblaj de ˆciu alia same; en via agado konsideru homojn ˆciam kiel celojn, neniam kiel ilojn; agu samkiel viaj faraˆoj validus por ˆciu ajn. La universalaj leˆgoj estas reinterpretitaj diverse la˘u tempoj kaj moroj, do por nia tasko la defio estas retrovi ilin en la konkretaj studkazoj. 8 de 19
  9. 9. ˆStupo tri: konsekvencoj La analizo de poroj kaj malporoj estas la tradicia kampo de konsekvencismo – parto de pragmatismo. Oni imagas tri scenarojn kie la sendependa variablo estas la eblaj konsekvencoj por la agentoj kaj la medio: 1. en la malplej bona scenaro, la kostoj estas maksimumaj, dum la avantaˆgoj minimumaj por ˆciuj agentoj (homaj, bestaj, robotaj) kaj por la medio – Floridi aldonas la informajn kostojn: kion oni perdas je la perspektivo de informado? 2. en la plej bona scenaro, la situacio inversigitas: la kostoj estas minimumaj, la avantaˆgoj maksimumaj; ˆgenerale tiu ˆci scenaro ne estas realigebla; 3. la optimuma scenaro estas realisme aktualigebla versio de la plej bona: oni plialtigas la kostojn iom kaj / a˘u malaltigas la avantaˆgojn por ke ˆgi estu plenigita. 9 de 19
  10. 10. Post la ˆstupoj: kontroldemandoj Oni procedu retroen por eltiri la konkludojn. Ek el la optimuma scenaro, oni sin demandu: idealisme: ˆcu ˆciuj agentoj povas profiti de la optimuma scenaro? ˆcu estas agentoj traktitaj kiel iloj anstata˘u celoj? ˆcu la scenaro estas ‘natura’, t.e. ne damaˆgas la medion – naturan, socian? konsekvencisme: ˆcu la solvo vere optimumas a˘u ˆcu ˆgi estas neekvilibra en terminoj de poroj kaj malporoj? ˆcu ˆgi maksimumigas la avantaˆgojn de majoritato sur minoritato? realisme: ˆcu estas ˆgenerala akordo por efektive aktualigi la scenaron? ˆcu estas grava perdo de informoj, t.e., informojn kiujn oni ne povas repreni poste? 10 de 19
  11. 11. Eltiri konkludon: repreni la unuavidan reagon Finfine, oni reprenu la unuavidan reagon (anta˘ustupo nul), per la sekvaj demandoj: ˆcu la elektita solvo distanciˆgas de la unuavida reago? kiel? kial? ˆcu la analizanto sentis sin libera esprimi sian penson a˘u ˆcu ˆs/li sin sentis premita de aliaj? kiu aliro estis pli grava en la eltiro de la konkludo, inter la tri ˆcefaj (idealismo, konsekvencismo, realismo)? 11 de 19
  12. 12. La agado de la Instituto por la Estonteco de la Vivo 12 de 19
  13. 13. La timo de la Singulareco Per ‘singulareco’ oni intencas indiki la momenton kiam la AI iˆgos pli inteligentaj ol homoj: tio estus punkto de nereveno, ˆcar AI estos for de la homa kontrolo – ili sin programos kaj eˆc reproduktos. Kvankam estas neniu fakta, evidenta pruvo pri realigebleco de Singulareco, la timo de tio stimulis la debaton pri AI denove post kunveno pri la estonteco de AI okazinta en 2008-9 organizita de AAAI, internacia societo pri AI. Tio estis ja bona afero, ˆcar en la lastaj dek jaroj la konkretaj aplikoj de la malforta AI (ˆcefe bazita je probableco kaj Grandaj Datumoj) estas ˆciam pli nombraj kaj influaj en la socia vivo. 13 de 19
  14. 14. AI-fakuloj re-organizas sin en speco de movado Post 2008-9 naskiˆgis diversaj asocioj kies celo estas ‘protekti’ la esploradon pri AI kadre de la ˆsanco konstrui malbonajn teknologiojn por la homaro. Unu el ili estas la Instituto por la Estonteco de la Vivo (angle FLI; retejo: http://futureoflife.org) kies celo estas: altiri kaj subteni esplorojn kaj iniciatojn por protekti la vivon kaj disvolvi optimismajn viziojn de la estonteco, inkluzive de pozitivaj vojoj por la homaro gvidi propran fluon konsiderante novajn teknologiojn kaj defiojn ligataj al ili. En la Scienca Komitato, estas inter la aliaj la fama fizikisto Stephen Hawking kaj Stuart Russell, profesoro pri AI en Berkeley, unu el la plej influaj AI-fakuloj en la lastaj 20 jaroj. 14 de 19
  15. 15. Por bona AI-esplorado, nun En 2015 FLI lanˆcis malfermitan leteron: AI esploris diversajn problemojn kaj sekvis diversajn alirojn ekde sia naskiˆgo, sed en la lastaj 20 jaroj ˆgi fokusiˆgis je la problemo konstrui inteligentajn sistemojn – sistemojn kiuj perceptas la medion kaj agas en ˆgi. En ˆci konteksto, “inteligenteco” rilatas al statistikaj kaj ekonomiaj nocioj de racio – en nefaka lingvaˆo, la kapablo preni bonajn decidojn, fari planojn kaj inferencojn. La adopto de probablaj kaj decid-teoriaj reprezentadoj kaj statistik-lernaj metodoj portis al larˆggrada integriˆgo kaj kunlaboro inter AI, a˘utomata lernado, statistiko, kontrol-teorio, ne˘urosciencoj, kaj aliaj fakoj. La establiˆgo de kunaj teoriaj kadroj, kune kun la preteco de datumoj kaj proceza povo fine portis al rimarkindaj sukcesoj en diversaj taskoj. 15 de 19
  16. 16. La lastatempaj sukcesoj de AI La letero listigas la jenajn: a˘utomata voˆc-rekono; a˘utomata bild-klasifikado; senpilotaj veturiloj; per-a˘utomata tradukado; a˘utomata dupieda moviˆgo; a˘utomataj demand-respondaj sistemoj. 16 de 19
  17. 17. Tekniko ne˘utralas, apliko ne Denove el la letero: La fako de AI mem fokusiˆgis ˆgis nun ˆcefe je teknikoj, kiuj estas ne˘utralaj respekte al la celo. Ni rekomendas plilarˆgan esploradon cele al garantii, ke AI-sistemoj estus pli kaj pli robustaj kaj bonfaraj: niaj AI-sistemoj devas fari kion ni volas ke ili faru. La algluita dokumento pri esplor-prioritatoj donas multajn ekzemplojn de tiu esploraj direktoj kiuj povas maksimumigi la societan bonfarecon de AI. ˆCi esplorado estas la˘unecese interfaka, ˆcar ˆgi kuntrenas kaj societon kaj AI. ˆGi inkluzivas interalie ekonomion, juron, filozofion. 17 de 19
  18. 18. AI-fakuloj rekonas nun la gravecon de etiko Nur en la ˆci-lastaj jaroj la kunlaboro inter la AI-fakuloj kaj la filozofoj, aparte la moralaj kaj politikaj, iˆgis normala afero. Tio estas klara signo, ke la influoj de la sukcesoj de AI estas pli kaj pli gravaj en la ˆciutaga vivo en multaj societoj de la mondo. Ekde nun, mi proponas al vi malmultajn verajn etikajn studkazojn kiuj rilatas al la lastatempaj rezultoj de AI iel. La defio estas analizi ilin per la klasika metodo kiun mi prezentis anta˘u (anta˘uˆstupo, tri ˆstupoj, eltiro de konkludoj). 18 de 19
  19. 19. Dankon por via atento! Se ne nun, sendu ilin poste al: F.Gobbo@uva.nl Deˆsutu kaj disvastigu ˆci prezenton de ˆci-tie: http:/federicogobbo.name/eo/2015.php CC BY: $ C Federico Gobbo 2015 19 de 19

×