Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Gian Luigi Ferrari la società degli algoritmi #digit19 Pin 15 marzo

282 views

Published on

presentazione dell'intervento su la società degli algoritmi del professor Gian Luigi Ferrari dell'Università di Pisa al panel di #digit19 dal titolo Dentro la società degli algoritmi conoscere e usare i dati non essere usati come dati

Published in: Science
  • Be the first to comment

  • Be the first to like this

Gian Luigi Ferrari la società degli algoritmi #digit19 Pin 15 marzo

  1. 1. Dentro la società degli algoritmi conoscere e usare i dati non essere usati come dati G. FERRARI DIPARTIMENTO DI INFORMATICA UNIVERSITÀ DI PISA
  2. 2. Quarto Potere “Io sono un’autorità su come far pensare la gente” (Charles Foster Kane)
  3. 3. …e il Potere dell’Intelligenza Artificiale 50.000 profili sociali di bot politici durante le elezioni US 20161 Studio del 2017 stima che esistano circa 48M di account Twitter gestiti da bot2 1The Guardian eTwitter 2Varol et al, AAAI 2017
  4. 4. DICHIARAZIONE: NON SONO NEUTRALE •Dedicherò la prima conferenza all’opposizione leggerezza-peso, e sosterrò le ragioni della leggerezza. [...]
  5. 5. Calcolare • Il calcolo è un processo mentale cognitivo che trasforma uno o più dati in ingresso in uno o più risultati: elaborazione dati. • Il Paleolitico e il Neolitico (divisione e addizione). • L'uomo viveva in gruppo e di conseguenza aveva la necessità di ripartire il cibo o contare dei capi di bestiame • Babilonesi utilizzavano un sistema di numerazione sessagesimale (base 60) e furono i primi ad introdurre la notazione posizionale • svilupparono un avanzato sistema aritmetico con il quale furono in grado di fare calcoli in modo algoritmico: equazioni lineari, le equazioni di secondo grado, ed equazioni lineari indeterminate.
  6. 6. ALGORITMI • Un algoritmo si può definire come un procedimento che consente di risolvere un problema eseguendo, in un determinato ordine, un insieme di passi elementari. • Abū Ja-far Muhammad ibn Mūsā Khwārizmī, matematico, astronomo, e geografo persiano (IX secolo)
  7. 7. RIVOLUZIONE & INNOVAZIONE
  8. 8. Informatica = scienza sperimentale trasformato la societa’ e il modo di costruire la conoscenza scienza e tecnologia non neutrale Impone a chi la uso uno sguardo diverso nell’organizzazione dei fenomeni Rivoluzione Industriale => Società delle machine => società delle machine digitali => società delle macchinee cognitive
  9. 9. •Rivoluzione industriale: conoscenza scientifica di base (matematica, fisica biologia) •Società digitale: richieste competenze su informatica e pensiero computazionale • Dal risolvere problemi al far risolvere problemi • Algoritmo espresso in linguaggio che viene eseguito da una macchina
  10. 10. FORMAZIONE e CONSAPEVOLEZZA
  11. 11. …. Sono un accademico …
  12. 12. DOMANDE FONDAMENTALI • Universality. Esiste una nozione astratta di macchina per calcolare? • Computability. Eistono problemi che non possono essere risolti da nessuna macchina per il calcolo? • Church-Turing thesis. Esistono dei limiti malla Potenza espressiva delle machine per calcolare? • Hilbert, Gödel,Turing, Church, von Neumann …..
  13. 13. MACCHINA DI TURINGMACCHINA DI TURINGMACCHINA DI TURING
  14. 14. ALAN TURING CALCOLO COME MANIPOLAZIONE COMBINATORIA DI INSIEMI FINITI E DISCRETI DI SIMBOLI SECONDO UN INSIEME FINITO DI REGOLE
  15. 15. Tesi di Church - Turing • Le macchine diTuring possono eseguire tutte le computazioni che eseguono i moderni computer • Modello universale di calcolo
  16. 16. IL PROBLEMA DELLA FERMATA HALTING PROBLEM E’ POSSIBILE SCRIVERE UN PROGRAMMA CHE LEGGE UN ALTRO PROGRAMMA P UN DATO D E DETERMINA SE IL PROGRAMMA P NON TERMINA UNA VOLTA MANDATO IN ESECUZIONE CON IL DATO D? E’ sempre possibile, descritto un algoritmo e un determinato dato in ingresso , stabilire se l'algoritmo in questione termina o continua la sua esecuzione all'infinito ?
  17. 17. UN PO’ DI MATEMATICA
  18. 18. CONCLUDIAMO LA DIMOSTRAZIONE 24 te loop lt. ts. 25 Halting Problem Proof Assume the existence of halt(f,x): ! Input: a function f and its input x. ! Output: true if f(x) halts, and false otherwise. Construct function strange(f) as follows: ! If halt(f,f) returns true, then strange(f) goes into an infinite loop ! If halt(f,f) returns false, then strange(f) halts. In other words: ! If f(f) halts, then strange(f) goes into an infinite loop. ! If f(f) does not halt, then strange(f) halts. Call strange()with ITSELF as input. ! If strange(strange) halts then strange(strange) does not halt. ! If strange(strange) does not halt then strange(strange) halts. Either way, a contradiction. Hence halt(f,x) cannot exist.
  19. 19. MORALE •Halting problem non è un problema artificiale creato da strani matematici del secolo scorso •Collegato a problem strettamente attuali •Non possiamo stabilire in generale proprietà di programmi.
  20. 20. ALAN TURING: UN GRANDE SCIENZIATO 34 Turing's Key Ideas Turing's 4 key ideas. ! Computing is the same as manipulating symbols. Encode numbers as strings. ! Computable at all = computing with a Turing machine. Church-Turing thesis. ! Existence of Universal Turing machine. general-purpose, programming computers ! Undecidability of the Halting problem. computers have inherent limitations Hailed as one of top 10 science papers of 20 th century. Reference: On Computable Numbers, With an Application to the Entscheidungsproblem by A. M. Turing. In Proceedings of the London Mathematical Society, ser. 2. vol. 42 (1936-7), pp.230-265.
  21. 21. MACCHINE COGNITIVE
  22. 22. DARPA: THREE WAYS OF AIThree Waves of AI Statistical Learning Contextual Adaptation engineers create systems that construct explanatory models for classes of real world phenomena natural communication among machines and people systems learn and reason as they encounter new tasks and situations Perceiving Abstracting Reasoning Learning PREDICTDESCRIBE EXPLAIN engineers create statistical models for specific problem domains and train them on big data nuanced classification and prediction capabilities no contextual capability and minimal reasoning ability Symbolic Reasoning Perceiving Abstracting Reasoning Learning Perceiving Abstracting Reasoning Learning engineers create sets of logic rules to represent knowledge in limited domains reasoning over narrowly defined problems no learning capability and poor handling of uncertainty
  23. 23. Transportation Security Medicine Finance Legal Military 9 The Need for Explainable AI User • Why did you do that? • Why not something else? • When do you succeed? • When do you fail? • When can I trust you? • How do I correct an error? • We are entering a new age of AI applications • Machine learning is the core technology • Machine learning models are opaque, non-intuitive, and difficult for people to understand • The current generation of AI systems offer tremendous benefits, but their effectiveness will be limited by the machine’s inability to explain its decisions and actions to users. • Explainable AI will be essential if users are to understand, appropriately trust, and effectively manage this incoming generation of artificially intelligent partners. AI System Distribution Statement "A" (Approved for Public Release, Distribution Unlimited)
  24. 24. Cosa sono le reti neurali
  25. 25. Il Neurone Artificiale ∑input output w1 w2 w3 w4 w5 w6 w7 accumula potenziale determina l’attivazione del neurone f Rete Neurale Neuroni di input Neuroni di output Neuroni nascosti Neurone Apprendono una rappresentazione neurale dell’informazionePesi sinaptici (parametri numerici appresi)
  26. 26. Che Cosa è il Deep Learning? statista artefice della pax-coreana Un insieme di tecniche e metodologie per estrarre automaticamente una rappresentazione gerarchica della conoscenza dai dati Reti Neurali Profonde cabarettista …
  27. 27. Generare Capolavori Letterari con l’AI Reti neurali profonde addestrate a prevedere il prossimo carattere di una sequenza testuale I n t e r e t F e s n t e r e t F e input output Una volta addestrate possono generare un nuovo testo carattere per carattere
  28. 28. Generare (pessime) Barzellette Why did the death penis learn string? Because he wanted to have some roasts case! Sai perché un pene morto suona gli archi? Perché vuole un caso spiedoso! Rete neurale addestrata su una raccolta di barzellette inglesi
  29. 29. Dal Cabaret alla Politica… …il passo può essere breve Rete addestrata carattere per carattere su discorsi o interventi di un politico Politic-obot
  30. 30. The Donald Vs Hillary
  31. 31. Candidato Trump, prego si presenti And we are going to lower taxes on American business from 35 percent to 15 percent. We're going to do great in North Carolina and we're going to make America great again. <APPLAUSE> E abbasseremo le tasse per le aziende Americane dal 35 percento al 15 percento. Faremo benissimo in North Carolina e renderemo nuovamente grande l’America. <APPLAUSI> Good evening everybody, I am to bring down home back for all of you and we're going to repeal and replace ObamaCare. <APPLAUSE> Buona sera a tutti, io sono per sovvertire il governo per tutti voi e respingeremo e rimpiazzeremo ObamaCare. <APPLAUSI>
  32. 32. Candidato Clinton, prego si presenti Good evening everybody, I am going to be small business stand. <APPLAUSE> Buona sera a tutti, io sarò far spiccare la piccola impresa <APPLAUSI> We need Americans shows everything you are. We have to vote for your lives, who are not going to start bigotry because we're going to trade with a ball, optimistic. So when we need to go and rebuild Washington. <APPLAUSE> Abbiamo bisogno Americani mostra quello che siete. Dobbiamo votare per le nostre vite, per le quali non inizieremo del bigottismo, perchè faremo scambi con la palla, ottimistici. Quindi quando dovremo e ricostruiremo Washington. <APPLAUSI>
  33. 33. Perchè dovremmo votare per voi? Trump-bot: "You should vote for me because they're all saying that I'm interesting. We're going to build the wall, between jail. OK? Because we need toughness.<CHEERING AND APPLAUSE>“ Clinton-bot: "You should vote for me because of the economy working for everyone, not just those at the top, like we are going to make gun violence and design it. Because of the economy works for everyone, not just those at the top. <APPLAUSE>And -- finally, I can take care of ampasting." Trump-bot: “Dovreste votare per me perché dicono tutti che sono interessante. Costruiremo il muro, tra prigioni. OK? Perchè necessitiamo di durezza. <FESTE E APPLAUSI>“ Clinton-bot: " Dovreste votare per me per l’economia che funziona per tutti, non solo quelli in alto, come se faremo violenza con le pistole e la progettiamo. Perchè l’economia funziona per tuttti, non solo quelli in alto. <APPLAUSI> E – infine, mi occuperò di incollando."
  34. 34. Che cosa pensate l’uno dell’altra? Clinton-bot: "Donald Trump actually wrecks his companies. He lost 400 billion dollars and we are going to do more to emphasize the rights ofAmerica. <APPLAUSE>“ Trump-bot: "Hillary Clinton brought death and disaster to Iraq, Syria, Libya, Syria, China and the United States signed up. She can't change. <BOOING>Thank you, Russia and Hillary.“ Clinton-bot: “Donald Trump manda in fallimento le sue aziende. Ha perso 400 miliardi di dollari e noi faremo di più per mettere in risalto i diritti dell’America <APPLAUSI>” Trump-bot: "Hillary Clinton ha portato morte e disastro in Iraq, Siria, Libia, Siria, Cina e gli Stati Uniti hanno firmato. Non può cambiare <FISCHI> Grazie, Russia e Hillary
  35. 35. Che cosa ci dite del Messico? Clinton-bot: "Mexico Brown, make it friends. And I don't think let's equal pay of that very nuclear weapons. But then, the pantimal scholarship efforts to the 29st century back <LAUGHTER>“ Trump-bot: "Mexico in North Carolina again. We're not going to let it happen. Next year. I don't know. Boy, boom, boom, boom, boom.“ Clinton-bot: "Messico Brown, diventiamo amici. E non penso facciamo pagare ugualmente di quelle armi molto nucleari. Ma allora, gli impegni ANTANI per le borse di studio del 29mo secolo ritorneranno. <RISATE>“ Trump-bot: “Il Messico nuovamente in North Carolina. Non lasceremo che succeda. Il prossimo anno. Non so. Ragazzo, boom, boom, boom, boom.”
  36. 36. E ora: Post politici in cerca di autore..
  37. 37. Right of explanation
  38. 38. 10 What Are We Trying To Do? Learning Process Training Data Learned Function Output Today This is a cat (p = .93) • Why did you do that? • Why not something else? • When do you succeed? • When do you fail? • When can I trust you? • How do I correct an error? User with a Task ©Spin South West ©University Of Toronto Training Data New Learning Process Explainable Model Explanation Interface Tomorrow • I understand why • I understand why not • I know when you’ll succeed • I know when you’ll fail • I know when to trust you • I know why you erred This is a cat: •It has fur, whiskers, and claws. •It has this feature: User with a Task ©Spin South West ©University Of Toronto Distribution Statement "A" (Approved for Public Release, Distribution Unlimited)
  39. 39. 13 Challenge Problems Learn a model Data Analytics Classification Learning Task Recommend Explanation Explainable Model Explanation Interface An analyst is looking for items of interest in massive multimedia data sets Explainable Model Explanation Interface Autonomy Reinforcement Learning Task Actions Explanation ArduPilot & SITL Simulation An operator is directing autonomous systems to accomplish a series of missions Classifies items of interest in large data set Learns decision policies for simulated missions Explains why/why not for recommended items Analyst decides which items to report, pursue Explains behavior in an after-action review Operator decides which future tasks to delegate Use the explanation Explain decisions Multimedia Data Two trucks performing a loading activity ©Getty Images ©US Army ©Air Force Research Lab ©ArduPikot.org Distribution Statement "A" (Approved for Public Release, Distribution Unlimited)
  40. 40. NOTIZIE E DEMOCRAZIA
  41. 41. THE FILTER BUBBLES • Il flusso di informazioni che ci raggiunge tramite le reti sociali è definito non dal contenuto informativo o dalla pertinenza, ma da algoritmi che filtrano notizie e opinioni proponendoci solo fatti e opinioni più affini alle nostre idee e ideologie. • Ci piace ascoltare gli altri confermando le nostre convinzioni. La prima definizione di bolla di filtraggio è apparsa nel Maggio del 2011 a cura di Eli Pariser nel suo libro “Il filtro. Quello che internet ci nasconde“ e nello specifico l’autore la definisce come “quel personale ecosistema informativo soddisfatto dagli algoritmi dei Social Network e dei motori di ricerca“. … gli algoritmi di queste piattaforme registrano la nostra azione per poi consigliarci o riproporci i risultati filtrati secondo le nostre scelte.
  42. 42. BREAKING THE FILTER BUBBLES •La diversità è essenziale per preservare e nutrire la nostra intelligenza collettiva: una sana diversità di opinioni può rispondere intelligentemente a domande difficili, •La diversità, e quindi l'intelligenza collettiva, viene minata da polarizzazioni eccessive
  43. 43. BREAKING THE FILTER BUBBLES •L’informatica, intelligenza artificiale e la scienza dei dati non sono tecnologie neutre, possono essere utilizzate per scopi molto buoni o cattivi; •Nostro compito: decidere quali valori e norme dovrebbero essere instillati nelle tecnologie by design per creare un sistema informativo ecologico che promuova il pensiero critico e alimenti la diversità.

×