Il deep learning rappresenta una nuova famiglia di tecniche data-driven, che aprono nuovi orizzonti in quello che le macchine possono essere programmate a fare. In pochi anni abbiamo visto automobili che si guidano da sole, robot che imparano a muoversi, campioni di Go sconfitti, e molto altro ancora. Quali sono le sfide tecniche, sociali e scientifiche del prossimo futuro? E, soprattutto, queste tecnologie sono alla portata di tutti? In questo talk daremo una (brevissima) panoramica di queste questioni e delle loro possibili risposte.

1. Il deep learning
ed una nuova generazione di AI
Presenter: Simone Scardapane
Data Driven Innovation Conference, 24 Febbraio 2017

2. Deep learning is the new trend

3. Una prima domanda
Da dove nasce tutto questo
interesse?

4. Il paradosso di Moravec
"In the 60s, Marvin Minsky assigned a couple
of undergrads [to program] a computer to
use a camera to identify objects in a scene.
He figured they'd have the problem solved by
the end of the summer.
Half a century later, we're still working on it."
https://xkcd.com/1425/ (2014)

5. Riconoscere oggetti - oggi

6. Non solo riconoscere: descrivere
Download TensorFlow Code

7. Non solo descrivere: inventare!
An introduction to Generative Adversarial Networks

8. Inventare è semplice…
Una rete "generativa" crea un'immagine verosimile a partire
da rumore.
Una seconda rete cerca di discriminare fra immagini reali ed
immagini sintetiche.
Goodfellow, I., Pouget-Abadie, J., Mirza, M., Xu, B., Warde-Farley, D., Ozair, S., Courville, A. and
Bengio, Y., 2014. Generative adversarial nets. In Advances in Neural Information Processing
Systems (pp. 2672-2680).

9. Immagini, musica…
L’intelligenza artificiale che scrive musica come i Beatles e Duke Ellington
[La Stampa, 24/09/2016]
« Scientists at SONY CSL Research Lab have created the
first-ever entire songs composed by Artificial Intelligence:
"Daddy's Car" and "Mister Shadow".
The two songs are excerpts of albums composed by
Artificial Intelligence to be released in 2017. »

10. … giochi!
How AlphaGo Mastered the Game of Go
with Deep Neural Networks

11. Una seconda domanda
Ok, ci hai convinto.
Ma… come siamo arrivati a
questo punto in così poco tempo?

12. Un passo indietro: reti neurali artificiali
Ogni connessione è un parametro: adattandole in base
ai dati, possiamo "apprendere" dagli errori.

13. Cosa ci dice la biologia?
Un elemento essenziale:
strati multipli di elaborazione
Urbanski, M., Coubard, O. A., & Bourlon, C. (2014). Visualizing the blind brain: brain imaging of visual field defects
from early recovery to rehabilitation techniques. Frontiers in integrative neuroscience, 8.

14. 2012-2017: crescita esponenziale

15. Inception
Gooing Deeper Into Convolutions
[Google Research Blog]

16. Ragione 1: dati

17. Ragione 2: potenza di calcolo
https://developer.nvidia.com/cudnn

18. Ragione 3: software!
Creazione di un modello in Keras:
model = Sequential()
model.add(Dense(20, input_dim=16, init='uniform', activation='relu'))
model.add(Dense(1, init='uniform', activation='sigmoid'))
model.compile(loss='binary_crossentropy', optimizer='adam')
model.fit(X, Y, nb_epoch=50, batch_size=100)
Allenamento:

19. ML as a service

20. ML as a service (2)

21. Una terza domanda
I benefici sono sotto gli occhi di
tutti, ma i possibili rischi?

22. La rivoluzione del ML
“People worry that computers will get too
smart and take over the world, but the real
problem is that they're too stupid and they've
already taken over the world.”
[Pedro Domingos, The Master Algorithm]

23. Machine Bias
Machine Bias
[ProPublica]

24. Equal Opportunity
Equality of Opportunity in Machine Learning
[Google Research Blog]

25. Machine Trust
A known urban legend: neural networks "learns"
to recognize tanks because all training data from
one class was taken on sunny days.

26. "Spiegare" un classificatore
Ribeiro et al. (2016): "Why should I trust you?"
Lipton (2016): "The Mythos of Model Interpretability"

27. Adversarial ML
Attacking machine learning with adversarial examples
[OpenAI blog]

28. Mancanza di senso comune
Lake, B.M., Ullman, T.D., Tenenbaum, J.B. and Gershman, S.J., 2016. Building
machines that learn and think like people. arXiv preprint arXiv:1604.00289.

29. Mancanza di senso comune (2)
Movie written by algorithm turns out to be hilarious and intense
[ArsTechnica, 06/09/2016]

30. Imparare il senso comune
Lerer, A., Gross, S. and Fergus, R., 2016. Learning Physical Intuition of Block
Towers by Example. arXiv preprint arXiv:1603.01312.

31. Privacy
Narayanan, A. and Shmatikov, V., 2008. Robust de-anonymization of large
sparse datasets. In 2008 IEEE Symposium on Security and Privacy, 2008
(pp. 111-125). IEEE.
Privacy Concerns Put the Kibosh on the Netflix Prize [Mashable]

32. Approfondimenti
Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J. and
Mané, D., 2016. Concrete problems in AI safety. arXiv preprint
arXiv:1606.06565.
Crawford, K. and Calo, R., 2016. There is a blind spot in AI research.
Nature, 538(7625), p. 311.

33. Get involved
Cerchiamo proposte per:
• Eventi
• Sponsor
• Laboratori
• Talk