Machine Learning - Breve panoramica

COS’È IL MACHINE LEARNING?
BREVE PANORAMICA
Luca Naso
3 novembre 2018 @ Acadevmy
LUCA NASO COS’È IL MACHINE LEARNING?

AGENDA
1 DEFINIZIONE E CASI D’USO REALI
2 TIPOLOGIE DI MACHINE LEARNING
3 ALGORITMI

DEFINIZIONE E CASI D’USO REALI
TIPOLOGIE DI MACHINE LEARNING
ALGORITMI
DEFINIZIONE
CASI D’USO
AGENDA
Deﬁnizione
Casi d’uso
3 ALGORITMI

ALGORITMI
DEFINIZIONE
CASI D’USO
DEFINIZIONE
Il Machine Learning è quella branca dell’informatica che dà ai computer la
possibilità di imparare qualcosa senza che questo gli venga esplicitamente
insegnato.
Il “fare cose che prima non potevamo fare” o “automatizzare i processi” non sono
elementi caratteristici del Machine Learning.

ALGORITMI
DEFINIZIONE
CASI D’USO
PAROLA CHIAVE 1
1 “imparare qualcosa”
“imparare” signiﬁca che viene acquisita una conoscenza e che questa può
essere messa in pratica anche in futuro. Quindi noi facciamo in modo che il
computer impari qualcosa e che, in futuro, possa sfruttare quanto appreso
senza il nostro intervento.

ALGORITMI
DEFINIZIONE
CASI D’USO
PAROLA CHIAVE 2
2 “senza che gli venga esplicitamente insegnato”
l’intervento umano non consiste nel dire esplicitamente al computer come
comportarsi (un intervento è comunque necessario afﬁnchè il computer possa
apprendere).
Invece diamo al computer i dati e degli algoritmi (“chiave di lettura”) per fare in
modo che possa interpretare i dati stessi.
Da qui in poi andrà avanti da solo, e sarà lui poi a decidere cosa fare nel
momento in cui dovrà mettere in pratica il suo apprendimento.

ALGORITMI
DEFINIZIONE
CASI D’USO
DEFINIZIONE 2
Il Machine Learing esplora lo studio e la costruzione di algoritmi che possono
imparare dai dati e sulla base di questi fare delle previsioni (su eventi o proprietà).
Questi algoritmi consentono di andare aldilà della programmazione classica che ci
consente di insegnare al computer solo le cose che effettivamente sappiamo
risolvere anche noi, e consente invece di risolvere problemi per cui non
conosciamo la soluzione, ma abbiamo molti esempi (o dati).

ALGORITMI
DEFINIZIONE
CASI D’USO
CASI D’USO
Il Machine Learning viene utilizzato in tantissimi settori, ...
Vediamo insieme solo tre esempi.

ALGORITMI
DEFINIZIONE
CASI D’USO
CASI D’USO - ATTIVITÀ FRAUDOLENTE
Sistema di classiﬁcazione delle transazione online in due classi: legittime e
fraudolente.
Usiamo il Machine Learning perchè:
non sappiamo quali sono le caratteristiche di una transizione fraudolenta o
legittima (importo, orario, sito, computer, device, ...)
abbiamo degli esempi, cioé uno storico di transizioni legittime e fraudolente
possiamo dare i dati in pasto al computer che, usando un certo algoritmo,
capirà “da solo” come distinguere le due categorie.

ALGORITMI
DEFINIZIONE
CASI D’USO
CASI D’USO - SISTEMI DI RACCOMANDAZIONE
Sistema per raccomandare i film che ci piacciono.
Usiamo il Machine Learning perchè:
Non abbiamo una legge che regola i gusti cinematografici,
ma abbiamo tanti film, tanti utenti e tante recensioni.
Grazie all’uso di certi algoritmi possiamo chiedere al computer di “capire” i
gusti degli utenti, e quindi suggerire un nuovo film.
Netflix prize: $1 milione nel 2006 - vinto nel 2009.

ALGORITMI
DEFINIZIONE
CASI D’USO
CASI D’USO - ANALISI MEDICA
Sistema di analisi delle immagini per classiﬁcare i linfonodi nelle lastre in due
categorie: benigni e maligni.
I medici sanno come distinguere le due categorie.
Ma la computer vision ed il machine learning consentono ai computer di analizzare
in un giorno più lastre di quanto un radiologo possa fare in tutta la sua vita.
I medici hanno una precisione del 96.5%
Le macchine hanno una precisione del 92.5%
Macchine e medici insieme raggiungono una precisione del 99.5%

ALGORITMI
TIPO DI APPRENDIMENTO
TIPO DI OUTPUT
AGENDA
Tipo di apprendimento
Tipo di output
3 ALGORITMI

ALGORITMI
TIPO DI OUTPUT
L’apprendimento del computer nel Machine Learning viene di solito suddiviso in
due grandi macro-categorie:
1 apprendimento supervisionato
2 apprendimento non-supervisionato

ALGORITMI
TIPO DI OUTPUT
APPRENDIMENTO SUPERVISIONATO - DEFINIZIONE
L’apprendimento supervisionato è quello in cui il computer apprende usando dati
“etichettati”.
Le etichette riportano il valore della grandezza da predire, spesso denominata
semplicemente “output” o “target".
Quindi, per ogni osservazione sono noti:
i valori di input (caratteristici dell’osservazione)
ed un valore dell’output.
Il computer impara sulla base di questa associazione.

ALGORITMI
TIPO DI OUTPUT
APPRENDIMENTO SUPERVISIONATO - ESEMPIO
Supponiamo che vogliamo insegnare ad un bambino a distinguere una bicicletta
da una macchina, senza che lui ne abbia mai viste prima.
Come dataset utilizziamo un insieme d’immagini diverse di biciclette e di
automobili.

ALGORITMI
TIPO DI OUTPUT
Mostriamo le immagini delle
biciclette e diciamo che sono
biciclette, senza indicare le
caratteristiche delle biciclette.

ALGORITMI
TIPO DI OUTPUT
Facciamo poi lo stesso con le automobili.

ALGORITMI
TIPO DI OUTPUT
Inﬁne, mostriamo al bambino un’immagine mai usata prima, e gli chiediamo se è
un’automobile o una bicicletta.

ALGORITMI
TIPO DI OUTPUT
APPRENDIMENTO NON SUPERVISIONATO - DEFINIZIONE
L’apprendimento non-supervisionato, invece, è quello in cui il computer apprende
usando dati che non sono etichettati.
Il computer deve dunque imparare senza conoscere l’output, ma avendo a
disposizione solo i dati di input.
Si tratta di una tipologia di problemi normalmente più complessa di quella
supervisionata.

ALGORITMI
TIPO DI OUTPUT
APPRENDIMENTO NON SUPERVISIONATO - ESEMPIO
Ripetiamo l’esempio precedente in modalità non supervisionata.
Usiamo ancora lo stesso dataset ma questa volta, quando facciamo vedere le foto
al bambino, queste sono mescolate e non gli diciamo quali sono le biciclette e
quali le automobili.
Il bambino deve capire da solo che le immagini appartengono a due categorie
diverse, perchè hanno delle caratteristiche diverse.

ALGORITMI
TIPO DI OUTPUT
Quando mostriamo una nuova immagine al bambino come potrà rispondere?

ALGORITMI
TIPO DI OUTPUT
Di certo non potrà dire se si tratta di una bicicletta o di un’automobile, perchè
nessuno gli ha insegnato queste parole.
Invece, potrà classiﬁcarla secondo i gruppi che lui stesso ha creato durante la fase
di apprendimento.

ALGORITMI
TIPO DI OUTPUT
APPRENDIMENTO NON SUPERVISIONATO - NOTE
Ci sono due note importanti da fare. Il bambino potrebbe trovare:
1 più di due categorie
2 categorie molto diverse da quanto ci aspettiamo
Il bambino potrebbe decidere di raggruppare le immagini in base al colore, alla
dimensione, o al numero di ruote (che vede)!
In genere il risultato ha una forte dipendenza dalle immagini presenti nel dataset.

ALGORITMI
TIPO DI OUTPUT
APPRENDIMENTO NON SUPERVISIONATO - NOTE

ALGORITMI
TIPO DI OUTPUT
APPRENDIMENTO SEMI-SUPERVISIONATO
Esiste un tipo di apprendimento detto semi-supervisionato, che è una sorta di via
di mezzo tra i due appena discussi.
Si tratta del caso in cui un sotto-insieme del dataset contiene delle etichette
(quindi supervisionato), ma il resto no (quindi non-supervisionato).

ALGORITMI
TIPO DI OUTPUT
APPRENDIMENTO RINFORZATO
Inﬁne, si parla tanto anche di una quarta categoria, quella dell’apprendimento
rinforzato.
In questo caso, l’apprendimento è guidato da una “funzione di guadagno”, che
viene aumentata ogni volta che la macchina raggiunge uno stato positivo (a volte
si usa una funzione di “costo”).
Questo sistema è stato utilizzato da DeepMind per costruire AlphaGo.

ALGORITMI
TIPO DI OUTPUT
RIEPILOGO
Nome Caratteristica
Supervisionato i dati sono etichettati
Non Supervisionato i dati non sono etichettati
Semi Supervisionato alcuni dati sono etichettati
Rinforzato bonus/malus per ogni stato

ALGORITMI
TIPO DI OUTPUT
SUDDIVISIONE PER OUTPUT
Un altro modo di suddividere i problemi di machine learning si basa sul tipo di
output che si intende ottenere. Ci sono tre casi:
1 Regressione
2 Classiﬁcazione
3 Clustering

ALGORITMI
TIPO DI OUTPUT
REGRESSIONE
Se l’output è un valore continuo, si parla di “Regressione”.
Esempi:
stimare lo stipendio di una persona in base al titolo di studio, genere ed età;
stimare il peso di una persona in base ad età, genere ed altezza;
stimare la temperatura massima di una giornata in base alla data di
calendario e alla pressione massima del giorno prima;
stimare il valore di mercato di una certa azione in base all’andamento dei 3
giorni precedenti.

ALGORITMI
TIPO DI OUTPUT
CLASSIFICAZIONE
Se l’output è un valore qualitativo (discreto), si parla di “Classiﬁcazione”.
Esempi:
valutare se un’email è spam o no in base al suo oggetto;
valutare se un testo tratta di qualcosa o di qualcuno in maniera positiva o
negativa (sentiment analysis);
valutare se un utente è interessato all’acquisto di un prodotto o meno;
identiﬁcare automaticamente i numeri scritti a mano.

ALGORITMI
TIPO DI OUTPUT
CLUSTERING
Se l’output è la suddivisione dei dati di input in gruppi, si parla di “Clustering”.
Esempi:
identiﬁcare se esistono gruppi di utenti con comportamento simile su un
e-commerce;
scoprire se esistono relazioni nascoste tra i pazienti di un ospedale;
scoprire quali relazioni ci sono tra vari geni di pazienti con o senza una certa
patologia;
scoprire relazioni tra RAM, disco, CPU, temepratura e carico di lavoro di un
cluster di computer per fare opera di prevenione sui nodi che falliscono.
Di solito sono casi non-supervisionati.

ALGORITMI
TIPO DI OUTPUT
RIEPILOGO
Tipo di output
Quantitativo Qualitativo Gruppo
(continuo) (discreto) (relazioni)
Nome Regressione Classiﬁcazione Clustering
Esempio Peso Spam Comportamento

ALGORITMI
PANORAMICA E SCELTA
AGENDA
3 ALGORITMI
Panoramica e Scelta

ALGORITMI
PANORAMICA E SCELTA
L’ALGORITMO MIGLIORE
Esistono migliaia di algoritmi di Machine Learning. E’ importante capire subito che
non esiste l’algoritmo perfetto, quello giusto per tutte le circostanze.
Ogni algoritmo è indicato solo per alcuni tipi di problemi e non per altri.
Quindi il primo passo da fare nella scelta dell’algoritmo per il proprio problema di
Machine Learning è capire di che tipo è:
Supervisionato o non-supervisionato?
Classiﬁcazione, regressione o clustering?

ALGORITMI
PANORAMICA E SCELTA
GRIGLIA SEMPLIFICATA

ALGORITMI
PANORAMICA E SCELTA
COME FARE LA SCELTA FINALE?
Dato che per ogni tipo di problema ci sono vari algoritmi, come facciamo a
scegliere quale usare?
Semplice: usiamo quello che funziona meglio!
La teoria, infatti, ci aiuta a fare la prima selezione. Poi però dobbiamo vedere i
risultati sul campo. Procediamo dunque con la misura dell’errore. Si costruiscono
diversi modelli, si calcola l’errore per ciascuno e si sceglie quello con i risultati
migliori.

ALGORITMI
PANORAMICA E SCELTA
NON SOLO PARAMETRI...
L’errore non si riferisce solo all’algoritmo. Anche usando lo stesso algoritmo, ci
sono varie scelte che determinano l’errore complessivo (e.g. numero di predittori,
valore degli iper-parametri).
Quindi la misura dell’errore ci aiuta sia a confrontare modelli che usano algoritmi
diversi, sia modelli che usano lo stesso algoritmo ma con impostazioni diverse.

ALGORITMI
PANORAMICA E SCELTA
ALCUNI IPER-PARAMETRI DI 3 ALGORITMI
Algoritmo
Logistic Regression LDA K-Means
penalty solver n clusters
dual shrinkage init
tol priors n init
C n components max iter
ﬁt intercept store covariance tol
intercept scaling tol
class weight
Iper-parametri
. . .

ALGORITMI
RIEPILOGO
Deﬁnizione
Casi d’uso
Tipo di apprendimento
Tipo di output
3 ALGORITMI
Panoramica e Scelta

Machine Learning - Breve panoramica

More Related Content

What's hot

Similar to Machine Learning - Breve panoramica

Machine Learning - Breve panoramica