Good Stuff Happens in 1:1 Meetings: Why you need them and how to do them well
Evolutionary Fuzzy Systems for XAI
1. Summaryof
A.Fernandez,F.Herrera,O.Cordon,M.J.delJesusandF.Marcelloni,
“EvolutionaryFuzzy Systems for Explainable Artificial
Intelligence:Why, When, What for, and Where to?”,
IEEEComputationalIntelligenceMagazine,vol.14,n.1,February2019,pp.69-81
Studentessa:
Camilla GIACCARI
Relatore:
Prof. Fabrizio RUSSO
Anno Accademico 2019 - 2020
UNIVERSITÀ DEGLI STUDI DI TRIESTE
Dipartimento di Ingegneria e Architettura
Laurea Triennale in Ingegneria Elettronica e Informatica
2. Introduzione
Lo studio considerato analizza la situazione della ricerca sugli
Evolutionary Fuzzy Systems (EFS) esaminando:
• Perché si usano
• Quando sono nati
• Per cosa vengo utilizzati
• Verso dove ci si può spingere in futuro
EFS
Fuzzy
System (FS)
Evolutionary
Algorithms
(EA)
3. EFS - Perché
• E’ di grande attualità lo sviluppo di modelli basati
sull’intelligenza artificiale (AI) per estrarre conoscenza
dai dati disponibili
• I sistemi più potenti in uso (Reti Neurali con Deep Learning)
forniscono risultati accurati, ma non danno la possibilità di
capire in che modo i dati in ingresso influenzino quelli in uscita
• Ultimamente anche la sicurezza ha assunto importanza, quindi
bisogna che il modello sia comprensibile (proprietà di
interpretabilità, nel ML, o spiegabilità, nella XAI)
• Con i Sistemi Evolutivi Fuzzy si riesce a trovare un buon
compromesso tra accuratezza e spiegabilità
4. Insiemi Fuzzy e Regole Fuzzy
• Un insieme fuzzy (fuzzy set) è una generalizzazione di un
insieme classico dove è ammessa appartenenza parziale
• Il grado di appartenenza di un elemento ad un fuzzy set può
variare da 0 (nessuna appartenenza) a 1 (completa
appartenenza)
• I fuzzy set possono essere identificati mediante etichette
linguistiche. Ad esempio: small, medium, large
• I fuzzy set sono quindi comprensibili e così pure le regole che
ne fanno uso. Ad esempio:
IF (x1 is A) AND (x2 is B) THEN (y is C)
5. Sistemi di Regole Fuzzy
• I Sistemi di Regole Fuzzy (FRBS) comprendono un insieme di regole IF-THEN
(Rule Base) e un Motore Inferenziale che, per ogni set di dati in ingresso,
produce i corrispondenti valori di uscita
• L’apprendimento consiste nell’estrarre il set di regole da una base di dati a
disposizione
FRBS
Indice di
Prestazione
Dati in
Ingresso
Dati in
Uscita
Desiderati
Dati in
Uscita
Prodotti
TRAININGDATA
Aggiornamento
Set di Regole
6. Gli Algoritmi Evolutivi
• Nei FRBS è possibile
applicare gli algoritmi
evolutivi (EA) per
effettuare
l’apprendimento
massimizzando l’indice di
prestazione
• Gli EA, e in particolare gli
algoritmi genetici (GA),
lavorano su una
popolazione di soluzioni e
simulano i meccanismi
dell’evoluzione biologica
Codifica in
geni
Riproduzione
Ricombinazion
eMutazione
Nuova
popolazione
7. EFS - Quando
Anni ‘60
• Lofti A.
Zadeh
propone
la teoria
Fuzzy
Anni ‘70
• Mamdani
introduce
la Fuzzy
Rule Base
• Si iniziano
a studiare
EA e GA
Anni ‘90
• Prime
idee di
ibridazione
Fuzzy - EA
8. EFS - Quando (classificazione)
• Apprendimento/ottimizzazione delle diverse parti del sistema
fuzzy (parametri fuzzy set, aggregatori, procedimento
inferenziale)
• Apprendimento multi-obiettivo
• Estensioni
9. EFS - Per cosa
Interpretabilità
• Data Science
- XAI
• Ambito medico
• Finanza
Robustezza
• Analisi social network
• Finanza
• Intrusion Detection Systems (IDS)
10. EFS - Verso dove
Nuove applicazioni alla
Data Science
Nuove tecniche di
ottimizzazione
Problema della
complessità
Problema della
scalabilità, risolvibile con
algoritmi distribuiti
Approcci
globali
Approcci
locali
11. EFS - Note finali
Punti di forza dell’articolo:
• riscoperta dei sistemi Fuzzy nel moderno ambito
dell’intelligenza artificiale
Punti di debolezza dell’articolo:
• mancata sottolineatura di alcune caratteristiche dell’utilizzo
degli EA, come
- ibridazione FRBS-EA vantaggiosa al cambio di architettura
- EA molto accurati, ma con tempi di esecuzione elevati
• mancata citazione di risultati ottenuti in importanti aree
applicative (image denoising)