Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

The first human-electronic creature: Cremino

331 views

Published on

Description of how it is possible to connect a humen neural network with electronics, make it learn and answers commands. "Cremino" is the first hybrid human-electronic creature.

Published in: Technology
  • Be the first to comment

The first human-electronic creature: Cremino

  1. 1. LiVinG NeTWorkS LaB  Dal 2002 il Living Networks Lab (Dipartimento di Scuenze dell’Informazione - Università di Milano) lavora con culture di neuroni su MEA (array di microelettrodi)  Il gruppo è composto da fisici, elettronici, informatici e biotecnologi, con il supporto di un laboratorio biologico esterno.
  2. 2. LiVinG NeTWorkS LaB Obiettivo del gruppo è lo sviluppo della ricerca nel campo della biologia computazionale, della bionica e dell’Intelligenza Artificiale. Il gruppo ha effettuato molti esperimenti sullo sviluppo e l’analisi di strutture organizzate di reti neurali biologiche adese a supporto elettronico.
  3. 3. Ambiti di ricerca Ricerca in campo neurofisiologico: metodo di decodifica di segnali provenienti da reti di neuroni; non esistono ad oggi interpretazioni sperimentali della semantica dei segnali gestiti da reti di cellule nervose Ricerca in campo robotico: sistema bionico in grado di apprendere e di guidare attuatori
  4. 4. Ambiti di ricerca Ricerca nel campo delle reti neurali artificiali (ANN): implementazione di una rete software autoorganizzante in grado di fornire un output esplicito e di funzionare in tempo reale Ricerca nel campo del supporto dell’handicap: metodo per implementare in futuro protesi direttamente impiantate nel sistema nervoso centrale per sostituire porzioni di cervello danneggiate e/o guidare arti naturali o artificiali
  5. 5. Struttura del neurone  La scoperta della struttura del neurone risale al 1965 (Deiters)  Il neurone è dotato di un soma, di un assone, dei dendriti e delle sinapsi  Ramòn y Cajal evidenzia i dendriti e gli assoni con il metodo di Golgi
  6. 6. Rete di neuroni
  7. 7. La trasmissionedei segnali neurali  La trasmissione dei segnali nei neuroni avviene per via elettrochimica  L’arrivo di un segnale elettrico libera dei neurotrasmettitori che attraversano la fessura sinaptica e vengono riconvertiti in segnali elettrici
  8. 8. La trasmissionedei segnali neurali
  9. 9. Il potenziale d’azione (spike)  Il potenziale d’azione è il segnale che si propaga attraverso le cellule neurali lungo l’assone  Si innesca quando il potenziale di membrana si allontana dal suo valore di riposo superando una certa soglia
  10. 10. Modello del potenziale d’azione A.C. Hodgkin e A.F. Huxley nel 1952 hanno aperto le porte ad una comprensione dettagliata di come i segnali elettrofisiologici siano trasmessi allinterno del sistema nervoson indica la frazione di canali K+ (potassio) aperti, m la frazione di canaliNa+ (sodio) attivati, h la frazione di canali Na+ (sodio) inattivati
  11. 11. Studio della codifica dell’informazione neurale Lo studio della codifica dell’ informazione neurale è basata sull’ implementazione di analisi statistiche Attualmente si ritiene che la maggior partedelle informazioni rilevanti, se non tutte, siano contenute nel tasso medio di “firing” del neurone Oltre al firing rate si considera l’Inter Spike Interval (ISI) che è l’intervallo temporale che intercorre tra due spikes successivi.
  12. 12. Tecniche di misura del segnale neurale Gran parte della moderna neurofisiologia è basata su studi sperimentali con tecnica patch-clamp Il metodo del patch-clamp risale al 1983 (Sakmann and Neher), ed è effettuato tramite una micropipetta di vetro Misura il potenziale a cavallo della membrana cellulare Misura anche il potenziale all’interno della membrana cellulare se si perfora la membrana
  13. 13. Interfacciamento fra neuroni e circuiti elettronici Nei primi anni novanta fu stabilita per la prima volta un’interfaccia elettrica tra cellule nervose e microstrutture semiconduttrici, utilizzando i neuroni delle sanguisughe, uniti a transistor disposti su una piastra di silicio (Fromherz) In seguito Fromherz ha approfondito la natura della giunzione neurone-silicio perfezionando la tecnica di interfacciamento
  14. 14. Interfacciamento fra neuroni e circuiti elettronici Nel 2000 un team di ricercatori della Northwestern University di Chicago, dell’Università dell’Illinois e dell’Università di Genova ha creato una creatura ibrida costituita da un corpo meccanico controllato dal cervello di lampreda marina Nel 2002 Fromherz ha coltivato delle cellule nervose su elettrodi di silicio: le cellule nervose hanno formato sinapsi con gli elettrodi di silicio che rispondevano a stimoli elettrici
  15. 15. Interfacciamento fra neuroni e circuiti elettronici Nel 2003 il gruppo della Duke University è riuscito a collegare 320 microelettrodi alle cellule nel cervello di una scimmia, permettendo di tradurre direttamente i segnali elettrici in istruzioni per il computer, in grado di spostare un braccio robotico Nel 2005 il gruppo del SISSA di Trieste ha sperimentato la possibilità di utilizzare i neuroni su MEA come “neurocomputers” in grado di filtrare delle immagini digitali
  16. 16. Il nostro progetto Strutturare reti di neuroni biologici in forma di ANN. Ipotizzare una forma di apprendimento di questo sistema ibrido attraverso l’immissione iterata di pattern digitali secondo la tecnica ANN Decodificare i segnali neurali di output attraverso una ANN (ITSOM) e con questi guidare gli attuatori di un robot
  17. 17. Il nostro progetto Coltivazione sul MEA delle cellule staminali che sono state fatte differenziare in neuroni umani. Creazione della rete di Kohonen e di Hopfield su MEA La configurazione delle reti è stata scelta dopo una simulazione software su reti artificiali di Kohonen e di Hopfield, in modo da valutare il numero minimo di neuroni necessari a classificare delle semplici immagini
  18. 18. Il sistema hardware/software  Abbiamo sviluppato un sistema che interfaccia le cellule attraverso l’adesione diretta a MEA (MultiElectrode Arrays)  Un MEA è un disco di Petri di vetro in cui sono inseriti piccolissimi elettrodi. Ciascun elettrodo è connesso per mezzo di una traccia isolata ad un connettore esterno.
  19. 19. Il sistema hardware/software  Il MEA permette la registrazione dell’attività delle cellule simultaneamente da diversi canali  Può registrare a lungo l’attività cellulare senza danneggiare le cellule  E’ adatto ai nostri esperimenti perché permette di studiare il comportamento dinamico di un’intera rete di neuroni
  20. 20. Il sistema hardware/software  Il sistema è stato cambiato e migliorato molte volte, adottando man mano schede di acquisizioni più potenti e controller dedicati
  21. 21. Il sistema hardware/software  Al momento usiamo un sistema avanzato National Instruments:  Rack esterno PXI 1031 con board DAQ ad alta velocità PXI 6251 (16 input analogici, 24 Digital I/O, 2 output analogici) , velocità di campionamento 1.25 MS/s  Labview 8.0 per la gestione della scheda e della regsitrazione dei segnali
  22. 22. Il sistema hardware/software Un controller dedicato progettato dal nostro gruppo permette di preamplificare i segnali neurali e stimolarli con pattern digitali
  23. 23. I neuroni •Fino ad oggi abbiamo usato cellule staminali neurali •Le cellule vengono piastrate alla densità a 3500 celle/cm2 in un mezzo contenente i fattori di crescita EGF e FGF-2 •Le cellule sono coltivate per 15 giorni per ottenere neuroni maturi •Abbiamo coltivato le cellule direttamente su MEA ricoperto da substrato di matrigel
  24. 24. Il nostro progetto E’ stato sviluppato un programma di controllo del sistema in linguaggio Labview, utilizzato per:  il controllo del flusso degli esperimenti  la generazione dei pattern sensoriali simulati  l’acquisizione dei segnali  l’interfacciamento con la rete neurale  la generazione dei segnali di controllo degli attuatori del robot E’ stata sviluppata una rete neurale in linguaggio C sotto forma di DLL ed è stata linkata a Labview
  25. 25. Il nostro progetto Il differenziamento avviene su MEA. I nostri MEA Panasonic hanno 64 microelettrodi ITO (Indium Tin Oxide) – platino. La dimensione dei microelettrodi è 20 µ, la distanza interpolare 100 µ.
  26. 26. Il nostro progetto Si sono creati dei collegamenti per ricreare la rete di Hopfield e di Kohonen Kohonen: 8 neuroni di input, 3 neuroni dello strato competitivo Hopfield: 8 neuroni di input/output Kohonen Hopfield
  27. 27. Il nostro progetto Il software di stimolazione crea una serie di bitmap composte da 3 x 3 bit che rappresentano o un segnale “0” o un segnale “1” Si utilizzano gli 8 punti esterni Carattere 0 Carattere 1 11111111 00001111
  28. 28. I pattern digitali Oltre allo “0” e “1” perfetto si considerano anche zeri e uni con rumore0 con rumore1 con rumore
  29. 29. L’apprendimento Le stimolazioni vengono dati con impulsi di +/-35 mV a frequenze diverse La durata del singolo impulso è stata impostata a 1.25 ms o 25 ms nei diversi esperimenti
  30. 30. Analisi dei risultati
  31. 31. Analisi dei risultati
  32. 32. Analisi dei risultati
  33. 33. Analisi dei risultati I segnali misurati sono stati successivamente elaborati utilizzando la RQA (Recurrence Quantification Analysis). Questo strumento di analisi non lineare analizza il grado di autoorganizzazione di un segnale Si costruisce una serie di M vettori di lunghezza N ricavati prendendo porzioni di segnale al tempo t+i (i=i+k),ottenendo una matrice di valori. Si calcola la distanza euclidea fra i punti costituiti dalle righe della matrice, e queste vengono codificate attraverso dei colori (Recurrence Plots)
  34. 34. Analisi dei risultati Essenzialmente, il Recurrence Plot è una tabella di codici di colori, in cui i colori caldi (giallo, rosso ed arancio) possono essere associati con le piccole distanze fra i vettori, mentre i colori freddi (azzurro, nero) possono essere usati per mostrare le grandi distanze. Per segnali random la distribuzione dei colori è completamente uniforme. Quanto più deterministico è il segnale, tanto più strutturato sarà il Recurrence Plot
  35. 35. Recurrent Plots  Segnale di output prima della somministrazione dei pattern  Il grafico è costituito da colori freddi e disorganizzati che segnalano la mancanza di autoorganizzazione della serie temporale.
  36. 36. Recurrent Plots  Segnale di output durante la somministrazione dei pattern  disorganizzato anche se con un inizio di autoorganizzazione
  37. 37. Recurrent Plots  Segnale di output subito dopo la fine della somministrazione di un pattern sensoriale simulato  Si vedono ampie bande uniformi di colore giallo e rosso, mentre i colori freddi sono limitati agli estremi del diagramma
  38. 38. Recurrent Plots  Segnale di output dopo la fine della somministrazione dei pattern sensoriali simulati  Si vedono ampie bande uniformi di colore giallo e rosso, mentre i colori freddi sono limitati agli estremi del diagramma, a dimostrazione di un altissimo grado di autoorganizzazione
  39. 39. Analisi dei risultati Sia l’analisi dei segnali elettrici che i Recurrent Plots concorrono alle stesse conclusioni :  La rete di neuroni risponde in modo simile a stimolazioni simili, risponde in modo diverso a stimolazioni diverse  I risultati raggiunti consentono di affermare che la rete di neuroni è in grado di “apprendere” stimoli sensoriali simulati autoorganizzandosi, e rispondendo adeguatamente ai pattern anche successivamente all’apprendimento
  40. 40. Decodifica dei segnali neurali attraverso una rete neurale artificiale Abbiamo quindi pensato possibile un passo successivo: offrire un’interpretazione agli output generati dai neuroni Sviluppo di una rete autoorganizzante ITSOM (Inductive Tracing Self Organizing Map) per la decodifica dei segnali neuronali La rete ITSOM è un’ evoluzione della SOM (Kohonen)
  41. 41. La rete SOMCaratteristiche della rete SOM: • Rete ad apprendimento non supervisionato. • Composta da due strati: uno strato di input e uno strato competitivo o di Kohonen • Tutti i neuroni di input sono connessi ad ogni neurone dello stato di output. • Autoorganizzazione di insiemi di dati n-dimensionali su una mappa k-dimensionale ( k << n ) (quantizzazione vettoriale)
  42. 42. La rete SOMApprendimento e classificazione della rete di Kohonen:  Regola Winner Take All  Calcolo delle distanze tra segnali di input x e pesi delle connessioni wi.  Il neurone vincente è quello con distanza minima, premiato con una variazione dei pesi wi _ new = wi _ old + α ( x − wi _ old ) zi
  43. 43. Problematiche della SOM Per input strettamente non lineari lo strato di output non riesce a mappare correttamente l’input Difficoltà di pervenire a convergenza certa non essendoci la possibilità di stabilire un errore della rete per ciascuna epoca Output non è esplicitato e necessita di un algoritmo per estrarlo PUNTI DI FORZA DELLA ITSOM Funziona in tempo reale Non necessita di convergenza Esplicitazione dell’output
  44. 44. La rete ITSOM Osservando la sequenza temporale dei neuroni vincenti di una SOM si nota che questa tende a ripetersi creando una serie temporale, costituente attrattori caotici, e che questi caratterizzano univocamente l’elemento di input che gli ha prodotti La rete ITSOM memorizza la serie temporale dei neuroni vincenti e successivamente li analizza col metodo degli z- score
  45. 45. Lo z-scoreI punteggi cumulativi relativi a ciascun input vengononormalizzati secondo la distribuzione della variabilestandardizzata “z” • x = numero vittorie per il neurone x −μ z = • μ = media dei punteggi sui vari neuroni σ • σ = scarto quadratico medio
  46. 46. Lo z-score Fissata una soglia τ, 0<τ<1 z = 1 per z > τ z = 0 per z ≤ τ In questo modo ogni configurazione dei neuroni vincenti è rappresentata da un numero composto da zeri e uni Diventa poi immediato confrontare tra loro questi numeri binari detti codice ITSOM.
  47. 47. Lo z-score CODICI Z-SCOREFASE DI TRAINING FASE DI TESTING Generazione Classificazione dei segnali degli z-score in funzione degli z-score di riferimento acquisiti nella fase di training
  48. 48. Lo z-score Ad esempio nella tabella sotto sono riportati i codici generati dalla ITSOM che elabora un set di segnali emessi dalle cellule stimolate con lo stesso pattern R La prima volta vince 10 volte il neurone 2, 5 volte il neurone 5, 6 volte il neurone 6, una volta il neurone 7 e così via La seconda volta vince 1 volta il neurone 2, 6 volte il neurone 5, 4 volte il neurone 6 e così via
  49. 49. Fasi dell’esperimento Strutturazione di una rete di Hopfield Generazione dei segnali e stimolazione dei neuroni biologici, registrazione della loro risposta. Inoltro dei dati alla rete neurale artificiale ITSOM:  fase di training  fase di testing Utilizzo dell’output della ITSOM per pilotare gli attuatori del Robot.
  50. 50. I neuroni Nell’ultimo esperimento abbiamo stimolato la rete per mezzo di pattern direzionali I pattern sono bitmap 8x8 La durata del bit è 300 ms Ciascuna stimolazione è seguita da una pausa di 1 s in cui una Artificial Neural Network elabora i segnali L’impulso di stimolazione è un segnale è un segnale alternato a basso voltaggio (+/- 30 mV, 733 Hz)
  51. 51. Generazione di stimoli sensoriali simulati  Pattern: 8 bit per 8 bit.  Ogni bit ha la durata di 300 ms  Ogni stimolazione della durata complessiva di 2.4s è seguita da 1s di pausa durante alla fine della la rete neurale registra gli output cellulari.  Il segnale utilizzato per stimolare le cellule è un segnale alternato a bassa tensione (+/- 30 mV) a 733 Hz.
  52. 52. Generazione di stimoli sensoriali simulatiFase di Training: Somministrazione ripetuta di stimoli sensoriali simulati ai neuroni biologici Acquisizione (10 kHz) del segnale dei neuroni biologici Generazione degli z-score di riferimento della rete ITSOM
  53. 53. Generazione di stimoli sensoriali simulatiFase di Testing: Somministrazione di uno stimolo sensoriale simulato prescelto ai neuroni biologici Acquisizione (10 kHz) del segnale dai neuroni biologici Generazione dello z-score e confronto con quelli di riferimento Generazione dei comandi per pilotare il Robot
  54. 54. I neuroniI pattern vengonosomministrati alla retebiologica come treni di impulsielettrici in modo darappresentare i punti bianchi(bit 1) o bianchi (0) dellabitmap
  55. 55. I neuroni •Gli impulsi sono somministrati simultaneamente su tutti gli elettrodi in forma di pattern •Le cellule sono stimolate da impulsi elettrici con differenti voltaggi e frequenze •Le stimolazioni sono somministrate con impulsi di 35 mV •La durata di un impulso è stata posta da 1.25 ms a 25 ms in differenti esperimenti
  56. 56. La creatura bionica I neuroni sono connessi ad una Artificial Neural Network che decodifica i loro segnali dopo le stimolazioni Il sistema ibrido (artificiale/biologico) guida un minirobot
  57. 57. La creatura bionica Dopo una sequenza di stimolazioni di training, vengono somministrati alla rete biologica dei pattern direzionali random in forma di comandi LaITSOM decodifica i segnali neurali e il minirobot esegue i comandi
  58. 58. Parametri di taratura della ITSOM
  59. 59. Risultati Direzioni Input 1-400ms Totale Pattern F Pattern B Pattern L Pattern RClassificati correttamente 4 5 3 3 15Non classificati correttamente 1 0 3 3 7Non classificati 0 1 1 1 3Totale dei pattern forniti 5 6 7 7 25% Classificati 100% 83,33% 85,71% 85,71% 88%% Classificati correttamente 80% 83,33% 42,86% 42,86% 60% Percentuale di classificazione nelle quattro direzioni 100% 80% 60% Non classificati 40% Non classificati correttamente 20% Classificati correttamente 0% Pattern F Pattern B Pattern L Pattern R Totale Direzioni
  60. 60. RisultatiAnalizzando i dati ottenuti con il metodo delle matrici diconfusione possiamo calcolare la sensibilità e laspecificità per valutare la bontà del nostro classificatorePer ogni matrice di confusione si possono definire quattroimportanti parametri: Falso Positivo (FP): è la probabilità che un pattern sia stato erroneamente classificato come appartenente ad un altro pattern. Falso Negativo (FN): è la probabilità che uno specifico pattern sia stato erroneamente classificato non nel suo specifico pattern. Vero Positivo (VP): è la probabilità che un pattern sia stato correttamente classificato come appartenente ad uno specifico pattern. Vero Negativo (VN): è la probabilità che un pattern sia stato correttamente classificato come non appartenente ad uno specifico pattern.
  61. 61. RisultatiDefiniamo quindi: Sensibilità = (VP / ( VP + FN))*100 Specificità = (VN / (VN + FP))*100 Matrice di confusione pattern F F Non F F VP FN Non F FP VN
  62. 62. Risultati Matrice di confusione pattern F Matrice di confusione pattern B F Non F B Non B F 4 0 B 5 6 Non F 1 17 Non B 0 11 Matrice di confusione pattern L Matrice di confusione pattern R L Non L R Non R L 3 1 R 3 0 Non L 3 15 Non R 3 16Sensibilità = (TP / ( TP + FN))*100 Specificità = (TN / (TN + FP))*100 Pattern F Pattern B Pattern L Pattern R Totale Sensibilità 100% 45,45% 75% 100% 80,11% Specificità 94,44% 100% 83,33% 84,21% 90,50% Il modello di classificatore appare soddisfacente
  63. 63. Risultati Sviluppo di un sistema hardware/software in grado di interagire con i neuroni Sviluppo di un sistema di apprendimento di percezioni simulate di una rete di neuroni umani, correttamente allenata. Sviluppo di una opportuna ANN per la decodifica delle reazioni dei neuroni Sperimentazione di un sistema robotico ibrido in grado di guidare un attuatore
  64. 64. Risultati Attualmente in neurofisiologia si analizza solo la frequenza di spike e non si arriva alla decodifica semantica dei segnali neuronali Non esistono teorie consolidate sull’apprendimento di reti neurali biologiche Abbiamo sviluppato un sistema innovativo di decodifica dei segnali provenienti da reti di neuroni biologici e un sistema di apprendimento basati su riscontri sperimentali Anche il risultato sperimentale conseguito, ossia il movimento di un robot guidato dall’output di neuroni biologici in base all’apprendimento di pattern sensoriali simulati, non ha precedenti in letteratura.
  65. 65. Valutazione comparativa con la letteratura Nella letteratura esaminata in precedenza si è cercato di affidare ad un cervello già funzionante il compito di autoorganizzarsi sotto l’azione di stimoli esterniNel nostro studio si è giunti a: Strutturare una rete di neuroni a priori disorganizzata seguendo la struttura di una ANN Farle apprendere stimoli sensoriali simulati Decodificare i segnali di output della rete
  66. 66. La creatura bionica Command RobotLeft LeftForward BackwardBackward BackwardLeft LeftLeft Left
  67. 67. La creatura bionica “Cremino” è la prima creatura ibrida dotata di un piccolo cervello umano Scopo di questa ricerca è  Raggiungere una migliore comprensione del meccanismo neurofisiologico della memoria e dell’apprendimento  Sviluppare un’interfaccia efficiente fra neuroni ed elettronica  Compiere un progresso nello sviluppo di protesi neuroelettroniche
  68. 68. Problemi da risolvere Identificazione sicura dei neuroni che formano la rete Persistenza in vita delle cellule Ottimizzazione della decodifica dei segnali neurofisiologici Crescita di complessità del sistema in modo da effettuare esperimenti a ciclo chiuso con sensori montati sul robot Miniaturizzazione
  69. 69. Sviluppi in corso Progetto europeo FLASHPOM: progettazione ed implementazione di MEA speciali con piste litografate e strato di polimeri che guidano le cellule a depositarsi solo sopra gli elettrodi senza spostarsi Ottimizzazione della ITSOM studio di un nuovo algoritmo di identificazione degli attrattori caotici Realizzazione di una ITSOM integrata in HW
  70. 70. Pubblicazioni R. Pizzi, D. Rossetti, G. Cino,D. Marino, and A. Vescovi, “A CULTURED HUMAN NEURAL NETWORK DRIVES A ROBOTIC ACTUATOR", Biosystems Journal, Elsevier ed., in corso di pubbl. R. Pizzi, “ARTIFICIAL MIND”, in: Reflexing Interfaces: the Complex Coevolution of Information Technology Ecosystems , IGI group, Hershey, PA, USA R. Pizzi, G. Cino, F. Gelain, D. Rossetti and A. Vescovi, "LEARNING IN HUMAN NEURAL NETWORKS ON MICROELECTRODE ARRAYS", Biosystems Journal, Volume 88, Issues 1-2, March 2007, Pages 1-15, Elsevier ed. Rita M.R. Pizzi, Danilo Rossetti, Giovanni Cino, Daniela Marino and Angelo L. Vescovi, “A BIOLOGICAL NEURAL NETWORK DRIVES A ROBOTIC ACTUATOR”, Proc. CISI06, Ancona 26–29 settembre 2006. R. Pizzi, A. Fantasia, F. Gelain, D. Rossetti, G. Cino and A. Vescovi, “HOPFIELD AND KOHONEN MODELS: AN IN VIVO TEST”, Proc. International Meeting on Computational Intelligence Methods for Bioinformatics and Biostatistics, Perugia 15-17 settembre 2004, Kluwer ed. R. Pizzi, D. Rossetti, G. Cino, A . Vescovi, “ANOMALOUS FINDINGS IN CULTURED NEURONS IN PRESENCE OF LASER PULSES”, in fase di revisione su: Biosystems Journal, Elsevier R. Pizzi, D. Rossetti, G. Cino, A.L. Vescovi and W. Baer, “NEURONS REACT TO ULTRAWEAK ELECTROMAGNETIC FIELDS”, Quantum Mind 2007, Salzburg 23-26 Luglio 2007. W. Baer, R. Pizzi, THE SEARCH FOR BIOLOGICAL QUANTUM COMPUTER ELEMENTS accettato a :ICCES08: International Conference on Computational & Experimental Engineering and Sciences, Honololu, Hawaii, Marzo 2008

×