Roberto Sannino, Product Owner, Larus Business Automation Nel panorama sempre più complesso dei progetti basati su grafi, LARUS ha consolidato una solida esperienza pluriennale, costruendo un rapporto di fiducia e collaborazione con Neo4j. Attraverso il LARUS Labs, ha sviluppato componenti e connettori che arricchiscono l’ecosistema Neo4j, contribuendo alla sua continua evoluzione. Tutto questo know-how è stato incanalato nell’innovativa soluzione Galileo.XAI di LARUS, un prodotto all’avanguardia che, integrato con la Generative AI, offre una nuova prospettiva nel mondo dell’Intelligenza Artificiale Spiegabile applicata ai grafi. In questo speech, si esplorerà il percorso di crescita di LARUS in questo settore, mettendo in luce le potenzialità della soluzione Galileo.XAI nel guidare l’innovazione e la trasformazione digitale.

1. Galileo.XAI
La graph-data platform basata su
Neo4j per l’AI spiegabile e la Gen-AI
Neo4j
Graph
Summit
Milan
‘24
COPYRIGHT
2024

2. Agenda
● LARUS e Neo4j, 13 anni di storia
● Galileo.XAI
○ Soluzione graph based
○ Graph-AI & Explainability
○ Gen-AI & Use Cases
● Q&A
Copyright
2024
LARUS
Business
Automation

3. Roberto Sannino
Solution Lead @LARUS
Software Architecture
Product Lifecycle Management
Full-Stack Development
roberto.sannino@larus-ba.it
Your photo here
Copyright
2024
LARUS
Business
Automation

4. LARUS ❤️ NEO4J
COPYRIGHT
2024
Neo4j
Graph
Talk
Milan
‘24

5. LARUS è una PMI innovativa, orientata, attraverso
l'approccio AGILE, verso lo sviluppo, la consulenza e la
formazione su tecnologie e approcci innovativi.
Grazie alla consolidata esperienza maturata con
database NoSQL, nel campo dell’Explainable AI e della
Connected Data Science, aiuta i clienti ad ottimizzare
il loro processo decisionale, aumentare i profitti e
rimanere competitivi.
Grazie alla divisione R&S e Labs ha intrapreso, inoltre,
una proficua collaborazione con il mondo
accademico nazionale ed internazionale per essere
sempre al passo sul piano della ricerca.

6. Oggi tutto cambia velocemente, la tecnologia avanza e rimanere competitivi è sempre più impegnativo. In
questo contesto, LARUS crea valore accompagnando il cliente nell'affrontare i cambiamenti in modo
mirato, supportando le aziende con flessibilità e competenza e identificando il modo più adatto per
semplificare ciò che è complesso.
In LARUS partiamo da un'accurata analisi dei processi dell’azienda, identifichiamo la tecnologia più adatta
alle esigenze individuate e forniamo figure professionali con le giuste competenze per guidare la
rivoluzione data driven!
Copyright
2024
LARUS
Business
Automation
Copyright
2024
LARUS
Business
Automation

7. Copyright 2022 LARUS Business Automation
2016
Neo4j JDBC
Driver
2015
2011
First
Spikes
in Retail
for
Articles’
Clustering
201
4
2018
Neo4j APOC, ETL,
GraphQL, Spark
2019
Neo4j Kafka
Connector
2020
PREMIER Partner
AI Based on Neo4j
Neo4j Spark Connector
2021
Cresciuti con i grafi
#1 NEO4J PARTNER IN EUROPE
#2 GLOBAL
Copyright
2024
LARUS
Business
Automation

8. Industry:
Brembo, ZF
Education:
Università Cattolica
Healthcare:
IZSAM
Entertainment:
Wondrmakr
Services: Gruppo Hera,
Telecom, ONET
PA: Sogei, Comune di
Genova, Infocamere,
PCM, Liguria Digitale
Banking & Finance:
Intesa SanPaolo,
Mediolanum,
Cerved, Nexi, YAP,
Innolva, Banca D’Italia
Neo4j
in
Italia
Copyright
2024
LARUS
Business
Automation
I
clienti
che
si
affidano
a
LARUS

9. Galileo.XAI
Insight graph data platform
COPYRIGHT
2024
Neo4j
Graph
Summit
Milan
‘24

10. 10
PER utenti business ed esperti di dominio
CHE NECESSITANO di ottimizzare i processi aziendali e di derivare
nuova conoscenza e predizioni da i dati
Galileo.XAI è una Graph Data Platform velocemente integrabile
CHE rende automatiche, facili ed intuitive ricerche, analisi ed
investigazioni complesse
AL CONTRARIO della gran parte delle Data Platform
IL PRODOTTO utilizza avanzati algoritmi di network science, AI ed
una versatile visualizzazione a grafo, il tutto presentato in modalità
low-code/no-code facilmente fruibile e configurabile anche da figure
non tecniche.
Copyright
2024
LARUS
Business
Automation

11. Graph Approach
Galileo.XAI si basa su una
struttura dati a grafo
Business Friendly
Galileo.XAI offre una interfaccia user-
friendly orientata ai profili business
Explainable AI
Galileo.XAI è progettato per fornire
spiegazioni sulle previsioni dell'IA
Vertical Solution
Galileo.XAI dispone di funzionalità
specifiche per ogni caso d'uso
Product
CORE
Galileo.XAI permette la
comprensione di dati complessi,
l’identificazione di relazioni
nascoste e la presa di decisioni
informate basate su previsioni
trasparenti.
Copyright
2024
LARUS
Business
Automation

12. Dal dato alla conoscenza
COMPREND
I
IMPORTA ANALIZZA SCOPRI PREVED
I
Definisci come modellare
il tuo dominio. Importa
facilmente i dati da una
qualsiasi fonte. Rileva le
modifiche e gli
aggiornamenti esterni e
importali in modo
automatico
Analizza i tuoi dati,
trova nuovi insights e
modelli significativi e
lascia che sia
Galileo.XAI a notificarti
quando saranno
nuovamente rilevati
Combina diversi
algoritmi a grafo per
creare il tuo mix
perfetto. Identifica le
strutture del grafo e le
dinamiche della rete per
individuare nodi o
cluster
Utilizza algoritmi di
Graph-AI per apprendere
direttamente dalle
strutture a grafo come
scoprire nuovi insights e
risolvere i tuoi problemi
di business più urgenti
Dai un contesto ai tuoi
risultati ed evita l’effetto
black box dell'AI.
Incrementa la fiducia
verso gli algoritmi grazie
alla spiegabilità del
processo decisionale

13. Importa
Copyright
2024
LARUS
Business
Automation

14. Analizza
Full-Text
Cypherless
Copyright
2024
LARUS
Business
Automation

15. Scopri
Copyright
2024
LARUS
Business
Automation

16. Tu crei la sfida,
Galileo.XAI ti da la soluzione
Rilevamento
di frodi
Governance
dei dati
Ottimizzazione
reti di fornitura
Antiriciclaggio Analisi delle
reti sociali
Sistemi di
raccomandazione
next-gen
Gestione degli
approvvigiona
menti
Gestione degli
asset aziendali
Gestione dati
di produzione
Analisi
Bioinformatica
Copyright
2023
LARUS
Business
Automation
Copyright
2024
LARUS
Business
Automation

17. Galileo.XAI
Graph AI & Explainability
COPYRIGHT
2024
Neo4j
Graph
Talk
Milan
‘24

18. Graph-AI
Context-Enriched Analysis
● Le Relazioni tra i dati apportano un valore
aggiunto nella sfida di comprendere
comportamenti, dinamiche ed interazioni al fine
di determinare come i fenomeni occorrono ed
effettuare predizioni.
● I Dati Connessi diventano quindi informazioni
fondamentali per i task di AI, dato che creano un
contesto più ampio per un apprendimento
migliore.
● Lo stesso contesto diventa uno strumento
fondamentale per la Spiegabilità del risultato;
tema di grande importanza specialmente nei
contesti dove l’AI può avere un impatto sulle vite
umane.
Copyright
2024
LARUS
Business
Automation

19. Explainability
Copyright
2024
LARUS
Business
Automation
Una Explainable od interpretable AI è caratterizzata dal
fatto che il suo processo decisionale di predizione è
facilmente comprensibile da un essere umano.
In contesti dove le decisioni dell’AI possono avere un
impatto sulle vite umane (e.g. ambito legale e finanziario) il
"diritto alla spiegazione" diventa fondamentale.
In questi casi i modelli di AI black-box non sono utilizzabili
perché la trasparenza non può essere garantita.

20. Galileo.XAI - Graph-AI
No-Code Approach
L’utilizzo su larga scala di modelli di Graph-AI è limitato dalla curva di apprendimento delle
metodologie e dalla necessità di ristrutturare i dati ed il software esistenti.
La piattaforma Galileo.XAI agevola l’applicazione di tali metodologie mettendo a disposizione:
● Tool di import dati.
● Interfacce no-code per la creazione di modelli di Graph-AI spiegabili.
● Interfacce no-code per l’esecuzione di algoritmi di Data Science utili a sia a reperire feature di
allenamento che per task unsupervised.
● Interfacce no-code per la definizione di ETL & Data Pipelines schedulabili.
Copyright
2024
LARUS
Business
Automation

21. No-Code Graph-AI Model
Copyright
2024
LARUS
Business
Automation

22. No-Code Gnn Model
Copyright
2024
LARUS
Business
Automation

23. No-Code Gnn Model
Copyright
2024
LARUS
Business
Automation

24. Radar Explain
Copyright
2024
LARUS
Business
Automation

25. Feature Importance
Copyright
2024
LARUS
Business
Automation

26. In Graph Explain
Copyright
2024
LARUS
Business
Automation

27. Galileo.XAI
Gen-AI Introduzione & Use Cases
COPYRIGHT
2024
Neo4j
Graph
Talk
Milan
‘24

28. Gen-AI Introduzione
Con Generative AI si intende una branca del machine learning, e più precisamente un’area
specifica del deep learning, capace di “generare” contenuti (testo, immagini, video, musica…)
a partire da una richiesta.
I modelli che trattano testo come input vengono chiamati modelli di linguaggio LMs.
I LLM consentono, grazie ad un unico modello*, la realizzazione di innumerevoli task basati
sul processamento del linguaggio naturale, come reperire informazioni in file non
strutturati, generare descrizioni dei dati e fare analisi qualitative e quantitative su nozioni e
collegamenti presenti nel testo.
Copyright
2024
LARUS
Business
Automation

29. LLMs - Prompt Engineering
Nonostante la grande flessibilità dei modelli di LLM, essi sono limitati alle informazioni disponibili
durante l’apprendimento, questo potrebbe non bastare per avere risultati aggiornati, per processare
dati proprietari e per ottenere risposte coerenti ed accurate alla domanda posta.
Ma addestrare un LLM da zero è impensabile!
Per risolvere questo problema si utilizza il Prompt Engineering, ovvero il processo iterativo di
progettazione e ottimizzazione delle possibili istruzioni di input (prompt) di un LLM
● I Prompt possono essere adattati per diverse applicazioni e compiti
● In particolar un Prompt ben strutturato tramite istruzioni dettagliate e non ambigue può ottenere un
output più accurato e ridurre le allucinazioni, evitando sprechi di tempo e risorse per
l'addestramento dei modelli
Copyright
2024
LARUS
Business
Automation

30. LLMs - RAG
La Retrieval-Augmented Generation (RAG) è il processo di ottimizzazione dell'output
di un modello linguistico di grandi dimensioni, in modo che faccia riferimento a una
base di conoscenza autorevole al di fuori delle sue fonti di dati di addestramento prima
di generare una risposta.
In particolare RAG è una tipologia di Prompting in cui all’interno dell’istruzione viene iniettata
della conoscenza di dominio (strutturata o meno), presa da fonti esterne come ad esempio dei
database, e utilizzata dal modello per generare output più accurato.
Copyright
2024
LARUS
Business
Automation

31. Natural Language Query
Scenario: L’utilizzo dei Knowledge Graph su larga scala e da utenti non tecnici è limitato dal
linguaggio di interrogazione, la possibilità di eseguire query in linguaggio naturale è cruciale in
questo senso.
“Calculate the pagerank centrality of movies using
the Graph Data Science library”
movieId score
254 0.83
158 0.68
256 0.66
Copyright
2024
LARUS
Business
Automation

32. Natural Language Query & Results
Scenario Aggiuntivo: Anche la lettura dei risultati ritornati dalle query può essere un ostacolo per
l’utente non esperto. Quanto fatto al passo precedente può essere esteso per produrre anche l’output
in linguaggio naturale.
Strumenti:
● Galileo.XAI Pipeline per modellare il flusso ETL e definire il modello (salvabile e riutilizzabile)
● Prompt Engineering - query di esempio per lo schema ed il lancio di un algoritmo di gds
“Calculate the pagerank centrality of movies using
the Graph Data Science library”
“The pagerank centrality scores of the movies are as
follows:
1. Movie with ID 254 has a score of 0.83
2. Movie with ID 158 has a score of 0.68
3. Movie with ID 256 has a score of 0.66
”
Copyright
2024
LARUS
Business
Automation

33. Natural Language Query & Results
Copyright
2024
LARUS
Business
Automation

34. GenAI + Knowledge Graph
Scenario: La conoscenza del modello di Gen-AI è limitata alle informazioni
disponibili durante l’apprendimento, questo potrebbe non bastare per avere
risultati aggiornati, per processare dati proprietari in formato non strutturato e
per ottenere risposte più coerenti ed accurate alla domanda posta.
Problema: Ricavare informazioni da Knowledge Graph proprietario in maniera
testuale (es. “Raccomandare un documento”).
Soluzione:
● Creazione RAG vettori semantici per titolo e plot dei film
● Due Galileo.XAI Pipeline, una per la creazione dell’indice ed una per
rispondere ai quesiti
Copyright
2024
LARUS
Business
Automation

35. GenAI + Knowledge Graph
“Here is a list of movies about robbers:
1. "Ocean's Eleven"
2. "Heat"
3. "The Italian Job"
4. "Inside Man"
5. "Point Break"
”
“Recommend me movies about robbers”
Copyright
2024
LARUS
Business
Automation

36. Derive new Information
Scenario: 17 Goal ONU di Sviluppo Sostenibile (lotta a povertà e disuguaglianze, accesso alle cure,
energia sostenibile, etc…), tra gli attori chiave che dichiarano di perseguire attivamente l’SDG
troviamo le grandi aziende.
Problema: Comprendere dai report SDG annuali di un'azienda quanto le azioni di questa siano
focalizzate al raggiungimento del Goal.
Dati a disposizione:
● Report SDG dell'azienda in formato testuale
● Definizione dei goal SDG descritti tramite un KG
Copyright
2024
LARUS
Business
Automation

37. Sustainable Development Goals
Soluzione: Partendo da quanto descritto nei report SDG di un’azienda, utilizzare un LLM per
determinare su base quantitativa percentuale, l’impegno dell’azienda al raggiungimento di ogni Goal.
Strumenti:
● Galileo.XAI Pipeline per modellare il flusso ETL e definire il modello (salvabile e riutilizzabile)
● RAG sfruttando vettori semantici
Copyright
2024
LARUS
Business
Automation

38. Sustainable Development Goals
Barilla 2022 - Percentuale di completamento dei Goal
Copyright
2024
LARUS
Business
Automation

39. Sustainable Development Goals
Barilla 2021/22 - Variazione Percentuale di completamento dei Goal
Copyright
2024
LARUS
Business
Automation

40. Sustainable Development Goals
Copyright
2024
LARUS
Business
Automation

41. Thanks for your curiosity!
Roberto Sannino
roberto.sannino@larus-ba.it