The emerging technology Explainable AI

1. Explainable AI
An emerging technology
Camille Callewaert
Sancha Craeye
Seppe De Cock

2. Wat is AI?
Het ontwikkelen en toepassen van computer algoritmen die
in staat zijn om bestaande of nieuwe correlaties te
ontdekken in (big) data waardoor de effectiviteit en
efficiency van een proces drastisch verbetert.
Deze definitie laat zien dat AI gaat over het registreen en
opvangen van de juiste data, het ontwikkleen van
intelligentie en het beter doen dan gisteren, en het beter
doen dan de concurrent.

3. Wat is Explainable AI?
XAI (eXplainable Artificial Intelligence) verwijst naar
methoden en technieken bij de toepassing van kunstmatige
intelligentietechnologie (AI) zodat de resultaten van de
oplossing door menselijke experts kunnen worden begrepen.
Deze technologie geeft de volgende inzichten:
• Hoe databronnen en resultaten gebruikt worden;
• Hoe de input voor het model tot outputs leidt;
• De sterke en zwakke punten van het model;
• De specifieke criteria die het model gebruikt om tot
een beslissing te komen;
• Waarom een bepaalde beslissing genomen wordt en
alternatieven niet;
• Voor welke typen fouten het model gevoelig is;
• Hoe fouten gecorrigeerd kunnen worden.
Deze foto van Onbekende auteur is gelicentieerd onder CC BY

4. Voorbeeld Explainable AI:
AI-systemen optimaliseren het gedrag om te voldoen aan een wiskundig gespecificeerd
doelsysteem gekozen door de systeemontwerpers, zoals het commando "maximaliseer de
nauwkeurigheid van de beoordeling hoe positief filmrecensies zijn in de testdataset".
De AI kan nuttige algemene regels uit de testset leren, zoals "beoordelingen met het
woord 'verschrikkelijk'" zijn waarschijnlijk negatief ". Een mens kan regels in een XAI
controleren om een idee krijgen hoe waarschijnlijk het is dat het systeem generaliseert
naar toekomstige real-world gegevens buiten de testset.

5. Problemen van Explainable AI:
Het
interpreteerbaarheidsprobleem
De technische uitdaging van het verklaren van AI-beslissingen
Infobesity Overbelasting van informatie, waardoor volledige transparantie
mogelijk niet altijd mogelijk of zelfs vereist is.
Ai-systemen leren soms
ongewenste trucs.
In 2017 bijvoorbeeld leerde een systeem voor beeldherkenning
“vals te spelen” door te zoeken naar een copyright-tag die
toevallig werd geassocieerd met paardenfoto’s in plaats van te
leren hoe te zien of een paard daadwerkelijk werd afgebeeld

6. XAI is onderzocht in vele
sectoren waaronder:
• Beeldvorming van neurale netwerktanks
• Antenneontwerp ( geëvolueerde antenne)
• Algoritmische handel( hoogfrequente handel)
• Medische diagnoses
• Autonome voertuigen
• Functiedetectoren ontwerpen op basis van optimale
computerontwerpen (Computer Vision)
• Tekstanalyse

7. Bedrijfstoepassing
• Benelux: Nederland –> Sogeti
• Wat doen ze met deze technologie?
◦ Vanuit AI testing implementeren ze XAI als auditlaag
in Machine Learning modellen. Deze auditlaag zorgt
voor transparantie van het model, zodat er voldaan
wordt aan de GDPR richtlijnen. XAI kan worden
toegepast voor bijvoorbeeld spraak-, tekst- en
beeldherkenning. De implementatie van XAI is een
onderdeel van hun end-to-end AI oplossing die ze
dagelijks bij klanten realiseren.

8. Is deze technologie
disruptief?
Ja, de data scientists en data analisten zijn tegenwoordig
niet meer aan te slepen. De vraag naar deze mensen is
enorm groot. Zij worden dagelijks, tot vervelens toe,
benaderd door recruiters. Voor andere beroepen zijn de
vooruitzichten minder rooskleuring: bankiers, taxateurs,
taxichauffeurs, docenten, planners, verzekeringsadviseurs,
artsen, kunstenaars en accountants hebben of krijgen het
moeilijk.
Meerdere studies geven aan dat 50% van de jobs de
komende 20 jaar een disruptief effect zullen ondergaan
omdat AI een deel van hun job overneemt.
De man-in-the-middle en de specialist gaat verdwijnen
omdat artificial intelligence het beoordelingswerk zal gaan
overnemen. Digitale disruptie ligt voor vele beroepen op
de loer. De maatschappij zal veranderen en de politiek zal
moeten nadenken over een nieuw beleid waar nieuwe
technologie en mens samen verder kunnen.

9. Fase in de Gartner Hype
cycle for emerging
technologies:
De fase “Peak of inflated expectations”
◦ De vroege publiciteit levert een aantal succesverhalen op
◦ Er komt veel interesse voor de nieuwe technologie
◦ Sommige bedrijven gaan nu actie ondernemen, maar veel
bedrijven doen er nog niets mee
◦ De interesse neemt niet af

10. Bibliografie:
Artevelde. (2019). Canvas. Opgehaald van Canvas:
https://arteveldehogeschool.instructure.com/courses/9502/pages/ai-activiteit-
s1-aj1920?module_item_id=211918
Nijs, Y. (2018, 11 27). Frankwatching. Opgehaald van Frankwatching:
https://www.frankwatching.com/archive/2018/11/27/wat-is-explainable-ai-wat-
moet-je-erover-weten/
Sogeti. (2019). Opgehaald van Sogeti:
https://www.sogeti.nl/nieuws/digital/blogs/krijg-vertrouwen-kunstmatige-
intelligentie-met-explainable-ai-xai
Wikipedia. (2019). Opgehaald van Wikipedia:
https://en.m.wikipedia.org/wiki/Explainable_artificial_intelligence

11. Explainable AI
An emerging technology
Camille Callewaert
Sancha Craeye
Seppe De Cock