This is a presentation about Explainable AI made for my E-Skills class at Artevelde University College.

1. Explainable Artificial
Intelligence
Julie Degezelle, Sara Sterck, Liam Reynaert
2IO2 / E-Skills

2. Inhoudstafel
Wat zijn AI en XAI?
Hoe is het geëvolueerd?
Toepassing in praktijk
Is deze technologie disruptief?
Positionering op Gartner Hype Cycle

3. 1. Wat houden AI en XAI in?
 AI = Artificial Intelligence
 Zit in smartphones, helpt ons bij online shoppen
 Helpt onderzoek doen en stelt zelf medische diagnoses vast
 kortom: concept waarbij computers taken uitvoeren waar menselijke intelligentie voor nodig is
 Denk aan: robotstofzuigers, zoekmachines, …
 In het verleden is het aangetoond dat AI allesbehalve objectief is
 Vb. een tool van Amazon om mensen te rekruteren bleek een sterke voorkeur te hebben voor
mannelijke kandidaten
 Er zijn dus hidden layers (door de black box)
 Soms kunnen ontwerpers van hun eigen software niet verklaren hoe de AI software tot een bepaalde
beslissing is gekomen…
 dus de gedachtengang van vele huide intelligente systemen is niet TRANSPARANT

4. 1. Wat houden AI en XAI in?
 Kritiek!
 “Je vraagt toch ook niet aan een vriend na bestellen van een koffie waarom die geen thee heeft besteld?”
 foute kritiek want die vriend kan het wel perfect uitleggen indien je het zou vragen om dit over een
neuraal netwerk gaat
 Machines kunnen geen context geven omdat het hier niet over een neuraal netwerk gaat
 hiermee kan Explainable AI helpen
 XAI = Explainable Artificial Intelligence
 = methoden en technieken bij toepassingen van AI zodat de resultaten begrijpelijk zijn voor menselijke
deskundigen
 AI kan je pas optimaal gebruiken wanneer je er volledig op vertrouwt
 via XAI zouden bepaalde uitkomsten altijd te verklaren zijn
 Meer inzicht in proces = meer vertrouwen = meer succes

5. 2. Hoe is het geëvolueerd?
 Jaren 70:
 Onderzoekers die klinische expertsystemen ontwikkelden probeerden steeds meer dynamische
verklaringen te vinden zodat de technologieën in de praktijk steeds betrouwbaarder werden
 Jaren 90:
 Er is een grote bezorgdheid bij het publiek over het gebruik van AI
 Zo erg dat het al tot criminele vonnissen leidde
 In deze periode was er dus een grote vraag naar transparantie
 Zo begonnen vele onderzoekers instrumenten te ontwikkelen om vooroordelen in hun systemen op te
sporen.
 2018: oprichting FAT (Fairness, Accountability, Transparency) conferentie om transparantie en
verklaarbaarheid te bestuderen in context van sociaal-technische systemen, waarvan velen op de
dag van vandaag AI bezitten

6. 3. Toepassing in praktijk
 November 2019:
 Google’s cloud computing afdeling stelde een nieuwe software ontwikkeling voor aan het publiek nl. een
Explainable AI die informatie geeft over de prestaties en de mogelijke tekortkomingen van modellen die
gezichten en objecten detecteren
 Google normaal underdog in vergelijking met Amazon Web Services & Microsoft Azure  maar op dit
vlak niet
 “The era of black box machine learning is behind is” - Google

7. 4. Is deze technologie disruptief?
 Zoals bij alles voorstanders en tegenstanders
 Hier bijna allemaal voorstander want:
 De exponentiële groei in data zorgde ervoor dat de vraag naar AI steeds bleef stijgen
 Mensen willen meer transparantie in die AI processen dus is XAI de oplossingen !!
 Gevolgen:
 Voor werkgelegenheid zijn er amper gevolgen omdat dit gewoon een extra toepassing is op de AI die nu al in
zoveel bedrijven wordt gebruikt
 Voor bedrijven kan dit wel een grote doorbraak betekenen op vlak van efficiënter werken doordat er minder tijd
zal moeten besteed worden bij het zoeken naar de oorzaak van een fout
 XAI is noodzakelijk voor de toepassing van AI in de praktijk

8. 5. Positionering op Gartner Hype Cycle
 In 2018
 Nog niet eens op de Gartner Hype Cycle
 Nog niet eens een Innovation Trigger
 Mensen wennen nog aan het idee van AI, laat staan
dat XAI hier al van toepassing zou zijn

9. 5. Positionering op Gartner Hype Cycle
 In 2019
 In 1 jaar sterk gestegen
 Nu op grens tussen Innovation Trigger en Peak of
Inflated Expectations
 Terecht want het publiek ziet in dat dit een
succesverhaal zal worden
 Ze tonen interesse om te zien waar dit naartoe gaat
 Nog altijd op de grens dit jaar omdat het nog geen
overdreven hype is maar XAI heeft zijn commerciële
levensvatbaarheid wel al bewezen

10. 6. Bronnen
 Beels, D. (2019, 11 april). Opmars van explainable ai. Geraadpleegd op 5 december 2019, van
https://www.computable.nl/artikel/opinie/magazine/6642714/5215853/opmars-van-explainable-ai.html

Nijls, Y. (2018, 27 november). Wat is explainable AI & wat moet je erover weten? Geraadpleegd op 4 november 2019, van
https://www.frankwatching.com/archive/2018/11/27/wat-is-explainable-ai-wat-moet-je-erover-weten/

Van Leuken, R. (2019, 5 september). Wat is nu precies Artificial Intelligence? Geraadpleegd op 6 december 2019, van
https://www.salesforce.com/nl/blog/2017/06/Wat-is-Artificial-Intelligence.html

Wheatley, M. (2019, 21 november). Google’s explainable AI services sheds light on how machine learning models make
decisions. Geraadpleegd op 5 december 2019, van https://siliconangle.com/2019/11/21/googles-explainable-ai-service-
sheds-light-machine-learning-models-make-decisions/

Wikipedia. (z.d.). Explainable artificial intelligence. Geraadpleegd op 5 december 2019, van
https://en.wikipedia.org/wiki/Explainable_artificial_intelligence

X World. (2019, 25 november). Google Tackles The Black Box Problem With Explainable AI [YouTube]. Geraadpleegd op 5
november 2019, van https://www.youtube.com/watch?v=XBFyXt4r_Eo&t=98s