Cooperatieve AI en de connectie met de drie onderzoekslijnen

1. Een introductie van mijn onderzoek en de connectie met
jullie
CoÖperatieveAI

2. PlanvoorVandaag
Mens-AI
Samenwerking
Wet & Ethiek
Simulaties

4. PlanvoorVandaag
• Probleem: Welke aannames maken robots?
• Mijn oplossing: Robotroutines modelleren
• Casus: Value-alignment van robots
Mens-AI
Samenwerking
Wet & Ethiek
Simulaties

5. Samen-
werking
Hoe bereiken we optimale
en wenselijke coöperatie
tussen mens en AI?
AAnNAMESvan
RObots
RobotRoutines
Modelleren
Value-Alignmentvan
Robots

6. Probleem:SocialERobots

7. Probleem:SocialERobots
Naast het noodzakelijke begrip van hoe de robot werkt moet een robot
ook begrip hebben van hoe een mens werkt

8. Probleem:SocialeRobots
Het maakt uit welk model je hebt van mensen voor het implementeren van een robot.
Immitatie Rationeel Altruistisch

9. MijnWerk:ROBOTROUTINES
MODELLEREN
Een alomvattend model van hoe mensen handelen is aan de hand van
routinegedrag.

10. MijnWerk:ROBOTROUTINES
MODELLEREN
Mensen handelen uit gewoonte, verbinden deze gewoonte tot een plan, en gebruiken dit plan
als een blauwdruk voor sociale interactie.
you intentionally go to the
office to trigger the routine of
working
You colleague waits till the
coffee break to discuss current
matters
I’ll read a paper now (which
connects to working) and drink
coffee later (which connects to
taking a break)
Activate
work habit!
Connect
activities! Expect similarity!

11. MijnWerk:ROBOTROUTINES
MODELLEREN
The social practice agent (SOPRA) framework integrates evidence on
human routines to support simulation studies.

12. MijnWerk:ROBOTROUTINES
MODELLEREN
SoPrA uses UML-diagrams, an OWL ontology, and pseudo-algorithms to
capture routines.

13. MijnWerk:ROBOTROUTINES
MODELLEREN
The difficulty in modelling a domain-independent framework is to
balance reuseability with grounding in empirical work.
Reuseable Grounded
in
Emperical
Work
Generality
Specifity
Vague literature describing
social phenomena
Concrete requirements
Verifying whether these
requirements hold in the model
Concepts that
generalize over domains
u
Modular
Compact

14. Toepassing:Value-ALIGNMENTin
ROBOTS
Welke waarden neemt een AI aan van een mens? Hoe stemt een AI
haar gedrag af op deze waarden?

15. Toepassing:Value-ALIGNMENTin
ROBOTS
Welke waarden neemt een AI aan van een mens? Hoe stemt een AI
haar gedrag af op deze waarden?

16. Toepassing:Value-ALIGNMENTin
ROBOTS
Values and norms describe what people find important and consider
normal; routines describe more.

17. Toepassing:Value-ALIGNMENTin
ROBOTS
Values and norms describe what people find important and consider
normal; routines describe more.

18. Toepassing:Value-ALIGNMENTin
ROBOTS
Values and norms describe what people find important and consider
normal; routines describe more.

19. Toepassing:Value-ALIGNMENTin
ROBOTS
SoPrA provides a simulated partner to train AI to estimate human
values.
Data
On Humans
Negotiating
Simulation
Simulated behaviour
Prodding behaviour

20. FutureWork:
MeaningfulHumanControlenValue-alignment
Wederzijds begrip en value-alignment spleen een rol in SAFEGUARD
maar ook in AI-mens samenwerkingen met LLMs of XAI

21. Samen-
werking
Hoe bereiken we optimale
en wenselijke coöperatie
tussen mens en AI?
AAnNAMESvan
RObots
RobotRoutines
Modelleren
Value-Alignmentvan
Robots
Safeguarded

22. PlanvoorVandaag
Mens-AI
Samenwerking
• Probleem: Waarden in design: concreet vs volledig
• Mijn oplossing: Designworkshops
• Casus: MedTech
Wet & Ethiek
Simulaties

23. WET&ETHIEK
Hoe zorgen we dat de wettelijke en
ethische verantwoordelijkheid
bij de inzet van AI gegarandeerd is?
Problem:
WaardeninDesign
Oplossing:
DesignWorkshops
Case:
Medtech
Future:
Biasworkshop

24. Waardenindesign
Door requirements via normen te gronden in waarden zorg je voor een
stabiel en weloverwogen design
Values hierarchy. Source: Van de Poel, 2013

25. Probleem:Waardenindesign
Hoe zorgen we dat we volledig zijn maar ook tot concrete keuzes komen?
Volledig Concreet
OF

26. MijnWerk:DESIGNWorkshops:
Framing
Met Hiro probeerde ik bedrijven te overtuigen van het integreren van
menselijke waarden in AI

27. MijnOplossing:DESIGNWorkshops
Instead of high costs, reputational damage, potential lawsuits
you can offer about privacy, security, inclusivity and transparency.
You know how to make your data project ethical.

28. MijnWerk:DESIGNWorkshops:
Tweesoorten
We hadden twee soorten workshops: data ethiek en een workshop
algoritme en mensenrechten
Workshop
Data Ethics
Workshop
Algorithms & Human Rights

29. MyWork:DESIGNWorkshops:
DataETHIEK

30. Case:Medtechen
Designworkshops
Ons doel is een methode te ontwikkelen die bij de verschillende
medische AI-toepassingen de waarden borgt.

31. Futurework:BIASWORKHOP
We zullen technische oplossingen voor het ‘verwijderen’ van bias
moeten samenvoegen met begrip van ethiek

32. Futurework:BIASWORKSHOP
Welke connecties zien jullie met een bias-workshop?

33. WET&ETHIEK
Hoe zorgen we dat de wettelijke en
ethische verantwoordelijkheid
bij de inzet van AI gegarandeerd is?
WaardeninDesign DesignWorkshops
Waardenafwegen
enbias

34. PlanvoorVandaag
Mens-AI
Samenwerking
Wet & Ethiek
•Probleem: Simulaties zijn XAI maar hoe onderbouwen de
voorspelkracht?
•Mijn oplossing: Andere doelen zien van simulaties
•Casus: Simulaties voor meat-eating
Simulaties

35. SIMULATIES
Welke technieken stellen
ontwikkelaars in staat
coöperatieve AI te
verwezenlijken?
Problem:Simulations
!=ML
Case:Meat-Eating
with SoPRA
My work:Philosophy
of Science
Future:Digitaltwins,
philosophy

36. Simulaties vertegenwoordigen sociale problemen door individuen en hun
interacties te modelleren.
Probleem:Simulations!=ML

37. Probleem:Simulations!=ML
Door te spelen met de parameters creëren we ‘wat als’-scenario’s en laten
we bv zien dat één parameter een relatief grote invloed heeft.

38. Probleem:Simulations!=ML
Simulaties zijn XAI maar hoe onderbouwen de voorspelkracht? Vooral in
de domeinen waar simulaties worden toegepast

39. Mywork:SimulatingDiningto
ReduceMeatEating
Ik heb verschillende what if scenarios uitgeprobeerd waar mensen kiezen
om vlees te eten of vegetarisch

40. MyWorK:SimulatingDiningto
motivatemeatreduction
The agents move from location to location and either eat vegan,
vegetarian or meat.

41. MyWorK:Results
Een week zonder vlees bij de HU waar je van te voren voor inschrijft en
betaald zou erg goed werken

42. MyWork:ModelPurpose
Besides prediction there are many alternative modelling purposes.
Explain (very distinct
from predict)
Guide data
collection
Illuminate core
dynamics
Suggest dynamical
analogies
Discover new
questions
Promote a scientific
habit of mind
Bound (bracket)
outcomes to plausible
ranges
Illuminate core
uncertainties.
Offer crisis options in
near-real time
Demonstrate
tradeoffs / suggest
efficiencies
Challenge the
robustness of
prevailing theory
through
perturbations
Expose prevailing
wisdom as
incompatible with
available data
Train practitioners
Discipline the policy
dialogue
Educate the general
public
Reveal the apparently
simple (complex) to be
complex (simple)
[1]
J. Epstein, “Why
model?,” J. Artif.
Soc. Soc. Simul.,
vol. 11, no. 4, p.
12, 2008,
Accessed: Jan. 07,
2015. [Online].
Available:
http://jasss.soc.s
urrey.ac.uk/11/4/
12.html.

43. MyWork:ModelPurpose
One model purposes is to explain current data.
Another modelling purpose is to predict future events.
[2]
B. Edmonds,
“Different
modelling
purposes,” in
Simulating
Social
Complexity
Explanation Prediction

44. Mywork:Explanation
A simulated causal process gives a possible explanation if the data match the
input, mechanisms and output.
• You have limited amount of
known facts
• You connect the facts with a
model
• Pitfalls:
• Possible explanation (next week)
• Not prediction
• Overfitting

45. Mywork:KISS&KIDS
Keep it simple stupid (KISS) and keep it descriptive stupid (KIDS) differ in
their aim for constructing models.
B. Edmonds and S. Moss, “From KISS to KIDS–an ‘anti-
simplistic’ modelling approach,” Multi-Agent Multi-Agent-
Based Simul., pp. 130–144, 2005,

46. Mywork:KidsvsKISS
KISS emphasizes simplicity
KIDS emphasizes empirical grounding

47. MyWork:Validationdifferent
kinds
Different types of validation that promote or demote each other: input,
verification, process/mechanistic, descriptive, predctive.

48. Futurework:…
Future work could be done here on digital twins, philosophy of science en
emergentie
Digital twins Philosophyof
Explanations
Formaliserenvan
Emergentie

49. SIMULATIES
Welke technieken stellen
ontwikkelaars in staat
coöperatieve AI te
verwezenlijken?
Problem:Simulations
!=ML
Case:Meat-Eating
with SoPRA
My work:Philosophy
of Science
Future:Digitaltwins,
philosophy

50. PlanvoorVandaag
Mens-AI
Samenwerking
Wet & Ethiek
Simulaties