Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Wie wordt de baas over onze big data? | 2019 10-29 HvA

1,672 views

Published on

Wie wordt de baas over onze big data? | 2019 10-29 HvA
Vrij delen van informatie, kunst en cultuur Evidence-based policy met een lange-termijn visie Zelfbeschikking stimuleren zonder dat dit ten koste gaat van rechten Vertrouwen burgers vs Wantrouwen ‘macht' Enthousiast over tech, maar alert op risico’s Tech to empower people; niet om te onderdrukken Basis principes PPNL Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
3. MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data?
4. MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data?
5. Amsterdam wil data verzamelen en delen, om: – Maatschappelijke vraagstukken oplossen – Dienstverlening verbeteren – Slimmer handhaven – Openbare ruimte beheren – Werkprocessen efficiënter – Zorg verbeteren – Patronen herkennen om gedrag te beïnvloeden “Amsterdam doet daarbij graag zaken met de markt”
6. Verkapte privatisering publieke diensten? Wie beheert AI in ‘slimme’ stad? Wie beheert de data die we samen produceren? Wie profiteert van de voordelen? Wie kampt met de nadelen?
7. Niets te verbergen? Functie in sociale relaties Mogen anderen ook niks te verbergen hebben? Snowden: “I don't care about privacy, 'because I have nothing to hide', is like I don't care about free speech, Because I have nothing to say" Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
8. Mass surveillance: voor 1 target, tienduizenden bespieden Info delen met dubieuze regimes Devices bewust lek houden om ons te hacken MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data?
9. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
10. 15-12-16 SyRI https://www.youtube.com/watch?v=2GkXCzYdrBY • Allerlei data die je met overheid deelt wordt aan elkaar geknoopt. • Iedereen is bij voorbaat verdacht -> bestempeld met risicoprofiel. • Op basis hiervan wordt je extra in de gaten gehouden, zonder dat je dit weet. • https://bijvoorbaatverdacht.nl/ Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
11. 15-12-16 SyRI in Rotterdam 25.000 bewoners Bloemhof en Hillesluis op fraude onderzocht • 50% Foutmarge • 10% werd onderzocht • 0(!!) fraudegevallen opgespoord Na ophef gestopt met experiment Matthijs Pontier, Ph.D., HvA, 29-10-2019, Wiewordtdebaas over onzebig data?
12. Ron Kowsoleea
13. Privacy inperken voor veiligheid? 1. Niet effectief 2. Leidt tot ongezonde machtsverhouding 3. Privacy juist voorwaarde voor veiligheid 4. Er bestaan prima alternatieven
14. Overheid niet altijd betrouwbaar Overheid laat gegevens slingeren WRR: Overheid onbetrouwbaar met gegevens. Informatie wordt gemanipuleerd. Ook overheid kan misdadig gedrag vertonen
15. Function Creep

Published in: Technology
  • Be the first to comment

  • Be the first to like this

Wie wordt de baas over onze big data? | 2019 10-29 HvA

  1. 1. Wie wordt de baas over onze Big Data? Matthijs Pontier, Ph.D.
  2. 2. Vrij delen van informatie, kunst en cultuur Evidence-based policy met een lange-termijn visie Zelfbeschikking stimuleren zonder dat dit ten koste gaat van rechten Vertrouwen burgers vs Wantrouwen ‘macht' Enthousiast over tech, maar alert op risico’s Tech to empower people; niet om te onderdrukken Basis principes PPNL Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  3. 3. MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data?
  4. 4. MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data?
  5. 5. Amsterdam wil data verzamelen en delen, om: – Maatschappelijke vraagstukken oplossen – Dienstverlening verbeteren – Slimmer handhaven – Openbare ruimte beheren – Werkprocessen efficiënter – Zorg verbeteren – Patronen herkennen om gedrag te beïnvloeden “Amsterdam doet daarbij graag zaken met de markt”
  6. 6. Verkapte privatisering publieke diensten? Wie beheert AI in ‘slimme’ stad? Wie beheert de data die we samen produceren? Wie profiteert van de voordelen? Wie kampt met de nadelen?
  7. 7. Niets te verbergen? Functie in sociale relaties Mogen anderen ook niks te verbergen hebben? Snowden: “I don't care about privacy, 'because I have nothing to hide', is like I don't care about free speech, Because I have nothing to say" Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  8. 8. Mass surveillance: voor 1 target, tienduizenden bespieden Info delen met dubieuze regimes Devices bewust lek houden om ons te hacken MatthijsPontier, Ph.D., Hogeschool van Amsterdam, 29-10-2019, Wie wordt de baasover onze big data?
  9. 9. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  10. 10. 15-12-16 SyRI https://www.youtube.com/watch?v=2GkXCzYdrBY • Allerlei data die je met overheid deelt wordt aan elkaar geknoopt. • Iedereen is bij voorbaat verdacht -> bestempeld met risicoprofiel. • Op basis hiervan wordt je extra in de gaten gehouden, zonder dat je dit weet. • https://bijvoorbaatverdacht.nl/ Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  11. 11. 15-12-16 SyRI in Rotterdam 25.000 bewoners Bloemhof en Hillesluis op fraude onderzocht • 50% Foutmarge • 10% werd onderzocht • 0(!!) fraudegevallen opgespoord Na ophef gestopt met experiment Matthijs Pontier, Ph.D., HvA, 29-10-2019, Wiewordtdebaas over onzebig data?
  12. 12. Ron Kowsoleea
  13. 13. Privacy inperken voor veiligheid? 1. Niet effectief 2. Leidt tot ongezonde machtsverhouding 3. Privacy juist voorwaarde voor veiligheid 4. Er bestaan prima alternatieven
  14. 14. Overheid niet altijd betrouwbaar Overheid laat gegevens slingeren WRR: Overheid onbetrouwbaar met gegevens. Informatie wordt gemanipuleerd. Ook overheid kan misdadig gedrag vertonen
  15. 15. Function Creep Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  16. 16. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  17. 17. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  18. 18. Profiling Big Data algoritmes krijgen dezelfde bias als hun makers en/of trainingsdata Dit versterkt discriminatie van gestigmatiseerde groepen (en sommigen zullen het zelfs gebruiken ter rechtvaardiging) Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  19. 19. Big Data algoritmes krijgen dezelfde bias als hun makers en/of trainingsdata
  20. 20. Slachtoffersvan Profiling
  21. 21. Slachtoffersvan Profiling
  22. 22. Slachtoffers van Profiling
  23. 23. 15-12-16 Cambridge Analytica Mensen emotioneel raken, op hun zwakste moment Stemgedrag beinvloeden Doorstart als Emerdata, na ophef
  24. 24. 15-12-16 Cambridge Analytica VS2016 Brexit Australie 2015 Kenya '13 / '17 India Malta https://e n.wikipe dia.org/ wiki/Ca mbridg e_Analy tica
  25. 25. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onz
  26. 26. Corporate surveillance: ‘Smart TV’ Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  27. 27. Smart TV hackers filmen mensen die seks hebben op hun bank en dat zetten ze op porno websites! Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  28. 28. Who will control ‘smart’ cars? Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  29. 29. Wie wordt de baas in jouw ‘slimme’ huis? Hackers? Virus? Terroristen? Bedrijven die eigenlijk jouw devices bezitten? De AI die je vertelt wat je moet doen? Of controleren ze zichzelf? Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  30. 30. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  31. 31. Monopolization Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  32. 32. Hoe groter het bedrijf Hoe groter het machtscentrum Hoe groter de kans dat een bedrijf deze macht op een verkeerde manier gaat gebruiken Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  33. 33. 15-12-16 Surveillance Capitalism
  34. 34. Targeted ads
  35. 35. Pokemon Go Pokemon Go was eigenlijk een spel van Google om gebruikers naar winkels te lokken. Bedrijven konden ‘lokmodules’ kopen en zo jouw lichaam naar hen toe lokken
  36. 36. Facial recognition Should we ban it? https://ww w.banfacial recognition .com/
  37. 37. Als technologie voor je denkt Vertellen programmeurs dan wat je moet denken? Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  38. 38. Google Sidewalks Toronto Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  39. 39. Google Sidewalks Toronto Moet een commercieel bedrijf dit uitvoeren? En dan ook nog eens Google? Lack of transparency Mensen klaagden de gemeente aan: "We willen geen proefpersonen van Google worden" Blackberry CEO: "This is a colonizing experiment in surveillance capitalism attempting to bulldoze important urban, civic and political issues." Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  40. 40. Google wilde aandeel belastingopbrengsten, ontwikkelbudget Verdienmodel hangen aan openbaar vervoer en mobiliteit --> Google probeerde publieke diensten te privatiseren! Google privatiseert Toronto Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  41. 41. Google ontwierp privacy policies voor buurten:​ - Mensen zouden getarget worden met producten - Zelfs getarget worden om stemgedrag te beinvloeden Privacy adviseur Ann Cavoukian nam ontslag:​ "I imagined us creating a smart city of privacy, as opposed to a smart city of surveillance" Toronto: "The evaluation process will determine which parts of the proposal, if any, may be pursued further." Google Sidewalks Toronto Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  42. 42. How can we do better? Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  43. 43. Responsible Digital Cities Bewoners bepalen wat er met hun data gebeurt: Privacy = Ownership Bewoners bepalen hoe digitale stad zich ontwikkelt Democratie Verzamelde data is gemeenschapsgoed: Commons Openheid over dataverzameling en verwerking Transparantie Iedereen kan meedoen: Inclusie Menselijke maat staat centraal in alles wat we doen Empathie Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  44. 44. Privacy by Design Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  45. 45. Tech Commons Democratiseer de ontwikkeling van technologie Kosten, risico’s en opbrengsten worden eerlijk gedeeld Ontwikkel technologie op zo’n manier dat het welzijn bevordert
  46. 46. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  47. 47. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  48. 48. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  49. 49. Stop corporate surveillance Goede standaarden voor Privacy by Design / Data-eigenaarschap Reguleer Big Business vs Meer vrijheid voor kleine startups / cooperatieven Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  50. 50. Wordt superintelligente AI een nieuw machtscentrum?Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  51. 51. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  52. 52. Dr. Matthijs Pontier, ImmortalMonkey symposium,13-11-2017,Sharing the world with AI
  53. 53. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  54. 54. Why we should have mandatory Machine Ethics Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  55. 55. Paperclip machine Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  56. 56. “With the Internet of Things, we’re building a world-size robot. How are we going to control it?” Click here to kill everyone IoT + AI = Superrobot
  57. 57. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  58. 58. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  59. 59. Machine Ethics Machines wordensteeds autonomer Machines interacterensteeds meer met mensen We moetenervoor zorgendat machines ons, en onze autonomie niet bedreigen 68Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  60. 60. Moral reasoning system We hebben een moral reasoning system ontwikkeld dat balanceert tussen verschillende morele doelen Beslissingenkwamen overeen met medisch-ethische experts 69Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  61. 61. Autonomy 70 Resultaten: Kon juridische beslissingensimuleren over: - Bemoeizorg - Gedwongen opname na zelfbindingsverklaring Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  62. 62. Cars that make ethical decisions Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  63. 63. Why every AI should have Machine Ethics Machine Ethics = AI-Safety Make sure the intelligence explosion benefits us Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  64. 64. Waarom elke AI open-source zou moeten zijn Algoritmes en robots zullen onze levens steeds meer beïnvloeden Wie controleert de programmeurs? Goede ideeën zijn gemaakt om gekopieerd te worden Extra waarde creëren zonder kosten Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  65. 65. e-Democracy • Laagdrempelig participeren in een democratisch proces • Stemmen op ideeen; niet op partijen of personen • Power of Ideas replace the idea of power Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  66. 66. • Everybody can add ideas • Everybody can add arguments • Best ideas and arguments automatically come up How does it work? Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  67. 67. • Niet eens in de paar jaar stemmen,maar altijd stem kunnen aanpassen • Vertegenwoordiging kan verschillen per onderwerp • Vertegenwoordiging is altijd vrijwillig • Maakt vertegenwoordiging persoonlijk; impliceert vertrouwen Representation in an e-Democracy
  68. 68. <slide e-democracy> Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  69. 69. ⚫ Zou er een symbiose kunnen ontstaan tussen AI en e-democracy? Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  70. 70. Gebruik alternatieven voor Big Tech (Google, Facebook, Microsoft, Amazon) Enrypt e-mail Protonmail Encrypt phone Signal Encrypt messaging Signal Iets van het Internet afhalen bestaat niet. Betaal zoveel mogelijk contant Weiger slimme meter; Wees kritisch over ‘smart’ Toolbox.BoF.nl Gebruik Tor, VPN, DoNotTrack, uBlock, AdNauseam Laat je niet meeslepen in het Big Data net Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  71. 71. Book: Machine Medical Ethics 81 • How to develop robots with human-like ethics? • Need for Open Source • How to use healthcare tech in a way that improves well-being • Changed doctor-patient relation • Deep Brain Stimulation • Sex-robots • Etc. Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  72. 72. Thanks! • @Matthijs85 • Matthijs Pontier • matthijs@piratenpartij.nl • http://www.piratenpartij.nl/ • @Piratenpartij • Lid worden? 19,84 per jaar • Actief worden? • vrijwilligers@piratenpartij.nl Matthijs Pontier, Ph.D., Hogeschoolvan Amsterdam, 29-10-2019, Wiewordtdebaas over onzebig data?
  73. 73. 15-12-16
  74. 74. More reading and watching Intelligent cars could boost highway capacity by 273% Autonomous Car Platoons How to hack a car Zelfrijdende auto's moeten leren wie ze dood willen rijden Vrij van controledrift, bureaucratie en armoede met een basisinkomen Boek: Machine Medical Ethics Zorgrobots, maar geen botte zorg Crowdsource EU: People's Constitution De toekomst van democratie volgens Matthijs Pontier van de Piratenpartij

×