Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Ethische dilemma’s over algoritmes

551 views

Published on

Dit document bevat een set van vijf ethische dilemma's over algoritmes dat kan worden gebruikt om in organisaties het bewustzijn van en discussie over dit belangrijke onderwerp te bevorderen.

Published in: Technology
  • Be the first to comment

Ethische dilemma’s over algoritmes

  1. 1. 1 Ethiekvanalgoritmes Dilemmaset
  2. 2. 2 1.Fijneeersteschooldag In opdracht van een gemeente heb ik de taak gekregen om voor het komend schooljaar een methodiek in te kopen waarmee de aanmeldingsprocedure voor het voortgezet onderwijs wordt verbeterd. De wethouder heeft bij haar toezegging begin dit jaar beloofd deze aanmeldingsprocedure optimaal in te richten zodat de overgrote meerderheid van de scholieren tevreden zal zijn. Ik heb een aantal goede gesprekken gehad met een software bedrijf dat een slim algoritme heeft ontwikkeld waardoor leerlingen in 92% van de gevallen worden toegewezen aan hun voorkeursschool. Deze 92% is veruit het hoogste percentage dat ik heb kunnen vinden. Echter, ik weet niet wat zich “onder de motorkap” van het algoritme afspeelt. Ik heb aan het bedrijf gevraagd inzicht te bieden in de werking van het algoritme, maar hierdoor zal de oplevering van het algoritme vertraging oplopen. Vertraging betekent dat de wethouder niet aan haar belofte kan voldoen en een enorme flater zal slaan. Wat doe ik? 1. Ik sluit toch een contract af met het software bedrijf. 92% tevreden scholieren én een goede naam voor de wethouder kan ik niet laten lopen. 2. Ik ga met een ander bedrijf in zee dat met een percentage van 78% komt en waarvan ik weet hoe het algoritme is opgebouwd. 3. Ik eis dat het software bedrijf inzichtelijk maakt hoe het algoritme exact werkt en neem voor lief dat er daardoor vertraging optreedt en dat de wethouder een enorme flater slaat. Transparantie is wat waard. 4. Ik doe iets anders en wel …
  3. 3. 3 2.Veroverenmarktpositie Als medewerker van een bank sta ik voor de beslissing om een algoritme te implementeren om te kunnen bepalen of een getrouwd koppel dat een hypotheekaanvraag indient in potentie wanbetalers zijn. Eén van de karakteristieken waar het algoritme naar kijkt, is de kans op een echtscheiding. Op basis van een social media profiel dat wordt opgehaald van het internet, wordt de kansberekening op een echtscheiding door het algoritme bepaald. Ik twijfel of we dit als bank kunnen doen. Tegelijkertijd gebruiken onze concurrenten een dergelijke oplossing al wel. Ik ben daarom bang dat wanneer wij dit als bank niet doen, wij niet kunnen meegaan met de concurrentie, en uiteindelijk marktaandeel verliezen. Wat doe ik? 1. Ik kies ervoor om het algoritme te implementeren. Het gaat ons toch niet gebeuren dat we achter blijven bij onze concurrenten! 2. Ik laat het gebruik van het algoritme opnemen in onze algemene voorwaarden. Als het daar staat en inzichtelijk is voor onze klanten dan zie ik geen reden om het algoritme niet te implementeren. 3. Ik kies ervoor om het algoritme niet te implementeren. Ik vind dat het teveel inbreuk maakt op de privésituatie van mensen. 4. Ik doe iets anders en wel …
  4. 4. 4 3.Metwiespreekik? Ik heb de opdracht gekregen om het boekingssysteem van mijn organisatie te vernieuwen. Dit systeem wordt onder andere gebruikt voor het inplannen van klantafspraken. Ik heb het mandaat hiervoor een contract af te sluiten met een nieuwe leverancier. Eén van de partijen waarmee ik in gesprek ben heeft een nieuwe tool ontwikkeld. Hierdoor is tussenkomst van een persoon niet langer nodig bij het inplannen van afspraken. De tool is zo slim en geavanceerd dat voor degene aan de andere kant van de lijn niet valt te onderscheiden of er contact is met een mens of robot. Van alle partijen met wie ik in gesprek ben, steekt deze partij er met kop en schouders bovenuit. Deze oplossing past goed bij onze doelstelling om in dit jaar 25% van onze dienstverlening te innoveren. Echter, mijn organisatie heeft het in haar marketing-uitingen telkens over menselijkheid als kernwaarde. Wat doe ik? 1. Ik neem contact op met de desbetreffende partij om het contract te ondertekenen. 2. Ik twijfel of deze tool past bij hoe mijn organisatie zich naar buiten presenteert. Dit strookt immers niet met onze kernwaarden. Ik besluit daarom de samenwerking met deze partij niet aan te gaan. 3. Ik plaats een disclaimer op de website waarin vermeld staat dat het inplannen van afspraken door een (online) robot wordt gedaan. Als onze klanten geïnformeerd zijn, kan de tool geen kwaad. 4. Ik doe iets anders en wel …
  5. 5. 5 4.Aaneigensuccestenonder Binnen mijn organisatie maken we al een tijdje gebruik van een online tool om een eerste selectie te maken uit de vele honderden sollicitaties die wij maandelijks binnen krijgen. Dit levert ons een grote diversiteit aan kandidaten op en bespaart bovendien tijd en geld. Door deze tool is de recruitmentafdeling al gehalveerd en zijn we nu nog met zijn zessen. Mijn directeur heeft de smaak te pakken. Op zijn verzoek draaien we het komende kwartaal een pilot waarin we kandidaten in plaats van een fysiek tweede gesprek een online assessment laten doen. De antwoorden van de kandidaten worden beoordeeld door een algoritme. Ik weet dat wanneer deze pilot succesvol is, dit waarschijnlijk tot gevolg heeft dat er nog twee van mijn zeer gewaardeerde collega’s waarmee ik het erg goed kan vinden hun baan zullen verliezen. Wat doe ik? 1. Ik vertel de directeur dat ik niet wil meewerken aan de pilot, omdat ik van mening ben dat het beoordelen van sollicitaties niet door een algoritme kan worden gedaan. Dit blijft mensenwerk. 2. Ik werk mee aan de pilot. Het is nu nog veel te vroeg om te speculeren over het verliezen van banen. 3. Voordat de pilot van start gaat waarschuw ik de recruiters dat hun baan in gevaar is en moedig ze aan om alvast naar vacatures te kijken. 4. Ik doe iets anders en wel …
  6. 6. 6 5.Ikzieikziewatjijnietziet Ik heb een belangrijke rol gehad in het doorvoeren van het project ‘gezichtsherkenning aan de poort’ bij mijn ministerie. Dit betekent dat sinds maart van afgelopen jaar iedere bezoeker van het ministerie bij binnenkomst wordt gescreend door een camera. Gezien het toenemende aantal terroristische dreigingen in ons land heb ik hier veel positieve reacties op ontvangen. Naast het screenen op antecedenten, kan de gezichtsherkenningstool andere kenmerken aflezen zoals sekse en emotie. Sinds de start van het project zijn er geen problemen geweest, maar gisteren is er een grote rel geweest. Een allochtone zakenman is onterecht twee uur ondervraagd en vastgehouden. Hij zou in het verleden fraude hebben gepleegd, maar achteraf bleek dat hij alleen verdachte was in de zaak en nooit is veroordeeld. De man dreigt naar de media te stappen. Ik vrees dat dit voor zowel mijn eigen reputatie als die van het ministerie slecht is. Wat doe ik? 1. Ik doe niets. Op het moment dat de man naar de media treedt, is hij degene die de schijn tegen heeft, niet wij als ministerie. 2. Ik zet alles op alles om te voorkomen dat de man naar de media stapt. Ik neem de man apart en probeer hem ervan te overtuigen dat niemand zijn verhaal gaat geloven. 3. Ik treed zelf naar buiten met het verhaal dat we een pilot doen met gezichtsherkenning en dat bezoekers hier mogelijk hinder van kunnen ondervinden vanwege nog wat kinderziekten in de technologie. 4. Ik doe iets anders en wel …
  7. 7. 7 • Op basis van de dilemma’s aan betrokkenen vragen om actuele dilemma’s op dit gebied te beschrijven. Wij hopen dat deze set aan dilemma’s bruikbaar is voor u, en u helpt in de reflectie op de ethiek van algoritmes binnen uw organisatie. KPMG Integrity & Compliance ICC Nederland organiseert van 1 tot en met 9 december voor de derde keer de nationale Week van Integriteit. Tijdens deze week worden organisaties opgeroepen om aandacht en bewustwording rondom het thema integriteit te stimuleren. Als KPMG Integrity & Compliance willen wij hieraan een bijdrage leveren door een set van vijf ethische dilemma’s over algoritmes aan te bieden die organisaties kunnen gebruiken om open het gesprek met elkaar aan te gaan over ethiek en technologie. Het gebruik van algoritmes neemt namelijk binnen organisaties in rap tempo toe. Algoritmes bieden immers grote mogelijkheden, zoals gerichtere marketing, snellere selectieprocedures en efficiëntere controlesystemen. Naast kansen brengen algoritmes ethische risico’s en dilemma’s met zich mee. Steeds meer organisaties gaan daarom aan de slag te doordenken wat deze risico’s en dilemma’s zijn en hoe hiermee om te gaan. Om de reflectie hierop binnen organisaties te vergemakkelijken hebben we vijf uiteenlopende dilemma’s gemaakt. Wij reiken u graag een paar ideeën aan waarop u deze dilemma’s in de Week van Integriteit kunt gebruiken: • Iedere dag een dilemma op uw intranet plaatsen en medewerkers (via poll) vragen om een reactie. • Een dilemmadiscussie voeren met de mensen in uw organisatie die te maken hebben met algoritmes. Hierbij vraagt u per dilemma de aanwezigen een keuze te maken voor een dilemma om vervolgens in dialoog te gaan met elkaar. Achtergrond

×