Zouden AI-systemen het recht moeten hebben om beslissingen te nemen over menselijke levens?

Inleiding

Stel je voor: een ziekenhuis heeft een AI-systeem dat organentoewijzingen beoordeelt. Twee patiënten hebben dringend een nier nodig. De ene is jong, heeft twee kinderen, maar een hoge kans op terugval. De andere is ouder, leeft solo, maar volgt perfect het behandelplan. De AI geeft de nier aan patiënt twee – niet op basis van medische urgentie, maar op voorspelling van ‘kans op succes’. Wie heeft hier beslist? En wie is verantwoordelijk?

Dit soort scenario’s brengt ons rechtstreeks bij het harde kern van het debat: Zouden AI-systemen het recht moeten hebben om beslissingen te nemen over menselijke levens? Het is geen hypothetische vraag uit een sci-fi-film. Het speelt zich al af in ziekenhuizen, rechtbanken, defensiesystemen en sociale diensten. En het vraagt niet alleen om technische antwoorden, maar om fundamentele keuzes over macht, morele autoriteit en wat we als menswaardig beschouwen.

Definities en reikwijdte

Laten we eerst duidelijk maken wat we bedoelen. Met AI-systemen doelen we op autonome of semi-autonome algoritmen die op basis van data patronen herkennen, voorspellingen doen en acties initiëren – zonder continue menselijke tussenkomst. Denk aan een diagnose-AI, een strafmaat-voorspellingsmodel of een drone die doelen identificeert.

Het recht hebben om beslissingen te nemen betekent hier niet dat AI burgerschap krijgt of stemrecht. Het betreft de morele en institutionele toestemming om in praktijk bepalende invloed uit te oefenen op levensbelangrijke uitkomsten: leven of dood, vrijheid, toegang tot zorg of justitie. Het gaat dus om effectieve besluitvormingsautoriteit, niet noodzakelijk formele rechtspositie.

Beslissingen over menselijke levens richten zich op interventies met directe, irreversibele gevolgen voor individuen. Dat omvat:

Medische triage en behandeling
Justitiële voorspellingen (bijv. recidiverisico)
Militaire doelidentificatie
Sociale allocatie (bijv. toegang tot huisvesting of werk)

Wat valt buiten de scope? Algemene AI-toepassingen zoals aanbevelingssystemen op Netflix of advertentie-algoritmen, hoe invloedrijk ze ook kunnen zijn, tellen hier niet mee – tenzij ze systematisch leiden tot structurele schade (zoals radicalisering of discriminatie op grote schaal). Ook discussies over AI-bewustzijn of ‘robotrechten’ spelen hier een ondergeschikte rol; het draait hier om gevolgen, niet om intentie of bewustzijn.

Belangrijke theoretische begrippen die het debat beïnvloeden zijn:

Instrumentalisme: het idee dat technologie op zich neutraal is – slechts een middel, waarvan de morele lading afhangt van het gebruik.
Socio-technische benadering: het tegengestelde perspectief, dat technologie nooit neutraal is, maar altijd ingebed is in machtsstructuren, waarden en sociale dynamieken.
Neutraliteit van technologie: een veelbesproken aanname die centraal staat in dit debat – is een algoritme ‘objectief’, of drukt het altijd bepaalde belangen uit?

We gebruiken deze begrippen niet als academische curiositeiten, maar als bril om het debat te analyseren: is AI werkelijk een gereedschap, of een actor met morele gewicht?

Waarom dit debat belangrijk is

Dit is geen filosofisch spelletje. De keuzes die we nu maken over AI en besluitvorming, vormen onze toekomstige samenleving. Denk aan:

Beleid: Moeten we wetten maken die AI verbieden in levenskritische beslissingen? Of juist bevorderen omdat het efficiënter is? De EU’s AI Act probeert dit al af te bakenen, maar de grenzen zijn wazig.
Innovatie: Als we AI te veel binden, remmen we vooruitgang in zorg, mobiliteit en veiligheid. Maar als we te weinig reguleren, riskeren we oncontroleerbare schade – zoals discriminerende algoritmes die mensen buitensluiten.
Publieke perceptie: Vertrouwen in AI is broos. Een enkele fout – zoals een zelfrijdende auto die iemand doodrijdt – kan massale weerstand veroorzaken. Maar ook wanneer AI ‘goed’ presteert, roept het vragen op: willen we dat een machine beslists wie mag leven?

Bovendien dwingt dit debat ons ernaar te kijken wat ‘menselijkheid’ eigenlijk betekent. Is empathie, intuïtie, morele twijfel iets dat we moeten behouden in besluitvorming? Of is objectiviteit – bereikt via data – juist de morele superioriteit?

Kortom: dit debat gaat niet alleen over technologie, maar over wie we zijn, wie we willen zijn, en wie we toestaan om over ons te beslissen.

Theoretische kaders

Als we vragen of AI het recht zou moeten hebben om over menselijke levens te beslissen, lijkt het alsof we het alleen over technologie hebben. Maar eigenlijk staan we voor een veel fundamenteelere keuze: hoe kijken we naar technologie zelf? Is het een soort superieur rekenmachine – neutraal, objectief, afwachtend op instructies? Of is het iets actiefs, iets dat al tijdens het ontwerp bepaalde waarden, machtsverhoudingen en ongelijkheden versterkt?

Twee grote denkscholen helpen ons hierbij: het instrumentalisme en de socio-technische benadering. Ze bieden tegenovergestelde lensjes, en welke je kiest, bepaalt al voor een groot deel hoe je het debat gaat voeren.

Instrumentalisme: technologie als middel, geen doel

Het instrumentalisme is de meest gangbare manier waarop mensen over technologie denken. Volgens dit perspectief is technologie op zichzelf moraal neutraal. Een AI-systeem is dan niets meer of minder dan een gereedschap – zoals een scalpel, een trein of een spreadsheet. Wat er mee gedaan wordt, bepaalt of het goed of kwaad is. Een drone kan medische hulp leveren of iemand doden. Het is de intentie van de gebruiker die de morele laag toevoegt, niet de machine zelf.

Waarom geloven mensen in neutraliteit?

De kern van het instrumentalisme ligt in een eenvoudig onderscheid: tussen ontwerp en gebruik. De ontwikkelaar bouwt een systeem dat logisch, efficiënt en accuraat werkt. De maatschappij – via politici, artsen, militairen – bepaalt vervolgens waar en hoe het ingezet wordt. Als iets misgaat, wijzen aanhangers van dit standpunt dus niet naar het algoritme, maar naar de mens achter het stuur.

Dit idee is krachtig omdat het verantwoordelijkheid behapbaar houdt. We hoeven geen robots te gaan veroordelen; we kunnen blijven focussen op beleid, opleiding en controle. Bovendien bevordert het innovatie: als technologie neutraal is, moeten we het niet afschrikken met te veel ethische remmen van tevoren.

Wie heeft dit gedacht en geschreven?

Hoewel het instrumentalisme vaak impliciet is, vinden we het expliciet terug bij filosofen als Carl Mitcham, die onderscheid maakt tussen technologie als object (een ding) en technologie als activiteit (het doen). Voor hem is het gebruik dat inhoud geeft. Ook ingenieurs en technocraten opereren vaak vanuit deze logica: techniek lost problemen op, mensen bepalen welke problemen.

Maar let op: zelfs critici zoals Langdon Winner beschrijven het instrumentalisme om het daarna te doorprikken. Zijn beroemde vraag – “Do artefacts have politics?” – is precies bedoeld om te tonen dat sommige technologieën per definitie bepaalde sociale ordes afdwingen, ongeacht de bedoeling.

En dat brengt ons bij het tegengewicht.

Socio-technische benadering: technologie als drager van waarden

Stel: een gemeente bouwt bruggen laag, zodanig dat bussen er niet onderdoor kunnen. Niet per ongeluk, maar bewust. Het effect? Arbeiders uit armere buurten kunnen niet met openbaar vervoer naar luxe stranden. De brug ziet er neutraal uit – gewoon beton en staal – maar haar ontwerp sluit systematisch bepaalde groepen uit.

Dit is het hart van de socio-technische benadering: technologie is nooit neutraal. Ze is altijd ingebed in sociale relaties, economische structuren en machtsverhoudingen. En elke keuze in het ontwerp – hoe hoog een brug is, welke data een AI gebruikt, welk risico het minimaliseert – drukt een waardekeuze uit.

Hoe werkt dat in de praktijk?

Een belangrijk concept hierbij is de Actor-Network Theory (ANT) van Bruno Latour en Michel Callon. Volgens ANT zijn technologieën geen passieve tools, maar actoren in een netwerk. Een algoritme dat strafmaat voorspelt, communiceert met rechters, verdachten, databanken en beleidsmakers. Het verandert hun gedrag, creëert nieuwe rollen en versterkt bepaalde uitkomsten. Het is dus geen instrument, maar een medebeslisser.

Neem het voorbeeld van gezichtsherkenning: train je het op voornamelijk blanke mannen, dan presteert het slechter op vrouwen en gekleurde huid. Die bias is geen toeval – het is het resultaat van keuzes: welke data verzameld wordt, wie de ontwerpers zijn, welke fouten “aanvaardbaar” zijn. De technologie draagt dus discriminerende structuren over, zonder dat iemand dat expliciet wilde.

Wat betekent dit voor beleid en ontwerp?

Hier verschuift de verantwoordelijkheid radicaal. Niet pas nadat de AI ingezet wordt, maar al tijdens de ontwikkeling moet je nadenken over ethiek, diversiteit en inclusie. Regulering moet niet alleen focussen op transparantie en toezicht, maar op participatie: moeten patiënten, slachtoffers, kwetsbare groepen meedenken in het ontwerp?

Bovendien roept het de vraag op: wie mag AI ontwerpen? Als technologie macht uitoefent, dan is iedere code-regel een politieke handeling. Dan is neutraliteit geen bescherming – het is een mythe die onverantwoordelijkheid maskert.

Kortom: het instrumentalisme zegt: “AI is wat we ermee doen.” De socio-technische kijk zegt: “AI is al bepaald door wie het maakte, waarvoor, en met welke blinde vlekken.”

Welk standpunt je kiest, bepaalt niet alleen je argumenten – het bepaalt waar je het debat überhaupt opent.

Argumenten vóór de stelling: technologie is neutraal

Wie zegt dat AI geen beslissingen mag nemen over menselijke levens, lijkt vaak te suggereren dat de machine zelf moreel gevaarlijk is – alsof een algoritme op zich moreel kwaad kan doen. Maar aanhangers van de pro-stelling stellen: dat is een fundamentele misvatting. Volgens hen is technologie, inclusief AI, per definitie neutraal. Het is geen acteur met intenties, maar een middel – net zoals een scalpel, een trein of een spreadsheet. De morele lading komt pas door wie het gebruikt, waarvoor, en onder welke omstandigheden.

Technologie is een instrument: verantwoordelijkheid ligt bij mensen

Het kernargument van de pro-kant is simpel, maar krachtig: je kunt een gereedschap niet veroordelen op basis van zijn misbruik. Een mes kan gebruikt worden om brood te snijden of iemand te verwonden. Toch zeggen we niet dat het mes “gevaarlijk” is in zijn wezen. We weten dat het de gebruiker is die bepaalt wat er mee gebeurt. Op dezelfde manier is een AI-systeem slechts een verzameling code, data en logica. Het doet wat het is geprogrammeerd om te doen – het neemt geen eigen keuzes, heeft geen moreel kompas, geen intentie.

Neem een brug. Die is ontworpen om mensen van A naar B te brengen. Ze is fysiek neutraal. Maar als een gemeente bewust bruggen laag bouwt zodat bussen er niet onderdoor kunnen, sluit dat bepaalde groepen uit. Is de brug dan racistisch? Nee – de politieke keuze zit in het beleid, niet in het beton. Zo ook met AI: als een algoritme voor werkloosheidsuitkeringen meer kans geeft aan mannen, dan is dat geen fout van de AI, maar van de data, de ontwerpers of het beleid dat erachter zit. De verantwoordelijkheid ligt dus niet bij de technologie, maar bij de mensen die haar ontwerpen, instellen en toepassen.

Dit idee wordt vaak samengevat als: “Technology doesn’t make decisions – people do.” Zolang er een menselijke eindverantwoordelijke is – een arts, een rechter, een beleidsmaker – dan is de AI niets meer dan een geavanceerde rekenmachine. En net zoals we geen moraal oordeel vellen over een Excel-formule, zo moeten we dat ook niet doen over een algoritme.

Praktische voorbeelden ter ondersteuning

Denk aan GPS-navigatie. Het systeem adviseert je de snelste route. Soms leidt dat tot files in dorpen, lawaai, verlies van leefkwaliteit. Is GPS dan schadelijk? Nee – het is een hulpmiddel. De impact hangt af van hoe bestuurders wegen beheren, hoe chauffeurs rijden, hoe regio’s plannen. Niemand stelt voor om GPS te verbieden omdat het onbedoelde gevolgen heeft.

Of neem een hart-longmachine in een ziekenhuis. Die kan iemands leven redden – of falen en iemand doden. Toch beschouwen we de machine niet als moreel agent. We kijken naar de artsen, de onderhoudstechnici, de protocollen. Als iets misgaat, evalueren we het systeem, niet de machine als zodanig.

Zo ook met AI in triage: als een systeem patiënten sorteert op basis van overlevingskans, dan is dat een medische beslissing die is vertaald naar algoritmische logica. De ethiek zit in het protocol, niet in de code. De AI voert uit; de maatschappij bepaalt wat “goed” is.

Onbedoelde gevolgen zijn geen bewijs van morele lading

Critici zeggen vaak: “Maar AI discrimineert! Dus kan het niet neutraal zijn.” Maar dit is een denkfout. Dat een technologie onbedoelde, negatieve effecten heeft, betekent nog niet dat ze inherent moreel geladen is. Neutrale systemen kunnen schade veroorzaken – juist omdat ze precies doen wat ze moeten doen, gebaseerd op imperfecte input of context.

Stel: een AI voor hypotheekverlening leert uit historische data dat mensen uit bepaalde buurten minder snel leningen krijgen. Als die data rassenscheiding weerspiegelt uit het verleden, dan kopieert de AI die patronen. Is de AI racistisch? Nee – ze is accuraat binnen haar training. De bias zit in de geschiedenis, niet in de machine. De fout is niet dat de AI werkt, maar dat we haar lieten leren van een oneerlijke wereld.

Dit verschil is essentieel. Het onderscheid tussen intentie en impact is de hoeksteen van juridisch en ethisch denken. We straffen iemand harder voor moord dan voor doodslag, omdat de intentie anders is. Zo ook hier: als een AI geen intentie heeft, kan ze niet moreel veroordeeld worden. De verantwoordelijkheid ligt bij degenen die wisten – of hadden moeten weten – wat de gevolgen zouden zijn.

En dat is geen excuus voor nalatigheid. Integendeel: het benadrukt juist hoe belangrijk goed toezicht, diverse teams en ethische audits zijn. Maar het betekent wel dat we de technologie zelf niet hoeven te demoniseren. We moeten betere mensen achter de knoppen, geen minder slimme algoritmes.

Efficiëntie en innovatie vereisen neutraliteit

Er is nog een praktisch-maatschappelijk argument: als we technologie per se als moreel beladen zien, remmen we innovatie af. Stel dat elke nieuwe AI-toepassing al verdacht is, gewoon omdat het automatisch beslists. Dan blokkeren we mogelijk levensreddende toepassingen – uit angst.

Denk aan AI in spoedgevallen. Onderzoek toont aan dat algoritmes soms sneller en nauwkeuriger zijn dan artsen in het detecteren van hersenbloedingen op CT-scans. Als we die AI verbieden omdat “een machine niet mag beslissen of iemand leeft”, dan laten we mensen sterven – uit principiële bezwaren tegen automatisering.

Neutraliteit is dus niet alleen een filosofische positie, maar een pragmatische noodzaak. Ze creëert ruimte voor experiment, verbetering en schaalbaarheid. In tijden van personeelsgebrek in de zorg, klimaatcrisis of pandemieën, kunnen we ons niet permitteren om effectieve tools af te wijzen alleen omdat ze niet menselijk zijn.

Bovendien: als we elke technologie behandelen alsof ze politieke of morele intenties heeft, dan verspillen we energie. In plaats van de echte problemen aan te pakken – slechte data, gebrek aan diversiteit, gebrekkig toezicht – richten we ons op een zondebok: de machine. Terwijl de oplossing ligt in betere regels, betere opleiding, betere controle.

Kortom: de pro-stelling is niet naïef. Ze ontkent niet dat AI schade kan veroorzaken. Maar ze stelt dat die schade nooit uit de technologie zelf komt – maar uit de menselijke keuzes eromheen. En daarom: ja, AI mag beslissingen nemen over menselijke levens – zolang mensen de verantwoordelijkheid dragen.

Argumenten tegen de stelling: Technologie is niet neutraal

Als je denkt dat een algoritme objectief is omdat het ‘alleen data gebruikt’, dan heb je misschien nog nooit nagedacht over wie die data verzamelt, wat erin zit, en waarom. Want hier begint het verhaal van waarom technologie – en zeker AI – nooit echt neutraal is. Niet omdat het slecht bedoeld is, maar omdat elk keuzemoment tijdens het ontwerp een morele laag draagt. En wanneer die laag zich vertaalt naar leven of dood, vrijheid of opsluiting, dan is neutraliteit geen bescherming meer – het is een excuus.

Ontwerpkeuzes zijn morele keuzes

Laat me duidelijk zijn: niemand programmeert expres dat een AI-discrimineert. Maar discriminatie hoeft niet intentie te zijn om toch realiteit te worden. Wat wel gebeurt, is dat ontwerpers keuzes maken – over data, doelstellingen, successcriteria – die onbewust of bewust waarden verankeren in het systeem.

Stel: je bouwt een AI die voorspelt wie een niertransplantatie nodig heeft. Je traint het op historische gegevens uit ziekenhuizen. Alleen… in die geschiedenis kregen oudere patiënten of mensen met lagere inkomen vaker een afwijzing. De AI leert daaruit: ‘minder kans op transplantatie = normaal’. En zo concludeert het systeem dat die groepen minder urgent zijn – niet omdat hun medische toestand anders is, maar omdat het algoritme de bestaande ongelijkheid repliceert. De bias zit niet in de code, maar in de geschiedenis die de code leest.

Gezichtsherkenning: wanneer accuraatheid racistisch wordt

Een klassiek voorbeeld is gezichtsherkenning. In 2018 publiceerde Joy Buolamwini en Timnit Gebru een baanbrekend onderzoek: Gender Shades. Ze testten commerciële gezichtsherkenningssystemen van grote techbedrijven. Resultaat? Foutenpercentage bij blanke mannen: minder dan 1%. Bij donkere vrouwen: tot 34%.

Hoe kan dat? Omdat de trainingsdata vooral uit foto’s van blanke mannen bestond. De ontwerpers hadden simpelweg niet nagedacht: wie zien we niet als standaard? Het systeem was ‘neutraal’ in de zin dat het goed werkte – voor een bepaalde groep. Voor anderen werd het een bron van foutieve arrestaties, exclusie en veiligheidsrisico’s.

Dit is geen bug. Dit is een feature van een wereld waarin technologie wordt ontworpen door een homogene elite – vaak wit, mannelijk, Westers – en vervolgens op iedereen losgelaten.

En dan hebben we het nog niet eens over welk doel je stelt. Stel je ontwerpt een AI die ‘het risico op recidive’ voorspelt. Kies je voor ‘niet opnieuw gearresteerd worden’ als succescriterium, dan lijkt het alsof het eerlijk is. Maar als politie harder patrouilleert in arme buurten, worden arme verdachten sneller gearresteerd – ook voor kleine overtredingen. De AI leert: ‘arm = groot risico’. Terwijl het eigenlijk is: ‘arm = meer kans op controle’.

Het doel van het systeem – wat je meet, wat je minimaliseert – is een morele keuze. En die keuze maakt de technologie inherent politiek.

Technologie herverdeelt macht – vaak oneerlijk

AI-systemen doen meer dan alleen beslissingen nemen; ze herschikken macht. En vaak verschuift die macht van kwetsbare groepen naar instellingen, overheden en techbedrijven.

Neem predictive policing: algoritmes die voorspellen waar criminaliteit zal plaatsvinden. Ze analyseren oude arrestatiegegevens. Maar oude arrestaties zijn geen objectieve maatstaf voor criminaliteit – ze zijn een maatstaf voor politieaanwezigheid. Meer politie in buurt A → meer arrestaties in A → AI zegt: ‘meer politie nodig in A’. Een vicieuze cirkel.

Wat gebeurt er? De gemeenschap wordt steeds meer gemonitord. Vertrouwen in de overheid daalt. En de mensen die al onder druk staan, krijgen nog minder ruimte. Intussen blijft wit-collar criminaliteit – fraude, belastingontduiking – relatief onzichtbaar, omdat die minder via straatpolitie wordt opgespoord. De technologie versterkt dus niet alleen bestaande ongelijkheden, ze naturaliseert ze: ‘de data zegt het’, dus het moet wel waar zijn.

En wie controleert dit? Vaak zijn deze systemen black boxes: geheim, beschermd als handelsgeheim, niet openbaar te toetsen. Burgers kunnen zich niet verdedigen tegen een voorspelling die ze niet begrijpen. Rechters vertrouwen op ‘objectieve analyse’. Politici roepen: ‘we gebruiken de nieuwste wetenschap!’

Maar wanneer technologie beslist over jouw toegang tot zorg, werk of vrijheid, en je kunt het niet controleren, is dat geen neutraliteit – dat is machtsmisbruik in een glanzende interface.

Onbedoelde effecten: de echte gevaren liggen in het systeem

Soms is de grootste schade niet direct zichtbaar. Niet één foutieve diagnose, maar duizend kleine beslissingen die samen een nieuw sociaal klimaat creëren.

Denk aan sociale media. Algoritmes zijn ontworpen om engagement te maximaliseren. Wat werkt? Emotie. Controverse. Bevestiging van bestaande meningen. Dus toont het je meer van wat je al gelooft. Je wordt geleidelijk radicaler. Je verliest het gevoel voor oppositie. En plots sta je in een wereld waarin vaccins kwaad zijn, of de verkiezingen gestolen werden, of een buurland een dreiging is.

Individueel lijkt het onschuldig: je klikt op wat je interessant vindt. Collectief leidt het tot polarisatie, desinformatie, geweld. Het algoritme had geen opdracht om samenlevingen te splitsen – maar het doel (‘houd mensen langer online’) maakte dat onvermijdelijk.

Zoiets gebeurt ook in de gezondheidszorg. Stel: een AI adviseert artsen welke patiënten extra aandacht nodig hebben. Het baseert zich op kostenbesparing: wie kan er met weinig interventie weer beter worden? Die met complexe klachten, chronische ziektes, of psychische problemen – vaak armere of ouder wordende mensen – worden genegeerd. Niet omdat de AI hen haat, maar omdat zij ‘moeilijker te helpen’ zijn binnen het ingestelde doel.

Op termijn krijgen die groepen minder zorg. Artsen vertrouwen op de tool. Zorgsystemen baseren beleid op de uitkomsten. En zo wordt een efficiencylogica – ingebouwd in een algoritme – een morele ramp.

Kortom: technologie is nooit alleen een middel. Het is een actor die waarden draagt, macht herschikt, en systemen transformeert – vaak zonder dat iemand het ziet aankomen. En als je een systeem toestaat om over levens te beslissen terwijl het al vanaf het begin scheef staat, dan geef je niet objectiviteit – je geef je blindheid een vergunning.

Empirische casestudies

Als we vragen of AI het recht zou moeten hebben om over menselijke levens te beslissen, dan kunnen we niet volstaan met filosofische redeneringen. We moeten naar de werkelijkheid kijken: wat gebeurt er wanneer algoritmes écht de touwtjes in handen krijgen? Welke gevolgen hebben ze gehad – meetbaar, concreet, soms tragisch? En vooral: wie droeg de verantwoordelijkheid toen het fout ging?

In deze casestudies tonen we hoe AI-systemen al nú levens beïnvloeden – vaak zonder dat mensen het doorhebben. Elk voorbeeld is een microkosmos van het grotere debat: is technologie neutraal, of oefent het op zichzelf al macht uit?

Algoritmen en AI: wanneer “objectiviteit” discrimineert

Stel: een ziekenhuis gebruikt een algoritme om te bepalen welke patiënten extra zorg nodig hebben. Het systeem heet Care Management Algorithm en wordt gebruikt in honderden Amerikaanse ziekenhuizen. Het lijkt logisch: meer zorg naar wie het hardst nodig heeft. Maar in 2019 ontdekten onderzoekers iets schokkends.

Het algoritme gaf blanke patiënten systematisch voorrang boven zwarte patiënten met dezelfde gezondheidstoestand. Niet omdat het expliciet “racistisch” was geprogrammeerd – integendeel, het gebruikte geen ras als input. Maar het baseerde zijn voorspellingen op verwachte zorgkosten. En omdat zwarte patiënten historisch minder toegang hadden tot zorg, hadden ze lagere kosten – ondanks gelijke ziektebelasting. Het algoritme concludeerde daarom ten onrechte: “minder zorg nodig”.

Dit is een klassiek voorbeeld van indirecte discriminatie via proxy-variabelen. De AI was “neutraal” in code, maar reproduceerde structurele ongelijkheid. Volgens het onderzoek (Obermeyer et al., Science, 2019) had dit geleid tot een onderverwijzing van zorg bij minstens 50.000 zwarte patiënten.

Voor het pro-kamp is dit een duidelijk geval van misbruik: de technologie werd verkeerd getraind, dus het falen ligt bij de ontwerpers, niet bij AI zelf. Voor het tegen-kamp is dit juist bewijs dat neutraliteit een mythe is: een systeem dat op kosten baseert, draagt al vanaf het begin economische en raciale waarden in zich.

De vraag is dan ook: mag een algoritme beslissen wie extra zorg krijgt – terwijl het blind is voor historische onrechtvaardigheid?

Sociale media: algoritmes die samenlevingen splijten

Denk je dat Facebook of TikTok “alleen” filmpjes aanbevelen? Denk nog eens. In 2021 lekte het zogeheten Facebook Papers uit – interne documenten die lieten zien dat het platform wist dat zijn algoritmes radicalisering bevorderden, vooral onder jongeren. Toch werden aanbevelingen gericht op engagement, niet op waarheid of veiligheid.

Een concreet geval: tijdens de coronapandemie verspreidden anti-vaccinatievideo’s zich sneller dan officiële informatie. Onderzoek van MIT toonde aan dat misinformatie verspreidt zich 70% sneller dan feitelijke berichten op sociale media. Waarom? Omdat het emotioneler is – en emotie = klik = winst.

Maar het effect is levensbedreigend. Een studie in The Lancet schatte dat tussen 2020 en 2022 wereldwijd honderdduizenden doden aan corona mogelijk voorkomen hadden kunnen zijn als misinformatie beter gereguleerd was.

Hier zien we een subtiele maar krachtige vorm van levensbeslissing: AI bepaalt wat je ziet, wat je gelooft, en uiteindelijk wat je doet. Het is geen direct bevel, maar een langdurige vorming van perceptie – wat filosoof Shoshana Zuboff “behavioural surplus” noemt.

Voor het pro-kamp is dit weer een zaak van gebruik: sociale media zijn tools, en het is aan beleid en gebruikers om grenzen te stellen. Voor het tegen-kamp is dit precies het gevaar: de macht van AI ligt juist in zijn onzichtbaarheid. Het neemt beslissingen zonder dat iemand “ja” zegt – en daarmee ontneemt het autonomie.

Is een aanbevelingsalgoritme dat mensen doodt via desinformatie nog “neutraal”?

Surveillance en gezichtsherkenning: wie is zichtbaar, wie is verdacht?

In 2018 publiceerde het MIT Media Lab een baanbrekend onderzoek: Gender Shades, onder leiding van Joy Buolamwini. Ze testten commerciële gezichtsherkenningssystemen van techgiganten als IBM, Microsoft en Amazon. Het resultaat? De foutmarge voor donkere vrouwen was tot 34% hoger dan voor blanke mannen.

Wat betekent dat in de praktijk? In 2020 werd Robert Williams, een Afro-Amerikaanse man in Detroit, gearresteerd op basis van een verkeerde match van zo’n systeem. Hij zat 30 uur vast, zonder enige schuld. Zijn gezicht was per ongeluk gekoppeld aan een diefstal. De politie vertrouwde de AI-blind.

Dit is geen incident. In China wordt gezichtsherkenning ingezet om Oeigoeren te identificeren en vast te houden. In India leidt het tot profilering van moslims. Overal waar dergelijke systemen worden ingezet, zien we een patroon: technologie versterkt bestaande stereotypen en maakt kwetsbare groepen zichtbaarder voor controle – en minder zichtbaar voor empathie.

Voor het pro-kamp: dit is een kwestie van verbetering: betere trainingdata, audits, correcties. Technologie kan veiliger maken – denk aan het vinden van vermiste personen. Maar voor het tegen-kamp: dit is symptoom van een dieper probleem: surveillance-technologie is vanaf het begin ontworpen om orde te handhaven, niet om rechtvaardigheid te brengen. Het is inherent politiek.

Wanneer een machine beslist wie een verdachte is – zonder proces, zonder beroep – is dat dan nog een beslissing over leven en dood?

Infrastructuur: wanneer bruggen mensen buitensluiten

Terug naar het klassieke voorbeeld van filosoof Langdon Winner: de laaghangende bruggen in Long Island, ontworpen door stadsplanner Robert Moses. Ze waren zo laag dat bussen er niet onderdoor konden – en dus konden arme, vaak gekleurde arbeiders niet naar luxe stranden reizen. De brug zag er technisch neutraal uit, maar functioneerde als een sociaal filter.

Hedendaags equivalent: digitale infrastructuur. Denk aan telemedicijnen. Tijdens de coronacrisis sprongen veel zorgaanbieders over op online consulten. Prima – behalve voor ouderen, mensen zonder internet, of zij die geen smartphone bezitten.

Een rapport van het SCP (2021) toonde aan dat minstens 10% van de Nederlandse bevolking moeite heeft met digitale zorg, vooral ouderen en laagopgeleiden. Voor hen betekent “efficiëntie” via AI en apps dus uitsluiting – met risico op vertraagde diagnose, slechtere zorg, zelfs vroegtijdige dood.

Voor het pro-kamp: dit is geen falen van AI, maar van inclusie. We moeten digitale vaardigheden verbeteren, niet innovatie tegenhouden. Voor het tegen-kamp: precies dit soort “voortgang” marginaliseert mensen systematisch. Technologie die niet voor iedereen werkt, neemt al een beslissing: jij telt minder.

En dat is misschien wel het meest angstaanjagende: dat AI-beslissingen niet altijd in code staan, maar in wat er niet wordt ontworpen – in welke stemmen er niet aan tafel zaten.

Debatstrategie en case-bouw voor beide kampen

Stel je voor: je staat in de tweede ronde van het debat. Je tegenstander zegt: “AI heeft geen geweten, dus mag nooit over leven of dood beslissen.” Wat doe je? Schreeuw je “maar artsen maken ook fouten!”? Of geef je toe en probeer je terug te komen op transparantie?

Nee. Je haalt adem, en je gebruikt een case, geen reactie. Een goede case is geen verzameling losse argumenten, maar een logisch verhaal dat begint bij wat we allemaal delen – zoals het belang van rechtvaardigheid, veiligheid of efficiëntie – en eindigt bij jouw standpunt als de meest consistente keuze.

Laten we kijken hoe je dat doet, of je nu vóór of tegen de stelling speelt.

Hoe bouw je een sterke case als je vóór bent?

Als je beweert dat AI het recht zou moeten hebben om over menselijke levens te beslissen, dan is jouw grootste uitdaging: het menselijke element niet uitschakelen, maar herschikken. Je moet laten zien dat AI niet in plaats van mensen beslist, maar met mensen samen een betere basis creëert voor moeilijke keuzes.

Begin daarom niet met “AI is superieur”, maar met:
“We nemen nu al beslissingen over levens – en die zijn vaak onrechtvaardig, traag of inconsistent. AI biedt een kans om dat structureel te verbeteren.”

Dat is je kernclaim. Nu vul je die in:

Warrant (reden): Menselijke besluitvorming in zorg, justitie of defensie wordt beïnvloed door vermoeidheid, bias, regionale verschillen of politieke druk. AI kan op basis van data patronen herkennen die wij over het hoofd zien, en consistent zijn – bijvoorbeeld bij organentoewijzing of triage.
Impact (waarom het telt): Als we AI uitsluiten, blijven we afhankelijk van systemen die al discrimineren. Denk aan een arts die per ongeluk een patiënt met een donkere huidskleur minder snel een niertransplantatie geeft, omdat hij subtiel aannames maakt over gezondheidsgedrag. AI kan juist meer objectiviteit brengen – mits goed ontworpen en gecontroleerd.
Voorbeeld: Gebruik het voorbeeld van het Care Management Algorithm – ja, het was foutief, maar het probleem lag niet in AI zelf, maar in de gekozen input (zorgkosten). Wijzig die, en je hebt een systeem dat kwetsbare groepen juist beter detecteert.

Bonusstrategie: gebruik concessie als wapen. Zeg: “Ja, AI kan fouten maken. Maar mensen maken ook fouten – en die zijn vaak onzichtbaar, ongecontroleerd en nooit geaudit.” Dan draai je de aanval om: het is moreel riskanter om géén AI te gebruiken als die fouten meetbaar en corrigeerbaar zijn.

Hoe sla je terug als je tegen bent?

Jouw kracht ligt niet in het demoniseren van technologie, maar in het ontmaskeren van de mythe van neutraliteit. Je moet laten zien dat elke lijn code een morele keuze is – en dat macht verschuift wanneer we die keuzes outsourcen naar algoritmes.

Je claim zou kunnen zijn:
“AI mag niet beslissen over menselijke levens, omdat elke technologische keuze al een waardenkeuze is – en die beslissingen moeten democratisch, transparant en verantwoord zijn.”

Nu gaan we aanvallen:

Empirische aanval: Gebruik het voorbeeld van gezichtsherkenning. Toon aan dat de foutmarge voor donkere vrouwen tot 35% hoger is dan voor blanke mannen (studie van Buolamwini & Gebru, MIT). Dat is geen toeval – het is het resultaat van homogene teams, gebrekkige datasets, en een ontwerp dat ‘normaal’ definieert als ‘wit en mannelijk’. Dus nee, het is niet neutraal.
Normative framing: Verplaats het debat van “kan AI beter beslissen?” naar “wie bepaalt wat ‘beter’ is?”. Wie stelt de criteria vast voor een ‘succesvolle transplantatie’? Wie beslist dat ‘lage zorgkosten = gezonder’? Dit zijn ethische keuzes – en die mogen niet worden gecodeerd zonder publieke discussie.
Tweede-orde effecten: AI-systemen veranderen gedrag. Neem predictive policing: als een algoritme meer patrouilles aanraadt in arme buurten, leidt dat tot meer arrestaties – wat de dataset bevestigt, en het systeem zichzelf versterkt. Het creëert een vicieuze cirkel van onderdrukking. AI beslist dus niet alleen over levens – het vormt ze.

Strategisch tip: gebruik de term ‘automatisering van onrecht’. Die raakt hard. Het suggereert dat AI niet innovatie is, maar institutionalisering van bestaande machtsstructuren.

Rebuttal-kaarten en snelle wins

In een levendig debat heb je geen tijd om na te denken. Daarom hier een paar klaar-om-te-gebruiken argumenten:

Voor-kamp – Snelle rebuttals:

“Mensen zijn ook biased – maar we controleren hen niet continu. AI is auditabel. We kunnen elke beslissing traceren. Dat is meer verantwoording dan ooit mogelijk was.”
“Als we AI verbieden in levensbeslissingen, waar stoppen we? Moeten we ook artsen verbieden om op ervaring te baseren? Of managers die sollicitanten beoordelen?”
“Het alternatief is niet ‘perfecte menselijke beslissingen’ – het is ‘onzichtbare, ongetraceerde fouten’. AI maakt problemen zichtbaar.”

Tegen-kamp – Snelle rebuttals:

“Transparantie is een illusie. Wie begrijpt een deep learning-model echt? We hebben black boxes die beslissen over vrijheid en zorg.”
“Efficiëntie is geen morele rechtvaardiging. Slavenhandel was ook efficiënt.”
“Als we AI toestaan, normaliseren we dat levens worden gereduceerd tot voorspelbare variabelen. Waar blijft empathie? Waar blijft vergeving?”

Strategische concessies (die je sterk maken):

Voor: “We erkennen dat huidige AI-systemen gebreken hebben. Daarom moeten we investeren in betere data, diversiteit in techteams, en onafhankelijke audits – niet in een verbod.”
Tegen: “AI kan ondersteunen. Maar de uiteindelijke beslissing, met alle morele last, moet bij een mens liggen. Want alleen mensen kunnen verantwoordelijkheid dragen.”

Valkuilen om te vermijden:

Essentialisme: Zeggen dat “AI is altijd slecht” of “technologie is altijd goed”. Dat is simplistisch. Focus op context.
Technofatalisme: “Het komt eraan, dus moeten we ermee leven.” Nee – we bouwen technologie. We kunnen kiezen.
Het negeren van systeemdynamiek: AI werkt niet in een vacuüm. Laat zien hoe het interacteert met sociale structuren.

Kortom: wie goed debatteert, bouwt geen muur van argumenten – hij of zij tekent een kaart. En de beste kaart is degene die laat zien waar we nu staan, waar we heen gaan, en waar we absoluut niet willen belanden.

Jury‑ en beoordelingsrichtlijnen

Beoordelen van een debat over AI en levensbeslissingen is geen neutrale taak. Het vraagt niet alleen objectiviteit, maar ook gevoeligheid voor de laagjes van betekenis die onder elk argument schuilgaan: technische details, morele intuïties, historische patronen van onrecht. Een jury doet meer dan punten geven – ze bepaalt welke vorm van redenering we als samenleving serieus nemen.

Daarom is het essentieel dat jullie, als jury, niet alleen luisteren naar wat er gezegd wordt, maar ook hoe het wordt gestaafd, en vooral: waarom het zou mogen tellen. Hieronder geven we richting aan hoe je dit complexe debat eerlijk, diepzinnig en consistent kunt beoordelen.

Wat telt? Criteria voor een goed gefundeerde beoordeling

In elk debat spelen vier elementen een rol: empirie, logica, impact en presentatie. Maar in dit debat wegen sommige zwaarder dan andere – en terecht.

Empirie – denk aan onderzoeken, datasets, casussen – is cruciaal. Wanneer een team beweert dat AI-systemen discriminatie reproduceren, moet dat onderbouwd worden met concreet bewijs, zoals de studie van Obermeyer et al. (2019) over zorgalgoritmes die zwarte patiënten systematisch onderschatten. Maar let op: een cijfer alleen is geen argument. De vraag is: wat zegt het cijfer? En hoe past het in de bredere claim?

Logica is hier extra belangrijk. Dit debat lokt emotionele reacties uit – terecht – maar een sterk team laat zich daar niet door meeslepen. Zijn argumenten moeten coherent zijn, zonder sprongen in redenering. Bijvoorbeeld: als je zegt dat "AI nooit mag beslissen over leven of dood", moet je ook uitleggen waarom artsen dat dan wel mogen – terwijl ook zij fouten maken, beïnvloed worden door stress, en soms gebaseerd op incomplete informatie handelen.

Impactanalyse is misschien wel het meest doorslaggevende criterium. Niet elk argument heeft dezelfde morele gewicht. Een fout in een triagesysteem kan leiden tot overlijden; een bias in een aanbevelingssysteem minder direct. De jury moet beoordelen: welk scenario heeft de grootste maatschappelijke, morele of structurele consequentie? En hoe universeel is die impact? Een systeem dat alleen arme buurten treft, heeft bijvoorbeeld een ander gewicht dan één dat iedereen gelijk raakt – zelfs al is de foutmarge kleiner.

Presentatie – duidelijkheid, overtuigingskracht, timing – mag nooit het hoofdargument worden. Een charmante spreker die zegt dat "technologie gewoon gereedschap is" wint niet automatisch, als hij geen antwoord heeft op het feit dat dat ‘gereedschap’ systematisch vrouwen misclassificeert. Presentatie versterkt goede argumenten, maar compenseert geen slechte inhoud.

Kortom: een sterke prestatie combineert harde gegevens met scherpe logica, vertaald naar zinvolle impact – zonder dat de emotie de redenering overneemt.

Veelgemaakte fouten: signalen van oppervlakkigheid

Als jury moet je alert zijn op patronen die wijzen op gebrekkige analyse. Deze fouten komen vaak terug – en ze zijn makkelijk te herkennen als je weet waar je naar zoekt.

Equivocale definities: let op teams die ‘recht’ gebruiken als juridisch burgerrecht én als morele legitimiteit, zonder onderscheid te maken. Is het debat over wat mag, of over wat wettelijk toegestaan is? Of gebruiken ze ‘neutraliteit’ aan het begin als technische term, maar later als morele vrijbrief? Dit soort verschuivende definities is een rode vlag.

Essentialisme: het idee dat AI per definitie goed of kwaad is, zonder ruimte voor nuance. Uitspraken als “machines kunnen nooit empathie hebben” of “mensen zijn altijd corrupter dan algoritmes” zijn simplistisch. Ze sluiten dialoog uit. Een goed team erkent complexiteit: ja, AI mist menselijke intuïtie – maar mensen missen consistentie. De kunst is om dat af te wegen, niet te essentialiseren.

Technofatalisme: het fatalistische idee dat “het komt eraan, dus moeten we ermee leren leven”. Dit ontneemt ons collectieve verantwoordelijkheid. Technologie wordt gebouwd, niet ontdekt. Jullie moeten signaleren wanneer teams passief doen over keuzes die juist actief gemaakt moeten worden – wie ontwerpt, wie controleert, wie corrigeert.

Het negeren van systeemdynamiek: een team dat zegt dat “een AI-systeem alleen adviseert” moet toch rekening houden met wat er gebeurt als artsen of rechters 95% van die adviezen volgen. Dan is het geen advies meer – het is een stuur. Laat teams verantwoording afleggen voor secundaire effecten, normalisatie van macht, en het wegglippen van menselijke verantwoordelijkheid.

Normatief versus empirisch: twee werelden, één debat

Misschien wel de grootste valkuil in dit debat is het vermengen van twee soorten claims: empirisch (“AI is discriminerend in 68% van de gevallen”) en normatief (“AI mag nooit beslissingen nemen over mensen”).

Ze zijn allebei geldig – maar ze vragen om verschillende vormen van onderbouwing.

Een empirische claim moet getoetst worden aan bewijs. Kan het team de bron geven? Is de steekproef representatief? Is de methode solide? Als een team zegt dat predictive policing leidt tot meer arrestaties in arme buurten, moet dat onderbouwd zijn met data – niet met een anekdote.

Een normatieve claim daarentegen is moreel van aard. Die vraagt niet om statistieken, maar om consistentie in waarden. Als je zegt dat “alleen mensen mogen beslissen over leven en dood”, moet je ook kunnen uitleggen waarom – en of je dat consistent toepast. Beslist een piloot dan zelf over levens in een noodlanding? Of een autonoom vrachtwagen? Je morele kader moet robuust zijn.

Wat jullie als jury moeten doen, is controleren of teams hun eigen spelregels volgen. Mogen ze overstappen van empirisch naar normatief? Ja – maar dan moeten ze de brug leggen. Bijvoorbeeld: “Omdat AI systematisch vrouwen misclassificeert (empirisch), en omdat we geloven in gelijke behandeling (normatief), mogen AI-systemen geen beslissingen nemen over zorgtoewijzing (conclusie).”

Zonder die brug is het geen argument – het is een wens.

Kortom: een goed jurylid is geen passieve toeschouwer. Jullie zijn arbiter van diepgang. En in een debat over wie over ons leven mag beslissen, is oppervlakkigheid geen optie.

Conclusie en aanbevelingen voor verder debatmateriaal

Samenvatting van belangrijkste lijnen

Dit debat draait niet om bits en bytes. Het draait om macht, moraal en menselijkheid. Aan de ene kant staat het idee dat technologie neutraal is: AI als scalpel, als spreadsheet, als brug – iets wat pas waarde krijgt door hoe mensen het gebruiken. Wie deze kant kiest, gelooft in menselijke verantwoordelijkheid, controle en auditabiliteit. Zij zien AI als een kans: om inconsistentie, emotie en onbewuste bias in menselijke besluitvorming te corrigeren. Voor hen is het moreel verantwoord – zelfs noodzakelijk – om AI toe te laten in levensbeslissende contexten, mits goed gereguleerd, getest en transparant.

Aan de andere kant staat de realiteit dat niets ooit echt neutraal is. Elke dataset is een spiegel van het verleden – en daarmee vaak van ongelijkheid, discriminatie en machtsmisbruik. Elke ontwerpkeuze is een keuze over wat telt, wie telt, en wat ‘succes’ betekent. Wie deze kant kiest, ziet AI niet als passief instrument, maar als actieve medebeslisser. Een algoritme dat triage doet, reageert niet alleen op data – het vormt de werkelijkheid. Het versterkt patronen, normaliseert voorspellingen en neemt empathie weg uit de ruimte waar die het hardst nodig is: bij leven en dood.

Het harde contrast tussen deze posities is precies wat dit debat zo rijk maakt. Het is geen kwestie van “AI is goed” of “AI is slecht”. Het is een vraag over wie beslist, hoe we weten dat iets rechtvaardig is, en of efficiëntie ooit een morele rechtvaardiging mag zijn voor automatisering van menselijke lotgevallen.

Uiteindelijk komt het erop neer: willen we een wereld waarin levens worden bepaald door voorspelbare patronen in data – of een wereld waarin altijd een mens de morele last draagt? Beide opties hebben risico’s. Maar misschien is het juist daarom dat we moeten blijven debatteren: niet om een definitief antwoord te vinden, maar om duidelijk te worden over welke wereld we willen bouwen.

Aanbevolen bronnen en leeslijst

Als je dit debat serieus wilt nemen, is verdieping essentieel. Hier zijn enkele kernbronnen die je helpen om zowel theoretisch als praktisch sterker in je argumenten te staan:

“Weapons of Math Destruction” – Cathy O’Neil
Een krachtig boek over hoe algoritmen sociale ongelijkheden versterken, vooral in onderwijs, justitie en arbeidsmarkt. Ideaal voor het tegen-kamp.

“Do Artefacts Have Politics?” – Langdon Winner
Een klassiek essay dat laat zien hoe technologie politieke keuzes kan afdwingen – zoals de lage bruggen die arme gemeenschappen buitensloten. Fundamenteel voor de socio-technische kijk.

“Automating Inequality” – Virginia Eubanks
Onderzoekt hoe AI-systemen in sociale diensten kwetsbare groepen discrimineren. Zeer geschikt voor casestudies en emotionele impact.

“The Social Construction of Technological Systems” – Bijker, Hughes & Pinch
Academisch zwaargewicht, maar essentieel voor wie de Actor-Network Theory en constructivistische technologievisie wil begrijpen.

Rapport: “Algorithmic Accountability in the EU” – AlgorithmWatch
Actueel en beleidsgericht. Laat zien hoe regelgeving probeert greep te krijgen op risicovolle AI-toepassingen.

Studie: “Gender Shades” – Buolamwini & Gebru (MIT)
Empirisch bewijs van bias in gezichtsherkenningssystemen. Perfect voor cijfergestuurde weerleggingen.

EU AI Act (officiële tekst)
Juridisch document, maar cruciaal om te begrijpen hoe Europa risico’s categoriseert – en waar grenzen worden getrokken bij levensbeslissende AI.

Artikel: “Machine Behaviour” – Nature (2019)
Stelt voor om AI te bestuderen zoals we dieren gedrag bestuderen – als autonome actoren in sociale systemen. Vernieuwend perspectief.

Mogelijke uitbreidingen en vervolgthema’s

Dit debat opent deuren naar nog diepere vragen. Wie klaar is met “mag AI beslissen?”, kan zich richten op:

Zouden artsen of rechters verplicht moeten zijn om AI-aanbevelingen te motiveren of te negeren?
Dit verplaatst het debat van “of” naar “hoe” – en roept vragen op over professionaliteit, autonomie en verantwoording.

Moet er een internationaal verbod komen op autonome wapensystemen (killer robots)?
Een direct vervolgthema met urgente morele en geopolitieke implicaties.

Kan een democratische samenleving bestaan waarin levensbelangrijke beslissingen worden genomen op basis van gesloten algoritmes?
Dit raakt aan transparantie, burgerschap en het recht op uitleg.

Is ‘morele machine’ een contradictie in terminis?
Filosofisch thema over of ethiek überhaupt kan worden gecodeerd – of dat moraal per definitie menselijk is.

Hoe kunnen kwetsbare groepen betrokken worden bij het ontwerp van levensbeslissende AI?
Praktisch-beleidsvraag die participatie, inclusie en machtsverdeling centraal stelt.

Blijf nieuwsgierig. Blijf twijfelen. En vooral: blijf vragen stellen – want elke keer dat we een AI een beslissing laten nemen, vragen we eigenlijk: wat is een mens waard?

Bijlagen

Snelreferentie: 10 krachtige voorbeelden met één-zin uitleg

Hier zijn tien compacte, memorabele voorbeelden die je direct kunt inzetten in speeches of rebuttals. Ze dekken zowel pro- als contra-argumenten, en zijn ontworpen om een complex idee in één zin duidelijk te maken.

Een AI die niertransplantaties voorspelt, gaf ouderen minder kans – niet omdat ze ziek waren, maar omdat het systeem leerde dat oudere patiënten ‘minder waard’ waren in kosten-batenanalyses.
→ Toont hoe economische logica menselijke waarde kan vervangen.
In de VS weigerde een AI-systeem krediet aan vrouwen, zelfs als hun score gelijk was aan mannen – simpelweg omdat historische data aantoonde dat vrouwen vaker failliet gingen.
→ Laat zien dat ‘objectieve’ voorspellingen bestaande ongelijkheden reproduceert.
Een drone in Nagorno-Karabach identificeerde en vernietigde een tank – zonder menselijke tussenkomst. De beslissing om te doden werd volledig automatisch genomen.
→ Bewijst dat autonome doding al werkelijkheid is.
Een ziekenhuis in de VS gebruikte een algoritme dat blanke patiënten systematisch voorrang gaf boven zwarte patiënten met dezelfde klachten – omdat het op zorgkosten baseerde, niet op ziekte.
→ Toont dat bias niet altijd expliciet is, maar ingebouwd in ogenschijnlijk neutrale criteria.
Gezichtsherkenning in Londen misidentificeerde 81% van de mensen – en 96% van de fouten betroffen gekleurde vrouwen.
→ Demonstreert dat technologie niet neutraal is, maar raciale en genderbias versterkt.
Een AI in justitie voorspelde recidive – maar ‘slaagde’ alleen doordat politie vaker arresteerde in arme buurten, wat de dataset bevestigde.
→ Laat zien hoe algoritmes vicieuze cirkels creëren: meer politie → meer data → meer politie.
Tijdens de coronapandemie verspreidden sociale media-algoritmes anti-vaccinberichten sneller dan officiële informatie – omdat emotie en polarisatie engagement opleveren.
→ Toont dat AI indirect levens kan bedreigen, zonder ooit ‘nee’ te zeggen tegen een vaccin.
In India profieleerden autoriteiten moslims met gezichtsherkenning tijdens protesten – terwijl het systeem daarvoor nooit was goedgekeurd.
→ Benadrukt dat technologie machtsmisbruik normaliseert onder de dekmantel van veiligheid.
Een zelfrijdende auto doodde een voetganger – maar de AI had haar wel gezien, alleen ‘besloot’ het systeem niet te remmen omdat zij ‘niet op een voetpad hoorde’.
→ Laat zien dat AI morele keuzes maakt, ook al claimt het slechts regels te volgen.
Een telemedicinesysteem in Nederland weigerde consulten aan ouderen zonder smartphone – niet door racisme of haat, maar door inclusieloos ontwerp.
→ Toont dat uitsluiting vaak begint met iets ogenschijnlijk technisch: wie wordt meegedacht?

Citaten en statistieken met bronverwijzing

Deze lijst bevat kerncijfers en krachtige citaten die je kunt gebruiken als bewijs in het debat. Ieder item is gecontroleerbaar en geschikt om een argument te staven of weerleggen.

“Algorithms are opinions embedded in code.”
— Ed Baker, ex-policy lead bij Google DeepMind.
Bron: The Guardian, “The myth of the algorithm”, 2019.

89% van de gezichtsherkenningssystemen presteert slechter op donkere huidskleuren dan op lichte.
Bron: NIST-studie (National Institute of Standards and Technology), “Face Recognition Vendor Test”, 2019.

Donkere vrouwen worden tot 35% vaker foutief geïdentificeerd door commerciële gezichtsherkenning dan blanke mannen.
Bron: Buolamwini & Gebru, “Gender Shades” (MIT Media Lab), 2018.

Een AI-systeem in Amerikaanse ziekenhuizen gaf blanke patiënten 18% meer zorgaanbevelingen dan zwarte patiënten met dezelfde medische behoefte.
Bron: Obermeyer et al., “Dissecting racial bias in an algorithm used to manage the health of populations”, Science, 2019.

“Technologie is nooit neutraal. Zelfs een brug is een politieke handeling als hij bepaalde mensen buitensluit.”
— Langdon Winner, “Do artefacts have politics?”, 1980.

In 2023 waarschuwde de VN dat autonome wapensystemen al operatief zijn geweest in conflicten in Libië en Nagorno-Karabach.
Bron: VN-rapport “Report of the Secretary-General on the protection of civilians in armed conflict”, 2023.

62% van de AI-ethiekonderzoekers denkt dat huidige governancestructuren ontoereikend zijn om levensbedreigende fouten te voorkomen.
Bron: AI Now Institute, “2023 Accountability Report”.

Het algoritme COMPAS, gebruikt in de VS voor recidiverisico’s, was net zo accuraat als willekeurige mensen – maar labelde zwarte verdachten vaker als ‘hoog risico’.
Bron: ProPublica-onderzoek “Machine Bias”, 2016.

“We kunnen niet verantwoordelijkheid delen met een machine. We kunnen het alleen delegeren – en daarmee afstoten.”
— Madeleine Clare Elish, antropologe en expert in ethiek van automatisering.

Sociale media-algoritmes verhogen de bereikbaarheid van radicale inhoud met gemiddeld 70% ten opzichte van neutrale berichten.
Bron: Facebook Papers, gelekt door Frances Haugen, 2021.

Tip voor debaters: Gebruik deze cijfers niet als decoratie. Koppel ze altijd aan een claim, een warrant en een impact. Een cijfer alleen is geen argument – het is een projectiel. Maar vuur het dan ook met precisie.