Direct naar artikelinhoud Website logo

Voorpagina Editie Best gelezen Rubrieken

Reconstructie Amsterdams algoritme Amsterdam wilde met AI de bijstand eerlijker en efficiënter maken. Het liep anders Bron Brechtje Rood Al vaker ging de overheid de mist in met algoritmes bedoeld om uitkeringsfraude te bestrijden. De gemeente Amsterdam wilde het allemaal anders doen, maar kwam erachter: een ethisch algoritme is een illusie.

Dit artikel is geschreven door Jeroen van Raalte redacteur lokale democratie

Gepubliceerd op 6 juni 2025, 22:00

Bewaren Delen Rutger Groot Wassink neemt plaats op zijn zetel in de Amsterdamse raadzaal. Hij zet zijn leesbril op, werpt een blik op de tablet voor zijn neus en richt zich dan tot de zaal met een korte mededeling. “Ik heb besloten de pilot stop te zetten.”

Wilt u elke dag de Middag nieuwsbrief van Trouw ontvangen via e-mail? E-mail Bijna terloops bezegelt de wethouder het lot van een groot experiment van Amsterdam met kunstmatige intelligentie. Jarenlang heeft de gemeente eraan gesleuteld. Maar nu, op deze woensdagmiddag in november 2023, draagt Groot Wassink het ten overstaan van een handvol gemeenteraadsleden ten grave.

Het gesneuvelde project heet Slimme Check, een zelflerend algoritme dat moest helpen bij de beoordeling van bijstandsaanvragen. Het computersysteem is ontwikkeld door de gemeente Amsterdam zelf. Het experiment is gedurfd, ambitieus, maar ook gevoelig. Kunstmatige intelligentie loslaten op de sociale zekerheid is een recept voor controverse.

Amsterdam trok alles uit de kast om een algoritme te bouwen dat de beoordeling van bijstandsaanvragen niet alleen efficiënter, maar ook rechtvaardiger maakt. De gemeente speelt open kaart en nodigt het journalistieke onderzoekscollectief Lighthouse Reports, dat eerder onthullingen deed over kwestieuze bijstandsalgoritmes, uit om over haar schouder mee te kijken.

Toch trekt wethouder Groot Wassink deze novemberdag de stekker uit Slimme Check. Waarom is het project mislukt? En wat leert dit over de valkuilen van kunstmatige intelligentie in de sociale zekerheid? In samenwerking met Lighthouse Reports en MIT Technology Review nam Trouw een kijkje onder de motorkap van het Amsterdamse algoritme.

Bron Brechtje Rood I. Een nobel algoritme Het idee voor een algoritme borrelt zo’n zeven jaar geleden op uit de ambtenarij. Bij de afdeling Werk, participatie en inkomen (WPI) bestaat de wens om de handhaving van de bijstand deels te automatiseren, vertelt strategisch adviseur Harry Bodaar in een kamer op het stadhuis.

De gemeente heeft namelijk een zware dobber aan de bijstand. Jaarlijks ontvangt de gemeente zo’n 7500 aanvragen voor een uitkering. Ambtenaren beoordelen deze handmatig. Zijn er op het eerste oog aanwijzingen voor onrechtmatigheid of zelfs fraude, dan belandt een aanvraag op het bureau van een handhaver. Die kan de indiener ondervragen en huisbezoeken afleggen. Blijkt de aanvraag in orde, dan wordt deze verwerkt. Zo niet, dan volgt een afwijzing.

Erg efficiënt gaat dit allemaal niet, zien ze bij WPI. Risico-inschatting is een complex, tijdrovend karwei. Het aantal aanvragen dat voor nadere controle naar de handhaving wordt doorgestuurd, daalt al jaren: van 15 procent in 2015 naar nog geen 4 procent in 2021. “Dat percentage is te laag, zeg ik uit ervaring”, aldus Bodaar, die al flink wat jaartjes meedraait in de handhaving.

Bovendien leveren die onderzoeken te weinig hits op. Het merendeel (60 procent) van de aanvragen die voor nader onderzoek worden geselecteerd, blijkt uiteindelijk gewoon rechtmatig. “Al die mensen hebben we dus ten onrechte lastiggevallen.”

AI maakt eerste schifting Kan kunstmatige intelligentie (AI) geen uitkomst bieden? Een systeem dat snel én beter een eerste schifting maakt in binnenkomende bijstandsaanvragen?

Amsterdam besluit een eigen computermodel te ontwikkelen. Het gaat om een zogeheten machinelearning-algoritme, dat met een dataset wordt getraind om onrechtmatige aanvragen te herkennen. De gedachte is dat AI patronen kan ontwaren die mensen ontgaan.

Aan de hand van vijftien features, kenmerken zoals inkomen en woonsituatie, bepaalt het model of een bijstandsaanvraag ‘onderzoekswaardig’ is. Zo ja, dan neemt een handhaver het dossier onder de loep.

Bron Bart Friso Amsterdam is niet de eerste gemeente die voor de verleiding van AI valt. De technologie oogt veelbelovend, maar ongelukken liggen op de loer. In Nederland kwam het al tot meerdere schandalen.

Zo verbood de rechter in 2020 het gebruik van SyRI, een overheidssysteem bedoeld om uitkeringsfraude op te sporen. Het jaar daarop staakte de gemeente Nissewaard de samenwerking met een databedrijf dat bijstandsaanvragen analyseerde op frauderisico’s – het systeem bleek onbetrouwbaar. En Rotterdam stopte in 2023 met een bijstandsalgoritme nadat Lighthouse Reports onthulde dat het alleenstaande moeders discrimineerde. Zelflerende algoritmes speelden ook een rol in de toeslagenaffaire bij de Belastingdienst.

Geen klopjacht, geen geheimen Op het Amsterdamse stadhuis zijn ze zich bewust van deze miskleunen. De progressieve hoofdstad wil het allemaal anders doen. Geen ontspoorde klopjacht op vermeende fraudeurs. Geen geheimzinnigheid. Geen vooringenomen algoritmes die kwetsbare groepen benadelen. Ditmaal moet kunstmatige intelligentie de burger dienen.

Het doel van Slimme Check is dan ook niet zoveel mogelijk fraudeurs pakken. De gemeente heeft een nobelere insteek: schulden voorkomen. “Als iemand te veel bijstand heeft ontvangen, moeten wij van de wet dat bedrag tot op de laatste cent terugvorderen”, schetst Bodaar.

Dat komt veel voor. De participatiewet is zo ingewikkeld geworden, dat een foutje snel is gemaakt. Ongeveer tienduizend Amsterdammers moeten momenteel (een deel van) hun ontvangen uitkering terugbetalen aan de gemeente. Een algoritme kan helpen het aantal uitkeringen dat onterecht wordt verstrekt te verminderen, redeneert de gemeente.

“We willen graag minder mensen met een bijstandsschuld”, zegt Bodaar. “Dus kiezen we voor preventie.”

II. Het gevaar van proxy’s De Amsterdamse programmeurs gaan volgens het boekje te werk. Naar gevoelige kenmerken als etniciteit, nationaliteit en geslacht kijkt het algoritme niet. Door het model te beperken tot vijftien features – ter vergelijking: het verboden overheidssysteem SyRI telde bijna negentig risico-indicatoren – willen ze de kans op onbedoelde discriminatie door het algoritme uitsluiten.

Want via omwegen, zogeheten proxy’s, kunnen vooroordelen alsnog een computermodel insluipen. Een bekend voorbeeld hiervan zijn postcodes. Op het oog is dat een objectieve maatstaf, maar wanneer in een wijk veel mensen met een migratieachtergrond wonen, kan dat ertoe leiden dat het algoritme alsnog onevenredig vaak een etnische groep als risico bestempelt.

Amsterdam wil daarnaast voorkomen dat het systeem een zwarte doos wordt. Slimme Check moet een explainable (uitlegbaar) algoritme zijn: een leek moet kunnen begrijpen hoe het model tot zijn oordeel komt. “Een beetje een marketingterm”, stelt Jurriaan Parie. Hij is directeur van Algorithm Audit, een Haagse stichting die maatschappelijke toepassingen van algoritmes onderzoekt. “Het algoritme is ietsje begrijpelijker. Maar het blijft te complex om aan gewone burgers uit te leggen.”

Eigenlijk, zegt zijn collega Ylja Remmits, moet je in zo’n model alleen variabelen stoppen die een logisch verband hebben met wat je probeert te voorspellen. “Neem de kleur van iemands auto. Die zegt natuurlijk niets over frauderisico’s, maar zou in een computermodel wel een statistische correlatie kunnen vertonen met fraude.”

Om zulke missers voor te zijn, wint het Amsterdamse team in 2022 advies in bij een keur aan adviesgroepen. Zo laten ze een mensenrechtenassessment, een privacytoets en een AI-assessment uitvoeren. Ook de Commissie Persoonsgegevens en adviesbureau Deloitte buigen zich over het project. Na wat mitsen en maren geven ze allemaal hun zegen.

Behalve één.

III. Wantrouwen en kritiek In een Amsterdams café parkeert Anke van der Vliet (76) haar rollator, vist haar leesbril uit een etui en zet zich aan een tafeltje. Al decennialang komt ze op voor de belangen van mensen in de bijstand. Dit zijn er zo’n veertigduizend in Amsterdam. Tot voor kort was ze lid van de Participatieraad, die namens Amsterdamse uitkeringsgerechtigden de gemeente gevraagd en ongevraagd advies geeft.

Ook over Slimme Check. “Wij wantrouwden het vanaf het begin”, vertelt Van der Vliet. “Iedereen was ertegen.” Dat de gemeente een heel systeem optuigt om een handvol fraudeurs te pakken, is disproportioneel, zo schrijft de Participatieraad in het voorjaar van 2022 in een negatief advies. Daarin uit de raad ook zorgen over privacy: ‘De raad is van mening dat een dergelijk experiment de fundamentele grondrechten van burgers aantast en dient te worden gestaakt.’

Intern volgen meer kritische geluiden. Begin 2023, als het computermodel zo goed als gereed is voor een test in de praktijk, publiceert de gemeente het plan voor Slimme Check in het algoritmeregister. Als eerste stad in Nederland hanteert Amsterdam een openbaar overzicht van alle algoritmes die de burger kunnen raken.

Bron Brechtje Rood ‘Een slecht idee’ Als Hans de Zwart over het project leest, valt hij bijna van zijn stoel. “Ik dacht meteen: dit is een slecht idee.” De Zwart geldt als een luis in de pels. De voormalig directeur van Bits of Freedom is als techniekfilosoof verbonden aan de Hogeschool van Amsterdam, bij een afdeling die op verzoek van de gemeente kritisch meedenkt over technologische ontwikkelingen.

Quote van techniekfilosoof Hans de Zwart . In de computerwereld klinkt steeds meer de kritiek dat algoritmes zich niet lenen voor fraudebestrijding techniekfilosoof Hans de Zwart Al gaat de gemeente nog zo zorgvuldig te werk, volgens hem blijft het risico op geautomatiseerde discriminatie levensgroot bij zo’n computermodel. “Je moet heel terughoudend zijn met het gebruik van algoritmes voor dit soort doeleinden

When the Cold War standoff between two nuclear superpowers ended, many U.S. officials hoped that nuclear weapons would lose their relevance. Instead, the bomb is “back with a vengeance,” write the nuclear experts Vipin Narang and Pranay Vaddi in the latest issue of Foreign Affairs. Russia has threatened to use nuclear weapons in Ukraine, China has vastly increased its arsenal, and the diplomatic guardrails that limited proliferation for decades have eroded. Now, for the first time, the United States must “deter and protect its allies from multiple nuclear-armed great-power rivals” at once.

To navigate these rising dangers, the United States needs to upgrade its nuclear capabilities, revive arms control talks with China and Russia, and once again place nuclear affairs at the forefront of American grand strategy, argue Narang and Vaddi. If this effort fails, Washington “could find itself in a full-blown nuclear arms race”—or, worse, face an adversary that uses a nuclear weapon because the United States “appears to be unwilling or unable to deter such an attack.”

Gemini Dit is een samenvatting van het opiniestuk "Creating a Culture of Helplessness" van Tom Nichols in The Atlantic van 30 juni 2025. https://sites.google.com/view/stylo-aisite/samenvattingen/trump-insults-america

De Gevaarlijke Moralische Equivalentie van Trump

Tom Nichols, een expert in internationale betrekkingen, bekritiseert in zijn artikel de neiging van president Donald Trump om de Verenigde Staten moreel gelijk te stellen aan autoritaire regimes zoals China en Rusland. Nichols stelt dat Trump deze morele equivalentie toepast als een vast patroon in zijn retoriek, wat hij als schadelijk voor de Amerikaanse democratie beschouwt.

Trumps reactie op beschuldigingen tegen China: Nichols illustreert zijn punt met een recent interview van Trump met Fox Business-presentatrice Maria Bartiromo. Toen Bartiromo Trump confronteerde met Chinese misdaden, zoals spionage, diefstal van intellectueel eigendom en de verspreiding van fentanyl, wuifde Trump de beschuldigingen weg. Hij suggereerde dat Amerika "hetzelfde doet", en herhaalde cynisch: "Dat is hoe de wereld werkt. Het is een smerige wereld." Nichols, die meer dan drie decennia internationale betrekkingen heeft gedoceerd, erkent dat de wereld complex is, maar verwerpt ten stelligste het idee dat de VS en China simpelweg "twee stoute kinderen op de speelplaats" zijn.

Eerdere voorbeelden en de motivatie van Trump: Dit is niet de eerste keer dat Trump deze tactiek gebruikt. Nichols herinnert aan een incident in 2017 toen Trump, geconfronteerd met de kwalificatie van Poetin als een "killer" door Bill O'Reilly, antwoordde: "We hebben veel moordenaars. Ons land is toch niet zo onschuldig?"

Nichols betoogt dat Trumps moralische equivalentie niet voortkomt uit een diepgeworteld filosofisch standpunt of een strategische overweging. In plaats daarvan is het een uiting van intellectuele luiheid en een gebrek aan moreel onderscheidingsvermogen. Principes zijn voor Trump hinderlijk als ze zijn onmiddellijke "winst" (in de nieuwscyclus, een onderhandeling, of een discussie) in de weg staan. Trumps gebrek aan principes wordt verder geïllustreerd door zijn gemakkelijke omschakeling van pro-choice naar pro-life standpunten toen dit hem politiek beter uitkwam.

Het gevaar van Trumps narratief van hulpeloosheid: Volgens Nichols dient Trumps retoriek een tweeledig doel:

1. Vermijding van verantwoordelijkheid: Als Trump zou toegeven dat de VS een betere natie is met een erfgoed van vrijheid en democratie dat unieke verantwoordelijkheden met zich meebrengt als leider van de vrije wereld, dan zou hij gedwongen zijn tot actie. Hij zou standpunten moeten innemen tegen agressie en predating, en moeilijke beslissingen moeten nemen in het langetermijnbelang van de VS, in plaats van zijn eigen kortetermijnbelang.
2. Creëren van een cultuur van wanhoop: Door Amerika af te schilderen als een "eindeloze nachtmerrie van misdaad en bloedbad", creëert Trump een gevoel van hopeloosheid bij zijn volgers. Hij suggereert dat de wereld inherent slecht is en dat idealen als een "stralende stad op een heuvel" dwaas zijn. Het enige dat telt, is "deals sluiten" om te krijgen wat je nodig hebt. In dit wereldbeeld is de VS geen leider of voorbeeld, maar slechts een land dat "met de dobbelstenen gooit in een achterafstraatje."

De impact op de democratie: Deze "nihilistische" en "hulpeloze" narratief is volgens Nichols giftig voor een democratie. Een democratie gedijt alleen wanneer burgers verantwoordelijkheid nemen voor hun regering. Trumps verhaal moedigt burgers aan zichzelf te zien als zowel boeven als slachtoffers, die elkaar moeten bevechten in een gigantische emmer. De moderne wereldorde, gebouwd op Amerikaanse diplomatie en opofferingen, wordt door Trump gereduceerd tot een criminele strijd tussen landen die niet beter zijn dan maffiafamilies.

Nichols besluit met de oproep aan Amerikanen om Trumps lasterpraatjes over de Verenigde Staten niet te accepteren. De VS is een superieure natie in vergelijking met dictaturen als Moskou en Beijing, en de vrede en welvaart die Amerikanen genieten, zijn van voor Trump en zullen blijven bestaan na zijn vertrek. Nichols stelt dat hoewel de VS geregeerd wordt door Trump, men niet hoeft te accepteren dat men in "Trumps Amerika" leeft.

Verwant onderwerp: De Conservatieve Aanval op Empathie

Het artikel wordt gevolgd door een korte samenvatting van "The Conservative Attack on Empathy" van Elizabeth Bruenig. Dit stuk onderzoekt het conservatieve idee dat empathie een "fundamentele zwakte van de Westerse beschaving" is. Dit standpunt, dat stelt dat mensen te veel begaan zijn met de pijn van anderen om rationeel hun eigen belangen te behartigen, wint terrein in conservatieve kringen. Bruenig suggereert dat deze anti-empathische wereldvisie minder een redelijk argument is en meer een copingmechanisme.