Nederlands schandaal dient als waarschuwing voor Europa over risico's gebruik algoritmes

De Nederlandse belastingdienst heeft duizenden levens geruïneerd na het gebruik van een algoritme om vermoedelijke uitkeringsfraude op te sporen - en critici zeggen dat er weinig is dat het opnieuw laat gebeuren.

DELEN

Gratis artikel meestal gereserveerd voor abonnees

29 MAART 2022 18:14 CET

DOOR MELISSA HEIKKILÄ

Het leven van Chermaine Leysner veranderde in 2012, toen ze een brief ontving van de Nederlandse belastingdienst waarin ze haar kinderopvangtoeslag tot 2008 terugvroeg. Leysner, toen een student die maatschappelijk werk studeerde, had drie kinderen onder de 6 jaar. De aanslag bedroeg meer dan € 100.000."Ik dacht: 'Maak je geen zorgen, dit is een grote fout.' Maar het was geen vergissing. Het was het begin van iets groots", zei ze.De beproeving nam negen jaar van Leysner's leven in beslag. De stress veroorzaakt door de belastingaanslag en de kankerdiagnose van haar moeder dreef Leysner in een depressie en burn-out. Uiteindelijk scheidde ze van de vader van haar kinderen. "Ik was als een gek aan het werk, zodat ik nog steeds iets voor mijn kinderen kon doen, zoals ze wat lekkers te eten geven of snoep kopen. Maar ik had tijden dat mijn zoontje naar school moest met een gat in zijn schoen", zei Leysner.Leysner is een van de tienduizenden slachtoffers van wat de Nederlanders de toeslagenaffaire hebben genoemd.In 2019 werd bekend dat de Belastingdienst met een zelflerend algoritme risicoprofielen heeft gemaakt om fraude met kinderopvangtoeslag op te sporen.De autoriteiten bestraften gezinnen op basis van een loutere verdenking van fraude op basis van de risico-indicatoren van het systeem. Tienduizenden gezinnen – vaak met lagere inkomens of behorend tot etnische minderheden – werden in armoede geduwd vanwege exorbitante schulden aan de belastingdienst. Sommige slachtoffers pleegden zelfmoord. Meer dan duizend kinderen werden in pleeggezinnen opgenomen.De Nederlandse belastingdienst riskeert nu een nieuwe boete van 3,7 miljoen euro van de privacytoezichthouder van het land. In een verklaring die op 12 april werd vrijgegeven, schetste het bureau verschillende schendingen van het EU-rulebook voor gegevensbescherming, de Algemene Verordening Gegevensbescherming, waaronder het ontbreken van een wettelijke basis om de gegevens van mensen te verwerken en het te lang vasthouden aan de informatie.Aleid Wolfsen, het hoofd van de Nederlandse privacyautoriteit, noemde de overtredingen ongekend."Meer dan 6 jaar lang werden mensen vaak ten onrechte als fraudeurs bestempeld, met alle gevolgen van dien... Sommigen hebben geen betalingsregeling ontvangen of u kwam niet in aanmerking voor schuldsanering. De belastingdienst heeft levens op zijn kop gezet", zei hij volgens de verklaring.Terwijl overheden over de hele wereld zich wenden tot algoritmen en AI om hun systemen te automatiseren, laat het Nederlandse schandaal zien hoe verwoestend geautomatiseerde systemen kunnen zijn zonder de juiste waarborgen. De Europese Unie, die zichzelf positioneert als 's werelds toonaangevende tech-regulator, werkt aan een wetsvoorstel dat tot doel heeft algoritmische schade te beteugelen.Maar critici zeggen dat het wetsvoorstel zijn doel mist en burgers niet zou beschermen tegen incidenten zoals wat er in Nederland is gebeurd.

Geen checks and balances

Het Nederlandse stelsel, dat in 2013 van start ging, was bedoeld om uitkeringsfraude in een vroeg stadium uit te bannen. De criteria voor het risicoprofiel zijn ontwikkeld door de Belastingdienst, meldt Trouw. Het hebben van een dubbele nationaliteit werd aangemerkt als een grote risico-indicator, net als een laag inkomen.Waarom Leysner in de situatie terecht is gekomen, is onduidelijk. Een reden zou kunnen zijn dat ze een tweeling had, wat betekende dat ze meer steun van de overheid nodig had. Ook Leysner, geboren in Nederland, heeft Surinaamse roots.In 2020 onthulden Trouw en een andere Nederlandse nieuwszender, RTL Nieuws, dat de belastingdienst ook twee decennia lang geheime zwarte lijsten van mensen bijhield, die zowel geloofwaardige als ongefundeerde "signalen" van mogelijke fraude bijhielden. Burgers hadden geen manier om erachter te komen waarom ze op de lijst stonden of om zichzelf te verdedigen.Uit een onderzoek bleek dat de fiscus zich richtte op mensen met 'een niet-westers uiterlijk', terwijl het vooral om het hebben van de Turkse of Marokkaanse nationaliteit ging. Ook op de zwarte lijst staan leidde tot een hogere risicoscore in de kinderopvangtoeslag.Een parlementair rapport over het toeslagenschandaal vond verschillende ernstige tekortkomingen, waaronder institutionele vooroordelen en autoriteiten die informatie achterhielden of het parlement misleidden over de feiten. Toen de volledige omvang van het schandaal aan het licht kwam, trad de regering van premier Mark Rutte af, om zich 225 dagen later te hergroeperen.Naast de op 12 april aangekondigde boete heeft de Autoriteit Persoonsgegevens de Belastingdienst in december 2021 ook een boete van 2,75 miljoen euro opgelegd voor de "onrechtmatige, discriminerende en dus onbehoorlijke wijze" waarop de Belastingdienst gegevens verwerkte over de dubbele nationaliteit van aanvragers van kinderopvangtoeslag."Er was een totaal gebrek aan checks and balances binnen elke organisatie om ervoor te zorgen dat mensen zich realiseerden wat er aan de hand was", zegt Pieter Omtzigt, een onafhankelijk lid van het Nederlandse parlement dat een cruciale rol speelde bij het blootleggen van het schandaal en het grillen van de belastingdienst."Wat me echt zorgen baart, is dat ik er niet zeker van ben dat we zelfs maar vaag genoeg preventieve maatregelen hebben genomen om onze instellingen te versterken om de volgende ontsporing aan te kunnen", vervolgde hij.Het nieuwe kabinet-Rutte heeft toegezegd een nieuwe toezichthouder voor algoritmen in het leven te roepen onder de gegevensbeschermingsautoriteit van het land. De Nederlandse minister van Digitale Zaken Alexandra van Huffelen - die voorheen de minister van Financiën was die verantwoordelijk was voor de belastingdienst - vertelde POLITICO dat de rol van de gegevensautoriteit zal zijn "om toezicht te houden op de creatie van algoritmen en AI, maar ook hoe het uitpakt wanneer het er is, hoe het wordt behandeld, ervoor te zorgen dat het mensgericht is en dat het van toepassing is op alle regelgeving die in gebruik is." De toezichthouder zal algoritmen in zowel de publieke als de private sector onder de loep nemen.Van Huffelen benadrukte de noodzaak om ervoor te zorgen dat mensen altijd op de hoogte zijn. "Wat ik heel belangrijk vind, is ervoor te zorgen dat beslissingen, overheidsbeslissingen op basis van AI, ook achteraf altijd door een mens worden behandeld", zei ze.

Een waarschuwing voor de rest van Europa

Europa's hoogste digitale ambtenaar, uitvoerend vicevoorzitter van de Europese Commissie Margrethe Vestager, zei dat het Nederlandse schandaal precies is waar elke regering bang voor zou moeten zijn."We hebben enorme publieke sectoren in Europa. Er zijn zoveel verschillende diensten waar besluitvorming ondersteund door AI echt nuttig kan zijn, als je erop vertrouwt", zei Vestager in maart tegen het Europees Parlement. De nieuwe AI-wet van de EU is gericht op het creëren van dat vertrouwen, betoogde ze, "zodat deze grote markt voor de publieke sector ook openstaat voor kunstmatige intelligentie."Het voorstel van de Commissie voor de AI-verordening beperkt het gebruik van zogenaamde AI-systemen met een hoog risico en verbiedt bepaald "onaanvaardbaar" gebruik. Bedrijven die AI-systemen met een hoog risico leveren, moeten aan bepaalde EU-vereisten voldoen. De AI-verordening creëert ook een openbaar EU-register van dergelijke systemen in een poging de transparantie te verbeteren en te helpen bij de handhaving.Dat is niet goed genoeg, betoogt Renske Leijten, een socialistisch parlementslid en een andere belangrijke politicus die hielp de ware omvang van het schandaal aan het licht te brengen. Leijten stelt dat de AI-wet ook van toepassing moet zijn op degenen die risicovolle AI-systemen gebruiken in zowel de private als de publieke sector.In de AI-wet "zien we dat er meer garanties zijn voor uw rechten wanneer bedrijven en particuliere ondernemingen met AI werken. Maar het belangrijkste dat we uit het toeslagenschandaal moeten leren, is dat dit geen onderneming of particuliere sector was ... Dit was de regering," zei ze.Zoals het nu is, zal de AI-wet burgers niet beschermen tegen soortgelijke gevaren, zei de Nederlandse Groene Europarlementariër Kim van Sparrentak, lid van het onderhandelingsteam van de AI-wet van het Europees Parlement in de commissie interne markt. Van Sparrentak dringt erop aan dat de AI-wet effectbeoordelingen van de grondrechten bevat die ook in het AI-register van de EU zullen worden gepubliceerd. Het Parlement stelt ook voor om verplichtingen toe te voegen aan de gebruikers van AI-systemen met een hoog risico, ook in de publieke sector."Fraudevoorspelling en voorspellend politiewerk op basis van profilering moeten gewoon verboden worden. Omdat we alleen zeer slechte resultaten hebben gezien en geen enkele persoon kan worden bepaald op basis van sommige van hun gegevens, "zei Van Sparreta.In een rapport waarin wordt beschreven hoe de Nederlandse overheid etnisch profileren heeft gebruikt in de toeslagenaffaire, roept Amnesty International regeringen op om het "gebruik van gegevens over nationaliteit en etniciteit bij risicoscores voor wetshandhavingsdoeleinden bij het zoeken naar potentiële verdachten van misdrijven of fraude te verbieden".Nederland rekent nog steeds af met de nasleep van het schandaal. De regering heeft beloofd de slachtoffers van het incident 30.000 euro terug te betalen. Maar voor mensen als Leysner begint dat niet eens de jaren te dekken die ze verloor - gerechtigheid lijkt ver weg."Als je dit soort dingen meemaakt, verlies je ook je vertrouwen in de overheid. Dus het is erg moeilijk om te vertrouwen op wat [autoriteiten] op dit moment zeggen," zei Leysner.Clothilde Goujard en Vincent Manancourt droegen bij aan de verslaggeving.Dit artikel is geüpdatet met de resultaten van het onderzoek van de Belastingdienst die in april zijn vrijgegeven.

Gerelateerde tags

AlgoritmenKunstmatige intelligentieGegevensGegevensbeschermingFraudeWetshandhavingPolitieRechtenDienstenBelastingDoorzichtigheid

Verwante landen

Nederland

Verwante personen

Kim van SparrentakMargrethe Vestager

Verwante organisaties

Europese CommissieEuropees Parlement