1. NIEUWS
2. TECHNOLOGIE

Het Nederlandse schandaal dient als waarschuwing voor Europa over de risico’s van het gebruik van algoritmen

De Nederlandse Belastingdienst heeft duizenden levens geruïneerd nadat ze een algoritme had gebruikt om vermoedelijke uitkeringsfraude op te sporen – en critici zeggen dat er weinig is dat dit nog eens zal voorkomen.

DEEL

Gratis artikel meestal gereserveerd voor abonnees

29 MAART 2022 18:14 CET

DOOR MELISSA HEIKKILÄ

Het leven van Chermaine Leysner veranderde in 2012, toen ze een brief ontving van de Nederlandse belastingdienst waarin ze eiste dat ze haar kinderopvangtoeslag uit 2008 terugbetaalde. Leysner, destijds student maatschappelijk werk, had drie kinderen onder de zes jaar. De rekening bedroeg ruim € 100.000.“Ik dacht: 'Maak je geen zorgen, dit is een grote vergissing.' Maar het was geen vergissing. Het was het begin van iets groots”, zegt ze.De beproeving duurde negen jaar van Leysners leven. De stress veroorzaakt door de belastingaanslag en de diagnose van kanker van haar moeder brachten Leysner in een depressie en burn-out. Ze scheidde uiteindelijk van de vader van haar kinderen. “Ik werkte als een gek zodat ik toch nog iets voor mijn kinderen kon doen, zoals ze wat lekkers te eten geven of snoep kopen. Maar ik heb tijden gehad dat mijn zoontje met een gat in zijn schoen naar school moest”, aldus Leysner.Leysner is een van de tienduizenden slachtoffers van wat Nederland de ‘ toeslagenaffaire ’ heeft genoemd.In 2019 werd bekend dat de Nederlandse Belastingdienst een zelflerend algoritme had gebruikt om risicoprofielen te creëren in een poging fraude met kinderopvangtoeslagen op te sporen.De autoriteiten bestraften gezinnen alleen al bij een vermoeden van fraude op basis van de risico-indicatoren van het systeem. Tienduizenden gezinnen – vaak met lagere inkomens of behorend tot etnische minderheden – werden in armoede gedreven vanwege exorbitante schulden aan de belastingdienst. Sommige slachtoffers pleegden zelfmoord. Ruim duizend kinderen werden in pleeggezinnen opgenomen.De Nederlandse Belastingdienst krijgt nu een nieuwe boete van €3,7 miljoen opgelegd van de Nederlandse privacytoezichthouder. In een verklaring die op 12 april werd vrijgegeven, schetste het agentschap verschillende schendingen van het gegevensbeschermingsregelboek van de EU, de Algemene Verordening Gegevensbescherming , waaronder het ontbreken van een wettelijke basis om de gegevens van mensen te verwerken en het te lang vasthouden van de informatie.Aleid Wolfsen, het hoofd van de Nederlandse privacyautoriteit, noemde de schendingen ongekend.“Ruim 6 jaar lang werden mensen vaak onterecht als fraudeurs bestempeld, met alle gevolgen van dien. Sommigen kregen geen betalingsregeling of je kwam niet in aanmerking voor een schuldsanering. De Belastingdienst heeft levens op zijn kop gezet”, zegt hij. naar de verklaring.Terwijl regeringen over de hele wereld zich tot algoritmen en AI wenden om hun systemen te automatiseren, laat het Nederlandse schandaal zien hoe uiterst verwoestend geautomatiseerde systemen kunnen zijn zonder de juiste waarborgen. De Europese Unie, die zichzelf positioneert als 's werelds leidende toezichthouder op technologiegebied, werkt aan een wetsvoorstel dat tot doel heeft algoritmische schade te beteugelen.Maar critici zeggen dat het wetsvoorstel zijn doel mist en er niet in zal slagen burgers te beschermen tegen incidenten zoals wat er in Nederland is gebeurd.

Geen checks en balances

Het Nederlandse systeem – dat in 2013 van start ging – was bedoeld om uitkeringsfraude in een vroeg stadium uit te bannen. De criteria voor het risicoprofiel zijn ontwikkeld door de Belastingdienst, meldt Trouw . Het hebben van een dubbele nationaliteit werd aangemerkt als een grote risico-indicator, evenals een laag inkomen.Waarom Leysner in de situatie terechtkwam, is onduidelijk. Eén reden zou kunnen zijn dat ze een tweeling had, waardoor ze meer steun van de overheid nodig had. Leysner, geboren in Nederland, heeft ook Surinaamse roots.In 2020 onthulden Trouw en een ander Nederlands nieuwskanaal, RTL Nieuws, dat de belastingdienst ook twintig jaar lang geheime zwarte lijsten van mensen bijhield, waarop zowel geloofwaardige als ongefundeerde ‘signalen’ van mogelijke fraude werden bijgehouden. Burgers konden op geen enkele manier achterhalen waarom ze op de lijst stonden, noch zichzelf verdedigen.Uit onderzoek bleek dat de Belastingdienst zich richtte op mensen met ‘een niet-westers uiterlijk’, waarbij vooral de Turkse of Marokkaanse nationaliteit centraal stond. Het op de zwarte lijst staan ​​leidde ook tot een hogere risicoscore in het kinderopvangtoeslagstelsel.In een parlementair rapport over het schandaal over de kinderopvangtoeslag kwamen verschillende ernstige tekortkomingen aan het licht, waaronder institutionele vooroordelen en autoriteiten die informatie verborgen hielden of het parlement misleidden over de feiten. Toen de volledige omvang van het schandaal aan het licht kwam, trad de regering van premier Mark Rutte af , om zich 225 dagen later te hergroeperen.Naast de boete die op 12 april werd aangekondigd, heeft de Nederlandse Autoriteit Persoonsgegevens de Nederlandse Belastingdienst in december 2021 ook een boete van € 2,75 miljoen opgelegd wegens de “onwettige, discriminerende en daardoor ongepaste wijze” waarop de belastingdienst gegevens verwerkte over de dubbele nationaliteit van kinderen. aanvragers van een zorgtoeslag.“Er was een totaal gebrek aan checks and balances binnen elke organisatie om ervoor te zorgen dat mensen zich realiseerden wat er aan de hand was”, zegt Pieter Omtzigt, een onafhankelijk lid van het Nederlandse parlement dat een cruciale rol speelde bij het blootleggen van het schandaal en het onder vuur nemen van de belastingdienst.“Wat mij echt zorgen baart, is dat ik er niet zeker van ben dat we zelfs maar vaag genoeg preventieve maatregelen hebben genomen om onze instellingen te versterken om de volgende ontsporing aan te kunnen”, vervolgde hij.De nieuwe regering-Rutte heeft beloofd een nieuwe algoritme-toezichthouder in het leven te roepen onder de gegevensbeschermingsautoriteit van het land. De Nederlandse minister van Digitale Zaken Alexandra van Huffelen – die voorheen minister van Financiën was en verantwoordelijk was voor de belastingdienst – vertelde POLITICO dat de rol van de data-autoriteit zal zijn “het toezicht houden op de creatie van algoritmen en AI, maar ook op hoe het zich afspeelt als het er is, hoe het wordt behandeld, zorg ervoor dat de mens centraal staat en dat het van toepassing is op alle regelgeving die van kracht is.” De toezichthouder zal algoritmen in zowel de publieke als de private sector onder de loep nemen.Van Huffelen benadrukte de noodzaak om ervoor te zorgen dat mensen altijd op de hoogte zijn. “Wat ik heel belangrijk vind, is ervoor zorgen dat besluiten, overheidsbeslissingen op basis van AI, ook achteraf altijd door een mens worden behandeld”, zegt ze.

Een waarschuwing voor de rest van Europa

De hoogste digitale functionaris van Europa, uitvoerend vicevoorzitter van de Europese Commissie, Margrethe Vestager, zei dat het Nederlandse schandaal precies is waar elke regering bang voor zou moeten zijn.“We hebben enorme publieke sectoren in Europa. Er zijn zoveel verschillende diensten waarbij besluitvorming ondersteund door AI heel nuttig zou kunnen zijn, als je er vertrouwen in hebt”, vertelde Vestager in maart aan het Europees Parlement. De nieuwe AI-wet van de EU is gericht op het creëren van dat vertrouwen, zo betoogde ze, “zodat deze grote markt in de publieke sector ook open zal staan ​​voor kunstmatige intelligentie.”Het voorstel van de Commissie voor de AI-wet beperkt het gebruik van zogenaamde risicovolle AI-systemen en verbiedt bepaalde “onaanvaardbare” toepassingen. Bedrijven die AI-systemen met een hoog risico leveren, moeten aan bepaalde EU-eisen voldoen. De AI-wet creëert ook een openbaar EU-register van dergelijke systemen in een poging de transparantie te verbeteren en te helpen bij de handhaving.Dat is niet goed genoeg, betoogt Renske Leijten, een socialistisch lid van het Nederlandse parlement en een andere belangrijke politicus die heeft geholpen de ware omvang van het schandaal bloot te leggen. Leijten stelt dat de AI-wet ook van toepassing moet zijn op degenen die gebruik maken van risicovolle AI-systemen in zowel de private als de publieke sector.In de AI-wet “zien we dat er meer garanties zijn voor je rechten als bedrijven en private ondernemingen met AI werken. Maar het belangrijkste dat we uit het schandaal over de kinderopvangtoeslag moeten leren, is dat dit geen onderneming of particuliere sector was… Dit was de overheid”, zei ze.Zoals het nu is, zal de AI Act burgers niet tegen soortgelijke gevaren beschermen, zei het Nederlandse Groene Europarlementariër Kim van Sparrentak, lid van het onderhandelingsteam van het Europees Parlement over de AI Act in de commissie voor de interne markt. Van Sparrentak dringt erop aan dat de AI-wet impactbeoordelingen voor de grondrechten bevat die ook in het AI-register van de EU zullen worden gepubliceerd. Het Parlement stelt ook voor om verplichtingen toe te voegen aan de gebruikers van AI-systemen met een hoog risico, ook in de publieke sector.“Fraudevoorspelling en voorspellend politiewerk op basis van profilering moeten gewoon verboden worden. Omdat we alleen maar zeer slechte resultaten hebben gezien en geen enkele persoon kan worden bepaald op basis van sommige van hun gegevens”, aldus Van Sparrentak.In een rapport waarin gedetailleerd wordt beschreven hoe de Nederlandse regering etnisch profileren heeft gebruikt in het schandaal over kinderopvangtoeslagen, roept Amnesty International regeringen op om het “gebruik van gegevens over nationaliteit en etniciteit te verbieden bij het vaststellen van risico’s voor wetshandhavingsdoeleinden bij het zoeken naar mogelijke misdaad of fraude. verdachten.”Nederland houdt nog steeds rekening met de nasleep van het schandaal. De regering heeft beloofd de slachtoffers van het incident € 30.000,- terug te betalen. Maar voor mensen als Leysner omvat dat nog niet eens de jaren die ze heeft verloren – gerechtigheid lijkt nog ver weg.“Als je dit soort dingen meemaakt, verlies je ook je vertrouwen in de overheid. Het is dus erg moeilijk om te vertrouwen op wat [autoriteiten] nu zeggen”, zei Leysner.Clothilde Goujard en Vincent Manancourt droegen bij aan de rapportage.Dit artikel is bijgewerkt met de resultaten van het onderzoek van de Nederlandse Belastingdienst die in april zijn vrijgegeven.

Gerelateerde tags

Algoritmen Kunstmatige intelligentie Gegevens Gegevensbescherming Fraude Politie Politie Rechten Diensten Belasting Transparantie

Gerelateerde landen

Nederland

Gerelateerde mensen

Kim van Sparrentak Margaretha Vestager

Gerelateerde organisaties

Europese Commissie Europees parlement