Nederlanders met algoritmes selecteren voor overheidscontrole is ‘hoogstwaarschijnlijk’ illegaal

14 MAART 2024·

3 MIN

Nederlanders met algoritmes selecteren voor overheidscontrole is ‘hoogstwaarschijnlijk’ illegaal

JAN-HEIN STROP DAVID DAVIDSON

4 CONNECTIES

13 BIJDRAGEN

Dat de overheid Nederlanders profileert met geheime algoritmes is ‘naar alle waarschijnlijkheid’ in strijd met de privacywet. Dat blijkt uit een advies van de landsadvocaat dat gisteren naar de Tweede Kamer is gestuurd. ‘Deze conclusies hebben in potentie vergaande impact,’ melden de staatssecretarissen van Financiën. Toch zegt de Belastingdienst niet te stoppen met de werkwijze.

De Belastingdienst controleert Nederlanders op grote schaal via geautomatiseerde systemen. Zo filteren ze de risicogevallen eruit: een foute aangifte, een te hoge toeslag of fraude. Voldoet iemand aan bepaalde kenmerken, dan krijgt diegene een handmatige controle.Deze risicomodellen zijn niet transparant en zijn niet geborgd in wetgeving. Dat betekent dat er geen rechtsbescherming is – je kunt het profiel dat een risicomodel opstelt niet door een rechter laten toetsen. Bovendien: je weet niet eens dat je bent geprofileerd.In dit proces worden grondrechten geschonden, oordeelde de parlementaire enquêtecommissie Fraudebeleid en Dienstverlening deze maand in haar rapport Blind voor mens en recht. Want algoritmes discrimineren nog wel eens, zelfs op afkomst.Geautomatiseerde besluiten op basis van profilering – zoals het goedkeuren van een belastingaangifte – zijn wettelijk verboden. Een overheid mag alleen automatisch beslissen als in een wet staat dat het mag.Tot nu toe stelde de overheid dat profilering met risicomodellen niettemin geoorloofd is, omdat na de voorselectie door het model een ambtenaar uiteindelijk de beslissing neemt over een handmatige controle. Dankzij die ‘menselijke tussenkomst’ zou het geen ‘geautomatiseerd besluit’ zijn, en zou er dus ook geen wettelijke basis met waarborgen nodig zijn.

Baanbrekende uitspraak

Deze opvatting is onjuist, blijkt uit een baanbrekende uitspraak van het Europese Hof van Justitie voor de Europese Unie eind vorig jaar, waarover Follow the Money eerder deze maand schreef. De uitspraak leidde tot grote zorgen bij het ministerie van Financiën, dat advies vroeg aan Pels Rijcken, de landsadvocaat. De conclusies hiervan hebben ‘in potentie vergaande impact’, schreven de staatssecretarissen van Financiën Marnix van Rij (Belastingdienst) en Aukje de Vries (Toeslagen en Douane) gisteren aan de Tweede Kamer.De landsadvocaat concludeert dat er al heel snel sprake is van verboden automatische besluitvorming. Selectie van Nederlanders voor handmatige controle vanwege een hoge risicoscore is daarvoor ‘naar alle waarschijnlijkheid’ al voldoende, zelfs als later een ambtenaar beslist of er sprake is van een fout of fraude. Dat heeft ermee te maken dat de selectie op zichzelf serieuze gevolgen kan hebben, zoals het afwijzen van een belastingaangifte.

DOSSIER

DIGITALE ZAKEN

Wat gebeurt er met de gegevens die overheden, bedrijven en instellingen over ons opslaan? Wat als ze gehackt of gegijzeld worden? Hoe veilig zijn onze systemen, en onze data?

BEKIJK ARTIKELEN

Voor een uitzondering op het verbod is een wettelijke basis nodig. Maar die ontbreekt dus. Om deze reden is profilering in veel gevallen hoogstwaarschijnlijk illegaal, zo concludeerden ook door Follow the Money geraadpleegde experts.Over de ‘vergaande impact’ hiervan laten de bewindslieden zich niet uit. Er komt nader advies van de landsadvocaat over ‘vervolgstappen’. Daarnaast zullen twee wetenschappers worden gevraagd welke ruimte de overheid heeft om ‘geautomatiseerde selectietechnieken toe te passen bij de dienstverlening en in het toezicht’. Risicogericht toezicht wordt immers als onmisbaar beschouwd. Dit advies wordt medio april verwacht. Ook de Autoriteit Persoonsgegevens (AP) zal adviseren over de kwestie, melden de staatssecretarissen.De Belastingdienst laat in een reactie weten de risicomodellen niet stop te zetten, na een weging tussen het belang van privacy en het toezicht. ‘Risico’s worden geaccepteerd.’Het oordeel dat profilering zoals die nu gebeurt hoogstwaarschijnlijk niet mag, heeft niet alleen gevolgen voor de Belastingdienst. Ook andere ministeries en lagere overheden maken gebruik van risicomodellen. In een brief aan de Kamer van 13 februari beloofden de staatssecretarissen het gebruik van risicomodellen rijksbreed te inventariseren.

Belastingdienst al langer over de schreef

Bij de Belastingdienst bestaan al langer grote zorgen over de juridische houdbaarheid van deze aanpak. Maar daarover hebben de bewindslieden tot voor kort gezwegen.De afdeling Midden- en Kleinbedrijf kreeg begin 2021 intern het advies om drie modellen stop te zetten die zij gebruikte om fraude en fouten op te sporen. Ze zouden geen van drieën aan de privacywet voldoen en schonden mogelijk zelfs grondrechten. In het advies werd gewaarschuwd dat de kans op discriminatie groot was. 'Helaas is gebleken dat geen van de modellen voldoet aan de Algemene Verordening Gegevensbescherming.’Na een kortstondige stop besloot de directie de systemen toch weer aan te zetten. Het ‘maatschappelijk en organisatiebelang’ woog daarbij zwaarder dan voldoen aan de wet en het risico op grondrechtschendingen vermijden, onthulde Follow the Money eind vorig jaar.In interne stukken stond bovendien dat de Belastingdienst zeer waarschijnlijk het verbod op geautomatiseerde besluiten overtreedt, omdat het óók voor goedkeurende besluiten geldt. Aanslagen worden namelijk automatisch geaccordeerd, zonder verdere controle, wanneer de aangifte binnen het model geen hoge risicoscore krijgt.Bij een ander model, dat moet voorkomen dat de Belastingdienst ten onrechte geld teruggeeft, wordt een uitbetaling automatisch (tijdelijk) stopgezet wanneer een aangifte door het algoritme wordt gevlagd. Alleen al dat uitstel kan voor de burger aanzienlijke gevolgen hebben, waardoor de kans groot is dat het wettelijk niet mag, zo oordeelden juristen.Toch gaat de Belastingdienst ermee door. De dienst wil geen openheid geven over systemen omdat die anders minder effectief zouden zijn in de opsporing van fraude.