LETTER FROM THE SECRETARY OF STATE FOR FINANCE
Parliamentary paper
Date of publication OrganizationMeeting year file and registration 01-12-2021 15:29 House of Representatives General2021-202231066 no. 923
Extra information
Related
Publications in the chamber file
- Chamber file 31066Show all publications in the main file
Main document and annexes
- Annex 1007407Appendix to this publication
- Annex 1007409Appendix to this publication
- Annex 1007414Appendix to this publication
- Annex 1007416Appendix to this publication
- Annex 1007422Appendix to this publication
- Annex 1007405Appendix to this publication
- Annex 1007425Appendix to this publication
- Annex 1007427Appendix to this publication
- Annex 1007410Appendix to this publication
- Annex 1007444Appendix to this publication
- Annex 1007423Appendix to this publication
- Annex 1007443Appendix to this publication
- Annex 1007424Appendix to this publication
- Annex 1007406Appendix to this publication
- Annex 1007408Appendix to this publication
- Annex 1007470Appendix to this publication
- Annex 1007433Appendix to this publication
- Annex 1007472Appendix to this publication
- Annex 1007404Appendix to this publication
- Annex 1007402Appendix to this publication
- Annex 1007437Appendix to this publication
- Annex 1007454Appendix to this publication
- Annex 1007464Appendix to this publication
- Annex 1007450Appendix to this publication
- Annex 1007401Appendix to this publication
- Annex 1007403Appendix to this publication
- Annex 1007471Appendix to this publication
- Annex 1007448Appendix to this publication
- Annex 1007438Appendix to this publication
- Annex 1007475Appendix to this publication
- Annex 1007400Appendix to this publication
- Annex 1007440Appendix to this publication
- Annex 1007463Appendix to this publication
- Annex 1007460Appendix to this publication
- Annex 1007446Appendix to this publication
- Annex 1007426Appendix to this publication
- Annex 1007449Appendix to this publication
- Annex 1007447Appendix to this publication
- Annex 1007435Appendix to this publication
- Annex 1007465Appendix to this publication
- Annex 1007428Appendix to this publication
- Annex 1007413Appendix to this publication
- Annex 1007432Appendix to this publication
- Annex 1007455Appendix to this publication
- Annex 1007461Appendix to this publication
- Annex 1007434Appendix to this publication
- Annex 1007458Appendix to this publication
- Annex 1007419Appendix to this publication
- Annex 1007442Appendix to this publication
- Annex 1007439Appendix to this publication
- Annex 1007457Appendix to this publication
- Annex 1007412Appendix to this publication
- Annex 1007469Appendix to this publication
- Annex 1007417Appendix to this publication
- Annex 1007452Appendix to this publication
- Annex 1007459Appendix to this publication
- Annex 1007420Appendix to this publication
- Annex 1007466Appendix to this publication
- Annex 1007445Appendix to this publication
- Annex 1007415Appendix to this publication
- Annex 1007456Appendix to this publication
- Annex 1007474Appendix to this publication
- Annex 1007451Appendix to this publication
- Annex 1007468Appendix to this publication
- Annex 1007436Appendix to this publication
- Annex 1007429Appendix to this publication
- Annex 1007421Appendix to this publication
- Annex 1007411Appendix to this publication
- Annex 1007473Appendix to this publication
- Annex 1007431Appendix to this publication
- Annex 1007418Appendix to this publication
- Annex 1007441Appendix to this publication
- Annex 1007467Appendix to this publication
- Annex 1007430Appendix to this publication
- Annex 1007453Appendix to this publication
- Annex 1054451Appendix to this publication
- Annex 1054450Appendix to this publication
- Annex 1007476Appendix to this publication
31 066 Tax Administration
No. 923LETTER FROM THE SECRETARY OF STATE FOR FINANCE
To the President of the House of Representatives General The Hague, November 26, 2021On October 26, 2021, Amnesty International published the report:”Xenophobic machines. Discrimination through unregulated use of algorithms in the Dutch benefits scandal”.1 On the same day, your House received the Cabinet's response to that report to Amnesty International.2 On October 27, 2021, during the budget debate of the Ministry of Internal Affairs and Kingdom Relations (BZK), member Leijten (SP) asked to make the Surcharges risk selection system public for the second term of the debate (Acts II 2021/22, no. 14, items 3 and 7). By letter dated 28 October 2021, I informed your House that a substantive response within the requested period of one day is not possible, but I promised you to respond carefully to this request. By letter dated 15 November 2021, I informed your House that I would comply with your House's request at the end of this week.3 With this letter, I comply with this commitment. I included as much as possible the answers to questions and commitments in response to Question Time on Tuesday, November 23, 2021 (Acts II 2021/22, No. 25, Oral questions by member Leijten about the new information about the tax authorities risk classification model and the lack of active information about this from the Ministry of Finance). The risk classification model (hereinafter: model) of Surcharges concerns an application that has not been in use since July 2020.4 Unfortunately, it is not possible to share the model with your House yourself, because it is an ICT facility and it cannot be transformed into readable documents at the touch of a button or handed over electronically. In order to answer your House's question in the best possible way, in this letter I will give you insight into how the model has worked over the years and outline the context by giving examples where possible. Your House has asked for all documents concerning the model to be made public, which I will address as much as possible in this letter. During Question Time on November 23, Member Leijten specifically asked for the Data Impact Assessment (GEB) of the model and the partial GEB5 to include the Treatment Choice Model. In addition to these two documents, more than seventy documents were inventoried, all of which were also attached to the letter.6. For the overview, I refer you to the inventory list (appendix 0), which also includes a brief description of the contents of the attachments7. In addition to the GEB and part-GEB, the annexes mainly contain work instructions and source descriptions that underpinned the model. Due to the duration of the model and because most documents are operational and are not recorded in central archive systems, I cannot guarantee completeness. Because a written explanation of how the model works for your House may not provide all the answers, I would like to offer your House a technical briefing. In this letter, I will first explain how the model works. Then, in section 2, I will explain the pilot with the new Treatment Choice Model. I will then pay attention to your House's questions about the use of machine learning models in government in general (paragraph 3) and to providing information to the House on this subject (paragraph 4).
1. The risk classification model of Surcharges
General introduction
The ICT system for Surcharges, the Benefits in kind System (TVS), is based on the applicable laws and regulations that determine the right to a allowance and the amount of the allowance. So-called “rules” have been built into TVS that allow the citizen's situation to be displayed in relation to legal requirements. This includes issues such as income, household composition and the amount of expenses. Housing allowance, for example, includes the basic rent, the child-related budget the number of children and childcare allowance, the amount of childcare hours. Surcharges uses various activities to promote and ensure that citizens comply with the legal requirements in order to properly grant the allowance. These activities are carried out under the name “enforcement” and cover the entire range of error prevention, service provision, supervision and intensive supervision. Since 2013, the focus of Surcharges has been on preventing improper use and preventing high recoveries, especially if a high recovery led to an expected major impact for the applicant. Since 2016, the focus has increasingly been switched to preventing errors and providing services to help citizens apply correctly and to report changes in time.
The model was specifically developed for housing allowance and childcare allowance. For the other payment schemes, there was no need to set up such a model, because the principles for these surcharges and thus the right to a supplement could be adequately tested in TVS. This was complemented by periodic thematic supervisory actions, such as the control of health insurance. The model was used in Supplements between April 2013 and November 2019 to select which new applications or changes to existing allowance applications were eligible for manual treatment. The model was only used in the provisional award phase and not for monitoring after the end of an allowance year (the final award phase). As of November 2019, the model was no longer used because it was decided to use the available treatment capacity on the processes, objections and complaints due to rising stocks. The use of the model was permanently stopped by the MT Toeslagen in July 2020, because the model did not meet the requirements of the General Data Protection Regulation (AVG).8 The privacy risks and the associated mitigation measures were not adequately described in a GEB. The model's GEB was finally determined by the MT Allowances in March 2021. With regard to the model, the AP found in its report “Processing the nationality of childcare allowance applicants” in July 2020 that the use of nationality in the risk classification model was an offence. The AP concludes that this processing was not necessary as fewer far-reaching options were available. The AP found the offence to be discriminatory and therefore improper. In my letter dated July 17, 2020, I informed you about how the conclusions and recommendations of the AP's investigation are being implemented.9
Manual review
The model was used every month, prior to the monthly payment of benefits to citizens. The work process of Allowances includes “formally disposing” once a month for a tax year. This means that in TVS, based on the citizen's current situation, a draft decision is created with the total amount of surcharges per year. The amount of the allowance can be adjusted every month, for example by changing the citizen's income, childcare hours or rent. Each month, the previously calculated total amount is compared with the new total amount, after which a (adjusted) payment order is prepared for citizens. Before the amount was paid out and thus “formally” disposed of, all information from the draft decisions was read into the model between 2013 and the end of 2019. This model determined the risk of inaccuracies in these decisions on the basis of predefined indicators. The draft decisions with the highest risk of error were selected monthly for manual treatment. For the citizens concerned, the formal decision and thus the change (increase) in the allowance and the associated payment of the rent or childcare allowance requested by the citizen were postponed. To make this period as short as possible, the number of requests to be checked was based on the available treatment capacity. In other words: if little capacity was available, only the decisions with the highest risk of errors were offered to practitioners for review. After selecting applications based on the model, an automated selection was also used, so that applications were excluded from treatment so as not to intersect with crucial other processes such as objection or complaint handling. Practitioners from the supervision team assessed the ultimately selected applications. These employees did not know the reason for treatment and did not know the risk score. They tested the allowance application against the legal requirements. If the assessment showed that there were inaccuracies, the practitioner requested documents from the applicant. A result of this practice was that when documents were not sent or were not properly recorded by Surcharges, the citizen's allowance was wrongly corrected. In the case of new applications, this treatment process led to a delay of one to sometimes a few months before the allowance was paid. As a result, an applicant could run into financial difficulties. Depending on the therapist's conclusion, payment was made with the (adjusted) amount. In current applications, the original allowance was paid, but the requested increase has not yet been paid. By using the model during the VT phase, it was possible to act quickly on changes in the situation of citizens. The aim was to correct unconscious and conscious errors in the requests as quickly as possible. This prevented high recoveries that would occur if too high a surcharge were paid out for too long. However, due to the harshness of the system and the strict application of the law, supervision itself has often also led to large recoveries, because a small error could have major consequences for determining the right to a supplement. Other treatment errors could also lead to problems for citizens, such as the loss of evidence and the sometimes long treatment time. Activities in the field of services and enforcement could also be intertwined, bringing this vulnerable group into even more focus. Duped parents also often express this in the conversations.
Development of the risk classification model
In 2013, Toeslagen employees developed the model on the basis of a set of risk indicators and examples of correct and incorrect allowance applications. I will elaborate on the indicators in the next paragraph. The examples initially came mainly from allowance applications that Allowances had previously manually assessed and that turned out to be either correct or incorrect. During the life of the model, the requests that were processed after selection by the risk classification model were also used as examples for further development of the model. Over the years, allowance applications that were randomly selected were also assessed. By feeding the model with thousands of examples of manually processed applications, the model recognized statistical relationships between indicators and, based on this, predicted the risk of inaccuracies in the allowance applications. The model was thus modified over time and the model “learned” which items were (un) rightly provided with a high risk score. Based on these new examples, the extent to which indicators were distinctive and thus also the weighting given to indicators changed. Some indicators that lost their predictive value were no longer included in the model after such a refresh, while the influence of other indicators increased. Each month, the allowance applications that were ready for “formal disposal” in TVS received a risk score of 0 to 1, separately for the rent and childcare allowance. All draft decisions were incorporated into the model with all the principles of the allowance applications (income, family situation, rent/childcare costs). The draft decisions were expanded with additional data needed to compare the indicators in the model with the data in the draft decisions. Consider, for example, the number of registrations at the applicant's home address for the childcare allowance. The overall risk score for all applications was then determined based on the indicators. The riskiest requests received a risk score close to 1 and the least risky requests a risk score close to 0. The vast majority of requests had a risk score close to 0; on average, the risk score was 0.05. The vast majority (> 90%) of the allowance applications scored below 0.2 and were far from the riskiest applications.
Indicators and risk scores
The indicators for use in the model were largely determined by staff and data specialists at Surcharges in 2013. At that time, the indicators were tested in the model for statistical relationships between the indicators and correct and incorrect requests. The indicators that had a predictive value were implemented; indicators that had no predictive value were never used in practice. Annexes 3 and 4 of the GEB to the risk classification model list an overview of the indicators, which were therefore not all actually put into practice or were no longer used at a later time. The model analyzed whether the indicators offered were actually distinctive in predicting whether an application for payment would contain errors and recognized limit values, where they were distinctive. This meant, for example, that the model from the allowance applications recognized that a distance of more than x number of kilometers between the home address and the childcare address more often led to errors in the allowance application than when the distance was very small. The model then used a limit value of, for example, 10 kilometers. Not all indicators were equally distinctive. That is why the model weighted the indicators. The clearer the difference between correct and incorrect requests from an indicator was, the greater the contribution to the risk score for the application. For example, if a certain value of an indicator appeared frequently in the examples of incorrect requests and not in the examples of correct requests, this indicator was very distinctive and the contribution to the risk score was high. In practice, for example, this often turned out to be the case with the “personal contribution” indicator because errors were more often found when applying for benefits from citizens who paid a small personal contribution. A value could also contribute negatively to the risk score, which happened if an indicator predicted a correct request at a certain value. For the full overview of the indicators, please refer to Appendices 3 and 4 of the GEB of the risk classification model. At this point, I would like to mention a number of indicators. For the Housing Allowance, these concerned the situation of the home (such as rent, area, co-occupants) and the applicant's situation (income, payment debts, retroactive application). The indicators for the Childcare Allowance focused on the situation of the childcare (type of childcare such as childcare or after-school care, distance between home and childcare addresses) and the applicant's situation (such as income, payment debts, partner or single person, age and number of children). I will specifically discuss the indicator “Dutch citizenship Yes/No” below. During question time, member Ceder asked whether it was true that people's family ties were also included in the risk classification model. That is not the case.
Indicator “Dutch Nationality Yes/No”
The model used the indicator “Dutch citizenship Yes/No”. This indicator was included in the model because, on the one hand, the “Bulgarian fraud” that occurred in the same period as the development of the model and, on the other hand, because Toeslagen employees had the experience that allowance applicants without Dutch nationality sometimes had difficulty applying for benefits and that errors were more often found in their allowance applications. In 2013, the then Deputy Ombudsman questioned this indicator, among other things.10 After explaining Allowances, the substitute ombudsman indicated that the risk rules were not intentionally discriminatory but could be effective.
As mentioned in previous letters to your House, it is important to emphasize that this indicator gave a “Yes” if the applicant had Dutch nationality, even if there was also another nationality. So regardless of whether there were multiple nationalities, someone with only Dutch nationality was scored exactly the same as someone with a Dutch and other nationality. If none of the nationalities were Dutch, for example only English or Swedish and English, then this indicator received a “No”. A “No” score on the “Dutch nationality Yes/No” indicator had a risk-increasing effect in the model. The impact of that effect depended on the other indicators. For both the rent and childcare allowance, the impact of this indicator on the overall score in the model decreased over the years because the model received more and more examples of correct applications from citizens who scored a “No” on this indicator. Toeslagen increasingly focused on help and clarification on the website, including in other languages, which, for example, may have contributed to meeting the requirements more easily. Because the indicator had less and less predictive value, it was removed from the childcare allowance model in October 2018. The indicator still had a small predictive value for the housing allowance, but after April 2019, this indicator was completely removed, so that nationality no longer appeared in the model.
The low predictive value showed that “Dutch citizenship Yes/No” was no longer relevant when distinguishing between a correct and incorrect application. The Data Protection Authority has ruled that processing nationality for this indicator up to and including October 2018 was unlawful and discriminatory.11
Outcomes of the risk classification model
Tijdens het vragenuur van 23 november jl. heeft het lid Leijten verwezen naar de kenmerken van de 1000 hoogste risicoscores ten aanzien van kinderopvangtoeslag uit het model en de HOTHOR12 binnen de kinderopvangtoeslag, die eind 2019 aan de AUT zijn toegelicht en via het Wob-besluit van november 202013 en januari 202114 openbaar zijn gemaakt. Uit deze toelichting is te zien dat er een oververtegenwoordiging is van burgers waarop een of meer van de volgende kenmerken van toepassing zijn: wonen in een stedelijk gebied, niet in het bezit van de Nederlandse nationaliteit, met een gezinsinkomen onder de € 20.000, zonder partner, met meerdere kinderen in de opvang, met veel opvanguren en een grote afstand tussen woon- en opvangadres. Toeslagaanvragen die aan deze kenmerken voldeden wijzen op een kwetsbare groep en werden tegelijkertijd door het model het meest voor handmatige beoordeling geselecteerd. Binnen de hersteloperatie toeslagen zien wij deze mensen die geraakt zijn door institutionele vooringenomenheid en de hardheid van het stelsel ook duidelijk terug. Ik vind dit, net zoals de POK15 heeft geconstateerd, zeer pijnlijk en een bevestiging van de noodzaak voor het herstel van wat niet goed is gegaan bij de gedupeerde ouders.
Terugkijkend op het monitoring- en evaluatieproces van het model binnen Toeslagen constateer ik dat tussentijds evaluaties plaatsvonden op de technische werking, op de behandeling en op de opbrengsten van het model. Ook werden nieuwe voorbeelden van onjuiste en juiste aanvragen uit verschillende bronnen als input aan het model gegeven en werd soms een indicator toegevoegd of verwijderd. Op de bedoeling van het model en de output als geheel is echter onvoldoende gereflecteerd. Hiertoe is in 2018 een aanzet gedaan (bijlage 74), maar dit heeft feitelijk pas plaatsgevonden eind 2019 voor de AUT. Het model is daarna niet meer gebruikt. De output van het model door de jaren heen op bovenstaande kenmerken is gedeeltelijk te verklaren vanuit demografisch perspectief, onder meer omdat burgers met lage inkomens de hoogste toeslagen krijgen uitgekeerd. Gezien de oververtegenwoordiging van bovenstaande kenmerken valt het echter niet uit te sluiten dat in de werking en het gebruik van het model ook een zekere bias is opgetreden. Dat wil zeggen, dat een verstoring in de uitkomsten kan zijn opgetreden door vooringenomenheid, vooroordeel of het sturen in een bepaalde richting.Uit de ervaringen met dit model wil ik lessen trekken voor de ontwikkeling van nieuwe manieren van handhaving. Ik sluit daarbij aan bij de initiatieven van BZK en wil ook binnen Toeslagen nagaan op welke manier ervoor kan worden gezorgd dat de uitkomsten van een risicomodel precies goed meebewegen met de spreiding van de data en de doelgroep toeslaggerechtigden. Dat betekent continu verfijnen, ook omdat de praktijk over de tijd kan veranderen. Ook is het van belang dat een adequate feedback-loop bestaat tussen dataspecialisten en controlemedewerkers, omdat juist uit de praktijkervaringen van medewerkers belangrijke verbetersignalen kunnen voortkomen.
2. Het behandelkeuzemodel
Ontwikkeling van het behandelkeuzemodel
In 2020 werd door het MT Toeslagen vastgesteld dat het risicoclassificatiemodel onvoldoende in staat was om maatwerk te bieden. De behoefte aan een andere methodiek van selecteren, is vastgelegd in het Jaarplan Belastingdienst, Toeslagen en Douane 2021: «...In 2021 ontwikkelen we een behandelkeuzemodel, dat kijk naar opvallende aanvragen voor een toeslag. De opzet is om te komen tot een model dat ons, binnen de kaders van de AVG, beter in staat stelt maatwerk te bieden: dat kan gaan om hulp voor de aanvrager in persoonlijke begeleiding, om een attentiebrief, om het gebruik van informatie van derden, maar ook om een toezichtactie zoals het aanbrengen van een correctie of het instellen van een terugvordering. Het model geeft de behandelaar meer mogelijkheden tot maatwerk, van dienstverlening tot toezicht. Daardoor werkt het model gerichter en voorkomen we onnodige belasting van de burger en de medewerker. Het uiteindelijke resultaat zal een verhoogde toekenningszekerheid zijn die dichter op de actualiteit zit...».16Om dit te realiseren is in 2020 begonnen met de ontwikkeling van het behandelkeuzemodel. Op basis van deskresearch is in de eerste fase van de ontwikkeling van het behandelkeuzemodel binnen Toeslagen gekeken welke methode het best gebruikt kon worden om vroegtijdig aanvragen te detecteren die waarschijnlijk een afwijking hebben tussen hun voorlopige beschikking en hun definitieve beschikking. Dit met name om terugvorderingen bij definitief toekennen zo veel mogelijk te voorkomen. Uit deze eerste fase kwam naar voren dat de ontwikkeling van het nieuwe behandelkeuzemodel vroeg om een nieuwe start en dat het ongewenst was om eerdere voorbeelden van onjuiste en juiste aanvragen te hergebruiken. Toeslagen heeft in de beginfase indicatoren vastgesteld op basis van praktijkervaring. Hierbij ging het om opvallende zaken zoals de huurprijs die kort achter elkaar drie keer wijzigt. Dit kan een signaal zijn dat de aanvrager niet goed weet welke huurprijs hij moet invoeren. Als een aanvraag aan minimaal één van de indicatoren voldoet, kan deze geselecteerd worden voor handmatige behandeling. Het is de bedoeling om de selectie van te beoordelen aanvragen maandelijks plaats te laten vinden, voor het moment van «formeel beschikken». De behandeling van de aanvragen wordt dan zo snel mogelijk doch uiterlijk binnen één maand opgepakt. Het behandelkeuzemodel is gebaseerd op een dienstverlenende aanpak, waarbij de behandelaren hun aanpak specifiek kunnen richten op een mogelijke onjuistheid en hierover ook transparant zijn naar de burger. De behandelaar weet waarom de aanvraag is geselecteerd en informeert de burger hier ook over. In tegenstelling tot het risicoclassificatiemodel is er geen sprake van indicatoren met variabel gewicht en worden de grenzen niet bepaald op voorbeelden van juiste en onjuiste aanvragen.
Pilot huurtoeslag en waarborgen voor vervolg
In september 2021 is binnen Toeslagen besloten een kleine pilot op 500 huurtoeslagaanvragen uit te voeren om in de praktijk te ervaren hoe het model werkt en wat behandelaren en burgers vinden van de nieuwe aanpak. Bij de opzet van de pilot van het behandelkeuzemodel is aangesloten bij de regels van de AVG. Op dit moment wordt deze pilot geëvalueerd. Op basis van de evaluatie wordt besloten of en op welke manier het behandelkeuzemodel binnen Toeslagen kan worden ingezet. Daarbij wordt vooraf getoetst aan de geldende juridische en vaktechnische kaders waaronder de kaders die zien op mensenrechten en anti-discriminatie. Dit zal ook worden voorgelegd aan de Inspectie Belastingen Toeslagen en Douane. Ook de Functionaris Gegevensbescherming (FG) zal hierbij worden betrokken. Ik informeer uw Kamer voordat het behandelkeuzemodel definitief in gebruik genomen wordt en welke afwegingen hieraan ten grondslag liggen.Naast de privacy-waarborgen vind ik het belangrijk om te benadrukken dat ook vaktechnische waarborgen zijn en worden aangebracht bij de evaluatie van de pilot en de eventuele vervolguitvoering van dit behandelkeuzemodel. Die waarborgen moeten er ook toe strekken dat burgers fair worden behandeld en dat waar mogelijk de menselijke maat binnen de ruimte van de wet- en regelgeving wordt toegepast. Ik acht het van groot belang dat Toeslagen zijn handhavingsactiviteiten uitvoert op een manier die voldoet aan de eisen die de maatschappij daaraan stelt. Momenteel wordt gewerkt aan een bredere Handhavingsstrategie Toeslagen waarin dit ook gewaarborgd wordt.
3. Werken met zelflerende modellen
Tijdens het Vragenuur op 23 november 2021 kwam ook de vraag aan de orde van het lid Van der Lee (GroenLinks) of het werken met zelflerende modellen wenselijk is als het gaat om het beoordelen van aanvragen van mensen. Ik begrijp uw zorgen en verwacht u daar in Q1 2022 nader over te kunnen informeren. Wel kan ik melden dat bij Toeslagen op dit moment niet met zelflerende modellen gewerkt wordt.Het lid Van der Lee (GroenLinks) vroeg daarnaast of er binnen de Belastingdienst vergelijkbare modellen binnen de Belastingdienst zijn. Deze vraag geleid ik door naar mijn ambtsgenoot de Staatssecretaris van Financiën – Fiscaliteit en Belastingdienst. Hij zal hierop terugkomen in de volgende rapportage Herstellen, Verbeteren en Borgen (HVB) waarmee de Kamer wordt geïnformeerd over de voortgang op de HVB-trajecten in het vierde kwartaal. Ik verwacht dat die begin 2022 aan uw Kamer wordt gestuurd.Wel wil ik alvast het volgende opmerken. Het kabinet heeft de afgelopen tijd stappen gezet om een verantwoorde inzet van algoritmen binnen de overheid te borgen. Over de stand van zaken hierover is uw Kamer bij brief van 10 juni 2021 geïnformeerd door de ministers van Binnenlandse Zaken en Koninkrijksrelaties en voor Rechtsbescherming en de staatssecretarissen van Binnenlandse Zaken en Koninkrijksrelaties en van Economische Zaken.17 In deze brief heeft het Kabinet ook een beleidsagenda Normering en Toezicht Algoritmen gepresenteerd. Het Kabinet heeft instrumenten ontwikkeld, zoals een Impact Assessments Mensenrechten Algoritmen (IAMA) en een handreiking non-discriminatie die helpen om mogelijke discriminatie in algoritmische systemen in een vroegtijdig stadium te detecteren en te mitigeren. Partijen met toezichthoudende taken hebben een normenkader ontwikkeld om algoritmen beter te kunnen controleren. Diverse overheden doen momenteel ervaringen op met een algoritmeregister. De acties uit de beleidsagenda moeten bijdragen aan een robuust en gebalanceerd wettelijk kader, dat consistent en praktisch toepasbaar is en moet bijdragen aan het verder verbeteren van het toezicht op de naleving van deze wettelijke vereisten. In dit verband wil ik benadrukken dat voordat er beslissingen worden genomen over de toekomstige inzet van een ander model bij Toeslagen in de toekomst er eerst een uitgebreide toetsing zal plaatsvinden aan de gestelde juridische en vaktechnische kaders waaronder de kaders die zien op mensenrechten en anti-discriminatie.Daarnaast is het kabinet bezig met uitvoering van twee moties die hier ook aan raken: de moties van het lid Marijnissen c.s. en van het lid Klaver c.s.18 Deze moties gaan over het inventariseren waar (persoons)gegevens worden gebruikt die gerelateerd zijn aan iemands afkomst. Als de overheid die gegevens onrechtmatig en oneigenlijk gebruikt, wordt dat beëindigd en de vervuilde data opgeruimd. De Tweede Kamer is op 21 oktober 2021 door de Staatssecretaris van Binnenlandse zaken en Koninkrijksrelaties geïnformeerd over de voortgang van de uitvoering van deze moties.19 Daarin wordt ook ingegaan op de werkwijze. Als eerste vindt een inventarisatie plaats waar gegevens over nationaliteit een rol spelen. De tweede stap betreft de toetsing in hoeverre sprake is van (on)rechtmatig of (on)eigenlijk gebruik van deze gegevens in de aangetroffen risicomodellen en als derde en laatste stap is het, voor de personen die het betreft, van belang dat overheidsinstellingen zo snel mogelijk gegevens rectificeren of wissen wanneer deze gebaseerd zijn op risicomodellen waarin onrechtmatig of oneigenlijk gebruik is gemaakt van gegevens hierover.Bij brief van 5 februari 202120 heb ik u toegezegd, in het kader van het ethisch verantwoord omgaan met modellen en algoritmen, een Adviesraad Analytics voor de Belastingdienst aan te stellen. Wij werken op dit moment deze adviescommissie verder uit en deze zal zijn werking hebben voor het hele Ministerie van Financiën. Dit is een onafhankelijke commissie die gevraagd en ongevraagd advies geeft over actuele vraagstukken. Het terrein waarover zij kunnen adviseren, willen wij zo breed mogelijk houden, zodat zij de vrijheid voelen om waar nodig advies te geven. Uiteraard kunnen deze adviezen ook aan uw Kamer ter beschikking worden gesteld indien u daar prijs op stelt. De adviezen van de Adviesraad Analytics bevatten een multidisciplinaire afweging over het desbetreffende onderwerp. Er wordt gewerkt met vijf perspectieven uit het rapport «Aandacht voor algoritmes» van de Algemene Rekenkamer: 1) sturing en verantwoording; 2) model en data; 3) privacy; 4) IT General Controls, en 5) ethiek (dat verweven is in de vier andere perspectieven).Verder is het besluit genomen om een Inspectie Belastingdienst, Toeslagen en Douane op te richten. Hiermee is een belangrijke stap gezet in het borgen van de kwaliteit van onze dienstverlening en het herwinnen van vertrouwen van de samenleving. De inspectie zal niet alleen toezicht houden op de uitvoerende diensten zoals de Belastingdienst, maar ook op de uitvoering zelf. De inspectie moet daarnaast toezien op de taakformulering, de sturing en de continuïteit en de kwaliteit van de uitvoering.
4. Informatievoorziening
Tijdens het Vragenuur heeft uw Kamer aandacht gevraagd voor de informatievoorziening aan de Kamer op dit dossier. Ik heb met deze brief en de bijgevoegde documenten beoogd om uw Kamer een zo volledig mogelijk beeld van het model te geven. Ik wil hierbij opmerken dat het om technische documenten gaat, die mogelijk niet allemaal even gemakkelijk leesbaar zijn. Ook bevatten de documenten op onderdelen voorstellen die nooit in het model ten uitvoer zijn gekomen en die met de huidige inzichten nooit meer op deze manier zouden worden opgesteld. In een technische briefing – of aanvullend op deze briefing – beantwoorden mijn ambtenaren graag al uw vragen over deze documenten.Tijdens het Vragenuur afgelopen dinsdag werd onder andere door het lid Leijten verwezen naar documenten die eerder gedeeld zijn met de Adviescommissie Uitvoering Toeslagen (AUT)21,22 en de Autoriteit Persoonsgegevens (AP)23 en daarna openbaar gemaakt zijn op basis van een verzoek op grond van de Wet openbaarheid van bestuur (Wob). Volledigheidshalve deel ik bij deze brief nog eens het document waarin de vragen van de AUT met betrekking tot het risicoclassificatiemodel worden beantwoord, waaraan tijdens het Vragenuur en in de artikelen van RTLNieuws en Trouw werd gerefereerd.In de afgelopen vijf jaar zijn er 19 Wob-verzoeken geweest die op de een of andere manier verband houden met de problemen bij de kinderopvangtoeslag. Al deze documenten zijn terug te vinden op rijksoverheid.nl en voor het einde van dit jaar ook op informatiepuntkinderopvangtoeslag.rijksoverheid.nl. Conform de kabinetsreactie op de Parlementaire ondervragingscommissie Kinderopvangtoeslag (POK)24 wordt er nu gewerkt aan het ontlakken van de persoonlijke beleidsopvattingen in de oude Wob-besluiten die dan vervolgens op het «Informatiepunt KOT» worden geplaatst. Dit is reeds gedaan voor vrijwel alle Wob-besluiten, op twee na. Wanneer dit is afgerond, zijn alle stukken terug te vinden op het informatiepunt. Ik zal uw Kamer daar vanzelfsprekend over informeren.
Voor de volledigheid deel ik onderstaand overzicht van de momenten waarop ik aan uw Kamer eerder al eens gecommuniceerd heb (al dan niet inhoudelijk of procesmatig) over het risicoclassificatiemodel:
- •2 juli 2020: Technische briefing over risicomodellen en selectieregels;
- •10 juli 2020: Nadere informatie over de Fraude Signalering Voorziening (FSV) en het gebruik van FSV binnen de Belastingdienst25;
- •17 juli 2020: Reactie rapport Autoriteit Persoonsgegevens (van 16 juli 2020)26;
- •26 oktober 2021: Reactie op rapport Amnesty International27;
- •28 oktober 2021: Punt van orde lid Leijten inzake risicoclassificatiemodel28, en
- •15 november 2021: Verzoek termijn openbaar maken risicoclassificatiemodel Toeslagen29.
Afsluiting
Om af te sluiten wil ik nogmaals benadrukken dat de overheid mensen in gelijke situaties niet ongelijk mag behandelen. Het model van Toeslagen werd gebruikt om aanvragen voor toezicht te selecteren, met als doel hoge terugvorderingen en oneigenlijk gebruik te voorkomen. Het blijft pijnlijk om te constateren dat bepaalde doelgroepen hier onevenredige consequenties van ondervonden hebben. Dat bevestigt het belang en de noodzaak om herstel te bieden aan de mensen die gedupeerd zijn als gevolg van de toeslagenaffaire.Door middel van deze brief en de bijlagen informeer ik uw Kamer over het model. Het op papier delen van informatie over de werking van een technische applicatie brengt ook beperkingen met zich mee. Met deze uitgebreide toelichting en het aanbod van de technische briefing hoop ik uw Kamer hierin tegemoet te komen.
De Staatssecretaris van Financiën,A.C. van Huffelen
2Kamerstuk 26 643, nr. 799
3Kamerstuk 31 066, nr. 917
4Kamerstuk 31 066, nr. 681
5De term Deel-GEB is spreektaal waarmee bedoeld wordt te zeggen dat het een bijlage is bij de uitgevoerde GEB.
6Raadpleegbaar via Externe link:www.tweedekamer.nl
7Raadpleegbaar via Externe link:www.tweedekamer.nl
8Kamerstuk 31 066, nr. 681
9Kamerstuk 31 066 nr. 683
10Zie: Externe link:https://informatiepuntkinderopvangtoeslag.rijksoverheid.nl/
11Kamerstuk 31 066, nr. 683
12Hoge toeslag, hoog risico
13External link: See: External link: https://www.rijksoverheid.nl/documenten/wob-verzoeken/2020/12/11/eerste-deelbesluit-op-het-wob-verzoek-over-adviescommissie-uitvoering-toeslagen-aut
15Parliamentary paper 35 510, No. 4
16Parliamentary paper 31 066, no. 737
17Parliamentary paper 26 643, No. 765
18Parliamentary paper 35 510, nos. 16 and 21
19Parliamentary papers 26 643 and 32 761, No. 790
20Parliamentary paper 31 066, No. 804
21External link: See: External link: https://www.rijksoverheid.nl/documenten/wob-verzoeken/2020/12/11/eerste-deelbesluit-op-het-wob-verzoek-over-adviescommissie-uitvoering-toeslagen-aut
23External link: See: External link: https://www.rijksoverheid.nl/documenten/wob-verzoeken/2020/09/14/besluit-op-wob-verzoek-inzake-etnisch-profileren-belastingdienst-toeslagen
24Parliamentary paper 35 510, No. 4
25Parliamentary paper 31 066, No. 681
26Parliamentary paper 31 066, No. 683
27Parliamentary paper 26 643, No. 799
28Parliamentary paper 31 066, no. 916
29Parliamentary paper 31 066, no. 917
.avif)