MOTIE Toezicht op het gebruik van algoritmes

Programma: 4.1 Bestuur en dienstverlening 2022-123M
AANGENOMEN
4 oktober 2022
MOTIE Toezicht op het gebruik van algoritmes

Amersfoort, 4 oktober 2022
De raad van de gemeente Amersfoort
overwegende dat:
a. Overheidsinstanties steeds meer gegevens van burgers verzamelen, en deze ook steeds vaker
analyseren met behulp van Artificial Intelligence(AI). Het gebruik van AI kent echter grote risico’s, zoals bias. Wanneer de data (waarmee het AI-systeem getraind wordt) biased is, bestaat
de kans op discriminatie. Wanneer het AI-systeem met die data getraind wordt, zal het systeem
die vooroordelen meewegen in zijn beslissingen (zelflerende algoritmes);
b. Het risico bestaat dat wanneer er onvoldoende wordt nagedacht over de mogelijke nadelige gevolgen bij het gebruiken van (zelflerende) algoritmes dit kan leiden tot bijvoorbeeld uitsluiting,
het in de hand werken van institutioneel racisme of discriminatie;
c. De Raad van State de overheid heeft gewaarschuwd voor de gevolgen voor mensen van automatisering van overheidsprocessen en met name het gebruik van zelflerende algoritmes;
d. O.a. de toeslagenaffaire ons heeft geleerd zeer terughoudend te zijn met het gebruik van (zelflerende) algoritmes;
e. Het op dit moment ontbreekt aan duidelijke wet en-regelgeving omtrent het gebruik van (zelflerende) algoritmes in het overheidswezen;
f. Het risico op discriminerende algoritmes niet is weggenomen door de indicator “nationaliteit”
te verwijderen, omdat ook op basis van andere datavariabelen zoals geboorteplaats, postcode
of zelfs IP-adres een profiel gebouwd kan worden waartegen gediscrimineerd kan worden;
g. Het voor de burger open en controleerbaar moet zijn, welke acties door de gemeente aan de
hand van algoritmes worden uitgevoerd;
h. Leveranciers van algoritmes doorgaans niet akkoord gaan met het publiceren van de broncode
van de door hen ontwikkelde algoritmes;
i. Het hierdoor niet mogelijk is voor raadsleden of burgers om inzicht te krijgen in de werking van
algoritmes die door de gemeente worden gebruikt en derhalve een democratisch gebrek ontstaat.
verzoekt het college:
1. Het gebruik van nationaliteit en etniciteit als datavariabele in alle risicomodellen, -profielen, -
systemen, -selectie en zwarte lijsten binnen de gemeente gebruikt worden uit te sluiten tenzij
deze via het ethische afwegingskader een positief advies krijgen;
2. Tevens te verzekeren dat ook zelflerende algoritmes in risicoclassificatiemodellen deze indicatoren niet gebruiken;
3. Een publiek toegankelijk algoritmeregister naar het model van Helsinki of Amsterdam in te richten op de website van de gemeente Amersfoort;
4. In dat register de datasets te openbaren van algoritmes die de gemeente Amersfoort gebruikt;
Programma: 4.1 Bestuur en dienstverlening 2022-123M
AANGENOMEN
4 oktober 2022
Youssef el-Messaoudi Tom van Lamoen Lisa Overmars
GroenLinks Amersfoort voor Vrijheid D66
Rob Smulders Natanja Vreugdenhil Arie den Ouden
PvdA Partij voor de Dieren CDA