In het kort:

Het gebruik van algoritmes voor fraudeopsporing door de overheid schendt fundamentele beginselen van goed bestuur en democratie.

• Tussen 2012 en 2023 werden 10.000 studenten door DUO discriminerend gecontroleerd, waarbij studenten met een migratieachtergrond onevenredig vaak werden geselecteerd.
• De toeslagenaffaire dient als schrijnend voorbeeld van hoe algoritmes discriminatie kunnen veroorzaken en versterken.
• Vooral sociaal-economisch zwakkere en kwetsbare groepen worden geraakt door deze praktijken.

Het grote plaatje:

De problemen met overheidsalgoritmes zijn structureel van aard en ondermijnen de rechtsstaat.

• Er ontbreken wettelijke kaders voor het gebruik van datagedreven profilering, waardoor willekeur kan ontstaan.
• Algoritmes baseren zich op verouderde data waarin discriminatie al aanwezig was, waardoor vooroordelen worden herhaald en versterkt.
• Het Algoritmeregister dat transparantie moet bieden is gebrekkig, waardoor burgers vaak niet weten dat ze geprofileerd worden.

Wat volgt:

De commissie presenteert volgende maand een uitgebreid rapport en pleit voor alternatieven zoals aselecte controles en willekeurige steekproeven. "Omdat profilering raakt aan kernprincipes van de rechtsstaat, democratie en goed bestuur, moet de overheid transparant zijn over haar keuzes," aldus voorzitter Joyce Sylvester.