Schokkende details over racisme bij DUO: studenten van kleur kregen vaker boetes en huisbezoeken

Fraude met uitwonendenbeurs opsporen

Het risicoprofileringssysteem van DUO werd in 2011 geïntroduceerd en moest een einde maken aan fraude met de uitwonendenbeurs. Studenten die niet bij hun ouders woonden, kregen namelijk een hogere beurs, en DUO ontwikkelde een algoritme om te bepalen wie mogelijk misbruik maakte van deze regeling. Het systeem beoordeelde studenten op basis van factoren zoals leeftijd, opleidingstype en afstand tot het adres van de ouders.

In het rapport van Amnesty International valt echter te lezen dat deze factoren in verband werden gebracht met ras en sociaaleconomische status. Studenten met een niet-Europese migratieachtergrond en mbo-studenten – vaak uit economisch kwetsbare groepen – werden vaker aangemerkt als 'hoog risico'. Dat leidde tot onaangekondigde huisbezoeken, terugvorderingen en boetes. Zonder concreet bewijs werden studenten met een migratieachtergrond onevenredig vaak geselecteerd voor een huisbezoek.

Indirecte vormen van discriminatie

Discriminatie via algoritmes is ingewikkeld, omdat het vaak om indirecte vormen gaat. De criteria van DUO leken op het eerste gezicht neutraal, maar de uitwerking was allesbehalve dat. "Er kan een objectieve en redelijke rechtvaardiging zijn voor indirect onderscheid, op voorwaarde dat een legitiem doel wordt nagestreefd en dat de middelen om dat doel te bereiken passend en noodzakelijk zijn", aldus Gwen van Eijk, onderzoeker van het rapport. "Deze beoordeling is zeer strikt. In de praktijk zal het gebruik van ogenschijnlijk neutrale criteria dat een onevenredige impact heeft op groepen op grond van ras vrijwel altijd in strijd zijn met het discriminatieverbod."

Risicoprofileringssysteem

Toen in 2023 beschuldigingen van discriminatie naar buiten kwamen, zette minister Dijkgraaf van Onderwijs, Cultuur en Wetenschap het risicoprofileringssysteem tijdelijk stop. Een extern onderzoek bevestigde in 2024 dat de werkwijze discriminerend was. Het kabinet bood excuses aan voor 'indirecte discriminatie' en beloofde herstelmaatregelen. Inmiddels worden besluiten op basis van de discriminerende werkwijze teruggedraaid en terugvorderingen en boetes worden terugbetaald.

Strengere maatregelen

Amnesty International pleit voor strenge maatregelen tegen algoritmische risicoprofilering om discriminatie in de toekomst te voorkomen. Zo bevelen ze het ministerie van Onderwijs, Cultuur en Wetenschap onder meer aan om discriminatie te erkennen, gedupeerde studenten zo snel mogelijk te compenseren, sociaaleconomische status toe te voegen aan antidiscriminatiewetgeving en alle algoritmische risicoprofileringssystemen die nog worden gebruikt stop te zetten.

Risicoprofilering niet nieuw in Nederland

Het probleem van discriminerende risicoprofilering is niet nieuw in Nederland. Zo kwam een aantal jaar geleden het toeslagenschandaal aan het licht, waar ouders met een niet-westerse achtergrond ten onrechte werden beschuldigd van fraude. Ondanks deze mensenrechtenschendingen blijven overheidsorganisaties algoritmes gebruiken zonder mensenrechten voldoende te waarborgen.

Amnesty International wijst erop dat dergelijke systemen zelden neutraal zijn. Ze reproduceren bestaande vooroordelen en versterken machtsverschillen. Zonder heldere regels en toezicht is de kans dan ook groot dat gemarginaliseerde groepen te maken blijven krijgen met discriminatie.