Datagedreven profilering door de overheid

Original article can be found here.

Nieuwsuur besteedde op 6 augustus 2026 aandacht aan datagedreven profilering door de overheid. Als voormalig lid van de Staatscommissie tegen Discriminatie en Racisme lichtte ik het rapport Principes voor Profileren toe. Daarnaast ging ik vanuit mijn rol als hoogleraar AI aan de UvA in op het IOB-systeem van het ministerie van Buitenlandse Zaken. Het onderwerp is complex, politiek en maatschappelijk gevoelig en laat zich niet makkelijk in enkele minuten uitleggen. Daarom zet ik hieronder de belangrijkste punten op een rij: zowel de punten die ik in de uitzending heb kunnen maken als de punten waarvoor geen ruimte meer was.

Staatscommissie voortgangsrapportagge Principes voor Profileren

1. De Staatscommissie tegen Discriminatie en Racisme was een eenmalig adviescollege dat voor vier jaar, op verzoek van de Tweede Kamer, is ingesteld. Op 1 mei 2022 is de Staatscommissie van start gegaan en op maandag 8 juni 2026 publiceerde de commissie het eindrapport Discriminatie doorbreken. Naar een overheid die discriminatie en racisme bestrijdt en voorkomt.

2. Als Staatscommissie hebben we onder andere profileringspraktijken van de overheid getoetst aan drie principes van goed openbaar bestuur: rechtsstatelijkheid, democratische legitimiteit en bestuurlijk vermogen. Op alle drie deze principes schiet datagedreven profilering tekort, zoals beschreven in het voortgangsrapportagge Principes voor Profileren.

3. Er is onvoldoende sprake van rechtsstatelijkheid, omdat mensen al als risico kunnen worden aangemerkt op basis van kenmerken zoals hun woonwijk, nationaliteit of andere groepskenmerken, zonder dat zij iets verkeerd hebben gedaan. Burgers worden daarmee bij voorbaat verdacht en lopen onnodig risico op discriminatie.

4. Er is ook onvoldoende democratische legitimiteit. De keuze om te profileren wordt vaak gepresenteerd als een technische noodzaak, terwijl het in werkelijkheid vaak een politieke en bestuurlijke keuze is waar burgers geen weet van hebben en geen invloed op kunnen uitoefenen.

5. Ten slotte is er onvoldoende empirisch bewijs dat profilering daadwerkelijk beter werkt dan alternatieven zoals aselecte steekproeven. Dit geldt niet alleen vanuit het oogpunt van efficiëntie en effectiviteit, maar ook vanuit het perspectief van veiligheid, vertrouwen in de overheid en andere publieke waarden.

6. Onze conclusie is helder: de overheid zou moeten stoppen met datagedreven profilering voor fraude- en criminaliteitsopsporing en moeten overstappen op alternatieven zoals aselecte steekproeven, zolang niet wordt voldaan aan principes van goed bestuur.

7. Dit betekent niet dat de Staatscommissie in algemene zin kritisch is op het verzamelen en analyseren van data over mensen. Data en algoritmen kunnen juist helpen om ongelijkheid zichtbaar te maken en aan te pakken. Wel is het belangrijk dat mensen toestemming geven wanneer hun gegevens hiervoor worden gebruikt. In het voortgangsrapport Gelijkheidsplicht Publieke Sector gaat de Staatscommissie hier dieper op in.

8. In haar eindrapport adviseert de Staatscommissie de ontwikkeling van een nationale strategie voor het verzamelen en gebruiken van equality data, met heldere waarborgen voor kwaliteit, privacy en zeggenschap. Dit moet verschillende vormen van kennis samenbrengen - van statistische gegevens tot de ervaringen van mensen en gemeenschappen - en deze verantwoord inzetten om discriminatie beter te monitoren, beleid te evalueren en te verbeteren.

9. Formeel reageert het kabinet alleen op het eindrapport, en die reactie komt mogelijk pas eind dit jaar of volgend jaar. Dat is zorgelijk laat, omdat het gebruik van profilering ondertussen gewoon doorgaat en zelfs verder toeneemt. Dit brengt risico’s met zich mee op discriminatie van grote groepen burgers in Nederland. Juist daarom vinden wij dat het debat hierover niet kan wachten.

10. Internationaal is Nederland met de Toeslagenschandaal een schoolvoorbeeld geworden van hoe het mis kan gaan met datagedreven profilering door de overheid. Nederland heeft nu de kans om internationaal een goed voorbeeld te worden door bewust te stoppen met datagedreven profilering. De hoop is dat de overheid deze kans snel grijpt.

    
    

Het IOB-systeem voor de beoordeling van visumaanvragen

1. De Nieuwsuur-reportage laat drie zaken goed zien. Ten eerste dat de overheid sterk stuurt op efficiëntere processen, ook in situaties waarin meer werk moet worden gedaan met minder capaciteit. Dit brengt het risico met zich mee dat publieke waarden als gelijke behandeling, rechtvaardigheid en vertrouwen in de overheid uit beeld verdwijnen.

2. Ten tweede dat de overheid veel vertrouwen heeft in datagedreven profilering, niet alleen omdat dit efficiënter en effectiever zou werken, maar ook omdat het als objectiever en neutraler wordt gezien. Dit leidt tot grotere risico’s voor burgers op discriminatie, zoals we hebben gezien bij het Toeslagenschandaal.

3. Ten derde dat de overheid moeite heeft met het omgaan met de maatschappelijke gevolgen van profilering: burgers en burgerorganisaties die klagen en rechtszaken aanspanen. Die worsteling zie je niet alleen bij de overheid, maar ook bij interne en externe toezichthouders, de rechtspraak en andere organisaties: wetgeving en toezicht lopen achter op de snelle technologische ontwikkeling en het wijdverspreide gebruik van profileringsmethoden.

4. Het fundamentele probleem is dat de overheid mensen wil beoordelen op basis van individueel gedrag, maar daarbij steeds terugvalt op de groep waartoe iemand behoort. Datagedreven profilering versterkt en verergert deze manier van werken. Het maakt immers gebruik van historische data en algemene kenmerken om groepen mensen te beschrijven, maar doet daarmee onvoldoende recht aan de unieke omstandigheden van een individu.

5. Als daar ook nog politieke of maatschappelijke druk bijkomt om bepaalde groepen extra te controleren, ontstaat een groot risico op discriminatie, zoals we dat eerder hebben gezien bij de ‘Bulgarenfaude’ in 2013 en het Toeslagenschandaal.

6. Een veelgebruikt argument voor datagedreven profilering is dat statistieken laten zien dat fraude of criminaliteit binnen bepaalde groepen vaker voorkomt. Maar statistieken zonder context zeggen weinig. Ze kunnen leiden tot feedbackloops en tunnelvisie: niet alleen op technisch niveau, maar ook in de manier waarop organisaties naar mensen kijken en keuzes maken.

7. Transparantie is belangrijk, en het is zeer welkom dat rechters zich hier steeds vaker over uitspreken. Burgers moeten weten wanneer profilering is gebruikt, welke gegevens daarvoor zijn gebruikt en hoe een besluit tot stand is gekomen. Zonder die informatie kunnen burgers onmogelijk bezwaar maken of anderszins invloed uitoefenen op profileringspraktijken.

8. Maar transparantie alleen lost het probleem niet op. Uiteindelijk moet de overheid kunnen aantonen dat profilering rechtmatig, eerlijk én daadwerkelijk noodzakelijk is. Zolang dat niet overtuigend kan worden aangetoond, blijft het risico groot op schadelijke maatschappelijke effecten, zoals discriminatie van grote groepen mensen.

9. Dat vraagt om een open en lerende overheid: een overheid die haar datasystemen laat toetsen door onafhankelijke experts, zoals wetenschappelijke instellingen, en burgers actief betrekt bij de ontwikkeling, beoordeling en verbetering van die systemen. Hierin worden stappen gezet, maar dit gebeurt dit niet zonder weerstand en en niet altijd in de juiste richting.

10. Vijftien jaar onderzoek naar data, algoritmen, discriminatie en kansengelijkheid leert mij één ding: het discriminatieverbod wordt te vaak gezien als een obstakel dat moet worden omzeild bij de bestrijding van fraude en criminaliteit. Dat is een fundamenteel probleem. Artikel 1 van de Grondwet verbiedt discriminatie. Punt. Geen komma.

https://youtu.be/F0m9Bwx3HTc