AI lokaal kopen? Nee, liever eenalgoritme van Stanford

Original interview with Financieel Dagblad can be found here.

De bedoeling was dat de Amsterdamse scholen zíjn AI zouden gebruiken,

zegt UvA-hoogleraar Sennay Ghebreab. Nee dus, het onderwijs koos toch

voor een Amerikaanse tool. Terwijl die volgens Ghebreab minder goed werkt.

Geldt ook hier: wat je van ver haalt is per definitie lekkerder?

Met frisse moed en bijna €3 mln van onder meer de gemeente

Amsterdam begon UvA-hoogleraar Sennay Ghebreab in 2020 aan een

nieuwe missie: kunstmatige intelligentie voor de gewone mens. Na alle

ophef over discriminerende algoritmes, zoals het overheidssysteem Syri

voor uitkeringsfraude, zou hij iets maken dat burgers controle geeft over

hun leven. AI om discriminatie en kansenongelijkheid aan te pakken in

plaats van te creëren.

Nu, ruim vijf jaar later, kan hij de klus afronden. De onderzoekers uit zijn

Civic AI Lab leveren één voor één hun proefschriften af – zelf neemt hij

een sabbatical om nieuwe inspiratie op te doen in Afrika. Ghebreabs

voorbeeld is ook al gevolgd in Rotterdam, dat op verzoek van de

gemeenteraad de naam veranderde in Sociaal AI Lab – volgens de

wethouder voor Digitale Inclusie aldaar is dat ‘duidelijke taal die goed te

begrijpen is voor de Rotterdammer’.

Maar de optimistische stemming uit 2020 is omgeslagen. Koop lokale

waar, dan helpen we elkaar, was destijds de gedachte. Nu vat Ghebreab de

houding van de overheid tegenover AI-wetenschappers als volgt samen:

‘Wíj bepalen wel wat goed is.’

Precies het omgekeerde van alles waar hij voor staat.

Top-down governance

Dit was zijn idee: AI ontwikkelen met de mensen voor wie het is bedoeld.

Dat geeft de minste kans op missers, zoals onbedoelde discriminatie. De

praktijk is anders, zegt hij: de overheid koopt iets kant-en-klaars in het

buitenland en zegt dat het goed is. ‘Top-down governance’ noemt hij dat.

Zo bood hij het Centraal Orgaan opvang Asielzoekers ooit een algoritme

aan dat statushouders (voormalige asielzoekers met een

verblijfsvergunning) kan ‘matchen’ met de ideale woonplaats. Daarbij

speelt bijvoorbeeld de werkervaring van de asielzoeker een rol. ‘Maar

nee’, zegt Ghebreab, ‘ze kozen een algoritme van Stanford University in

Amerika. Want dat moet goed zijn. Met als consequentie dat het niet zo

goed werkt.’

In Lab42, een groot centrum voor AI-studenten en -bedrijven op het

Amsterdamse Science Park, praat Ghebreab over zijn ‘lessons learned’.

Disclaimer: hij wil niet negatief doen. Zijn werk is maatschappelijk

relevant en hij werkt met gemotiveerde onderzoekers. Maar hij kan het

niet mooier maken dan het is, zegt hij,

‘Het is zonde, want het is een verlies aan expertise, aan kennis, aan goodwill’

Lotingsysteem

De casus die voor hem alles vertelt, is het Amsterdamse systeem voor het

loten van een middelbare school, een jaarlijks ritueel dat ouders en

kinderen tot wanhoop kan drijven. Ze vullen een lange lijst in van

scholen (nu negen, eerder waren dat er achttien) die geschikt lijken, in

volgorde van voorkeur, en wachten vervolgens af welke school wordt

toegewezen. Dit algoritme is volgens Ghebreab te manipuleren.

Een beproefde ‘hack’ van ouders is om hun voorkeursscholen in de top 3

te zetten. Op de andere plekken zetten ze dan alleen populaire scholen

die zeer waarschijnlijk overvol zitten. Want - en dit is de achilleshiel - de

stad garandeert een plek. Zo verhoog je de kans om toch op een top 3-

school te komen. ‘Strategisch kiezen’, heet dat onder ouders.

Toenmalig onderwijswethouder Marjolein Moorman, sinds november

2025 Tweede Kamerlid voor GroenLinks-PvdA, ontkende in antwoorden

aan de gemeenteraad dat ‘strategisch kiezen’ de kans op een

voorkeursschool vergroot. Het algoritme, dat uit de Verenigde Staten

komt, zou niet te manipuleren zijn. Maar volgens Ghebreab kan dat wél,

doordat de Amsterdamse scholen het verkeerd gebruiken.

‘Ze hebben het Amerikaanse algoritme overgenomen’, zegt hij, ‘onder de

aanname dat het bestand is tegen strategisch kiezen. Ze hielden er geen

rekening mee dat het is ontwikkeld voor een ander soort probleem.

‘Matching werkt eenzijdig’

In Amerika kiezen niet alleen de leerlingen een school, ook de scholen

kiezen een volgorde in de leerlingen die ze willen, legt Ghebreab uit. De

matching komt van twee kanten, zoals in de datingapp Tinder. ‘Het is

een echt matchingalgoritme. Daarvoor heeft het een Nobelprijs

gewonnen.’

Hij doelt op de Amerikaanse econoom en wiskundige Lloyd Shapley, die

in 2012 een Nobelprijs kreeg voor zijn matchingalgoritme uit de jaren 60.

Die wordt gebruikt door de scholen van New York en Boston.

‘We hebben ook al vroeg gezegd dat het algoritme niet is ontwikkeld voor

het probleem in Amsterdam. Sterker nog: in een voetnoot staat dat het

minder goed kan werken, of zelfs schadelijk kan zijn voor de kinderen,

als het in een andere context wordt gebruikt. En Amsterdam heeft een

andere context. Kinderen geven een voorkeurslijst, scholen niet. De

matching werkt eenzijdig.’

Transparant

Jarenlang streden Ghebreab en zijn promovendi tegen dit soort fouten, zegt hij: een

algoritme toepassen op de verkeerde situatie. Daarom ontwikkelden ze zelf iets voor

de middelbare scholen. Ook aan hun algoritme zitten ‘haken en ogen’, zegt hij.

‘Maar kinderen kunnen daardoor wel in hun eigen top-5 worden geplaatst. We

hebben dat verschillende keren aangeboden en uitgelegd. Ook aan toenmalig

wethouder Moorman.’ Amsterdam heeft ‘een andere context’, zegt Ghebreab.

Haar reactie las Ghebreab in een schriftelijk antwoord op vragen uit de gemeenteraad.

Het huidige systeem was volgens de PvdA-wethouder ‘eerlijk en transparant’.

Het was nog maar de vraag of het alternatief dat wél was. ‘Op het eerste gezicht

lijkt dat niet het geval omdat het strategisch kiezen in de hand kan

werken’, meende Moorman.

In een raadsdebat zei ze hierover: ‘Er zijn de afgelopen jaren zoveel

onderzoekers voorbij gekomen, die denken het gouden ei te vinden.’

‘Niet oké’, zegt Ghebreab over deze reactie. Want het gaat hier om het

werk van een promovendus die vier jaar lang ‘met hart en ziel heeft

gewerkt, met ouders heeft gesproken, met de stad heeft gesproken, die

de uitdaging is aangegaan om niet alleen theoretisch te werk te gaan,

maar het samen met de burgers te doen.’

Zonde

Afgelopen voorjaar vroeg de gemeenteraad aan Ghebreab, die lid is van

de Staatscommissie tegen discriminatie en racisme, om zijn kennis over

AI te delen. Hij luchtte meteen zijn hart en zei: ‘Ik heb even getwijfeld of

ik wel hier wil komen spreken. Of het nog zin heeft om wéér een

presentatie te geven.’ Hij deelde zijn verbazing over het afgewezen

lotingssysteem en gaf de politiek een waarschuwing: ze luistert niet meer

naar ‘burgers die zeggen wat ze nodig hebben’, maar naar ‘AI-experts die

zeggen wat men wil horen’.

Hij wil nog maar even in herinnering brengen waarom zijn Civic AI Lab

er is gekomen. Want AI voor de burger was een wens van de overheid. ‘Ik

ben expliciet begonnen’, zegt hij, ‘na een gesprek met de gemeente. Die

zei: “We geven zoveel funding aan universiteiten, ze publiceren ook

wetenschappelijke artikelen, maar uiteindelijk zien we er weinig voor

terug. Wij hebben er weinig aan.” Dus onze afspraak was om samen te

kijken naar het probleem, naar de data die zij hebben.’

Dat bleek volgens hem niet de praktijk. En het raakt hem hoe de politiek

vervolgens reageert op het resultaat. ‘Om na vijf jaar te concluderen dat

ze niet eens ons advies zullen oppakken, sterker nog, dat Marjolein

Moorman in de gemeenteraad expliciet vraagt: “Wie zijn deze

wetenschappers die met zo'n idee komen?” Dat is…’

Hij zoekt naar een woord en besluit dat het ‘zonde’ is. ‘Het is een verlies

aan expertise. Aan kennis. Aan goodwill. De goodwill die de overheid zou

kunnen hebben in de relatie met organisaties, instituten en mensen.’

Zijn promovendi, zegt Ghebreab, zullen ‘wel twee keer nadenken’ voordat

ze weer een klus doen voor gemeente of rijksoverheid.

Gemeente ‘tevreden en trots’

Wat denkt de gemeente Amsterdam over Ghebreabs ervaringen? Is de

houding ‘top-down’, doet ze niets met wetenschappelijk inzicht, ziet ze

liever buitenlandse dan lokaal ontwikkelde AI? ‘De gemeente heeft altijd

prettig samengewerkt met hem en met het Civic AI Lab en kijkt met

tevredenheid en trots terug op wat daar is opgebouwd’, laat een

woordvoerder weten.

De woordvoerder roemt ook Ghebreabs wetenschappelijke erfenis: ‘Het

lab heeft laten zien hoe AI-onderzoek, ontwikkeld in samenspraak met

lokale betrokkenen, kan bijdragen aan het beter begrijpen en verkleinen

van kansenongelijkheid.’

Ghebreab denkt er het zijne van, en laat de universiteit nu een paar

maanden achter zich. Hij wil rondtrekken in Afrika, en mensen spreken

over de omgang tussen overheid en burger. In Afrika vind je sterke

staaltjes van autocratisch bestuur, erkent hij. Maar in Kenia,

bijvoorbeeld, komen ‘oude omgangsvormen terug’ in kleine gemeenten.

‘Daar worden problemen niet door de overheid, maar door burgers

besproken.’