KUNSTMATIGE INTELLIGENTIE VOOR IEDEREEN

Interview met Marjolein van Trigt voor Binnenlands Bestuur

Begin 2020 hoopt het Civic AI Lab in Amsterdam zijn deuren te openen. Het Civic AI Lab is onderdeel van het Innovation Center for Artificial Intelligence (ICAI), een nationaal netwerk van kennisinstituten, de overheid en private partijen die samenwerken op het gebied van kunstmatige intelligentie. Het bestaat momenteel uit 10 labs, meestal gefinancierd door de industrie. Het ICAI vond het belangrijk dat er naast de bestaande labs ook een lab wordt opgericht met een maatschappelijke en sociale focus. Hiervoor benaderden ze neuro-informaticus Sennay Ghebreab van de UvA, die zich al tien jaar bezighoudt met 'AI for social good'.

Amsterdam 'Het Civic AI Lab zal zich inzetten voor kunstmatige intelligentie voor iedereen, maar met name voor mensen die buiten de boot vallen, omdat er geen representatieve data over ze bestaan, of omdat er geen algoritmes voor ze worden ontwikkeld,' vertelt Ghebreab. Het lab in oprichting is in gesprek met de gemeente Amsterdam over een partnerschap. Ghebreab: 'Wat we voor Amsterdam willen doen, is al aanwezige ongelijkheden in de stad blootleggen. Bijvoorbeeld in het onderwijs, gezondheidszorg en de arbeidsmarkt. Daarnaast willen we nieuwe technologieën ontwikkelen om de kansen te vergroten van verschillenden groepen binnen Amsterdam.'

Partners Het vinden van partners die het Civic AI Lab financieel kunnen ondersteunen, is lastig. Meerdere ministeries, gemeenten en organisaties hebben belangstelling getoond, maar de lat ligt hoogt: van de partners wordt in totaal 2 miljoen euro gevraagd. Ieder lab zet minstens 5 promovendi aan het werk, plus een wetenschappelijk directeur en een wetenschappelijk management. En Civic AI Lab heeft bij voorkeur niet te veel partners. Ghebreab: 'Het gaat me niet om het oprichten van een lab, maar om het vinden van een een of twee partners die gericht en met daadkracht een maatschappelijk probleem willen aanpakken met AI.'

Representatieve data Eén van de manieren om kunstmatige intelligentie voor iedereen te ontwikkelen, is om de data te verbeteren. Bestaande data representeren maar een deel van de bevolking goed. Meestal zijn dat witte mannen. Dat heeft bijvoorbeeld tot gevolg dat zelfrijdende auto's zwarte mensen minder goed zien.  Hoe krijg je meer representatieve data? Onder meer door ervoor te zorgen dat de mensen die data collecteren en analyseren zo divers mogelijk zijn. Ook is het belangrijk om data mee te nemen die mensen vrijwillig afstaan in de digitale wereld. Ghebreab: 'Gemeenten werken traditioneel veel met datakenmerken als woonplaats, sekse en salaris. Ik noem dat top-down kijken naar burgers. Het is belangrijk om ook gegevens mee te nemen die door burgers gegenereerd worden en wat vertellen over hun interesse of talent. Bottom-up datapush kan de digitale representatie van burgers verrijken.'

Ongelijkheidsatlas Een voorbeeld: het Massachusetts Institute of Technology (MIT) maakte de atlas of inequality. Deze online atlas laat zien welke ongelijkheden er in de stad bestaan. Daarvoor gebruikte MIT geanonimiseerde locatiedata van smartphones. Om de sociaal-economische status van stadsbewoners te bepalen, baseerden ze zich gegevens over de buurt waar mensen wonen. 'Ik snap dat mensen zich ongemakkelijk kunnen voelen over dit soort projecten, ook al gaat het om geanonimiseerde data,' zegt Ghebreab. 'Maar bedenk hoeveel data er nu worden weggegeven. Google houdt bij waar je loopt! Dan kunnen die data maar beter transparant worden ingezet, vóór de burger in plaats van voor grote techbedrijven.'