Amsterdams lab maakt AI voor mensen die buiten de boot vallen

AGconnect.nl. Begin 2020 hoopt het Civic AI Lab in Amsterdam zijn deuren te openen. Het Civic AI Lab is onderdeel van het Innovation Center for Artificial Intelligence(ICAI), een nationaal netwerk van kennisinstituten, de overheid en private partijen die samenwerken op het gebied van kunstmatige intelligentie.

Het bestaat momenteel uit 10 labs, meestal gefinancierd door de industrie. Het ICAI vond het belangrijk dat er naast de bestaande labs ook een lab wordt opgericht met een maatschappelijke en sociale focus. Hiervoor benaderden ze neuro-informaticus Sennay Ghebreab van de UvA, die zich al tien jaar bezighoudt met 'AI for social good'.

Nieuwkomers

Als voorbeeld van AI for social good noemt Ghebreab een projectvoorstel dat hij ontwikkelde voor het Ministerie van Sociale Zaken, maar dat onlangs is afgeblazen: kunstmatige intelligentie die nieuwkomers een opvanglocatie toekent op basis van hun talenten en sociaalgeografische data. "Uit een Zwitsers onderzoek blijkt dat nieuwkomers die op deze manier worden begeleid, veertig procent meer kans hebben om hun plek te vinden in hun nieuwe land, in werk dan wel onderwijs."

Het Civic AI Lab zal zich inzetten voor kunstmatige intelligentie voor iedereen, maar met name voor mensen die buiten de boot vallen, omdat er geen representatieve data over hen bestaan, of omdat er geen algoritmes voor hen worden ontwikkeld. Het lab in oprichting is in gesprek met de gemeente Amsterdam over een partnerschap. Ghebreab: 'Wat we voor Amsterdam willen doen, is al aanwezige ongelijkheden in de stad blootleggen. Bijvoorbeeld in het onderwijs, gezondheidszorg en de arbeidsmarkt. Daarnaast willen we nieuwe technologieën ontwikkelen om de kansen te vergroten van verschillenden groepen binnen Amsterdam.'

Partners

Het vinden van partners die het Civic AI Lab financieel kunnen ondersteunen, is lastig. Meerdere ministeries, gemeenten en organisaties hebben belangstelling getoond, maar de lat ligt hoogt: van de partners wordt in totaal twee miljoen euro gevraagd. Ieder lab zet minstens vijf promovendi aan het werk, plus een wetenschappelijk directeur en een wetenschappelijk management. En Civic AI Lab heeft bij voorkeur niet te veel partners. Ghebreab: 'Het gaat me niet om het oprichten van een lab, maar om het vinden van een een of twee partners die gericht en met daadkracht een maatschappelijk probleem willen aanpakken met AI.'

Een commerciële partner dan? 'Het idee is om met Civic AI lab organisaties en de overheid aan boord te krijgen om maatschappelijk vraagstukken aan te pakken met behulp van AI," reageert Ghebreab. "Ik richt mij daarom in eerste instantie op organisaties en overheden die het niet, of moeizaam, lukt om maatschappelijke vraagstukken op te lossen. Denk aan het inburgeringsbeleid. Daarmee maak ik het mijzelf niet makkelijk, maar vind dat ik eerst hen eerst een kans moet geven om aan te sluiten. Pas als dit tot het einde van het jaar niet lukt, wil ik breder kijken, bijvoorbeeld in de richting van corporate foundations."

Bias in AI

Eén van de manieren om kunstmatige intelligentie voor iedereen te ontwikkelen, is door de data te verbeteren. Bestaande data representeren maar een deel van de bevolking goed. Onevenwichtige datasets leiden ertoe dat AI een voorkeur ontwikkelt voor een bepaalde groep, ook al was dat nooit de bedoeling van de ontwikkelaars. Zo is stemherkenningssoftware veel beter in het begrijpen van mannenstemmen dan vrouwenstemmen. De software wordt getraind met behulp van een grote database van stemopnames. Die wordt gedomineerd door mannelijke stemmen.

Als je navigatiesysteem jou niet goed verstaat en je man wel, dan is dat vooral vervelend. Maar wat te denken van kunstmatige intelligentie die zwarte mensen structureel hogere gevangenisstraffen oplegt? Of van zelfrijdende auto's die zwarte mensen niet opmerken, omdat ze vooral getraind zijn op het herkennen van witte mensen? Alle reden om zo snel mogelijk representatieve data te verzamelen, en voor het Civic AI lab om nauw samen te werken met de andere labs binnen ICAI, zoals het Police Lab AI. 

Representatieve data

Hoe krijg je meer representatieve data? Onder meer door ervoor te zorgen dat de mensen die data verzamelen en analyseren zo divers mogelijk zijn. Ook is het belangrijk om data mee te nemen die mensen vrijwillig afstaan in de digitale wereld. Ghebreab: "Gemeenten werken traditioneel veel met datakenmerken als woonplaats, sekse en salaris. Ik noem dat top-down kijken naar burgers. Het is belangrijk om ook gegevens mee te nemen die door burgers gegenereerd worden en wat vertellen over hun interesse of talent. Bottom-up datapush kan de digitale representatie van burgers verrijken."

Een voorbeeld: het Massachusetts Institute of Technology (MIT) maakte de atlas of inequality. Deze online atlas laat zien welke ongelijkheden er in de stad bestaan. Daarvoor gebruikte het MIT geanonimiseerde locatiedata van smartphones. Om de sociaal-economische status van stadsbewoners te bepalen, baseerden ze zich op gegevens over de buurt waar mensen wonen. "Ik snap dat mensen zich ongemakkelijk kunnen voelen over dit soort projecten, ook al gaat het om geanonimiseerde data," zegt Ghebreab. "Maar bedenk hoeveel data er nu worden weggegeven. Google houdt bij waar je loopt! Dan kunnen die data maar beter transparant worden ingezet, voor de burger in plaats van voor grote techbedrijven."