Van doemdenken over AI naar doendenken met AI

Kunnen algoritmes discrimineren? En dragen ze zo bij aan ongelijkheid in de samenleving? Steeds meer apparaten worden aangestuurd door algoritmes en ook overheden gebruiken steeds vaker artificiële intelligentie bij het uitdragen van beleid. Hoe zorgen we ervoor dat een inclusieve samenleving daarbij gewaarborgd is? Kom luisteren naar neuroinformaticus Sennay Ghebreab, mediakunstenaar Roos Groothuizen en filosoof Lotje Siffels en kom erachter hoe we voorkomen dat algoritmes leiden tot groeiende ongelijkheid.

Wantrouwen

Het voorbeeld van de zelfrijdende auto is veelzeggend: als zwart persoon heb je vijf procent meer kans om aangereden te worden door deze auto, omdat het algoritme moeite heeft met het herkennen van een donkere huidskleur. Dit soort discriminerende algoritmes vergroten ongelijkheid volgens neuroinformaticus Sennay Ghebreab. Ook overheidsinstanties gebruiken steeds vaker algoritmes, om bijvoorbeeld uitkeringsfraude op te sporen. Het gebeurt nu al dat mensen met een bepaald dataprofiel bij voorbaat gewantrouwd worden door een rekenmodel.

Eerlijke algoritmes

Het is volgens Sennay Ghebreab van groot belang dat het ontwerpen van artificiële intelligentie inclusief gebeurt. Hij vertelt hoe het kan dat ongelijkheid binnensluipt in ontwerpprocessen en hoe we algoritmes eerlijker kunnen maken. Daarnaast vertelt hij hoe we technologische ontwikkelingen andersom ook kunnen inzetten om bij te dragen aan sociale inclusie. Mediakunstenaar Roos Groothuizen vertelt hoe zij met haar kunst tastbaar maakt dat algoritmes ons systematisch discrimineren. Zo maakte ze The Consulate of Google, een fictieve ambassade waar je op basis van je Google-profiel een paspoort kon laten drukken. Je ontdekte zo hoe Google over jouw identiteit denkt.

Gelijkheid en transparantie

Of het nu gaat om zelfrijdende auto’s of de ambities van de ‘big tech’ in de gezondheidszorg: techbedrijven spelen een steeds grotere rol in het publieke domein. Toch hebben deze bedrijven vaak een nogal wisselende opvatting van het algemeen belang. Volgens filosoof Lotje Siffels moeten we bij de inzet van artificiële intelligentie ons altijd afvragen hoe onze democratische waarden gewaarborgd kunnen blijven. Kunnen deze waarden samengaan met de groeiende invloed van ‘big tech’? En hoe kan dat bijdragen aan inclusievere artificiële intelligentie? Na hun lezingen gaan Sennay Ghebreab, Lotje Siffels en Roos Groothuizen met elkaar in gesprek onder leiding van ethicus Marcel Becker.

Over de sprekers

Sennay Ghebreab is neuroinformaticus aan de Universiteit van Amsterdam en oprichter van het Civic AI Lab, waar onderzocht wordt hoe artificiële intelligentie zo eerlijk mogelijk kan worden toegepast. Als wetenschapper strijdt hij tegen discriminerende algoritmen en pleit hij voor inclusieve artificiële intelligentie. Lotje Siffels is promovendus bij onderzoekscentrum iHub van de Radboud Universiteit. Haar onderzoek is onderdeel van het Digital Good’-project, waarin de toenemende verwikkeling van grote techbedrijven in de gezondheidszorg wordt onderzocht. Ze richt zich op de vraag hoe de groeiende invloed van ‘big tech’ wel of niet samen kan gaan met onze democratische waarden. Roos Groothuizen is mediakunstenaar. Haar kunst, speels en met een serieuze ondertoon, gaat over digitale rechten. In haar installatie The Consulate of Google kunnen bezoekers een Google-paspoort aanvragen op basis van hun Google-profiel. Haar project The Black Box Bellagio is een casino waar niet je geld, maar je online vrijheid, privacy en integriteit op het spel staan.