Het discriminerende algorithme

De ‘sollicitatierobot’ van Amazon stelde vrouwelijke kandidaten stelselmatig achter. Google’s gezichtsherkenningssoftware herkende zwarte mannen dikwijls als gorilla’s. En zelfrijdende auto’s identificeren mensen met een donkere huidskleur minder vaak als ‘persoon’ dan mensen met een lichte huidskleur.

AI zit in een stroomversnelling. Haast elke dag wordt het gebruik van kunstmatige intelligentie verder geïntegreerd in ons leven. De term kunstmatige intelligentie – ook wel: Artificiële Intelligentie (AI) – refereert aan systemen die ‘intelligent gedrag’ vertonen door hun omgeving te analyseren en zelfstandig problemen op te lossen. Kortom: ze imiteren het denkvermogen van de mens. 

Nederlandse bedrijven zijn koploper in Europa op het gebied van kunstmatige intelligentie. BAM, Philips en Randstad werken bijvoorbeeld al aan AI-projecten die op korte termijn zullen worden geïntegreerd. Tegelijkertijd worden grote techbedrijven geconfronteerd met de tekortkomingen van AI, want – zo blijkt – machines zijn helemaal niet neutraal. 

Een recent onderzoek van de Raad van Europa stelde vast dat het gebruik AI onbedoeld kan leiden tot discriminatie. Zo worden zwarte vrouwen door gezichtsherkenningssoftware vaker aangezien voor een man en hebben de algoritmes die de politie gebruikt geleid tot etnische profilering. 

Moet de overheid ingrijpen om de samenleving te beschermen tegen de uitwassen van technologie? Hebben tech-giganten genoeg zelfregulerend vermogen om de problematiek zelf aan te pakken? Wie draagt de verantwoordelijkheid?

Onder leiding van moderator Alberta Opoku spreken we erover met neuro-informaticus Sennay Ghebreab, AI-consultant Walter Diele, D66-kamerlid Kees Verhoeven en – middels een live videoverbinding – met hoofddocent African-American Studies aan Princeton University Ruha Benjamin.