De menselijke kant van AI: discriminatie
Original article can be found here
Algoritmen hebben de neiging te discrimineren. Heel menselijk eigenlijk. Maar niet goed natuurlijk. Daarom is het best gek dat we discriminatie een enorm probleem vinden -lees artikel 1 van de Grondwet er even op na- behalve als een computer de dader is.
Reden voor een gesprek met Sennay Ghebreab, hoogleraar AI aan de UvA en lid van de voormalige Staatscommissie tegen Discriminatie en Racisme. Over gezichtsherkenning, risicoprofielen, datagedreven profileringspraktijken, en alle andere plekken waar het mis kan gaan.
Want in de wereld van de algoritmen lijkt de wet van Murphy meer waar dan ooit. Ook met de beste bedoelingen worden de meest lelijke algoritmen gemaakt.
Daarnaast werpt Ghebreab een blik in de spiegel. Bijna letterlijk. Hij legt uit hoe deze technologie uit de vroege Middeleeuwen lijkt op de AI van vandaag.
Comments