Let's have FAITH

Hieronder volgt de tekst van mijn lezing op het Waanzin Festival, TivoliVredenburg, Utrecht, 15 September 2018.

Het zal U niet ontgaan zijn. Artificiële Intelligentie, AI is dus, is alom aanwezig. In de publieke sector gebruiken overheidsdiensten AI om gepersonaliseerde antwoorden te geven aan burgers. Het wordt ook gebruikt bij het bestrijden van klimaatverandering, en bij het anticiperen op verkeersongevallen en veiligheidsbedreigingen. In de private sector zetten bedrijven massaal in op AI omdat - onder invloed daarvan - de economie naar verwachting zal verdubbelen. Artsen passen het op grote schaal toe om sneller en nauwkeuriger medische diagnoses te stellen. Boeren zetten AI in om minder pesticiden te gebruiken voor hun gewassen. En financiële markten om investeringsrisico’s te minimaliseren. Ook de non-profit sector omarmt AI gestaag.

AI is alom aanwezig. Maar het blijkt vaak nog onduidelijk wat het nou inhoudt. AI houdt zich bezig met het leren van vaardigheden aan computers waarvoor normaal gesproken menselijke intelligentie is vereist, zoals waarnemen, leren, redeneren en interacteren. Het brein achter AI is een technologie die 'machine learning' heet. Deze technologie gebruikt algoritmes om autonoom, dus zonder begeleiding, patronen te herkennen input data. De computer stelt door middel van algoritmes zelf bepaalde regels op, om bepaalde input te koppelen aan bepaalde output. Een plaatje van een hond als input, kan bijvoorbeeld resulteren in het concept hond, of dier. Hierbij hoeven computers dus niet zelf geprogrammeerd te worden, maar kunnen zelfstandig hun beslissingen veranderen en verbeteren. Een voorbeeld van een zeer succesvol en breed gebruikte machine learning algorithme word Deep Learning genoemd.

Achter het succes van AI zitten drie razendsnelle technische ontwikkelingen. In de eerste plaats is dat de exponentieel groei van rekenkracht. Deze groei volgt Moore’s wet: iedere twee jaar verdubbelt de rekenkracht die je voor dezelfde prijs kunt kopen. In de tweede plaats, is dat de explosief groei van de hoeveelheid data. We uploaden iedere dag 2.5 quintiljoen bytes aan data: tekst, plaatjes, muziek en video etc. 2.5 quintiljoen bytes! En 90% procent van de data nu op internet blijkt in de afgelopen twee jaar pas geüpload. In de derde plaats zijn algoritmen velen malen slimmer geworden. Ze leren patronen in allerlei sensorische en multimedia data op manieren die aantoonbaar vergelijkbaar zijn met hoe het brein leert. Deep learning is daar een voorbeeld van.

Maar misschien wel het meest belangrijk voor het succes van AI is onze voorspelbaarheid. Wij mensen vereenvoudigen en ordenen alles in onze omgeving wat we zien, horen, ruiken en ervaren. En dat doen we voor een groot deel binnen gedeelde kaders en volgens bepaalde patronen, soms bewust en soms onbewust. Natuurlijk zijn er individuele verschillen. En natuurlijk staat het ons als individu vrij te doen en te laten wat we willen - binnen wettelijke kaders. Maar op grote schaal, op de schaal waarin AI nu opereert, is onze voorspelbaarheid evident. Dit klinkt en voelt ongemakkelijk maar dat is wat de wetenschap aantoont, en wat een leek ook kan zien als die kritisch om zich heen kijkt.

Twee interacterende fenomenen liggen ten grondslag aan onze voorspelbaarheid. Het ene is dat de wereld waarin we leven erg gestructureerd is. We hebben culture, sociale, politieke en economische kaders die lokale, regionale of globale structuur bieden, of soms opleggen. Maar zelfs binnen de vrijheden die deze kaders bieden, gedragen we ons voorspelbaar. Zo blijkt uit mobiliteitspatronen van miljoenen anonieme mobiele telefoongebruikers dat onze bewegingen voor 93 procent voorspelbaar zijn. Dit geldt voor mobiliteit in de stad en op het platteland, voor korte afstanden en lange afstanden, voor forenzen maar ook voor eenmalige mobiliteit. En dit geldt ongeacht de demografische eigenschappen van mensen, zoals leeftijd, geslacht en etniciteit. Deze voorspelbaarheid is niet alleen maar het resultaat van de eerder genoemde sociale, culture, politieke en economische wetmatigheden. Maar ook het resultaat van natuurlijke wetmatigheden zoals gedicteerd door afstanden, het weer, en de zwaartekracht.

Het andere fenomenen dat aan de basis van onze voorspelbaarheid ligt is de gestructureerdheid van ons brein. Evolutionair gezien ontstond eerst het reptielenbrein. Het stuk brein dat voor basale functies als ademhalen, voortplanten en vluchten zorgt. Daarbovenop kwam later het emotionele brein - het limbische systeem - het systeem dat onze emoties en impulsen reguleert. Vervolgens ontwikkelde zich in de buitenste laag van onze hersenen – de neocortex - het cognitieve brein. Hier bevindt zich ons abstract en rationeel denkvermogen. Als je verder inzoomt binnen deze drie delen van het brein, dan zie je weer een hoge mate van anatomische en functionele structuur. Het menselijke brein is dus op vele lagen en vele manieren georganiseerd en gelijkaardig.

Structuur in de omgeving en structuur in het brein staan niet los van elkaar. De bekende Ecologische psycholoog Gibson, stelde de volgende vraag centraal in zijn theorie: “ask not what is inside your head, but what your head is inside of”. Vraag niet wat er in je hoofd zit, maar waar je hoofd zich in bevindt. Volgens Gibson is het brein een reflectie van de buitenwereld, omdat het brein leert van de buitenwereld en zich aan past aan de buitenwereld. Dat betekent dat je je zou kunnen richten op de buitenwereld om te begrijpen hoe het brein werkt, of zelfs om het brein te stimuleren en simuleren.

En dat – dat - is wat er precies aan het gebeuren is met AI. Slimme algoritmen zetten krachtige rekencomputers in om patronen te herkennen in de immense data op het internet over onze omgeving en ons gedrag daarin. Slimme algoritmen worden zelfs ingezet om direct te leren van ons brein met behulp van fMRI, EEG en andere modaliteiten waarmee hersenactiviteit wordt opgevangen. Mijn eigen onderzoek in de afgelopen twee decennia richtte zich bijvoorbeeld op de vraag hoe wij zien - hoe ons brein ziet - en hoe we algoritmes kunnen ontwikkelen die werken zoals het visueel systeem in het brein werkt. Er is in die 20 jaar een enorme sprong voorwaarts gemaakt. Het zal denk ik ook niet lang duren voordat AI ons en onze omgeving voor een groot deel heeft geleerd en in kaart gebracht.

Des te meer AI leert over onze omgeving en ons brein, des te meer het zich ook lijkt aan te passen aan de omgeving en het brein. De machinerie achter AI lijkt steeds meer op mechanismen in het brein. En de structuur van het internet lijkt steeds meer op traditionele sociale structuren, met allerlei lokale en globale verbindingen tussen knooppunten. En de informatie die in deze digitale knooppunten verwerkt wordt - en via deze verbindingen gepropageerd wordt - lijkt steeds meer op informatie die door onze bewuste en onbewuste brein stroomt. Waar voorheen voornamelijk de mens zich aanpaste aan technologie, past technologie en met name AI, zich dus nu razend snel aan de mens, en in het bijzonder aan het brein. AI wordt organisch. En lijkt een nieuwe externe laag te vormen boven de neorcortex, een soort exocortex. Dit maakt de AI revolutie wat mij betreft nog doordringender dan de agrarische en industriële revoluties.

Het brein is plastisch en weerbaar. Het kan zich goed aanpassen aan nieuwe situaties en revoluties, en dus ook aan AI. Toch is het belangrijk stil te staan bij de mogelijke bedreigingen die AI vormt voor het brein en voor de omgeving. Ik noem hier twee bedreigingen, en ga daarna in op kansen. Want die biedt AI ook.

De eerste bedreiging heeft betrekking op het brein en de werking ervan. AI voorziet het brein steeds meer met zelfgecreëerd inhoud en zelf gerationaliseerde informatie. Via social media ontvangen we bijvoorbeeld veel automatische gegenereerde informatie - van opmerkingen tot volledige artikelen. Vaak speciaal ontworpen om te passen binnen onze specifieke neuropsychologische kader, en om een bepaald resultaat te bereiken. Deze inhoud kan een verzameling zijn van echte feiten, regelrechte leugens, of een mix van precies genoeg waarheid en onwaarheid om een gewenste effect te bereiken. Het brein wordt zo continue gevoed met voorgesorteerde en voorgekauwde informatie. In zekere zin wordt de neocortex zo buitenspel gezet en vervangen door de exocortex. Wat doet dit met het brein? Wat doet dit met onze kritische denkvermogen? Maakt het ons vatbaar voor cognitieve manipulatie?

Tegelijkertijd speelt AI steeds meer in op de emotionele - en vaak onbewuste processen - in ons brein. Het appelleert direct aan ons emotioneel systeem. En door dit systeem te voeden met beperkte, eenzijdige en beladen informatie - via shortcuts op social media, het nieuws, reclame etc - kan AI ons vatbaar maken voor emotionele manipulatie en mobilisatie. Vorig jaar nog onthulde een ex-topman van Facebook dat Facebook verslavend werkt. Dat het bedrijf inspeelt op het beloningsysteem van het brein – het dopamine systeem - zonder de neuropsychologische gevolgen ervan voor de gebruikers te overzien!

De tweede bedreiging heeft betrekking op de omgeving van het brein. Niet alles wat wij mensen denken, voelen en doen is bepaald positief. De opwarming van de aarde, genocide, oorlog, armoede, honger, sociale ongelijkheid zijn allemaal onwenselijke producten van de mens. AI is in staat om de mechanismen en dynamieken achter deze producten over te nemen van ons. Neem nou discriminatie. In toenemende mate neemt AI discriminatoire eigenschappen over van ons. AI blijkt bijvoorbeeld vrouwen, donkere mensen, gehandicapten en daklozen soms anders te behandelen. Dit gebeurt bij medische diagnoses, in juridische zaken, bij financiële transacties, en ga zo maar door. Omdat AI in staat is onze foute sociale cognities en emoties op een grote schaal de maatschappij in te propageren, vormt het niet alleen een bedreiging voor het individuele brein maar zeker ook voor de samenleving in het algemeen. In principe kan AI zelfs democratische rechtstaten ondermijnen, en nieuwe globale machtsstructuren effectueren. Denk bijvoorbeeld aan het bedrijf Cambridge Analytica. Dat bedrijf speelde een kwalijke rol in de verkiezingscampagne van Trump. En volgens sommigen was dat een gecoördineerde aanval op de democratische rechtsstaat.

Tot zo ver het doemdenken. Waarschijnlijk tot opluchting van de psychologen en psychiaters in de zaal. Want AI biedt ook kansen. Kansen voor het individuele brein en kansen voor de bredere maatschappij.

Voor het individuele brein biedt AI kansen als we het beschouwen als een nuttig verlengstuk van de neocortex, in plaats van als een dreigende vervanging ervan. Om duidelijk te maken hoe, trek ik de analogie met eten. Steeds meer onderzoek toont aan dat er een verband is tussen bewerkt eten en gezondheid. Het advies is: ga bewerkt voedsel uit de weg, en eet meer natuurlijk en onbewerkt voedsel. Daarnaast is het al heel lang bekend dat gevarieerd eten belangrijk is voor de gezondheid. Ik denk dat deze twee oplossingen ook gezond zijn voor het brein. Als verlengstuk - als exocortex - kan AI, de neocortex voeden met gevarieerde en minimaal bewerkte informatie. Informatie dat niet meteen in ons wereldbeeld past, maar ons in gang kan zetten om breder over de wereld na te denken en dieper in contact te komen met onze natuurlijke rijkdommen. AI dus als intermediair tussen ons en de natuur. Gevoelsmatig is dit misschien een rare oplossing. Maar het is wel een oplossing die nodig is omdat we anders blijven hangen in onze eigen menselijke tekortkomingen, in onze kaders.

Meer fundamenteel kan AI de maatschappij een spiegel voor houden - en daarmee innovatieve en effectieve oplossingen in beeld brengen voor complexe maatschappelijke uitdagingen. Neem nou als voorbeeld de app. die Google in 2016 lanceerde voor automatische gezichtsherkenning. Die app bleek mensen met een donkere huidskleur te categoriseren als gorilla’s. Veel mensen met een donkere huidskleur gaven hier natuurlijk aanstoot aan. Zij zagen de app als bevestiging van racisme in de maatschappij. Google AI’s systeem bleek niet genoeg voorbeelden gezien te hebben van mensen met een donkere huidskleur om hen te kunnen categoriseren als mens. Google betuigde publiekelijk spijt voor het de app. Maar belangrijker het corrigeerde het systeem door het in “aanraking” te brengen met mensen met een donkere huiskleur. Een simpele en technische oplossing, die zo overgenomen ZOU kunnen - en misschien wel MOET - worden om sociale discriminatie en uitsluiting aan te pakken.

AI is alom aanwezig, zoals ik aangaf aan het begin van mijn presentatie. Het doordringt niet alleen maar onze maatschappij op tal van subtiele en minder subtiele manieren, maar ook ons brein. AI wordt nu nog vooral gezien als een externe technologie die ingezet kan worden om onze comfort te vergroten, ons tijd te besparen, en onze winst te maximaliseren. Als een externe technologie die hooguit privacy en arbeidsmarktbedreigingen met zich mee brengt. Maar AI is veel meer dan dat. AI is een integraal deel geworden van mens en maatschappij. Dit zou allerlei fundamentele en existentiële vragen moeten oproepen. Wat doet het met ons brein? Hoe beïnvloedt het ons individueel en sociaal gedrag? Hoe kunnen we ervoor zorgen dat het niet onze foute impulsen overneemt en propageert? Hoe kunnen we AI representatief en inclusieve maken voor iedereen? Hoe kunnen we in symbiose leven met AI? Dit zijn wat mij betreft vragen - die maatschappelijke, academische, politieke en economische aandacht verdienen.

Ik dank Filosofie Magazine en het Waanzin Festival voor het geven van aandacht aan AI en het brein. Hier vandaag, maar ook via het interview enkele maanden terug over discriminerende en uitsluitende machines. Op dit interview heb ik reacties ontvangen vanuit alle hoeken van de samenleving. Onder meer van politieke partijen, mensenrechten organisaties, commerciële en financiële bedrijven en de technische industrie. Zorgen over de potentiele implicaties van AI, met name ongelijke behandeling van groepen, worden blijkbaar breed gedeeld. Ik wil dan ook deze gelegenheid gebruiken om individuen en organisaties op te roepen niet te blijven hangen in het maken van zorgen, maar werk te maken van die zorgen en toe te werken naar transparante, inclusieve en verantwoorde AI technologie. Laten we werk maken van FAITH: Fair AI Technology for Humanity. Lets have FAITH!

Mocht U nu denken ja daar wil ik wat over kwijt of wat aan doen, laat dan een uw gegevens achter op: sennay.net/lets-have-faith.

Recent Posts

Contact

  • LinkedIn
  • Twitter
  • Facebook
  • YouTube

Sennay Ghebreab, room C3.254

Informatics Institute, University of Amsterdam

Science Park 904, 1098 XH Amsterdam

Email: s.ghebreab@uva.nl  Tel: +31-20-5252270