AI en de toekomst

Rode Hoed, vergezichten #4

Het is een genoegen om hier vanavond weer te mogen te spreken over een onderwerp dat onze wereld ingrijpend aan het veranderen is Kunstmatige Intelligentie, of kortweg AI. Precies vier jaar geleden stond ik hier ook. Toen om te praten over discriminerende algoritmen. Destijds was dit nog een relatief onbekend onderwerp . Maar in de tussenliggende jaren zijn discriminerende algoritmen en AI in het algemeen uitgegroeid tot onderwerpen van maatschappelijk gesprek. We horen en lezen continue over de kansen en bedreigingen die AI met zich meebrengt zowel voor individuen als voor de samenleving als geheel. En we vragen ons steeds vaker af. hoe AI onze toekomst zal vormgeven . en wat onze rol daarin zal zijn. Hier kom ik zo meteen op terug.

Eerst, wat is AI eigenlijk? De term AI werd voor het eerst gebruikt in 1955 door John McCarthy een Amerikaanse computerwetenschapper. Hij definieerde AI als “de wetenschap en techniek van het maken van intelligente machines”. Sindsdien hebben veel wetenschappers en ingenieurs geprobeerd om machines te bouwen die menselijke vaardigheden kunnen nabootsen of zelfs overtreffen, zoals leren, plannen, redeneren, anticiperen en interacteren. Waar staan we nu met AI? We hebben machines die veel meer kunnen doen dan voorgeprogrammeerde taken uitvoeren. Machines die zelflerend zijn en zelfstandig beslissingen nemen, voorspellingen doen, en zelfs nieuwe - voor mensen betekenisvolle -materie kunnen creëren. Een goed voorbeeld is generatieve AI zoals ChatGPT, een AI dat in staat is om natuurlijke taal te begrijpen en te genereren

De opkomst van AI is begin van deze eeuw in een stroomversnelling geraakt. En dit is grotendeels te danken aan de vooruitgang in de wetenschap EN aan de slagkracht van technologiebedrijven zoals Microsoft, Google en Amazon. De drie pijlers van deze opkomst zijn toegenomen beschikbaarheid van data zoals tekst, beeld, music en video, exponentiële groei in rekenkracht en geavanceerde lerende algoritmen, zoals deep learning en reinforcement learning. Deze drie elementen vormen de ruggengraat van moderne AI en stellen machines in staat om te leren, anticiperen, beslissen en genereren op manieren die voorheen ondenkbaar waren.

Maar er is nog een belangrijk en onderschat aspect dat de opkomst van AI heeft mogelijk gemaakt. En dat is de voorspelbaarheid van ons eigen voelen, denken en handelen. We beschouwen ons zelf als unieke wezens met een vrije wil. Maar in essentie zijn we doorgaans gesocialiseerde wezens, gevangen in patronen die worden beïnvloed door onze geschiedenis en cultuur, onze biologie en psychologie, onze familie en religie, onze scholen en werkomgeving, onze ecologie en economie, onze media en politiek. Wat wij voelen, denken, en weten. Hoe wij reageren en handelen. Als individu, als organisatie als maatschappij. We zijn over het algemeen veel minder uniek en vrij dan we denken te zijn.

Wij conformeren ons dag in dag uit aan normen, waarden, aannames, verwachtingen, vooringenomenheden en andere leefpatronen. AI is op dit moment vooral een machine die al deze patronen oppakt in de data die we delen op social media, bijvoorbeeld op Facebook, Twitter of Tiktok. In de data die bedrijven collecteren over ons, bijvoorbeeld wat wij online of in de supermarkt kopen. En in data die overheden verzamelen over ons: waar we naar school gaan, wat we verdienen, waar we zijn geweest, of wij ons aan de wet houden etc.

AI leert van ons en over ons. Maar AI leert ons ook iets over onszelf. Het is een spiegel die ons confronteert met onze persoonlijke , organisationele en maatschappelijke leefpatronen. Denk aan institutionele vooringenomenheden bij de Belastingdienst. Die beschuldigde – mede op basis van een algoritme - tienduizenden ouders en verzorgers ten onrechte van fraude met kinderopvangtoeslag, voornamelijk mensen uit etnische minderheidsgroepen en gezinnen met een laag inkomen. Jarenlang zijn zij gediscrimineerd en achtervolgd door de Belastingdienst. En jarenlang werd dit stellig ontkend. Tot dat de Belastingdienst werd geconfronteerd met haar discriminatore mensbeeld, beleid en praktijken, gecodeerd in eigen data en algoritmen. Wat begon als AI als wapen, eindigde in zekere zin in AI als ontwapening. AI werd de spiegel die het onrechtmatige handelen van de Belastingdienst in harde codes reflecteerde.

Een spiegel, overigens, die nauwelijks heeft geleid tot zelf-reflectie en introspectie blijkens de antwoorden enkele weken geleden van Minister-president Mark Rutte op de vraag van de parlementaire enquêtecommissie Fraudebeleid : “Hoe het toeslagenschandaal ooit heeft kunnen ontstaan?” Verwijzend naar zijn tijd als staatssecretaris Sociale Zaken begin jaren 2000 zei hij: "Ik pakte op wat er lag. Fraude was serieuze problematiek bij mijn aantreden. Er was heel veel aan de hand, er waren veel aanwijzingen voor fraude." Concrete cijfers kon hij niet geven. Het was “vooral anekdotisch.” Mark Rutte zat dus, samen met vele anderen, gevangen in overgeërfde patronen. En ondanks dat de rechtbank Mark Rutte destijds veroordeelde voor rassendiscriminatie, werd "breder, slimmer en meer" het uitgangspunt van de handhaving. Het fraudebeleid werd 'risicogestuurd' en mensen werden gecontroleerd op basis van kenmerken waarvan werd gedacht dat het de kans op fraude zou vergroten, zoals etnische achtergrond.

Het is tegen deze achtergrond dat begin jaren 2000 simpele en lerende algoritmen hun intrede deden als wapen in fraudeopsporing. De eerlijke algoritme had geen schijn van kans in een omgeving waarin verkeerde mensbeelden, onderbuikgevoelens, en zoals vorige week bleek financieel gewin, een rol spelen in wetgeving, beleid, uitvoering en bejegening. Er is bij de overheid op dit moment bijna geen instantie die GEEN algoritmes inzet bij handhaving in het sociaal domein. En keer op keer blijkt dat die algoritmes bepaalde bevolkingsgroepen discrimineren. Denk aan SyRI, een AI systeem dat enkele jaren geleden werd gebruikt om risicosignalen van fraude te genereren.2 De rechter oordeelde dat SyRI in strijd was met Europese wetgeving. Maar denk ook aan Meer recent DUO, de politie, gemeentes, ziekenhuizen, banken. Stuk voor stuk voorbeelden waar het op den duur mis kan, en waarschijnlijk ook zal, gaan. Maar stuk voor stuk ook voorbeelden waar de spiegelfunctie van AI een transformerende rol kan spelen.

Maar los van de spiegelfunctie, heeft AI heeft natuurlijk ook andere positieve transformerende bijdragen aan mens, maatschappij en planeet. Zo draagt AI bij aan innovatie en economische vooruitgang aan verbetering van gezondheidszorg. Denk aan AI-systemen die medische diagnoses kunnen stellen met ongekende precisie, waardoor EN levens kunnen worden gered EN de gezondheidszorg efficiënter wordt. AI wordt ook ingezet om complexe klimaatmodellen te ontwikkelen, waardoor we een dieper inzicht krijgen in klimaatverandering en strategieën kunnen ontwikkelen om deze wereldwijde dreiging aan te pakken. Een ander voorbeeld: AI speelt een cruciale rol bij behoud en wederopleving van unieke talen en culturen die dreigen uit te sterven. Zoals Maori de taal van de oorspronkelijke bewoners van Nieuw-Zeeland. Of Ge’ez, een oud semitische taal die alleen nog een klein groep mensen in Eritrea en Ethiopie beheerst, waaronder mijn schoonvader.

De tegenstrijdige potenties van AI worden elke dag breed uitgemeten in kranten, tijdschriften, televisieprogramma's en sociale media. Hoe AI kan verrijken, verrassen en vermaken. Maar DUS ook hoe het kan leiden tot privacy-schending , manipulatie, polarisatie, discriminatie en zelfs oorlogsvoering.

De tegenstrijdige potenties van AI roepen vaak wilde verbeeldingen op over de toekomst. Sommigen zien een utopie voor zich, waarin AI de mensheid helpt bij het oplossen van de meest complexe problemen . en ons leven aanzienlijk verbetert. Zij willen volop inzetten op de ontwikkeling en inzet van AI. Anderen vrezen een dystopische toekomst, waarin AI de controle overneemt en de mensheid in gevaar brengt. Zij roepen juist op om volop de rem te zetten op AI. Zelfs AI pioniers zoals Geoff Hinton, hoogleraar AI en tot voor kort hoofd van Google Brain, en industrieleiders als Elon Musk waarschuwen voor de opkomst van AI en riepen eerder dit jaar nog op tot een AI pause. Een oproep die ook hier in Nederland werd gedaan door verschillende wetenschappers, politici, kunstenaars etc.

Maar laten we eens stilstaan bij deze tegenstelling. Is het alleen utopie of dystopie? Moeten we kiezen tussen volop inzetten op AI of de rem erop zetten? Deze tegenstelling is vals omdat ze geen recht doet aan de complexiteit van de uitdagingen en kansen die AI met zich meebrengt. AI is niet één ding, maar vele dingen. Het is niet zwart of wit, maar vele tinten grijs. AI is niet inherent goed of slecht; het hangt af van hoe we het maken, gebruiken en reguleren.

Bovendien heeft deze valse tegenstelling een verlammende en afleidende werking op mens en maatschappij. Ze leidt af van cruciale vragen. Wat is onze visie op de toekomst? Hoe zien we onszelf en onze samenleving over enkele tientallen jaren? Is het een wereld gericht op productiviteit en winst, waarin mensen vooral worden beschouwd als consumenten. Waarin dus marktdenken en markteconomie centraal staan. Of is het een open wereld waarin we wereldburgers zijn die gedijen in een inclusieve samenleving en waarin we in harmonie leven met elkaar en met ons planeet. Of misschien wel een tussenvorm waarin we lokaal nieuwe vormen van samenleven creëren voorbij de natiestaat? Cruciale en fundamentele vragen die continue gesteld en beantwoord zou moeten worden maar die te vaak verloren gaan in de waan van de dag of in de onderbuik.

Gelukkig zijn er mensen die ons blijven aansporen om voorbij de waan van de dag te denken en een verbeelding te maken van de gewenste toekomst. Mensen zoals Princeton Professor Ruha Benjamin, met wie ik hier vier jaar geleden een inspirerend gesprek had over discriminerende algoritmen en haar destijds nieuwe boek “Race after Technology”. In haar meest recente boek Viral Justice: How we grow the world we want, stelt ze de vraag “Wat als we een fundamenteel andere bestaansvorm kunnen ontwerpen? Zij biedt tal van voorbeelden en instrumenten aan om actie te ondernemen in onze eigen leefomgeving en te investeren in wat we willen laten gedijen, met of zonder technologie. Zij daagt ons uit om een verbeelding te maken van de toekomst voorbij de tweedeling utopia-dystopia, naar een ustopia.

Verbeeldingen van en visies op de toekomst bepalen direct hoe we AI zullen ontwikkelen en inzetten. Als we AI zien als een middel om enkel economische winst te behalen, zullen we geneigd zijn om AI te optimaliseren voor efficiëntie en winst, soms ten koste van menselijke waarden. Maar als we AI beschouwen als een hulpmiddel om onze visie op een rechtvaardige, duurzame en inclusieve samenleving te realiseren, dan zullen we AI anders benaderen. Wat we dus nodig hebben zijn verbeeldingen over wie we willen zijn als mens en als maatschappij. En de vraag die we moeten stellen is: hoe kan AI ons helpen bij het realiseren van die verbeeldingen? Hoe kan AI ons ondersteunen, versterken en uitdagen om onze tekortkomingen te overwinnen en onze potenties te benutten?

Een nuttige verbeelding van een Europese samenleving in 2050 wordt beschreven in het rapport Citizens bringing the future forward. Dit is resultaat is van een groot Europees onderzoeksproject. Dit rapport schets vier scenario’s op basis van twee dimensies. De dimensie top-down- versus bottom-up bestuur maakt onderscheid tussen enerzijds samenlevingen waarin bestuurlijke macht en verantwoordelijkheid worden toevertrouwd aan internationale, nationale en regionale overheden en instituties, en anderzijds samenlevingen die uitgaan van de wijsheid van de massa EN van empathie als organiserend principe. De dimensie globale versus lokale focus beschrijft enerzijds samenlevingen die lokale ontwikkelingen niet los zien van globale ontwikkelingen en de wereld als (digitaal) verbonden zien, en anderzijds samenlevingen die zich richten op lokale gemeenschappen, bronnen en processen.

De twee dimensies resulteren in vier toekomstscenario’s die mogelijke Europese samenlevingen in 2050 beschrijven. Elk scenario verbeeldt ‘een radicaal andere toekomst’ ten opzichte van de wereld die we vandaag de dag bewonen. Ze beschrijven sociaal-culturele veranderingen en nieuwe vormen van bestuur, onderwijs en economie. In alle scenario’s is de burger invloedrijk in het vormgeven van de toekomst. De vier scenario's bieden ons niet alleen maar een raamwerk om na te denken over onze toekomst … maar kunnen ons ook helpen bij het sturen van de ontwikkeling van verschillende vormen van AI, en vice versa.

Het eerste scenario links boven betreft de mens als 'economische eenheid', waar individuen worden gedreven door economische belangen en waar de samenleving wordt gedomineerd door marktwerking en competitie. In dit scenario is AI vooral gericht op het optimaliseren van productiviteit, winstgevendheid en zelf actualisatie. Het scenario rechts boven draait om de mens als ‘punt’ in een network, waar individuen worden verbonden door digitale netwerken en diensten, en waar de samenleving wordt gekenmerkt door niet-materiële consumptie. In dit scenario is AI vooral gericht op het faciliteren van een digitale economie en een digitale leven. Het derde scenario links onder beschouwt ons ALS 'Europese burgers', die vooral leven in steden met gedecentraliseerde macht en gedeelde economie. In dit scenario is AI vooral gericht op het bevorderen van lokale culturen, synergiën en ecologisch ontwerp. Het vierde scenario legt de nadruk op de mens als 'human being' , waar lokale gemeenschappen zich vooral richten op gezondheid, welzijn, co-evolutie en zingeving. In dit scenario is AI vooral gericht op het stimuleren van empathie en harmonie met de natuur

Het jaar 2050 ligt nog ver in de toekomst. En het blijft moeilijk te voorspellen hoe AI én de samenleving zich in de komende decennia zullen ontvouwen. Maar het is duidelijk dat we momenteel in een 'tussentijd' zitten, waarin belangrijke culturele, politieke, ecologische en technologische, transformaties gaande zijn. En dat we ons aan een nieuw tekentafel voor de toekomst bevinden. Een tekentafel waarop traditionele filosofische begrippen en waarden zoals waardigheid, solidariteit, rechtvaardigheid en gelijkheid worden bevraagd en opnieuw worden gedefinieerd - in de context van en onder invloed van AI.

Op dit moment nemen vooral grote technologiebedrijven het voortouw aan de tekentafel. Ze lijken bezig te zijn met het schetsen van een toekomst waarin burgers deel uitmaken van hun controle-model of verdienmodel, met AI als belangrijk instrument. Deze toekomstvisie heeft een globale oriëntatie en een top-down bestuursstructuur, waarbij de burger wordt gezien als een economische eenheid, een passieve consument. Het is maar de vraag of dit toekomstbeeld stand zal houden, gezien de groeiende diversiteit aan mensen en wensen in de samenleving, gezien de toenemende roep om democratisering van AI. De andere drie toekomstscenario's, die een lokale oriëntatie hebben en een bottom-up bestuursstructuur, hebben alleen kans van slagen als burgers van alle achtergronden zich aan deze tekentafel voegen. Of als ze zelf een tekentafel creëren en in staat zijn om hun eigen toekomst opnieuw vorm te geven.

Uiteindelijk ligt de verantwoordelijkheid bij ons allen om actief aan onze toekomst te werken met hulp van AI. We mogen niet passief aan de zijlijn blijven staan en toekijken hoe overheden en technologiebedrijven de koers van de toekomst bepalen. In plaats daarvan moeten we eigenaarschap nemen en de mogelijkheden benutten die AI ons biedt. En dit kunnen we alleen bereiken door gezamenlijk vertrouwd te raken met AI, serieus werk te maken van AI-onderwijs, en AI onderwijs toegankelijk te maken voor iedereen. Momenteel is AI-onderwijs nog te exclusief en te zeer gericht op het westen, marktdenken, competitie. Hier valt nog veel te winnen. Misschien kunnen we leren van het Afrikaans continent, waar een hele generatie jongeren het heft in eigen handen neemt en zich zelf onderwijst in AI op basis van publiek beschikbare middelen en met verbeelding werkt aan een toekomst waarbij verbinding centraal staat, verbinding met elkaar en met de planeet.

Tegelijkertijd moeten we openstaan voor de inzichten die AI ons nu en hier al verschaft over onszelf en onze samenleving. Zoals de uitvinding van de spiegel onze perceptie van ons als individu heeft veranderd zou AI ook de perceptie van ons als samenleving als geheel moeten veranderen. Ons doen beseffen dat wij als individu, organisatie en samenleving vastzitten in allerlei patronen die ons vormen, beïnvloeden en soms overheersen en onderdrukken. Pas wanneer we deze reflectie van AI erkennen en waarderen, kunnen we daadwerkelijk werken aan het DOORBREKEN van deze patronen het stimuleren van onze verbeelding . en het realiseren van transformaties die ons in 2050 de gewenste vormen van samenleven opleveren, met behulp van AI.