De kracht van verbeelding met AI

VNG Congres, juni 2024

Introductie

Laat ik meteen met de deur in huis vallen en het hebben over een AI systeem dat tot de verbeelding spreekt. Een AI systeem dat steeds meer mensen gebruiken inclusief ambtenaren: ChatGPT. Wie hier raadpleegt ChatGPT weleens voor werk? Wie gebruikt het weleens als inhoudelijke hulpmiddel bij het schrijven van beleidsstukken en programma’s. Voor deze presentatie heb ook ik  gebruik gemaakt van ChatGPT.  

Ik gaf  ChatGPT achtergrond informatie over Het Groene Hart - enkele zinnen maar - en vroeg: "Schets een toekomstperspectief voor het Groene Hart en een bijbehorend beleidsprogramma.” Binnen drie seconden genereerde ChatGPT een document van enkele pagina’s  met een introductie, visie en een beleidsprogramma. Op het eerste gezicht is dit document indrukwekkend en relevant. Het taalgebruik, de opzet en de inhoud, lijken allemaal zinnig.

Maar bij nadere inspectie vallen veel termen en doelen op die ook voor andere gebieden en gemeenten gelden, zoals duurzaamheid, leefkwaliteit, integrale visie en groene economie. sterker nog, dezelfde vraag aan ChatGPT over Groningen of Westland leverde vergelijkbare resultaten op. Dat is misschien ook niet onlogisch want deze doelen zijn relevant voor veel gebieden.

Maar wat maakt deze gebieden anders? Wat is eigen aan het Groene Hart. Wat leeft er hier  en zou je als gemeente willen mee nemen bij het maken en uitvoeren van beleid. Hier kan ChatGPT veel minder goed een antwoord op geven. Wat dit illustreert is dat ChatGPT een weerspiegeling is van wat gemiddeld over veel gemeenten leeft. ChatGPT - net als veel andere AI systemen - reflecteert op dit moment algemeenheden. Het is een een hele groffe spiegel.

Spiegel

Als ik de vergelijking maak tussen AI systemen zoals ChatGPT en de spiegel  hoor ik vaak mensen  zeggen dat het een simplistische vergelijking is want de spiegel is maar een passief instrument. De spiegel is veel meer dan dat. In de geschiedenis zijn er verschillende soorten spiegels gebruikt zoals water, steen en metaal in de oudheid en meer recent vanaf de middeleeuwen, ook glas. En vooral de gelijkenis tussen AI en de glasspiegel is treffend en fascinerend.

Zo vereiste de ontwikkeling van de glasspiegel rond de  11de eeuw interdisciplinaire wetenschap en techniek. Zoals AI dat nu ook vereist. En in die tijd, varieerden  narratieven over spiegels ook  van dystopisch, zoals in de kerk tot utopisch, zoals bij ondernemers. Ook best vergelijkbaar met nu. Enkele eeuwen later werden Venetië en Versailles de Silicon Valleys van nu. Hubs van commerciële en competitieve spiegel-industrieën.  Van een zeldzame object  beschikbaar voor vooral de rijken werd de spiegel in enkele eeuwen een alledaags en onmisbaar instrument nu. En misschien zal dat ook zo zijn met AI.

Spiegelfuncties

Door de eeuwen heen hebben spiegels vier fundamentele functies vervuld: Ten eerste Reflectie: Wat zie ik? Ten tweede Introspectie: Wie ben ik? Ten derde Verbeelding: Wie wil ik zijn? En ten slotte Transformatie: Hoe kan ik veranderen? Deze functies zijn sequentieel en consequentieel: voor transformatie heb je verbeelding nodig, voor verbeelding introspectie en voor introspectie reflectie.

Deze vier functies van de spiegel … werden pas over eeuwen heen duidelijk en hebben uiteindelijk een grote impact gehad op zowel individuen als de maatschappij.  Denk bijvoorbeeld aan de rol van de spiegel in de emancipatie tijdens de renaissance  waar de spiegel een motor voor sociale transformatie bleek te zijn.

AI spiegel

AI functioneert als een hele grote spiegel die onze collectieve gedachten, emoties, acties en gedragingen - online en in de fysieke wereld - reflecteert. De data die we als individueen, organisatie en samenleving collecteren en genereren,  de slimme algoritmen die we los laten op die data resulteren in een gefilterde beeld, een reflectie van ons op schaal.

Dit biedt ongekende kansen voor introspectie, verbeelding en transformatie voor individuen, organisaties, overheden en de samenleving als geheel. De vraag is pakken we deze kansen, of laten we ze liggen? Pakken gemeenten deze kansen of laten ze liggen? Ik hoop natuurlijk op het eerste, maar vrees een beetje het laatste.  Ik geef een aantal voorbeelden … langs de vier spiegelfuncties

Reflectie

De output van ChatGPT op mijn vraag over het Groene Hart reflecteert collectieve visies van veel  gemeenten in Nederland en daarbuiten. Het taalgebruik en de inhoud zijn generiek en grof. Daarnaast produceert ChatGPT soms ook onwaarheden, en discriminerende output vaak omdat het onvoldoende weet over bepaalde gebieden, thema’s en groepen mensen. Neem dus niet zomaar aan wat ChatGPT genereert, maar kijk kritisch naar, wat het mist, wat het niet weet, wat het verdraait.

AI-systemen zoals ChatGPT zie ik als een grote kans om onze blinde vlekken te ontdekken en om de AI spiegel te verfijnen, te polijsten.  Door AI systemen zoals ChatGPT te verrijken met data van lokale gebeurtenissen en burgerervaringen kunnen zulke systemen beleidsprogramma’s en andere output  genereren die  lokaal relevant zijn voor gemeenten en burgers, zoals in het Groene Hart.  Deze kans om het digitale, in dit geval ChatGPT,  te toetsen aan de realiteit op straat, en waar nodig te verrijken wordt echter nog onvoldoende gepakt.

Introspectie

Een terrein waarin de AI spiegel al best wel goed gepolijst is surveillance en fraude-opsporing. Op dit gebied wordt veel data verzameld door gemeenten en andere organisaties, en is er veel bekend over bepaalde groepen in de samenleving.

Een voorbeeld hiervan is de toeslagenschandaal, waarbij de focus vooral lag op mensen met een migratieachtergrond.  De data, de algoritmen, de achterliggende intenties, maar ook de impact van de toeslagenschandaal reflecteren een bevooroordeelde overheid. Een overheid die er niet altijd is geweest voor al haar burgers. Deze reflectie heeft  nog niet of nauwelijks geleid tot introspectie.  De overheid, de belastingdienst heb ik nauwelijks de vraag zien stellen, wie zijn wij als organisatie,  wat doen wij en hoe verhoudt zich dat tot burgers?

Dat is een gemiste kans, want zonder deze introspectie is een fundamentele verandering in denken en handelen niet mogelijk. En daarmee raken soms andere meer effectieve oplossingen uit het oog. Introspectie had bijvoorbeeld kunnen leiden tot de realisatie dat eenvoudige aanpakken tegen fraude, zoals aselecte steekproeven, misschien toch eerlijker en beter zijn dan algoritmisch profileren.

Verbeelding

Reflectie en introspectie  leiden doorgaans tot innovatieve oplossingen bij overheden en andere organisaties. Een voorbeeld is een AI-systeem voor spreiding van statushouders.

Ontwikkeld in 2018 door het Immigration Policy Lab … een samenwerking met ETH Zurich en Stanford Universiteit in de VS. Dit systeem plaats statushouders op basis van duizenden kenmerken van zowel statushouders als vestigingsplekken, iets wat wij mensen niet goed kunnen.

Uit experimenten in de Zwitserse en Amerikaanse context, blijkt dit systeem te leiden tot een win-win situatie omdat zowel statushouder als plaats van vestiging van elkaar profiteren. Ik kan me goed voorstellen dat zo een AI systeem instrumenteel geweest zou zijn bij de implementatie van de spreidingswet in Nederland, met grote voordelen voor gebieden zoals het Westland.

Het AI-systeem voor  spreiding van statushouders was een van de inspiraties voor mij om het Civic AI lab te starten in Amsterdam, in samenwerking met de gemeente en BZK.  In de afgelopen 5 jaar heb ik dit systeem veelvuldig aangehaald en ervaren dat overheden soms het vermogen missen om te verbeelden, om out-of-the-box denken, om in te zien dat een AI systeem een oplossing kan bieden voor een urgent maatschappelijk probleem.

En ook mis ik moed want soms ziet men wel een oplossing in een AI systeem, maar ontbreekt de politiek of bestuurlijke wil en daadkracht om zo een systeem door te zetten en in te zetten. Ook dit is wat mij betreft een voorbeeld van een gemiste kans.

Transformatie

Verbeelding, out-of-the-box denken en moed zijn ook essentieel voor het bewerkstelligen van duurzame en betekenisvolle transformaties met behulp van AI. Zulke transformaties kunnen alleen tot stand komen door samenwerking tussen overheid, bedrijven en burgers. Uit ervaring weet ik echter dat dit makkelijker gezegd is dan gedaan.

Zo proberen we in ons Europees project CommuniCity AI-technologie dichter bij de behoeften van gemarginaliseerde groepen in de samenleving te brengen, in samenwerking met gemeenten en techbedrijven. Een van de grootste uitdagingen blijkt  dat gemeenten en techbedrijven vaak niet weten wie de gemarginaliseerde groepen zijn en wat hun specifieke behoeften zijn.

Misschien nog erger,  het ontbreekt vaak aan de wil en capaciteit om de straat op te gaan en in gesprek met burgers ervaringen op te halen en structurele samenwerkingen aan te gaan. In plaats van in te zetten op co-creatie - dus samenwerken vanuit gelijkwaardigheid en over publieke, private en civieke grenzen heen - merk ik  nog te vaak dat gemeenten in de eigen comfort zone blijven. Of iets nieuws uitproberen om vervolgens  terugvallen op oude praktijken.

De kans om in de opkomende digitale en algoritmische wereld  als gemeente samen op te trekken met burgers - inclusief jongeren zoals Kimberly eerdere benadrukte - en daarmee iedereen te laten profiteren van de technologische vooruitgang,  moet nog worden gepakt.

Toekomst

Concluderend: maken gemeenten  gebruik van de kansen die AI ons biedt voor reflectie, introspectie, verbeelding en transformatie? Ik heb vijf voorbeelden genoemd waar dit nog verre van voldoende gebeurt. Toch zie ik ook verspreid door het land voorbeelden van gemeenten, groot en klein, die deze kansen wel aangrijpen en zichzelf uitdagen en herontdekken dankzij de opkomst van AI. Deze gemeenten beseffen dat AI geen puur technologische uitdaging is, maar een socio-technische kans om de toekomst vorm te geven. Zo begint bijvoorbeeld Rotterdam, na Amsterdam, ook met een Civic AI Lab, een plek waar gemeente, burgers, universiteiten en bedrijven samenwerken aan AI.

Hier in het Groene Hart zijn ze misschien nog niet zover als Rotterdam en Amsterdam.  Maar ook hier blijken bestuurders aan te voelen dat in de komende jaren algoritmes een belangrijkere rol zullen gaan spelen, en gemeenten meer kritisch om moeten gaan met AI. Althans dat is een van de conclusies van een onderzoek  naar het algoritmegebruik in de gemeenten Gouda, Waddinxveen, Zuidplas en Bodegraven-Reeuwijk -  in opdracht van de Groene Hart Rekenkamer  en naar aanleiding van ongewenst, onjuist of ongeïnformeerd gebruik van algoritmen door  de Rijksoverheid en andere  gemeenten.

Steeds meer gemeenten omarmen AI. Dit is positief, mits ze de spiegelende functies van AI—reflectie, introspectie, verbeelding en transformatie—serieus nemen.  Het is belangrijk dat gemeenten niet in hun eigen cocon blijven en niet te snel meegaan met elke nieuwe AI-ontwikkeling.  Zoals een Afrikaans spreekwoord zegt: "Alleen ga je sneller, samen kom je verder.”