De digitale samenleving vraagt om geletterdheid en gecijferdheid
Essay uit 2018, ge-update en gepubliceerd als hoofdstuk in "Naar een nieuw Kabinet van sociale Rechtvaardigheid: Een programma van urgentie voor arbeid, technologie, wonen, onderwijs & democratie in een nieuwe tijd. Coen Brummer, Afke Groen, Boom uitgevers Amsterdam, januari 2021.
De digitale samenleving is al decennia in opkomst, maar heeft de afgelopen jaren een vogelvlucht gemaakt met recente ontwikkelingen in de artificiële intelligentie (AI). Op onze telefoons, tablets en andere apparaten in onze digitale wereld begroeten algoritmes onze Uber-ritten, beslissen met wie we vrienden moeten worden op sociale media en kiezen shows, films en producten die we kunnen consumeren. Overheidsdiensten maken gebruik van AI om gepersonaliseerde antwoorden te geven aan burgers, om klimaatverandering te bestrijden en te anticiperen op verkeersongevallen, veiligheidsbedreigingen en fraude. Bedrijven zetten massaal in op AI omdat onder invloed daarvan de economie naar verwachting zal verdubbelen. Boeren zetten AI in om minder pesticiden te gebruiken voor hun gewassen.
Hoewel AI al decennialang in wording is, en onze digitale samenleving vormgeeft, wordt ze nog steeds gezien als een externe technologie, die ingezet kan worden om ons comfort te vergroten, ons tijd te besparen, en onze winst te maximaliseren. Het brengt hooguit privacy- en arbeidsmarktbedreigingen met zich mee, is de gedachte. Maar AI is veel meer dan een externe technologie: het is een integraal deel geworden van mens en maatschappij. Dat vraagt om acceptatie van de digitale samenleving als een natuurlijke extensie van de fysieke wereld.
Die acceptatie zou allerlei fundamentele en existentiële vragen moeten oproepen. Wat doet AI met ons brein? Hoe beïnvloedt het ons individueel en sociaal gedrag? Hoe kunnen we ervoor zorgen dat het niet onze foute impulsen overneemt en propageert? Hoe kunnen we AI representatief en inclusief maken voor iedereen? Hoe kunnen we in symbiose leven met AI? Dit zijn vragen die niet alleen academische aandacht verdienen, maar ook politieke en maatschappelijke aandacht.
En het zijn urgente vragen. Op dit moment zijn er tal van voorbeelden van algoritmes die bepaalde bevolkingsgroepen benadelen, discrimineren of zelfs uitsluiten, zoals gezichtsherkenningsapps die zwarte mensen niet herkennen als mens [1]. Algoritmes worden bovendien ingezet om bepaalde bevolkingsgroepen op te hitsen en te mobiliseren voor politieke doeleinden, zoals door bedrijven als Cambridge Analytica. Tegelijkertijd werken grote techbedrijven als Google en Facebook toe naar een wereld waarin de burger in dienst staat van hun verdienmodel.
Een volgend ‘kabinet van sociale rechtvaardigheid’ moet daarom werk maken van cocreatie van inclusieve AI in dienst van de burger, en van digitale geletterdheid en digitale gecijferdheid. Dat gaat om respectievelijk zachte vaardigheden, zoals mediawijsheid, enhardere vaardigheden, zoals programmeren. Die vaardigheden zijn niet alleen maar nodig om te begrijpen welke kansen en gevaren algoritmes vormen voor de individuele burger, maar ook om eigenaarschap te nemen in de nieuwe samenleving. Digitale geletterdheid en digitale gecijferdheid zijn daarmee voorwaarden voor inclusie en participatie in de moderne samenleving – net zoals lezen en schrijven in het verleden belangrijk bleken voor vrijheid, gelijkheid en solidariteit.
De transformatie van ‘in wat voor samenleving wil ik leven?’ naar ‘wie ben ik?’
De impact van AI op de digitale samenleving is niet los te zien van de snelle en complexe transformaties die de samenleving in Nederland – en in de rest van de wereld – ondergaat op cultureel, sociaal, economisch en politiek vlak. Instituties die traditioneel mensen hielpen verbinden en socialiseren vallen weg, zoals de kerken. Individualisering, privatisering en marktwerking dringen door tot het publieke domein en veranderen publieke waarden. Binnen de politiek is het onderscheid tussen links en rechts minder betekenisvol geworden, en vindt een verschuiving plaats van de politics of ideology naar de politics of identity. Bovendien wordt de wetenschap in toenemende mate ondermijnd door politieke en populistische bewegingen – een ontwikkeling die ook tijdens de Covid-19-pandemie sterk zichtbaar is geworden. Kortom, systeemveranderingen zijn volop aan de gang.
Deze systeemveranderingen vertalen zich bij de burger in onzekerheid over de samenleving. Zoals de Britse neurobioloog, schrijver en politiek commentator Kenan Malik constateert, wordt de samenleving ‘in toenemende mate niet meer in ideologische termen gedefinieerd, maar in termen van etniciteit, cultuur of geloof’. Burgers stellen zich minder de vraag ‘in welk soort samenleving wil ik leven?’ en meer de vraag ‘wie zijn wij?’. Antwoorden op de vraag ‘in welk soort samenleving wil ik leven?’ worden daarbij steeds minder geformuleerd in termen van gedeelde waarden, en steeds meer in termen van wie iemand is en waar iemand vandaan komt. Tegelijkertijd worden antwoorden op de vraag ‘wie zijn wij?’ niet meer gezocht in ‘de soort samenleving die burgers willen creëren, maar in de eigen geschiedenis en het erfgoed waartoe burgers zogenaamd behoren’ [2].
Anders dan tijdens eerdere systeemveranderingen in de geschiedenis, dringen de huidige veranderingen door tot in de haarvaten van de samenleving. De verschuiving naar de vraag ‘wie zijn wij?’ zet zich door tot de vraag ‘wie ben ik?’. Deze fundamentele veranderingen worden gedreven door meerdere factoren, of transformatiedrijvers, waarvan misschien wel de meest bepalende zijn de globalisering van migratie, technologisering van informatie en bestuurlijke onmacht. Globalisering van migratie leidt tot pluriforme samenlevingen met ongekende diversiteit in cultuur, etniciteit, sociale afkomst, beroep, interesses, tijdsbesteding en betrokkenheid. Die diversiteit is duidelijk zichtbaar in steden als Amsterdam, Rotterdam en Den Haag, waar burgers met een migratieachtergrond de meerderheid vormen en het dagelijkse straatbeeld niet meer strookt met het nostalgische beeld dat veel Nederlanders
zonder migratieachtergrond hebben van hun omgeving. Bovendien weten burgers met een migratieachtergrond elkaar steeds beter te vinden, en ook te groeperen en presenteren met behulp van technologie. Smartphones, sociale media en slimme algoritmes maken beeld- en netwerkvorming mogelijk op een schaal en in een vorm die voorheen niet mogelijk of eenvoudig te realiseren was. De internationale Black Lives Matter-beweging is hier een voorbeeld en uitdrukking van.
De mix van globalisering van migratie en technologisering van informatie resulteert in highly diverse, highly dynamic en highly digital communities, met overlappende, tegenstrijdige en veranderende identiteiten gebaseerd op politieke, culturele, religieuze en andere waarden. Deze complexiteit maakt het voor burgers moeilijker om een verbeelding te maken van een toekomstige samenleving en de mogelijkheden van die samenleving [5]. Met andere woorden, het wordt voor burgers makkelijker de vraag te stellen ‘wie zijn wij?’, dan ‘in welk soort samenleving wil ik zijn?’.
Ook de overheid en andere instanties en instituties worstelen met de opkomst van de highly diverse, highly dynamic en highly digital communities. Dat komt vooral doordat die gemeenschappen zich beroepen op hun ‘anders zijn’. Overheden echter, vallen terug op het recht op gelijke behandeling: we zien jullie, we erkennen jullie en we gaan jullie gelijk behandelen. Maar daar waar in het verleden minderheidsgroepen vochten voor gelijke rechten en behandeling, eisen zij nu erkenning voor iemands bijzondere identiteit, publieke bevestiging van het culturele verschil, en respect en tolerantie voor iemands culturele en geloofsovertuigingen. De betekenis van gelijkheid is aan het veranderen. Kenan Malik constateert terecht dat gelijkheid niet langer betekent het recht op gelijke behandeling óndanks verschillen in ras, etniciteit, cultuur of geloof, maar het recht om anders behandeld te worden [4].
Deze verschuiving van het recht op gelijke behandeling naar het recht op een andere behandeling illustreert de bestuurlijke onmacht van deze tijd. Overheidsbeleid, gemeentebeleid en organisatiebeleid houden geen rekening met highly diverse, highly dynamic en highly digital communities. Beleidmakers zijn meestal nauwelijks bekend met wie de communities zijn, wat ze willen en kunnen bijdragen aan de samenleving, en hoe technologie kan helpen om ze te bereiken. Als er al beleid is gericht op minderheidsgemeenschappen, dan is het beleid dat de gezochte verschuiving van het recht op gelijke behandeling naar het recht op verschillende behandeling juist voedt. Beleidsmakers en bestuurders behandelen minderheden namelijk vaak als een homogene groep, elk bestaande uit mensen die allemaal met één stem spreken, en eenzelfde waarden delen – bijvoorbeeld als zij een beroep doen op ‘representanten’ van een gemeenschap. Maar elke minderheidsgroep, net zoals de samenleving zelf, is diep verdeeld.
De digitale samenleving in de context van verschillende toekomstscenario’s
Hoe leven we samen in een superdiverse, digitale samenleving? Het rapport Citizens bringing the future forward, dat het resultaat was van een groot Europees onderzoeksproject, beschrijft vier scenario’s voor het jaar 2050. Elk scenario verbeeldt daarbij ‘een radicaal andere toekomst’ ten opzichte van de wereld die we vandaag de dag bewonen [5].
De vier scenario’s zijn verdeeld langs twee dimensies. De dimensie top-down- versus bottom-upbestuur maakt onderscheid tussen enerzijds samenlevingen waarin bestuurlijke macht en verantwoordelijkheid worden toevertrouwd aan internationale, nationale en regionale overheden en instituties, en anderzijds samenlevingen die uitgaan van de wijsheid van de massa en van empathie als organiserend en bestuurlijk principe. De dimensie globale versus lokale focus beschrijft enerzijds samenlevingen die lokale ontwikkelingen niet los zien van globale ontwikkelingen en de wereld als (digitaal) verbonden zien, en anderzijds samenlevingen die zich richten op lokale gemeenschappen, bronnen en processen.
De twee dimensies resulteren in vier toekomstscenario’s die een mogelijke Europese samenleving beschrijven: namelijk de wereld van de ‘unieke superkampioenen’ (top- downbestuur met globale focus), het ‘besturen van de commons’ (bottom-upbestuur met globale focus), de ‘lokale lijntjes’ (top-downbestuur met lokale focus), en de ‘empathische gemeenschappen’ (bottom-upbestuur met lokale focus). De vier scenario’s beschrijven sociaal-culturele veranderingen en nieuwe vormen van bestuur, onderwijs en economie. In alle scenario’s is de burger invloedrijk in het vormgeven van de toekomst: van respectievelijk een ‘economische eenheid’ en een ‘punt’ in een netwerk, tot een ‘Europese burger’ en een ‘mens’.
De vier scenario’s helpen ook om veranderingen in de huidige samenleving te duiden en geven richting bij het ontwikkelingen van innovaties die kunnen helpen om de gewenste samenlevingsvormen te realiseren. Ze helpen bijvoorbeeld om de verschuiving van het recht op gelijke behandeling naar het recht op verschillende behandeling in een groter kader te plaatsen, namelijk binnen de strijd tussen top-down-en bottom-upbestuur. Waar overheden nu veelal terugvallen op de natiestaat, bestaande kaders en regelgeving – dus op top-downbestuur – zullen burgers in de superdiverse samenleving steeds vaker vragen om veranderingen in de uitvoerende en rechterlijke macht. Als het recht op gelijke behandeling in de praktijk niet werkt voor bepaalde bevolkingsgroepen, zoals voor de mensen met een migratieachtergrond die de meerderheid vormen in Amsterdam, Rotterdam en Den Haag, dan is de gedachte dat deze moet worden aangepast of dat er nieuwe manieren moeten komen om gelijke kansen te realiseren voor iedereen. Met die gedachte worden nu ook quota’s gebruikt om meer vrouwen aan de top te krijgen in organisaties, omdat het maar niet wil vlotten met gendergelijkheid in Nederland.
De strijd tussen top-down- en bottom-upbestuur gaat verder dan het recht op gelijke behandeling. Mensen veranderen ook van passieve consumenten tot burgers die innoveren voor zichzelf en voor anderen. Onder invloed van technologie, en vaak gedreven door onzekerheid en ontevredenheid met hun status in de maatschappij, innoveren burgers hun eigen levensstijl steeds meer. Ze creëren nieuwe producten en diensten, bouwen netwerken en lokale initiatieven, ontwikkelen nieuwe manieren van besluitvorming en dagen gevestigde paradigma’s uit met nieuwe overtuigingen, waarden en inzichten.
Ook de dimensie globale versus lokale oriëntatie biedt een goede basis voor duiding van allerlei transformaties in de samenleving. Zo is er een groeiende behoefte aan milieuvriendelijke wijken en gemeenschappen, met fysieke contacten tussen mensen en tussen mens en natuur. De Earthships van de Amerikaanse architect Michael Reynolds zijn hier een voorbeeld van: samen met burgers met minimale bouwervaring, bouwde Reynolds in de jaren zeventig huizen en wijken met lokale en gerecyclede materialen. Zulke wijken worden op verschillende plekken in het westen gebouwd, waaronder ook in Nederland met het Aardehuis.
Tegelijkertijd creëren globale techbedrijven als Google en Facebook een algoritmische wereld waarin burgers over de hele wereld consument zijn, en via allerlei manipulaties aan deze bedrijven zijn gebonden. Dat is een aantrekkelijk vooruitzicht voor politieke leiders als Trump en Poetin, die niet onder stoelen of banken steken dat ze leiders van toekomstige globale koninkrijken willen zijn.
De tekentafel van een volgend kabinet van sociale rechtvaardigheid
Het jaar 2050 is nog ver weg. Of en hoe de diverse en gedigitaliseerde maatschappij zich zal gaan ontwikkelen blijft nog onduidelijk. Maar duidelijk wel is dat we ons op dit moment in een ‘tussentijd’ bevinden, waarin we aan alles merken dat grote transformaties onderweg zijn, zonder te weten welke richting en welke vorm ze precies zullen aannemen.
In deze tussentijd bieden de transformatiedrijvers van globalisering van migratie en technologisering van informatie een window of opportunity om de samenleving vorm te geven op manieren die voorheen niet denkbaar en haalbaar waren. Vooral op de intersectie migratie en AI vinden spannende ontwikkelingen plaats. Traditionele concepten als eerlijkheid, privacy en ethiek, die hun wortels hebben in de filosofie, worden opnieuw gedefinieerd in de context van de digitale samenleving. Verschillende internationale onderzoeksgroepen hebben fairness-maten ontwikkeld voor algoritmes, die rekening houden met de diversiteit aan en intersectionele ervaringen van mensen. De hernieuwde focus op de fundamentele vraag ‘wat is eerlijk?’ illustreert dat we aan een nieuwe tekentafel voor de toekomst zitten.
Aan het hoofd van deze tekentafel zitten nu de grote westerse techbedrijven, zoals Facebook en Google, en oosterse overheden met een drang naar controle, zoals in China en Rusland. Zij hebben de tussentijd goed gebruikt om een sterke positie in de wereld te krijgen, en om toe te werken naar een toekomst waarin bestaande machtsstructuren worden versterkt en de burger in dienst staat van het controle- of verdienmodel. Een toekomst met globale oriëntatie en top-down governance, en de burger als economische eenheid.
Dit toekomstscenario zal niet standhouden in een samenleving met een groeiende diversiteit aan mensen en een groeiende roep om democratisering van AI. De andere drie toekomstscenario’s – met lokale oriëntatie of bottom-upbestuur – hebben een kans van slagen als burgers aanschuiven aan de tekentafel of zelf een tekentafel vormen. Van een volgend kabinet van sociale rechtvaardigheid vergt dat ten minste drie investeringen.
Een volgend kabinet moet inzetten op maatschappelijke toepassing én ontwikkeling van AI. Dat vergt bewustwording over de kansen én potentiële gevaren van AI. Als makers en gebruikers van algoritmes bewust of onbewust uitsluitend gedrag vertonen, nemen algoritmes dat gedrag over. Zo misidentificeren AI-systemen voor automatische gezichtsherkenning vaker mensen met een zwarte huidskleur dan met mensen met een witte huidskleur [6] omdat data waarop die systemen worden getraind niet representatief zijn voor zwarte mensen. En over het Nederlandse Systeem Risico Indicatie (SyRI), dat werd gebruikt om fraude op te sporen, oordeelde de rechter dat het ‘onbedoelde stigmatiserende en discriminerende effecten’ kan hebben.
Maar het vergt vooral ook cocreatie van nieuwe toepassingen van AI tussen de overheid en overheidsinstanties en burgers en wetenschappers – in zowel publiek-private als publiek- publieke projecten, zoals het Civic AI Lab [7]. In allerlei complexe maatschappelijke domeinen worden veel data verzameld, zoals over onderwijs, gezondheidszorg, welzijn en mobiliteit. Omdat algoritmes goed zijn in het herkennen van patronen in complexe data, kan AI helpen om te achterhalen waar verschillen ontstaan tussen mensen en om complexe maatschappelijke oplossingen te formuleren. Bereiken de overheids- en gemeentesubsidies in het onderwijs bijvoorbeeld ook echt de scholen en leerlingen die dit het hardst nodig hebben? Met name op lokaal niveau en met diverse en interdisciplinaire teams, kan AI kansen bieden om gelijkheid en inclusiviteit te vergroten.
Het is bovendien hoog tijd om te investeren in digitale geletterdheid en digitale gecijferdheid. Digitale geletterdheid gaat om weten hoe dingen werken en daar voorzichtig mee omgaan. Het omhelst zachte vaardigheden, zoals het kunnen omgaan met computers en het kunnen opzoeken van informatie op het internet. Digitale gecijferdheid gaat juist om zelf coderen en algoritmes maken. Daarvoor zijn harde vaardigheden nodig, zoals algoritmisch denken en programmeren. Zowel digitale geletterdheid en digitale gecijferdheid zijn nodig om te begrijpen hoe algoritmes gemaakt worden, hoe ze werken, welke gevaren ze vormen en welke kansen ze bieden voor burgers en de samenleving als geheel.
In de herziening van het landelijk curriculum die is ingezet in 2018 is al veel aandacht voor met name digitale geletterdheid, onder meer voor mediawijsheid en digitale identiteit [8]. Maar om ervoor te zorgen dat burgers ook in 2050 meekomen en mede-eigenaar zijn van de toekomst – en niet meer afhankelijk zijn van de grote techbedrijven, zoals in deze tussentijd – is meer nodig. Burgers moeten zelf, met hun eigen data en die van hun vrienden of familie, op een basisniveau algoritmes kunnen bouwen. Zo raken ze niet in een situatie dat ze alleen data afgeven aan anderen, maar hebben ze zelf eigenaarschap en kunnen ze zich emanciperen. Dat is mogelijk. In Afrika vullen jonge mensen bijvoorbeeld zelf het gat dat falende overheden achterlaten in onderwijs, zorg of milieu door AI te ontdekken,omarmen en gebruiken om lokale maatschappelijke uitdagingen aan te gaan. Ondanks obstakels en beperkte middelen.
Tot slot is het in deze tussentijd van belang dat we niet terugvallen op de vraag ‘wie we zijn’. In de herziening van het curriculum wordt burgerschap nog te sterk gedefinieerd vanuit ‘wie waren wij’ en ‘wie zijn wij’. Dat impliceert vaak uitsluiting van migranten en vluchtelingen, en van de ervaringen en ‘bagage’ die zij meebrengen om gemeenschappelijke waardes als vrijheid en democratie te versterken. Door ons in plaats daarvan te richten op de vraag ‘wie willen we zijn’ en ‘naar welke samenleving willen we toe’ kunnen we een inclusieve samenleving vormgeven. Dat vergt een inclusieve benadering van burgerschap.
In de negentiende eeuw werden lezen en schrijven een voorwaarde voor participatie in de Nederlandse samenleving. Na een felle politieke strijd bracht in het kabinet Pierson minister Goeman Borgesius in 1900 de leerplichtwet tot stand. Zo konden de analfabete kinderen van de armen leren lezen en schrijven.
In diezelfde tijd zette ook mijn overgrootvader zich in voor emancipatie van achtergestelde groepen. Ook hij vond lezen en schrijven een voorwaarde voor participatie in de samenleving. Hij studeerde theologie van 1880 tot 1884 in Uppsala, Zweden en leerde twaalf talen spreken. Met die kennis vertaalde hij bijvoorbeeld de Bijbel naar het Tigre en Tigrinya, de talen die gesproken worden in de Egyptische hooglanden. Zijn zoon vond rekenen, als een universele taal waarmee je overal kunt functioneren, net zo belangrijk. Met zijn strijd tegen ongeletterdheid en ongecijferdheid verzette hij zich tegen het onderwijsbeleid van de Italianen, dat erop gericht was Eritreeërs minimaal onderwijs te geven in een taal die niet hun eigen was [9].
Vandaag de dag zijn digitale geletterdheid en digitale gecijferdheid net zo belangrijk geworden voor emancipatie in welke maatschappij dan ook. Om toe te werken naar een vrije, inclusieve en innovatieve maatschappij, is het van groot belang om iedereen daarin mee te nemen.
1 Eubanks, Virigina. Automating inequality: How high-tech tools profile, police, and punish the poor. New York: Picador, St Martin’s Press, 2018. 2 Malik, Kenan. ‘Against the Cultural Turn’. Culture on the Offensive, 2017. 3 Malik, ‘Grasping Diversity, Embracing Democracy’, 2017. 4 Malik, ‘Grasping Diversity, Embracing Democracy’, 2017. 5 Forum for the Future. Citizens bringing the future forward: How can we unlock the power of citizen-led innovation to catalyse the shift towards a sustainable Europe? London: Forum for the Future, 2017. 6 Grother, Patrick, Mei Ngan & Kayee Hanaoka. Face Recognition Vendor Test. Part 3: Demographic Effects. National Institute of Standards and Technology, Interagency Report 8280. Washington DC: U.S. Department on Commerce, 2019. 7 Gemeente Amsterdam. ‘Gemeente Amsterdam, de Vrije Universiteit en Universiteit van Amsterdam openen een lab voor maatschappelijke Artificial Intelligence’. Persbericht, 2020. 8 Zie bijvoorbeeld Curriculum.nu. Leergebied Digitale Geletterdheid: Voorstel voor de basis van de herziening van de kerndoelen en eindtermen van de leraren en schoolleiders uit het ontwikkelteam Digitale geletterdheid. Amersfoort: Curriculum.nu, 2019.
9 Yoseph, Yishak. A short biography of the teacher Isahac Teweldemedhin: War on illiteracy. Asmara, 1986.