Onze hersens zijn gekraakt. Dit kunnen we ertegen doen

Original VN article can be found here

Er zijn parallellen tussen de werkwijze van autoritaire regimes zoals die in Eritrea, autoritaire praktijken in het Westen en de manier waarop sociale-mediabedrijven zoals Facebook, Google, Twitter en Amazon te werk gaan.

En daar kunnen we iets van leren.

Het is juli 2018 als het nieuws bekend wordt dat er weer vrede is tussen Ethiopië en Eritrea. Van 1961 tot 1991 waren deze twee landen verwikkeld in een onafhankelijkheidsoorlog en sinds 1998 in een grensconflict.

Dat conflict kwam internationaal bekend te staan als ‘two bold men’ – de Eritrese president Isayas Afeworki en de toenmalige Ethiopische premier Meles Zenawi – ‘fighting over a comb’: een stuk dor grensgebied. Het grensconflict eiste 100.000 levens en resulteerde na twee jaar in een patstelling die bijna twee decennia duurde.

In die twee decennia transformeerde Eritrea van het ‘Singapore’ tot het ‘Noord-Korea’ van Afrika. De droom van veel Eritreeërs om na de zwaarbevochten onafhankelijkheid van Eritrea in een vrij en veilig land te leven, spatte in slowmotion uiteen. Dit heb ik van dichtbij meegemaakt, net als de meeste andere Eritreeërs die in de jaren zeventig, tachtig en negentig gevlucht zijn voor de onafhankelijkheidsoorlog en nauw betrokken bleven bij de bevrijding en wederopbouw van Eritrea.

Autoritaire praktijken

De transformatie van ‘Singapore’ naar ‘Noord-Korea’ ging volgens een patroon dat ook terug is te zien in de opkomst van autoritaire praktijken in het Westen, zoals politiek wetenschapper Marlies Galsius beschrijft in haar artikel ‘What authoritarianism is... and is not: a practice perspective’. Galsius stelt dat democratisch gekozen leiders zoals Rodrigo Duterte, Narendra Modi en Donald Trump weliswaar niet op dezelfde manier ‘autoritair’ zijn als de leiders van China, Saoedi-Arabië of Rusland, waar critici en oppositiegroeperingen worden tegen- of weggewerkt, maar dat dat niet betekent dat zij geen autoritaire praktijken kunnen uitvoeren, zoals desinformatie verspreiden, censuur plegen en bevolkingsgroepen in de gaten houden, manipuleren en onderdrukken door ze informatie te onthouden of uit te sluiten van democratische processen.

Zulke autoritaire praktijken worden in toenemende mate gefaciliteerd door grote westerse sociale-mediabedrijven zoals Facebook, waarschuwen allerlei wetenschappers en auteurs van boeken als The Age of Surveillance Capitalism, Weapons of Math Destruction, Automating Inequality, Algorithms of Oppression en Race After Technology.

Een inmiddels uitgekauwd voorbeeld is Facebooks medewerking aan Cambridge Analytica, het bedrijf dat een poging deed om verkiezingen in de VS te manipuleren en daarmee de Amerikaanse democratie te ondermijnen. Ooit werd verwacht dat sociale-mediabedrijven autoritaire regimes en praktijken zouden ondermijnen door burgers toegang te geven tot verboden informatie, nu lijken ze zelf aan autoritaire praktijken te doen.

Er zijn parallellen tussen de werkwijze van autoritaire regimes zoals die in Eritrea, autoritaire praktijken in het Westen en de manier waarop sociale-mediabedrijven zoals Facebook, Google, Twitter en Amazon te werk gaan. En daar kunnen we iets van leren.

Internationaal geïsoleerd

Laten we om te beginnen teruggaan naar april 2018 in Ethiopië. Toen na maanden van protesten tegen de overheid de Ethiopische premier Hailemariam Desalegn aftrad, nam de hervormingsgezinde Abiy Ahmed het premierschap over. De toen 41-jarige Ahmed werd daarmee de jongste en misschien wel meest charismatische premier van Afrika. Hij voerde meteen massale hervormingen door in Ethiopië: hij benoemde vrouwen op prominente posities en stond de media weer toe vrij verslag uit te brengen. Ook liet hij duizenden gevangengenomen oppositie-activisten vrij en gaf hij verbannen dissidenten de gelegenheid terug te keren naar hun vaderland.

Zijn hervormingen bleven niet beperkt tot het binnenland: Ahmed veranderde ook de betrekkingen met buurlanden. Desondanks kwam de vrede met Eritrea in 2018 voor velen uit de lucht vallen. De Eritrese president Afeworki had zich namelijk internationaal geïsoleerd. Eerst door zijn botte en arrogante houding naar de internationale gemeenschap, en later door de grove mensenrechtenschendingen in eigen land, zoals uitvoerig gedocumenteerd door de VN. Het aftreden van premier Desalegn en het terugtrekken van het Ethiopische leger uit Eritrees grondgebied door Ahmed, werd door Afeworki geframed als een overwinning op Ethiopië.

Het nationale geheugen rebooten

De Eritrese bevolking reageerde in eerste instantie apathisch op de vredesverklaring. Na jarenlang te hebben geleefd in een wereld met valse verhalen en negatieve sentimenten over aartsvijand Ethiopië en met ongekende onderdrukking door de eigen regering, geloofde men niet meer in vrede en vreedzaam samenleven. Dus riep Afeworki de bevolking op om het verleden te vergeten en het nationale geheugen te rebooten.

Om zijn nieuwe verhaal kracht bij te zetten, opende Afeworki in samenwerking met de Ethiopische premier Ahmed de grens tussen de twee landen. Hierdoor konden families die twee decennia van elkaar gescheiden waren elkaar weer bezoeken en kon de handel weer op gang komen. De twee leiders bezochten elkaars land en lieten via de media duidelijk zien dat ze het goed met elkaar konden vinden. Ze lachten en knuffelden letterlijk op tv. Vooral voor jongeren in Eritrea was dit een bijzondere ervaring: sinds het begin van het grensconflict had Afeworki zelden emoties getoond in publiek, laat staan gelachen.

Nobelprijs voor de Vrede

Al snel ontwikkelde zich een euforische sfeer in Eritrea en verdwenen de haat en nijd jegens Ethiopië als sneeuw voor de zon.

Van mei 1998 tot juli 2018 was het uit den boze geweest voor Eritreeërs om Ethiopische muziek te draaien, maar in augustus 2018 dansten ze overal ter wereld op Ethiopische muziek. Twintig jaar lang leefden Eritreeërs in angst om uitgemaakt te worden voor Ethiopiër en geëxcommuniceerd te worden vanwege vriendschappen met Ethiopiërs, nu feestten en zongen Eritreeërs en Ethiopiërs alsof ze altijd broeders en zusters waren geweest. Nationalistische gevoelens verdwenen op commando.

In december 2019 ontving Ahmed de Nobelprijs voor de Vrede voor zijn poging nieuwe relaties aan te gaan met aartsvijand Eritrea. Afeworki niet – het Nobel Committee kon blijkbaar niet voorbijgaan aan de ongekende schaal waarop hij de Eritrese bevolking en diasporagemeenschappen in een collectieve mentale, emotionele en fysieke houdgreep had gehouden door gezinnen uit elkaar te rukken, het onderwijssysteem te laten leiden naar oneindige militaire dienst, onafhankelijke media te ont­mantelen en van Eritreërs in diaspora propagandisten, trollen of financiële melkkoeien te maken door 2 procent diaspora-belasting te eisen.

Levenslange militaire dienst

Afeworki zette Eritrea naar zijn hand door nationale veranderingen, zoals levenslange militaire dienst, geleidelijk in te voeren. Bij elke verandering gebruikte hij eenzelfde werkwijze.

Stap 1: cognitieve manipulatie door het verspreiden van valse verhalen, halve waarheden en regelrechte leugens via de staats-tv en de geruchtenmolen. Zo werd op de staats-tv jarenlang met geen woord gerept over het grote aantal Eritrese vluchtelingen, tot de tragische schipbreuk bij Lampedusa op 3 oktober 2013, waarbij 350 Eritrese vluchtelingen verdronken, wereldnieuws werd. De staats-tv rapporteerde over een schipbreuk waarbij ‘illegale immigranten’ verdronken.

Stap 2: emotionele ontwrichting door in te spelen op identiteit en onderbuik­gevoelens van burgers, bijvoorbeeld via opruiende muziek waarin jongeren opgeroepen werden om helden te zijn zoals hun vaders dat ook waren geweest in de oorlog tegen Ethiopië. Het ‘kleine’ Eritrea, dat er alleen voor staat, tegen het grote door het Westen ondersteunde Ethiopië, was de afgelopen vijf decennia het dominante onderwerp in Eritrese dans, muziek en theater.

Stap 3: fysieke mobilisatie van burgers als voetsoldaat (of als vluchteling: wie niet het leger in wilde, ontvluchtte het land).

Propagandacampagne

Deze werkwijze heeft veel weg van de eerste succesvolle propagandacampagne van een moderne regering: die van de Amerikaanse president Woodrow Wilson (1913-1921). Wilson, zo schrijft Noam Chomsky in zijn boek Media Control. The Spectacular Achievements of Propaganda (1997), installeerde tijdens de Eerste Wereldoorlog de Creel Commission, die erin slaagde om binnen zes maanden een overwegend pacifistische bevolking die geen reden zag om verstrikt te raken in een Europese oorlog te veranderen in een hysterische, oorlogszuchtige bevolking die de wereld wilde redden van de Duitsers.

De Creel Commission ging als volgt te werk. Eerst werden de gedachten van de bevolking gestuurd door verhalen te verzinnen en te verspreiden, zoals het idee dat de Duitsers de wereld zouden gaan overnemen. Vervolgens werden emotionele en schokkende voorbeelden verspreid die dat idee versterkten. Verhalen bijvoorbeeld over verkrachting en vernietiging van vrouwen en kinderen door Duitse soldaten. En ten slotte werd het belang benadrukt van het leger als beschermer van het land, en werd het volk opgeroepen om zich aan te sluiten bij het leger.

Op die manier werd de bevolking gemarginaliseerd tot wat Chomsky in navolging van de Amerikaanse commentator Walter Lippmann the bewildered herd noemt, de sprakeloze kudde: een controleerbare en manipuleerbare bevolking die niet actief deelneemt aan de democratie, maar passief toekijkt en commando’s opvolgt van een kleine en selecte groep.

Massamanipulatie

De overeenkomsten tussen de werkwijze van de Eritrese regering en die van de regering Woodrow Wilson zijn groot. Gelijkenissen zijn er ook met de werkwijze van Trump, Poetin, Erdogan, Bolsonaro en andere despoten van deze tijd. Blijkbaar is er een universeel recept voor het creëren en onderhouden van the bewildered herd dat uit drie stappen bestaat: cognitief manipuleren, emotioneel ontwrichten en fysiek mobiliseren. Een recept dat misschien terug te voeren is tot het menselijk brein.

Evolutionair gezien ontstond eerst het reptielenbrein, het gedeelte dat voor basale functies als ademhalen, voortplanten en vluchten zorgt. Daarbovenop kwam later het emotionele brein – het limbische systeem, dat onze emoties en impulsen reguleert. Vervolgens ontwikkelde zich in de buitenste laag van onze hersenen – de neocortex – het cognitieve brein. Hier bevindt zich ons rationeel en kritisch denkvermogen.

Dat ons brein erg gestructureerd is en over het algemeen op dezelfde manier werkt, maakt de mens sociaal en voorspelbaar. We handelen en voelen immers grofweg op dezelfde manier. Tegelijkertijd maakt het mensen ook vatbaar en kwetsbaar voor massamanipulatie, -ontwrichting en -mobilisatie. Woodrow wist dit, net als Afeworki, Trump, Poetin, Erdogan en Bolsonaro. Maar ook grote sociale-mediabedrijven zoals als Google, Facebook, Amazon en Twitter lijken dit te weten en hier gewiekst op in te spelen door het recept voor the bewildered herd te vatten in hun algoritmen.

Zelfgecreëerde inhoud

Sociale-mediabedrijven voorzien het cognitieve deel van het brein steeds meer van zelfgecreëerde inhoud, van losse opmerkingen tot automatisch gegenereerde artikelen. Vaak speciaal ontworpen om te passen binnen ons specifieke neuropsychologische kader, en om een bepaald resultaat te bereiken.

Zo heeft datawetenschapper en psychometrist Alexandr Kogan, die aan de University van Cambridge onderzoek deed naar het meten van psychologische fenomenen zoals kennis, vaardigheden, attituden, eigenschappen en persoonskenmerken, psychologische profielen gemaakt van 87 miljoen Facebookgebruikers. Met medeweten van Facebook. Die profielen stelde hij vervolgens ter beschikking aan Cambridge Analytica, dat via microtargeting het stemgedrag van miljoenen Amerikanen probeerde te beïnvloeden en mogelijk Trump aan de macht hielp.

Tegelijkertijd doen sociale-mediabedrijven steeds vaker een beroep op de emotionele – en vaak onbewuste processen – in ons brein. Door het emotionele systeem te voeden met beperkte, eenzijdige en beladen informatie – via nepnieuws­berichten, reclames en andere vormen van content – ontwrichten ze burgers en hele samenlevingen. Je zou kunnen spreken van een digitale vorm van amygdala hijacking, het kapen van het deel van de hersenen dat emoties zoals angst en woede verwerkt. Wanneer de amygdala gestimuleerd wordt, wekt dat een vechtreactie op.

Zoals in Myanmar, waar tientallen jaren van etnische en religieuze spanningen in combinatie met hatelijke berichten op sociale media hebben geleid tot de schending van de mensenrechten van de Rohingya en andere minderheden. De Verenigde Naties vond dat Facebook, waar 18 van de 50 miljoen Myanmarezen regelmatig gebruik van maken, een ‘bepalende rol’ speelde bij het opwekken van woede tegen de Rohingya-minderheid: via Facebook werden duizenden berichten, opmerkingen en pornografische afbeeldingen verspreid waarin de Rohingya en andere moslims werden aangevallen. Thet Swei Win, directeur van een organisatie die sociale harmonie bevordert tussen etnische groepen in Myanmar, zei hierover: ‘Facebook is being weaponised’.

Niet alleen Facebook wordt ingezet als wapen, ook YouTube, stellen wetenschappers zoals Zeynep Tufekci en Becca Lewis. Zij constateren dat rechts-extremisten het recommendation-algoritme van YouTube gebruiken om radicaliseringsvideo’s met openlijk racistische en seksistische boodschappen te verspreiden onder YouTube-community’s die gevoelig zijn voor deze inhoud, zoals mainstream conservatieven, critici van feminisme en tegenstanders van Black Lives Matter. Deze vorm van online radicalisering kan leiden tot neuropsychologische stress alsof er acuut fysiek gevaar bestaat, zodat er een vecht- of vluchtreactie ontstaat. De executie door een rechtsextremist van 49 mensen in een moskee in Christchurch, New Zeeland, is hier mogelijk het gevolg van.

De mazen in het brein

Facebook, Google, YouTube en Twitter krijgen al jarenlang waarschuwingen van wetenschappers, ondernemers, mensenrechtenactivisten en anderen over hoe hun platformen worden misbruikt door bedrijven als Cambridge Analytica en door politieke en religieuze groeperingen. Facebook werd in 2013 al gewezen op de verspreiding van anti-Rohingya-berichten en Google krijgt al jaren waarschuwingen over de opkomst van rechts-extremistische YouTube-video’s. Toch nemen deze sociale-mediabedrijven nauwelijks effectieve maatregelen. Het blijft vooral bij erkennen dat er problemen zijn.

Dat sociale-mediabedrijven autoritaire praktijken dulden en in sommige gevallen zelfs faciliteren, doet vrezen voor de opkomst van autoritaire sociale-media­bedrijven. Het is alsof sociale-mediabedrijven de mazen in het brein, en daarmee in menselijk gedrag, hebben ontdekt en hun doelen hebben verruimd: van het aanzetten van burgers tot bepaald koop­gedrag naar het inzetten van burgers voor bepaalde sociale, culturele en politieke doeleinden.

Ons brein is gekraakt en wordt nu tegen ons gebruikt, zonder dat wij daar iets tegen lijken te kunnen doen.

Het algoritme Annie

Toch kunnen we ons wapenen tegen de opkomst van autoritaire sociale-mediabedrijven. Hoe? Door een voorbeeld te nemen aan de vele dissidenten in de geschiedenis die zich mentaal, emotioneel en fysiek hebben weten te bevrijden van gewelddadige en repressieve regimes en uiteindelijk op vreedzame manieren democratische verandering teweegbrachten door andere verhalen te laten horen, door universele waarden zoals vrijheid op te eisen, en door grassrootsbewegingen en platformen op te zetten.

Die rol van dissident kunnen burgers, instellingen en bedrijven ook innemen in de strijd tegen autoritaire sociale-mediabedrijven. Enerzijds door zich te verzetten tegen de groeiende macht van deze en andere bedrijven die data en algoritmen inzetten voor autoritaire praktijken, bijvoorbeeld door geen of selectief gebruik te maken van sociale-mediaplatformen. Anderzijds door zelf bij te dragen aan de ontwikkeling van algoritmen en platformen die een positief effect hebben op het brein, en daarmee dus op de mens en de samenleving. Zoals Annie, het algoritme dat vluchtelingen wijst op plekken waar ze welkom zijn, zich kunnen ontplooien en kunnen bijdragen aan hun nieuwe omgeving. Het algoritme is vernoemd naar de Ierse Annie Moore, in 1892 de eerste persoon die Ellis Island in New York, de toegangspoort voor miljoenen immigranten naar Amerika, passeerde.

Informatie voor het brein

Maar hoe maak je onderscheid tussen positieve en negatieve sociale-mediaplatformen en algoritmen? Er zijn geen richtlijnen voor het maken van dit onderscheid, als dat al überhaupt mogelijk is. Misschien kan de volgende simpele vuistregel gehanteerd worden: platformen en algoritmen die het brein gevangenhouden in het eigen systeem door het te voeden met eenzijdige en valse informatie, met onwaarheden dus, zouden verboden moeten worden; algoritmen die het brein voeden met gevarieerde en geverifieerde informatie, en daarmee het brein bevrijden van de kaders waarbinnen het functioneert, zouden aangemoedigd moeten worden.

Eigenlijk is het net als met voeding. Voedingswetenschappers zijn het erover eens dat een gezonde voeding voorziet in onze dagelijkse behoefte aan voedingsstoffen, vitamines, mineralen en vocht en het lichaam helpt in een gezonde conditie te blijven. Het advies is: ga bewerkt voedsel uit de weg, eet meer natuurlijk en onbewerkt voedsel. Daarnaast is het al heel lang bekend dat gevarieerd eten belangrijk is voor de gezondheid. Wat eten is voor het lichaam is informatie voor het brein. En zoals er richt­lijnen zijn voor voedselveiligheid en voedselmisleiding bij wet verboden is, zo zouden er ook richtlijnen moeten komen voor informatieveiligheid en zou informatiemisleiding verboden moeten worden.

Samen optrekken

In deze tijd van ongecontroleerde sociale-mediagroei lijken feiten en geverifieerde informatie er niet meer toe te doen. Het lijkt onbegonnen werk om feiten te distilleren uit data, meningen, desinformatie, propaganda en nepnieuws.

Maar niets is minder waar: een feitelijk referentiekader is onmisbaar voor een gezond brein en een vitale samenleving, en informatietechnologie biedt allerlei mogelijkheden om een referentiekader te creëren, onder meer op basis van de immense kennis die de wetenschap heeft opgeleverd. Bijvoorbeeld over het klimaat, of migratie. Een soort wijze variant van IBM’s Watson, een AI-systeem dat gesproken vragen interpreteert, van verschillende kanten bekijkt en beantwoordt door informatie te ontsluiten uit encyclopedieën, boeken, tijdschriften en wetenschappelijke artikelen. Er zijn wetenschappers, politici, beleidsmakers, ondernemers, historici en technici nodig om samen op te trekken en werk te maken van platformen waarop algoritmen samen met mensen aan fact-checking, fact-building en geverifieerde informatievoorziening doen.

Mensen zoals Theo Gevers, die aan de Universiteit van Amsterdam computer vision-algoritmen ontwikkelt die nep­foto’s of -video’s ontmaskeren. Of Ruben Grave met MakeMediaGreatAgain, een open source en non-profit anti-mis­informatie-initiatief waar deskundige en kritische lezers gemobiliseerd worden als ‘annotators’ op online media. Deze initiatieven vergroten het vermogen van burgers om de kwaliteit en waarheids­getrouwheid van informatie te beoor­delen. Ze zijn de digitale dissidenten die weigeren zich te conformeren en onderwerpen aan de sociale-mediagrootmachten.

Vechten of vluchten

Begin 2020 bagatelliseerde Facebook-vicepresident Andrew Bosworth het effect van misinformatie en de rol van Cambridge Analytica in de verkiezing van Trump. Ook betwijfelde hij of het zien van meer informatie van mensen met wie je het niet eens bent, je overtuigingen verandert. Tegelijkertijd suggereerde hij dat Facebooks algoritmen gebruikers precies geven wat ze willen en ‘de verlangens van de mensheid zelf blootleggen, de goede en de slechte’.

Hiermee lijkt hij een kijkje te geven in het gedachtengoed van Facebook: het is niet aan ons, vindt Facebook, om het kritisch denkvermogen van gebruikers te vergroten; zolang gebruikers eenzijdige of valse informatie tot zich willen nemen, blijven we ze daar in voorzien.

Net zoals dat twee decennia lang is gebeurd in Eritrea, waar de bevolking maar één perspectief, één narratief meekreeg via de staats-tv en politieke, sociale en culturele evenementen. Waartoe dat heeft geleid, is inmiddels duidelijk: een nationale kaping van de amygdala waarbij burgers de keuze hadden om oneindig in militaire dienst te gaan of het land te verlaten. Vechten of vluchten dus.

Deze keuze ligt er ook voor de wereldburger: je overgeven aan de macht van sociale-mediabedrijven en voetsoldaat worden, of dissident worden en bijdragen aan de ontwikkeling van een eerlijke, inclusieve en democratische samenleving, met behulp van algoritmen. Hoe mooi zou het zijn als in de toekomst een algoritme de Nobelprijs voor de Vrede wint. n