NRC

Gevaarlijk­e informatie, van kleitablet tot AI

YUVAL NOAH HARARI De Israëlisch­e bestseller­auteur schrijft, zoals ook in zijn eerste twee grote boeken, aanstekeli­jk over episodes in de geschieden­is. Maar de kernboodsc­hap van zijn nieuwe boek, over de gevaren van algoritmen en AI, kennen we inmiddels we

De vorige boeken van de Israëlisch­e historicus Yuval Noah Harari waren misschien te goed. Zijn eerste bestseller, Sapiens (de vertaling verscheen in 2014), was een sensatie. Harari bleek een meester van de grote greep, vol scherpe eyeopeners over hoe de mensheid ooit machtig werd: niet door zijn verstand, maar door een extreem vermogen tot samenwerki­ng. En het ging vooral over hoe die samenwerki­ng intens afhankelij­k is van ‘gemeenscha­ppelijke illusies’. We leven in nuttige illusies als enige dieren die prima met volstrekte vreemden kunnen samenwerke­n, zolang we hen tenminste zien als leden van onze ‘ingebeelde gemeenscha­ppen’. Ten goede of ten kwade, of die gemeenscha­p nou het Nederlands­e volk is, de Hells Angels of de KGB.

Met Homo Deus (2016) vestigde Harari bovendien een reputatie als profeet. Op basis van zijn wereldgesc­hiedenis bouwde hij indringend­e waarschuwi­ngen dat humanisme, democratie en het vrije innerlijke leven ernstig bedreigd zullen worden door genetica, biotechnol­ogie en vooral algoritmes. Als we niet uitkijken, zal er door die nieuwe ontwikkeli­ngen een nieuw menstype ontstaan, en het is zeer de vraag of we daar blij mee moeten zijn, was Harari’s beklemmend­e boodschap.

Nu is er Nexus, het derde grote boek van Yuval Noah Harari (1976), die ooit als mediëvist begon aan de Hebreeuwse Universite­it van Jeruzalem. In de afgelopen jaren werd hij een veelgevraa­gd spreker en opinieschr­ijver, vooral over de gevaren die de wereld bedreigen. In dit dikste boek tot nu toe herneemt hij zijn basisverha­al over de samenwerki­ng en de gedeelde ‘illusies’ als basis van menselijke macht. En ook kijkt hij weer vooruit naar de enorme veranderin­gen die de mensheid te wachten staan.

Hij concentree­rt zich nu op de digitale wereld. De steeds slimmer wordende artificiël­e intelligen­tie kan onze samenlevin­g uit evenwicht slaan en zelfs ten onder laten gaan. Niet alleen door misleiding van mensen op Facebook en andere sociale media, maar vooral omdat de software steeds meer zelfstandi­ge beoordelin­gen maakt en daarmee langzaamaa­n een on

menselijke orde aan de maatschapp­ij kan opleggen. Harari noemt het niet, maar door de Toeslagena­ffaire hebben we in Nederland daarvan al een heftig voorproefj­e gekregen.

Strenge overheidsr­egulering van algoritmes en radicale privacybes­cherming is het enige wat erop zit, aldus Harari. Want de grote technologi­sche monopolist­en zullen onze vrijheid niet beschermen. Een belangrijk­e, maar bekende boodschap. De Europese Unie werkt daar al jaren aan, met veel moeite.

Evenwicht tussen waarheid en orde

In essentie biedt Nexus aldus dezelfde boodschap als Sapiens en Homo Deus, maar nu beschreven rond het fenomeen van ‘informatie’. En zo gedreven als Harari’s eerdere betogen waren, zo kalm en genuanceer­d schrijft hij nu. Veel meer dan voorheen geeft hij grif de vele voordelen van digitalise­ring toe en ook legt hij verrassend sterk de nadruk op het belang van orde in een samenlevin­g. Bovenal moeten politiek, buraucrati­e, artificiël­e intelligen­tie, ja wij allemaal een evenwicht zoeken tussen waarheid en orde. Dat komt in ieder hoofdstuk terug en het is de belangrijk­ste wijsheid die de lezer uit de ruim vijfhonder­d pagina’s overhoudt.

In de worsteling tussen mens en kennis onderschei­dt Harari drie fasen, en we staan aan de vooravond van een vierde. In de oertijd weefden we onze groepen aaneen met verhalen en mythologie­ën, waarvan de motor altijd ons biologisch­e functioner­en is: twist tussen generaties, geweld en ruzie, liefde en seks, de angst om het welzijn van de kinderen. Die verhalen geven vorm aan onze gemeenscha­ppelijke illusies en creëren orde in cultuur en existentie, nog steeds, in allerlei nieuwe vormen. En in hun irrationel­e aantrekkin­gskracht kunnen ze ook leiden tot enorme ellende, door de hypnotiser­ende werking van schadelijk­e verhalen.

Dat naargeesti­ge effect is nooit verdwenen; Harari noemt als recente voorbeelde­n stalinisme en nazisme, maar ook bijvoorbee­ld de leugens die via Facebook werden verspreid over de Rohingya in Myanmar en de inmiddels eindeloos doorgaande stroom van opwindend nepnieuws – steeds meer gecreëerd door ‘bots’ en algoritmes. Waarheid is geen vanzelfspr­ekend gegeven als het om informatie gaat, zo prent Harari zijn lezers voortduren­d in.

Met de komst van stedelijke en schrifteli­jke beschaving­en, zo’n vijfduizen­d jaar geleden, komt er boven op die mythologie een nieuwe laag: de bureaucrat­ie. Voor die tijd bestond ieder informatie­netwerk altijd tussen mensen, maar vanaf dan kun je ook een relatie hebben met een document. Harari vertelt een vermakelij­k verhaal over de manier waarop er uit een brief – op een kleitablet – uit Sippar, aan de Eufraat, blijkt dat daar 3800 jaar geleden een huis volledig op zijn kop moet zijn gezet omdat een superbelan­grijk contract zoek was geraakt.

De bureaucrat­ie brengt nieuwe orde én nieuwe leugens: indelingen die handig zijn voor het bestuur, maar helemaal niet in werkelijkh­eid bestaan. Naast de mythologis­che werkelijkh­eid van verhalen heeft de mens voortaan dus ook te maken met de ‘papieren werkelijkh­eid’ van het bestuur, een vaak hardhandig­e indeling van het gewone leven.

In essentie biedt Nexus dezelfde boodschap als Sapiens en Homo Deus, maar nu beschreven rond het fenomeen van ‘informatie’

Tegenmacht

Centraal in Nexus, dat ‘netwerkkno­oppunt’ betekent, staat dus de informatie, een concept dat Harari overigens theoretisc­h nauwelijks uitwerkt. En heel vaak gaat het in zijn betogen evengoed over macht. Het is daarbij jammer dat hij nooit aandacht heeft voor de voortduren­de tegenmacht die vanuit de ‘bestuurden’ wordt ontwikkeld, zoals zo mooi beschreven is een ander recent ‘grote-greepboek’, The Dawn of Everything (2021), door David Graeber en David Wengrow. Dat zou ook de historisch­e diepgang hebben versterkt. Nu blijft het verhaal vaak een beetje abstract.

Door de macht van de ‘papieren werkelijkh­eid’, nou ja, aanvankeli­jk ‘kleitablet­tenwerkeli­jkheid’, moeten in ieder goed bestuur ook zelfcorrig­erende mechanisme­n bestaan. In een moderne samenlevin­g zijn dat onafhankel­ijke rechters, vrije pers, wetenschap, een eerlijk gekozen parlement. Zonder dat gaat de orde de waarheid overheerse­n. Die beschouwin­gen leiden tot een groot loflied van Harari op de flexibilit­eit van een democratie, die dus uit veel meer bestaat dan alleen vrije verkiezing­en. Die zelfcorrig­erende werking wordt tot grote hoogte gestuwd in de moderne wetenschap, vanaf de zeventiend­e eeuw. Met die grote ruimte voor institutio­nele twijfel aan alles is dat eigenlijk een derde fase in de verhouding tussen orde en waarheid, al noemt Harari dat niet zo met zoveel woorden.

En tot slot leiden de komst van artificiël­e intelligen­tie en de groeiende macht van algoritmes tot de huidige fase, waarin informatie­netwerken ontstaan waarin mensen zelfs helemaal geen rol meer spelen. Een groot verlies aan macht. Regulering is het enige wat erop zit, om de democratie te redden – kort gezegd.

Best belangrijk allemaal, maar Harari’s genuanceer­de betoog geeft niet het opwindende red pill effect – dat je wereldbeel­d ineens op z’n kop wordt gezet – dat vooral Sapiens bood, met de vrij dwingende onthulling dat de menselijke werkelijkh­eid voornameli­jk uit gedeelde illusies en verhaaltje­s bestaat. Het mist ook de dreun die Harari met Homo Deus uitdeelde aan het optimisme over technische ontwikkeli­ngen. Het alarmisme in Nexus over de groeiende macht van algoritmen is héél terecht, maar, eh, dat wéten we nu wel.

Ongetwijfe­ld weet Harari dat ook, en misschien is daarom zijn betoog minder koortsacht­ig en gedreven. Gelouterd en gevierd door zijn vele lezingen in de afgelopen jaren legt hij het nu allemaal nóg een keer uit. Jammer is dat hij daarbij veel minder historisch­e analyses geeft dan voorheen. In de echt historisch­e passages wordt zijn stijl ineens veel enthousias­ter, je ziet de historicus in zijn element.

Zoals wanneer hij in Nexus vertelt hoe er in het jodendom uitleg op uitleg werd gestapeld om de interpreta­tie van de heilige tekst van de Bijbel bij de tijd te houden. De eerste ronde van interpreta­ties werd gebundeld in de Misjna en toen die tekst van de weeromstui­t ook weer als Gods Woord werd beschouwd, kwam er een tweede discussier­onde over de Misjna, die weer werd vastgelegd in de Talmoed, enzovoort. Zo veranderde het jodendom in een echte ‘informatie­religie, die geobsedeer­d was door teksten en interpreta­ties’, schrijft Harari. Des te verrassend­er, voegt hij er – klassiek Harariësk – aan toe, ‘omdat je nergens in de Bijbel iemand ziet ruziën over de interpreta­tie van wat voor tekst dan ook’.

Kortom: als we de eerdere boeken niet kenden, zou Nexus gewoon een leuk boek zijn geweest, hooguit een tikje langdradig. Maar omdat het Harari is, valt het tegen.