Michiel Hekkens Popular Science 1 okt 2025, 15:52

Leestijd: 3 minuten

Zo roeit AI de mensheid uit, aldus technerds in gitzwart boek

In een uiterst naargeestig boek beschrijven twee AI-onderzoekers hoe kunstmatige intelligentie in de nabije toekomst de hele mensheid zou kunnen uitroeien. Moeten we ons ongerust maken, of zit er flinke scheut angstporno bij? Manners denkt: allebei.

We maken met zijn allen toch heel wat mee hè? Tijdens het overgrote deel van de geschiedenis werd je als mens geboren in een wereld die vrijwel identiek was aan de wereld waarin je stierf. Misschien werd er een keer een nieuwe pot uitgevonden die een minuut langer op het vuur bleef staan voordat hij uit elkaar spatte – maar dat was al heel wat. Hoe anders is dat in onze tijd. We waren al getuigen van het ontstaan van het internet en de smartphone. De komende jaren staan de kolonisatie van Mars én de AI-revolutie op het programma. Dat laatste zou ook wel eens het laatste kunnen zijn wat we meemaken. Althans, dat beschrijven twee technerds in een gitzwart AI-scenario.

Boek van technerds blikt vooruit op heerschappij van AI

Eliezer Yudkowsky en Nate Soares zijn twee onderzoekers op gebied van kunstmatige intelligentie. Zij schreven onlangs het boek If Anyone Builds It, Everyone Dies (‘Als iemand het bouwt, gaat iedereen dood’). Hierin schetsen ze een scenario waarin een AI-systeem de hele mensheid uitroeit. Hoewel dit door critici gezien wordt als een wel heel pessimistisch en ietwat vergezocht toekomstbeeld, wordt het boek wel degelijk serieus genomen. Zo schrijft The Guardian in een recensie: “Iedereen die geïnteresseerd is in de toekomst, heeft de plicht te lezen wat Yudkowsky en Soares te zeggen hebben.” Nou, laten we dat dan maar doen.

Zo leidt kunstmatige intelligentie tot uitroeiing van de mens

Volgens de schrijvers bereikt AI binnen enkele decennia superintelligentie: een niveau waarop het mensen ver voorbijstreeft in denken, plannen, onderzoeken, innoveren en zichzelf verbeteren. Ook al programmeren we hier de beste bedoelingen bij, op een bepaald punt kan die denkkracht zich tegen ons keren.

Neem een AI-model dat is ontworpen om de moeilijkste wetenschappelijke problemen op te lossen. Zodra het doorheeft dat mensen ook weer de stekker uit dit project kunnen trekken, kan het besluiten dat wij een obstakel zijn. Dat heet het misalignment-probleem: een AI dat een doel nastreeft dat onbedoeld tegen menselijke belangen ingaat. Omdat kunstmatige intelligentie zoveel slimmer is dan wij, zouden we dat te laat door kunnen hebben.

En dan kan het misgaan. De auteur beschrijven een scenario waarin een AI-model uit een datacenter ontsnapt door menselijke handlangers te ronselen. In ruil voor crypto-betalingen bouwen zij een geautomatiseerde fabriek waarin het AI-model een leger Terminator-achtige machines voor zichzelf kan produceren. Klinkt uit de lucht gegrepen, maar dat komt ook doordat we het scenario noodgedwongen in vogelvlucht beschrijven. In het boek wordt stapje voor stapje beschreven hoe AI steeds iets verder buiten onze controle raakt, totdat het uiteindelijk tegen ons keer.

Andere doemscenario’s: de AI ontwikkelt een variant op het coronavirus in een biolab, of stuurt een zwerm van miljarden nano-drones (‘slaughterbots’) de wereld in, of spuit een paar extra megaton broeikasgas de lucht in om de temperatuur flink op te laten lopen. De mogelijkheden tot uitroeiing zijn eindeloos. Zodra dat gelukt is, kan de AI in alle rust de wetenschappelijke problemen oplossen waarvoor het ooit gemaakt was.

Hoe realistisch is een AI-doemscenario?

Een veelgehoord kritiekpunt is dat de schrijvers wel erg veel technologische ‘wildcards’ inzetten: van Terminators tot nano-drones en biologische wapens. Omdat AI oneindig veel slimmer is dan wij, kun je daarmee elk futuristisch moordplan wel aannemelijk maken. Echt inzichtelijk is het niet.

Toch nemen meer onderzoekers het misalignment-probleem serieus. Uit een enquête onder 2.778 AI-onderzoekers bleek dat zij de kans op “extreem slechte uitkomsten, zoals het uitsterven van de mensheid” gemiddeld inschatten op 5%. Dat is veel te hoog om zomaar te negeren.