Alrik de Jong Samenleving vandaag, 12:03

Leestijd: 2 minuten

’10 procent kans dat AI binnen 10 jaar de mensheid wegvaagt’

Gaat AI de toch al verloren mensheid volledig wegvagen of juist redden van de ondergang? Natuurlijk is er ook nog een tussenweg. Sam Altman, oprichter van OpenAI, vreest alleen het ergste. De kans is volgens hem 10% dat AI het komende decennium alle mensen vermoordt. Daarom wacht hij met de beursgang. “Veiligheid eerst, vertraging van ontwikkeling is nu noodzaak”, zegt hij.

Oef, dat is een gitzwart scenario waar iedereen in zijn achterhoofd wel eens bang voor is, maar dan weer over gaat tot de orde van de dag. Zal wel iets uit sciencefictionfilms zijn, denk je dan. Maar zo’n percentage is best confronterend. Om je gemoed een beetje op peil te houden: er is volgens Altman dus een kans van 90% dat AI de mensheid niet wegvaagt in de komende 10 jaar.

‘Veiligheid AI belangrijker dan beursgang’

OpenAI, het bedrijf achter ChatGPT, gaat dit jaar in ieder geval niet naar de beurs. Topman Sam Altman zei in een interview met Fortune momenteel bezig te zijn met het aanpakken van veiligheidsproblemen van de technologie. Altman noemde dit jaar daarom een “ongelukkig moment” voor een beursgang.

Twee onderzoekers van AI-rivaal Anthropic hebben recent gewaarschuwd voor de gevaren van AI. Volgens een van de veiligheidsonderzoekers is de kans groter dan 10 procent dat AI in het komende decennium alle mensen vermoordt.

‘Onacceptabel dat AI alle mensen vermoordt’

“Ik vind het onacceptabel om een kans van pakweg 10 procent te accepteren dat tegen het einde van dit decennium iedereen is vermoord”, zei Altman tegen Fortune. “Ik denk dat we momenteel een nieuw tijdperk ingaan. Net als in het verleden zullen we ons waarschijnlijk anders moeten opstellen om er zeker van te zijn dat we iets creëren waar de hele mensheid baat bij heeft.”

De topman sloot zich zaterdag, net als xAI-medeoprichter Elon Musk, aan bij de oproep van Anthropic-topman Dario Amodei om de ontwikkeling van AI-modellen te vertragen. Dat moet volgens Amodei gebeuren om de risico’s te beheersen.

Concurrent wel naar de beurs

Bronnen meldden eerder dit jaar aan Bloomberg dat OpenAI dit najaar naar de beurs zou gaan. Het AI-bedrijf diende in juni wel al een aanvraag voor een beursgang in. AI-rivaal Anthropic, bekend van chatbot Claude, lijkt nog wel dit jaar naar de beurs te gaan.

Geschreven door Alrik de Jong

Alrik de Jong is verantwoordelijk voor de strategie en inhoud van Manners.nl. Heeft een lange staat van dienst in de media. Begon in 2008 als journalist voor de grote tijdschriften en kranten en rolde al snel als eind- en hoofdredacteur de online media in. Sinds 2019 is hij hoofdredacteur van Manners. Zijn droom: een camping of surfhostel op een mooie plek in het buitenland.