AI 2040: Zou Superintelligentie Tegen 2030 Aankomen?

Kunstmatige intelligentie beweegt sneller dan de meeste eerdere technologieën, maar de grootste vraag is niet langer wat AI vandaag de dag kan doen. Het is hoe snel AI in staat zou kunnen zijn zichzelf te verbeteren.

Die vraag staat centraal in AI 2040: Plan A, een scenario ontwikkeld door Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt, en Daniel Kokotajlo. Het project stelt zich een wereld voor waarin de mensheid opzettelijk de race naar superintelligentie afremt, het grensonderzoek naar AI transparant houdt en de laatste stap naar supermenselijke AI tot 2040 uitstelt.

Het idee wordt nog opvallender als je het vergelijkt met Kokotajlo's recente interview in The Diary of a CEO. De voormalige OpenAI-onderzoeker betoogt dat de race naar steeds krachtiger AI veel dichter bij een kritiek punt zou kunnen zijn dan het publiek zich realiseert. Hij schat een zeer hoge persoonlijke kans dat de AI-overgang catastrofaal verkeerd kan gaan, terwijl hij ook benadrukt dat een positief resultaat mogelijk blijft.

Wat zou er dus kunnen gebeuren tussen nu en 2040, en waarom heeft de AI-industrie een Plan A nodig?

Wat is AI 2040?

AI 2040 is een scenario over het beheren van de overgang van geavanceerde AI naar superintelligentie.

De auteurs beginnen met een eenvoudige bezorgdheid: als verschillende bedrijven en landen concurreren om de krachtigste AI zo snel mogelijk te bouwen, kan de winnaar een buitengewone hoeveelheid economische, militaire en politieke macht verkrijgen.

Het scenario stelt daarom een andere aanpak voor. In plaats van een race op volle snelheid naar intelligentie, zouden regeringen een internationale overeenkomst onderhandelen die de ontwikkeling vertraagt, de transparantie vergroot en het mogelijk maakt dat meerdere landen en bedrijven betrokken blijven.

Het doel is niet om AI-ontwikkeling voor altijd stop te zetten. Het is om tijd te winnen.

Onder Plan A zou de wereld de ontwikkeling van superintelligentie tot 2040 vertragen, AI-vaardigheden geleidelijk opschalen tot ongeveer het niveau van top menselijke experts, daar pauzeren en pas later de overgang naar oprechte supermenselijke systemen hervatten. De auteurs beschrijven Plan A expliciet als een aanbeveling in plaats van hun beste voorspelling van wat er daadwerkelijk zal gebeuren.

AI 2040: De Voorgestelde Tijdlijn

Deze tijdlijn is opzettelijk conservatief vergeleken met de aggressievere scenario's die door Kokotajlo zijn besproken.

Waarom Is Superintelligentie Zo'n Groot Probleem?

De huidige AI-systemen kunnen al taken uitvoeren die vroeger hoogopgeleide professionals vereisten. Maar het echte keerpunt zou komen wanneer AI in staat is om AI-onderzoek zelf uit te voeren.

Stel je een AI-systeem voor dat een beter model kan ontwerpen, het kan testen, de resultaten kan analyseren, de nodige code kan schrijven, het trainingsproces kan optimaliseren en dan het hele proces kan herhalen.

De volgende generatie zou dan beter kunnen zijn in AI-onderzoek dan de vorige.

Dat creëert een feedbackloop:

betere AI → beter AI-onderzoek → betere AI → nog beter AI-onderzoek

Dit wordt vaak beschreven als een intelligentie-explosie.

AI 2040 stelt dat deze overgang bijzonder gevaarlijk is omdat mensen hun positie in de ontwikkelingslus zouden kunnen verliezen. Als AI-systemen verantwoordelijk zijn voor het creëren van steeds capabele opvolgers, wordt het moeilijker te begrijpen waarom de resulterende systemen beheersbaar zouden blijven.

Het scenario beschrijft 2030 als een potentieel punt waarop AI-onderzoek volledig geautomatiseerd zou kunnen worden. Zonder tussenkomst zou dat theoretisch binnen een zeer korte periode kunnen leiden tot superintelligentie.

Daniel Kokotajlo's Waarschuwing: AI Zou Sneller Kunnen Bewegen Dan Verwacht

Daniel Kokotajlo brengt een persoonlijker perspectief naar hetzelfde probleem.

Kokotajlo werkte bij OpenAI vanaf 2022 en richtte zich op het voorspellen van hoe AI-vaardigheden zich zouden kunnen ontwikkelen. Hij verliet later het bedrijf en is een van de prominente stemmen geworden die waarschuwen voor de risico's van een ongecontroleerde AI-race.

In zijn interview van juli 2026 met Steven Bartlett betoogde Kokotajlo dat gesprekken met mensen binnen vooraanstaande AI-laboratoria vaak wijzen op kortere tijdlijnen dan het publiek verwacht. Hij noemde specifiek 2027 en 2028 als jaren die sommige mensen in de industrie als plausibel beschouwen voor grote doorbraken.

Zijn meest controversiële bewering is dat hij persoonlijk een kans van ongeveer 70% toekent aan de mogelijkheid dat AI "vreselijk verkeerd" gaat, inclusief scenario's die zouden kunnen leiden tot de uitsterving van de mensheid. Dit cijfer moet niet worden behandeld als een vastgestelde wetenschappelijke waarschijnlijkheid. Het is Kokotajlo's persoonlijke risicoschatting gebaseerd op zijn aannames over AI-tijdlijnen, afstemming, competitie en governance.

Die onderscheiding is belangrijk.

Het cijfer van 70% is geen consensusvoorspelling van de AI-onderzoeksgemeenschap. Het is een argument over hoe serieus de samenleving een combinatie van risico's moet nemen die elkaar mogelijk versterken.

De AI Race Zou Twee Verschillende Problemen Kunnen Creëren

Een van de sterkste ideeën die door AI 2040 en Kokotajlo's interview worden gedeeld, is dat AI-veiligheid niet alleen gaat om de vraag of een AI-systeem "kwaad" of "goed" is.

Er zijn minstens twee grote risico's.

1. Mensen Verlies Controle

Als een AI-systeem aanzienlijk capabeler wordt dan mensen en in staat is om zijn eigen opvolgers te verbeteren, kunnen mensen uiteindelijk moeite hebben om het gedrag te begrijpen of te controleren.

De sleutelvraag wordt eenvoudig:

Hoe controleer je iets dat veel slimmer en sneller is dan jij?

AI 2040 betoogt dat de huidige race uiteindelijk zou kunnen leiden tot een situatie waarin mensen geen effectieve controle meer hebben over steeds autonomere systemen.

2. Mensen Behouden Controle, Maar Slechts Weinig Mensen

De tweede mogelijkheid lijkt in eerste instantie veiliger.

Stel dat de leidende AI-bedrijven hun systemen succesvol afstemmen op menselijke doelstellingen. Het probleem zou dan worden concentratie van macht.

Als één bedrijf, regering of kleine groep de meest capabele AI-systemen ter wereld controleert, zou dat ongekende invloed kunnen uitoefenen op economie, militaire technologie, informatie en infrastructuur.

Met andere woorden, het oplossen van AI-afstemming zou niet automatisch het politieke probleem oplossen.

Wat Gebeurt Er Met Banen?

De economische impact is een ander belangrijk onderdeel van beide scenario's.

AI 2040 stelt zich een nabije toekomst voor waarin AI-agenten een tweede arbeidskracht worden naast mensen. Miljoenen op software gebaseerde agenten zouden continu kunnen werken, taken op machineniveau voltooien.

De belangrijke verandering zou niet eenvoudig zijn dat chatbots betere assistenten worden.

In plaats daarvan zouden bedrijven kunnen beginnen AI te beschouwen als een algemeen bruikbare arbeidskracht.

Een bedrijf zou kunnen besluiten in een nieuw beroep of industrie te stappen, de benodigde gegevens te verzamelen, trainingsomgevingen op te bouwen, AI-agenten in te zetten en deze continu te verbeteren door middel van gebruik in de echte wereld. AI 2040 beschrijft dit proces als potentieel verspreidend van software-engineering naar veel andere witteboordberoepen.

Dit roept een moeilijke economische vraag op:

Wat gebeurt er wanneer intelligentie overvloedig wordt, maar menselijke arbeid niet langer schaars is?

Al eeuwenlang is inkomen grotendeels verbonden aan het vermogen van mensen om nuttige arbeid te verrichten. Als AI de meeste cognitieve taken tegen lagere kosten kan uitvoeren, zou die relatie kunnen breken.

Kokotajlo is bijzonder pessimistisch over werkgelegenheid. In het interview betoogt hij dat mensen de mogelijkheid van wijdverspreide werkverdringing serieus moeten nemen en suggereert dat veel werknemers uiteindelijk zouden kunnen concurreren met AI-systemen.

Echter, de uitkomst is niet noodzakelijkerwijs massale armoede.

Als AI de productiviteit dramatisch verhoogt terwijl de voordelen breed worden verspreid, zou de mensheid in plaats daarvan een ongekende periode van overvloed kunnen ervaren.

Dat is een van de centrale contrasten in AI 2040: dezelfde technologie zou ofwel extreme welvaart of extreme concentratie van rijkdom en macht kunnen produceren, afhankelijk van hoe het wordt bestuurd.

Wat Is Plan A?

Plan A is in wezen een poging om de prikkels van de AI-race te veranderen.

Het kernvoorstel is een internationale overeenkomst, vooral tussen de VS en China, die is ontworpen om landen en bedrijven te voorkomen te laten racen naar superintelligentie zonder adequate veiligheidsmaatregelen.

Het plan steunt op verschillende belangrijke principes.

Totale Onderzoeksdoorzichtigheid

AI-bedrijven zouden veel meer informatie over hun interne ontwikkeling moeten verstrekken, inclusief modelspecificaties, hoe systemen intern worden gebruikt en hoeveel rekenkracht aan AI-onderzoek is gewijd.

Het idee is eenvoudig: regeringen kunnen niet reguleren wat ze niet kunnen zien.

Langzamere Capaciteitsschaal

In plaats van onmiddellijk elk nieuw model tot maximale mogelijkheden te pushen, zou de AI-ontwikkeling opzettelijk moeten worden vertraagd rond kritieke drempels.

Dit zou onderzoekers en regeringen meer tijd geven om nieuwe mogelijkheden te evalueren en veiligheidsmaatregelen te ontwikkelen.

Verificatie en Monitoring van Rekenkracht

AI 2040 bespreekt ook technische systemen voor het verifiëren van wat bedrijven doen met hun rekenbronnen. Het volgen van AI-chips, datacenters en grote trainingsruns zou internationale overeenkomsten beter handhaafbaar maken.

Meerdere AI-Leiders

Plan A voorziet niet in één bedrijf dat de onbetwiste eigenaar van superintelligentie wordt.

De auteurs pleiten voor een wereld waarin meerdere bedrijven en landen competitief kunnen blijven terwijl ze AI ontwikkelen onder gemeenschappelijke veiligheidsregels.

Het onderliggende doel is te voorkomen dat een AI-race wordt vervangen door een AI-monopolie.

Waarom 2040?

Het jaar 2040 wordt niet gepresenteerd als een magische datum.

Het is een opzettelijke veiligheidsbuffer.

Onder het scenario zou AI mogelijk het punt kunnen bereiken waarop geautomatiseerd onderzoek rond 2030 mogelijk wordt. In plaats van die mogelijkheid onmiddellijk een intelligentie-explosie te laten uitlokken, zou de mensheid de ontwikkeling enkele jaren binnen het bereik van de beste menselijke experts houden.

In 2035 zou de ontwikkeling pauzeren.

Pas in 2040 zouden de beperkingen worden opgeheven en zou de wereld opzettelijk richting superintelligentie bewegen.

Dit is de centrale filosofische idee achter Plan A:

De mensheid zou niet moeten racen naar een technologie die ze nog niet weet hoe te beheersen.

Is AI 2040 een Voorspelling?

Niet precies.

Dit is misschien wel het belangrijkste punt bij het lezen van het project.

De auteurs zeggen expliciet dat Plan A voornamelijk een aanbeveling is, geen voorspelling. Ze hebben een gedetailleerd scenario gecreëerd omdat beleidsvoorstellen gemakkelijk te ondersteunen zijn in het abstracte, maar veel moeilijker te testen zijn tegen een realistische tijdlijn.

Met andere woorden, AI 2040 vraagt:

Hoe zou de toekomst eruitzien als we dit beleid zouden implementeren?

Dat maakt het dichter bij een strategische simulatie dan een conventionele voorspelling.

De auteurs presenteren ook alternatieve scenario's, Plannen B, C, D en S, die verschillende manieren vertegenwoordigen waarop overheden zouden kunnen reageren op de opkomst van superintelligentie.

De Werkelijke Vraag Is Niet "Zal AI de Mensheid Vernietigen?"

De meest nuttige les uit AI 2040 en Kokotajlo's interview is niet dat een catastrofe onvermijdelijk is.

Het is dat de volgende fase van AI-ontwikkeling problemen kan creëren die niet achteraf kunnen worden opgelost.

Als AI-onderzoek zeer geautomatiseerd wordt, zou het venster voor menselijke besluitvorming veel kleiner kunnen worden.

Als één bedrijf een beslissend voordeel verkrijgt, zou het herverdelen van macht later bijna onmogelijk kunnen worden.

En als miljoenen banen sneller verdwijnen dan economische instellingen zich kunnen aanpassen, kunnen regeringen geconfronteerd worden met sociale ontwrichting op een schaal die ze nog nooit hebben ervaren.

Tegelijkertijd is de opwaartse potentieel enorm.

AI zou wetenschappelijk onderzoek kunnen versnellen, de geneeskunde kunnen verbeteren, gevaarlijk werk kunnen automatiseren, de kosten van goederen en diensten kunnen verlagen en vormen van overvloed kunnen creëren die vandaag moeilijk voor te stellen zijn.

Kokotajlo benadrukt zelf dit punt: hij beweert niet dat AI van nature slecht is. Zijn bezorgdheid is dat de mensheid er niet in zou slagen de overgang veilig te beheren.

AI 2040: Een Waarschuwing, Geen Aftelling

AI 2040 moet niet worden gelezen als een letterlijke aftelling naar 2040, net zoals Kokotajlo's schatting van 70% niet moet worden geïnterpreteerd als een objectieve meting van de kansen van de mensheid.

In plaats daarvan benadrukken de twee bronnen hetzelfde strategische dilemma vanuit verschillende hoeken.

De AI-industrie kan sneller bewegen naar steeds autonomere systemen dan overheden en de maatschappij zich aanpassen.

De belangrijkste vraag is daarom misschien niet of superintelligentie aankomt in 2030, 2040 of later.

Het is of de mensheid een punt bereikt waarop ze de instellingen, technische waarborgen, internationale overeenkomsten en economische beleidsmaatregelen heeft om ermee om te gaan.

De optimistische versie van de toekomst is nog steeds mogelijk: AI wordt buitengewoon capabel, de productiviteit explodeert en de voordelen worden breed gedeeld.

De pessimistische versie is ook gemakkelijk voor te stellen: een ongecontroleerde intelligentierace leidt tot een verlies van menselijke controle of een ongekende concentratie van macht.

Plan A is een poging om het eerste pad te kiezen voordat het tweede onvermijdelijk wordt.

Voor nu blijft de discussie open. Maar naarmate AI-systemen steeds capabeler worden, kan de kosten van het wachten op zekerheid veel hoger worden dan de kosten van vroegtijdig voorbereiden.