AI 2040: Kan superintelligens ankomme inden 2030?

Kunstig intelligens bevæger sig hurtigere end de fleste tidligere teknologier, men det største spørgsmål er ikke længere, hvad AI kan gøre i dag. Det er, hvor hurtigt AI kan blive i stand til at forbedre sig selv.

Det spørgsmål ligger centralt i AI 2040: Plan A, et scenarie udarbejdet af Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt og Daniel Kokotajlo. Projektet forestiller sig en verden, hvor menneskeheden bevidst bremser løbet mod superintelligens, holder grænse AI-forskning gennemsigtig og udsætter det endelige skridt mod overmenneskelig AI indtil 2040.

Ideen bliver endnu mere markant, når den sammenlignes med Kokotajlos nylige interview i The Diary of a CEO. Den tidligere OpenAI-forsker hævder, at løbet mod stadig mere magtfuld AI kan være meget tættere på et kritisk punkt, end offentligheden er klar over. Han estimerer en meget høj personlig sandsynlighed for, at AI-overgangen kan gå katastrofalt galt, mens han også understreger, at et positivt resultat stadig er muligt.

Så hvad kunne der ske mellem nu og 2040, og hvorfor har AI-industrien brug for en Plan A?

Hvad er AI 2040?

AI 2040 er et scenarie om at håndtere overgangen fra avanceret AI til superintelligens.

Dets forfattere starter fra en simpel bekymring: hvis flere virksomheder og lande konkurrerer om at bygge den mest magtfulde AI så hurtigt som muligt, kan vinderen opnå en usædvanlig mængde økonomisk, militær og politisk magt.

Scenariet foreslår derfor en anden tilgang. I stedet for at tillade et fuld hastighed intelligensløb, ville regeringer forhandle en international aftale, der bremser udviklingen, øger gennemsigtigheden og tillader flere lande og virksomheder at forblive involveret.

Målet er ikke at stoppe AI-udvikling for evigt. Det er at købe tid.

Under Plan A ville verden forsinke udviklingen af superintelligens indtil 2040, gradvist skalerer AI-kapaciteter til omtrent niveauet for de bedste menneskelige eksperter, pause der, og først senere genoptage overgangen mod ægte overmenneskelige systemer. Forfatterne beskriver eksplicit Plan A som en anbefaling snarere end deres bedste forudsigelse af, hvad der faktisk vil ske.

AI 2040: Den foreslåede tidslinje

Denne tidslinje er bevidst konservativ sammenlignet med de mere aggressive scenarier drøftet af Kokotajlo.

Hvorfor er superintelligens så vigtigt?

Dagens AI-systemer kan allerede udføre opgaver, som engang krævede højtuddannede fagfolk. Men det reelle vendepunkt ville komme, når AI bliver i stand til selv at udføre AI-forskning.

Forestil dig et AI-system, der kan designe en bedre model, teste den, analysere resultaterne, skrive den nødvendige kode, optimere træningsprocessen og så gentage hele processen.

Den næste generation kunne derefter være bedre til AI-forskning end dens forgænger.

Det skaber en feedbacksløjfe:

bedre AI → bedre AI-forskning → bedre AI → endnu bedre AI-forskning

Dette beskrives ofte som en intelligenseksplosion.

AI 2040 argumenterer for, at denne overgang er særligt farlig, fordi mennesker kunne miste deres position i udviklingssløjfen. Hvis AI-systemer er ansvarlige for at skabe stadig mere kapable efterkommere, bliver det sværere at forstå, hvorfor de resulterende systemer ville forblive kontrollerbare.

Scenariet beskriver 2030 som et potentielt punkt, hvor AI-forskning kunne blive fuldautomatiseret. Uden indgriben kunne det teoretisk føre til superintelligens på meget kort tid.

Daniel Kokotajlos advarsel: AI kan bevæge sig hurtigere end forventet

Daniel Kokotajlo bringer et mere personligt perspektiv til det samme problem.

Kokotajlo arbejdede hos OpenAI fra 2022 og fokuserede på at forudse, hvordan AI-kapaciteter kunne udvikle sig. Han forlod senere virksomheden og er blevet en af de fremtrædende stemmer, der advarer om risiciene ved et ukontrolleret AI-løb.

I sit interview fra juli 2026 med Steven Bartlett hævdede Kokotajlo, at samtaler med folk inde i førende AI-laboratorier ofte peger mod kortere tidslinjer, end offentligheden forventer. Han nævnte specifikt 2027 og 2028 som år, som nogle branchefolk anser for plausible for store gennembrud.

Hans mest kontroversielle påstand er, at han personligt tillægger cirka 70% chance for, at AI kan gå "forfærdeligt galt", inklusive scenarier, der kan føre til menneskelig uddøen. Dette tal bør ikke behandles som en etableret videnskabelig sandsynlighed. Det er Kokotajlos personlige risikovurdering baseret på hans antagelser om AI-tidslinjer, tilpasning, konkurrence og styring.

Den sondring er vigtig.

70% tallet er ikke en konsensusforudsigelse fra AI-forskningsmiljøet. Det er et argument om, hvor alvorligt samfundet skal tage en kombination af risici, der kan forstærke hinanden.

AI-løbet kan skabe to forskellige problemer

En af de stærkeste ideer, der deles af AI 2040 og Kokotajlos interview, er, at AI-sikkerhed ikke kun handler om, hvorvidt et AI-system er "ondt" eller "godt".

Der er mindst to store risici.

1. Mennesker mister kontrol

Hvis et AI-system bliver væsentligt mere kapabelt end mennesker og er i stand til at forbedre sine egne efterkommere, kan mennesker til sidst have svært ved at forstå eller kontrollere dets adfærd.

Det centrale spørgsmål bliver simpelt:

Hvordan kontrollerer du noget, der er meget smartere og hurtigere end dig?

AI 2040 argumenterer for, at det nuværende løb potentielt kunne føre til en situation, hvor mennesker ikke længere opretholder effektiv kontrol over stadig mere autonome systemer.

2. Mennesker bevarer kontrol, men kun få mennesker

Den anden mulighed kan se sikkerere ud i starten.

Antag, at de førende AI-virksomheder lykkes med at tilpasse deres systemer til menneskelige mål. Problemet ville så blive koncentrationen af magt.

Hvis én virksomhed, regering eller en lille gruppe kontrollerer verdens mest kapable AI-systemer, kan de opnå en uden fortilfælde indflydelse over økonomi, militærteknologi, information og infrastruktur.

Med andre ord ville løsning af AI-tilpasning ikke automatisk løse det politiske problem.

Hvad sker der med job?

Den økonomiske indvirkning er en anden stor del af begge scenarier.

AI 2040 forestiller sig en nær fremtid, hvor AI-agenter bliver en anden arbejdsstyrke ved siden af mennesker. Millioner af softwarebaserede agenter kunne operere kontinuerligt, og udføre opgaver med maskinhastighed.

Den vigtige ændring ville ikke blot være, at chatbots bliver bedre assistenter.

I stedet kunne virksomheder begynde at betragte AI som en alsidig arbejdsstyrke.

En virksomhed kunne beslutte at træde ind i et nyt erhverv eller industri, indsamle de nødvendige data, bygge træningsmiljøer, deployere AI-agenter og kontinuerligt forbedre dem gennem brug i den virkelige verden. AI 2040 beskriver denne proces som potentiel til at sprede sig fra softwareudvikling til mange andre kontorprofessioner.

Dette rejser et vanskeligt økonomisk spørgsmål:

Hvad sker der, når intelligens bliver rigelig, men menneskeligt arbejde ikke længere er sjældent?

I århundreder har indkomst i høj grad været knyttet til folks evne til at levere nyttigt arbejde. Hvis AI kan udføre de fleste kognitive opgaver til lavere omkostninger, kan det forhold brydes.

Kokotajlo er særligt pessimistisk omkring beskæftigelse. I interviewet argumenterer han for, at folk bør tage muligheden for udbredt jobudskiftning alvorligt og antyder, at mange arbejdere i sidste ende kunne finde sig selv i konkurrence med AI-systemer.

Men resultatet er ikke nødvendigvis massefattigdom.

Hvis AI dramatisk øger produktiviteten, mens dens fordele deles bredt, kunne menneskeheden i stedet opleve en hidtil uset periode af overflod.

Det er en af de centrale kontraster i AI 2040: den samme teknologi kunne producere enten ekstrem velstand eller ekstrem koncentration af rigdom og magt, afhængig af hvordan den styres.

Hvad er Plan A?

Plan A er i bund og grund et forsøg på at ændre incitamenterne i AI-løbet.

Dens kerneforslag er en international aftale, især mellem USA og Kina, designet til at forhindre lande og virksomheder i at løbe mod superintelligens uden tilstrækkelige sikkerhedsforanstaltninger.

Planen er baseret på flere store principper.

Total forskningstransparens

AI-virksomheder ville give meget mere information om deres interne udvikling, herunder modelspecifikationer, hvordan systemer bruges internt, og hvor meget computerkraft der er dedikeret til AI-forskning.

Ideen er enkel: regeringer kan ikke regulere, hvad de ikke kan se.

Langsommere kapabilitetsskala

I stedet for straks at presse hver ny model til dens maksimale kapabilitet, ville AI-udvikling bevidst blive bremset omkring kritiske tærskler.

Dette ville give forskere og regeringer mere tid til at evaluere nye kapaciteter og udvikle sikkerhedsforanstaltninger.

Verifikation og compute overvågning

AI 2040 diskuterer også tekniske systemer til verificering af, hvad virksomheder gør med deres computingsressourcer. At spore AI-chips, datacentre og store træningskørsler kunne gøre internationale aftaler mere håndhævelige.

Flere AI-ledere

Plan A forestiller sig ikke, at én virksomhed bliver den ubestridte ejer af superintelligens.

Forfatterne argumenterer for en verden, hvor flere virksomheder og lande kan forblive konkurrence dygtige, mens de udvikler AI under fælles sikkerhedsregler.

Det underliggende mål er at undgå at erstatte et AI-løb med et AI-monopol.

Hvorfor 2040?

Året 2040 præsenteres ikke som en magisk dato.

Det er en bevidst sikkerhedspuffer.

Under scenariet kunne AI potentielt nå det punkt, hvor automatiseret forskning bliver muligt omkring 2030. I stedet for at tillade den kapabilitet straks at udløse en intelligenseksplosion, ville menneskeheden holde udviklingen inden for rækkevidden af de bedste menneskelige eksperter i flere år.

I 2035 ville udviklingen pause.

Kun i 2040 ville begrænsningerne blive ophævet, og verden ville bevidst bevæge sig mod superintelligens.

Dette er den centrale filosofiske idé bag Plan A:

Menneskeheden bør ikke løbe mod en teknologi, den endnu ikke ved, hvordan den skal kontrollere.

Er AI 2040 en forudsigelse?

Ikke helt.

Dette er måske det vigtigste punkt, når man læser projektet.

Forfatterne siger eksplicit, at Plan A primært er en anbefaling, ikke en forudsigelse. De har skabt et detaljeret scenarie, fordi politikforslag er nemme at støtte i det abstrakte, men meget sværere at teste mod en realistisk tidslinje.

Med andre ord spørger AI 2040:

Hvordan ville fremtiden egentlig se ud, hvis vi implementerede denne politik?

Det gør det nærmere en strategisk simulering end en konventionel forudsigelse.

Forfatterne præsenterer også alternative scenarier, Planer B, C, D og S, der repræsenterer forskellige måder, regeringer kunne reagere på fremkomsten af superintelligens.

Det reelle spørgsmål er ikke "Vil AI ødelægge menneskeheden?"

Den mest nyttige takeaway fra AI 2040 og Kokotajlos interview er ikke, at katastrofen er uundgåelig.

Det er, at den næste fase af AI-udvikling kan skabe problemer, der ikke kan løses bagefter.

Hvis AI-forskning bliver meget automatiseret, kan vinduet for menneskelig beslutningstagning blive meget mindre.

Hvis én virksomhed opnår en afgørende fordel, kan det blive næsten umuligt at omfordele magt senere.

Og hvis millioner af job forsvinder hurtigere, end økonomiske institutioner kan tilpasse sig, kan regeringer stå over for social forstyrrelse i en skala, de aldrig har oplevet før.

Samtidig er opfordringen enorm.

AI kunne accelerere videnskabelig forskning, forbedre medicin, automatisere farligt arbejde, reducere omkostningerne ved varer og tjenester samt skabe former for overflod, der er svære at forestille sig i dag.

Kokotajlo selv understreger dette punkt: han argumenterer ikke for, at AI er iboende dårlig. Hans bekymring er, at menneskeheden kunne fejle i at håndtere overgangen sikkert.

AI 2040: En advarsel, ikke en nedtælling

AI 2040 bør ikke læses som en bogstavelig nedtælling til 2040, ligesom Kokotajlos 70% skøn ikke bør tolkes som en objektiv måling af menneskehedens chancer.

I stedet fremhæver de to kilder det samme strategiske dilemma fra forskellige vinkler.

AI-industrien kan bevæge sig mod stadig mere autonome systemer hurtigere, end regeringer og samfund kan tilpasse sig.

Det mest vigtige spørgsmål bliver derfor måske ikke, om superintelligens ankommer i 2030, 2040 eller senere.

Det er om menneskeheden når et punkt, hvor den har de institutioner, tekniske sikkerhedsforanstaltninger, internationale aftaler og økonomiske politikker, der er nødvendige for at håndtere det.

Den optimistiske version af fremtiden er stadig mulig: AI bliver extraordinært kapabel, produktiviteten eksploderer, og dens fordele deles bredt.

Den pessimistiske version er også let at forestille sig: et ukontrolleret intelligensløb producerer enten et tab af menneskelig kontrol eller en uden fortilfælde koncentration af magt.

Plan A er et forsøg på at vælge den første sti, før den anden bliver umulig at undgå.

For nu forbliver debatten åben. Men efterhånden som AI-systemer bliver mere kapable, kan omkostningerne ved at vente på sikkerhed blive meget højere end omkostningerne ved tidlig forberedelse.