AI 2040: Kan superintelligens anlända senast 2030?

Artificiell intelligens rör sig snabbare än de flesta tidigare teknologier, men den största frågan handlar inte längre om vad AI kan göra idag. Det handlar om hur snabbt AI skulle kunna bli kapabel att förbättra sig själv.

Den frågan står i centrum för AI 2040: Plan A, ett scenario utvecklat av Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt och Daniel Kokotajlo. Projektet föreställer en värld där mänskligheten medvetet bromsar loppet mot superintelligens, håller gränsforskning kring AI transparent och skjuter upp det sista steget mot övermänsklig AI till 2040.

Idén blir ännu mer slående när den jämförs med Kokotajlos senaste intervju på The Diary of a CEO. Den före detta OpenAI-forskaren hävdar att loppet mot alltmer kraftfull AI kan vara mycket närmare en kritisk punkt än allmänheten inser. Han uppskattar en mycket hög personlig sannolikhet för att AI-övergången skulle kunna gå katastrofalt fel, samtidigt som han betonar att ett positivt resultat fortfarande är möjligt.

Så vad skulle kunna hända mellan nu och 2040 - och varför behöver AI-branschen en Plan A?

Vad är AI 2040?

AI 2040 är ett scenario om att hantera övergången från avancerad AI till superintelligens.

Dess författare utgår från en enkel oro: om flera företag och länder tävlar om att bygga den mest kraftfulla AI så snabbt som möjligt, kan vinnaren få en extraordinär mängd ekonomisk, militär och politisk makt.

Scenariot föreslår därför ett annat tillvägagångssätt. I stället för att tillåta ett fullfartslopp av intelligens, skulle regeringar förhandla om ett internationellt avtal som bromsar utvecklingen, ökar transparensen och låter flera länder och företag förbli involverade.

Målet är inte att stoppa AI-utvecklingen för alltid. Det handlar om att köpa tid.

Under Plan A skulle världen fördröja utvecklingen av superintelligens till 2040, gradvis nå AI-kapabiliteter som motsvarar de högsta mänskliga experternas nivå, pausa där och först senare återuppta övergången mot verkligt övermänskliga system. Författarna beskriver uttryckligen Plan A som en rekommendation snarare än deras bästa förutsägelse om vad som faktiskt kommer att hända.

AI 2040: Den föreslagna tidslinjen

Denna tidslinje är avsiktligt konservativ jämfört med de mer aggressiva scenarier som diskuteras av Kokotajlo.

Varför är superintelligens så viktigt?

Dagens AI-system kan redan utföra uppgifter som tidigare krävde högt utbildade yrkesverksamma. Men den verkliga vändpunkten skulle inträffa när AI blir kapabel att själv genomföra AI-forskning.

Föreställ dig ett AI-system som kan designa en bättre modell, testa den, analysera resultaten, skriva den nödvändiga koden, optimera träningsprocessen och sedan upprepa hela processen.

Nästa generation skulle då kunna vara bättre på AI-forskning än sin föregångare.

Det skapar en feedback-loop:

bättre AI → bättre AI-forskning → bättre AI → ännu bättre AI-forskning

Detta beskrivs oftast som en intelligensexplosion.

AI 2040 hävdar att denna övergång är särskilt farlig eftersom människor kan förlora sin position i utvecklingsloopen. Om AI-system ansvarar för att skapa alltmer kapabla efterträdare, blir det svårare att förstå varför de resulterande systemen skulle kvarstå kontrollerbara.

Scenariot beskriver 2030 som en potentiell punkt där AI-forskning skulle kunna bli helt automatiserad. Utan intervention kan detta teoretiskt leda till superintelligens inom en mycket kort period.

Daniel Kokotajlos varning: AI kan röra sig snabbare än förväntat

Daniel Kokotajlo ger ett mer personligt perspektiv på samma problem.

Kokotajlo arbetade på OpenAI från 2022 och fokuserade på att förutsäga hur AI-kapabiliteter skulle kunna utvecklas. Han lämnade senare företaget och har blivit en av de framträdande rösterna som varnar för riskerna med ett okontrollerat AI-lopp.

I sin intervju med Steven Bartlett i juli 2026 hävdade Kokotajlo att samtal med personer inom ledande AI-laboratorier ofta pekar mot kortare tidslinjer än allmänheten förväntar sig. Han nämnde specifikt 2027 och 2028 som år som vissa branschinsiders anser är plausibla för stora genombrott.

Hans mest kontroversiella påstående är att han personligen ger ungefär 70% chans att AI går "fruktansvärt fel", inklusive scenarier som skulle kunna resultera i mänsklig utrotning. Denna siffra bör inte betraktas som en etablerad vetenskaplig sannolikhet. Det är Kokotajlos personliga riskbedömning baserad på hans antaganden om AI-tidslinjer, anpassning, konkurrens och styrning.

Denna distinktion är viktig.

70%-siffran är inte en konsensusprognos från AI-forskningsgemenskapen. Det är ett argument om hur seriöst samhället bör ta en kombination av risker som kan förstärka varandra.

AI-loppet kan skapa två olika problem

En av de starkaste idéerna som delas av AI 2040 och Kokotajlos intervju är att AI-säkerhet inte bara handlar om huruvida ett AI-system är "ont" eller "gott".

Det finns minst två stora risker.

1. Människor förlorar kontrollen

Om ett AI-system blir avsevärt mer kapabelt än människor och kan förbättra sina egna efterträdare, kan människor så småningom ha svårt att förstå eller kontrollera dess beteende.

Den centrala frågan blir enkel:

Hur kontrollerar du något som är mycket smartare och snabbare än du är?

AI 2040 hävdar att det nuvarande loppet så småningom kan leda till en situation där människor inte längre har effektiv kontroll över alltmer autonoma system.

2. Människor behåller kontrollen, men bara ett fåtal människor

Den andra möjligheten kan se säkrare ut vid första anblicken.

Anta att de ledande AI-företagen lyckas anpassa sina system med mänskliga mål. Problemet skulle då bli maktkoncentration.

Om ett företag, en regering eller en liten grupp kontrollerar världens mest kapabla AI-system, kan det få en oöverträffad inverkan på ekonomi, militär teknologi, information och infrastruktur.

Med andra ord, att lösa AI-anpassning löser inte automatiskt det politiska problemet.

Vad händer med jobben?

Den ekonomiska påverkan är en annan stor del av båda scenarier.

AI 2040 föreställer en nära framtid där AI-agenter blir en andra arbetskraft vid sidan av människor. Miljontals mjukvarubaserade agenter skulle kunna arbeta kontinuerligt och utföra uppgifter med maskinhastighet.

Den viktiga förändringen skulle inte bara vara att chattbottar blir bättre assistenter.

I stället skulle företag kunna börja behandla AI som en allmän arbetskraft.

Ett företag skulle kunna besluta att gå in i ett nytt yrke eller en ny bransch, samla in de nödvändiga data, bygga träningsmiljöer, distribuera AI-agenter och kontinuerligt förbättra dem genom verklig användning. AI 2040 beskriver denna process som potentiellt spridande från mjukvaruutveckling till många andra kontorsyrken.

Detta väcker en svår ekonomisk fråga:

Vad händer när intelligens blir överflödig men mänskligt arbete inte längre är sällsynt?

I århundraden har inkomst i stor utsträckning varit kopplad till människors förmåga att tillhandahålla nyttigt arbete. Om AI kan utföra de flesta kognitiva uppgifter till lägre kostnad, kan den relationen brytas.

Kokotajlo är särskilt pessimistisk när det gäller sysselsättning. I intervjun hävdar han att människor bör ta möjligheten till omfattande jobbdisplacering på allvar och föreslår att många arbetare så småningom kan finna sig tävla med AI-system.

Det finns dock inte nödvändigtvis massfattigdom som resultat.

Om AI dramatiskt ökar produktiviteten medan dess fördelar brett fördelas, kan mänskligheten istället uppleva en oöverträffad period av överflöd.

Detta är en av de centrala kontrasten i AI 2040: samma teknologi kan producera antingen extrem välstånd eller extrem förmögenhets- och maktkoncentration, beroende på hur den styrs.

Vad är Plan A?

Plan A är i grund och botten ett försök att förändra incitamenten för AI-loppet.

Dess kärnförslag är ett internationellt avtal, särskilt mellan USA och Kina, utformat för att förhindra att länder och företag tävlar mot superintelligens utan tillräckliga säkerhetsåtgärder.

Planen bygger på flera stora principer.

Total forskningsöppenhet

AI-företag skulle tillhandahålla mycket mer information om deras interna utveckling, inklusive modell specifikationer, hur systemen används internt, och hur mycket datorkraft som ägnas åt AI-forskning.

Idén är enkel: regeringar kan inte reglera vad de inte kan se.

Långsammare kapabilitetsskala

I stället för att omedelbart pressa varje ny modell till sin maximala möjliga kapacitet, skulle AI-utvecklingen medvetet saktas ner kring kritiska trösklar.

Detta skulle ge forskare och regeringar mer tid att utvärdera nya kapabiliteter och utveckla säkerhetsåtgärder.

Verifiering och övervakning av datorkraft

AI 2040 diskuterar också tekniska system för att verifiera vad företag gör med sina datorkällor. Att spåra AI-chip, datacenter och stora träningskörningar skulle kunna göra internationella avtal mer verkställbara.

Flera AI-ledare

Plan A föreställer sig inte att ett företag blir den oemotsagda ägaren av superintelligens.

Författarna argumenterar för en värld där flera företag och länder kan förbli konkurrenskraftiga medan de utvecklar AI under gemensamma säkerhetsregler.

Det underliggande målet är att undvika att ersätta ett AI-lopp med ett AI-monopol.

Varför 2040?

Året 2040 presenteras inte som ett magiskt datum.

Det är en avsiktlig säkerhetsbuffert.

Under scenariot skulle AI potentiellt kunna nå den punkt där automatiserad forskning blir möjlig omkring 2030. I stället för att tillåta att den kapabiliteten omedelbart utlöser en intelligensexplosion, skulle mänskligheten hålla utvecklingen inom ramen för de bästa mänskliga experterna under flera år.

År 2035 skulle utvecklingen pausa.

Först 2040 skulle restriktionerna lyftas och världen medvetet röra sig mot superintelligens.

Detta är den centrala filosofiska idén bakom Plan A:

Mänskligheten bör inte tävla mot en teknologi som den ännu inte vet hur man kontrollerar.

Är AI 2040 en förutsägelse?

Inte exakt.

Detta är kanske den viktigaste punkten när man läser projektet.

Författarna säger uttryckligen att Plan A huvudsakligen är en rekommendation, inte en förutsägelse. De skapade ett detaljerat scenario eftersom politikförslag är lätta att stödja i abstrakt, men mycket svårare att testa mot en realistisk tidslinje.

Med andra ord, AI 2040 ställer frågan:

Hur skulle framtiden faktiskt se ut om vi genomförde denna politik?

Det gör det närmare en strategisk simulering än en konventionell prognos.

Författarna presenterar också alternativa scenarier, Planer B, C, D och S, som representerar olika sätt regeringar skulle kunna reagera på framkomsten av superintelligens.

Den verkliga frågan är inte "Kommer AI att förstöra mänskligheten?"

Den mest användbara slutsatsen från AI 2040 och Kokotajlos intervju är inte att katastrof är oundviklig.

Det är att nästa steg i AI-utvecklingen kan skapa problem som inte kan lösas efteråt.

Om AI-forskning blir starkt automatiserad kan fönstret för mänskligt beslutsfattande bli mycket mindre.

Om ett företag får ett avgörande försprång kan det bli nästan omöjligt att omfördela makt senare.

Och om miljontals jobb försvinner snabbare än de ekonomiska institutionerna kan anpassa sig, kan regeringar stå inför sociala störningar på en skala de aldrig har upplevt.

Samtidigt är uppsidan enorm.

AI kan påskynda vetenskaplig forskning, förbättra medicin, automatisera farligt arbete, minska kostnaderna för varor och tjänster och skapa former av överflöd som är svåra att föreställa sig idag.

Kokotajlo själv betonar denna punkt: han hävdar inte att AI är inneboende dåligt. Hans oro är att mänskligheten kanske misslyckas med att hantera övergången på ett säkert sätt.

AI 2040: En varning, inte en nedräkning

AI 2040 bör inte läsas som en bokstavlig nedräkning till 2040, precis som Kokotajlos 70% uppskattning inte bör tolkas som en objektiv mätning av mänsklighetens chanser.

I stället framhäver de två källorna samma strategiska dilemma från olika vinklar.

AI-industrin kan röra sig mot alltmer autonoma system snabbare än vad regeringar och samhället anpassar sig.

Den viktigaste frågan kan därför inte vara huruvida superintelligens anländer 2030, 2040 eller senare.

Det handlar om huruvida mänskligheten når en punkt där den har institutioner, tekniska skydd, internationella avtal och ekonomiska politik som behövs för att hantera det.

Den optimistiska versionen av framtiden är fortfarande möjlig: AI blir extraordinärt kapabel, produktiviteten exploderar, och dess fördelar delas brett.

Den pessimistiska versionen är också lätt att föreställa sig: ett okontrollerat intelligenslopp producerar antingen en förlust av mänsklig kontroll eller en oöverträffad maktkoncentration.

Plan A är ett försök att välja den första vägen innan den andra blir omöjlig att undvika.

För tillfället förblir debatten öppen. Men när AI-system blir alltmer kapabla, kan kostnaden för att vänta på säkerhet bli mycket högre än kostnaden för att förbereda sig i förväg.