AI 2040: Kan superintelligens komme innen 2030?

Kunstig intelligens beveger seg raskere enn de fleste tidligere teknologier, men det største spørsmålet er ikke lenger hva AI kan gjøre i dag. Det er hvor raskt AI kan bli i stand til å forbedre seg selv.

Dette spørsmålet står i sentrum av AI 2040: Plan A, et scenario utviklet av Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt, og Daniel Kokotajlo. Prosjektet forestiller seg en verden der menneskeheten bevisst senker løpet mot superintelligens, holder grenser for AI-forskning transparente, og utsetter det siste skrittet mot overmenneskelig AI til 2040.

Ideen blir enda mer slående i sammenligning med Kokotajlos nylige intervju på The Diary of a CEO. Den tidligere OpenAI-forskeren argumenterer for at løpet mot stadig mer kraftig AI kan være mye nærmere et kritisk punkt enn offentligheten er klar over. Han anslår en veldig høy personlig sannsynlighet for at AI-overgangen kan gå katastrofalt galt, samtidig som han understreker at et positivt utfall fortsatt er mulig.

Så hva kan skje mellom nå og 2040, og hvorfor trenger AI-bransjen en Plan A?

Hva er AI 2040?

AI 2040 er et scenario om håndtering av overgangen fra avansert AI til superintelligens.

Forfatterne begynner med en enkel bekymring: hvis flere selskaper og land konkurrerer om å bygge den mest kraftfulle AI så raskt som mulig, kan vinneren oppnå en ekstraordinær mengde økonomisk, militær og politisk makt.

Scenarioet foreslår derfor en annen tilnærming. I stedet for å tillate et fullspektrum løp mot intelligens, vil regjeringer forhandle frem en internasjonal avtale som senker utviklingen, øker gjennomsiktigheten og lar flere land og selskaper forbli involvert.

Målet er ikke å stoppe AI-utvikling for alltid. Det er å kjøpe tid.

Under Plan A ville verden utsette utviklingen av superintelligens til 2040, gradvis skalere AI-kapabiliteter til omtrent nivået av topp menneskelige eksperter, pause der, og kun senere gjenoppta overgangen mot genuint overmenneskelige systemer. Forfatterne beskriver eksplisitt Plan A som en anbefaling snarere enn deres beste spådom om hva som faktisk vil skje.

AI 2040: Den foreslåtte tidslinjen

Denne tidslinjen er bevisst konservativ sammenlignet med de mer aggressive scenariene som diskuteres av Kokotajlo.

Hvorfor er superintelligens så viktig?

Dagens AI-systemer kan allerede utføre oppgaver som tidligere krevde høyt trente fagfolk. Men det virkelige vendepunktet ville komme når AI blir i stand til å utføre AI-forskning selv.

Tenk deg et AI-system som kan designe en bedre modell, teste den, analysere resultatene, skrive nødvendig kode, optimalisere treningsprosessen, og så gjenta hele prosessen.

Den neste generasjonen kan da bli bedre på AI-forskning enn sin forgjenger.

Det skaper en tilbakemeldingssløyfe:

bedre AI → bedre AI-forskning → bedre AI → enda bedre AI-forskning

Dette beskrives ofte som en intelligenseksplosjon.

AI 2040 argumenterer for at denne overgangen er spesielt farlig fordi mennesker kan miste sin posisjon i utviklingssløyfen. Hvis AI-systemer er ansvarlige for å skape stadig kraftigere etterfølgere, blir det vanskeligere å forstå hvorfor de resulterende systemene ville forbli kontrollerbare.

Scenarioet beskriver 2030 som et potensielt punkt hvor AI-forskning kan bli helt automatisert. Uten inngripen kan det teoretisk føre til superintelligens innen en veldig kort periode.

Daniel Kokotajlos advarsel: AI kan bevege seg raskere enn forventet

Daniel Kokotajlo bringer et mer personlig perspektiv til det samme problemet.

Kokotajlo jobbet hos OpenAI fra 2022 og fokuserte på å forutsi hvordan AI-kapabiliteter kunne utvikle seg. Han forlot senere selskapet og har blitt en av de fremtredende stemmene som advarer mot risikoene ved et ukontrollert AI-løp.

I sitt intervju i juli 2026 med Steven Bartlett hevdet Kokotajlo at samtaler med folk innen ledende AI-laboratorier ofte peker mot kortere tidslinjer enn offentligheten forventer. Han nevnte spesifikt 2027 og 2028 som år som noen bransjeinnsidere anser som plausible for større gjennombrudd.

Hans mest kontroversielle påstand er at han personlig gir omtrent 70% sjanse for at AI kan gå "grusomt galt", inkludert scenarier som kan føre til menneskelig utryddelse. Dette tallet bør ikke behandles som en etablert vitenskapelig sannsynlighet. Det er Kokotajlos personlige risikovurdering basert på hans antakelser om AI-tidslinjer, tilpasning, konkurranse, og styring.

Den distinksjonen er viktig.

70%-tallet er ikke en konsensusprognose fra AI-forskningsmiljøet. Det er et argument om hvor alvorlig samfunnet bør ta en kombinasjon av risikoer som kan forsterke hverandre.

AI-løpet kan skape to forskjellige problemer

En av de sterkeste ideene delt av AI 2040 og Kokotajlos intervju er at AI-sikkerhet ikke bare handler om hvorvidt et AI-system er "ondt" eller "godt".

Det er minst to store risikoer.

1. Mennesker mister kontrollen

Hvis et AI-system blir betydelig mer kapabelt enn mennesker og er i stand til å forbedre sine egne etterfølgere, kan mennesker til slutt slite med å forstå eller kontrollere atferden.

Det sentrale spørsmålet blir enkelt:

Hvordan kontrollerer du noe som er mye smartere og raskere enn deg?

AI 2040 argumenterer for at det nåværende løpet potensielt kan lede til en situasjon der mennesker ikke lenger opprettholder effektiv kontroll over stadig mer autonome systemer.

2. Mennesker beholder kontroll, men bare noen få mennesker

Den andre muligheten kan se tryggere ut ved første øyekast.

Anta at de ledende AI-selskapene klarer å tilpasse sine systemer med menneskelige mål. Problemet vil deretter bli maktkonsentrasjon.

Hvis ett selskap, regjering eller en liten gruppe kontrollerer verdens mest kapable AI-systemer, kan det oppnå enestående innflytelse over økonomi, militærteknologi, informasjon og infrastruktur.

Med andre ord, å løse AI-tilpasning vil ikke automatisk løse det politiske problemet.

Hva skjer med jobber?

Den økonomiske innvirkningen er en annen stor del av begge scenariene.

AI 2040 forestiller seg en nær fremtid der AI-agenter blir en annen arbeidsstyrke ved siden av mennesker. Millioner av programvarebaserte agenter kan operere kontinuerlig, og fullføre oppgaver i maskinhastighet.

Den viktige endringen ville ikke bare være at chatbots blir bedre assistenter.

I stedet kan selskaper begynne å behandle AI som en generell arbeidsstyrke.

Et selskap kan bestemme seg for å gå inn i et nytt yrke eller industri, samle nødvendig data, bygge treningsmiljøer, distribuere AI-agenter, og kontinuerlig forbedre dem gjennom virkelighetsbruk. AI 2040 beskriver denne prosessen som potensielt spredende fra programvaredesign til mange andre kontorprofesjoner.

Dette reiser et vanskelig økonomisk spørsmål:

Hva skjer når intelligens blir rikelig, men menneskelig arbeidskraft ikke lenger er knapp?

I århundrer har inntekt stort sett vært knyttet til menneskers evne til å levere nyttig arbeid. Hvis AI kan utføre de fleste kognitive oppgaver til lavere kostnad, kan det forholdet brytes.

Kokotajlo er spesielt pessimistisk med hensyn til sysselsetting. I intervjuet argumenterer han for at folk bør ta muligheten for utbredt jobbutskifting på alvor og antyder at mange arbeidere potensielt kan finne seg i konkurranse med AI-systemer.

Men utfallet er ikke nødvendigvis massiv fattigdom.

Hvis AI dramatisk øker produktiviteten mens fordelene er bredt fordelt, kan menneskeheten i stedet oppleve en enestående periode med overflod.

Det er et av de sentrale kontrastene i AI 2040: den samme teknologien kan produsere enten ekstrem velstand eller ekstrem maktkonsentrasjon, avhengig av hvordan den blir styrt.

Hva er Plan A?

Plan A er i hovedsak et forsøk på å endre insentivene for AI-løpet.

Dens kjerneforslag er en internasjonal avtale, spesielt mellom USA og Kina, designet for å forhindre land og selskaper fra å løpe mot superintelligens uten adekvate sikkerhetstiltak.

Planen er basert på flere hovedprinsipper.

Total forskningsåpenhet

AI-selskaper ville gi mye mer informasjon om sin interne utvikling, inkludert modelspecifikasjoner, hvordan systemer brukes internt, og hvor mye datakraft som dedikeres til AI-forskning.

Ideen er enkel: regjeringer kan ikke regulere det de ikke kan se.

Langsom kapabilitetsvekst

I stedet for umiddelbart å presse hver ny modell til sitt maksimale kapable nivå, ville AI-utvikling bevisst bli bremset rundt kritiske terskler.

Dette ville gi forskere og myndigheter mer tid til å evaluere nye kapabiliteter og utvikle sikkerhetstiltak.

Verifisering og datakraftmonitorering

AI 2040 diskuterer også tekniske systemer for å verifisere hva selskaper gjør med sine datakraftressurser. Å spore AI-brikker, datasentre, og store treningsøkter kunne gjøre internasjonale avtaler mer håndhevelige.

Flere AI-lederne

Plan A ser ikke for seg at ett selskap blir den ubestridte eieren av superintelligens.

Forfatterne argumenterer for en verden der flere selskaper og land kan forbli konkurransedyktige mens de utvikler AI under felles sikkerhetsregler.

Det underliggende målet er å unngå å erstatte et AI-løp med et AI-monopol.

Hvorfor 2040?

Året 2040 er ikke presentert som en magisk dato.

Det er en bevisst sikkerhetsbuffer.

I henhold til scenariet kan AI potensielt nå et punkt hvor automatisert forskning blir mulig rundt 2030. I stedet for å la den kapabiliteten umiddelbart utløse en intelligenseksplosjon, ville menneskeheten holde utviklingen innenfor omfanget av de beste menneskelige eksperter i flere år.

I 2035 ville utviklingen pause.

Kun i 2040 ville restriksjonene bli løftet og verden bevisst bevege seg mot superintelligens.

Dette er den sentrale filosofiske ideen bak Plan A:

Menneskeheten bør ikke løpe mot en teknologi den foreløpig ikke vet hvordan den skal kontrollere.

Er AI 2040 en spådom?

Ikke akkurat.

Dette er kanskje det viktigste punktet ved lesingen av prosjektet.

Forfatterne sier eksplisitt at Plan A først og fremst er en anbefaling, ikke en spådom. De laget et detaljert scenario fordi politikkforslag er enkle å støtte i det abstrakte, men mye vanskeligere å teste mot en realistisk tidslinje.

Med andre ord, AI 2040 spør:

Hvordan ville fremtiden faktisk se ut hvis vi implementerte denne politikken?

Det gjør det nært en strategisk simulering enn en tradisjonell prognose.

Forfatterne presenterer også alternative scenarier, Planer B, C, D, og S, som representerer forskjellige måter regjeringer kan reagere på fremveksten av superintelligens.

Det virkelige spørsmålet er ikke "Vil AI ødelegge menneskeheten?"

Den mest nyttige lærdommen fra AI 2040 og Kokotajlos intervju er ikke at katastrofen er uunngåelig.

Det er at den neste fasen av AI-utvikling kan skape problemer som ikke kan løses etterpå.

Hvis AI-forskning blir høyt automatisert, kan vinduet for menneskelig beslutningstaking bli mye mindre.

Hvis ett selskap oppnår en avgjørende fordel, kan det å fordele makt senere bli nesten umulig.

Og hvis millioner av jobber forsvinner raskere enn økonomiske institusjoner kan tilpasse seg, kan regjeringer stå overfor sosial forstyrrelse i en skala de aldri har opplevd.

Samtidig er det positive utfallet enormt.

AI kan akselerere vitenskapelig forskning, forbedre medisin, automatisere farlig arbeid, redusere kostnader for varer og tjenester, og skape former for overflod som er vanskelige å forestille seg i dag.

Kokotajlo selv understreker dette poenget: han argumenterer ikke for at AI i seg selv er dårlig. Hans bekymring er at menneskeheten kan feile i å håndtere overgangen på en trygg måte.

AI 2040: En advarsel, ikke en nedtelling

AI 2040 bør ikke leses som en bokstavelig nedtelling til 2040, akkurat som Kokotajlos 70%-estimater ikke bør tolkes som en objektiv måling av menneskehetens sjanser.

I stedet fremhever de to kildene det samme strategiske dilemmaet fra forskjellige vinkler.

AI-bransjen kan være i ferd med å bevege seg mot stadig mer autonome systemer raskere enn regjeringer og samfunnet tilpasser seg.

Det viktigste spørsmålet er derfor ikke om superintelligens kommer i 2030, 2040, eller senere.

Det er om menneskeheten når et punkt hvor den har institusjoner, tekniske sikkerhetsforanstaltninger, internasjonale avtaler, og økonomiske politikk som trengs for å håndtere det.

Den optimistiske versjonen av fremtiden er fortsatt mulig: AI blir ekstraordinært kapabel, produktiviteten eksploderer, og fordelene blir bredt delt.

Den pessimistiske versjonen er også lett å forestille seg: et ukontrollert intelligensløp produserer enten tap av menneskelig kontroll eller en enestående maktkonsentrasjon.

Plan A er et forsøk på å velge den første stien før den andre blir umulig å unngå.

For nå forblir debatten åpen. Men ettersom AI-systemer blir stadig mer kapable, kan kostnaden for å vente på sikkerhet bli mye høyere enn kostnaden for å forberede seg tidlig.