AI 2040: Ar putea superintelența să apară până în 2030?

Inteligența artificială se dezvoltă mai repede decât majoritatea tehnologiilor anterioare, dar cea mai mare întrebare nu mai este ce poate face AI-ul astăzi. Aceasta este cât de repede ar putea AI-ul să devină capabil să se îmbunătățească pe sine.

Această întrebare stă în centrul AI 2040: Plan A, un scenariu dezvoltat de Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt și Daniel Kokotajlo. Proiectul imaginează o lume în care umanitatea încetinește deliberat cursa către superintelență, menținând cercetarea AI la frontieră transparentă și amânând pasul final către AI-ul supranatural până în 2040.

Ideea devine și mai izbitoare atunci când este comparată cu interviul recent al lui Kokotajlo de la The Diary of a CEO. Fostul cercetător de la OpenAI susține că cursa către AI-uri din ce în ce mai puternice ar putea fi mult mai aproape de un punct critic decât realizează publicul. El estimează o probabilitate personală foarte mare ca tranziția AI să decurgă catastrofal, subliniind totodată că un rezultat pozitiv rămâne posibil.

Deci, ce s-ar putea întâmpla între acum și 2040, și de ce are nevoie industria AI de un Plan A?

Ce este AI 2040?

AI 2040 este un scenariu despre gestionarea tranziției de la AI avansat la superintelență.

Autorii săi pornesc de la o preocupare simplă: dacă mai multe companii și țări concurează pentru a construi cea mai puternică AI cât mai repede posibil, câștigătorul ar putea obține o cantitate extraordinară de putere economică, militară și politică.

Scenariul propune, așadar, o abordare diferită. În loc să permită o cursă de inteligență pe viteză maximă, guvernele ar negocia un acord internațional care încetinește dezvoltarea, crește transparența și permite mai multor țări și companii să rămână implicate.

Scopul nu este de a opri dezvoltarea AI pentru totdeauna. Este de a câștiga timp.

Sub Plan A, lumea ar amâna dezvoltarea superintelenței până în 2040, ar scala treptat capabilitățile AI la aproximativ nivelul celor mai buni experți umani, ar face o pauză acolo și numai ulterior ar relua tranziția către sisteme cu adevărat supranaturale. Autorii descriu explicit Plan A ca o recomandare, mai degrabă decât cea mai bună predicție a ceea ce se va întâmpla de fapt.

AI 2040: Cronologia propusă

Această cronologie este deliberat conservatoare comparativ cu scenariile mai agresive discutate de Kokotajlo.

De ce este superintelența o problemă atât de mare?

Sistemele AI de astăzi pot deja executa sarcini care înainte necesitau profesioniști înalt pregătiți. Dar adevăratul punct de cotitură ar veni atunci când AI devine capabilă să conducă cercetarea AI însăși.

Imaginează-ți un sistem AI care poate proiecta un model mai bun, să-l testeze, să analizeze rezultatele, să scrie codul necesar, să optimizeze procesul de antrenament și apoi să repete întregul proces.

Următoarea generație ar putea fi astfel mai bună la cercetarea AI decât predecesorul său.

Asta creează un ciclu de feedback:

AI mai bun → cercetare AI mai bună → AI mai bun → și mai bună cercetare AI

Aceasta este adesea descrisă ca o explozie de inteligență.

AI 2040 susține că această tranziție este deosebit de periculoasă deoarece oamenii ar putea pierde poziția lor în ciclu de dezvoltare. Dacă sistemele AI sunt responsabile de crearea succesorilor din ce în ce mai capabili, devine mai greu de înțeles de ce sistemele rezultate ar rămâne controlabile.

Scenariul descrie anul 2030 ca un punct potențial în care cercetarea AI ar putea deveni complet automatizată. Fără intervenție, aceasta ar putea teoretic conduce la superintelență într-o perioadă foarte scurtă.

Avertismentul lui Daniel Kokotajlo: AI ar putea avansa mai repede decât ne așteptăm

Daniel Kokotajlo aduce o perspectivă mai personală asupra aceleași probleme.

Kokotajlo a lucrat la OpenAI din 2022 și s-a concentrat pe prognozarea modului în care capacitățile AI ar putea evolua. El a părăsit ulterior compania și a devenit una dintre vocile proeminente care avertizează cu privire la riscurile unei curse AI necontrolate.

În interviul său din iulie 2026 cu Steven Bartlett, Kokotajlo a argumentat că discuțiile cu oameni din laboratoarele de AI de vârf indică adesea cronologii mai scurte decât se așteaptă publicul. El a menționat în mod specific anii 2027 și 2028 ca fiind ani pe care unii oameni din industrie îi consideră plauzibili pentru progrese majore.

Cea mai controversată afirmație a sa este că el personal estimează o șansă de aproximativ 70% ca AI să decurgă „horribil greșit”, inclusiv scenarii care ar putea conduce la extincția umană. Acest număr nu ar trebui tratat ca o probabilitate științifică stabilită. Este estimarea riscurilor lui Kokotajlo bazată pe presupunerile sale despre cronologiile AI, alinierea, competiția și guvernanța.

Această distincție este importantă.

Numărul de 70% nu este o prognoză de consens din comunitatea de cercetare AI. Este un argument despre cât de serios ar trebui să ia societatea o combinație de riscuri care s-ar putea întări reciproc.

Cursa AI ar putea crea două probleme diferite

Una dintre cele mai puternice idei comune între AI 2040 și interviul lui Kokotajlo este că siguranța AI nu se referă doar la faptul dacă un sistem AI este „rău” sau „bun”.

Există cel puțin două riscuri majore.

1. Oamenii își pierd controlul

Dacă un sistem AI devine considerabil mai capabil decât oamenii și este capabil să-și îmbunătățească proprii succesorii, oamenii s-ar putea lupta în cele din urmă să înțeleagă sau să controleze comportamentul acestuia.

Întrebarea cheie devine simplă:

Cum poți controla ceva care este mult mai inteligent și mai rapid decât tine?

AI 2040 susține că cursa actuală ar putea conduce în cele din urmă la o situație în care oamenii nu mai mențin controlul eficient asupra sistemelor din ce în ce mai autonome.

2. Oamenii păstrează controlul, dar doar câțiva oameni

A doua posibilitate ar putea părea mai sigură la început.

Să presupunem că companiile de vârf din AI își aliniază cu succes sistemele cu obiectivele umane. Problema ar deveni atunci concentrarea puterii.

Dacă o singură companie, guvern sau mic grup controlează cele mai capabile sisteme AI din lume, ar putea dobândi o influență fără precedent asupra economiei, tehnologiei militare, informației și infrastructurii.

În alte cuvinte, rezolvarea aliniamentului AI nu ar rezolva automat problema politică.

Ce se întâmplă cu locurile de muncă?

Impactul economic este o altă parte majoră a ambelor scenarii.

AI 2040 imaginează un viitor apropiat în care agenții AI devin o a doua forță de muncă alături de oameni. Milioane de agenți software ar putea funcționa continuu, finalizând sarcini cu viteza mașinii.

Schimbarea importantă nu ar fi simplu chatboții devenind asistenți mai buni.

În schimb, companiile ar putea începe să trateze AI ca o forță de muncă de uz general.

O afacere ar putea decide să intre într-o nouă profesie sau industrie, să colecteze datele necesare, să construiască medii de antrenament, să desfășoare agenți AI și să-i îmbunătățească continuu prin utilizarea în lumea reală. AI 2040 descrie acest proces ca având potențialul de a se răspândi din ingineria software în multe alte profesii de birou.

Aceasta ridică o întrebare economică dificilă:

Ce se întâmplă când inteligența devine abundentă, dar munca umană nu mai este rară?

De secole, venitul a fost în mare măsură legat de capacitatea oamenilor de a oferi muncă utilă. Dacă AI poate executa cele mai multe sarcini cognitive la un cost mai mic, acea relație s-ar putea destrăma.

Kokotajlo este deosebit de pesimist în legătură cu ocuparea forțată. În interviu, el argumentează că oamenii ar trebui să ia în serios posibilitatea de înlocuire pe scară largă a locurilor de muncă și sugerează că mulți lucrători s-ar putea afla, în cele din urmă, în competiție cu sistemele AI.

Cu toate acestea, rezultatul nu este neapărat sărăcia în masă.

Dacă AI crește dramatic productivitatea și beneficiile sunt extinse pe scară largă, umanitatea ar putea experimenta în schimb o perioadă fără precedent de abundență.

Aceasta este una dintre contrastele centrale din AI 2040: aceeași tehnologie ar putea produce fie o prosperitate extremă, fie o concentrație extremă a bogăției și puterii, în funcție de modul în care este guvernată.

Ce este Plan A?

Plan A este, în esență, o încercare de a schimba stimulentele cursei AI.

Propunerea sa de bază este un acord internațional, în special între SUA și China, destinat să prevină ca țările și companiile să concureze pentru superintelență fără măsuri adecvate de siguranță.

Planul se bazează pe mai multe principii majore.

Transparență totală în cercetare

Companiile AI ar oferi mult mai multe informații despre dezvoltarea lor internă, inclusiv specificații ale modelului, modul în care sistemele sunt utilizate intern și cât de multă putere de calcul este dedicată cercetării AI.

Ideea este simplă: guvernele nu pot reglementa ceea ce nu pot vedea.

Scalarea capabilităților mai lent

În loc să împingă imediat fiecare model nou la cea mai mare capabilitate posibilă, dezvoltarea AI ar fi încetinit deliberat în jurul unor praguri critice.

Acest lucru ar oferi cercetătorilor și guvernelor mai mult timp pentru a evalua noile capabilități și a dezvolta măsuri de siguranță.

Verificarea și monitorizarea calculului

AI 2040 discută, de asemenea, despre sisteme tehnice pentru verificarea a ceea ce companiile fac cu resursele lor de calcul. Monitorizarea cipurilor AI, a centrelor de date și a antrenamentelor mari ar putea face acordurile internaționale mai ușor de aplicat.

Lideri AI multipli

Plan A nu își imaginează o companie devenind proprietara incontestabilă a superintelenței.

Autorii argumentează pentru o lume în care mai multe companii și țări pot rămâne competitive în timp ce dezvoltă AI sub reguli comune de siguranță.

Scopul de bază este de a evita înlocuirea unei curse AI cu un monopol AI.

De ce 2040?

Anul 2040 nu este prezentat ca o dată magică.

Este un buffer de siguranță deliberat.

În cadrul scenariului, AI ar putea ajunge potențial la punctul în care cercetarea automată devine posibilă în jurul anului 2030. În loc să permită ca acea capabilitate să declanșeze imediat o explozie de inteligență, umanitatea ar menține dezvoltarea în intervalul celor mai buni experți umani timp de câțiva ani.

În 2035, dezvoltarea ar face o pauză.

Numai în 2040 restricțiile ar fi ridicate și lumea ar merge intenționat către superintelență.

Aceasta este concepția filozofică centrală din spatele Plan A:

Umanitatea nu ar trebui să concureze pentru o tehnologie pe care nu știe încă să o controleze.

Este AI 2040 o predicție?

Nu exact.

Acesta este poate cel mai important punct atunci când citim proiectul.

Autorii afirmă explicit că Plan A este în primul rând o recomandare, nu o predicție. Ei au creat un scenariu detaliat deoarece propunerile de politică sunt ușor de susținut în abstract, dar mult mai greu de testat față de o cronologie realistă.

În alte cuvinte, AI 2040 întreabă:

Cum ar arăta viitorul dacă am implementa această politică?

Aceasta îl face mai aproape de o simulare strategică decât de o prognoză convențională.

Autorii prezintă, de asemenea, scenarii alternative, Planuri B, C, D și S, reprezentând diferite moduri în care guvernele ar putea reacționa la apariția superintelenței.

Întrebarea reală nu este „Va distruge AI umanitatea?”

Cea mai utilă concluzie din AI 2040 și interviul lui Kokotajlo nu este că catastrofa este inevitabilă.

Este că următoarea etapă a dezvoltării AI ar putea crea probleme care nu pot fi rezolvate după fapt.

Dacă cercetarea AI devine foarte automatizată, fereastra pentru luarea deciziilor umane ar putea deveni mult mai mică.

Dacă o companie câștigă un avantaj decisiv, redistribuirea puterii mai târziu ar putea deveni aproape imposibilă.

Și dacă milioane de locuri de muncă dispar mai repede decât se adaptează instituțiile economice, guvernele ar putea face față unei perturbări sociale la o scară pe care nu au mai experimentat-o.

În același timp, partea pozitivă este enormă.

AI ar putea accelera cercetarea științifică, îmbunătăți medicina, automatiza lucrările periculoase, reduce costurile bunurilor și serviciilor și crea forme de abundență greu de imaginat astăzi.

Kokotajlo subliniază el însuși acest punct: nu argumentează că AI este în mod inerent rău. Preocuparea sa este că umanitatea ar putea eșua în a gestiona tranziția în siguranță.

AI 2040: O avertizare, nu un numărătoare inversă

AI 2040 nu ar trebui citit ca o numărătoare inversă literală până în 2040, la fel cum estimarea de 70% a lui Kokotajlo nu ar trebui interpretată ca o măsurare obiectivă a șanselor umanității.

În schimb, cele două surse pun în evidență aceeași dilemă strategică din unghiuri diferite.

Industria AI ar putea avansa către sisteme din ce în ce mai autonome mai repede decât guvernele și societatea se adaptează.

Cea mai importantă întrebare nu ar putea fi, așadar, dacă superintelența apare în 2030, 2040 sau mai târziu.

Este dacă umanitatea ajunge la un punct în care are instituțiile, măsurile tehnice de siguranță, acordurile internaționale și politicile economice necesare pentru a face față.

Versiunea optimistă a viitorului este încă posibilă: AI devine extrem de capabilă, productivitatea explodează, iar beneficiile sunt extinse pe scară largă.

Versiunea pesimistă este, de asemenea, ușor de imaginat: o cursă de inteligență necontrolată produce fie o pierdere a controlului uman, fie o concentrare fără precedent a puterii.

Plan A este o încercare de a alege prima cale înainte ca a doua să devină imposibil de evitat.

Deocamdată, dezbaterea rămâne deschisă. Dar pe măsură ce sistemele AI devin din ce în ce mai capabile, costul așteptării certitudinii ar putea deveni mult mai mare decât costul pregătirii timpurii.