AI 2040: Može li superinteligencija stići do 2030.?

Umjetna inteligencija napreduje brže od većine prethodnih tehnologija, ali najveće pitanje više nije što AI može učiniti danas. To je koliko brzo bi AI mogao postati sposoban unaprijediti samog sebe.

To pitanje je u središtu AI 2040: Plan A, scenarija koji su razvili Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt i Daniel Kokotajlo. Projekt zamišlja svijet u kojem čovječanstvo namjerno usporava utrku prema superinteligenciji, održava istraživanje na granici AI transparentnim i odgađa konačni korak prema nadljudskoj AI do 2040. godine.

Ideja postaje još upečatljivija kada se usporedi s Kokotajlovim nedavnim intervjuom na "Dnevniku CEO-a". Bivši istraživač OpenAI-a tvrdi da bi utrka prema sve moćnijem AI mogla biti puno bliža kritičnoj točki nego što javnost shvaća. Procjenjuje vrlo visoku osobnu vjerojatnost da bi AI prijelaz mogao poći katastrofalno krivo, dok također naglašava da pozitivan ishod ostaje moguć.

Dakle, što bi se moglo dogoditi između sada i 2040., i zašto AI industrija treba Plan A?

Što je AI 2040?

AI 2040 je scenarij o upravljanju prijelazom s napredne AI na superinteligenciju.

Njegovi autori polaze od jednostavnog problema: ako nekoliko kompanija i država konkurira u izgradnji najmoćnije AI što je brže moguće, pobjednik bi mogao steći izvanrednu količinu ekonomske, vojne i političke moći.

Stoga scenarij predlaže drugačiji pristup. Umjesto dozvoljavanja utrke inteligencije punom brzinom, vlade bi pregovarale o međunarodnom sporazumu koji usporava razvoj, povećava transparentnost i omogućava više država i kompanija da ostanu uključene.

Cilj nije zaustaviti AI razvoj zauvijek. Cilj je kupiti vrijeme.

Prema Planu A, svijet bi odgodio razvoj superinteligencije do 2040., postupno povećavajući mogućnosti AI na otprilike razinu najboljih ljudskih stručnjaka, tu bi se zaustavio i samo bi kasnije nastavio prijelaz prema istinski nadljudskim sustavima. Autori izražavaju Plan A kao preporuku, a ne kao najbolje predviđanje onoga što će se zapravo dogoditi.

AI 2040: Predloženi vremenski okvir

Ova vremenska linija je namjerno konzervativna u usporedbi s agresivnijim scenarijima koje je komentirao Kokotajlo.

Zašto je superinteligencija tako važna?

Današnji AI sustavi već mogu obavljati zadatke koji su nekada zahtijevali visoko obučene stručnjake. Ali pravi preokret dogodit će se kada AI postane sposoban provoditi istraživanje AI samo.

Zamislite AI sustav koji može dizajnirati bolji model, testirati ga, analizirati rezultate, napisati potrebni kod, optimizirati proces obuke i zatim ponoviti cijeli proces.

Sljedeća generacija mogla bi biti bolja u istraživanju AI od svoje prethodnice.

To stvara petlju povratne informacije:

bolji AI → bolje istraživanje AI → bolji AI → još bolja istraživanja AI

To se često opisuje kao eksplozija inteligencije.

AI 2040 tvrdi da je ova tranzicija posebno opasna jer bi ljudi mogli izgubiti svoju poziciju u razvoju. Ako AI sustavi budu odgovorni za stvaranje sve sposobnijih nasljednika, postat će teže razumjeti zašto bi rezultantni sustavi ostali kontrolirani.

Scenarij opisuje 2030. kao potencijalnu točku u kojoj bi istraživanje AI moglo postati potpuno automatizirano. Bez intervencije, to bi teoretski moglo dovesti do superinteligencije u vrlo kratkom roku.

Upozorenje Daniela Kokotajla: AI bi mogao ići brže nego što očekujemo

Daniel Kokotajlo donosi osobniju perspektivu na isti problem.

Kokotajlo je radio u OpenAI-u od 2022. godine i fokusirao se na predviđanje kako bi se sposobnosti AI mogle razvijati. Kasnije je napustio tvrtku i postao jedan od istaknutih glasova koji upozoravaju na rizike nekontrolirane utrke AI.

U svom intervjuu u srpnju 2026. s Stevenom Bartlettom, Kokotajlo je tvrdio da razgovori s ljudima unutar vodećih AI laboratorija često ukazuju na kraće vremenske okvire nego što javnost očekuje. Konkretno je spomenuo 2027. i 2028. kao godine za koje neki insajderi industrije smatraju plauzibilnima za velika otkrića.

Njegova najkontroverznija tvrdnja je da osobno dodjeljuje otprilike 70% šanse da AI pođe "užasno krivo", uključujući scenarije koji bi mogli rezultirati izumiranjem ljudi. Ova brojka ne bi se trebala tretirati kao ustaljena znanstvena vjerojatnost. To je Kokotajlova osobna procjena rizika temeljem njegovih pretpostavki o vremenskim okvirom AI, usklađenosti, konkurenciji i upravljanju.

Ta distinkcija je važna.

Brojka od 70% nije konsenzusni prognoza iz zajednice istraživanja AI. To je argument o tome koliko ozbiljno društvo treba shvaćati kombinaciju rizika koji se međusobno mogu pojačavati.

Utrka AI mogla bi stvoriti dva različita problema

Jedna od najjačih ideja zajedničkih AI 2040 i Kokotajlovom intervjuu je da sigurnost AI nije samo pitanje je li AI sustav "zlo" ili "dobro".

Postoje barem dva glavna rizika.

1. Ljudi gube kontrolu

Ako AI sustav postane značajno sposobniji od ljudi i može poboljšati svoje nasljednike, ljudi bi na kraju mogli imati poteškoća razumjeti ili kontrolirati njegovo ponašanje.

Ključno pitanje postaje jednostavno:

Kako kontrolirati nešto što je mnogo pametnije i brže od vas?

AI 2040 tvrdi da bi trenutna utrka mogla na kraju dovesti do situacije u kojoj ljudi više ne održavaju učinkovitu kontrolu nad sve autonomnijim sustavima.

2. Ljudi zadržavaju kontrolu, ali samo nekoliko ljudi

Druga mogućnost na početku izgleda sigurnije.

Pretpostavimo da vodeće AI kompanije uspješno usklađuju svoje sustave s ljudskim ciljevima. Problem bi tada postao koncentracija moći.

Ako jedna kompanija, vlada ili mala grupa kontrolira najmoćnije AI sustave na svijetu, mogla bi steći neviđeni utjecaj na ekonomiju, vojnu tehnologiju, informacije i infrastrukturu.

Drugim riječima, rješavanje usklađenosti AI ne bi automatski riješilo politički problem.

Što se događa s poslovima?

Ekonomski učinak još je jedan važan dio oba scenarija.

AI 2040 zamišlja blisku budućnost u kojoj AI agenti postaju druga radna snaga uz ljude. Milijuni softverskih agenata mogli bi raditi neprekidno, obavljajući zadatke brzinom strojeva.

Važna promjena ne bi jednostavno bila ta da chatboti postanu bolji asistenti.

Umjesto toga, kompanije bi mogle početi tretirati AI kao radnu snagu opće namjene.

Poslovanje bi moglo odlučiti ući u novu profesiju ili industriju, prikupiti potrebne podatke, izgraditi okruženja za obuku, implementirati AI agente i kontinuirano ih poboljšavati kroz korištenje u stvarnom svijetu. AI 2040 opisuje ovaj proces kao potencijalno širenje iz softverskog inženjeringa u mnoge druge bijele kragne profesije.

To postavlja teško ekonomsko pitanje:

Što se događa kada inteligencija postane obilna, ali ljudski rad više nije oskudan?

Tijekom stoljeća, prihodi su se uglavnom povezivali s sposobnošću ljudi da pružaju korisni rad. Ako AI može obavljati većinu kognitivnih zadataka po nižoj cijeni, ta bi veza mogla biti prekinuta.

Kokotajlo je posebno pesimističan u vezi s zaposlenjem. U intervjuu tvrdi da bi ljudi trebali ozbiljno shvatiti mogućnost opsežnog gubitka posla i sugerira da bi se mnogi radnici mogli na kraju naći u konkurenciji s AI sustavima.

Međutim, ishod ne mora nužno biti masovna siromaština.

Ako AI drastično poveća produktivnost, dok su njene koristi široko raspodijeljene, čovječanstvo bi umjesto toga moglo doživjeti bezpresedansku eru obilja.

To je jedan od središnjih kontrasta u AI 2040: ista tehnologija mogla bi proizvести iznimno prospèrno stanje ili ekstremnu koncentraciju bogatstva i moći, ovisno o tome kako se njome upravlja.

Što je Plan A?

Plan A je u osnovi pokušaj promjene poticaja AI utrke.

Njegova osnovna preporuka je međunarodni sporazum, posebno između SAD-a i Kine, osmišljen da spriječi zemlje i kompanije da se natječu prema superinteligenciji bez odgovarajućih sigurnosnih mjera.

Plan se oslanja na nekoliko glavnih načela.

Potpuna transparentnost istraživanja

AI kompanije trebale bi pružiti puno više informacija o svom unutarnjem razvoju, uključujući specifikacije modela, kako se sustavi koriste interno i koliko računalne moći se posvećuje AI istraživanju.

Ideja je jednostavna: vlade ne mogu regulirati ono što ne mogu vidjeti.

Sporiji rast sposobnosti

Umjesto da odmah pomiču svaki novi model do njegovih maksimalnih mogućnosti, razvoj AI bi se namjerno usporio oko kritičnih pragova.

To bi dalo istraživačima i vladama više vremena da procjene nove sposobnosti i razviju sigurnosne mjere.

Verifikacija i praćenje računalne moći

AI 2040 također raspravlja o tehničkim sustavima za verifikaciju onoga što kompanije rade sa svojim računalnim resursima. Praćenje AI čipova, podatkovnih centara i velikih obuka moglo bi učiniti međunarodne sporazume provedivijima.

Više AI lidera

Plan A ne predviđa da jedna kompanija postane neporecivi vlasnik superinteligencije.

Autori se zalažu za svijet u kojem više kompanija i država može ostati konkurentno dok razvijaju AI prema zajedničkim pravilima sigurnosti.

Temeljni cilj je izbjeći zamjenu utrke AI s monopolom AI.

Zašto 2040?

Godina 2040 nije predstavljena kao čarobni datum.

To je namjerni sigurnosni jastuk.

Prema scenariju, AI bi potencijalno mogao doseći točku u kojoj automatizirano istraživanje postaje moguće oko 2030. godine. Umjesto da dopusti toj sposobnosti da odmah pokrene eksploziju inteligencije, čovječanstvo bi zadržalo razvoj unutar opsega najboljih ljudskih stručnjaka tijekom nekoliko godina.

U 2035. razvoji bi se pauzirali.

Samo bi 2040. godine ograničenja bila ukinuta i svijet bi namjerno krenuo prema superinteligenciji.

Ovo je središnja filozofska ideja iza Plana A:

Čovječanstvo ne bi trebало trčati prema tehnologiji koju još uvijek ne zna kako kontrolirati.

Je li AI 2040 predikcija?

Nije baš.

Ovo je možda najvažnija točka prilikom čitanja projekta.

Autori izričito kažu da je Plan A prvenstveno preporuka, a ne predikcija. Napravili su detaljan scenarij jer su politički prijedlozi laki za podržati u apstraktno, ali mnogo teže testirati protiv realističnog vremenskog okvira.

Drugim riječima, AI 2040 postavlja pitanje:

Kako bi budućnost zapravo izgledala ako implementiramo ovu politiku?

To ga čini bližim strateškoj simulaciji nego konvencionalnoj prognozi.

Autori također predstavljaju alternativne scenarije, Planovi B, C, D i S, koji predstavljaju različite načine na koje bi vlade mogle reagirati na pojavu superinteligencije.

Pravo pitanje nije "Hoće li AI uništiti čovječanstvo?"

Najkorisniji zaključak iz AI 2040 i Kokotajlovog intervjua nije da je katastrofa neizbježna.

To je da sljedeća faza razvoja AI može stvoriti probleme koje ne možemo riješiti naknadno.

Ako istraživanje AI postane visoko automatizirano, prozor za ljudsko donošenje odluka mogao bi postati mnogo manji.

Ako jedna kompanija stekne odlučujuću prednost, kasnije preusmjeravanje moći moglo bi postati gotovo nemoguće.

I ako milijuni poslova nestanu brže nego što se ekonomske institucije prilagode, vlade bi se mogle suočiti s društvenim poremećajem na razini koju nikada prije nisu doživjele.

Istovremeno, prednosti su ogromne.

AI bi mogao ubrzati znanstvena istraživanja, poboljšati medicinu, automatizirati opasan rad, smanjiti troškove dobara i usluga i stvoriti oblike obilja koje je teško zamisliti danas.

Sam Kokotajlo naglašava ovu točku: ne tvrdi da je AI inherentno loš. Njegova zabrinutost je da bi čovječanstvo moglo propustiti upravljati prijelazom na siguran način.

AI 2040: Upozorenje, ne odbrojavanje

AI 2040 se ne bi trebao čitati kao doslovno odbrojavanje do 2040, kao što se Kokotajlova procjena od 70% ne bi trebala tumačiti kao objektivno mjerenje šansi čovječanstva.

Umjesto toga, dva izvora ističu istu stratešku dilemu iz različitih perspektiva.

Industrija AI možda se kreće prema sve autonomnijim sustavima brže nego što se vlade i društvo prilagođavaju.

Najvažnije pitanje stoga možda nije hoće li superinteligencija stići 2030, 2040 ili kasnije.

To je hoće li čovječanstvo doseći točku kada ima institucije, tehničke sigurnosne mjere, međunarodne sporazume i ekonomske politike potrebne za suočavanje s tim.

Optimistična verzija budućnosti još je uvijek moguća: AI postaje iznimno sposoban, produktivnost eksplodira i njene koristi su široko raspodijeljene.

Pesimistička verzija također je lako zamisliti: nekontrolirana utrka inteligencije proizvodi ili gubitak ljudske kontrole ili neviđenu koncentraciju moći.

Plan A je pokušaj odabira prvog puta prije nego što drugi postane nemoguće izbjeći.

Za sada, rasprava ostaje otvorena. No kako AI sustavi postaju sve sposobniji, trošak čekanja na sigurnost mogao bi postati mnogo viši od troška ranog pripremanja.