AI 2040: Da li bi superinteligencija mogla stići do 2030. godine?

Veštačka inteligencija se razvija brže od većine prethodnih tehnologija, ali najveće pitanje više nije šta AI može da uradi danas. To je koliko brzo AI može postati sposoban da se unapredi.

To pitanje stoji u osnovi AI 2040: Plan A, scenarija koji su razvili Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt i Daniel Kokotajlo. Projekat zamišlja svet u kojem čovečanstvo namerno usporava trku ka superinteligenciji, drži istraživanje na ivici AI transparentnim i odlaže poslednji korak ka nadljudskoj AI do 2040. godine.

Ideja postaje još upečatljivija kada se uporedi s Kokotajlovim nedavnim intervjuom u "The Diary of a CEO". Bivši istraživač OpenAI-a tvrdi da bi trka ka sve moćnijoj AI mogla biti mnogo bliža kritičnoj tački nego što javnost to shvata. Procenuje da je verovatnoća da bi AI tranzicija mogla krenuti katastrofalno pogrešno veoma visoka, dok takođe naglašava da pozitivan ishod ostaje moguć.

Šta bi moglo da se dogodi između sada i 2040., i zašto industrija veštačke inteligencije treba Plan A?

Šta je AI 2040?

AI 2040 je scenarij o upravljanju tranzicijom od napredne AI do superinteligencije.

Njeni autori polaze od jednostavne brige: ako nekoliko kompanija i zemalja konkuriše da što brže razviju najmoćniju AI, pobednik bi mogao steći izvanrednu ekonomsku, vojnu i političku moć.

Scenarij stoga predlaže drugačiji pristup. Umesto da se dozvoli trka u punom brzini, vlade bi pregovarale o međunarodnom sporazumu koji usporava razvoj, povećava transparentnost i omogućava više zemalja i kompanija da ostanu uključene.

Cilj nije da se zauvek zaustavi razvoj AI. Cilj je kupiti vreme.

Pod Planom A, svet bi odložio razvoj superinteligencije do 2040. godine, postepeno povećavajući AI sposobnosti do otprilike nivoa vrhunskih ljudskih stručnjaka, tu bi stao, a zatim bi se tek kasnije nastavila tranzicija ka zaista nadljudskim sistemima. Autori eksplicitno opisuju Plan A kao preporuku, a ne kao svoju najbolju prognozu onoga što će se zapravo dogoditi.

AI 2040: Predloženi vremenski okvir

Ova vremenska linija je namerno konzervativna u poređenju sa agresivnijim scenarijima o kojima Kokotajlo diskutuje.

Zašto je superinteligencija tako važna?

Sistemi AI danas mogu već izvršavati zadatke koji su nekada zahtevali visoko obučene profesionalce. Ali pravi preokret bi se dogodio kada AI postane sposoban da sam sprovodi istraživanje AI.

Zamislite AI sistem koji može da dizajnira bolji model, testira ga, analizira rezultate, piše neophodan kod, optimizuje proces obuke i zatim ponavlja ceo proces.

Sledeća generacija bi tada mogla biti bolja u istraživanju AI od svoje prethodnice.

To stvara povratnu petlju:

bolja AI → bolje istraživanje AI → bolja AI → još bolje istraživanje AI

To se često opisuje kao eksplozija inteligencije.

AI 2040 tvrdi da je ova tranzicija posebno opasna jer bi ljudi mogli izgubiti svoju poziciju u razvoju. Ako sistemi AI postanu odgovorni za stvaranje sve sposobnijih naslednika, postaje teže razumeti zašto bi rezultantni sistemi ostali pod kontrolom.

Scenarij opisuje 2030. kao potencijalnu tačku u kojoj bi istraživanje AI moglo postati potpuno automatizovano. Bez intervencije, to bi teoretski moglo dovesti do superinteligencije u vrlo kratkom roku.

Upozorenje Danijela Kokotajla: AI bi mogla napredovati brže nego što se očekuje

Danijel Kokotajlo donosi ličniju perspektivu na isti problem.

Kokotajlo je radio u OpenAI-u od 2022. godine i fokusirao se na prognoziranje kako bi AI sposobnosti mogle da se razvijaju. Kasnije je napustio kompaniju i postao jedan od istaknutih glasova koji upozoravaju na rizike neusmerene trke AI.

U svom intervjuu u julu 2026. godine sa Stivenom Bartletom, Kokotajlo je tvrdio da razgovori sa ljudima iz vodećih AI laboratorija često ukazuju na kraće vremenske okvire nego što javnost očekuje. Konkretno, pomenuo je 2027. i 2028. kao godine koje neki stručnjaci u industriji smatraju verovatnim za velike proboje.

Njegova najkontroverznija tvrdnja je da on lično procenjuje otprilike 70% šanse da nešto pođe „užasno pogrešno“, uključujući scenarije koji bi mogli rezultirati ljudskom izumiranju. Ova cifra se ne bi trebala tretirati kao ustanovljena naučna verovatnoća. To je Kokotajlova lična procena rizika zasnovana na njegovim pretpostavkama u vezi sa vremenskim okvirima AI, usklađenošću, konkurencijom i upravljanjem.

Ta distinkcija je važna.

Cifra od 70% nije konsenzus prognoza iz zajednice istraživača AI. To je argument o tome koliko ozbiljno društvo treba da shvati kombinaciju rizika koji se mogu međusobno pojačavati.

Trka AI bi mogla stvoriti dva različita problema

Jedna od najjačih ideja koje dele AI 2040 i Kokotajlov intervju je da bezbednost AI nije samo pitanje da li je neki AI sistem „zlo“ ili „dobar".

Postoje bar dva glavna rizika.

1. Ljudi gube kontrolu

Ako sistem AI postane znatno sposobniji od ljudi i sposoban je da unapređuje svoje naslednike, ljudi će na kraju možda imati problema da razumeju ili kontrolišu njegovo ponašanje.

Ključno pitanje postaje jednostavno:

Kako kontrolišete nešto što je pametnije i brže od vas?

AI 2040 tvrdi da aktuelna trka na kraju može dovesti do situacije u kojoj ljudi više ne održavaju efikasnu kontrolu nad sve autonomnijim sistemima.

2. Ljudi zadržavaju kontrolu, ali samo mali broj ljudi

Druga mogućnost može izgledati sigurnije na prvi pogled.

Pretpostavimo da vodeće AI kompanije uspešno usklade svoje sisteme s ljudskim ciljevima. Problem bi tada postao koncentracija moći.

Ako jedna kompanija, vlada ili mala grupa kontroliše najsposobnije AI sisteme na svetu, mogla bi steći neviđeni uticaj nad ekonomijom, vojnim tehnologijama, informacijama i infrastrukturom.

Drugim rečima, rešavanje usklađenosti AI ne bi automatski rešilo politički problem.

Šta se dešava sa poslovima?

Ekonomski uticaj je još jedan značajan deo oba scenarija.

AI 2040 zamišlja skoro budućnost u kojoj AI agenti postaju druga radna snaga pored ljudi. Milioni softverskih agenata mogli bi kontinuirano raditi, izvršavajući zadatke brzinom mašine.

Važna promena ne bi bila samo poboljšanje chatbota kao asistenta.

Umesto toga, kompanije bi mogle da počnu da tretiraju AI kao opštu radnu snagu.

Posao bi mogao odlučiti da uđe u novu profesiju ili industriju, prikupi potrebne podatke, izgradi okruženja za obuku, angažuje AI agente i kontinuirano ih poboljšava kroz korišćenje u stvarnom svetu. AI 2040 opisuje ovaj proces kao potencijalno širenje iz softverskog inženjeringa u mnoge druge profesije u belim ovratnicima.

To postavlja teško ekonomsko pitanje:

Šta se dešava kada inteligencija postane obilna, ali ljudski rad više nije oskudan?

Tokom vekova, prihodi su se uglavnom povezivali sa sposobnošću ljudi da obezbede korisni rad. Ako AI može da izvršava većinu kognitivnih zadataka po nižoj ceni, ta veza bi mogla da se prekine.

Kokotajlo je posebno pesimističan povodom zapošljavanja. U intervjuu tvrdi da bi ljudi trebali ozbiljno shvatiti mogućnost široke potpunosti radnih mesta i sugeriše da bi se mnogi radnici mogli na kraju naći u konkurenciji sa AI sistemima.

Međutim, ishod ne mora nužno biti masovna siromaštva.

Ako AI dramatično poveća produktivnost dok su njene koristi široko raspodeljene, čovečanstvo bi moglo umesto toga doživeti bezpresedanu eru obilja.

To je jedan od centralnih kontrasta u AI 2040: ista tehnologija mogla bi proizvesti ili ekstremno blagostanje ili ekstremnu koncentraciju bogatstva i moći, u zavisnosti od toga kako se njome upravlja.

Šta je Plan A?

Plan A je suštinski pokušaj da se promene podsticaji trke AI.

Njegov osnovni predlog je međunarodni sporazum, posebno između SAD-a i Kine, koji je osmišljen da spreči zemlje i kompanije da se takmiče ka superinteligenciji bez adekvatnih mera bezbednosti.

Plan se oslanja na nekoliko glavnih principa.

Potpuna transparentnost istraživanja

AI kompanije bi pružile mnogo više informacija o svom unutrašnjem razvoju, uključujući specifikacije modela, kako se sistemi koriste interno i kolika količina računske moći se posvećuje istraživanju AI.

Ideja je jednostavna: vlade ne mogu regulisati ono što ne mogu da vide.

Sporiji rast mogućnosti

Umesto da odmah gurnu svaki novi model do svoje maksimalne moguće sposobnosti, razvoj AI bi namerno usporavali oko kritičnih granica.

To bi istraživačima i vladama dalo više vremena da procene nove sposobnosti i razviju mere bezbednosti.

Verifikacija i monitoring proračuna

AI 2040 takođe raspravlja o tehničkim sistemima za verifikaciju onoga što kompanije rade sa svojim računalnim resursima. Praćenje AI čipova, data centara i velikih obuka moglo bi učiniti međunarodne sporazume lakšim za sprovedenje.

Više vođa AI

Plan A ne predviđa da jedna kompanija postane neosporni vlasnik superinteligencije.

Autori se zalažu za svet u kojem više kompanija i zemalja može ostati konkurentno dok razvija AI pod zajedničkim pravilima bezbednosti.

Osnovni cilj je izbeći zamenu trke AI monopolom AI.

Zašto 2040?

Godina 2040 nije predstavljena kao čarobna datum.

Ona je namerni sigurnosni rez.

Prema scenariju, AI bi potencijalno mogla da dostigne tačku gde automatizovano istraživanje postaje moguće oko 2030. godine. Umesto da se dozvoli toj sposobnosti da odmah pokrene eksploziju inteligencije, čovečanstvo bi zadržalo razvoj u okviru opsega najboljih ljudskih stručnjaka nekoliko godina.

Godine 2035, razvoj bi se pauzirao.

Tek 2040. godine bi ograničenja bila ukinuta i svet bi namerno krenuo ka superinteligenciji.

Ovo je centralna filozofska ideja iza Plana A:

Čovečanstvo ne bi trebalo da se trka ka tehnologiji koju ne zna kako da kontroliše.

Da li je AI 2040 prognoza?

Ne baš.

Ovo je možda najvažnija tačka prilikom čitanja projekta.

Autori eksplicitno kažu da je Plan A prvenstveno preporuka, a ne prognoza. Napravili su detaljan scenarij jer su predlozi politike laki za podršku u apstraktu, ali mnogo teže ih testirati u odnosu na realistični vremenski okvir.

Drugim rečima, AI 2040 postavlja pitanje:

Kako bi budućnost zapravo izgledala ako bismo implementirali ovu politiku?

To ga čini bližim strateškoj simulaciji nego konvencionalnoj prognozi.

Autori takođe predstavljaju alternativne scenarije, Planovi B, C, D i S, koji predstavljaju različite načine na koje bi vlade mogle odgovoriti na pojavljivanje superinteligencije.

Pravo pitanje nije "Da li će AI uništiti čovečanstvo?"

Najkorisnija lekcija iz AI 2040 i Kokotajlovog intervjua nije da je katastrofa neizbežna.

Ona je da sledeća faza razvoja AI može stvoriti probleme koji se ne mogu rešiti naknadno.

Ako istraživanje AI postane visoko automatizovano, prozor za ljudsko donošenje odluka mogao bi postati mnogo manji.

Ako jedna kompanija dobije odlučujuću prednost, kasnija redistribucija moći mogla bi postati gotovo nemoguća.

I ako milioni poslova nestanu brže nego što se ekonomske institucije prilagode, vlade bi se mogle suočiti sa društvenim previranjima razmere koju nikada nisu doživele.

Istovremeno, mogućnosti su ogromne.

AI bi mogla ubrzati naučna istraživanja, poboljšati medicinu, automatizovati opasne poslove, smanjiti troškove dobara i usluga i stvoriti oblike obilja koji su danas teški za zamisliti.

Kokotajlo sam naglašava ovu tačku: ne tvrdi da je AI inherentno loša. Njegova briga je da bi čovečanstvo moglo propustiti da sigurno upravlja tranzicijom.

AI 2040: Upozorenje, a ne odbrojavanje

AI 2040 ne bi trebalo čitati kao doslovno odbrojavanje do 2040. godine, baš kao što se Kokotajlova procena od 70% ne bi trebala interpretirati kao objektivno merenje šansi čovečanstva.

Umesto toga, dva izvora ističu istu stratešku dilemu iz različitih uglova.

Industrija veštačke inteligencije može se kretati ka sve autonomnijim sistemima brže nego što se vlade i društvo prilagođavaju.

Najvažnije pitanje možda nije da li će superinteligencija stići 2030, 2040 ili kasnije.

To je da li čovečanstvo dostiže tačku u kojoj ima institucije, tehničke zaštite, međunarodne sporazume i ekonomske politike potrebne da se nosi s tim.

Optimistička verzija budućnosti je i dalje moguća: AI postaje izuzetno sposobna, produktivnost eksplodira, a njene koristi su široko deljene.

Pesimistička verzija je takođe lako zamisliti: neusmerena trka inteligencije proizvodi ili gubitak ljudske kontrole ili bez presedana koncentraciju moći.

Plan A je pokušaj da se izabere prva staza pre nego što postane nemoguće izbjeći drugu.

Za sada, debata ostaje otvorena. Ali kako sistemi AI postaju sve sposobniji, trošak čekanja na izvesnost može postati mnogo viši od troška ranog pripremanja.