AI 2040: Vai superinteliģence varētu sasniegt 2030. gadā?

Mākslīgais intelekts attīstās straujāk nekā lielākā daļa iepriekšējo tehnoloģiju, bet vissvarīgākais jautājums vairs nav tas, ko AI var darīt šodien. Tas ir, cik ātri AI varētu spēt uzlabot sevi.

Šis jautājums ir AI 2040: Plāns A centrā, kas ir scenārijs, ko izstrādājuši Tomass Larsens, Romeos Dīns, Brendans Hālsteids, Eli Liflends, Raiens Grīnbļats un Daniēls Kokotajlo. Projekts iedomājas pasauli, kurā cilvēce apzināti palēnina sacensību uz superinteliģenci, saglabā AI pētījumu caurspīdību un atlikušās pēdējas solis uz superspējām AI līdz 2040. gadam.

Šī ideja kļūst vēl izteiktāka, salīdzinot to ar Kokotajlo nesenās intervijas ar The Diary of a CEO saturu. Bijušais OpenAI pētnieks apgalvo, ka sacensība uz arvien jaudīgāku AI var būt daudz tuvāk kritiskai robežai, nekā sabiedrība zina. Viņš novērtē ļoti augstu iespēju, ka AI pāreja varētu beigties katastrofāli, vienlaikus uzsverot, ka pozitīvs iznākums joprojām ir iespējams.

Tātad, kas var notikt no šodienas līdz 2040. gadam, un kāpēc AI nozarei nepieciešams Plāns A?

Kas ir AI 2040?

AI 2040 ir scenārijs par pārejas pārvaldīšanu no progresīvas AI uz superinteliģenci.

Tās autori sāk no vienkārša bažu punkta: ja vairāki uzņēmumi un valstis sacenšas, lai iespējami ātri izstrādātu jaudīgāko AI, uzvarētājs var iegūt ārkārtēju ekonomisko, militāro un politisko varu.

Scenārijs piedāvā citu pieeju. Tā vietā, lai ļautu ātrai intelekta sacensībai, valdības sarunātos par starptautisku nolīgumu, kurš palēnina attīstību, palielina caurspīdību un ļauj vairākiem valstīm un uzņēmumiem palikt iesaistītiem.

Mērķis nav uz visiem laikiem apstādināt AI attīstību. Tas ir iegūt laiku.

Saskaņā ar Plānu A pasaule atliktu superinteliģences attīstību līdz 2040. gadam, pakāpeniski palielinot AI iespējas līdz aptuveni labāko cilvēku ekspertu līmenim, apturot tur, un tikai vēlāk atsākot pāreju uz patiešām superspējām sistēmām. Autori skaidri apraksta Plānu A kā ieteikumu, nevis kā to, ko viņi uzskata par vislabāko prognozi, kas notiks patiesībā.

AI 2040: Ieteiktais laika grafiks

Šis laika grafiks ir apzināti konservatīvs, salīdzinot ar agresīvākiem scenārijiem, ko apsprieda Kokotajlo.

Kāpēc superinteliģence ir tik liela lieta?

Mūsdienu AI sistēmas jau tagad var veikt uzdevumus, kas agrāk prasīja augstāk kvalificētu profesionāļu darba spēku. Bet patiesais pagrieziena punkts būtu, kad AI spētu veikt AI pētījumus pats.

Iedomājieties AI sistēmu, kas spēj izstrādāt labāku modeli, pārbaudīt to, analizēt rezultātus, uzrakstīt nepieciešamo kodu, optimizēt apmācības procesu un tad atkārtot visus soļus.

Nākamā paaudze varētu būt labāka AI pētījumā nekā tās priekšteči.

Tas rada atsauksmes ciklu:

labāks AI → labāks AI pētījums → labāks AI → vēl labāks AI pētījums

To bieži raksturo kā intelekta sprādzienu.

AI 2040 apgalvo, ka šī pāreja ir īpaši bīstama, jo cilvēki varētu zaudēt savu vietu attīstības ciklā. Ja AI sistēmas ir atbildīgas par arvien spējīgāku pēcteču radīšanu, kļūst grūtāk saprast, kāpēc radītās sistēmas paliktu kontrolējamas.

Scenārijs apraksta 2030. gadu kā potenciālo brīdi, kurā AI pētījums varētu kļūt pilnībā automatizēts. Bez iejaukšanās tas teorētiski varētu novest pie superinteliģences ļoti īsā laikā.

Daniēla Kokotajlo brīdinājums: AI var pārvietoties ātrāk nekā paredzēts

Daniēls Kokotajlo piedāvā personīgāku skatījumu uz to pašu problēmu.

Kokotajlo strādāja OpenAI no 2022. gada un koncentrējās uz to, kā AI spējas varētu attīstīties. Viņš vēlāk atstāja uzņēmumu un kļuvis par vienu no redzamākajām balsīm, brīdinot par nekontrolētas AI sacensības riskiem.

Savas 2026. gada jūlija intervijas ar Stīvenu Bārtletu laikā Kokotajlo apgalvoja, ka sarunas ar cilvēkiem vadošajās AI laboratorijās bieži norāda uz īsākajiem laika grafikiem, nekā sabiedrība sagaida. Viņš konkrēti pieminēja 2027. un 2028. gadu kā gadus, kad daži nozares iekšējie cilvēki uzskata par ticamiem lieliem pārkāpumiem.

Viņa visskaļākais apgalvojums ir tas, ka viņš personīgi piešķir aptuveni 70% iespēju, ka AI varētu „briesmīgi kļūdīties”, tostarp scenārijus, kas varētu novest pie cilvēku izmiršanas. Šis skaitlis nedrīkst tikt uztverts kā noteikta zinātniska varbūtība. Tas ir Kokotajlo personīgais riska novērtējums, balstoties uz viņa pieņēmumiem par AI laika grafikām, saskaņošanu, konkurenci un pārvaldību.

Šis atšķirums ir svarīgs.

70% skaitlis nav konsensa prognoze no AI pētījumu kopienas. Tas ir arguments par to, cik nopietni sabiedrībai jāattiecas uz risks kombināciju, kas var pastiprināt viena otru.

AI sacensība varētu radīt divas atšķirīgas problēmas

Viens no spēcīgākajiem uzskatiem, ko dalās AI 2040 un Kokotajlo intervijā, ir tas, ka AI drošība nav tikai jautājums par to, vai AI sistēma ir „ļauna” vai „laba”.

Ir vismaz divi galvenie riski.

1. Cilvēki zaudē kontroli

Ja AI sistēma kļūst ievērojami spēcīgāka par cilvēkiem un spēj uzlabot savus pēctečus, cilvēki varētu galu galā cīnīties, lai saprastu vai kontrolētu tās uzvedību.

Galvenais jautājums kļūst vienkāršs:

Kā tu kontrolē kaut ko, kas ir daudz gudrāks un ātrāks par tevi?

AI 2040 apgalvo, ka pašreizējā sacensība varētu galu galā novest pie situācijas, kurā cilvēki vairs neuztur efektīvu kontroli pār arvien autonomākām sistēmām.

2. Cilvēki saglabā kontroli, bet tikai daži cilvēki

Otrā iespēja var šķist drošāka sākumā.

Pieņemsim, ka vadošie AI uzņēmumi veiksmīgi saskaņo savas sistēmas ar cilvēku mērķiem. Problema kļūtu par varas koncentrāciju.

Ja viens uzņēmums, valdība vai neliela grupa kontrolē pasaulē visjaudīgākās AI sistēmas, tā varētu iegūt bezprecedenta ietekmi pār ekonomiku, militāro tehnoloģiju, informāciju un infrastruktūru.

Citiem vārdiem sakot, AI saskaņošanas risināšana automātiski neatrisinātu politisko problēmu.

Kas notiek ar darbiem?

Ekonomiskā ietekme ir vēl viena liela scenārija daļa.

AI 2040 iedomājas tuvā nākotni, kurā AI aģenti kļūst par otro darba spēku līdzās cilvēkiem. Miljoni programmatūras balstītu aģentu varētu darboties nepārtraukti, pabeidzot uzdevumus mašīnu ātrumā.

Svarīgā pārmaiņa nebūs tikai čatboti, kas kļūst par labākiem palīgiem.

Tā vietā uzņēmumi varētu sākt izturēties pret AI kā vispārēju darba spēku.

Uzņēmums varētu izlemt iekļūt jaunā profesijā vai nozarē, savākt nepieciešamos datus, izveidot apmācības vidi, izvietot AI aģentus un nepārtraukti uzlabot tos, izmantojot reālas lietošanas piesaisti. AI 2040 apraksta šo procesu kā potenciāli izplatāmus no programmatūras inženierijas uz daudzām citām baltā apkaklīšu profesijām.

Tas radītu grūtu ekonomisku jautājumu:

Kas notiek, kad intelekts kļūst plaši pieejams, bet cilvēku darbs vairs nav retums?

Gadsimtiem ilgi ienākumi galvenokārt tika saistīti ar cilvēku spēju sniegt noderīgu darbu. Ja AI var veikt lielāko daļu kognitīvu uzdevumu par zemāku cenu, šī attiecība var sabrukt.

Kokotajlo ir īpaši pesimistisks par nodarbinātību. Intervijā viņš apgalvo, ka cilvēkiem nopietni jāizvērtē plašu darba aizvietošanas iespēju izredzes un norāda, ka daudzi darbinieki, iespējams, galu galā konkurēs ar AI sistēmām.

Tomēr iznākums nav obligāti masveida nabadzība.

Ja AI dramatiski palielina produktivitāti, kamēr tās labumi tiek plaši izplatīti, cilvēce, iespējams, pieredzēs bezprecedenta labuma periodu.

Tas ir viens no centrālajiem kontrastiem AI 2040: tā pati tehnoloģija var radīt gan ekstrēmu labklājību, gan ekstrēmu bagātības un varas koncentrāciju, atkarībā no tā, kā tā tiek pārvaldīta.

Kas ir Plāns A?

Plāns A ir būtībā mēģinājums mainīt AI sacensības stimulus.

Tā galvenais priekšlikums ir starptautisks nolīgums, īpaši starp ASV un Ķīnu, kas paredz novērst valstu un uzņēmumu steidzināšanu uz superinteliģenci bez atbilstošiem drošības pasākumiem.

Plāns balstās uz vairākiem galvenajiem principiem.

Pilnīga izpētes caurspīdība

AI uzņēmumi sniegtu daudz vairāk informācijas par savu iekšējo attīstību, tostarp modeļu specifikācijām, kā sistēmas tiek izmantotas iekšēji un cik daudz datoru jaudas tiek veltīts AI izpētei.

Ideja ir vienkārša: valdības nevar regulēt to, ko tās nevar redzēt.

Lēnāka spēju palielināšana

Tā vietā, lai nekavējoties virzītos uz katra jaunā modeļa maksimālo spēju, AI attīstība tiktu apzināti palēnināta ap kritiskām robežām.

Tas dotu pētniekiem un valdībām vairāk laika jauno spēju novērtēšanai un drošības pasākumu izstrādei.

Verifikācija un datora uzraudzība

AI 2040 arī apspriež tehniskus sistēmas, kā verificēt, ko uzņēmumi dara ar savām datoru resursiem. AI čipu, datu centru un lielu apmācību uzraudzība varētu padarīt starptautiskos nolīgumus vieglāk izpildāmus.

Vairāki AI līderi

Plāns A neparedz, ka viens uzņēmums kļūtu par neapstrīdamu superinteliģences īpašnieku.

Autori aizstāv ideju par pasauli, kurā vairāki uzņēmumi un valstis var palikt konkurētspējīgi, vienlaikus izstrādājot AI saskaņā ar kopīgiem drošības noteikumiem.

Pamatmērķis ir izvairīties no AI sacensības aizstāšanas ar AI monopolu.

Kāpēc 2040?

Gads 2040 netiek uzskatīts par maģisku datumu.

Tas ir apzināts drošības buferis.

Saskaņā ar scenāriju AI potensāli varētu sasniegt brīdi, kad automatizēta izpēte kļūst iespējama ap 2030. gadu. Tā vietā, lai ļautu šai iespējai nekavējoties izsaukt intelekta sprādzienu, cilvēce saglabātu attīstību labāko cilvēku ekspertu robežās vairāku gadu garumā.

2035. gadā attīstība tiktu apturēta.

Tikai 2040. gadā ierobežojumi tiktu atcelti, un pasaule apzināti virzītos uz superinteliģenci.

Tā ir centrālā filozofiskā doma Plānā A:

Cilvēcei nevajadzētu sacensties par tehnoloģiju, kuru tā vēl nezina, kā kontrolēt.

Vai AI 2040 ir prognoze?

Ne gluži.

Šis, iespējams, ir visnozīmīgākais punkts, lasot projektu.

Autori skaidri norāda, ka Plāns A galvenokārt ir ieteikums, nevis prognoze. Viņi izstrādāja detalizētu scenāriju, jo politikas priekšlikumus ir viegli atbalstīt abstrakti, bet daudz grūtāk pārbaudīt pret reālistiskām laika grafikām.

Citiem vārdiem sakot, AI 2040 jautā:

Kā nākotne izskatītos, ja mēs īstenotu šo politiku?

Tas padara to tuvāk stratēģiskai simulācijai nekā parastai prognozei.

Autori arī piedāvā alternatīvus scenārijus, Plānus B, C, D un S, kas attēlo atšķirīgas valdību reakcijas uz superinteliģences rašanos.

Patiesais jautājums nav "Vai AI iznīcinās cilvēci?"

Visnoderīgākais secinājums no AI 2040 un Kokotajlo intervijas nav tas, ka katastrofa ir nenovēršama.

Tas ir, ka nākamais AI attīstības posms var radīt problēmas, kuras nevar atrisināt pēc fakta.

Ja AI pētījums kļūst ļoti automatizēts, cilvēku lēmumu pieņemšanas logs var kļūt daudz mazāks.

Ja viens uzņēmums iegūst izšķirošu priekšrocību, varētu kļūt gandrīz neiespējami vēlāk sadalīt varu.

Un, ja miljoni darba vietu pazūd ātrāk, nekā ekonomikas institūcijas pielāgojas, valdības var saskarties ar sociāliem traucējumiem, kādus tās nekad iepriekš nav piedzīvojušas.

Tajā pašā laikā priekša ir milzīga.

AI varētu paātrināt zinātniskos pētījumus, uzlabot medicīnu, automatizēt bīstamu darbu, samazināt preču un pakalpojumu izmaksas un radīt formas labklājības, kuras mūsdienās ir grūti iedomāties.

Kokotajlo pats uzsver šo punktu: viņš neapgalvo, ka AI ir būtībā slikts. Viņa uztraukums ir, ka cilvēce varētu neizdoties droši pārvaldīt pāreju.

AI 2040: Brīdinājums, nevis atskaite

AI 2040 nevajadzētu lasīt kā burtisku skaitīšanu uz 2040. gadu, tāpat kā Kokotajlo 70% novērtējums nevajadzētu interpretēt kā objektīvu cilvēces izredžu novērtējumu.

Tā vietā abas avoti izceļ to pašu stratēģisko dilemmu no dažādiem leņķiem.

AI nozare varētu virzīties uz arvien autonomākām sistēmām ātrāk nekā valdības un sabiedrība pielāgojas.

Tādēļ varbūt vissvarīgākais jautājums nav tas, vai superinteliģence ieradīsies 2030. gadā, 2040. gadā vai vēlāk.

Tas ir, vai cilvēce sasniegs brīdi, kad tai ir vajadzīgās institūcijas, tehniskās drošības garantijas, starptautiskie nolīgumi un ekonomiskās politikas, lai tiktu galā ar to.

Optimistiskā nākotnes versija joprojām ir iespējama: AI kļūst ārkārtīgi spējīgs, produktivitāte eksplodē un tās labumi tiek plaši dalīti.

Pesimistiskā versija ir arī viegli iedomājama: nekontrolēta intelekta sacensība rada vai nu cilvēku kontroles zaudējumu, vai nepieredzētu varas koncentrāciju.

Plāns A ir mēģinājums izvēlēties pirmo ceļu, pirms otrais kļūst neizbēgams.

Pagaidām debates paliek atklātas. Bet, kad AI sistēmas kļūst arvien spējīgākas, gaidīšanas izmaksas par noteiktību var kļūt daudz augstākas par izmaksām, lai sagatavotos agri.