AI 2040: Ar superinteligencija gali atsirasti iki 2030 metų?

Dirbtinis intelektas juda greičiau nei dauguma ankstesnių technologijų, tačiau didžiausias klausimas nebėra, ką DI gali padaryti šiandien. Tai, kaip greitai DI gali tapti pajėgus tobulėti pats.

Šis klausimas yra AI 2040: Planas A centre, scenarijuje, kurį sukūrė Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt ir Daniel Kokotajlo. Projektas įsivaizduoja pasaulį, kuriame žmonija sąmoningai sulėtina lenktynes link superinteligencijos, išlaiko sieninį DI tyrimą skaidrų ir atidėjęs galutinį žingsnį link žmogaus viršijančio DI iki 2040 metų.

Idėja tampa dar ryškesnė palyginus su Kokotajlo neseniai interviu The Diary of a CEO. Buvęs OpenAI tyrėjas teigia, kad lenktynės link vis galingesnio DI gali būti daug arčiau kritinio taško, nei viešumas suvokia. Jis vertina, kad labai didelė asmeninė tikimybė, kad DI perėjimas galėtų baigtis katastrofiškai, tuo pačiu pabrėždamas, kad teigiamas rezultatas vis dar įmanomas.

Taigi, kas gali nutikti nuo dabar iki 2040 metų, ir kodėl DI pramonė reikia Planu A?

Kas yra AI 2040?

AI 2040 yra scenarijus apie pažangių DI valdymą, pereinant prie superinteligencijos.

Jo autoriai pradeda nuo paprasto nerimo: jei kelios bendrovės ir šalys konkuruoja, kad kuo greičiau sukurtų galingiausią DI, nugalėtojas galėtų gauti nepaprasta ekonominę, karinių ir politinę galią.

Todėl scenarijus siūlo kitokį požiūrį. Vietoj to, kad leisti visiškai greitai vykti protinę lenktynę, vyriausybės derėtųsi dėl tarptautinės sutarties, kuri sulėtintų plėtrą, padidintų skaidrumą ir leistų daugybei šalių ir įmonių likti įsitraukusioms.

Tikslas nėra amžinai sustabdyti DI plėtrą. Tai pirkti laiką.

Pagal Planą A pasaulis atidėtų superinteligencijos plėtrą iki 2040 metų, palaipsniui padidindamas DI galimybes iki maždaug geriausių žmonių ekspertų lygio, sustabdydamas ten ir tik vėliau tęsiantis perėjimą link tikros superžmogiškos sistemos. autoriai aiškiai apibūdina Planą A kaip rekomendaciją, o ne kaip geriausią prognozę, kas iš tikrųjų įvyks.

AI 2040: Siūlomas laiko grafikas

Šis laiko grafikas yra tyčia konservatyvus, palyginus su agresyvesniais scenarijais, apie kuriuos diskutavo Kokotajlo.

Kodėl superinteligencija yra toks didelis dalykas?

Šiandienos DI sistemos jau gali atlikti užduotis, kurios anksčiau reikalavo aukštos kvalifikacijos profesionalų. Tačiau tikrasis lūžis įvyks, kai DI taps pajėgus pats atlikti DI tyrimus.

Įsivaizduokite DI sistemą, kuri gali sukurti geresnį modelį, išbandyti jį, analizuoti rezultatus, parašyti reikiamą kodą, optimizuoti mokymo procesą ir tada pakartoti visą procesą.

Kita karta gali tapti geresnė DI tyrime nei jos pirmtakas.

Tai sukuria grįžtamąjį ryšį:

geresnis DI → geresnis DI tyrimas → geresnis DI → dar geresnis DI tyrimas

Tai dažnai apibūdinta kaip intelektinė sprogimas.

AI 2040 tvirtina, kad šis perėjimas yra ypač pavojingas, nes žmonės gali prarasti savo poziciją plėtros cikle. Jei DI sistemos būtų atsakingos už vis galingesnių įpėdinių kūrimą, taptų sunkiau suprasti, kodėl gauti sistemos liktų kontroliuojamos.

Scenarijus apibūdina 2030 kaip potencialų tašką, kuriame DI tyrimas galėtų visiškai automatizuotis. Be intervencijos, tai teoriškai galėtų sukelti superinteligenciją per labai trumpą laiką.

Daniel Kokotajlo įspėjimas: DI gali judėti greičiau, nei tikėtasi

Daniel Kokotajlo pateikia asmeniškesnį požiūrį į tą patį problemą.

Kokotajlo dirbo OpenAI nuo 2022 metų ir koncentruojasi į tai, kaip DI galimybės gali išsivystyti. Vėliau jis paliko įmonę ir tapo vienu iš žymiausių balsų, įspėjančių apie nesuvaldytų DI riziką.

Jo liepos 2026 interviu su Steven Bartlett, Kokotajlo teigė, kad pokalbiai su žmonėmis viduje pirmaujančių DI laboratorijų dažnai rodo trumpesnius laikotarpius, nei visuomenė tikisi. Jis konkrečiai paminėjo 2027 ir 2028 kaip metus, kuriuos kai kurie industrijos viduje laiko tikėtinais dideliems išradimams.

Jo labiausiai prieštaringas teiginys yra tas, kad jis asmeniškai priskiria maždaug 70% tikimybę, kad DI „baisiai klys“, įskaitant scenarijus, kurie galėtų baigtis žmonijos išnykimu. Šis skaičius turėtų būti traktuojamas ne kaip nustatyta mokslinė tikimybė. Tai Kokotajlo asmeninė riska, vertinanti jo prielaidas apie DI laikotarpius, suderinamumą, konkurenciją ir valdymą.

Tai išskirtis yra svarbi.

70% skaičius nėra konsensuso prognozė iš DI tyrimų bendruomenės. Tai teigimas apie tai, kaip rimtai visuomenė turėtų vertinti riziką, gali sustiprinti viena kitą.

DI lenktynės gali sukurti dvi skirtingas problemas

Vienas iš stipriausių idėjų, kurias dalijasi AI 2040 ir Kokotajlo interviu, yra tai, kad DI saugumas nėra tik apie tai, ar DI sistema yra „blogis“ ar „geris“.

Yra bent dvi didelės rizikos.

1. Žmonės praranda kontrolę

Jei DI sistema tampa gerokai pajėgesnė už žmones ir sugeba tobulinti savo įpėdinius, žmonės galiausiai gali nepavykti suprasti ar kontroliuoti jos elgesio.

Pagrindinis klausimas tampa paprastas:

Kaip kontroliuoti kažką, kas yra daug protingesnis ir greitesnis už tave?

AI 2040 tvirtina, kad šiuo metu esanti lenktynė gali galiausiai sukelti situaciją, kurioje žmonės nebegali palaikyti veiksmingos kontrolės virš vis labiau autonominių sistemų.

2. Žmonės palaiko kontrolę, bet tik keli žmonės

Antra galimybė iš pirmo žvilgsnio gali atrodyti saugesnė.

Tarkime, kad pirmaujančios DI bendrovės sėkmingai suderina savo sistemas su žmonių tikslais. Problema tada taptų galios koncentracija.

Jei viena įmonė, vyriausybė, ar maža grupė kontroliuoja galingiausias DI sistemas pasaulyje, ilgainiui ji galėtų gauti nepriekaištingą įtaką ekonomikai, karinei technologijai, informacijai ir infrastruktūrai.

Kitais žodžiais tariant, išsprendus DI suderinamumą, politiškai problemą automatiškai neišsprendžiama.

Kas nutiks darbo vietoms?

Ekonominis poveikis yra kita svarbi abiejų scenarijų dalis.

AI 2040 įsivaizduoja artimą ateitį, kurioje DI agentai tampa antra darbo jėga šalia žmonių. Milijonai programinės įrangos pagrindu sukurtų agentų galėtų dirbti nuolat, atlikdami užduotis mašinos greičiu.

Svarbus pokytis nebūtų paprasčiausiai chatbotų tapimas geresnėmis asistentėmis.

Vietoj to, bendrovės galėtų pradėti vertinti DI kaip bendrojo pobūdžio darbą.

Įmonė galėtų nuspręsti įsitraukti į naują profesiją ar pramonės šaką, surinkti reikalingus duomenis, sukurti mokymo aplinkas, diegti DI agentus ir nuolat juos tobulinti per realaus pasaulio naudojimą. AI 2040 apibūdina šį procesą kaip galintį plisti nuo programinės inžinerijos į kitas baltųjų apykaklių profesijas.

Tai kelia sudėtingą ekonominį klausimą:

Kas nutinka, kai intelektas tampa gausus, tačiau žmogiškoji darbo jėga jau nebėra reta?

Per šimtmečius pajamos daugiausia buvo susijusios su žmonių gebėjimu teikti naudingą darbą. Jei DI gali atlikti daugumą kognityvinių užduočių už mažesnę kainą, tas ryšys gali nutrūkti.

Kokotajlo yra ypač pesimistinis dėl užimtumo. Interviu jis teigia, kad žmonės turėtų rimtai vertinti galimybę plačiai išnaudoti darbo jėgą ir siūlo, kad daugelis darbuotojų galų gale gali rasti save konkuruojančius su DI sistemomis.

Tačiau rezultatas nebūtinai yra masinė skurdas.

Jei DI dramatiškai padidina produktyvumą, o jos naudą plačiai paskirsto, žmonija gali patirti nepaprastą klestėjimo laikotarpį.

Tai viena iš pagrindinių AI 2040 kontrastų: ta pati technologija galėtų sukurti arba ekstremalų klestėjimą, arba ekstremalią turtų ir galios koncentraciją, priklausomai nuo to, kaip ji yra valdomas.

Kas yra Planas A?

Plan A iš esmės yra bandymas pakeisti DI lenktynių motyvus.

Jo pagrindinė pasiūlyta idėja yra tarptautinė sutartis, ypač tarp JAV ir Kinijos, skirta užkirsti kelią šalims ir įmonėms lenktyniauti link superinteligencijos be tinkamų saugos priemonių.

Planą remia keletas pagrindinių principų.

Visapusiška tyrimų skaidrumas

DI įmonės pateiks žymiai daugiau informacijos apie savo vidinę plėtrą, įskaitant modelių specifikacijas, kaip sistemos naudojamos viduje, ir kiek kompiuterinės galios skiriama DI tyrimams.

Idėja yra aiški: vyriausybės negali reguliuoti to, ko negali matyti.

Lėtesnis galimybių skalavimas

Vietoj to, kad kiekvieną naują modelį stumti maksimaliai galimybę, DI plėtra būtų tyčia sulėtinta kritiniais slenksčiais.

Tai suteiktų tyrėjams ir vyriausybėms daugiau laiko įvertinti naujas galimybes ir parengti saugos priemones.

Patikra ir kompiuterių stebėjimas

AI 2040 taip pat diskutuoja apie techninius sistemų patikrinimą, ką įmonės daro su savo kompiuteriniais ištekliais. AI mikroschemų, duomenų centrų ir didelių mokymo procesų stebėjimas galėtų padaryti tarptautines sutartis labiau galiojančias.

Daugiau DI lyderių

Plan A neįsivaizduoja vienos įmonės, kuri taptų be abejonės superinteligencijos savininke.

Autoriai tvirtina pasaulį, kuriame kelios įmonės ir šalys gali išlikti konkurencingos plėtodamos DI pagal bendras saugos taisykles.

Pagrindinis tikslas yra išvengti DI lenktynių pakeitimo DI monopolija.

Kodėl 2040?

2040 metai nėra pristatyti kaip stebuklinga data.

Tai sumaniai saugos buferis.

Pagal scenarijų DI galėtų pasiekti tašką, kuriame automatizuotas tyrimas tampa galimas apie 2030 metus. Vietoj to, kad leidžiama šiai galimybei nedelsiant sukelti intelektinį sprogimą, žmonija laikytų plėtrą geriausių žmonių ekspertų ribose keletą metų.

2035 metais plėtra sustos.

Tik 2040 metais suvaržymai bus atšaukti ir pasaulis tyčia judės link superinteligencijos.

Tai pagrindinė filosofiškai idėja už Plano A:

Žmonija neturėtų lenktyniauti link technologijos, kurią dar neturi kaip kontroliuoti.

Ar AI 2040 yra prognozė?

Ne visai.

Tai galbūt svarbiausias taškas skaitant projektą.

Autoriai aiškiai sako, kad Planas A pirmiausia yra rekomendacija, o ne prognozė. Jie sukūrė išsamų scenarijų, nes politikos pasiūlymai yra lengvai remiami abstrakčiai, bet kur kas sunkiau patikrinti pagal realistišką laikotarpį.

Kitais žodžiais tariant, AI 2040 klausia:

Kaip atrodys ateitis, jei įgyvendinsime šią politiką?

Tai padaro artimesnį strateginei simuliacijai nei įprastai prognozei.

Autoriai taip pat pateikia alternatyvius scenarijus, Planus B, C, D ir S, atspindinčius skirtingus būdus, kaip vyriausybės gali reaguoti į superinteligencijos atsiradimą.

Tikras klausimas nėra „Ar DI sunaikins žmoniją?“

Naudingiausia išvada iš AI 2040 ir Kokotajlo interviu nėra ta, kad katastrofa yra neišvengiama.

Tai, kad kitas DI vystymosi etapas gali sukelti problemas, kurių negalima spręsti po to, kai pasekmės įvyksta.

Jei DI tyrimai tampa itin automatizuoti, langas žmonių sprendimams gali tapti kur kas mažesnis.

Jei viena kompanija gauna lemiamą pranašumą, galios perskirstymas vėliau gali tapti beveik neįmanomas.

Ir jei milijonai darbo vietų išnyksta greičiau nei ekonominės institucijos prisitaiko, vyriausybės gali susidurti su socialiniu sutrikimu tokio masto, kokio niekada nebuvo patyrusios.

Tuo pačiu metu teigiama pusė yra milžiniška.

DI galėtų pagreitinti mokslinius tyrimus, pagerinti mediciną, automatizuoti pavojingą darbą, sumažinti prekių ir paslaugų kainą bei sukurti gausybes formas, kurias šiandien sunku įsivaizduoti.

Kokotajlo pats pabrėžia šią mintį: jis nesako, kad DI yra savaime blogas. Jo nerimas yra tas, kad žmonija gali nesugebėti saugiai valdyti perėjimo.

AI 2040: Įspėjimas, o ne skaičiavimas

AI 2040 neturėtų būti skaitoma kaip tiesioginis skaičiavimas iki 2040 metų, kaip ir Kokotajlo 70% įvertinimas neturėtų būti interpretuojamas kaip objektyvus žmonijos galimybių vertinimas.

Vietoj to, dvi šaltiniai pabrėžia tą patį strateginį dilemą iš skirtingų kampų.

DI pramonė gali judėti link vis labiau autonominių sistemų greičiau nei vyriausybės ir visuomenė prisitaiko.

Todėl svarbiausias klausimas gali būti ne tai, ar superinteligencija pasieks 2030, 2040 ar vėliau.

Tai, ar žmonija pasieks tašką, kuriame turi institucijas, techninį saugumą, tarptautines sutartis ir ekonomikos politiką, reikalingą su juo susidoroti.

Optimizmo versija apie ateitį vis dar įmanoma: DI tampa nepaprastai pajėgus, produktyvumas sprogsta, o jo nauda plačiai dalijasi.

Pesimistinė versija taip pat lengvai įsivaizduojama: nesuvaldytos intelektinės lenktynės sukelia arba žmonių kontrolės praradimą, arba nepriklausomą galios koncentraciją.

Planas A yra bandymas pasirinkti pirmąjį kelią, kol antrasis taps neįmanomas išvengti.

Kol kas debatas lieka atviras. Bet kai DI sistemos tampa vis pajėgesnės, laukimo užtikrintumo kaina gali tapti kur kas didesnė nei ankstyvo paruošimo kaina.