AI 2040: Kas ülim intelligentsus võiks jõuda 2030. aastaks?

Tehisintellekt liigub kiiremini kui enamik varasemaid tehnoloogiaid, kuid suurim küsimus ei ole enam see, mida tehisintellekt suudab täna. See on pigem see, kui kiiresti võiks tehisintellekt olla võimeline end täiustama.

See küsimus on AI 2040: Plaan A keskmes, stsenaarium, mille on välja töötanud Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt ja Daniel Kokotajlo. Projekt kujutab ette maailma, kus inimkond aeglustab teadlikult võidujooksu ülimale intelligentsusele, hoiab piiriülesed tehisintellekti uurimised läbipaistvad ja lükkab inimüleva küpse tehisintellekti viimase sammu edasi 2040. aastasse.

Mõte muutub veelgi silmatorkavamaks, kui võrrelda seda Kokotajlo viimase intervjuuga The Diary of a CEO. Endine OpenAI teadlane väidab, et võidujooks järjest võimekamate tehisintellektide poole võib olla palju lähemal kriitilisele punktile, kui avalikkus aru saab. Ta hindab isiklikku tõenäosust, et tehisintellekti üleminek võib minna katastroofiliselt valesti, samas rõhutades, et positiivne tulemus jääb siiski võimalikuks.

Nii et mis võiks juhtuda nüüd ja 2040. aasta vahel, ja miks vajab tehisintellekti tööstus Plaani A?

Mis on AI 2040?

AI 2040 on stsenaarium, mis käsitleb üleminekut arenenud tehisintellektist ülimale intelligentsusele.

Tema autorid alustavad lihtsast murest: kui mitmed ettevõtted ja riigid konkureerivad, et luua kõige võimekam tehisintellekt võimalikult kiiresti, võib võitjal olla erakordne majanduslik, sõjaline ja poliitiline võim.

Seega pakub stsenaarium alternatiivset lähenemist. Selle asemel, et lubada täisvõimsusega intelligentsuse võidujooksu, peaksid valitsused sõlmima rahvusvahelise kokkuleppe, mis aeglustab arengut, suurendab läbipaistvust ja lubab mitmetel riikidel ja ettevõtetel endiselt osaleda.

Eesmärk ei ole tehisintellekti arendamist igaveseks peatada. Eesmärk on aega osta.

Plani A raames viivitaks maailm ülimate intelligentsuse arendamisega kuni 2040. aastani, suurendaks tehisintellekti võimeid järk-järgult kuni ligikaudu tippinimeste tasemeni, peatuks seal ja ainult hiljem jätkaks üleminekut tõeliselt ülemise tasemega süsteemide suunas. Autorid kirjeldavad Plaan A-d selgelt soovitusena, mitte oma parima ennustusena selle kohta, mis tõeliselt juhtuda võiks.

AI 2040: Pakutud Ajakava

See ajakava on sihilikult konservatiivne võrreldes Kokotajlo arutatud agressiivsemate stsenaariumitega.

Miks on ülim intelligentsus nii suur teema?

Tänased tehisintellekti süsteemid suudavad juba täita ülesandeid, mis varem nõudsid kõrgelt koolitatud spetsialiste. Kuid tõeline murdepunkt saabub siis, kui tehisintellekt suudab ise tehisintellekti uurimist teostada.

Kujutage ette tehisintellekti süsteemi, mis suudab kavandada paremat mudelit, seda testida, tulemusi analüüsida, vajalikku koodi kirjutada, koolitusprotsessi optimeerida ja seejärel kogu protsessi korrata.

Järgmine põlvkond võiks siis olla tehisintellekti uurimises parem kui eelmine.

See loob tagasiside ringi:

parem tehisintellekt → parem tehisintellekti uurimine → parem tehisintellekt → veel parem tehisintellekti uurimine

Seda kirjeldatakse sageli kui intelligentsuse plahvatust.

AI 2040 väidab, et see üleminek on eriti ohtlik, kuna inimesed võivad kaotada oma positsiooni arenguringis. Kui tehisintellekti süsteemid on vastutavad üha võimekamate järeltulijate loomise eest, muutub raskemaks mõista, miks jääksid tulemuseks olevad süsteemid kontrollitavaks.

Stsenaarium kirjeldab 2030. aastat kui potentsiaalset punkti, kus tehisintellekti uurimine võiks muutuda täielikult automatiseerituks. Ilma sekkumiseta võiks see teoorias viia ülimale intelligentsusele väga lühikese aja jooksul.

Daniel Kokotajlo hoiatus: tehisintellekt võib liikuda kiiremini kui oodatud

Daniel Kokotajlo toob sama probleemi juurde isiklikuma perspektiivi.

Kokotajlo töötas OpenAI-s alates 2022. aastast ja keskendus sellele, kuidas tehisintellekti võimed võiksid areneda. Ta lahkus hiljem ettevõttest ja on saanud üheks silmapaistvaks häält, mis hoiatab kontrollimatu tehisintellekti võidujooksu riskide eest.

2026. aasta juulis Steven Bartlettiga antud intervjuus väitis Kokotajlo, et vestlused juhtivate tehisintellekti laborite inimestega viitavad sageli lühematele ajakava, kui avalikkus ootab. Ta mainis konkreetselt 2027. ja 2028. aastat kui aastaid, mida mõned tööstuse siseviidud peavad tõenäoliseks suureks läbimurdeks.

Tema kõige vastuolulisem väide on see, et ta määrab isiklikult umbes 70% tõenäosuse, et tehisintellekt võib minna "kohutavalt valesti", sealhulgas stsenaariume, mis võiksid viia inimeste väljasuremiseni. Seda numbrit ei tohi käsitleda kui kehtestatud teaduslikku tõenäosust. See on Kokotajlo isiklik riskihinnang, mis põhineb tema oletustel tehisintellekti ajakavade, ühtlustamise, konkurentsi ja valitsemise kohta.

See eristus on tähtis.

70% number ei ole konsensusprognoos tehisintellekti uurimuse kogukonnalt. See on arutelu, kui tõsiselt peaks ühiskond võtma kombinatsiooni riskidest, mis võivad üksteist tugevdada.

Tehisintellekti võidujooks võib luua kaks eri probleemi

Üks tugevamaid ideid, mida jagavad AI 2040 ja Kokotajlo intervjuu, on see, et tehisintellekti ohutus ei ole ainult küsimus sellest, kas tehisintellekti süsteem on "kurja" või "hea".

On vähemalt kaks suurt riski.

1. Inimesed kaotavad kontrolli

Kui tehisintellekti süsteem muutub oluliselt võimekamaks kui inimesed ja suudab oma järeltulijaid täiustada, võivad inimesed lõpuks vaevata mõista või kontrollida tema käitumist.

Peamine küsimus muutub lihtsaks:

Kuidas kontrollida midagi, mis on sinust palju nutikam ja kiiremini?

AI 2040 väidab, et praegune võidujooks võiks lõpuks viia olukorrani, kus inimesed ei suuda enam tõhusalt kontrollida üha autonoomsemaid süsteeme.

2. Inimesed hoiavad kontrolli, kuid ainult mõned inimesed

Teine võimalus võib alguses tunduda ohutum.

Kujutage ette, et juhtivad tehisintellekti ettevõtted suudavad oma süsteemid edukalt joondada inimeste eesmärkidega. Probleem oleks siis võimu kontsentratsioon.

Kui üks ettevõte, valitsus või väike grupp juhib maailma kõige võimekamaid tehisintellekti süsteeme, võib see saavutada enneolematut mõju majanduse, sõjatehnoloogia, info ja infrastruktuuri üle.

Teisisõnu, tehisintellekti joondamise lahendamine ei lahenda automaatselt poliitilist probleemi.

Mis juhtub töökohtadega?

Majanduslik mõju on veel üks oluline osa mõlemast stsenaariumist.

AI 2040 kujutab ette lähitulevikku, kus tehisintellekti agendid saavad inimeste kõrval teiseks tööjõuks. Miljonid tarkvaralised agendid võiksid töödelda pidevalt, täites ülesandeid masina kiiresti.

Oluline muutus ei seisne lihtsalt selles, et vestlusrobotid muutuvad paremaks abiliseks.

Küll aga võiksid ettevõtted hakata kohtlema tehisintellekti kui üldotstarbelist tööjõudu.

Ettevõte võiks otsustada siseneda uude ametisse või tööstusse, koguda vajalikku teavet, luua koolituskeskkondi, juurutada tehisintellekti agendid ja pidevalt täiustada neid reaalse kasutuse kaudu. AI 2040 kirjeldab seda protsessi, mis võib levida tarkvaraarendusest paljudele teistele kontoritöö erialadele.

See tõstatab raske majandusliku küsimuse:

Mis juhtub, kui intelligentsust on külluses, kuid inimtööjõud ei ole enam haruldane?

Sajandeid on sissetulek suuresti seotud inimeste võimega pakkuda kasulikku tööd. Kui tehisintellekt suudab enamikku kognitiivsetest ülesannetest madalama hinnaga täita, võib see suhe puruneda.

Kokotajlo on töökohtade osas eriti pessimistlik. Intervjuus väidab ta, et inimesed peaksid võtma tõsiselt laialdase tööpuuduse võimalust ja soovitab, et paljud töötajad võivad lõpuks leida end tehisintellekti süsteemidega konkureerimast.

Siiski ei tähenda tulemus tingimata massilist vaesust.

Kui tehisintellekt suurendab dramaatiliselt tootlikkust, samas kui selle kasu jaguneb laialdaselt, võiks inimkond kogeda hoopis enneolematut külluse perioodi.

See on AI 2040 keskne kontrast: sama tehnoloogia võiks toota kas äärmustlikku heaolu või äärmustlikku rikkuse ja võimu kontsentratsiooni, sõltuvalt sellest, kuidas seda juhitakse.

Mis on Plaan A?

Plaan A on põhimõtteliselt katse muuta tehisintellekti võidujooksu stiimuleid.

Selle põhiettepanek on rahvusvaheline kokkulepe, eriti USA ja Hiina vahel, mille eesmärk on vältida riikide ja ettevõtete võistlemist ülimate intelligentsuse poole ilma piisavate ohutusmeetmeteta.

Kava põhineb mitmel peamisel printsiibil.

Täielik Uurimistöös Läbipaistvus

Tehisintellekti ettevõtted peaksid jagama palju rohkem teavet oma sisearenduse kohta, sealhulgas mudeli spetsifikatsioonid, kuidas süsteeme sisemiselt kasutatakse ja kui palju arvutusvõimsust on pühendatud tehisintellekti uurimisele.

Mõte on lihtne: valitsused ei saa reguleerida seda, mida nad ei näe.

Aeglase Võimekuse Suurendamine

Selle asemel, et kohe iga uut mudelit maksimaalsele võimekusele suruda, aeglustataks tehisintellekti arendust sihilikult kriitiliste piire ümber.

See annaks teadlastele ja valitsustele rohkem aega uute võimekuste hindamiseks ning ohutusmeetmete väljatöötamiseks.

Tõendamine ja Arvutusvõime Järelevalve

AI 2040 käsitleb ka tehnilisi süsteeme, millega kontrollida, mida ettevõtted teevad oma arvutusressurssidega. Tehisintellekti kiipide, andmekeskuste ja suurte koolitusprogrammide jälgimine võiks muuta rahvusvahelised kokkulepped rangemaiks.

Mitmed Tehisintellekti Liidrid

Plaan A ei näe ette ühe ettevõtte muutumist ülimate intelligentsuse küsimusteta omanikuks.

Autorid toetavad maailma, kus mitmed ettevõtted ja riigid saavad jääda konkurentsivõimelisteks, arendades tehisintellekti ühiste ohutusreeglite alusel.

Alus eesmärk on vältida, et tehisintellekti võidujooks asendataks tehisintellekti monopoliga.

Miks 2040?

Aasta 2040 ei ole esitatud kui maagiline kuupäev.

See on sihilik turvavaru.

Stsenaariumi kohaselt võiks tehisintellekt potentsiaalselt jõuda punkti, kus automatiseeritud teadus muutub võimalikuks umbes 2030. aastal. Selle asemel, et lubada sellel võimekusel kohe käivitada intelligentsuse plahvatus, hoiab inimkond arendust tippinimeste tasemel mõned aastad.

Aastal 2035 peatub areng.

Ainult 2040. aastal tõstetakse piirangud ja maailm liigub sihipäraselt ülimale intelligentsusele.

See on Plaan A keskne filosoofiline idee:

Inimkond ei tohiks kiirustada tehnoloogia poole, mida ta veel ei oska kontrollida.

Kas AI 2040 on ennustus?

Ei täpselt.

See on ehk kõige olulisem punkt projekti lugemisel.

Autorid ütlevad selgelt, et Plaan A on peamiselt soovitus, mitte ennustus. Nad lõid üksikasjaliku stsenaariumi, sest poliitikate ettepanekud on kergesti toetatavad abstraktselt, kuid palju raskemini testitavad realistlikule ajakavale.

Teisisõnu, AI 2040 küsib:

Kuidas näeks tulevik tegelikult välja, kui me rakendaksime seda poliitikat?

See teeb temast strateegilise simulatsiooni, mitte tavapärase prognoosi.

Autorid esitlevad ka alternatiivseid stsenaariume, Plaanid B, C, D ja S, mis kujutavad ette erinevaid viise, kuidas valitsused võiksid reageerida ülimate intelligentsuse tekkimisele.

Tõeline Küsimus pole "Kas AI hävitab inimkonna?"

Kõige kasulikum järeldus AI 2040-st ja Kokotajlo intervjuust ei ole see, et katastroof on vältimatu.

Küll aga on see, et järgmine tehisintellekti arengu etapp võib luua probleeme, mida pärast fakti ei saa lahendada.

Kui tehisintellekti uurimine muutub väga automatiseerituks, võiks inimeste otsustusprotsesside akna aeg muutuda palju väiksemaks.

Kui üks ettevõte saavutab otsustava eelise, võib võimu ümberjaotamine hiljem muutuda peaaegu võimatuks.

Ja kui miljonid töökohad kaovad kiiremini, kui majanduslikud institutsioonid kohanevad, võivad valitsused seista silmitsi sotsiaalsete häiretega mastaabis, mida nad pole kunagi kogenud.

Samas on ka positiivne pool tohutu.

Tehisintellekt võiks kiirendada teaduslikku uurimist, parandada meditsiini, automatiseerida ohtlikku tööd, vähendada kaupade ja teenuste hinda ning luua vorme küllusest, mida on keeruline tänapäeval ette kujutada.

Kokotajlo ise rõhutab seda punkti: ta ei väida, et tehisintellekt on olemuslikult halb. Tema mure on see, et inimkond ei suuda üleminekut ohutult hallata.

AI 2040: Hoiatus, mitte tagasiarvamine

AI 2040-d ei tohiks lugeda kui sõnasõnalist tagasiarvamist 2040. aastani, samuti ei tohiks Kokotajlo 70% hinnangut käsitleda objektiivse mõõtmena inimkonna võimalustest.

Küll aga toovad need kaks allikat välja sama strateegilise dilemma erinevatest nurkadest.

Tehisintellekti tööstus võib liikuda üha autonoomsemate süsteemide poole kiiremini, kui valitsused ja ühiskond kohanduvad.

Seega ei pruugi kõige olulisem küsimus olla see, kas ülim intelligentsus jõuab 2030., 2040. või hiljem.

Oluline on, kas inimkond jõuab punkti, kus tal on asutused, tehnilised kaitsemeetmed, rahvusvahelised kokkulepped ja majanduspoliitikad, et sellega toime tulla.

Optimistlik tuleviku visioon on endiselt võimalik: tehisintellekt muutub erakordselt võimekaks, tootlikkus hüppab ja selle eelised jagunevad laialdaselt.

Pessimistlik versioon on samuti kergesti ette kujutatav: kontrollimatu intelligentsuse võidujooks toob kas inimkontrolli kadumise või enneolematud võimu kontsentratsiooni.

Plaan A on katse valida esimene tee, enne kui teine muutub vältimatuks.

Seniks jääb arutelu avatuks. Kuid kui tehisintellekti süsteemid muutuvad järjest võimekamaks, võib kindluse ootamise hind osutuda palju kõrgemaks kui varajase ettevalmistamise hind.