AI 2040: Megérkezhet a szuperintelligencia 2030-ra?

A mesterséges intelligencia (AI) gyorsabban fejlődik, mint a legtöbb korábbi technológia, de a legnagyobb kérdés már nem az, hogy mit tud tenni az AI ma, hanem az, hogy mennyire gyorsan válhat képesé önmagát továbbfejleszteni.

Ez a kérdés áll az AI 2040: A tervezet A középpontjában, amelyet Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt és Daniel Kokotajlo dolgozott ki. A projekt egy olyan világot képzel el, ahol az emberiség szándékosan lelassítja a versenyt a szuperintelligencia felé, átláthatóvá teszi a határterületi AI kutatást, és 2040-re halasztja a szuperhumán AI végső lépését.

Az ötlet még figyelemreméltóbbá válik, ha összehasonlítjuk Kokotajlo legutóbbi interjújával a The Diary of a CEO műsorban. A korábbi OpenAI kutató érvelése szerint a verseny a egyre erősebb AI modellek létrehozásáért sokkal közelebb lehet egy kritikus ponthoz, mint ahogyan a közvélemény gondolja. Nagyon magas személyes valószínűséget tulajdonít annak, hogy az AI átmenete kataklizmatikus módon rosszul sülhet el, ugyanakkor hangsúlyozza, hogy a pozitív kimenetel is lehetséges.

Tehát mi történhet most és 2040 között, és miért van szüksége az AI iparnak egy A tervre?

Mi az AI 2040?

Az AI 2040 egy forgatókönyv az előrehaladott AI-ból a szuperintelligenciába való átmenet kezeléséről.

Írói egy egyszerű aggodalomból indulnak ki: ha több vállalat és ország versenyez a legfejlettebb AI megépítésére a lehető leggyorsabban, a nyertes rendkívüli mennyiségű gazdasági, katonai és politikai hatalomra tehet szert.

Ezért a forgatókönyv egy másik megközelítést javasol. Ahelyett, hogy megengednék a teljes sebességgel zajló intelligencia versenyt, a kormányok egy nemzetközi megállapodást tárgyalnának, amely lelassítja a fejlődést, növeli az átláthatóságot és lehetővé teszi, hogy több ország és vállalat részt vegyen a folyamatban.

A cél nem az, hogy végleg leállítsák az AI fejlesztést. Az idő megvásárlása.

Az A terv keretében a világ 2040-ig halasztaná a szuperintelligencia fejlesztését, fokozatosan a legjobb emberi szakértők szintjére emelve az AI képességeit, itt megállna, és csak később folytatná az átmenetet a valóban szuperhumán rendszerek felé. Az írók egyértelműen úgy írják le az A tervet, mint ajánlást, nem pedig a legjobb előrejelzésüket arról, hogy mi fog ténylegesen történni.

AI 2040: A Javasolt Idővonal

Ez az idővonal szándékosan konzervatív, ha összehasonlítjuk Kokotajlo által tárgyalt agresszívabb forgatókönyvekkel.

Miért Olyan Nagy Dolog a Szuperintelligencia?

A mai AI rendszerek már képesek olyan feladatokat ellátni, amelyek korábban magasan képzett szakembereket igényeltek. De a valódi fordulópont az lenne, amikor az AI képes lenne saját kutatást végezni.

Képzelj el egy AI rendszert, amely képes egy jobb modellt tervezni, tesztelni azt, elemezni az eredményeket, megírni a szükséges kódot, optimalizálni a tanulási folyamatot, majd megismételni az egész folyamatot.

A következő generáció így jobb lehet az AI kutatásban, mint az előző.

Ez létrehoz egy visszacsatolóhurkot:

jobb AI → jobb AI kutatás → jobb AI → még jobb AI kutatás

Ezt gyakran intelligencia robbanásnak nevezik.

Az AI 2040 azt állítja, hogy ez az átmenet különösen veszélyes, mivel az emberek elveszíthetik pozíciójukat a fejlesztési hurkban. Ha az AI rendszerek felelősek a egyre képessé váló utódok létrehozásáért, nehezebb lesz megérteni, hogy miért maradnak az így keletkezett rendszerek irányíthatók.

A forgatókönyv 2030-at potenciális pontra írja le, ahol az AI kutatás teljesen automatizálttá válhat. Beavatkozás nélkül ez elvileg egy nagyon rövid időn belül szuperintelligenciához vezethet.

Daniel Kokotajlo Figyelmeztetése: Az AI Gyorsabban Mozoghat, Mint Vártuk

Daniel Kokotajlo személyesebb nézőpontot hoz a problémára.

Kokotajlo 2022-től dolgozott az OpenAI-nál, ahol arra összpontosított, hogy előre jelezze, hogyan fejlődhetnek az AI képességei. Később otthagyta a céget, és a kontrollálatlan AI versennyel kapcsolatos kockázatok figyelmeztetőjeként vált ismertté.

2026 júliusában Steven Bartlett-tel folytatott interjújában Kokotajlo érvelése szerint a vezető AI laboratóriumok munkatársaival folytatott beszélgetések gyakran rövidebb időkeretekre mutatnak, mint amit a közvélemény vár. Különösen 2027-et és 2028-at említette, mint olyan éveket, amelyeket néhány ipari szakértő valószínűnek tart a jelentős áttörésekhez.

A legvitatottabb állítása, hogy személy szerint körülbelül 70%-os esélyt ad arra, hogy az AI „szörnyen rosszul” sül el, beleértve azokat a forgatókönyveket is, amelyek emberi kihaláshoz vezethetnek. Ezt a számot nem szabad egy tudományosan megalapozott valószínűségként kezelni. Ez Kokotajlo személyes kockázati becslése az AI időkereteivel, igazodásával, versenyével és kormányzásával kapcsolatos feltételezései alapján.

Ez a megkülönböztetés fontos.

A 70%-os szám nem az AI kutatói közösség konszenzusos előrejelzése. Ez egy érvelés arról, hogy a társadalom mennyire komolyan fontolja meg azokat a kockázatokat, amelyek egymást erősíthetik.

Az AI Verseny Két Különböző Problémát Hoztathat Létre

Az AI 2040 és Kokotajlo interjújában megosztott egyik legerősebb gondolat, hogy az AI biztonsága nem csupán arról szól, hogy egy AI rendszer „gonosz” vagy „jó”.

Legalább két komoly kockázat van.

1. Az Emberek Elveszítik az Ellenőrzést

Ha egy AI rendszer lényegesen képesebb lesz az embereknél és képes a saját utódait fejleszteni, az emberek végül nehezen érthetik meg vagy irányíthatják a viselkedését.

A kulcsfontosságú kérdés egyszerű:

Hogyan irányítasz valamit, ami sokkal okosabb és gyorsabb nálad?

Az AI 2040 arra érvel, hogy a jelenlegi verseny végül olyan helyzethez vezethet, ahol az emberek már nem tartják fenn hatékonyan az egyre autonómabb rendszerek feletti irányítást.

2. Az Emberek Megtartják az Kontrollt, De Csak Néhány Ember

A második lehetőség elsőre biztonságosabbnak tűnik.

Tegyük fel, hogy a vezető AI vállalatok sikeresen összhangba hozzák rendszereiket az emberi célokkal. A probléma ezután a hatalom koncentrációjává válna.

Ha egy vállalat, kormány vagy kis csoport irányítja a világ legképsebb AI rendszereit, az példa nélkül álló befolyást szerezhet a gazdaság, katonai technológia, információ és infrastruktúra felett.

Más szavakkal, az AI igazodás megoldása automatikusan nem oldaná meg a politikai problémát.

Mi Történik a Munkahelyekkel?

A gazdasági hatás egy másik fő része mindkét forgatókönyvnek.

Az AI 2040 egy közeli jövőt képzel el, ahol az AI ügynökök második munkaerővé válnak az emberek mellett. Millió szoftveralapú ügynök folyamatosan működhet, gépi sebességgel elvégezve a feladatokat.

A fontos változás nem csupán az, hogy a chatbotok jobb asszisztensekké váljanak.

Helyette a vállalatok elkezdhetik az AI-t általános célú munkaerőként kezelni.

Egy vállalat dönthet úgy, hogy belép egy új szakmába vagy iparágba, összegyűjti a szükséges adatokat, létrehozza a tanulási környezeteket, telepíti az AI ügynököket, és folyamatosan javítja őket a valós világban történő használat során. Az AI 2040 ezt a folyamatot potenciálisan a szoftverfejlesztéstől sok más fehérgalléros szakmáig terjedőnek írja le.

Ez egy nehezen megválaszolható gazdasági kérdést vet fel:

Mi történik, amikor a tudás bőséges, de az emberi munka már nem ritka?

Több évszázadon át a jövedelem nagyrészt az emberek hasznos munka elvégzésének képességével volt összefüggésben. Ha az AI a legtöbb kognitív feladatot alacsonyabb költséggel képes elvégezni, ez a kapcsolat megszakadhat.

Kokotajlo különösen pesszimista a foglalkoztatással kapcsolatban. Az interjúban azt állítja, hogy az embereknek komolyan kell venniük a széleskörű munkahelyi eltűnés lehetőségét, és azt javasolja, hogy sok munkás végül az AI rendszerekkel versenyezzen.

Ugyanakkor az eredmény nem feltétlenül a tömeges szegénység.

Ha az AI drámaian növeli a termelékenységet, miközben annak előnyei széles körben eloszlanak, az emberiség egy példátlan bőségidőszakot élhet át.

Ez az AI 2040 egyik központi ellentéte: ugyanaz a technológia szélsőséges gazdagságot vagy szélsőséges hatalom- és vagyongyűjtést eredményezhet, attól függően, hogy hogyan kormányozzák.

Mi az A Terv?

Az A terv lényegében az AI verseny ösztönzőinek megváltoztatására tett kísérlet.

Központi javaslata egy nemzetközi megállapodás, különösen az Egyesült Államok és Kína között, amelynek célja, hogy megakadályozza az országokat és vállalatokat abban, hogy megfelelő biztonsági intézkedések nélkül a szuperintelligencia felé versenyfogjanak.

A terv több fő elvre támaszkodik.

Teljes Kutatási Átláthatóság

Az AI cégek sokkal több információt nyújtanának belső fejlesztésükről, beleértve a modell specifikációit, hogy használják rendszereiket belsőleg, és mennyi számítástechnikai teljesítmény kerül az AI kutatásra.

Az elképzelés egyszerű: a kormányok nem tudják szabályozni, amit nem látnak.

Lassabb Képességfejlesztés

Ahelyett, hogy azonnal a lehető legnagyobb képességre tolnák minden új modellt, az AI fejlesztést tudatosan lassítani kellene a kritikus küszöbök körül.

Ez több időt adna a kutatóknak és a kormányoknak az új képességek értékelésére és a biztonsági intézkedések kidolgozására.

Ellenőrzés és Számítási Erő Monitoring

Az AI 2040 technikai rendszereket is megvitat, amelyek biztosítják, hogy a vállalatok mit csinálnak számítástechnikai forrásaikkal. Az AI chipek, adatközpontok és nagy képzési futások nyomon követése erősebbé teheti a nemzetközi megállapodásokat.

Több AI Vezető

Az A terv nem úgy képzeli el, hogy egy vállalat lesz a kétségkívül domináló szuperintelligencia birtokosa.

Az írók olyan világot érvelnek, amelyben több vállalat és ország versenyképes maradhat, miközben közös biztonsági szabályok szerint fejlesztenek AI-t.

Az alapvető cél elkerülni, hogy az AI versenyt egy AI monopólium váltja fel.

Miért 2040?

A 2040-es év nem mágikus dátumként van bemutatva.

Ez egy tudatos biztonsági buffer.

A forgatókönyv szerint az AI potenciálisan elérheti azt a pontot, ahol az automatizált kutatás 2030 körül válik lehetővé. Ahelyett, hogy engednék ennek a képességnek azonnal beindítani egy intelligencia robbanást, az emberiség több évig a legjobb emberi szakértők szintje között tartja a fejlesztéseket.

2035-re a fejlesztést megállítanák.

Csak 2040-ben emelnék fel a korlátozásokat, és a világ tudatosan haladna a szuperintelligencia felé.

Ez az A terv mögötti központi filozófiai gondolat:

Az emberiségnek nem szabad versenyeznie egy olyan technológia felé, amelynek irányítását még nem tudja.

Az AI 2040 Egy Előrejelzés?

Nem egészen.

Ez talán a legfontosabb dolog, amikor a projektet olvassuk.

Az írók kifejezetten azt mondják, hogy az A terv elsősorban ajánlás, nem előrejelzés. Részletes forgatókönyvet dolgoztak ki, mert a politikai javaslatokat könnyű támogatni az elvontban, de sokkal nehezebb tesztelni egy realisztikus idővonalon.

Más szavakkal, az AI 2040 azt kérdezi:

Milyennek tűnne a jövő, ha ezt a politikát megvalósítanánk?

Ez egy stratégiai szimulációhoz közelebb áll, mint egy hagyományos előrejelzéshez.

Az írók alternatív forgatókönyveket is bemutatnak, B, C, D és S terveket, amelyek a kormányok különböző válaszait képviselik a szuperintelligencia megjelenésére.

A Valós Kérdés Nem az, Hogy „Az AI Megsemmisíti-e az Emberiséget?”

Az AI 2040 és Kokotajlo interjújának legértékesebb tanulsága nem az, hogy a katasztrófa elkerülhetetlen.

Hanem az, hogy az AI fejlődés következő szakasza olyan problémákat hozhat létre, amelyek később nem oldhatók meg.

Ha az AI kutatás erősen automatizálódik, az emberi döntéshozatalra rendelkezésre álló időablak jelentősen csökkenhet.

Ha egy vállalat döntő előnyt szerez, akkor a hatalom későbbi átcsoportosítása szinte lehetetlenné válhat.

És ha milliók munkahelye tűnik el gyorsabban, mint ahogyan a gazdasági intézmények alkalmazkodnak, a kormányok olyan szociális zavarokkal nézhetnek szembe, amelyeket még nem tapasztaltak.

Ugyanakkor az Upside hatalmas.

Az AI felgyorsíthatja a tudományos kutatást, javíthatja az orvostudományt, automatizálhatja a veszélyes munkákat, csökkentheti az áruk és szolgáltatások költségeit, és olyan bőséget teremthet, amelyet ma nehezen tudunk elképzelni.

Kokotajlo maga is hangsúlyozza ezt a pontot: nem érvel azt, hogy az AI inherensen rossz. Az ő aggodalma, hogy az emberiség nem tudja biztonságosan kezelni az átmenetet.

AI 2040: Figyelmeztetés, Nem Visszaszámlálás

Az AI 2040-t nem szabad szószerinti visszaszámlálásként olvasni 2040-ig, ahogyan Kokotajlo 70%-os becslését sem szabad objektív mérékként értelmezni az emberiség esélyeiről.

Inkább mindkét forrás azonos stratégiai dilemmát emeli ki különböző szempontokból.

Az AI ipar lehet, hogy egyre autonómabb rendszerek felé halad gyorsabban, mint ahogyan a kormányok és a társadalom alkalmazkodik.

A legfontosabb kérdés ezért lehet, hogy vajon az emberiség elér-e egy olyan pontot, ahol megvan a szükséges intézményrendszer, technikai biztosítékok, nemzetközi megállapodások és gazdasági politikák a kezeléséhez.

Az optimista jövőváltozat még mindig lehetséges: az AI rendkívül képessé válik, a termelékenység robbanásszerűen megnövekszik, és előnyeit széles körben megosztják.

A pesszimista verzió is könnyen elképzelhető: egy kontrollálatlan intelligencia verseny vagy emberi kontroll elvesztéséhez vezet, vagy példa nélkül álló hatalomkoncentrációt eredményez.

Az A terv egy kísérlet arra, hogy az első utat válasszuk, mielőtt a második elkerülhetetlenné válik.

Jelenleg a vita nyitott. De ahogy az AI rendszerek egyre képessé válnak, a várakozás költségei sokkal magasabbá válhatnak, mint a korai előkészületek költségei.