AI 2040: Může superinteligence přijít do roku 2030?

Umělá inteligence se vyvíjí rychleji než většina předchozích technologií, ale největší otázka už není, co AI může dělat dnes. Je to, jak rychle se AI může stát schopnou zlepšovat sama sebe.

Tato otázka stojí v centru AI 2040: Plan A, scénáře, který vyvinuli Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt a Daniel Kokotajlo. Projekt si představuje svět, ve kterém lidstvo záměrně zpomaluje závod k superinteligenci, udržuje výzkum AI transparentní a odkládá poslední krok k nadlidské AI až na rok 2040.

Tento nápad je ještě výraznější, když je srovnán s nedávným rozhovorem Kokotajla v The Diary of a CEO. Bývalý výzkumník OpenAI tvrdí, že závod k stále mocnější AI by mohl být mnohem blíže kritickému bodu, než si veřejnost uvědomuje. Odhaduje velmi vysokou osobní pravděpodobnost, že přechod na AI může katastrofálně selhat, zároveň však zdůrazňuje, že pozitivní výsledek zůstává možný.

Tak co se může stát mezi nyní a rokem 2040, a proč potřebuje průmysl AI plán A?

Co je AI 2040?

AI 2040 je scénář o řízení přechodu z pokročilé AI na superinteligenci.

Jeho autoři vychází z jednoduché obavy: pokud několik společností a zemí soutěží o vybudování nejmocnější AI co nejrychleji, vítěz by mohl získat neobyčejné množství ekonomické, vojenské a politické moci.

Scénář proto navrhuje jiný přístup. Místo toho, aby byla povolena rychlá závodní inteligence, by vlády vyjednaly mezinárodní dohodu, která zpomalí vývoj, zvýší transparentnost a umožní několika zemím a společnostem zůstat zapojeným.

Cílem není navždy zastavit vývoj AI. Je to koupit si čas.

Podle plánu A by svět odložil vývoj superinteligence až do roku 2040, postupně zvýšil schopnosti AI na přibližně úroveň nejlepších lidských expertů, tam by se zastavil a teprve později pokračoval v přechodu k skutečně nadlidským systémům. Autoři výslovně popisují plán A jako doporučení, nikoli jako nejlepší předpověď toho, co se skutečně stane.

AI 2040: Navrhovaný časový harmonogram

Tento časový harmonogram je záměrně konzervativní ve srovnání s agresivnějšími scénáři, o kterých Kokotajlo hovořil.

Proč je superinteligence tak velký problém?

Dnešní AI systémy už mohou vykonávat úkoly, které kdysi vyžadovaly vysoce školené profesionály. Skutečný zlom však nastane, až AI bude schopna provádět výzkum AI sama.

Představte si systém AI, který dokáže navrhnout lepší model, otestovat ho, analyzovat výsledky, napsat potřebný kód, optimalizovat tréninkový proces a poté celý proces opakovat.

Další generace by pak mohla být lepší v oblasti výzkumu AI než její předchůdce.

To vytváří zpětnou vazbu:

lepší AI → lepší výzkum AI → lepší AI → ještě lepší výzkum AI

To je často popsáno jako exploze inteligence.

AI 2040 tvrdí, že tento přechod je obzvlášť nebezpečný, protože lidé by mohli ztratit svou pozici ve vývojovém cyklu. Pokud AI systémy budou zodpovědné za vytváření stále schopnějších nástupců, stane se obtížné pochopit, proč by výsledné systémy zůstávaly pod kontrolou.

Scénář označuje rok 2030 jako potenciální bod, kdy by se výzkum AI mohl stát plně automatizovaným. Bez zásahu by to teoreticky mohlo vést ke superinteligenci za velmi krátkou dobu.

Varování Daniela Kokotajla: AI by mohla postupovat rychleji, než se očekává

Daniel Kokotajlo přináší osobnější pohled na stejný problém.

Kokotajlo pracoval v OpenAI od roku 2022 a zaměřil se na předpovídání, jak se mohou vyvíjet schopnosti AI. Později firmu opustil a stal se jedním z prominentních hlasů varujících před riziky nekontrolovaného závodu AI.

Ve svém rozhovoru v červenci 2026 se Stevenem Bartlettem Kokotajlo tvrdil, že rozhovory s lidmi uvnitř předních laboratoří AI často naznačují kratší časové horizonty, než jaké veřejnost očekává. Konkrétně zmínil roky 2027 a 2028 jako roky, které někteří insidři považují za plausibilní pro významné průlomy.

Jeho nejvíce kontroverzní tvrzení je, že osobně přiděluje zhruba 70 % šanci, že AI by šla "hrozným způsobem" špatně, včetně scénářů, které by mohly vést k vymření lidstva. Tato čísla by neměla být chápána jako ustálená vědecká pravděpodobnost. Je to Kokotajlův osobní odhad rizika založený na předpokladech o časových horizontech AI, shodě, konkurenci a vládnutí.

Toto rozlišení je důležité.

Číslo 70 % není konsenzuální předpověď od komunity výzkumu AI. Je to argument o tom, jak vážně by měla společnost brát kombinaci rizik, které se mohou vzájemně posilovat.

Závod AI by mohl vytvořit dva různé problémy

Jedním z nejsilnějších nápadů, které sdílí AI 2040 a Kokotajlův rozhovor, je, že bezpečnost AI není jen o tom, zda je systém AI "zlý" nebo "dobrý".

Existují alespoň dvě hlavní rizika.

1. Lidé ztrácejí kontrolu

Pokud se systém AI stane podstatně schopnějším než lidé a bude schopen zlepšovat své vlastní nástupce, lidé mohou nakonec mít potíže porozumět nebo kontrolovat jeho chování.

Klíčová otázka se stává jednoduchou:

Jak ovládáte něco, co je mnohem chytřejší a rychlejší než vy?

AI 2040 tvrdí, že současný závod by mohl nakonec vést k situaci, kdy by lidé již nevykonávali účinnou kontrolu nad stále autonomnějšími systémy.

2. Lidé udržují kontrolu, ale jen někteří lidé

Druhá možnost se na první pohled může zdát bezpečnější.

Představte si, že přední společnosti AI úspěšně sladily své systémy s lidskými cíli. Problematika by se pak stala koncentrací moci.

Pokud jedna společnost, vláda nebo malá skupina kontroluje nejvýkonnější systémy AI na světě, může získat bezprecedentní vliv na ekonomiku, vojenskou technologii, informace a infrastrukturu.

Jinými slovy, vyřešení sladění AI by automaticky nevyřešilo politický problém.

Co se stane s pracovními místy?

Ekonomický dopad je další hlavní část obou scénářů.

AI 2040 si představuje blízkou budoucnost, v níž se AI agenti stávají druhou pracovní silou vedle lidí. Miliony software založených agentů by mohly fungovat nepřetržitě, plnit úkoly rychlostí strojů.

Důležitá změna by nebyla jen v tom, že by se chatboti stali lepšími asistenty.

Místo toho by společnosti mohly začít považovat AI za univerzální pracovní sílu.

Podnik by se mohl rozhodnout vstoupit do nového povolání či průmyslu, shromáždit potřebná data, vybudovat tréninkové prostředí, nasadit AI agenty a nepřetržitě je zlepšovat pomocí reálného používání. AI 2040 tento proces popisuje jako potenciálně se rozšiřující z oblasti softwarového inženýrství do mnoha dalších kancelářských profesí.

To vyvolává obtížnou ekonomickou otázku:

Co se stane, když se inteligence stane hojnou, ale lidská pracovní síla už nebude vzácná?

Po staletí byl příjem v zásadě spojen s schopností lidí poskytovat užitečnou práci. Pokud AI dokáže vykonávat většinu kognitivních úkolů s nižšími náklady, tento vztah by se mohl přerušit.

Kokotajlo je obzvlášť pesimistický ohledně zaměstnanosti. V rozhovoru tvrdí, že lidé by měli brát možnosti širokého přesunu pracovních míst vážně a naznačuje, že mnozí pracovníci by se mohli nakonec ocitnout v soutěži s AI systémy.

Nicméně výsledek nemusí nutně znamenat hromadnou chudobu.

Pokud AI dramaticky zvyšuje produktivitu, zatímco její výhody jsou široce rozděleny, lidstvo by mohlo naopak zažít bezprecedentní období hojnosti.

To je jeden z centrálních kontrastů v AI 2040: stejná technologie by mohla vyprodukovat buď extrémní prosperitu, nebo extrémní koncentraci bohatství a moci, v závislosti na tom, jak bude řízena.

Co je plán A?

Plán A je v podstatě pokusem změnit pobídky závodu AI.

Jeho hlavním návrhem je mezinárodní dohoda, především mezi USA a Čínou, určená k tomu, aby zabránila zemím a společnostem závodit směrem k superinteligenci bez adekvátních bezpečnostních opatření.

Plán se spoléhá na několik hlavních principů.

Úplná transparentnost výzkumu

Společnosti AI by poskytovaly mnohem více informací o svém vnitřním vývoji, včetně specifikací modelu, jak se systémy používají interně a kolik výpočetní síly je věnováno výzkumu AI.

Myšlenka je jednoduchá: vlády nemohou regulovat to, co nemohou vidět.

Pomalé zvyšování schopností

Místo okamžitého tlačení každého nového modelu na jeho maximální možnou schopnost by se vývoj AI záměrně zpomalil kolem kritických prahů.

To by dalo výzkumníkům a vládám více času na vyhodnocení nových schopností a vyvinutí bezpečnostních opatření.

Ověření a monitorování výpočetního výkonu

AI 2040 také diskutuje o technických systémech pro ověřování toho, co společnosti dělají se svými výpočetními zdroji. Sledování AI čipů, datových center a velkých tréninkových běhů by mohlo učinit mezinárodní dohody lépe vynutitelné.

Více vedoucích AI

Plán A si nepředstavuje, že by jedna společnost se stala nepochybným vlastníkem superinteligence.

Autoři zdůrazňují svět, ve kterém by několik společností a zemí mohlo zůstat konkurenceschopných, zatímco by vyvíjely AI podle společných bezpečnostních pravidel.

Základním cílem je vyhnout se nahrazení závodu AI monopolním systémem AI.

Proč 2040?

Rok 2040 není prezentován jako kouzelná data.

Je to záměrná bezpečnostní rezerva.

Podle scénáře by AI mohla potenciálně dosáhnout bodu, kdy by se automatizovaný výzkum mohl stát možným kolem roku 2030. Místo toho, aby se tato schopnost okamžitě stala impulsem pro explozi inteligence, by člověk udržoval vývoj v rozsahu nejlepších lidských expertů na několik let.

V roce 2035 by se vývoj zastavil.

Až v roce 2040 by byly restrikce zrušeny a svět by se záměrně posunul směrem k superinteligenci.

Toto je centrální filozofický nápad za plánem A:

Lidstvo by se nemělo hnát k technologii, kterou ještě neví, jak ovládat.

Je AI 2040 předpovědí?

Ne úplně.

To je možná nejdůležitější bod při čtení projektu.

Autoři výslovně říkají, že plán A je především doporučením, nikoli předpovědí. Vytvořili podrobný scénář, protože politické návrhy se snadno podporují v abstraktu, ale mnohem obtížněji se testují proti realistickému časovému harmonogramu.

Jinými slovy, AI 2040 se ptá:

Jak by budoucnost skutečně vypadala, kdybychom tuto politiku uvedli do praxe?

To to dělá blíže strategické simulaci než konvenční předpovědi.

Autoři také prezentují alternativní scénáře, plány B, C, D a S, představující různé způsoby, jakými by vlády mohly reagovat na vznik superinteligence.

Skutečná otázka není "Zničí AI lidstvo?"

Nejvíce užitečné je si odnést z AI 2040 a Kokotajlova rozhovoru, že katastrofa není nevyhnutelná.

Je to, že příští fáze vývoje AI mohou vytvořit problémy, které nelze vyřešit zpětně.

Pokud se výzkum AI stane vysoce automatizovaným, okno pro lidské rozhodování se může dramaticky zmenšit.

Pokud jedna společnost získá rozhodující výhodu, pozdější redistribuce moci se může stát téměř nemožnou.

A pokud miliony pracovních míst zmizí rychleji, než se ekonomické instituce přizpůsobí, vlády mohou čelit sociálnímu rozrušení v rozsahu, jaký nikdy nezažily.

Současně je však výhoda obrovská.

AI by mohla urychlit vědecký výzkum, zlepšit medicínu, automatizovat nebezpečné práce, snížit náklady na zboží a služby a vytvořit formy hojnosti, které jsou dnes těžko představitelné.

Kokotajlo sám zdůrazňuje tento bod: neargumentuje, že AI je inherentně špatná. Jeho obava je, že lidstvo by mohlo nezvládnout bezpečný přechod.

AI 2040: Varování, nikoli odpočet

AI 2040 by neměla být čtena jako doslovný odpočet do roku 2040, právě tak Kokotajlovo odhad 70 % by neměl být interpretován jako objektivní měření šancí lidstva.

Namísto toho tyto dva zdroje zdůrazňují stejnou strategickou dilema z různých úhlů.

Průmysl AI může směřovat k stále autonomnějším systémům rychleji, než se vlády a společnost přizpůsobují.

Nejdůležitější otázka se tedy nemusí ptát, zda superinteligence přijde v roce 2030, 2040 nebo později.

Je to, zda lidstvo dosáhne bodu, kdy má instituce, technické záruky, mezinárodní dohody a ekonomické politiky potřebné k tomu, aby se s tímto problémem vyrovnalo.

Optimistická verze budoucnosti je stále možná: AI se stává neobyčejně schopnou, produktivita exploduje a její výhody jsou široce sdíleny.

Pesimistická verze je také snadno představitelná: nekontrolovaný závod inteligence produkuje buď ztrátu lidské kontroly, nebo bezprecedentní koncentraci moci.

Plán A je pokusem vybrat první cestu, než se druhá stane nevyhnutelnou.

Prozatím zůstává debata otevřená. Ale jak se systémy AI stávají stále schopnějšími, cena za čekání na jistotu může stát mnohem více než cena za včasnou přípravu.