AI 2040: Czy superinteligencja może nadejść do 2030 roku?

Sztuczna inteligencja rozwija się szybciej niż większość poprzednich technologii, jednak największe pytanie nie dotyczy już tego, co sztuczna inteligencja może zrobić dziś. Chodzi o to, jak szybko AI mogłaby stać się zdolna do samodoskonalenia.

To pytanie stoi w centrum projektu AI 2040: Plan A, który został opracowany przez Thomasa Larsena, Romea Deana, Brendana Halsteada, Eliego Liflanda, Ryana Greenblatta i Daniela Kokotajlo. Projekt wyobraża sobie świat, w którym ludzkość celowo spowalnia wyścig w kierunku superinteligencji, utrzymuje badania nad AI w przejrzystości i odkłada ostateczny krok w stronę sztucznej inteligencji przewyższającej ludzi do roku 2040.

Ideę tę podkreśla niedawny wywiad Kokotajlo dla The Diary of a CEO. Były badacz OpenAI twierdzi, że wyścig w kierunku coraz potężniejszej AI może być znacznie bliżej punktu krytycznego, niż publiczność zdaje sobie sprawę. Szacuje bardzo wysokie prawdopodobieństwo, że przejście do AI mogłoby pójść katastrofalnie źle, jednocześnie podkreślając, że pozytywny wynik nadal jest możliwy.

Co więc może się wydarzyć między teraz a 2040 rokiem, i dlaczego branża AI potrzebuje Planu A?

Czym jest AI 2040?

AI 2040 to scenariusz dotyczący zarządzania przejściem z zaawansowanej AI do superinteligencji.

Jego autorzy wychodzą od prostego zaniepokojenia: jeśli kilka firm i krajów rywalizuje o zbudowanie najpotężniejszej AI tak szybko, jak to możliwe, zwycięzca mógłby zyskać niezwykle dużą moc gospodarczą, militarną i polityczną.

Scenariusz proponuje więc inne podejście. Zamiast pozwalać na wyścig inteligencji z pełną prędkością, rządy negocjowałyby międzynarodowe porozumienie, które spowolniłoby rozwój, zwiększyło przejrzystość i umożliwiło wielu krajom i firmom pozostanie zaangażowanym.

Celem nie jest zatrzymanie rozwoju AI na zawsze. Chodzi o zyskanie czasu.

Zgodnie z Planem A, świat opóźni rozwój superinteligencji do 2040 roku, stopniowo zwiększając możliwości AI do poziomu najlepszych ludzkich ekspertów, zatrzyma się tam, a dopiero później wznowi przejście w stronę prawdziwie superludzkich systemów. Autorzy wyraźnie opisują Plan A jako zalecenie, a nie ich najlepsze przewidywanie tego, co właściwie się wydarzy.

AI 2040: Proponowany harmonogram

Ten harmonogram jest celowo konserwatywny w porównaniu z bardziej agresywnymi scenariuszami omawianymi przez Kokotajlo.

Dlaczego superinteligencja jest tak ważna?

Dzisiejsze systemy AI już teraz potrafią wykonywać zadania, które kiedyś wymagały wysoce wykwalifikowanych specjalistów. Ale prawdziwy punkt zwrotny nastąpi, gdy AI stanie się zdolna do prowadzenia badań nad AI samodzielnie.

Wyobraźmy sobie system AI, który potrafi zaprojektować lepszy model, przetestować go, przeanalizować wyniki, napisać niezbędny kod, zoptymalizować proces szkolenia i powtórzyć ten proces.

Następna generacja mogłaby być lepsza w badaniach AI niż jej poprzednik.

To tworzy pętlę sprzężenia zwrotnego:

lepsza AI → lepsze badania AI → lepsza AI → jeszcze lepsze badania AI

Jest to często opisywane jako eksplozja inteligencji.

AI 2040 twierdzi, że to przejście jest szczególnie niebezpieczne, ponieważ ludzie mogą stracić swoją pozycję w pętli rozwoju. Jeśli systemy AI będą odpowiedzialne za tworzenie coraz bardziej zdolnych następców, trudniej będzie zrozumieć, dlaczego powstałe systemy miałyby pozostać pod kontrolą.

Scenariusz opisuje rok 2030 jako potencjalny punkt, w którym badania nad AI mogłyby stać się w pełni zautomatyzowane. Bez interwencji teoretycznie mogłoby to prowadzić do superinteligencji w bardzo krótkim czasie.

Ostrzeżenie Daniela Kokotajlo: AI mogłaby rozwijać się szybciej, niż się wydaje

Daniel Kokotajlo wprowadza bardziej osobistą perspektywę do tego samego problemu.

Kokotajlo pracował w OpenAI od 2022 roku i koncentrował się na przewidywaniu, jak mogą się rozwijać zdolności AI. Później opuścił firmę i stał się jednym z wybitnych głosów ostrzegających przed zagrożeniami związanymi z niekontrolowanym wyścigiem AI.

W swoim wywiadzie z Stevenem Bartletem w lipcu 2026 roku, Kokotajlo argumentował, że rozmowy z ludźmi w czołowych laboratoriach AI często wskazują na krótsze terminy, niż oczekuje tego publiczność. W szczególności wspomniał lata 2027 i 2028 jako lata, które niektórzy branżowi insiderzy uważają za prawdopodobne do osiągnięcia znaczących przełomów.

Jego najbardziej kontrowersyjne twierdzenie opiera się na szacowaniu, że prawdopodobieństwo, że AI pójdzie "okropnie źle", wynosi około 70%, w tym scenariusze, które mogłyby prowadzić do wymarcia ludzkości. Ta liczba nie powinna być traktowana jako ustalone naukowe prawdopodobieństwo. To osobisty oszacowanie ryzyka Kokotajlo na podstawie jego założeń dotyczących harmonogramów AI, zgodności, konkurencji i zarządzania.

To rozróżnienie ma znaczenie.

Liczba 70% nie jest prognozą z konsensusu środowiska badań nad AI. To argument dotyczący tego, jak poważnie społeczeństwo powinno brać pod uwagę połączenie zagrożeń, które mogą się wzajemnie wzmacniać.

Wyścig AI mógłby stworzyć dwa różne problemy

Jedną z najsilniejszych idei dzielonych przez AI 2040 i wywiad Kokotajlo jest to, że bezpieczeństwo AI nie polega tylko na tym, czy system AI jest "zły" czy "dobry".

Istnieją co najmniej dwa główne ryzyka.

1. Ludzie tracą kontrolę

Jeśli system AI stanie się znacznie bardziej zdolny niż ludzie i będzie w stanie doskonalić swoje własne następcze wersje, ludzie mogą w końcu mieć trudności zrozumienia lub kontrolowania jego zachowania.

Kluczowe pytanie staje się proste:

Jak kontrolować coś, co jest znacznie mądrzejsze i szybsze od Ciebie?

AI 2040 stwierdza, że obecny wyścig mógłby w końcu prowadzić do sytuacji, w której ludzie nie będą już mieli efektywnej kontroli nad coraz bardziej autonomicznymi systemami.

2. Ludzie utrzymują kontrolę, ale tylko nieliczni

Druga możliwość może na początku wyglądać bezpieczniej.

Załóżmy, że wiodące firmy zajmujące się AI skutecznie dostosowują swoje systemy do ludzkich celów. Problemem stałaby się koncentracja władzy.

Jeśli jedna firma, rząd lub mała grupa kontroluje najbardziej zdolne systemy AI, mogłaby zyskać bezprecedensowy wpływ na gospodarkę, technologię wojskową, informacje i infrastrukturę.

Innymi słowy, rozwiązanie problemu zgodności AI nie automatycznie rozwiązałoby problemu politycznego.

Co stanie się z miejscami pracy?

Wpływ na gospodarkę to inny główny element obu scenariuszy.

AI 2040 wyobraża sobie bliską przyszłość, w której agenci AI stanowią drugą siłę roboczą obok ludzi. Miliony agentów opartych na oprogramowaniu mogłyby działać nieprzerwanie, wykonując zadania z prędkością maszyny.

Ważna zmiana nie polega na tym, że chatboty stają się lepszymi asystentami.

Zamiast tego, firmy mogłyby zacząć traktować AI jako wszechstronną siłę roboczą.

Firma mogłaby postanowić zaangażować się w nowy zawód lub branżę, zebrać potrzebne dane, zbudować środowiska treningowe, wprowadzić agentów AI i ciągle je doskonalić dzięki praktyce. AI 2040 opisuje ten proces jako potencjalnie rozprzestrzeniający się z inżynierii oprogramowania na wiele innych zawodów biurowych.

To rodzi trudne pytanie gospodarcze:

Co się stanie, gdy inteligencja stanie się obfita, ale praca ludzka przestanie być rzadkością?

Przez wieki dochody były w dużej mierze związane z umiejętnościami ludzi do świadczenia użytecznej pracy. Jeśli AI może wykonywać większość zadań kognitywnych po niższych kosztach, ta relacja może się załamać.

Kokotajlo jest szczególnie pesymistyczny w kwestii zatrudnienia. W wywiadzie argumentował, że ludzie powinni poważnie rozważyć możliwość szerokiego przemieszczenia miejsc pracy i sugeruje, że wielu pracowników mogłoby w końcu stanąć do rywalizacji z systemami AI.

Jednak outcome niekoniecznie prowadzi do masowej biedy.

Jeśli AI znacznie zwiększa produktywność, a jej korzyści są szeroko dzielone, ludzkość mogłaby doświadczyć niespotykanego dotąd okresu obfitości.

To jest jedno z centralnych kontrastów w AI 2040: ta sama technologia może prowadzić do skrajnego dobrobytu lub skrajnej koncentracji bogactwa i władzy, w zależności od tego, jak zostanie zarządzana.

Czym jest Plan A?

Plan A jest zasadniczo próbą zmiany zachęt w wyścigu AI.

Jego kluczowa propozycja to międzynarodowe porozumienie, szczególnie między USA a Chinami, mające na celu zapobieżenie wyścigowi krajów i firm w kierunku superinteligencji bez odpowiednich środków bezpieczeństwa.

Plan opiera się na kilku głównych zasadach.

Całkowita przejrzystość badań

Firmy zajmujące się AI dostarczą znacznie więcej informacji na temat swojego wewnętrznego rozwoju, w tym specyfikacji modeli, jak systemy są używane wewnętrznie oraz ile mocy obliczeniowej jest poświęcane badaniom AI.

Idea jest prosta: rządy nie mogą regulować tego, czego nie mogą zobaczyć.

Wolniejsze zwiększanie możliwości

Zamiast natychmiastowego pchania każdego nowego modelu do możliwej maksymalnej zdolności, rozwój AI zostanie celowo spowolniony w okolicach krytycznych progów.

To da badaczom i rządom więcej czasu na ocenę nowych możliwości i opracowanie środków bezpieczeństwa.

Weryfikacja i monitoring mocy obliczeniowej

AI 2040 omawia również systemy techniczne do weryfikacji tego, co firmy robią ze swoimi zasobami obliczeniowymi. Śledzenie chipów AI, centrów danych i dużych sesji treningowych mogłoby sprawić, że międzynarodowe porozumienia byłyby bardziej egzekwowalne.

Wielu liderów AI

Plan A nie przewiduje, że jedna firma stanie się niekwestionowanym właścicielem superinteligencji.

Autorzy opowiadają się za światem, w którym wiele firm i krajów może pozostawać konkurencyjnych, rozwijając AI zgodnie ze wspólnymi zasadami bezpieczeństwa.

Podstawowym celem jest uniknięcie zastąpienia wyścigu AI monopolowym systemem AI.

Dlaczego 2040?

Rok 2040 nie jest przedstawiany jako magiczna data.

Jest to celowy bufor bezpieczeństwa.

Zgodnie ze scenariuszem, AI mogłaby potencjalnie osiągnąć punkt, w którym zautomatyzowane badania staną się możliwe wokół 2030 roku. Zamiast pozwalać, aby ta zdolność natychmiast wywołała eksplozję inteligencji, ludzkość utrzymałaby rozwój w zakresie najlepszych ludzkich ekspertów przez kilka lat.

W 2035 roku rozwój zostałby wstrzymany.

Dopiero w 2040 roku restrykcje zostałyby zniesione, a świat celowo skierowałby się w stronę superinteligencji.

To jest centralna filozoficzna idea stojąca za Planem A:

Ludzkość nie powinna wyścigać się w kierunku technologii, której jeszcze nie wie, jak kontrolować.

Czy AI 2040 to przewidywanie?

Nie do końca.

To być może najważniejszy punkt przy czytaniu projektu.

Autorzy wyraźnie zaznaczają, że Plan A jest w głównej mierze zaleceniem, a nie przewidywaniem. Stworzyli szczegółowy scenariusz, ponieważ propozycje polityczne są łatwe do wsparcia w abstrakcie, ale znacznie trudniejsze do przetestowania na realistycznym harmonogramie.

Innymi słowy, AI 2040 pyta:

Jak wyglądałaby przyszłość, gdybyśmy wdrożyli tę politykę?

To czyni ten projekt bliższym symulacji strategicznej niż konwencjonalnej prognozie.

Autorzy przedstawiają również alternatywne scenariusze, Plany B, C, D i S, reprezentujące różne sposoby, w jakie rządy mogłyby reagować na pojawienie się superinteligencji.

Prawdziwe pytanie brzmi: czy "AI zniszczy ludzkość?"

Najbardziej użyteczne wnioski z AI 2040 i wywiadu Kokotajlo nie sugerują, że katastrofa jest nieunikniona.

Chodzi o to, że następny etap rozwoju AI może stworzyć problemy, które nie mogą być rozwiązane po fakcie.

Jeśli badania nad AI staną się wysoko zautomatyzowane, okno dla ludzkiej decyzyjności może stać się znacznie mniejsze.

Jeżeli jedna firma zyska decydującą przewagę, późniejsze redystrybucje władzy mogą stać się niemal niemożliwe.

A jeśli miliony miejsc pracy znikną szybciej, niż instytucje gospodarcze zdołają się dostosować, rządy mogą stanąć przed zakłóceniami społecznymi na skalę, jakiej nigdy wcześniej nie doświadczyły.

Jednocześnie, korzyści są ogromne.

AI mogłaby przyspieszyć badania naukowe, poprawić medycynę, zautomatyzować niebezpieczne prace, obniżyć koszty towarów i usług oraz tworzyć formy obfitości, które są trudne do wyobrażenia w dzisiejszych czasach.

Sam Kokotajlo podkreśla ten punkt: nie twierdzi, że AI jest z natury zła. Jego obawą jest to, że ludzkość może nie zdołać bezpiecznie zarządzać tym przejściem.

AI 2040: Ostrzeżenie, nie odliczanie

AI 2040 nie powinno być odczytywane jako literalne odliczanie do 2040 roku, tak jak oszacowanie 70% Kokotajlo nie powinno być interpretowane jako obiektywne mierzenie szans ludzkości.

Zamiast tego, oba źródła podkreślają ten sam strategiczny dylemat z różnych perspektyw.

Branża AI może zmierzać w kierunku coraz bardziej autonomicznych systemów szybciej, niż rządy i społeczeństwo dostosowują się.

Najważniejsze pytanie może zatem nie brzmieć, czy superinteligencja nadejdzie w 2030, 2040, czy później.

Chodzi o to, czy ludzkość osiągnie punkt, w którym będzie miała instytucje, techniczne zabezpieczenia, międzynarodowe porozumienia i polityki gospodarcze potrzebne do radzenia sobie z tym.

Optymistyczna wersja przyszłości nadal jest możliwa: AI staje się niezwykle zdolna, produktywność eksploduje, a jej korzyści są szeroko dzielone.

Pesymistyczna wersja jest również łatwa do wyobrażenia: niekontrolowany wyścig inteligencji prowadzi do utraty ludzkiej kontroli lub bezprecedensowej koncentracji władzy.

Plan A jest próbą wybrania pierwszej ścieżki, zanim druga stanie się niemożliwa do uniknięcia.

Na razie debata pozostaje otwarta. Ale w miarę jak systemy AI stają się coraz bardziej zdolne, koszt czekania na pewność może stać się znacznie wyższy niż koszt wcześniejszego przygotowania.