Інтелект 2040: Чи зможе надінтелект з’явитися до 2030 року?

Штучний інтелект розвивається швидше за більшість попередніх технологій, але найголовніше питання тепер зовсім не в тому, що ШІ може робити сьогодні. Воно полягає в тому, як швидко ШІ може стати спроможним покращувати самого себе.

Це питання стоїть в центрі "Інтелект 2040: План А", сценарію, розробленого Томасом Ларсеном, Роміо Діном, Брендоном Халстедом, Елі Ліфландом, Райаном Ґрінблатом і Деніелем Кокотайлом. Проект уявляє світ, в якому людство навмисно сповільнює гонку до надінтелекту, зберігає прозорість в межах передових досліджень ШІ та відкладає останній крок до надлюдського ШІ до 2040 року.

Ця ідея стає ще більш вражаючою, якщо порівняти її з нещодавнім інтерв’ю Кокотайла в програмі "Щоденник генерального директора". Колишній дослідник OpenAI стверджує, що гонка за дедалі потужнішим штучним інтелектом може бути набагато ближчою до критичної точки, ніж публіка усвідомлює. Він оцінює ймовірність того, що перехід до ШІ може завершитися катастрофічно, як дуже високу, підкреслюючи, що позитивний результат також залишається можливим.

Отже, що може трапитися між сьогоднішнім днем і 2040 роком, і чому індустрії ШІ потрібен План А?

Що таке Інтелект 2040?

Інтелект 2040, це сценарій про управління переходом від розвинутого ШІ до надінтелекту.

Автори виходять з простого занепокоєння: якщо кілька компаній і країн змагаються за те, щоб якомога швидше створити найпотужніший ШІ, переможець може отримати надзвичайну кількість економічної, військової та політичної влади.

Сценарій, отже, пропонує інший підхід. Замість того, щоб дозволити гонку за інтелектом на повну потужність, уряди погодять міжнародну угоду, яка сповільнить розвиток, підвищить прозорість і дозволить кільком країнам і компаніям продовжувати брати участь.

Мета не в тому, щоб назавжди зупинити розвиток ШІ. Мета, купити час.

Згідно з Планом А, світ відкладе розробку надінтелекту до 2040 року, поступово підвищить можливості ШІ до приблизно рівня найкращих людських експертів, зупиниться на цьому етапі і лише потім відновить перехід до дійсно надлюдських систем. Автори чітко описують План А як рекомендацію, а не як їхнє найкраще передбачення того, що насправді станеться.

Інтелект 2040: Запропонований графік

Цей графік навмисно консервативний у порівнянні з агресивнішими сценаріями, обговорюваними Кокотайлом.

Чому надінтелект є таким важливим?

Сьогоднішні системи ШІ вже можуть виконувати завдання, які колись вимагали висококваліфікованих професіоналів. Але справжня точка повороту буде, коли ШІ зможе проводити дослідження ШІ самостійно.

Уявіть собі систему ШІ, яка може проектувати кращу модель, тестувати її, аналізувати результати, писати необхідний код, оптимізувати процес навчання, а потім повторювати весь процес.

Наступне покоління може бути кращим у дослідженнях ШІ, ніж його попередник.

Це створює петлю зворотного зв'язку:

кращий ШІ → краще дослідження ШІ → кращий ШІ → ще краще дослідження ШІ

Це часто описується як вибух інтелекту.

Інтелект 2040 стверджує, що цей перехід є особливо небезпечним, оскільки людство може втратити свою позицію в циклі розвитку. Якщо системи ШІ відповідальні за створення дедалі спроможніших нащадків, стає важче зрозуміти, чому результуючі системи залишатимуться контрольованими.

Сценарій описує 2030 рік як потенційну точку, в якій дослідження ШІ можуть стати цілком автоматизованими. Без втручання це може теоретично призвести до надінтелекту за дуже короткий період.

Попередження Деніела Кокотайла: ШІ може рухатися швидше, ніж очікується

Деніел Кокотайл приносить більш особисту перспективу до тієї ж проблеми.

Кокотайл працював в OpenAI з 2022 року і зосереджувався на прогнозуванні, як можуть розвиватися можливості ШІ. Пізніше він залишив компанію і став одним з помітних голосів, які попереджають про ризики неконтрольованої гонки ШІ.

У своєму інтерв’ю в липні 2026 року з Стівеном Бартлетом Кокотайл стверджував, що розмови з людьми всередині провідних лабораторій ШІ часто вказують на коротші терміни, ніж публіка очікує. Він спеціально згадував 2027 і 2028 роки як роки, які деякі інсайдери галузі вважають реалістичними для важливих проривів.

Його найбільш суперечлива заява полягає в тому, що він особисто оцінює приблизно 70% ймовірності того, що ШІ піде "жахливо неправильно", включаючи сценарії, які можуть призвести до вимирання людства. Це число не слід сприймати як усталену наукову ймовірність. Це особиста оцінка ризику Кокотайла, заснована на його припущеннях про терміни розвитку ШІ, узгодженість, конкуренцію та управління.

Ця відмінність має значення.

Цифра 70% не є консенсусним прогнозом від спільноти дослідників ШІ. Це аргумент про те, наскільки серйозно суспільство має сприймати поєднання ризиків, які можуть підсилювати один одного.

Гонка ШІ може створити дві різні проблеми

Одна з найсильніших ідей, які спільно висловлюють Інтелект 2040 та інтерв'ю Кокотайла, полягає в тому, що безпека ШІ стосується не лише того, чи є система ШІ "злою" або "доброчесною".

Є принаймні два основні ризики.

1. Люди втрачають контроль

Якщо система ШІ стане значно більш спроможною, ніж люди, і зможе покращувати своїх наступників, людям, можливо, врешті-решт буде важко зрозуміти або контролювати її поведінку.

Ключове питання стає простим:

Як контролювати щось, що набагато розумніше і швидше за вас?

Інтелект 2040 стверджує, що нинішня гонка може призвести до ситуації, коли люди більше не утримують ефективний контроль над дедалі автономнішими системами.

2. Люди зберігають контроль, але лише кілька людей

Друга можливість спочатку може здаватися безпечнішою.

Припустимо, провідні компанії з ШІ успішно узгоджують свої системи з людськими цілями. Тоді проблемою стане концентрація влади.

Якщо одна компанія, уряд або невелика група контролюватиме найспроможніші у світі системи ШІ, вона зможе отримати безпрецедентний вплив на економіку, військові технології, інформацію та інфраструктуру.

Іншими словами, вирішення проблеми узгодженості ШІ не автоматично вирішить політичну проблему.

Що відбудеться з робочими місцями?

Економічний вплив, ще одна основна частина обох сценаріїв.

Інтелект 2040 уявляє найближче майбутнє, в якому агенти ШІ стануть другою робочою силою поряд з людьми. Мільйони програмних агентів зможуть працювати безперервно, виконуючи завдання на швидкості машин.

Важливою зміною буде не просто покращення чат-ботів як помічників.

Натомість компанії можуть почати розглядати ШІ як універсальну робочу силу.

Бізнес може вирішити увійти в нову професію або галузь, зібрати необхідні дані, створити навчальні середовища, розгортати агентів ШІ та безперервно покращувати їх за рахунок реальної використання. Інтелект 2040 описує цей процес як потенційно поширюваний з програмування на багато інших білих комірцевих професій.

Це піднімає складне економічне питання:

Що станеться, коли інтелект стане достатньо доступним, але праця людей більше не буде дефіцитом?

Протягом століть, дохід був пов'язаний з можливістю людей надавати корисну працю. Якщо ШІ зможе виконувати більшість когнітивних завдань за нижчою ціною, це відношення може зруйнуватися.

Кокотайл особливо песимістично ставиться до зайнятості. У інтерв'ю він стверджує, що люди повинні серйозно сприймати можливість широкомасштабного витіснення робочих місць і припускає, що багато працівників можуть зрештою опинитися в конкурентній боротьбі з системами ШІ.

Проте підсумок не є обов’язково масовою бідністю.

Якщо ШІ різко підвищить продуктивність, а його переваги будуть широко розподілені, людство може, натомість, пережити безпрецедентний період достатку.

Це один з центральних контрастів в Інтелект 2040: одна й та ж технологія може призвести як до крайнього процвітання, так і до крайнощі концентрації багатства та влади, залежно від того, як вона буде управлятися.

Що таке План А?

План А, це, в основному, спроба змінити стимули гонки ШІ.

Його основна пропозиція, міжнародна угода, особливо між США та Китаєм, призначена для запобігання країнам та компаніям, які змагаються за надінтелект без адекватних засобів безпеки.

План спирається на кілька основних принципів.

Загальна прозорість досліджень

Компанії ШІ повинні надати значно більше інформації про їх внутрішній розвиток, включаючи специфікації моделей, як системи використовуються внутрішньо, та скільки обчислювальної потужності присвячено дослідженню ШІ.

Сутність проста: уряди не можуть регулювати те, що не можуть бачити.

Повільніше зростання можливостей

Замість того, щоб негайно підвищувати кожну нову модель до максимальної можливої потужності, розвиток ШІ буде навмисно сповільнений на критичних межах.

Це надасть дослідникам і урядам більше часу для оцінки нових можливостей і розробки засобів безпеки.

Перевірка та моніторинг в обчисленнях

Інтелект 2040 також обговорює технічні системи для перевірки, що компанії роблять зі своїми обчислювальними ресурсами. Відстеження чіпів ШІ, дата-центрів і великих етапів навчання може зробити міжнародні угоди більш забезпеченими.

Багато лідерів у ШІ

План А не передбачає, що одна компанія стане беззаперечним власником надінтелекту.

Автори виступають за світ, в якому кілька компаній і країн можуть залишатися конкурентоспроможними, розвиваючи ШІ під загальними правилами безпеки.

Основна мета, уникнути заміни гонки ШІ монополією ШІ.

Чому 2040?

Рік 2040 не подається як магічна дата.

Це навмисний буфер безпеки.

Відповідно до сценарію, ШІ міг би потенційно досягти точки, в якій автоматизовані дослідження стануть можливими приблизно 2030 року. Замість того, щоб дозволити цій можливості негайно спровокувати вибух інтелекту, людство зберігатиме розвиток в межах найкращих людських експертів протягом кількох років.

У 2035 році розвиток зупиниться.

Лише в 2040 році обмеження будуть зняті, і світ свідомо рухатиметься до надінтелекту.

Це центральна філософська ідея за Планом А:

Людство не повинно переслідувати технологію, яку воно ще не знає, як контролювати.

Чи є Інтелект 2040 передбаченням?

Не зовсім.

Це, мабуть, найбільш важливе питання під час читання проекту.

Автори чітко заявляють, що План А є в першу чергу рекомендацією, а не передбаченням. Вони створили детальний сценарій, тому що політичні пропозиції легко підтримувати в абстракті, але значно важче перевіряти їх на реалістичному графіку.

Іншими словами, Інтелект 2040 запитує:

Яким виглядав би майбутнє, якби ми реалізували цю політику?

Це робить його ближчим до стратегічного моделювання, ніж до звичайного прогнозу.

Автори також представляють альтернативні сценарії, Плани B, C, D та S, які представляють різні способи, якими уряди можуть реагувати на появу надінтелекту.

Справжнє питання не в тому: "Чи знищить ШІ людство?"

Найкорисніше, що можна винести з Інтелекту 2040 та інтерв'ю Кокотайла, це не те, що катастрофа неминуча.

Це те, що наступна стадія розвитку ШІ може створити проблеми, які неможливо буде вирішити постфактум.

Якщо дослідження ШІ стане високо автоматизованим, вікно для прийняття рішень людьми може стати значно меншим.

Якщо одна компанія отримає вирішальну перевагу, пізніше перерозподіл влади може стати майже неможливим.

І якщо мільйони робочих місць зникнуть швидше, ніж економічні установи адаптуються, уряди можуть зіткнутися з соціальними потрясіннями в нових масштабах.

Водночас, позитивні наслідки величезні.

ШІ може пришвидшити наукові дослідження, покращити медицину, автоматизувати небезпечну працю, знизити витрати на товари та послуги та створити форми достатку, які сьогодні важко уявити.

Кокотайл сам підкреслює цю точку: він не стверджує, що ШІ є вроджено поганим. Його занепокоєння полягає в тому, що людство може не встигнути безпечно управляти переходом.

Інтелект 2040: Попередження, а не зворотній відлік

Інтелект 2040 не слід сприймати як буквальний зворотній відлік до 2040 року, так само як оцінку Кокотайла у 70% не слід інтерпретувати як об'єктивну виміряв сили шансів людства.

Замість цього два джерела підкреслюють одну й ту ж стратегічну дилему з різних кутів.

Індустрія ШІ може рухатися до дедалі автономніших систем швидше, ніж уряди та суспільство адаптуються.

Тому найважливіше питання може не в тому, чи з’явиться надінтелект у 2030, 2040 або пізніше.

Це питання в тому, чи досягне людство точки, де в нього є інститути, технічні запобіжники, міжнародні угоди та економічні політики, необхідні для того, щоб впоратися з цією ситуацією.

Оптимістичний варіант майбутнього все ще можливий: ШІ стає неймовірно спроможним, продуктивність зростає, а його переваги широко розподілені.

Песимістичний варіант також легко уявити: неконтрольована гонка інтелекту призводить як до втрати контролю людини, так і до безпрецедентної концентрації влади.

План А, це спроба обрати перший шлях, перш ніж другий стане неможливим для уникнення.

На даний момент дебати залишаються відкритими. Але оскільки системи ШІ стають дедалі спроможнішими, витрати на очікування визначеності можуть стати значно вищими, ніж витрати на ранню підготовку.