ИИ 2040: Может ли суперинтеллект появиться к 2030 году?

Искусственный интеллект движется быстрее большинства предыдущих технологий, но самый большой вопрос больше не в том, что ИИ может сделать сегодня. Это то, как быстро ИИ может стать способным улучшать самого себя.

Этот вопрос стоит в центре ИИ 2040: План А, сценария, разработанного Томасом Ларсеном, Ромео Дином, Бренданом Халстедом, Эли Лифлэндом, Райаном Гринблаттом и Дэниелом Кокотайло. Проект воображает мир, в котором человечество намеренно замедляет гонку к суперинтеллекту, сохраняет прозрачность исследований в области ИИ и откладывает окончательный шаг к сверхчеловеческому ИИ до 2040 года.

Идея становится еще более заметной, когда ее сравнивают с недавним интервью Кокотайло в программе "Дневник CEO". Бывший исследователь OpenAI утверждает, что гонка за все более мощным ИИ может быть гораздо ближе к критической точке, чем общественность осознает. Он оценивает очень высокую личную вероятность того, что переход к ИИ может пойти катастрофически неправильно, подчеркивая при этом, что положительный исход все еще возможен.

Что же может произойти между сейчас и 2040 годом, и зачем индустрии ИИ нужен План А?

Что такое ИИ 2040?

ИИ 2040, это сценарий о том, как управлять переходом от продвинутого ИИ к суперинтеллекту.

Авторы начинают с простой проблемы: если несколько компаний и стран соревнуются в создании самого мощного ИИ как можно быстрее, победитель может получить необычайное количество экономической, военной и политической власти.

Сценарий предлагает другой подход. Вместо того чтобы позволять гонке разгораться на полную мощность, правительства будут вести переговоры о международном соглашении, которое замедлит развитие, увеличит прозрачность и позволит нескольким странам и компаниям оставаться вовлеченными.

Целью является не остановка развития ИИ навсегда. Цель, выиграть время.

В рамках Плана А мир бы отложил развитие суперинтеллекта до 2040 года, постепенно увеличивая возможности ИИ до уровня лучших человеческих экспертов, задерживаясь на этом уровне и только потом возобновляя переход к действительно сверхчеловеческим системам. Авторы явно описывают План А как рекомендацию, а не как их лучший прогноз о том, что произойдет на самом деле.

ИИ 2040: Предложенный график

Этот график сознательно консервативен по сравнению с более агрессивными сценариями, обсуждаемыми Кокотайло.

Почему суперинтеллект так важен?

Современные ИИ-системы уже могут выполнять задачи, которые раньше требовали высокой квалификации. Но настоящая поворотная точка наступит, когда ИИ сможет проводить исследования ИИ самостоятельно.

Представьте себе ИИ-систему, которая может разработать лучшую модель, протестировать ее, проанализировать результаты, написать необходимый код, оптимизировать процесс обучения, а затем повторить весь процесс.

Следующее поколение может стать лучше в исследованиях ИИ, чем его предшественник.

Это создает замкнутую петлю:

лучший ИИ → лучшее исследование ИИ → лучший ИИ → еще лучшее исследование ИИ

Это часто описывается как взрыв интеллекта.

ИИ 2040 утверждает, что этот переход особенно опасен, потому что у людей может исчезнуть их позиция в круге разработки. Если ИИ-системы ответственны за создание все более способных последователей, становится труднее понять, почему resulting systems будут оставаться контролируемыми.

Сценарий описывает 2030 год как потенциальную точку, в которой исследования ИИ могут стать полностью автоматизированными. Без вмешательства это теоретически может привести к суперинтеллекту за очень короткий промежуток времени.

Предупреждение Дэниела Кокотайло: ИИ может развиваться быстрее, чем ожидалось

Дэниел Кокотайло приносит более личную перспективу к этой же проблеме.

Кокотайло работал в OpenAI с 2022 года и сосредоточился на прогнозировании того, как могут развиваться возможности ИИ. Затем он покинул компанию и стал одним из выдающихся голосов, предостерегающих об угрозах неконтролируемой гонки ИИ.

В своем интервью в июле 2026 года с Стивеном Бартлеттом Кокотайло утверждал, что разговоры с людьми внутри ведущих лабораторий ИИ часто указывают на более короткие сроки, чем ожидает общественность. Он конкретно упомянул 2027 и 2028 годы как годы, которые некоторые инсайдеры отрасли считают реалистичными для значительных прорывов.

Его самое спорное утверждение, это то, что он лично присваивает примерно 70% шанс на то, что ИИ пойдет "ужасно не так", включая сценарии, которые могут привести к вымиранию человечества. Это число не следует рассматривать как установленную научную вероятность. Это личная оценка риска Кокотайло, основанная на его предположениях о сроках ИИ, согласовании, конкуренции и управлении.

Это различие важно.

Цифра 70% не является консенсусным прогнозом от сообщества исследователей ИИ. Это аргумент о том, насколько серьезно общество должно воспринимать комбинацию рисков, которые могут усиливать друг друга.

Гонка ИИ может создать две разные проблемы

Одна из сильнейших идей, разделяемых ИИ 2040 и интервью Кокотайло, состоит в том, что безопасность ИИ касается не только того, является ли ИИ-система "злой" или "хорошей".

Существует как минимум два основных риска.

1. Люди теряют контроль

Если ИИ-система становится существенно более способной, чем люди, и может улучшать своих последователей, людям может стать сложно понимать или контролировать ее поведение.

Ключевой вопрос становится простым:

Как контролировать то, что гораздо умнее и быстрее, чем ты?

ИИ 2040 утверждает, что текущая гонка может в конечном итоге привести к ситуации, когда люди больше не сохраняют эффективный контроль над все более автономными системами.

2. Люди сохраняют контроль, но только несколько людей

Вторая возможность может казаться более безопасной на первый взгляд.

Предположим, что ведущие компании ИИ успешно согласуют свои системы с человеческими целями. Проблема тогда станет концентрацией власти.

Если одна компания, правительство или небольшая группа контролирует самые мощные ИИ-системы, она может получить беспрецедентное влияние на экономику, военные технологии, информацию и инфраструктуру.

Другими словами, решение проблемы согласования ИИ не автоматически решит политическую проблему.

Что будет с работой?

Экономическое воздействие является еще одной важной частью обоих сценариев.

ИИ 2040 воображает ближайшее будущее, в котором ИИ-агенты становятся второй рабочей силой наряду с людьми. Миллионы программных агентов могут работать непрерывно, выполняя задачи с машинной скоростью.

Важное изменение не заключается просто в том, что чат-боты становятся лучшими помощниками.

Вместо этого компании могут начать рассматривать ИИ как рабочую силу общего назначения.

Компания может решить выйти в новую профессию или отрасль, собрать необходимые данные, создать обучающие среды, развернуть ИИ-агентов и постоянно улучшать их через реальное использование. ИИ 2040 описывает этот процесс как потенциально распространяющийся от программной инженерии в другие офисные профессии.

Это поднимает сложный экономический вопрос:

Что происходит, когда интеллект становится изобилующим, но труд людей больше не является дефицитом?

На протяжении веков доход в значительной степени зависел от способности людей обеспечивать полезный труд. Если ИИ может выполнять большинство когнитивных задач по более низкой стоимости, это соотношение может разрушиться.

Кокотайло особенно пессимистично настроен по поводу занятости. В интервью он утверждает, что люди должны серьезно принимать возможность широкомассовых увольнений и предполагает, что многие работники в конечном итоге могут конкурировать с ИИ-системами.

Тем не менее, результат не обязательно означает массовую бедность.

Если ИИ значительно увеличивает производительность, а его выгоды широко распределены, человечество могло бы вместо этого испытать беспрецедентный период изобилия.

Это одно из центральных контрастов в ИИ 2040: одна и та же технология может произвести либо крайнее процветание, либо крайнее сосредоточение богатства и власти, в зависимости от того, как она будет управляться.

Что такое План А?

План А, это, по сути, попытка изменить стимулы гонки ИИ.

Его основное предложение, международное соглашение, особенно между США и Китаем, направленное на предотвращение стран и компаний от стремления к суперинтеллекту без надлежащих мер безопасности.

План основывается на нескольких основных принципах.

Полная прозрачность исследований

Компании ИИ должны предоставить гораздо больше информации о своей внутренней разработке, включая спецификации моделей, способы использования систем внутри компании и количество вычислительной мощности, выделяемой на исследования ИИ.

Идея проста: правительства не могут регулировать то, чего не могут видеть.

Более медленное увеличение возможностей

Вместо того чтобы сразу доводить каждую новую модель до ее максимальной возможной способности, развитие ИИ будет преднамеренно замедлено вокруг критических порогов.

Это даст исследователям и правительствам больше времени для оценки новых возможностей и разработки мер безопасности.

Верификация и мониторинг вычислений

ИИ 2040 также обсуждает технические системы для проверки того, чем занимаются компании с их вычислительными ресурсами. Отслеживание ИИ-чипов, дата-центров и крупных учебных запусков может сделать международные соглашения более применимыми.

Многочисленные лидеры ИИ

План А не предусматривает, чтобы одна компания стала бесспорным владельцем суперинтеллекта.

Авторы выступают за мир, в котором несколько компаний и стран могут оставаться конкурентоспособными, развивая ИИ по общим правилам безопасности.

Основная цель, избежать замены гонки ИИ на монополию ИИ.

Почему 2040?

Год 2040 не представлен как волшебная дата.

Это преднамеренный буфер безопасности.

В рамках сценария ИИ может потенциально достичь точки, где автоматизированные исследования станут возможными примерно к 2030 году. Вместо того чтобы позволять этой способности немедленно вызвать взрыв интеллекта, человечество будет поддерживать развитие в диапазоне лучших человеческих экспертов в течение нескольких лет.

В 2035 году развитие остановится.

Только в 2040 году ограничения будут сняты, и мир целенаправленно двинется к суперинтеллекту.

Это центральная философская идея Плана А:

Человечество не должно гоняться за технологией, которую оно еще не знает, как контролировать.

Является ли ИИ 2040 прогнозом?

Не совсем.

Это, возможно, самый важный момент при чтении проекта.

Авторы явно говорят, что План А является прежде всего рекомендацией, а не прогнозом. Они создали детализированный сценарий, потому что предложения по политике легко поддерживать в абстрактном виде, но гораздо труднее тестировать против реалистичного графика.

Другими словами, ИИ 2040 задает вопрос:

Как бы выглядело будущее, если бы мы реализовали эту политику?

Это делает его ближе к стратегической симуляции, чем к традиционному прогнозу.

Авторы также представляют альтернативные сценарии, Планы B, C, D и S, представляющие различные способы, которыми правительства могут реагировать на появление суперинтеллекта.

Настоящий вопрос не в "Уничтожит ли ИИ человечество?"

Самый полезный вывод из ИИ 2040 и интервью Кокотайло заключается не в том, что катастрофа неизбежна.

Это то, что следующий этап разработки ИИ может создать проблемы, которые не могут быть решены постфактум.

Если исследования ИИ станут сильно автоматизированными, окно для человеческого принятия решений может стать намного меньше.

Если одна компания получит решающее преимущество, перераспределение власти впоследствии может стать почти невозможным.

И если миллионы рабочих мест исчезнут быстрее, чем экономические институты смогут адаптироваться, правительства могут столкнуться с социальной дезорганизацией в масштабе, которого они никогда не испытывали.

В то же время возможные преимущества огромны.

ИИ может ускорить научные исследования, улучшить медицину, автоматизировать опасную работу, снизить стоимость товаров и услуг и создать формы изобилия, которые трудно представить сегодня.

Сама Кокотайло подчеркивает эту мысль: он не утверждает, что ИИ по своей сути плох. Его беспокойство в том, что человечество может не справиться с безопасным управлением переходом.

ИИ 2040: Предупреждение, а не отсчет

ИИ 2040 не следует воспринимать как буквальный отсчет до 2040 года, так же как оценку Кокотайло в 70% не следует интерпретировать как объективное измерение шансов человечества.

Вместо этого два источника подчеркивают одну и ту же стратегическую дилемму с разных углов.

Индустрия ИИ может двигаться к все более автономным системам быстрее, чем правительства и общество адаптируются.

Следовательно, возможно, самый важный вопрос заключается не в том, наступит ли суперинтеллект в 2030, 2040 или позже.

Это то, достигнет ли человечество момента, когда у него есть учреждения, технические меры предосторожности, международные соглашения и экономические политики, необходимые для его управления.

Оптимистическая версия будущего все еще возможна: ИИ становится исключительно способным, производительность взрывается, а его выгоды широко распределены.

Пессимистическая версия также легко представить: неконтролируемая гонка интеллекта приводит к потере человеческого контроля или беспрецедентной концентрации власти.

План А, это попытка выбрать первый путь, прежде чем второй станет невозможным.

Пока что дискуссия остается открытой. Но по мере того как системы ИИ становятся все более способными, стоимость ожидания уверенности может стать намного выше, чем стоимость раннего приготовления.