AI 2040: Може ли суперинтелигентността да дойде до 2030?

Изкуственият интелект се развива по-бързо от повечето предишни технологии, но най-голямото питане вече не е какво може да направи ИИ днес. То е колко бързо ИИ може да стане способен да се усъвършенства сам.

Този въпрос стои в центъра на AI 2040: План А, сценарий, разработен от Томас Ларсен, Ромео Дийн, Брендън Халстед, Ели Лифланд, Райън Гринблат и Даниел Кокотаджо. Проектът си представя свят, в който човечеството умишлено забавя надпреварата към суперинтелигентност, държи изследванията в сферата на ИИ прозрачни и отлага последната стъпка към свръхчовешки ИИ до 2040 година.

Идеята става още по-забележителна в контекста на последното интервю на Кокотаджо в "Дневника на един главен изпълнителен директор". Бившият изследовател от OpenAI твърди, че надпреварата към все по-мощен ИИ може да е много по-близо до критична точка, отколкото обществото осъзнава. Той оценява много висока лична вероятност, че преходът към ИИ може да се обърка катастрофално, като в същото време подчертава, че положителен резултат остава възможен.

Какво може да се случи между сега и 2040 година, и защо индустрията на ИИ се нуждае от План А?

Какво е AI 2040?

AI 2040 е сценарий за управление на прехода от напреднал ИИ към суперинтелигентност.

Неговите автори започват от проста загриженост: ако няколко компании и държави се състезават да изградят най-мощния ИИ възможно най-бързо, победителят може да получи извънредно много икономическа, военна и политическа мощ.

Следователно сценарият предлага различен подход. Вместо да позволят надпревара в бързината на интелигентността, правителствата биха преговаряли за международно споразумение, което да забави развитието, да увеличи прозрачността и да позволи на множество държави и компании да останат ангажирани.

Целта не е да се спре развитието на ИИ завинаги. Тя е да се купи време.

Според План А, светът би забавил развитието на суперинтелигентността до 2040 година, постепенно увеличавайки способностите на ИИ до нивото на най-добрите човешки експерти, като спира там и едва по-късно възобновява прехода към наистина свръхчовешки системи. Авторы изрично описват План А като препоръка, а не като тяхното най-добро предсказание за това какво наистина ще се случи.

AI 2040: Предложената хронология

Тази хронология е умишлено консервативна в сравнение с по-агресивните сценарии, обсъждани от Кокотаджо.

Защо суперинтелигентността е толкова важна?

Днешните системи на ИИ вече могат да изпълняват задачи, които преди изискваха високо обучени специалисти. Но истинският преломен момент би настъпил, когато ИИ стане способен да провежда изследвания в сферата на ИИ сам.

Представете си система на ИИ, която може да проектира по-добър модел, да го тества, да анализира резултатите, да напише необходимия код, да оптимизира обучителния процес и след това повтори целия процес.

Следващото поколение би могло да бъде по-добро в изследванията на ИИ от предшественика си.

Това създава обратна връзка:

по-добър ИИ → по-добри изследвания в ИИ → по-добър ИИ → дори по-добри изследвания в ИИ

Това често се описва като интелигентен взрив.

AI 2040 твърди, че този преход е особено опасен, защото хората могат да загубят позицията си в цикъла на развитие. Ако системите на ИИ са отговорни за създаването на все по-способни наследници, става по-трудно да се разбере защо получените системи биха останали контролируеми.

Сценарият описва 2030 година като потенциална точка, в която изследванията в сферата на ИИ могат да станат напълно автоматизирани. Без намеса, това теоретично би могло да доведе до суперинтелигентност в много кратък период.

Предупреждението на Даниел Кокотаджо: ИИ може да се развива по-бързо от очакваното

Даниел Кокотаджо носи по-лична перспектива по същия проблем.

Кокотаджо работи в OpenAI от 2022 година и се фокусира върху прогнозирането на това как биха могли да се развият способностите на ИИ. След това той напусна компанията и стана един от водещите гласове, предупреждаващи за рисковете от неконтролирана надпревара в ИИ.

В интервюто си от юли 2026 година с Стивън Бартлет, Кокотаджо твърди, че разговорите с хора в водещи лаборатории по ИИ често сочат към по-кратки срокове, отколкото обществото очаква. Той конкретно споменава 2027 и 2028 година като години, които някои хора в индустрията считат за вероятни за важни пробиви.

Неговото най-спорено твърдение е, че той лично оценява около 70% вероятност за това, че ИИ ще се обърка “ужасно”, включително сценарии, които биха могли да доведат до унищожаване на човечеството. Тази цифра не трябва да се третира като установена научна вероятност. Това е лична оценка на риска на Кокотаджо, базирана на неговите предположения относно сроковете на ИИ, съвместимостта, конкуренцията и управлението.

Тази разлика е важна.

Цифрата от 70% не е консенсусна прогноза от общността за изследвания на ИИ. Това е аргумент за това колко сериозно обществото трябва да вземе комбинация от рискове, които могат да се усилят взаимно.

Надпреварата в ИИ може да създаде два различни проблема

Една от най-силните идеи, споделени от AI 2040 и интервюто на Кокотаджо, е, че безопасността на ИИ не е само относно това дали една система за ИИ е "зла" или "добра".

Има поне два основни риска.

1. Хората губят контрол

Ако система за ИИ стане значително по-способна от хората и може да подобрява собствените си наследници, хората може накрая да изпитат затруднения да разберат или контролират поведението и.

Ключовият въпрос става прост:

Как контролирате нещо, което е много по-умно и по-бързо от вас?

AI 2040 твърди, че текущата надпревара може в крайна сметка да доведе до ситуация, в която хората вече не поддържат ефективен контрол над все по-автономни системи.

2. Хората запазват контрол, но само малко хора

Втората възможност може да изглежда по-безопасна първоначално.

Да предположим, че водещите компании в ИИ успешно насочват своите системи към човешките цели. Проблемът тогава би станал концентрацията на власт.

Ако една компания, правителство или малка група контролира най-силните системи на ИИ в света, тя може да получи безпрецедентно влияние над икономиката, военната технология, информацията и инфраструктурата.

С други думи, решаването на проблема с фокусирането на ИИ не би решило автоматично политическия проблем.

Какво се случва с работните места?

Икономическият ефект е друга основна част и от двата сценария.

AI 2040 си представя близкото бъдеще, в което агенти на ИИ стават втора работна сила до хората. Милони софтуерни агенти биха могли да работят непрекъснато, завършвайки задачи с машинна скорост.

Важната промяна не би била просто чатботовете да се подобрят в ролята на асистенти.

Вместо това, компаниите биха могли да започнат да третират ИИ като универсална работна сила.

Едно предприятие би могло да реши да навлезе в нова професия или индустрия, да събере необходимите данни, да изградии обучителни среди, да внедри агенти на ИИ и непрекъснато да ги усъвършенства чрез реална употреба. AI 2040 описва този процес като потенциално разширяващ се от софтуерното инженерство към много други офисни професии.

Това поставя труден икономически въпрос:

Какво се случва, когато интелигентността стане изобилна, но човешкият труд не е вече рядък?

През вековете доходите до голяма степен са свързани с способността на хората да предоставят полезен труд. Ако ИИ може да изпълнява повечето когнитивни задачи на по-ниска цена, това взаимоотношение може да се разруши.

Кокотаджо е особено песимистичен относно заетостта. В интервюто той аргументира, че хората трябва да вземат сериозно възможността за широко разпространено изместване на работните места и предполага, че много работници в крайна сметка могат да се окажат в конкуренция с ИИ системи.

Въпреки това, резултатът не е непременно масова бедност.

Ако ИИ драстично увеличи продуктивността, докато ползите от него се разпределят широко, човечеството би могло вместо това да преживее безпрецедентен период на изобилие.

Това е един от централните контрасти в AI 2040: същата технология би могла да произведе или крайно благосъстояние, или крайно концентриране на богатство и мощ, в зависимост от начина, по който се управлява.

Какво е План А?

План А е по същество опит да се променят стимулите на надпреварата в ИИ.

Неговото основно предложение е международно споразумение, особено между САЩ и Китай, предназначено да предотврати държавите и компаниите да се състезават към суперинтелигентност без адекватни мерки за безопасност.

Планът разчита на няколко основни принципа.

Пълна изследователска прозрачност

Компаниите за ИИ биха предоставяли много повече информация за вътрешното си развитие, включително спецификации на модели, как системите се използват вътрешно и колко компютърна мощност е отделена за изследвания на ИИ.

Идеята е ясна: правителствата не могат да регулират това, което не виждат.

По-бавно увеличаване на способностите

Вместо веднага да изведат всеки нов модел до максималната му способност, развитието на ИИ би било умишлено забавено около критични прагове.

Това би дalo на изследователите и правителствата повече време да оценят новите способности и да разработят мерки за безопасност.

Проверка и мониторинг на компютрите

AI 2040 обсъжда и технически системи за проверка на това, какво правят компаниите с компютърните си ресурси. Проследяването на чиповете за ИИ, центровете за данни и големите тренировъчни цикли би могло да направи международните споразумения по-изпълними.

Множество лидери в ИИ

План А не предвижда една компания да стане безспорен собственик на суперинтелигентност.

Авторите настояват за свят, в който множество компании и държави могат да останат конкурентоспособни, докато развиват ИИ под общи правила за безопасност.

Основната цел е да се избегне замяна на надпреварата в ИИ с монопол в ИИ.

Защо 2040?

Годината 2040 не е представена като магическа дата.

Тя е умишлено buffer за безопасност.

Според сценария, ИИ би могъл да достигне точката, в която автоматизираното изследване става възможно около 2030 година. Вместо да позволят на тази способност веднага да предизвика интелигентен взрив, човечеството ще държи развитието в обхвата на най-добрите човешки експерти в продължение на няколко години.

През 2035 година, развитието ще спре.

Само през 2040 година ограниченията ще бъдат вдигнати и светът умишлено ще се отправи към суперинтелигентност.

Това е основната философска идея зад План А:

Човечеството не трябва да бърза към технология, която още не знае как да контролира.

Предвижда ли AI 2040?

Не точно.

Това е вероятно най-важната точка при четенето на проекта.

Авторите изрично заявяват, че План А е основно препоръка, а не предсказание. Те създадоха детайлен сценарий, защото политическите предложения са лесни за поддръжка в абстрактно, но много по-трудни за тестване срещу реалистични срокове.

С други думи, AI 2040 пита:

Как всъщност би изглеждала бъдещето, ако изпълним тази политика?

Това го прави по-близо до стратегическа симулация, отколкото до конвенционална прогноза.

Авторите също представят алтернативни сценарии, Планове B, C, D и S, представляващи различни начини, по които правителствата могат да реагират на появата на суперинтелигентност.

Истинският въпрос не е "Ще унищожи ли ИИ човечеството?"

Най-полезната извлечение от AI 2040 и интервюто на Кокотаджо не е, че катастрофата е неизменна.

Това е, че следващия етап на развитие на ИИ може да създаде проблеми, които не могат да бъдат решени след факта.

Ако изследванията в сферата на ИИ станат силно автоматизирани, времето за човешко вземане на решения може да стане много по-малко.

Ако една компания получи решаващо предимство, разпределянето на властта по-късно може да стане почти невъзможно.

И ако милиони работни места изчезнат по-бързо, отколкото икономическите институции могат да се адаптират, правителствата могат да се сблъскат с социално смущение на мащаб, какъвто не са изпитвали.

В същото време, положителната страна е огромна.

ИИ би могъл да ускори научните изследвания, да подобри медицината, да автоматизира опасната работа, да намали цената на стоките и услугите и да създаде форми на изобилие, които днес е трудно да се представят.

Самият Кокотаджо набляга на тази точка: той не твърди, че ИИ е по принцип лош. Неговото безпокойство е, че човечеството може да не успее да управлява прехода безопасно.

AI 2040: Предупреждение, а не обратно броене

AI 2040 не трябва да се чете като буквално обратно броене до 2040, точно както оценката на Кокотаджо от 70% не трябва да се интерпретира като обективно измерване на шансовете на човечеството.

Вместо това, два източника подчертават същия стратегически дилем на различни ъгли.

Индустрията на ИИ може да се движи към все по-автономни системи по-бързо, отколкото правителствата и обществото се адаптират.

Следователно, най-важният въпрос може да не е дали суперинтелигентността ще дойде през 2030, 2040 или по-късно.

Той е дали човечеството ще достигне момент, в който разполага с институции, технически предпазни мерки, международни споразумения и икономически политики, необходими за справяне с него.

Оптимистичната версия на бъдещето все още е възможна: ИИ става изключително способен, производителността експлодира и ползите от нея се разпределят широко.

Песимистичната версия също е лесна за представяне: неконтролирана надпревара в интелигентността произвежда или загуба на човешкия контрол, или безпрецедентна концентрация на власт.

План А е опит да се избере първия път още преди вторият да стане невъзможен за избягване.

Засега, дебатът остава открит. Но с увеличаването на способностите на системите на ИИ, цената на чакането за сигурност може да стане много по-висока от цената на ранната подготовка.