Вештачка интелигенција 2040: Дали суперинтелигенцијата може да стигне до 2030?

Вештачката интелигенција се движи побрзо од повеќето претходни технологии, но најголемото прашање веќе не е што може да направи AI денес. Тоа е колку брзо AI би можел да стане способен да се подобрува самиот.

Тоа прашање се наоѓа во центарот на AI 2040: План А, сценарио развиено од Томас Ларсен, Ромео Дин, Брендан Холстед, Ели Лифланд, Рајан Гринблат и Даниел Кокотајло. Проектот замислува свет во кој човештвото намерно го забавува трката кон суперинтелигенцијата, ја задржува фронт позадина на AI истражувањето транспарентна и ја одложува конечната фаза кон суперхуманиот AI до 2040.

Идејата станува уште поудивителна кога се споредува со неодамнешното интервју на Кокотајло во Дневникот на еден извршен директор. Поранешниот истражувач во OpenAI аргументира дека трката кон сè по моќен AI би можела да биде многу поблиску до критичната точка одошто јавноста сфаќа. Тој проценува многу висока лична веројатност дека транзицијата на AI би можела да оди катастрофално погрешно, додека истовремено истакнува дека позитивниот исход останува можен.

Што би можело да се случи помеѓу сега и 2040, и зошто индустријата на AI се нужда од План А?

Што е AI 2040?

AI 2040 е сценарио за управување со транзицијата од напреден AI до суперинтелигенција.

Неговите автори започнуваат од проста загриженост: ако неколку компании и земји се натпреваруваат да изградат најмоќен AI што е можно побрзо, победникот би можел да добие исклучително количество економска, воена и политичка моќ.

Сценариото, поради тоа, предлага поинаков пристап. Наместо да дозволат целосно забрзување на трката за интелигенција, владите би преговарале за меѓународен договор кој го забавува развојот, зголемува транспарентноста и им дозволува на повеќе земји и компании да останат вклучени.

Целта не е да се запре развојот на AI засекогаш. Тоа е за купување време.

Под План А, светот би го одложил развојот на суперинтелигенција до 2040, постепено би ги зголемил AI способностите на приближно ниво на врвни човечки експерти, би застанал таму и потоа само би продолжил со транзицијата кон вистински суперхумани системи. Авторите експлицитно го опишуваат План А како препорака, а не како нивна најдобра процена за тоа што всушност ќе се случи.

AI 2040: Предложениот временски распоред

Овој временски распоред е намерно конзервативен во споредба со поагресивните сценарија дискутирани од Кокотајло.

Зошто е суперинтелигенцијата толку важна?

Денешните AI системи веќе можат да извршуваат задачи што некогаш барале високо обучени професионалци. Но, вистинската точка на свртување ќе дојде кога AI ќе биде способен да спроведе AI истражување самостојно.

Замислете AI систем кој може да дизајнира подобар модел, да го тестира, да ги анализира резултатите, да напише потребниот код, да ја оптимизира процесот на обука и потоа да го повтори целиот процес.

Следната генерација би можела тогаш да биде подобра во AI истражувањето од својот претходник.

Тоа создава повратна врска:

подобар AI → подобро AI истражување → подобар AI → уште подобро AI истражување

Ова често се опишува како експлозија на интелигенција.

AI 2040 аргументира дека оваа транзиција е особено опасна бидејќи луѓето би можеле да го изгубат своето место во развојниот циклус. Ако AI системите се одговорни за создавање на сè по способни наследници, станува потешко да се разбере зошто резултантните системи би останале контролирани.

Сценариото го опишува 2030 како потенцијална точка кога истражувањето на AI би можело да стане комплетно автоматизирано. Без интервенција, тоа теоретски би можело да доведе до суперинтелигенција во многу краток период.

Предупредувањето на Даниел Кокотајло: AI може да се движи побрзо од очекуваното

Даниел Кокотајло носи поперсонална перспектива на истиот проблем.

Кокотајло работел во OpenAI од 2022 и се фокусирал на предвидување како AI способностите можат да се развиваат. Потоа, тој ја напушти компанијата и стана еден од водечките гласови кои предупредуваат за ризиците од неконтролирана трка во AI.

Во неговото интервју во јули 2026 со Стивен Бартлет, Кокотајло тврдел дека разговорите со луѓето во водењата AI лаборатории често укажуваат на пократки временски рамки отколку што јавноста очекува. Тој конкретно спомена 2027 и 2028 како години кои некои индустриски инсдери ги сметаат за веројатни за значајни пробиви.

Неговото најконтроверзно тврдење е дека лично оценува околу 70% шанси AI да оди "катастрофално погрешно", вклучувајќи сценарија кои би можеле да резултираат во изумирање на човештвото. Оваа бројка не треба да се третира како утврдена научна веројатност. Тоа е лична проценка на ризик на Кокотајло базирана на неговите претпоставки за времето на AI, усогласеноста, конкуренцијата и управувањето.

Оваа дистинкција е важна.

Бројката од 70% не е консензуална прогноза од заедницата на AI истражувачи. Тоа е аргумент за тоа колку сериозно општеството треба да ја сфати комбинацијата на ризици кои можат да се поткрепат едни со други.

Трката во AI може да создаде два различни проблема

Една од најсилните идеи споделени од AI 2040 и интервјуто на Кокотајло е дека безбедноста на AI не е само за тоа дали е AI системот "злонаменет" или "добар".

Постојат барем два главни ризика.

1. Луѓето го губат контролата

Ако AI систем стана значајно поспособен од луѓето и способен да ги подобри своите наследници, луѓето би можеле на крајот да се соочат со потешкотии во разбирањето или контролирањето на неговото однесување.

Клучното прашање станува едноставно:

Како да контролираш нешто што е многу посмртно и побрзо од тебе?

AI 2040 аргументира дека актуелната трка на крајот би могла да доведе до ситуација каде што луѓето повеќе не ја задржуваат ефективната контрола над сè по автономни системи.

2. Луѓето ја задржуваат контролата, но само неколку луѓе

Втората можност може да изгледа побезбедно на прв поглед.

Предпоставете дека водечките AI компании успешно ги усогласуваат своите системи со човечките цели. Проблемот тогаш би се свел на концентрација на моќ.

Ако една компанија, влада или мала група контролираат најмоќните AI системи во светот, би можеле да добијат без преседан влијание над економијата, воената технологија, информациите и инфраструктурата.

Со други зборови, решавањето на усогласувањето на AI не би автоматски го решило политичкиот проблем.

Што се случува со работните места?

Економскиот ефект е уште еден важен дел од двете сценарија.

AI 2040 замислува блиска иднина во која AI агенти стануваат втора работна сила покрај луѓето. Милони софтверски агенти би можеле да работат континуирано, завршувајќи задачи со машинска брзина.

Важно е промената да не биде само подобрување на чатботовите како помошници.

Следствено, компаниите би можеле да започнат да ја третираат AI како општа работна сила.

Бизнисот би можел да одлучи да влезе во нова професија или индустрија, да собере потребни податоци, да изгради обукочни околини, да распоредува AI агенти и да ги подобрува континуирано преку реална употреба. AI 2040 опишува овој процес како потенцијално ширење од софтверското инженерство во многу други професии со бели колар.

Ова покренува тежок економски проблем:

Што се случува кога интелигенцијата станува изобилна, но човечката работа не е повеќе ретка?

Досега, приходот беше главно поврзан со способноста на луѓето да обезбедат корисна работа. Ако AI може да извршува повеќето когнитивни задачи по пониска цена, тој однос може да се прекине.

Кокотajло е особено песимистички настроен во врска со вработувањето. Во интервјуто, тој тврди дека луѓето треба сериозно да ја сфатат можноста за широко раселување на работните места и предлага многу работници на крајот да се најдат во конкуренција со AI системи.

Меѓутоа, исходот не е неопходно масовна сиромаштија.

Ако AI драматично го зголеми производството додека неговите бенефити се широко споделени, човештвото може наместо тоа да доживее невиден период на изобилство.

Ова е една од центричните контрасти во AI 2040: иста технологија може да произведе или екстремна просперитет или екстремна концентрација на богатство и моќ, во зависност од тоа како ќе биде управувана.

Што е План А?

План А е суштински обид да се променат ингеренциите на трката во AI.

Неговото основно предложение е меѓународен договор, особено помеѓу САД и Кина, дизајниран да спречи земјите и компаниите да трчаат кон суперинтелигенција без соодветни мерки за безбедност.

Планот се потпира на неколку главни принципи.

Идната транспарентност на истражувањето

AI компаниите ќе обезбедат многу повеќе информации за нивниот внатрешен развој, вклучувајќи спецификации на моделите, како системите се користат внатре и колку компјутерска моќ е посветена на истражувањето на AI.

Идејата е едноставна: владите не можат да регулираат што не можат да видат.

Побавен развој на способностите

Наместо веднаш да го притискаат секој нов модел на неговата максимална можност, развојот на AI ќе биде намерно забавен околу критичните прагови.

Ова ќе им даде на истражувачите и владите повеќе време да ги проценат новите способности и да развијат мерки за безбедност.

Верификација и мониторинг на компјутерите

AI 2040 исто така обсуждава технички системи за верификација на она што компаниите го прават со своите компјутерски ресурси. Следењето на AI чиповите, серверските центри и големите обуки би можело да ги направи меѓународните договори поизвршливи.

Многу AI лидери

План А не предвидува една компанија да стане несомнениот сопственик на суперинтелигенцијата.

Авторите аргументуваат за свет во кој повеќе компании и земји можат да останат конкурентни додека развиваат AI под заеднички правила за безбедност.

Основната цел е да се избегне замена на трката во AI со монопол на AI.

Зошто 2040?

Годината 2040 не е претставена како магична дата.

Тоа е намерен безбедносен појас.

Според сценариото, AI би можел потенцијално да достигне точка на автоматизирано истражување околу 2030. Наместо да дозволи таа способност веднаш да предизвика експлозија на интелигенција, човештвото би го задржало развојот во опсегот на најдобрите човечки експерти за неколку години.

Во 2035, развојот ќе застане.

Само во 2040, ограничувањата ќе бидат отстранети и светот обмислено ќе премине кон суперинтелигенција.

Ова е централната филозофска идеја зад План А:

Човештвото не треба да носи трка кон технологија која сè уште не знае како да ја контролира.

Дали е AI 2040 предвидување?

Не сосема.

Ова е можеби најважната точка при читањето на проектот.

Авторите експлицитно велат дека План А е главно препорака, а не предвидување. Тие создадоа деталирано сценарио бидејќи предлозите за политики се лесни за поддршка во апстрактно, но многу потешко за тестирање спротивно на реалниот временски распоред.

Со други зборови, AI 2040 прашува:

Како всушност би изгледала иднината ако ја имплементираме оваа политика?

Тоа го прави поблиску до стратегиска симулација отколку до конвенционална прогноза.

Авторите исто така ги презентираат алтернативни сценарија, Планови Б, Ц, Д и С, кои претставуваат различни начини на кои владите би можеле да реагираат на појавата на суперинтелигенција.

Вистинското прашање не е "Дали AI ќе го уништи човештвото?"

Најкорисниот заклучок од AI 2040 и интервјуто на Кокотајло не е дека катастрофата е неизбежна.

Тоа е дека следната фаза на развој на AI може да создаде проблеми кои не можат да се решат пофактички.

Ако истражувањето на AI стане високо автоматизирано, прозорецот за човечко донесување одлуки би можел да стане многу помал.

Ако една компанија добие одлучувачка предност, повторното распоредување на моќта подоцна може да стане речиси невозможно.

А ако милиони работни места исчезнат побрзо отколку што економските институции се прилагодат, владите би можеле да се соочат со социјален прекин на скала каква што никогаш не доживеале.

Во исто време, добрата страна е огромна.

AI би можел да го забрза научното истражување, да ја подобри медицината, да автоматизира опасна работа, да ги намали трошоците на добра и услуги и да создаде форми на изобилство што е тешко да се замислат денес.

Кокотajло самиот го нагласува овој точка: тој не тврди дека AI е по природа лош. Неговиот страв е дека човештвото може да не успее да управува со транзицијата безбедно.

AI 2040: Предупредување, не одбројување

AI 2040 не треба да се чита како буквално одбројување до 2040, исто така како што не треба да се интерпретира проценката на Кокотајло од 70% како објективно мерење на шансите на човештвото.

Напротив, двата извори го нагласуваат истиот стратешки дилема од различни агли.

Индустријата на AI можеби се движи кон сè повисоки автономни системи побрзо отколку што владите и општеството се прилагодуваат.

Најважното прашање може, поради тоа, да не биде дали суперинтелигенцијата пристигнува во 2030, 2040 или подоцна.

Таа е дали човештвото ќе достигне точка на која има институции, технички заштити, меѓународни договори и економски политики потребни за да се справи со тоа.

Оптимистичката верзија на иднината е уште секогаш можна: AI станува исклучително способен, производството експлодира и нејзините придобивки се широко споделуваат.

Песимистичката верзија е исто така лесна за замислување: неконтролирана трка на интелигенција произведува или губење на човечката контрола или без преседан концентрација на моќ.

План А е обид да се избере првиот пат пред вториот да стане невозможно да се избегне.

За сега, дебатата останува отворена. Но, бидејќи системите на AI стануваат сè по способни, трошокот за чекање за сигурност може да стане многу повисок од трошокот за претходно подготвување.