AI 2040: Суперинтеллект 2030 жылға дейін келеді ме?

Жасанды интеллект бұрынғы көптеген технологиялардан жылдам дамып жатыр, бірақ ең басты сұрақ енді AI-дің бүгін не істей алатыны емес. Енді AI-дің өз-өзін жақсартуға қаншалықты жылдам қабілетті бола алатыны.

Бұл сұрақ AI 2040: Plan A жобасының орталығында жатыр, оны Томас Ларсен, Ромео Дин, Брэндан Халстед, Эли Лифланд, Райан Гринблат және Даниэль Кокотайло әзірлеген. Жоба адамдардың суперинтеллектке дейінгі жарысты әдейі тежеп, шекаралық AI зерттеулерін ашық ұстап, суперадам AI-дың соңғы сатысын 2040 жылға дейін кейінге қалдыратынын елестетеді.

Осы идея Кокотайлоның "The Diary of a CEO" бағдарламасындағы соңғы сұхбатына қарағанда тіпті қызықты болады. Бұрынғы OpenAI зерттеушісі, күшті AI-ға қарай жарыстың қоғамдық түсінуіне қарағанда, критикалық нүктеге әлдеқайда жақын болуы мүмкін екенін айтады. Ол AI өтпелі кезеңінің апаттық түрде кездейсоқ болу ықтималдығын өте жоғары деп бағалайды, бірақ позитивті нәтижені де мүмкін деп атап өтеді.

Міндетті түрде не болады, 2040 жылға дейін не болуы мүмкін, және AI индустриясы неге Plan A-ны қажет етеді?

AI 2040 деген не?

AI 2040, жетілдірілген AI-дан суперинтеллектке өту процесін басқару сценарийі.

Авторлары өте қарапайым алаңдаушылықтан басталады: егер бірнеше компания мен мемлекет ең қуатты AI-ды барынша жылдам жасау үшін бәсекелессе, жеңімпаз экономикалық, әскери және саяси күштердің шексіз мөлшеріне ие болуы мүмкін.

Сондықтан, сценарий басқа тәсілді ұсынады. Оны әзірлеуге игілік жасамас үшін, үкіметтер дамуды тежеу, ашықтықты көтеру және бірнеше елдер мен компаниялардың қатысуына мүмкіндік беру үшін халықаралық келісімді келіседі.

Мақсат, AI-ды мәңгілікке дамытуға тоқтату емес. Уақыт сатып алу.

Plan A бойынша, әлем суперинтеллекттің дамуын 2040 жылға дейін кешіктіреді, AI мүмкіндіктерін жоғарғы адам сарапшылары деңгейіне шамамен жеткізіп, сол жерде тоқтайды да, шынайы суперадам жүйелеріне қарай өтуді кейінірек қайта бастайды. Авторлар Plan A-ны өздерінің ең жақсы болжауы емес, ұсынысы ретінде нақты түрде сипаттайды.

AI 2040: Ұсынылған уақыт кестесі

Бұл уақыт кестесі Кокотайлоның талқылаған агрессивті сценарийлеріне қарағанда әдейі консервативті болып келеді.

Неге суперинтеллект маңызды?

Бүгінгі AI жүйелері жоғары білікті сарапшыларды қажет ететін тапсырмаларды орындауға қабілетті. Бірақ шынайы түбегейлі өзгеріс AI өзі AI зерттеулерін жүргізе алатын деңгейге жеткенде болады.

Бір AI жүйесін елестетіңіз, ол жақсартылған модель жобалап, оны тестілеуге, нәтижелерді талдауға, қажетті кодты жазуға, оқу процесін оңтайландыруға және одан кейін бүкіл процесті қайталауға қабілетті.

Келесі буын AI зерттеулерінде өзінен әлдеқайда жақсырақ болуы мүмкін.

Бұл байлау шеңберін қалыптастырады:

жақсы AI → жақсы AI зерттеулері → жақсы AI → одан да жақсы AI зерттеулері

Бұл жиі интеллект жарылысы ретінде сипатталады.

AI 2040 бұл өтпелі кезеңнің әсіресе қауіпті екенін, өйткені адамдар даму циклындағы позициясын жоғалтуы мүмкін екенін айтады. Егер AI жүйелері жақсырақ қабілетті мұрагерлер жасауда жауапты болса, онда нәтижесінде алынған жүйелердің басқарылатындығын неге түсіну қиындап кетеді.

Сценарий 2030 жылды AI зерттеулері толық автоматтандырылатын мүмкіндіктердің нүктесі ретінде сипаттайды. Егер араласу болмаса, бұл теориялық тұрғыдан өте қысқа мерзімде суперинтеллектке әкелуі мүмкін.

Даниэль Кокотайлоның ескертпесі: AI күтпегеннен де жылдам қозғалу мүмкін

Даниэль Кокотайло сол проблеманы жеке перспективадан қарастырады.

Кокотайло 2022 жылдан бастап OpenAI-да жұмыс істеді және AI мүмкіндіктерінің қалай дамуы мүмкін екенін болжауға назар аударды. Кейін ол компаниядан қол үзді және бақылаусыз AI жарысының қауіптері туралы ескертіп жүрген даңқты дауысқа айналды.

2026 жылғы шілде айындағы Стивен Бартлетпен сұхбатында Кокотайло жетекші AI зертханаларында жүрген адамдармен сөйлесу, көбінесе қоғамдық күтуден жаппай қысқа уақыт кестелеріне нұсқайтынын статистикалаған. Ол 2027 және 2028 жылдарын маңызды жаңалықтарға арналған ықтимал жылдар ретінде атап өтті.

Оның ең контроверсиялық тұжырымы, AI «өте жаман» болу ықтималдығын шамамен 70% деп бағалайды, оның ішінде адамзаттың жойылуына алып келетін сценарилер де бар. Бұл санды орнатылған ғылыми ықтималдық ретінде қарастыруға болмайды. Бұл Кокотайлоның AI уақыт кестелері, үйлесімділік, бәсеке және басқару туралы көзқарастарынан негізделген жеке қорытындысы.

Бұл ерекшелік маңызды.

70% көрсеткіші AI зерттеу қауымдастығынан консенсуалды болжам емес. Бұл қоғамның бір-бірін нығайтатын қауіпті қоспа ретінде қаншалықты байсалды қарастыруы қажет екендігі туралы аргумент.

AI жарысы әртүрлі проблемаларды туындата алады

AI 2040 және Кокотайлоның сұхбатында бөлісілген ең күшті идеялардың бірі AI қауіпсіздігі тек AI жүйесінің «зұлым» немесе «жақсы» болуына байланысты емес.

Кемінде екі негізгі қауіп бар.

1. Адамдар бақылауды жоғалтады

Егер AI жүйесі адамдардан едәуір қабілетті болса және өз мұрагерлерін жақсарта алса, адамдар оның мінез-құлқын түсіну немесе басқару қиынға соғуы мүмкін.

Кілт сұрағы қарапайым:

Сізден айтарлықтай ақылдылармен және жылдамырақ нәрсені қалай бақылауға болады?

AI 2040 қазіргі жарыс eventually people lose ефективті бақылауды сақтай алмайтын автономды жүйелерге әкелуі мүмкін деп есептейді.

2. Адамдар бақылауды сақтайды, бірақ тек бірнеше адам

Екінші мүмкіндігі алғашқыда қауіпсіз түрде көрінуі мүмкін.

Егер жетекші AI компаниялары өз жүйелерін адам мақсаттарына сай келтіруге жетістікке жетсе, мәселе билік концентратына айналады.

Егер бір компания, үкімет немесе шағын топ әлемнің ең қабілетті AI жүйелеріне ие болса, ол экономика, әскери технологиялар, ақпарат және инфрақұрылым бойынша теңдессіз ықпал алуы мүмкін.

Басқаша айтқанда, AI үйлесімділігін шешу саясаттық мәселелерді автоматты түрде шеше алмайды.

Жұмыстарға не болуы мүмкін?

Экономикалық әсер екі сценарийдің басты бөлігі болып табылады.

AI 2040 AI агенттерінің адамзатпен қатар екінші еңбек күші болып шығатын жақын болашақты елестетеді. Миллиондаған бағдарламалық компоненттер үздіксіз жұмыс істеп, тапсырмаларды машина жылдамдығымен орындай алады.

Маңызды өзгеріс тек чат-боттардың жақсартылған көмекшілерге айналуы емес.

Керісінше, компаниялар AI-ды жалпы мақсаттағы еңбек күші ретінде қарастыра бастайды.

Бизнес жаңа кәсіпке немесе салаға кіруге, қажетті деректерді жинауға, оқу орталарын құрастыруға, AI агенттерін енгізуге және оларды шынайы қолдануда үздіксіз жақсартуға шешім қабылдауы мүмкін. AI 2040 бұл процесті бағдарламалау инженериясынан басқа ақ жағалы мамандықтарға таралуы ретінде сипаттайды.

Бұл күрделі экономикалық сұрақты тудырады:

Интеллект молайып, бірақ адам еңбегі қымбат болмай қалса, не болады?

Ғасырлар бойы, табыс адамдардың пайдалы еңбек көрсету қабілетіне тікелей байланыстырылды. Егер AI көпшіліктің когнитивті тапсырмаларын төмен құнымен орындай алса, бұл байланыс бұзылуы мүмкін.

Кокотайло жұмыспен қамтылу мәселелеріне әсіресе пессимистік жапа шегеді. Сұхбаты кезінде көптеген жұмысшылар AI жүйелерімен бәсекеге тұруы мүмкіндігін құқықты тұрғыда нақты алуы керек дейді.

Алайда, нәтиже міндетті түрде жаппай кедейлік емес.

Егер AI өнімділікті айтарлықтай арттырса, ал оның пайдасы кеңінен таратылса, адамзат бұрын-соңды болмаған молшылық кезеңін бастан өткеруі мүмкін.

Бұл AI 2040-тағы басты контрасттардың бірі: бір және сол технологиядан өте байлық пен күштің шексіз концентрациясы туындауы мүмкін, бұл қалай басқарылуына байланысты.

Plan A деген не?

Plan A негізінен AI жарысының ынталандыруларын өзгертуге талпыныс.

Оның негізгі ұсынысы, әсіресе АҚШ пен Қытай арасында, қауіпсіздік шаралары жеткіліксіз суперинтеллектке қарай жүгірмейтін мемлекеттер мен компанияларды болдырмауға арналған халықаралық келісім.

Жоспар бірнеше негіздерді қамтиды.

Толық зерттеу ашықтығы

AI компаниялары өздерінің ішкі дамуы туралы, модель спецификациялары, жүйелердің ішкі қолданылуы, және AI зерттеулеріне арналып жаткан есептеу қуаты туралы көп ақпарат беруі керек.

Идея тікелей: үкіметтер көруге болмайтын нәрсені басқара алмайды.

Қабілет масштабын баяулату

Әр жаңа моделді мүмкіншіліктерінің максималды мүмкіндігіне бірден жол берудің орнына, AI дамуы мүмкіндікке қатысты критикалық шектерді айналып өтеді.

Бұл зерттеушілер мен үкіметтерге жаңа мүмкіндіктерді бағалауға және қауіпсіздік шараларын әзірлеуге көбірек уақыт береді.

Тексеру және есептеу мониторингі

AI 2040 компаниялардың есептеу ресурстарымен не істеп жатқандарын тексеруге арналған техникалық жүйелерді талқылайды. AI чиптерін, деректер орталықтарын және үлкен оқу бағдарламаларын бақылау халықаралық келісімдерді орындауды оңайлатуы мүмкін.

Көптеген AI көшбасшылары

Plan A бір компанияның суперинтеллекттің ешбір талассыз иесі болуын көздемейді.

Авторлар бірнеше компаниялар мен мемлекеттер қауіпсіздік ережелеріне негізделген түрде AI дамытып бәсекелестік ұстай алатын әлемді дәлелдейді.

Негізгі мақсат AI жарысын AI монополиясымен ауыстырудан болдырмау.

Неге 2040?

2040 жыл сиқырлы күні ретінде көрсетілмейді.

Бұл әдейі қауіпсіздік буфері.

Сценарий бойынша, AI автоматтандырылған зерттеудің мүмкіндігіне 2030 жылда жақын жетуі мүмкін. Сол қабілетті бірден интеллект жарылысына әкелуге рұқсат берудің орнына, адамзат дамуды бірнеше жыл бойы үздік адам сарапшыларының диапазонында ұстап қалады.

2035 жылы даму тоқтатылады.

Тек 2040 жылы шектеулер алынып тасталады және әлем суперинтеллектке қарай саналы түрде жылжиды.

Бұл Plan A-ның орталық философиялық идеясы:

Адамзат басқаруды білмейтін технологияға қарай жарысты тоқтатпауы керек.

AI 2040, бұл болжам ба?

Дәл емес.

Бұл жоба оқып отырған кезде ең маңызды мәселе болуы мүмкін.

Авторлары Plan A-ны көбіне ұсыныс деп атап өтеді, болжам емес. Олар саясат ұсыныстарын абстрактылы түрде жеңіл қолдауға болатынын, бірақ реалистік уақыт кестесіне тексеруде қиын болатындықтан, егжей-тегжейлі сценарий жасап шығарды.

Басқаша айтқанда, AI 2040 сұрайды:

Біз бұл саясатты іске асырсақ, болашақ шын мәнінде қандай болады?

Бұл оны дәстүрлі болжау орнына стратегиялық симуляцияға көбірек ұқсатады.

Авторлар сонымен қатар суперинтеллекттің пайда болуына мемлекеттер әртүрлі жауап беру жолдарын ұсынады, Plan B, C, D және S.

Шын мәселе: "AI адамзатты жоя ма?"

AI 2040 және Кокотайлоның сұхбатынан алынатын ең пайдалы сабақ, апаттың ажырамас болуы емес.

Бұл AI дамуының келесі кезеңі кейіннен шешілмейтін проблемаларды туындатуы мүмкін.

Егер AI зерттеулері жоғары автоматтандырылған болса, адам шешім қабылдау терезесі айтарлықтай тарылуы мүмкін.

Егер бір компания шешуші артықшылыққа ие болса, билікті кейін бөлу іс жүзінде мүмкін болмай қалуы мүмкін.

Ал егер миллиондаған жұмыс орындары экономикалық мекемелер бейімделгенше тезірек жойылса, үкіметтер ешқандай тәжірибесі жоқ әлеуметтік құлдырауымен бетпе-бет келуі мүмкін.

Бір уақытта, оң жағы зор.

AI ғылыми зерттеулерді жеделдету, медицинаны жақсарту, қауіпті жұмыстарды автоматтандыру, тауарлар мен қызметтер құнын төмендету, бүгінгі таңда елестету қиын молшылық формаларын жасау мүмкін.

Кокотайло өзі осы мәселені атап өтеді: ол AI-ді жамандығына қарсы наразылық білдірмейді. Оның алаңдаушылығы, адамзат бұл өтпелі кезеңді қауіпсіз түрде басқаруға мүмкін болмайтындығында.

AI 2040: Ескерту, Құлау емес

AI 2040-ты 2040 жылға нақты есеп жүргізетін уақыт кестесі ретінде қарастырмау керек, сондай-ақ Кокотайлоның 70% бағалауы адамзаттың мүмкіндіктерінің объективті өлшемі ретінде түсінбеу керек.

Керісінше, екі дереккөз бірдей стратегиялық дилеманы әртүрлі қырлардан атап көрсетеді.

AI индустриясы үкіметтер мен қоғамның бейімделуінен жылдам автономды жүйелерге қарай жылжып кетуі мүмкін.

Сондықтан, ең маңызды сұрақ, бәлкім, суперинтеллект 2030, 2040 немесе кейінірек келетінінде емес.

Бұл адамзат қажетті тиімді ұйымдарға, техникалық қауіпсіздік шараларына, халықаралық келісімдерге және экономикалық саясаттарға ие болу деңгейіне баруы немесе бармауында.

Оптимистік болашақ нұсқасы әлі де қолжетімді: AI өте қабілетті болады, өнімділік күрт артады, ал оның пайдасы кең таралады.

Пессимистік нұсқа да оңай елестетіледі: бақылаусыз интеллект жарылысы адам бақылауын жоғалтады немесе биліктің теңдессіз концентрациясын туындатады.

Plan A бірінші жолды таңдауға талпыныс, екіншісіне жол бермеу мүмкін болмай тұрып.

Қазіргі уақытта пікірталас ашық. Бірақ AI жүйелері барған сайын қабілетті болған сайын, анықтауды күту құны болады, тіпті дайын болу шығындарынан да асып кетуі мүмкін.