AI 2040: Superintelligentlik 2030-yilda kelishi mumkinmi?

Sun’iy intellekt ko‘plab avvalgi texnologiyalardan tezroq rivojlanmoqda, ammo eng katta savol endi sun’iy intellektning bugun nimalar qila olishi emas. Bu sun’iy intellektni qanday qilib o‘zini o‘zi yaxshilash qobiliyatiga ega bo‘lishi uchun qancha vaqt ketishi masalasi.

Ushbu savol AI 2040: Plan A qismida joylashgan bo‘lib, bu sahna Tommas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt va Daniel Kokotajlo tomonidan ishlab chiqilgan. Loyihada insoniyat sun’iy intellektning superintelligentsiyaga olib boruvchi poygada maqsadli ravishda to‘xtab turishi, ilg‘or sun’iy intellekt tadqiqotlarini oshkora tutishi va superguman AIga erishishni 2040-yilgacha kechiktirishi tasavvur qilinadi.

Bu g‘oya Kokotajloning The Diary of a CEO programmasidagi yaqindagi intervyusi bilan taqqoslanganda yanada ajoyib ko‘rinadi. Avvalgi OpenAI tadqiqotchisi sun’iy intellektning kuchayishi uchun kurash jamoatchilik tasavvur qilganidan ancha yaqinroq bir kritik nuqtaga yetishi mumkinligini ta’kidlaydi. U sun’iy intellektning o‘zgarishi katastrofali usulda noto‘g‘ri rivojlanish ehtimolini juda yuqori deb baholaydi, lekin ijobiy natijalarning ham mumkinligini urg‘ulaydi.

Shunday bo‘lsa, 2040-yilgacha nima bo‘lishi mumkin, va nega sun’iy intellekt sanoati Plan Aga muhtoj?

AI 2040 Nima?

AI 2040 bulutdan superintelligentsiyaga o‘tish jarayonini boshqarish bo‘yicha sahna.

Tahrirchilar oddiy bir xavotirdan boshlaydilar: bir nechta kompaniyalar va davlatlar eng kuchli sun’iy intellektni iloji boricha tezroq yaratishga urinishsa, g‘olib iqtisodiy, harbiy va siyosiy kuchga juda katta ulushga ega bo‘lishi mumkin.

Shuning uchun, scenariy boshqa yondashuvni taklif qiladi. Kirish bo‘lishining o‘rniga, hukumatlar rivojlanishni sekinlashtiradigan xalqaro kelishuvni muhokama qilishadi, shaffoflikni oshiradilar va bir nechta davlatlar ham kompaniyalar jalb etishiga imkon beradilar.

Maqsad sun’iy intellektni abadiy rivojlanishini to‘xtatish emas. Bu vaqt xarid qilishdir.

Plan A doirasida, dunyo superintelligentsiyaning rivojlanishini 2040-yilgacha kechiktiradi, sun’iy intellekt qobiliyatlarini taxminan eng yuqori inson ekspertlari darajasiga koʻtaradi, u yerda to‘xtaydi va keyin haqiqatan ham superguman tizimlariga o‘tishni davom ettiradi. Tahrirchilar Plan Ani eng yaxshi bashorat sifatida, balki tavsiya sifatida aniq tavsiflaydilar.

AI 2040: Taklif qilingan vaqt jadvali

Ushbu vaqt jadvali Kokotajlo tomonidan muhokama qilingan ko‘proq tajovuzkor sahnalarga nisbatan aniqroq.

Nega Superintelligence bunday muhim?

Bugungi sun’iy intellekt tizimlari hozirda yuqori malakali mutaxassislardan talab qilgan vazifalarni bajarishi allaqachon mumkin. Ammo haqiqiy burilish nuqtasi sun’iy intellektning o‘z tadqiqotini o‘tkaza olishiga erishganida emas.

Yana bir sun’iy intellekt tizimida yaxshilangan model yaratishi, uni sinovdan o‘tkazishi, natijalarni tahlil qilishi, kerakli kodni yozishi, o‘qitish jarayonini optimallashtirishi va keyin butun jarayonni takrorlashi tasavvur qilinsa.

Keyingi avlod sun’iy intellekt tadqiqotini avvalgisidan ancha yaxshiroq bajarishi mumkin.

Bu orada qiziqarli aloqa hosil bo‘ladi:

yaxshi sun’iy intellekt → yaxshi sun’iy intellekt tadqiqoti → yaxshi sun’iy intellekt → yanada yaxshi sun’iy intellekt tadqiqoti

Bu ko‘pincha intellekt portlashi deb ta’riflanadi.

AI 2040 ushbu o‘tish xavfli ekanligini ta’kidlaydi, chunki insonlar rivojlanish doirasida o‘z o‘rnini yo‘qotishi mumkin. Agar sun’iy intellekt tizimlari tabiiy ravishda qobiliyatini oshirib borgan bo‘lsa, yanada samarali tizimlar qanday qilib boshqaruvda qolishi kerakligini tushunish qiyinlashadi.

Scenariy 2030-ni sun’iy intellekt tadqiqoti to‘liq avtomatlashtirilishi mumkin bo‘lgan potentsial nuqtasi sifatida ta’riflaydi. Aralashuvsiz, bu nazariy jihatdan juda qisqa vaqt ichida superintelligentsiyaga olib kelishi mumkin.

Daniel Kokotajloning ogohlantiruvi: AI kuta turibdi

Daniel Kokotajlo bu muammoni shaxsiy nuqtai nazardan o‘rganadi.

Kokotajlo 2022-yildan boshlab OpenAIda ishladi va sun’iy intellekt qobiliyatlari qanday rivojlanishi uchun prognoz qilish ustida ishladi. Keyinchalik kompaniyani tark etdi va nazorat qilinmagan sun’iy intellekt poygasining xavflari haqida ogohlantiradigan taniqli ovozlardan biriga aylandi.

2026-yil iyulida Steven Bartlett bilan o‘tkazgan intervyusida Kokotajlo uning sun’iy intellekt laboratoriyalaridagi odamlar bilan suhbatlashishlari ko‘pincha jamoatchilik kutganidan ancha qisqa muddatlar tomonga ishora qilishi haqida bahs yuritdi. U 2027 va 2028-yilni katta yutuqlar kutayotgan ba'zi sanoat ichidagi mutaxassislar haqidagi yillardan biri sifatida ko‘rsatdi.

Uning eng munozarali da'vosi shuki, u sun’iy intellektning “o‘ta yomon” bo'lishi ehtimolini shaxsiy hisobda taxminan 70% deb hisoblaydi, shuningdek, insonning yo‘q bo‘lishi mumkin bo‘lgan vaziyatlarni ham ko‘rib chiqadi. Ushbu raqam ilmiy havola sifatida qabul qilinmasligi kerak. Bu Kokotajloning sun’iy intellekt muddatlari, moslik, raqobat va boshqaruv haqidagi farazlariga asoslangan shaxsiy xavf baholashidir.

Ushbu farq muhimdir.

70% raqami sun’iy intellekt tadqiqoti hamjamiyatidan kelgan kelishuv emas. Bu xavflarning birgalikda qanday jiddiy qabul qilinishiga oid bir fikr.

AI Poygasi Ikkita Turli Muammo Yaratishi Mumkin

AI 2040 va Kokotajloning intervyusida eng kuchli fikrlardan biri sun’iy intellekt xavfsizligi “yomon” yoki “yaxshi” bo‘lishi haqida emasdir.

Ikki asosiy xavf mavjud.

1. Insonlar nazoratni yo‘qotishadi

Agar sun’iy intellekt tizimi insonlardan ancha qobiliyatli bo‘lib, o‘z merosxo‘rlarini rivojlantirish qobiliyatiga ega bo‘lsa, insonlar natijada uning xatti-harakatini tushunish yoki nazorat qilishda qiyinchilikka duch kelishlari mumkin.

Asosiy savol juda oddiy bo‘lib qoladi:

Sizdan ancha aql-idrok va tezroq bo‘lgan narsani qanday nazorat qilasiz?

AI 2040 hozirgi raqobat oxir-oqibat insonlar tobora avtonom tizimlar ustidan nazoratni yo'qotishi mumkin deb ta’kidlaydi.

2. Insonlar nazoratda qolishadi, ammo faqat bir nechta insonlar

Ikki muammo boshlanishda xavfsizroq ko‘rinishi mumkin.

Agar yetakchi sun’iy intellekt kompaniyalari tizimlarini inson maqsadlariga moslashtirsalar, muammo kuchlarni konsentratsiyalashtirishga aylanishi mumkin.

Agar bir kompaniya, hukumat yoki kichik guruh dunyodagi eng qobiliyatli sun’iy intellekt tizimlarini nazorat qilsa, bu iqtisodiyot, harbiy texnologiya, axborot va infratuzilma ustida misli ko‘rilmagan ta’sirga ega bo‘lishi mumkin.

Boshqacha qilib aytganda, sun’iy intellektni moslashtirish muammoni avtomatik ravishda siyosiy muammo hal qilishni anglatmaydi.

Ish joylari qanday bo‘ladi?

Iqtisodiy ta’sir har ikki muammoli sahnaning muhim qismini anglatadi.

AI 2040 sun’iy intellekt agentlari insonlar bilan birga ikkinchi ish kuchiga aylanishi mumkin bo‘lgan yaqinda kelajakni tasvirlaydi. Millionlab dasturiy ta'minot agentlari doimiy ishlashi, ishni mashina tezligida bajarishi mumkin.

Muhim o‘zgarish nafaqat chatbotlarning yaxshiroq yordamchilarga aylanishi bo‘ladi.

Balki, kompaniyalar sun’iy intellektni umumiy maqsadlardagi ish kuchi sifatida ko‘rsatishni boshlaydi.

Biznes yangi kasb yoki tarmoqka kirishga qaror qilishi mumkin, kerakli ma'lumotlarni to‘plashi, ta'lim muhitlarini ishlab chiqishi, sun’iy intellekt agentlarini ishga joylashtirishi va ulardan amaliyot orqali doimiy ravishda foydalanishi, yaxshilashi mumkin. AI 2040 ushbu jarayonning dasturiy muhandislikdan ko‘plab oq yaka kasblariga tarqalishini tasvirlaydi.

Bu juda murakkab iqtisodiy savolni keltirib chiqaradi:

Intellekt mavjud bo‘lib qolganda, ammo inson mehnati endi kam bo'lmasa, qanday bo‘ladi?

Asrlar davomida, daromad odatda odamlarning foydali mehnatlarni taqdim etishga bog‘liq bo‘lgan. Agar sun’iy intellekt ko‘rsatilsa, juda arzon narxlarda intellektual vazifalarni bajarishi mumkin bo‘lsa, u holda bu aloqaning yo‘qolishi mumkin.

Kokotajlo jamiyatni ish o‘rinlari keng tarqalgan holda bo‘lishi mumkinligi haqida o‘ylashni tavsiya qiladi va ko‘plab ishchilar sun’iy intellekt tizimlari bilan raqobatlashishi mumkin bo‘ladi, degan fikriga pessimistik munosabatda.

Biroq, natija avtomatik ravishda ommaviy qashshoqlik emasdir.

Agar sun’iy intellekt samaradorlikni keskin oshirib, uning foydalari keng tarqatilib borsa, insoniyat o‘rniga o‘zingdan o‘zgacha farovonlik davriga duch kelishi mumkin.

Bu AI 2040dagi asosiy qarama-qarshilardan biridir: bir xil texnologiya juda ko‘p farovonlik yoki kuch va boylikning ekstremal koncentratsiyasini keltirib chiqarishi mumkin, bu qanday boshqarilishiga bog‘liq.

Plan A Nima?

Plan A asosan sun’iy intellekt poygasining rag‘batlarini o‘zgartirishga urinishdir.

Asosiy taklif xalqaro kelishuv, ayniqsa AQSh va Xitoy o‘rtasida bo‘lib, davlatlar va kompaniyalar uchun xavfsizlik choralari yetarli bo‘lmaganda superintelligentsiyaga qarshi poyga o‘ynashdan qochishdir.

Reja bir nechta asosiy printsiplarga tayanadi.

Umumiy Tadqiqot Shaffofligi

Sun’iy intellekt kompaniyalari o‘z ichki rivojlantirishlari haqida ko‘proq ma’lumot beradi, jumladan, model specifikatsiyalari, tizimlarning ichki ishga qanday qo‘llanilayotgani va uzluksiz sun’iy intellekt tadqiqotlari uchun qanday kompyuter quvvati ajratilayotganligi.

G‘oya oddiy: hukumatlar ko‘rmasalar, qanday boshqarishlari mumkin.

Qobiliyatni sekinlashtirish

Har yangi modelni maksimal qobiliyatiga yetkazmasdan, sun’iy intellekt rivojlanishini muhim chegara atrofida sekin rivojlantirishga mo‘ljallangan.

Bu tadqiqotchilar va hukumatlarga yangi qobiliyatlarni baholash va xavfsizlik choralarini ishlab chiqish uchun ko‘proq vaqt beradi.

Tasdiqlash va Hisob-kitob Kuzatuv

AI 2040 ham kompaniyalar tomonidan kompyuter resurslaridan foydalanishini tasdiqlash uchun texnik tizimlarni muhokama qiladi. Sun’iy intellekt chiplarini, ma'lumot markazlarini va katta o‘qitish tadbirlarini kuzatish xalqaro kelishuvlarni amalga oshirishni osonlashtiradi.

Bir nechta AI yetakchilari

Plan A yagona kompaniyaning superintelligentsiyaga ega bo‘lishini ko‘zda tutmaydi.

Tahrirchilar bir vaqtning o‘zida bir necha kompaniyalar va davlatlarning xavfsizlik qoidalari bo‘yicha sun’iy intellekt rivojlantirishda raqobatni saqlab qolishini ta’kidlaydilar.

Asosiy maqsadi sun’iy intellekt poygasini sun’iy intellekt monopoli bilan almashtirishdan saqlanishdir.

Nima uchun 2040?

2040-yil sehrli sanadir, deb aytilmaydi.

Bu muqaddas xavfsizlik oralig‘i.

Scenariyga muvofiq sun’iy intellekt avtomatlashtirilgan tadqiqot imkoniyatiga 2030-yilda erishishi mumkin. Ushbu qobiliyatni tez intellekt portligini keltirib chiqarishiga ruxsat berish o‘rniga, insoniyat rivojlanishni bir necha yil davomida eng yaxshi inson ekspertlari darajasida saqlaydi.

2035-yilda rivojlanish to‘xtashi kerak.

Faqat 2040-yilda cheklovlar olib tashlanadi va dunyo maqsadli ravishda superintelligentsiyaga o‘tadi.

Bu Plan Aning muhim falsafiy g‘oyasidir:

Insoniyat o‘zini nazorat qilmaydigan texnologiyaga toward poyga qilmasligi kerak.

AI 2040 Bashoratmi?

Ancha ishg‘ol qilmaydi.

Bu loyiha o‘qishda eng muhim nuqtalardan biridir.

Tahrirchilar aniq aytmoqdalar: Plan A, asosan, bashorat emas, balki tavsiya. Ular batafsil sahna yaratdilar, chunki siyosat takliflari nazariy bo‘lsa ham qo‘llab-quvvatlash oson, lekin real vaqt jadvaliga qarab sinovdan o‘tkazish juda qiyin.

Boshqacha qilib aytganda, AI 2040 shunday so‘raydi:

Agar biz ushbu siyosatni amalga oshirsak, kelajak qanday bo‘ladi?

Bu an’anaviy prognozdan ko‘ra strategik simulyatsiyaga yaqinroqdir.

Tahrirchilar shuningdek, superintelligentsiyaning paydo bo‘lishiga hukumatlar qanday javob berishi mumkinligini ko‘rsatuvchi alternativ sahnalarni ham taqdim etadilar, Plans B, C, D va S.

Asosiy Savol “Sun’iy Intellekt Insoniyatni Yo‘q qiladi?” emas.

AI 2040 va Kokotajloning intervyusidan eng foydali olingan xulosa shuki, falokatni oldini olish mumkin emas.

Keling, sun’iy intellektning rivojlanishining keyingi bosqichi muammolarni keltirib chiqarishi mumkin, agar buni keyinchalik hal qilishimiz mumkin bo‘lsa.

Agar sun’iy intellekt tadqiqotlari juda avtomatlashtirilsa, inson qarorlarini qabul qilish uchun imkoniyatlar qisqarishi mumkin.

Agar bir kompaniya hal qiluvchi afzalliklarga ega bo‘lsa, keyinchalik kuchni qayta taqsimlash qiyinlashadi.

Va agar millionlab ish o‘rinlari iqtisodiy institutlar tezkor yo‘lga o‘rganmasa, hukumatlar ijtimoiy izlanishlarga duch kelishlari mumkin.

Bir vaqtning o‘zida, ijobiy mumkinlik juda katta.

Sun’iy intellekt ilmiy tadqiqotlarni tezlashtirishi, tibbiyotning yaxshilanishiga, xavfli ishlarni avtomatlashtirishga, mahsulotlar va xizmatlar narxini pasaytirishga va bugun tasavvur qilinmaydigan farovonlikni yaratishga qodir.

Kokotajlo shunday tushuntiradi: u sun’iy intellektning yomonligi haqida bahs yuritmaydi. Uning tashvishi shundaki, insoniyat xavfsiz o'tishga muvaffaq bo'lmaydi.

AI 2040: Ogohlantirish, Hisoblagich emas

AI 2040-ni 2040-yilga qadar umumiy hisoblanuvchi hisoblash sifatida o‘qish mumkin emas, shuningdek, Kokotajlonning 70% taxmini ham insoniyat imkanlarining ob’ektiv o‘lchovi sifatida sharxlanmaydi.

Balki, ikki manba bir xil strategik injiqni turli burchaklardan taqdim etadi.

Sun’iy intellekt sanoati ehtimoliyatni yanada avtonom tizimlar tomon harakatlanayotgan bo‘lishi mumkin, hukumatlar va jamiyat moslashayotganidan tezroq.

Shunday qilib, eng muhim savol superintelligence 2030, 2040 yoki keyin oʻtadigan bormi yoki yoʻqmi, degan savol boʻlishi mumkin.

Insoniyat shunday muassasalarni, texnik himoyalarni, xalqaro kelishuvlarni va uni hal qilish uchun iqtisodiy siyosatga ega bo‘lishiga erishadimi, degan savol.

Kelajakning optimistik versiyasi hali ham mumkin: sun’iy intellekt nihoyatda qobiliyatli bo‘ladi, ishlab chiqarish olib boradi va uning foydalari keng tarqaladi.

Pessimist versiyasi ham oson tasavvur qilish mumkin: nazorat qilinmaydigan intellekt poygasi inson nazoratining yo‘q bo‘lishiga yoki kuchni mislsiz konsentratsiyalashishiga olib keladi.

Plan A ikkinchi yo‘lni oldini olish uchun birinchi yo‘lni tanlash urinishidir.

Hozirda muhokama ochiq qolmoqda. Lekin sun’iy intellekt tizimlari tobora qobiliyatli bo‘lganida, ishonch kutish narxi dastlab tayyor bo‘lish narxidan ancha yuqori bo‘lishi mumkin.