AI 2040: Superintellekt 2030-cu ilə qədər gələ bilərmi?

Süni intellekt bir çox əvvəlki texnologiyalardan daha sürətlə irəliləyir, amma ən böyük sual artıq süni intellektin bu gün nə edə biləcəyidir. Suallardan biri hansıdır ki, süni intellekt özünü inkişaf etdirmək qabiliyyətinə nə qədər tez sahib ola bilər.

Bu sual AI 2040: Plan A adlı mərkəzi bir yer tutur, Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt və Daniel Kokotajlo tərəfindən hazırlanmış bir senaridir. Layihə, insanlığın qəsdən superintellektə qarşı yarışını ləngitdiyi, sərhəd AI tədqiqatlarını şəffaf saxladığı və superhuman AI-yə doğru son addımı 2040-cı ilə qədər ləngitdiyi bir dünyanı təsəvvür edir.

Bu fikir, Kokotajlo’nun The Diary of a CEO adlı son müsahibəsi ilə müqayisədə daha da diqqət çəkir. Keçmiş OpenAI tədqiqatçısı, güclü AI-yə yönələn yarışın ictimaiyyətin dərk etdiyindən daha kritik bir nöqtədə ola biləcəyini iddia edir. O, bu keçidin fəlakətli şəkildə səhv getməsini çox yüksək ehtimal edir, eyni zamanda müsbət nəticənin mümkün olduğunu vurğulayır.

İndi ilə 2040 arasında nələr baş verə bilər, və süni intellekt sənayesi niyə Plan A-ya ehtiyac duyur?

AI 2040 nədir?

AI 2040, inkişaf etmiş süni intellektdən superintellektə keçidin idarə olunması ilə bağlı bir senaridir.

Onun müəllifləri sadə bir narahatlıqdan başlayırlar: əgər bir neçə şirkət və ölkə mümkün qədər tez ən güclü süni intellekt yaratmaq üçün mübarizə aparırsa, qalib iqtisadi, hərbi və siyasi gücün inanılmaz bir miqdarını əldə edə bilər.

Beləliklə, senari fərqli bir yanaşma təklif edir. Tam sürətli zəka yarışını davam etdirmək əvəzinə, hökumətlər inkişafı ləngitmək, şəffaflığı artırmaq və bir neçə ölkə və şirkətin iştirak etməsinə icazə vermək üçün beynəlxalq bir razılaşma müzakirə edəcəkdir.

Məqsəd süni intellektin inkişafını əbədi dayandırmaq deyil. Məqsəd zaman qazanmaqdır.

Plan A çərçivəsində dünya superintellektin inkişafını 2040-cı ilə qədər ləngidəcək, süni intellektin qabiliyyətlərini insan mütəxəssislərin ən yüksək səviyyəsinə uyğun olaraq tədricən artıracaq, orada dayanacaq və yalnız daha sonra həqiqətən superhuman sistemlərinə keçidi bərpa edəcək. Müəlliflər, Plan A-nı baş verməsi gözlənilən şeylərdən biri kimi deyil, tövsiyə olaraq açıq şəkildə təsvir edirlər.

AI 2040: Təklif olunan zaman cədvəli

Bu zaman cədvəli Kokotajlo tərəfindən müzakirə olunan daha aqressiv senarilərlə müqayisədə məqsədli olaraq mühafizəkar yanaşma sərgiləyir.

Niyə superintellekt bu qədər əhəmiyyətlidir?

Bugünkü süni intellekt sistemləri artıq bir zamanlar yüksək ixtisaslaşmış mütəxəssislərin icra etdiyi tapşırıqları yerinə yetirə bilir. Lakin əsl dönüş nöqtəsi, süni intellektin öz tədqiqatını apara biləcəyi zamanda baş verəcək.

Bir AI sistemini təsəvvür edin ki, daha yaxşı bir modellər dizayn edə bilir, onu sınaqdan keçirir, nəticələri təhlil edir, lazım olan kodu yazır, təlim prosesini optimallaşdırır və sonra bütün prosesi təkrarlayır.

Növbəti nəsil, əvvəlki nəsildən daha yaxşı süni intellekt tədqiqatını apara biləcək.

Bu, bir geri dönüş döngəsi yaradır:

daha yaxşı süni intellekt → daha yaxşı süni intellekt tədqiqatı → daha yaxşı süni intellekt → daha da yaxşı süni intellekt tədqiqatı

Bu, tez-tez zəka partlayışı olaraq təsvir edilir.

AI 2040, bu keçidin xüsusilə təhlükəli olduğunu iddia edir, çünki insanlar inkişaf döngəsindəki mövqelərini itirə bilər. Əgər süni intellekt sistemləri daha qabiliyyətli varisləri yaratmaqla məsuliyyət daşıyırlarsa, nəticədə yaranan sistemlərin nə üçün idarə oluna biləcəyini anlamaq çətinləşəcək.

Senari 2030-cu ili, süni intellekt tədqiqatının tam avtomatlaşdırıla biləcəyi potensial bir nöqtə olaraq təsvir edir. Əgər müdaxilə edilməzsə, bu nəzəri cəhətdən çox qısa bir müddət ərzində superintellektə yol aça bilər.

Daniel Kokotajlo-nun Xəbərdarlığı: AI gözləniləndən daha sürətli irəliləyə bilər

Daniel Kokotajlo bu eyni problemlərə daha şəxsi bir perspektiv gətirir.

Kokotajlo 2022-ci ildən OpenAI-də çalışmış və süni intellekt qabiliyyətlərinin inkişafını öncəgörmək üzərində fokuslanmışdı. Daha sonra şirkəti tərk etdi və nəzarətsiz bir süni intellekt yarışının riskləri barədə xəbərdarlıq edən tanınmış səslərdən biri oldu.

2026-cı ilin iyul ayında Steven Bartlett ilə etdiyi müsahibəsində, Kokotajlo, aparıcı süni intellekt laboratoriyalarında çalışan insanlar ilə danışığın ictimaiyyətin gözlədiyindən daha qısa zaman cədvəlini işarə etdiyini iddia etdi. O, 2027 və 2028 illərini, bəziləri üçün müsbət irəliləyişlərin baş verə biləcəyi illər olaraq xüsusi qeyd etdi.

Onun ən mübahisəli iddiası, o şəxsən süni intellektin "faciəvi şəkildə səhv getməsi" ehtimalını təxminən 70% olaraq qiymətləndirir, buna insanın tamamilə yox olması mümkün ssenariləri də daxildir. Bu rəqəm elmi bir ehtimal olaraq mütləq qəbul edilməməlidir. Bu, Kokotajlo-nun süni intellekt zaman cədvəliləri, uyğunluq, rəqabət və idarəçiliklə bağlı fərziyyələri əsasında etdiyi şəxsi risk qiymətləndirməsidir.

Bu fərqi unutmamaq vacibdir.

70% rəqəmi süni intellekt araşdırma icmasının konsensus proqnozu deyil. Bu, cəmiyyətin bir-birinə güclü təsir göstərə biləcək risklər kompleksini nə qədər ciddi qəbul etməsi barədə bir mübahisədir.

Süni İntellekt Yarışı İki Fərqli Problemi Yarada bilər

AI 2040 ilə Kokotajlo-nun müsahibəsində paylaşılan ən güclü fikrlərdən biri də süni intellektin təhlükəsizliyinin yalnız bir süni intellekt sisteminin "pis" və ya "yaxşı" olub-olmamasıyla bağlı olmadığıdır.

İki əsas risk var.

1. İnsanlar İdarəni İtirmək

Əgər bir süni intellekt sistemi insanlardan xeyli daha qabiliyyətli olur və öz varislərini inkişaf etdirməyə qadirdirsə, insanlar onun davranışını anlamaq və ya idarə etməkdə çətinlik çəkə bilərlər.

Mövcud əsas sual sadədir:

Nə qədər ağıllı və sürətli bir şeyi necə idarə edirsiniz?

AI 2040, hazırki yarışın sonunda insanlar artıq daha qətnamə qüvvəsinə sahib olmayan daha müstəqil sistemlərlə üzləşə biləcəyini iddia edir.

2. İnsanlar İdarəni Saxlayır, Amma Yalnız Bir Neçə İnsan

İkinci ehtimal əvvəlcə daha təhlükəsiz görünə bilər.

Deyək ki, aparıcı süni intellekt şirkətləri sistemlərini insan məqsədləri ilə müvəffəqiyyətlə uyğunlaşdırır. Problemlə yalnız güc konsentrasiyası yaranır.

Bir şirkət, hökumət və ya kiçik bir qrup dünyanın ən güclü süni intellekt sistemlərini nəzarət edirsə, iqtisadiyyata, hərbi texnologiya, informasiya və infrastruktura barədə bənzərsiz təsirə malik ola bilər.

Başqa sözlə, süni intellektin uyğunluğunu həll etmək siyasi problemi avtomatik olaraq həll etməyəcək.

İş yerlərinə nə olur?

İqtisadi təsir, hər iki senarinin digər bir əsas tərəfini təşkil edir.

AI 2040, süni intellekt agentlərinin insanlar ilə yanaşı ikinci bir əmək qüvvəsi halına gəldiyi yaxın gələcəyi təsəvvür edir. Millionlarla proqram təminatına əsaslanan agentlər fasiləsiz fəaliyyət göstərə bilər, tapşırıqları maşın sürəti ilə icra edər.

Vacib dəyişiklik, yalnız chatbotların daha yaxşı köməkçilərə çevrilməsi deyil.

Bunun əvəzinə, şirkətlər süni intellekti ümumi məqsədli işçi qüvvəsi kimi qəbul etməyə başlaya bilərlər.

Bir iş yeri yeni peşəyə və ya sektora daxil olmaq qərarına gələ bilər, lazım olan məlumatları toplaya bilər, təlim mühitləri yarada bilər, süni intellekt agentlerini yayımlaya bilər və onları reallıqda istifadə etməklə davamlı olaraq inkişaf etdirə bilər. AI 2040, bu prosesi proqram mühəndisliyindən bir çox digər ağ yaxalı peşələrə yayılma ehtimalı ilə təsvir edir.

Bu çətin bir iqtisadi sual yaradır:

İntellekt bol olduğu zamanda, lakin insan əməyinin artıq qıt olmadığı zaman nə baş verir?

Düz bir neçə əsr boyu, gəlir insanların faydalı iş təqdim etmə qabiliyyəti ilə əhəmiyyətli dərəcədə əlaqələndirilmişdir. Əgər süni intellekt əksər kognitiv işləri daha aşağı xərclə yerinə yetirə bilirsə, bu əlaqə qırılabilir.

Kokotajlo işsizlik ilə bağlı xüsusilə pessimistdir. Müsahibədə, o deyir ki, insanlar geniş miqyaslı iş itkisinin mümkünlüyünü ciddi qəbul etməlidir və çox sayda işçinin sonunda süni intellekt sistemləri ilə rəqabət apardığını söyləyir.

Ancaq nəticə mütləq kütləvi kasıblıq deyil.

Əgər süni intellekt məhsuldarlığı dramatik şəkildə artırarsa və bunun faydaları geniş şəkildə bölüşdürülərsə, insanlıq əvəzinə bənzərsiz bir bolluq dövrü yaşayabilir.

Bu AI 2040-da baş verən əsas müqayisələrdən biridir: eyni texnologiya ya şiddətli rifahla, ya da gücün və var-dövlətin şiddətli konsentrasiyası ilə nəticələnə bilər, onun necə idarə olunduğuna bağlıdır.

Plan A nədir?

Plan A, süni intellekt yarışının təşviqini dəyişdirmək cəhdidir.

Onun əsas təklifi, ölkələri və şirkətləri təhlükəsizlik tədbirləri olmadan superintellektə doğru yarışa girmələrini dayandıran, xüsusilə ABŞ ilə Çin arasında bir beynəlxalq razılaşmadır.

Plan bir neçə əsas prinsiplərə əsaslanır.

Tam Tədqiqat Şəffaflığı

Süni intellekt şirkətləri iç inkişafları, model spesifikasiyaları, sistemlərin daxili necə istifadə edilməsi və süni intellekt tədqiqatına ayrılmış hesablama gücü haqqında daha çox məlumat təqdim etməli.

Fikir sadədir: hökumətlər görə bilmədiyi şeyləri tənzimləyə bilmir.

Qabiliyyətin Daha Aşağı İnkishafı

Hər yeni modelin maksimum mümkün qabiliyyətinə dərhal itələməsi əvəzinə, süni intellektin inkişafı müvafiq həddlər ətrafında məqsədli şəkildə ləngidiləcəkdir.

Bu, tədqiqatçılara və hökumətlərə yeni qabiliyyətləri qiymətləndirmək və təhlükəsizlik tədbirlərini inkişaf etdirmək üçün daha çox zaman verəcək.

Yoxlama və Hesablama İzləməsi

AI 2040, şirkətlərin hesablama resursları ilə nə etdiklərini təsdiq etmək üçün texniki sistemləri müzakirə edir. Süni intellekt çiplerini, məlumat mərkəzlərini və geniş təlim performanslarını izləmək beynəlxalq razılaşmaları daha asanlıqla tətbiq oluna bilər.

Birkaç Süni İntellekt Lideri

Plan A, bir şirkətin superintellektin şübhəsiz sahibi olacağı bir dünya görmür.

Müəlliflər bir neçə şirkətin və ölkənin süni intellekti müştərək təhlükəsizlik qaydaları altında inkişaf etdirərək rəqabət edə biləcəyi bir dünya tərəfdarıdırlar.

Altında yatan məqsəd, süni intellekt yarışını süni intellekt monopoliyası ilə əvəzləməkdən qaçmaqdadır.

Niyə 2040?

2040-cı il sehrli bir tarix kimi təqdim edilmir.

Bu, qəsdən bir təhlükəsizlik tamponudur.

Senaridə, süni intellekt təxminən 2030-cu illərdə avtomatlaşdırılmış tədqiqatın mümkün olduğu nöqtəyə çata bilər. İmkanların dərhal zəka partlayışı yaratmasına icazə vermək əvəzinə, insanlıq inkişafı bir neçə il ərzində ən yaxşı insan mütəxəssisləri arasında saxlayacaq.

2035-də inkişaf dayanacaq.

Yalnız 2040-cı ildən məhdudiyyətlər götürüləcək və dünya qəsdən superintellektə doğru yönələcək.

Bu, Plan A-nın mərkəzi fəlsəfi fikridir:

İnsanlıq hələ nəzarət etməyi öyrənmədiyi bir texnologiya ilə yarışa girmamalıdır.

AI 2040 bir proqnozdurmu?

Düz deyil.

Bu, layihəni oxuduğunda bəlkə də ən vacib nöqtədir.

Müəlliflər, Plan A-nın əsasən bir tövsiyə olduğunu, proqnoz olmadığını açıq şəkildə bəyan edirlər. Onlar bir detallı senari yaratdılar, çünki siyasət təklifləri abstrakt olaraq dəstəkləmək asandır, lakin reallığa uyğun bir zaman cədvəli ilə test etmək daha çətindir.

Başqa sözlə, AI 2040 soruşur:

Bu siyasəti həyata keçirdiyimizdə gələcək necə görünəcək?

Bu, adi bir proqnozdan daha çox strateji simulyasiyaya yaxınlaşdırır.

Müəlliflər, superintellektin ortaya çıxmasına hökumətlərin müxtəlif cavablarının təqdim edildiyi müvafiq senariləri, Plan B, C, D, və S, təqdim edirlər.

Gerçək Suallar “Süni İntellekt İnsanlığı Məhv Edəcəkmi?” deyil

AI 2040’dan və Kokotajlo-nun müsahibəsindən ən faydalı dərs, fəlakətin qaçılmaz olmadığıdır.

Bu, süni intellektin növbəti inkişaf mərhələsinin hansı problemləri yarada biləcəyidir ki, bunlar sonradan həll edilə bilmir.

Əgər süni intellekt tədqiqatı tamamilə avtomatlaşdırılırsa, insan qərarlarının verilməsi üçün pəncərə daha da kiçikləşə bilər.

Bir şirkət müəyyən bir üstünlük əldə edərsə, gücü yenidən bölüşdürmək sonradan demək olar ki, mümkün olmayacaq.

Əgər milyonlarla iş yeri, iqtisadi institutların uyğunlaşmasından daha sürətli yox olarsa, hökumətlər əvvəlki miqyasda sosial kəsinti ilə üzləşə bilərlər.

Eyni zamanda, müsbət tərəflər də çoxdur.

Süni intellekt elmi tədqiqatı sürətləndirə, tibbi inkişaf etdirə, təhlükəli işləri avtomatlaşdıra, mal və xidmətlərin qiymətini azalda bilər və bu gün təsəvvür edilə bilməyəcək bolluq formalarını yarada bilər.

Kokotajlo özlüyündə bu fikri vurğulayır: süni intellektin içində pis bir şey olmadığını iddia etmir. Onun narahatlığı insanlığın keçidi təhlükəsiz şəkildə idarə edə biləcək şəkildə olmaya biləcəyidir.

AI 2040: Xəbərdarlıq, sayım deyil

AI 2040, 2040-a doğru bir sayım kimi oxunmamalıdır, eyni zamanda Kokotajlo-nun 70%-lik qiymətləndirməsi də insanlığın şanslarını əşya kimi ölçülməməlidir.

Bunun əvəzinə iki mənbə eyni strateji dilemmağı fərqli bucaqlardan təqdim edir.

Süni intellekt sənayesi, hökumətlərin və cəmiyyətin uyğunlaşmasından daha sürətli olaraq müstəqil sistemlərə doğru irəliləyir.

Ona görə də ən əhəmiyyətli suallardan biri superintellektin 2030-da, 2040-da, ya da daha sonradan gəlişidir deyil.

Həm də insanlığın ona qarşı müvafiq olacağın, texniki təhlükəsizliklər, beynəlxalq razılaşmalar və iqtisadi siyasətlərə malik olub-olmadığıdır.

Gələcəyin optimistik versiyası hələ də mümkündür: süni intellekt inanılmaz dərəcədə qabiliyyətli olur, məhsuldarlıq partlayış edir və faydaları geniş şəkildə bölüşdürülür.

Pesimist versiyası da asanlıqla təsəvvür edilə bilər: nəzarətsiz bir zəka yarışması ya insan nəzarətini itirməyə, ya da qeyri-adi güc konsentrasiyası yarada bilər.

Plan A, ikinci yolun qaçılmaz olmadığını seçmək cəhdidir.

Bu günə qədər müzakirələr açıqdır. Amma süni intellekt sistemləri daha da qabiliyyətli olduqca, dəqiqlik gözləyərək gözləmə qiyməti, erkən hazırlıq qiymətindən daha yüksək ola bilər.