AI 2040: Süper Zekâ 2030'a Kadar Gelebilir Mi?

Yapay zeka, çoğu önceki teknolojiden daha hızlı ilerliyor, ancak en büyük soru artık yapay zekanın bugün neler yapabileceği değil. O, yapay zekanın kendini ne kadar hızlı geliştirme yeteneğine sahip olabileceği.

Bu soru, Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt ve Daniel Kokotajlo tarafından geliştirilen AI 2040: Plan A senaryosunun merkezinde yer alıyor. Proje, insanlığın kasıtlı olarak süper zekâya giden yarışı yavaşlattığı, öncü yapay zeka araştırmalarını şeffaf tuttuğu ve insanüstü yapay zekâya giden son adımı 2040'a ertelediği bir dünyayı hayal ediyor.

Bu fikir, Kokotajlo'nun CEO Günlüğü'ndeki son röportajıyla karşılaştırıldığında daha da çarpıcı hale geliyor. Eski OpenAI araştırmacısı, giderek daha güçlü yapay zekâ yarışının, halkın fark ettiği kadardan çok daha kritik bir noktaya yakın olabileceğini savunuyor. Yapay zeka geçişinin felaketle sonuçlanma olasılığını kişisel olarak çok yüksek tahmin ediyor, ancak olumlu bir sonucun hala mümkün olduğunun altını çiziyor.

Yani, şimdi ile 2040 arasında ne olabilir - ve yapay zeka endüstrisinin neden bir Plan A'ya ihtiyacı var?

AI 2040 Nedir?

AI 2040, gelişmiş yapay zekâdan süper zekâya geçişi yönetme senaryosudur.

Yazarları, birkaç şirketin ve ülkenin mümkün olan en hızlı şekilde en güçlü yapay zekayı geliştirmek için rekabet etmesi durumunda, kazananın olağanüstü bir ekonomik, askeri ve politik güç kazanabileceği basit bir kaygıdan başlar.

Bu nedenle senaryo, farklı bir yaklaşım öneriyor. Tüm hızıyla bir zeka yarışına izin vermek yerine, hükümetler, gelişimi yavaşlatan, şeffaflığı artıran ve birçok ülke ve şirketin dahil olmasına olanak tanıyan uluslararası bir anlaşmayı müzakere edecekler.

Amaç, yapay zeka gelişimini sonsuza dek durdurmak değil. Amacı zaman kazanmaktır.

Plan A kapsamında, dünya süper zekâ geliştirimini 2040'a kadar erteleyecek, yapay zekâ yeteneklerini üst düzey insan uzmanlarının seviyesine kademeli olarak ölçeklendirecek, orada duracak ve ancak daha sonra gerçekten insanüstü sistemlere geçişi yeniden başlatacaktır. Yazarlar, Plan A'nın, gerçekleşecek en iyi tahminleri değil, bir öneri olarak açıkça tanımlandığını belirtmektedirler.

AI 2040: Önerilen Zaman Çizelgesi

Bu zaman çizelgesi, Kokotajlo tarafından tartışılan daha agresif senaryolarla karşılaştırıldığında kasıtlı olarak tutumludur.

Neden Süper Zekâ Bu Kadar Önemli?

Günümüz yapay zeka sistemleri, bir zamanlar yüksek eğitimli profesyonellerin gerektirdiği görevleri zaten yerine getirebiliyor. Ancak gerçek dönüm noktası, yapay zekanın kendi araştırmalarını kendisi yapabilir hale geldiği zaman gerçekleşecektir.

Daha iyi bir model tasarlayabilen, test edebilen, sonuçları analiz eden, gerekli kodu yazan, eğitim sürecini optimize eden ve tüm süreci tekrar eden bir yapay zeka sistemi hayal edin.

Bir sonraki nesil, öncekinden daha iyi yapay zeka araştırması yapabilir.

Bu, bir geri bildirim döngüsü oluşturur:

daha iyi yapay zeka → daha iyi yapay zeka araştırması → daha iyi yapay zeka → daha da iyi yapay zeka araştırması

Bu genellikle bir zeka patlaması olarak tanımlanır.

AI 2040, bu geçişin özellikle tehlikeli olduğunu savunuyor çünkü insanlar gelişim döngüsündeki konumlarını kaybedebilir. Yapay zeka sistemleri, giderek daha yetenekli halefler yaratmaktan sorumlu olursa, sonuçta ortaya çıkan sistemlerin neden kontrol edilebilir kalacağını anlamak daha zor hale gelecektir.

Senaryo, 2030'u yapay zeka araştırmasının tamamen otomatik hale gelebileceği bir potansiyel nokta olarak tanımlıyor. Müdahale olmadan, bu teorik olarak çok kısa bir süre içinde süper zekâya yol açabilir.

Daniel Kokotajlo'nun Uyarısı: Yapay Zeka Beklenenden Daha Hızlı Hareket Edebilir

Daniel Kokotajlo, aynı probleme daha kişisel bir bakış açısı getiriyor.

Kokotajlo, 2022'den itibaren OpenAI'de çalıştı ve yapay zeka yeteneklerinin nasıl gelişebileceğini tahmin etmeye odaklandı. Daha sonra şirketten ayrıldı ve kontrolsüz bir yapay zeka yarışı konusunda uyarıda bulunan önde gelen seslerden biri haline geldi.

Temmuz 2026'da Steven Bartlett ile yaptığı röportajda Kokotajlo, öncü yapay zeka laboratuvarlarındaki insanlarla yapılan konuşmaların genellikle halkın beklentilerinden daha kısa zaman çizelgelerine işaret ettiğini savundu. 2027 ve 2028'i bazı sektördeki içgörülerinin büyük atılımlar için makul yıllar olarak değerlendirdiği yıllar olarak özellikle belirtti.

En tartışmalı iddiası, kendisinin yapay zekanın "berbat şekilde yanlış gitme" olasılığını yaklaşık %70 olarak tahmin etmesidir; bu senaryolar insanlığın yok olma ile sonuçlanabilir. Bu rakam, yerleşik bir bilimsel olasılık olarak değerlendirilmemelidir. Kokotajlo'nun, yapay zeka zaman çizelgeleri, uyum, rekabet ve yönetim konusundaki varsayımlarına dayanan kişisel bir risk tahmini.

Bu farklılık önemlidir.

%70 rakamı, yapay zeka araştırma topluluğunun bir konsensüs tahmini değildir. Bu, toplumun, birbirini pekiştirebilecek bir riskler kombinasyonunu ne kadar ciddiye alması gerektiği hakkında bir argümandır.

Yapay Zeka Yarışı İki Farklı Sorun Oluşturabilir

AI 2040 ve Kokotajlo'nun röportajında paylaşılan en güçlü fikirlerden biri, yapay zeka güvenliğinin sadece bir yapay zeka sisteminin "kötü" veya "iyi" olup olmadığı ile ilgili olmadığıdır.

En az iki büyük risk var.

1. İnsanlar Kontrolü Kaybeder

Eğer bir yapay zeka sistemi, insanlardan önemli ölçüde daha yetenekli hale gelirse ve kendi haleflerini geliştirebiliyorsa, insanlar sonunda davranışını anlamakta veya kontrol etmekte zorlanabilirler.

Anahtar soru basit hale gelir:

Çok daha zeki ve hızlı bir şeyi nasıl kontrol edersiniz?

AI 2040, mevcut yarışın, insanların giderek otonom sistemler üzerinde etkili kontrolü kaybettiği bir duruma yol açabileceğini savunuyor.

2. İnsanlar Kontrolü Tutuyor, Ama Sadece Birkaçı

İkinci olasılık başlangıçta daha güvenli görünebilir.

Diyelim ki önde gelen yapay zeka şirketleri sistemlerini insan hedefleriyle başarıyla hizaladı. O zaman sorun güç yoğunlaşması haline gelecektir.

Eğer bir şirket, hükümet veya küçük bir grup, dünyanın en yetenekli yapay zeka sistemlerini kontrol ederse, ekonomiye, askeri teknolojilere, bilgiye ve altyapıya karşı benzeri görülmemiş bir etki kazanabilir.

Başka bir deyişle, yapay zeka uyumunu sağlamak, siyasi sorunu otomatik olarak çözmeyecektir.

İşlere Ne Olacak?

Ekonomik etki, her iki senaryonun da bir diğer önemli parçasıdır.

AI 2040, yapay zeka ajanlarının insanlar yanında ikinci bir iş gücü haline geleceği bir yakın geleceği hayal ediyor. Milyonlarca yazılım tabanlı ajan sürekli çalışabilir, makine hızında görevleri tamamlayabilir.

Önemli değişiklik yalnızca sohbet botlarının daha iyi yardımcılar haline gelmesi olmayacaktır.

Bunun yerine, şirketler yapay zekayı genel amaçlı bir iş gücü olarak görmeye başlayabilir.

Bir işletme, yeni bir mesleğe veya endüstriye girmeye karar verebilir, gerekli verileri toplayabilir, eğitim ortamları oluşturabilir, yapay zeka ajanlarını konuşlandırabilir ve bunları gerçek dünya kullanımında sürekli olarak geliştirebilir. AI 2040, bu sürecin yazılım mühendisliğinden birçok diğer beyaz yakalı mesleğe yayılma potansiyeli olduğunu tanımlar.

Bu zor bir ekonomik sorunu gündeme getirir:

Zeka bol hale geldiğinde ama insan emeği artık kıt olmadığında ne olur?

Yüzyıllardır, gelir insanların yararlı çalışma sağlama yeteneği ile büyük ölçüde bağlantılı olmuştur. Eğer yapay zeka çoğu bilişsel görevi daha düşük maliyetle gerçekleştirebiliyorsa, bu ilişki bozulabilir.

Kokotajlo, istihdam konusunda özellikle kötümserdir. Röportajda, insanların geniş çapta iş kaybı olasılığını ciddiye alması gerektiğini savunuyor ve birçok çalışanın sonunda yapay zeka sistemleri ile rekabet etmek zorunda kalabileceğini öneriyor.

Ancak sonuç, mutlaka kitlesel yoksulluk olmayacaktır.

Eğer yapay zeka verimliliği dramatik şekilde artırır ve yararları geniş ölçekte dağıtılırsa, insanlık bunun yerine benzeri görülmemiş bir bolluk dönemini yaşayabilir.

AI 2040'da en önemli karşıtlıklardan biri budur: aynı teknoloji ya aşırı refah ya da aşırı zenginlik ve güç yoğunluğu üretebilir, bunun nasıl yönetildiğine bağlı olarak.

Plan A Nedir?

Plan A, esasen yapay zeka yarışının teşviklerini değiştirme girişimidir.

Temel teklifi, ülkelerin ve şirketlerin yeterli güvenlik önlemleri olmadan süper zekâya doğru yarışmasına engel olmak için tasarlanmış, özellikle ABD ve Çin arasında bir uluslararası anlaşmadır.

Plan, birkaç temel prensibe dayanır.

Tam Araştırma Şeffaflığı

Yapay zeka şirketleri, iç gelişimlerinin model özellikleri, sistemlerin dahili kullanımı ve yapay zeka araştırmasına ayrılan hesaplama gücü hakkında çok daha fazla bilgi sağlayacaktır.

Fikir basittir: hükümetler göremedikleri şeyi düzenleyemezler.

Daha Yavaş Yetenek Ölçeklendirmesi

Her yeni modeli maksimum olası yeteneğine hemen itmek yerine, yapay zeka gelişimi, kritik eşiklerin etrafında bilinçli olarak yavaşlatılacaktır.

Bu, araştırmacılara ve hükümetlere yeni yetenekleri değerlendirmek ve güvenlik önlemleri geliştirmek için daha fazla zaman tanıyacaktır.

Doğrulama ve Hesaplama İzleme

AI 2040, ayrıca şirketlerin hesaplama kaynaklarıyla neler yaptıklarını doğrulamak için teknik sistemleri de tartışmaktadır. Yapay zeka yongalarını, veri merkezlerini ve büyük eğitim seferlerini takip etmek, uluslararası anlaşmaları daha uygulanabilir hale getirebilir.

Çoklu Yapay Zeka Liderleri

Plan A, bir şirketin süper zekanın tartışmasız sahibi olmasını öngörmüyor.

Yazarlar, birçok şirketin ve ülkenin ortak güvenlik kuralları altında yapay zeka geliştirirken rekabet edebilmesini savunuyor.

Temel amaç, bir yapay zeka yarışını yapay zeka tekeli ile değiştirmekten kaçınmaktır.

Neden 2040?

2040 yılı, sihirli bir tarih olarak sunulmamaktadır.

Kasıtlı bir güvenlik tamponudur.

Senaryo gereği, yapay zeka 2030 civarında otomatik araştırma yapma noktasına ulaşabilir. Bu yeteneğin hemen bir zeka patlamasını tetiklemesine izin vermek yerine, insanlık, geliştirmeyi en iyi insan uzmanlarının aralığında birkaç yıl tutacaktır.

2035'te, gelişme duracaktır.

Yalnızca 2040'da kısıtlamalar kaldırılacak ve dünya kasıtlı olarak süper zekâya doğru ilerleyecektir.

Bu, Plan A'nın arkasındaki temel felsefi fikirdir:

İnsanlık, henüz kontrol etmeyi bilmediği bir teknoloji için yarışmamalıdır.

AI 2040 Bir Tahmin Mi?

Tam olarak değil.

Bu, projeyi okurken belki de en önemli noktadır.

Yazarlar açıkça, Plan A'nın öncelikle bir öneri olduğunu, öngörü değil. Politika önerilerini soyut bir şekilde desteklemenin kolay ancak gerçekçi bir zaman çizelgesi ile test etmenin çok daha zor olduğunu ifade etmiştir.

Başka bir deyişle, AI 2040 soruyor:

Eğer bu politikayı uygularsak, gelecek gerçekten nasıl görünecek?

Bu, onu geleneksel bir tahmin yerine stratejik bir simülasyona daha yakın hale getiriyor.

Yazarlar ayrıca süper zekânın ortaya çıkışına cevap vermenin farklı yollarını temsil eden alternatif senaryolar, Planlar B, C, D ve S, sunuyorlar.

Gerçek Soru "Yapay Zeka, İnsanlığı Yok Edecek Mi?" Değil

AI 2040 ve Kokotajlo'nun röportajından çıkarılacak en faydalı sonuç, felaketin kaçınılmaz olduğu değildir.

Gerçek şu ki, yapay zeka gelişiminin bir sonraki aşaması, sonrasında çözülemeyecek sorunlara yol açabilir.

Eğer yapay zeka araştırması son derece otomatik hale gelirse, insan karar verme penceresi çok daha dar hale gelebilir.

Bir şirket belirleyici bir avantaj elde ederse, gücü yeniden dağıtmak neredeyse imkânsız hale gelebilir.

Ve eğer milyonlarca iş, ekonomik kurumların uyum sağlamasından daha hızlı bir şekilde ortadan kaybolursa, hükümetler daha önce hiç karşılaşmadıkları bir sosyal bozulma ile yüzleşebilir.

Aynı zamanda, artı yönler de muazzam.

Yapay zeka bilimsel araştırmayı hızlandırabilir, tıbbı geliştirebilir, tehlikeli işleri otomatikleştirebilir, mal ve hizmetlerin maliyetini düşürebilir ve bugün hayal etmesi zor olan bolluk biçimleri yaratabilir.

Kokotajlo kendisi de bu noktayı vurguluyor: yapay zekanın doğası gereği kötü olduğunu savunmuyor. Endişesi, insanlığın geçişi güvenli bir şekilde yönetememesidir.

AI 2040: Bir Uyarı, Bir Geri Sayım Değil

AI 2040, 2040'a kadar kelime kelime bir geri sayım olarak okunmamalıdır; tıpkı Kokotajlo'nun %70 tahmininin insanlığın şanslarının nesnel bir ölçümü olarak yorumlanmaması gerektiği gibi.

Bunun yerine, iki kaynak aynı stratejik ikilemi farklı açılardan vurgulamaktadır.

Yapay zeka endüstrisi, hükümetlerin ve toplumun adapte olmasından daha hızlı bir şekilde giderek otonom sistemlere doğru ilerliyor olabilir.

Bu nedenle en önemli soru, süper zekânın 2030'da, 2040'ta veya daha sonra gelip gelmeyeceği değil.

İnsanlığın buna başa çıkmak için gerekli kurumsal, teknik güvenlik, uluslararası anlaşmalar ve ekonomik politikalara sahip olduğu bir noktaya ulaşmasıdır.

Geleceğin iyimser versiyonu hâlâ mümkündür: Yapay zeka olağanüstü yetenekli olur, verimlilik patlar ve yararları geniş ölçekte paylaşılır.

Kötümser versiyonu da hayal edilmesi zor değildir: kontrolsüz bir zeka yarışı ya insan kontrolünün kaybına ya da benzeri görülmemiş bir güç yoğunlaşmasına yol açar.

Plan A, ikinci yolun kaçınılmaz hale gelmeden önce ilk yolu seçme girişimidir.

Şu anda tartışma açık kalıyor. Ancak yapay zeka sistemleri giderek daha yetenekli hale geldikçe, belirsizlik beklemenin maliyeti, erken hazırlık yapmanın maliyetinden çok daha yüksek hale gelebilir.