AI 2040: Dapatkah Superintelligence Tiba pada 2030?

Kecerdasan buatan bergerak lebih cepat daripada sebagian besar teknologi sebelumnya, tetapi pertanyaan terbesar tidak lagi adalah apa yang bisa dilakukan AI hari ini. Ini adalah seberapa cepat AI dapat menjadi mampu untuk meningkatkan dirinya sendiri.

Pertanyaan itu menjadi pusat dari AI 2040: Rencana A, sebuah skenario yang dikembangkan oleh Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt, dan Daniel Kokotajlo. Proyek ini membayangkan dunia di mana kemanusiaan dengan sengaja memperlambat perlombaan menuju superintelligence, menjaga penelitian AI terdepan tetap transparan, dan menunda langkah akhir menuju AI superhuman sampai 2040.

Ide ini menjadi semakin mencolok bila dibandingkan dengan wawancara terbaru Kokotajlo di The Diary of a CEO. Mantan peneliti OpenAI itu berpendapat bahwa perlombaan menuju AI yang semakin kuat bisa jauh lebih dekat dengan titik kritis daripada yang dipahami publik. Dia memperkirakan probabilitas pribadi yang sangat tinggi bahwa transisi AI bisa menjadi salah besar, sambil juga menekankan bahwa hasil positif tetap mungkin.

Jadi, apa yang bisa terjadi antara sekarang dan 2040, dan mengapa industri AI membutuhkan Rencana A?

Apa Itu AI 2040?

AI 2040 adalah skenario tentang mengelola transisi dari AI canggih ke superintelligence.

Para penulis mulai dari kekhawatiran sederhana: jika beberapa perusahaan dan negara bersaing untuk membangun AI paling kuat secepat mungkin, pemenangnya bisa mendapatkan kekuatan ekonomi, militer, dan politik yang luar biasa.

Oleh karena itu, skenario ini mengusulkan pendekatan yang berbeda. Alih-alih membiarkan perlombaan kecerdasan berlangsung dengan kecepatan penuh, pemerintah akan bernegosiasi untuk kesepakatan internasional yang memperlambat pengembangan, meningkatkan transparansi, dan memungkinkan beberapa negara dan perusahaan untuk tetap terlibat.

Tujuannya bukan untuk menghentikan pengembangan AI selamanya. Ini adalah untuk membeli waktu.

Di bawah Rencana A, dunia akan menunda pengembangan superintelligence hingga 2040, perlahan-lahan meningkatkan kemampuan AI hingga sekitar tingkat para ahli manusia terkemuka, berhenti di sana, dan hanya setelah itu melanjutkan transisi menuju sistem yang benar-benar superhuman. Para penulis secara eksplisit menggambarkan Rencana A sebagai rekomendasi daripada prediksi terbaik mereka tentang apa yang sebenarnya akan terjadi.

AI 2040: Garis Waktu Yang Diusulkan

Garis waktu ini sengaja konservatif dibandingkan dengan skenario yang lebih agresif yang dibahas oleh Kokotajlo.

Mengapa Superintelligence Begitu Penting?

Sistem AI saat ini sudah dapat melakukan tugas yang dulunya memerlukan profesional terlatih dengan tinggi. Namun titik balik sebenarnya akan datang ketika AI mampu melakukan penelitian AI itu sendiri.

Bayangkan sistem AI yang dapat merancang model yang lebih baik, mengujinya, menganalisis hasilnya, menulis kode yang diperlukan, mengoptimalkan proses pelatihan, dan kemudian mengulangi seluruh proses.

Generasi berikutnya kemudian bisa lebih baik dalam penelitian AI daripada pendahulunya.

Itu menciptakan umpan balik:

AI yang lebih baik → penelitian AI yang lebih baik → AI yang lebih baik → penelitian AI yang bahkan lebih baik

Ini sering digambarkan sebagai ledakan kecerdasan.

AI 2040 berpendapat bahwa transisi ini khususnya berbahaya karena manusia bisa kehilangan posisinya dalam loop pengembangan. Jika sistem AI bertanggung jawab untuk menciptakan penerus yang semakin mampu, menjadi lebih sulit untuk memahami mengapa sistem yang dihasilkan akan tetap dapat dikendalikan.

Skenario itu menggambarkan 2030 sebagai potensi titik di mana penelitian AI bisa menjadi sepenuhnya otomatis. Tanpa intervensi, itu secara teoritis bisa menghasilkan superintelligence dalam waktu yang sangat singkat.

Peringatan Daniel Kokotajlo: AI Bisa Bergerak Lebih Cepat Dari yang Diharapkan

Daniel Kokotajlo membawa perspektif yang lebih pribadi terhadap masalah yang sama.

Kokotajlo bekerja di OpenAI dari 2022 dan fokus pada peramalan bagaimana kemampuan AI dapat berkembang. Dia kemudian meninggalkan perusahaan dan telah menjadi salah satu suara terkemuka yang memperingatkan tentang risiko perlombaan AI yang tidak terkontrol.

Dalam wawancaranya pada Juli 2026 dengan Steven Bartlett, Kokotajlo berpendapat bahwa percakapan dengan orang-orang di laboratorium AI terkemuka sering menunjukkan garis waktu yang lebih pendek dari yang diharapkan publik. Dia secara khusus menyebut 2027 dan 2028 sebagai tahun yang dianggap beberapa orang dalam industri sebagai plausible untuk terobosan besar.

Klaimnya yang paling kontroversial adalah bahwa dia secara pribadi memberikan sekitar 70% kemungkinan AI menjadi "sangat salah", termasuk skenario yang bisa mengakibatkan kepunahan manusia. Angka ini tidak boleh dianggap sebagai probabilitas ilmiah yang mapan. Ini adalah perkiraan risiko pribadi Kokotajlo berdasarkan asumsi tentang garis waktu AI, keselarasan, kompetisi, dan pemerintahan.

Perbedaan itu penting.

Angka 70% bukanlah ramalan konsensus dari komunitas penelitian AI. Ini adalah argumen tentang seberapa serius masyarakat harus mengambil kombinasi risiko yang mungkin saling memperkuat.

Perlombaan AI Bisa Menciptakan Dua Masalah Berbeda

Salah satu ide terkuat yang dibagikan oleh AI 2040 dan wawancara Kokotajlo adalah bahwa keselamatan AI tidak hanya tentang apakah sistem AI "jahat" atau "baik".

Ada setidaknya dua risiko besar.

1. Manusia Kehilangan Kendali

Jika sistem AI menjadi jauh lebih mampu daripada manusia dan mampu meningkatkan penerusnya sendiri, manusia mungkin akhirnya kesulitan untuk memahami atau mengendalikan perilakunya.

Pertanyaan kunci menjadi sederhana:

Bagaimana Anda mengendalikan sesuatu yang jauh lebih pintar dan lebih cepat daripada Anda?

AI 2040 berargumen bahwa perlombaan saat ini dapat menyebabkan situasi di mana manusia tidak lagi mempertahankan kendali efektif atas sistem yang semakin otonom.

2. Manusia Menjaga Kendali, Tetapi Hanya Beberapa Manusia

Kemungkinan kedua mungkin terlihat lebih aman pada awalnya.

Misalkan perusahaan-perusahaan AI terkemuka berhasil menyelaraskan sistem mereka dengan tujuan manusia. Masalahnya kemudian menjadi konsentrasi kekuasaan.

Jika satu perusahaan, pemerintah, atau grup kecil mengendalikan sistem AI paling mampu di dunia, mereka dapat memperoleh pengaruh yang tidak tertandingi atas ekonomi, teknologi militer, informasi, dan infrastruktur.

Dengan kata lain, menyelesaikan keselarasan AI tidak otomatis menyelesaikan masalah politik.

Apa yang Terjadi pada Pekerjaan?

Dampak ekonomi adalah bagian besar lainnya dari kedua skenario.

AI 2040 membayangkan masa depan yang dekat di mana agen AI menjadi tenaga kerja kedua di samping manusia. Jutaan agen berbasis perangkat lunak dapat bekerja secara terus-menerus, menyelesaikan tugas dengan kecepatan mesin.

Perubahan pentingnya bukan sekadar chatbot yang menjadi asisten yang lebih baik.

Sebaliknya, perusahaan dapat mulai memperlakukan AI sebagai tenaga kerja serbaguna.

Sebuah bisnis dapat memutuskan untuk memasuki profesi atau industri baru, mengumpulkan data yang diperlukan, membangun lingkungan pelatihan, menerapkan agen AI, dan terus meningkatkan mereka melalui penggunaan di dunia nyata. AI 2040 menggambarkan proses ini sebagai potensi untuk menyebar dari rekayasa perangkat lunak ke banyak profesi kantoran lainnya.

Ini mengangkat pertanyaan ekonomi yang sulit:

Apa yang terjadi ketika kecerdasan menjadi melimpah tetapi tenaga kerja manusia tidak lagi langka?

Selama berabad-abad, penghasilan sebagian besar terkait dengan kemampuan orang untuk memberikan tenaga kerja yang berguna. Jika AI dapat melakukan sebagian besar tugas kognitif dengan biaya lebih rendah, hubungan itu bisa rusak.

Kokotajlo sangat pesimis tentang pekerjaan. Dalam wawancara, dia berargumen bahwa orang harus menganggap kemungkinan pemindahan pekerjaan secara luas dengan serius dan menyarankan bahwa banyak pekerja mungkin akhirnya menemukan diri mereka bersaing dengan sistem AI.

Namun, hasilnya tidak selalu berarti kemiskinan massal.

Jika AI secara dramatis meningkatkan produktivitas sementara manfaatnya dibagikan secara luas, kemanusiaan bisa mengalami periode kelimpahan yang belum pernah terjadi sebelumnya.

Itu adalah salah satu kontras sentral dalam AI 2040: teknologi yang sama dapat menghasilkan baik kemakmuran ekstrem maupun konsentrasi kekayaan dan kekuasaan yang ekstrem, tergantung pada bagaimana itu diatur.

Apa Itu Rencana A?

Rencana A pada dasarnya adalah usaha untuk mengubah insentif dari perlombaan AI.

Usulan intinya adalah kesepakatan internasional, khususnya antara AS dan Cina, yang dirancang untuk mencegah negara dan perusahaan berlomba menuju superintelligence tanpa langkah-langkah keselamatan yang memadai.

Rencana ini bergantung pada beberapa prinsip utama.

Total Transparansi Penelitian

Perusahaan AI akan memberikan lebih banyak informasi tentang pengembangan internal mereka, termasuk spesifikasi model, bagaimana sistem digunakan secara internal, dan berapa banyak daya komputasi yang didedikasikan untuk penelitian AI.

Idenya sederhana: pemerintah tidak dapat mengatur apa yang tidak dapat mereka lihat.

Memperlambat Peningkatan Kemampuan

Alih-alih langsung mendorong setiap model baru ke kemampuan maksimumnya, pengembangan AI akan sengaja diperlambat di sekitar ambang kritis.

Ini akan memberikan lebih banyak waktu bagi peneliti dan pemerintah untuk mengevaluasi kemampuan baru dan mengembangkan langkah-langkah keselamatan.

Verifikasi dan Pemantauan Komputasi

AI 2040 juga membahas sistem teknis untuk memverifikasi apa yang dilakukan perusahaan dengan sumber daya komputasi mereka. Melacak chip AI, pusat data, dan pelatihan besar dapat membuat kesepakatan internasional lebih dapat ditegakkan.

Banyak Pemimpin AI

Rencana A tidak membayangkan satu perusahaan menjadi pemilik superintelligence yang tak terbantahkan.

Para penulis berargumen untuk dunia di mana banyak perusahaan dan negara dapat tetap bersaing sambil mengembangkan AI di bawah aturan keselamatan yang umum.

Tujuan yang mendasari adalah untuk menghindari mengganti perlombaan AI dengan monopoli AI.

Mengapa 2040?

Tahun 2040 tidak disajikan sebagai tanggal ajaib.

Ini adalah buffer keselamatan yang disengaja.

Di bawah skenario ini, AI dapat mencapai titik di mana penelitian otomatis menjadi mungkin sekitar tahun 2030. Alih-alih membiarkan kemampuan itu segera memicu ledakan kecerdasan, kemanusiaan akan menjaga pengembangan tetap dalam kisaran ahli manusia terbaik selama beberapa tahun.

Pada tahun 2035, pengembangan akan terhenti.

Hanya pada tahun 2040 pembatasan akan dicabut dan dunia dengan sengaja bergerak menuju superintelligence.

Ini adalah gagasan filosofis utama di balik Rencana A:

Kemanusiaan tidak boleh berlomba menuju teknologi yang belum tahu bagaimana mengendalikannya.

Apakah AI 2040 Sebuah Prediksi?

Tidak persis.

Ini adalah mungkin poin terpenting saat membaca proyek ini.

Para penulis secara eksplisit menyatakan bahwa Rencana A terutama merupakan rekomendasi, bukan prediksi. Mereka menciptakan skenario yang mendetail karena usulan kebijakan mudah didukung dalam abstrak tetapi jauh lebih sulit untuk diuji terhadap garis waktu yang realistis.

Dengan kata lain, AI 2040 bertanya:

Bagaimana sebenarnya masa depan akan terlihat jika kita menerapkan kebijakan ini?

Itu membuatnya lebih dekat dengan simulasi strategis daripada ramalan konvensional.

Para penulis juga menyajikan skenario alternatif, Rencana B, C, D, dan S, yang mewakili berbagai cara pemerintah dapat merespons munculnya superintelligence.

Pertanyaan Sebenarnya Bukan "Apakah AI Akan Memusnahkan Kemanusiaan?"

Pengambilan paling berguna dari AI 2040 dan wawancara Kokotajlo bukanlah bahwa malapetaka tidak bisa dihindari.

Ini adalah bahwa tahap berikutnya dari pengembangan AI mungkin menciptakan masalah yang tidak dapat diselesaikan setelah fakta.

Jika penelitian AI menjadi sangat otomatis, jendela untuk pengambilan keputusan manusia bisa menjadi jauh lebih kecil.

Jika satu perusahaan mendapatkan keuntungan menentukan, redistribusi kekuasaan di kemudian hari bisa menjadi hampir tidak mungkin.

Dan jika jutaan pekerjaan menghilang lebih cepat daripada lembaga ekonomi beradaptasi, pemerintah dapat menghadapi gangguan sosial pada skala yang belum pernah mereka alami.

Pada saat yang sama, sisi baiknya sangat besar.

AI dapat mempercepat penelitian ilmiah, meningkatkan pengobatan, mengotomatisasi pekerjaan berbahaya, mengurangi biaya barang dan jasa, dan menciptakan bentuk kelimpahan yang sulit dibayangkan hari ini.

Kokotajlo sendiri menekankan poin ini: dia tidak berargumen bahwa AI secara inheren buruk. Kekhawatirannya adalah bahwa kemanusiaan bisa gagal mengelola transisi dengan aman.

AI 2040: Sebuah Peringatan, Bukan Hitung Mundur

AI 2040 tidak boleh dibaca sebagai hitung mundur literal menuju 2040, sama seperti perkiraan 70% Kokotajlo tidak boleh diartikan sebagai pengukuran objektif kemungkinan kemanusiaan.

Sebaliknya, kedua sumber tersebut menyoroti dilema strategis yang sama dari sudut yang berbeda.

Industri AI mungkin bergerak menuju sistem yang semakin otonom lebih cepat daripada pemerintah dan masyarakat beradaptasi.

Oleh karena itu, pertanyaan terpenting mungkin bukan apakah superintelligence tiba pada 2030, 2040, atau lebih lambat.

Ini adalah apakah kemanusiaan mencapai titik di mana ia memiliki lembaga, pengamanan teknis, kesepakatan internasional, dan kebijakan ekonomi yang diperlukan untuk menghadapinya.

Versi optimis dari masa depan masih mungkin: AI menjadi sangat mampu, produktivitas meledak, dan manfaatnya dibagikan secara luas.

Versi pesimis juga mudah dibayangkan: perlombaan kecerdasan yang tidak terkendali menghasilkan kehilangan kendali manusia atau konsentrasi kekuasaan yang belum pernah terjadi.

Rencana A adalah usaha untuk memilih jalan pertama sebelum yang kedua menjadi tidak mungkin untuk dihindari.

Untuk sekarang, debat tetap terbuka. Tetapi seiring sistem AI semakin mampu, biaya menunggu kepastian mungkin menjadi jauh lebih tinggi daripada biaya mempersiapkan lebih awal.