AI 2040: Maaaring Dumating ang Superintelligence Pagsapit ng 2030?

Ang artipisial na katalinuhan ay umuusad nang mas mabilis kaysa sa karamihan ng mga nakaraang teknolohiya, ngunit ang pinakamalaking tanong ay hindi na kung ano ang kayang gawin ng AI ngayon. Ito ay kung gaano kabilis kayang maging may kakayahan ang AI na pahusayin ang sarili nito.

Nakatayo ang tanong sa gitna ng AI 2040: Plan A, isang senaryo na binuo nina Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt, at Daniel Kokotajlo. Inimagine ng proyekto ang isang mundo kung saan sadyang pinipigil ng sangkatauhan ang karera patungo sa superintelligence, pinapanatili ang transparency ng pananaliksik sa hangganan ng AI, at ipinagpapaliban ang huling hakbang patungo sa superhuman na AI hanggang sa 2040.

Ang ideya ay nagiging mas kamangha-mangha kapag inihambing sa kamakailang panayam ni Kokotajlo sa The Diary of a CEO. Iginiit ng dating mananaliksik ng OpenAI na ang karera patungo sa lalong makapangyarihang AI ay maaaring mas malapit sa isang kritikal na punto kaysa sa naiisip ng publiko. Tinataya niya ang isang napakataas na posibilidad sa personal na antas na ang transisyon ng AI ay maaaring magkamali nang nakakatakot, habang binibigyang-diin din na ang isang positibong kinalabasan ay nananatiling posible.

Kaya ano ang maaaring mangyari sa pagitan ng ngayon at 2040, at bakit kailangan ng industriya ng AI ng Plan A?

Ano ang AI 2040?

Ang AI 2040 ay isang senaryo tungkol sa pamamahala ng transisyon mula sa advanced na AI patungo sa superintelligence.

Nagsisimula ang mga may-akda mula sa isang simpleng alalahanin: kung maraming kumpanya at bansa ang nakikipagkumpetensya upang bumuo ng pinakamakapangyarihang AI sa pinakamabilis na posibleng paraan, ang panalo ay maaaring makakuha ng pambihirang halaga ng kapangyarihang pang-ekonomiya, militar, at pampulitika.

Samakatuwid, nagmumungkahi ang senaryo ng isang ibang pamamaraan. Sa halip na payagan ang isang karera ng talinong naganap sa pinakamabilis na paraan, makikipag-ayos ang mga gobyerno ng isang pandaigdigang kasunduan na nagpapabagal sa pag-unlad, nagpapataas ng transparency, at nagpapahintulot sa maraming bansa at kumpanya na manatiling kasangkot.

Ang layunin ay hindi upang itigil ang pag-unlad ng AI magpakailanman. Layunin nitong bumili ng oras.

Sa ilalim ng Plan A, ipagpapaliban ng mundo ang pag-unlad ng superintelligence hanggang sa 2040, unti-unting palakihin ang kakayahan ng AI sa mga antas na katumbas ng pinakamagagaling na human experts, titigil dito, at saka lamang itutuloy ang transisyon patungo sa tunay na mga sistemang superhuman. Tinutukoy ng mga may-akda ang Plan A bilang isang rekomendasyon kaysa sa kanilang pinakamaasahang hula kung ano talaga ang mangyayari.

AI 2040: Ang Ipinapanukalang Timeline

Ang timeline na ito ay sadyang konserbatibo kung ikukumpara sa mas agresibong mga senaryo na tinalakay ni Kokotajlo.

Bakit Mahalaga ang Superintelligence?

Ang mga sistema ng AI ngayon ay makakagawa na ng mga gawain na dating kinakailangan ng mga highly trained na propesyonal. Ngunit ang tunay na pagbabago ay mangyayari kapag ang AI ay naging may kakayahang magsagawa ng pananaliksik sa AI mismo.

Isipin ang isang sistema ng AI na kayang magdisenyo ng mas mahusay na modelo, subukan ito, suriin ang mga resulta, isulat ang kinakailangang code, i-optimize ang proseso ng pagsasanay, at pagkatapos ay ulitin ang buong proseso.

Maaaring mas maging mahusay ang susunod na henerasyon sa pananaliksik ng AI kaysa sa naunang henerasyon.

Lumilikha ito ng isang feedback loop:

mas mahusay na AI → mas mahusay na pananaliksik sa AI → mas mahusay na AI → kahit mas mahusay na pananaliksik sa AI

Madalas itong inilarawan bilang isang intelligence explosion.

Kinakatawan ng AI 2040 na ang transisyon na ito ay partikular na mapanganib dahil maaaring mawalan ng puwesto ang mga tao sa development loop. Kung ang mga sistema ng AI ang responsable sa paglikha ng palaging mas makapangyarihang mga kahalili, nagiging mas mahirap intidihin kung bakit ang mga resulting systems ay mananatiling controllable.

Inilarawan ng senaryo ang 2030 bilang isang potensyal na punto kung saan ang pananaliksik ng AI ay maaaring ganap na maging automated. Nang walang interbensyon, maaaring teoretikal na humantong ito sa superintelligence sa loob ng napakaikling panahon.

Babala ni Daniel Kokotajlo: Maaaring Umusad ang AI nang Mas Mabilis Kaysa sa Inaasahan

Nagdadala si Daniel Kokotajlo ng mas personal na pananaw sa parehong problema.

Nagtrabaho si Kokotajlo sa OpenAI mula 2022 at nakatuon sa paghuhula kung paano makakabuo ang mga kakayahan ng AI. Umalis siya sa kumpanya at naging isa sa mga kilalang boses na nagbabala tungkol sa mga panganib ng hindi kontroladong karera ng AI.

Sa kanyang panayam noong Hulyo 2026 kay Steven Bartlett, iginiit ni Kokotajlo na ang mga pag-uusap sa mga tao sa loob ng mga nangungunang laboratorio ng AI ay madalas na nagtuturo patungo sa mas maiikli na timeline kaysa sa inaasahan ng publiko. Partikular niyang binanggit ang 2027 at 2028 bilang mga taon na itinuturing ng ilang mga insider sa industriya na posible para sa mga pangunahing breakthroughs.

Ang kanyang pinaka kontrobersyal na pahayag ay na personal niyang itinatakda ang mga posibilidad sa humigit-kumulang 70% na ang AI ay maaaring magkamali nang "horribly", kabilang ang mga senaryo na maaaring magresulta sa pagkalipol ng tao. Ang bilang na ito ay hindi dapat ituring na isang itinatag na scientific probability. Ito ay personal na pagtataya ni Kokotajlo ng panganib batay sa kanyang mga palagay tungkol sa mga timeline ng AI, pagkakaayon, kumpetisyon, at pamamahala.

Mahalaga ang pagkakaibang iyon.

Ang bilang na 70% ay hindi isang consensus forecast mula sa komunidad ng pananaliksik ng AI. Ito ay isang argumento tungkol sa kung gaano seryosong dapat isaalang-alang ng lipunan ang isang kombinasyon ng mga panganib na maaaring magpalakas sa isa’t isa.

Maaaring Lumikha ang Karera ng AI ng Dalawang Magkaibang Problema

Isa sa pinakamalakas na ideya na ibinahagi ng AI 2040 at ng panayam ni Kokotajlo ay na ang kaligtasan ng AI ay hindi lamang tungkol sa kung ang isang sistema ng AI ay "masama" o "mabuti."

May hindi bababa sa dalawang pangunahing panganib.

1. Mawawalan ng Control ang mga Tao

Kung ang isang sistema ng AI ay nagiging mas makapangyarihan kaysa sa mga tao at kayang pahusayin ang sarili nitong mga kahalili, maaaring mahirapan ang mga tao na intidihin o kontrolin ang kanyang pag-uugali.

Ang pangunahing tanong ay nagiging simple:

Paano mo makokontrol ang isang bagay na mas matalino at mas mabilis kaysa sa iyo?

Ipinahayag ng AI 2040 na ang kasalukuyang karera ay maaaring sa huli ay humantong sa isang sitwasyon kung saan ang mga tao ay hindi na epektibong makakontrol ang lalong autonomous na mga sistema.

2. Patuloy na Kinokontrol ng Tao, Pero Ilang Tao lamang

Ang pangalawang posibilidad ay maaaring mukhang mas ligtas sa simula.

Ipagpalagay na matagumpay na na-align ng mga nangungunang kumpanya ng AI ang kanilang mga sistema sa mga layunin ng tao. Ang problema kung gayon ay nagiging pagkakabuo ng kapangyarihan.

Kung isang kumpanya, gobyerno, o maliit na grupo ang kumokontrol sa pinakamakapangyarihang mga sistema ng AI sa mundo, maaari itong makakuha ng hindi pa nakikitang impluwensya sa ekonomiya, teknolohiyang militar, impormasyon, at imprastruktura.

Sa ibang salita, ang pagsolusyon sa pagkakaayon ng AI ay hindi awtomatikong lutasin ang problemang pampulitika.

Ano ang Mangyayari sa mga Trabaho?

Ang epekto sa ekonomiya ay isa pang pangunahing bahagi ng parehong senaryo.

In-imagine ng AI 2040 ang isang malapit na hinaharap kung saan ang mga AI agents ay nagiging pangalawang workforce kasama ang mga tao. Milyon-milyong software-based agents ang maaaring umandar ng tuloy-tuloy, kumpletuhin ang mga gawain sa bilis ng makina.

Ang mahalagang pagbabago ay hindi lamang ang pagpapabuti ng mga chatbot bilang mga mas mahusay na katulong.

Sa halip, maaaring simulan ng mga kumpanya ang pagtrato sa AI bilang isang general-purpose workforce.

Maaaring magpasya ang isang negosyo na pumasok sa isang bagong propesyon o industriya, kolektahin ang kinakailangang data, bumuo ng mga environment ng pagsasanay, ilunsad ang mga AI agents, at patuloy na pahusayin ang mga ito sa pamamagitan ng totoong paggamit. Inilarawan ng AI 2040 ang prosesong ito bilang maaaring kumalat mula sa software engineering sa maraming iba pang mga propesyon ng white-collar.

Ipinapakita nito ang isang mahirap na tanong sa ekonomiya:

Ano ang mangyayari kapag naging sagana ang talino ngunit ang paggawa ng tao ay hindi na kulang?

Sa loob ng mga siglo, ang kita ay pangunahing konektado sa kakayahan ng mga tao na magbigay ng kapaki-pakinabang na paggawa. Kung kaya ng AI na magsagawa ng karamihan ng mga kognitibong gawain sa mas mababang halaga, maaaring masira ang ugnayang iyon.

Partikular na pessimistiko si Kokotajlo tungkol sa employment. Sa panayam, iginiit niya na dapat seryosohin ng mga tao ang posibilidad ng malawakang displacement ng trabaho at iminungkahi na maraming manggagawa ang maaaring sa huli ay makipagkumpetensya sa mga sistema ng AI.

Gayunpaman, ang kinalabasan ay hindi kinakailangang mass poverty.

Kung ang AI ay dramatically na nagpapataas ng productivity habang ang mga benepisyo nito ay malawak na ipinamamahagi, maaaring sa halip ay makaranas ang sangkatauhan ng isang hindi pangkaraniwang panahon ng kasaganahan.

Ito ay isa sa mga pundamental na kaibahan sa AI 2040: ang parehong teknolohiya ay maaaring magbunga ng lubos na kasaganaan o labis na pagkakabuo ng yaman at kapangyarihan, depende sa kung paano ito pinamamahalaan.

Ano ang Plan A?

Ang Plan A ay esensyal na isang pagtatangkang baguhin ang mga insentibo ng karera ng AI.

Ang pangunahing panukala nito ay isang pandaigdigang kasunduan, partikular sa pagitan ng US at China, na dinisenyo upang maiwasan ang mga bansa at kumpanya na makipagkarera patungo sa superintelligence nang walang sapat na mga hakbang para sa kaligtasan.

Ang plano ay umaasa sa ilang pangunahing prinsipyo.

Kabuuang Transparency ng Pananaliksik

Magbibigay ang mga kumpanya ng AI ng mas maraming impormasyon tungkol sa kanilang panloob na pag-unlad, kabilang ang mga pagtutukoy ng modelo, kung paano ginagamit ang mga sistema sa kanilang loob, at kung gaano karaming computing power ang inilalaan sa pananaliksik ng AI.

Ang ideya ay maliwanag: hindi makakapag-regulate ang mga gobyerno sa hindi nila nakikita.

Mas Mabagal na Scaling ng Kakayahan

Sa halip na agad na ipush ang bawat bagong modelo sa pinakamataas na kakayahan nito, sadyang pababagal ang pag-unlad ng AI sa paligid ng mga kritikal na threshold.

Bibigay ito ng mas maraming oras sa mga mananaliksik at gobyerno upang suriin ang mga bagong kakayahan at bumuo ng mga hakbang para sa kaligtasan.

Pagsusuri at Pagsubaybay sa Compute

Tinalakay din ng AI 2040 ang mga teknikal na sistema para sa pag-verify kung ano ang ginagawa ng mga kumpanya sa kanilang mga computing resources. Ang pagsubaybay sa mga AI chips, data centers, at malalaking training runs ay maaaring magpadali sa pagpapatupad ng mga pandaigdigang kasunduan.

Maramihang mga Lider ng AI

Hindi inilalarawan ng Plan A na isang kumpanya ang magiging hindi mapag-aalinlanganang may-ari ng superintelligence.

Ipinagtanggol ng mga may-akda ang isang mundo kung saan maraming kumpanya at bansa ang maaaring manatiling mapagkumpitensya habang nag-de-develop ng AI sa ilalim ng mga karaniwang patakaran sa kaligtasan.

Ang pangunahing layunin ay maiwasan ang pagpapalit ng karera ng AI ng isang monopolyo ng AI.

Bakit 2040?

Ang taon 2040 ay hindi iniharap bilang isang mahiwagang petsa.

Ito ay isang sadyang buffer sa kaligtasan.

Sa ilalim ng senaryo, maaaring umabot ang AI sa punto na ang automated na pananaliksik ay nagiging posible sa paligid ng 2030. Sa halip na hayaan ang kakayahang ito na agad na mag-trigger ng isang intelligence explosion, panatilihin ng sangkatauhan ang pag-unlad sa loob ng saklaw ng pinakamagagaling na human experts sa loob ng ilang taon.

Noong 2035, humihinto ang pag-unlad.

Sa 2040 lamang ibinaba ang mga restriksyon at sinadyang umusad ang mundo patungo sa superintelligence.

Ito ang sentral na pilosopikal na ideya sa likod ng Plan A:

Hindi dapat makipagkarera ang sangkatauhan patungo sa isang teknolohiya na hindi pa nila alam kung paano kontrolin.

Ang AI 2040 ba ay isang Prediksyon?

Hindi eksakto.

Ito marahil ang pinakamahalagang punto kapag binabasa ang proyekto.

Tinutukoy ng mga may-akda na ang Plan A ay pangunahing isang rekomendasyon, hindi isang prediksyon. Lumikha sila ng detalyadong senaryo dahil ang mga panukala sa patakaran ay madaling suportahan sa abstract ngunit mas mahirap subukan laban sa isang makatotohanang timeline.

Sa ibang salita, tinatanong ng AI 2040:

Ano ang magiging hitsura ng hinaharap kung ipinatupad natin ang patakarang ito?

Ginagawa nitong mas malapit sa isang strategic simulation kaysa sa isang pangkaraniwang forecast.

Ipinakita rin ng mga may-akda ang mga alternatibong senaryo, Plan B, C, D, at S, na kumakatawan sa iba't ibang paraan na maaaring tumugon ang mga gobyerno sa paglitaw ng superintelligence.

Ang Tunay na Tanong Ay Hindi "Wawasakin ng AI ang Sangkatauhan?"

Ang pinaka-kapaki-pakinabang na takeaway mula sa AI 2040 at sa panayam ni Kokotajlo ay hindi na ang sakuna ay hindi maiiwasan.

Ito ay ang susunod na yugto ng pag-unlad ng AI ay maaaring lumikha ng mga problemang hindi maaaring lutasin pagkatapos.

Kung ang pananaliksik ng AI ay naging labis na automated, ang bintana para sa paggawa ng desisyon ng tao ay maaaring maging mas mababa.

Kung isang kumpanya ang makakakuha ng pasulong na bentahe, ang muling pamamahagi ng kapangyarihan sa kalaunan ay maaaring maging halos imposibleng gawin.

At kung milyon-milyong mga trabaho ang mawawala nang mas mabilis kaysa sa nakakabigay-sagip na mga institusyong pang-ekonomiya, maaaring harapin ng mga gobyerno ang mga kaguluhan sa lipunan sa isang sukat na hindi pa nila naranasan.

Sabay-sabay, ang upside ay napakalaki.

Maaaring paspasan ng AI ang pananaliksik sa agham, mapabuti ang medisina, i-automate ang mapanganib na trabaho, bawasan ang halaga ng mga produkto at serbisyo, at lumikha ng mga anyo ng kasaganaan na mahirap imahinasyonin sa ngayon.

Mismong binigyang-diin ni Kokotajlo ang puntong ito: hindi siya nagtatalo na ang AI ay likas na masama. Ang kanyang alalahanin ay maaaring hindi magtagumpay ang sangkatauhan na pamahalaan ang transisyon nang ligtas.

AI 2040: Isang Babala, Hindi Isang Countdown

Hindi dapat basahin ang AI 2040 bilang isang literal na countdown patungo sa 2040, katulad ng hindi dapat bigyang-kahulugan ang 70% na pagtataya ni Kokotajlo bilang isang obhetibong sukat ng mga pagkakataon ng sangkatauhan.

Sa halip, ang parehong mga mapagkukunan ay nagha-highlight ng parehong estratehikong dilema mula sa iba't ibang anggulo.

Maaaring umusad ang industriya ng AI patungo sa mga lalong autonomous na sistema nang mas mabilis kaysa sa pag-aangkop ng mga gobyerno at lipunan.

Samakatuwid, ang pinakamahalagang tanong ay maaaring hindi kung darating ang superintelligence sa 2030, 2040, o mamaya.

Ito ay kung umabot ang sangkatauhan sa isang punto kung saan mayroon itong mga institusyon, teknikal na proteksyon, pandaigdigang kasunduan, at mga patakarang pang-ekonomiya na kailangan upang harapin ito.

Ang optimistikong bersyon ng hinaharap ay posible pa ring mangyari: ang AI ay nagiging labis na may kakayahan, ang productivity ay sumasabog, at ang mga benepisyo nito ay malawak na ibinabahagi.

Madali ring maiisip ang pessimistikong bersyon: ang isang hindi kontroladong karera ng talino ay nagreresulta sa pagkawala ng kontrol ng tao o sa isang hindi pa nakikitang pagkakabuo ng kapangyarihan.

Ang Plan A ay isang pagtatangkang piliin ang unang landas bago maging imposibleng maiwasan ang pangalawa.

Sa ngayon, nananatiling bukas ang debate. Ngunit habang ang mga sistema ng AI ay nagiging lalong may kakayahan, ang halaga ng paghihintay para sa katiyakan ay maaaring maging mas mataas kaysa sa halaga ng maagang paghahanda.