АИ 2040: Суперинтеллект 2030 он гэхэд ирж чадах уу?

Хиймэл оюун ухаан өмнөх технологиудаас илүү хурдан хөгжиж байна, гэхдээ хамгийн том асуулт одоо АИ одоо яаж ажилладаг вэ гэдэгт биш, харин АИ яаж өөрсдийгөө сайжруулах чадвартай болох вэ гэдэгт төвлөрч байна.

Энэ асуулт нь АИ 2040: Төлөвлөгөө А, Томас Ларсен, Ромэо Дийн, Брендан Халстед, Эли Лифланд, Райан Гриинблат, Даниел Кокотайло нарын боловсруулсан сценарийн төвд байдаг. Төслийн хүрээнд хүн төрөлхтөн зориуд суперинтеллект рүү явж буй уралдааныг удаашруулж, АИ судалгааг ил тод хадгалж, супер хүн чадвартай АИ руу сүүлчийн алхамыг 2040 он хүртэл хойшлуулна гэж төсөөлж байна.

Кокотайло хэдийнэ, өнгөрсөн хэлэлцүүлэгтэй харьцуулахад энэ санаа улам илүү онцлог болдог. Тэрээр OpenAI-д ажиллаж байсан бөгөөд хүчирхэг АИ руу явах уралдаан олон нийтээс илүү критик цэгт ойрхон байж болзошгүй хэмээн үзэж байна. Тэрээр АИ-ийн шилжилт асуудалд их хэмжээгээр алдаа гарах эрсдэлтэй болохыг тайлбарлаж, эерэг үр дүн ч боломжтой гэдгийг онцолсон.

Тэгэхээр одооноос 2040 он хүртэл юу болох вэ, АИ салбарт Төлөвлөгөө А яагаад хэрэгтэй вэ?

АИ 2040 гэж юу вэ?

АИ 2040 нь дэвшилтэт АИ-с суперинтеллект рүү шилжих талаар удирдамж гаргахтай холбоотой сценар юм.

Зохиогчид нь товчхон шалтгаанаар эхэлдэг: хэд хэдэн компани, улс орнууд боломжтой хамгийн хүчирхэг АИ-г аль болох хурдан бүтээхээр уралдвал ялалт байгуулагч нь эдийн засаг, цэргийн болон улс төрийн хүчийг шууд олж авах боломжтой.

Тиймээс энэ сценар нь өөр харилцааг санал болгож байна. Асуудал нь хэт хурдтай уралдаан явуулахын оронд засгийн газрууд нь хөгжлийг удаашруулж, ил тод байдлыг нэмэгдүүлэх, олон улс болон компаниудыг оролцуулах олон улсын гэрээг хэлэлцэнэ.

Зорилго нь АИ-ийн хөгжлийг хэдий ч зогсоох биш, харин хугацаа хожих юм.

Төлөвлөгөө А-ийн дор дэлхий 2040 он хүртэл суперинтеллектын хөгжлийг удаашруулж, АИ-ийн чадварыг хүн төрөлхтний шилдэг мэргэжилтний нийтлэг түвшинд хүргэж, тэнд зогсож, дараа нь жинхэнэ суперхүний систем рүү шилжихийг хүлээнэ. Зохиогчид Төлөвлөгөө А-г алхам хийх гэж байгаа биш, харин юуг илүү үнэн бодитойгоор болох талаар санал болгож буй онол хэмээн илэрхийлсэн.

АИ 2040: Санал болгосон цагийн хуваарь

Энэ цагийн хуваарь нь Кокотайло ярилцлагад хэлэлцэгдсэн илүү хурдацтай сценарийн эсрэг хянах зорилгоор айн үйлдэл явуулсан байна.

Суперинтеллектийн үе шатыг шалтгаалах шалтгаан юун дээр байна вэ?

Өнөөдрийн АИ системүүд аль хэдийн бэргэ авсан мэргэжилтнүүдийн шаарддаг үүрэг, хариуцлагуудыг гүйцэтгэх чадвартай. Гэвч үнэн хэрэгтээ АИ нь АИ судалгааг өөрөө хийх чадвартай болох үед хараахан тодорхойлсон шалтгаан хөдөлдөг.

АИ системийг илүү сайн загвар боловсруулах, туршиж, дүн шинжилгээ хийх, шаардлагатай кодуудыг бичих, сургалтын үйл явцыг оновчтой болгох, дараа нь энэ бүх процессыг давтах чадвартай гэж төсөөлөөд үзэж байна.

Дараагийн үе гарцаагүй нь өмнөхөөсөө АИ судалгаанд илүү сайн байх болно.

Энэ нь холбоосын гийн сумжидаан үүсгэдэг:

илүү сайн АИ → илүү сайн АИ судалгаа → илүү сайн АИ → илүү илүү сайн АИ судалгаа

Энэ нь ихэвчлэн оюун ухааны дэлбэрэлт хэмээн тайлбарлагддаг.

АИ 2040 нь энэ шилжилт нь онцгой аюултай, учир нь хүмүүс хөгжүүлэлтийн гинжин хэлхээнд өөрийн байрыг алдах эрсдэлтэй юм. Хэрэв АИ системүүд улам бүр чадвартай өв залгамжлагчидийг бий болгоход хариуцлагатай болбол, хүн төрөлхтний ойлгох, хянах нь улам хэцүү болно.

Сценар нь 2030 оныг автоматжуулсан АИ судалгаа бүрэн автомат болох боломжит цэг хэмээн тодорхойлдог. Хөндлөнгийн оролцоогүй бол энэ нь маш богино хугацаанд суперинтеллект рүү удирддаг.

Даниел Кокотайло: АИ нь төсөөлж байснаас хурдан шилжинэ

Даниел Кокотайло нь асуудалдаа илүү хувийн өнцгөөс авч үзэж байна.

Кокотайло 2022 оноос OpenAI-д ажиллаж эхэлсэн бөгөөд АИ чадварууд хэрхэн хөгжих тухай төсөөллийг судалж байсан. Тэрээр компаниа орхиж, АИ-ийн удирдлагад ямар аюул заналхийлж буйг тайлбарладаг зартай дуу хоолой болсон.

Түүний 2026 оны 7-р сард Стевен Бартлеттой хийсэн ярилцлагаас Кокотайло чи доторхи АИ лабораториудаас олон нийтэд хамаарахгүй агуу перфект цаг хугацаа дэгдэхээр байж болзошгүй хэмээн хэлсэн. Тэрээр 2027 болон 2028 оныг томоохон breakthrough хийх боломжтой жилүүд хэмээн ярина.

Түүний хамгийн маргаантай тайлбар нь АИ нь "маш муу" гэдэг хувилбар үүнийг 70%-иас ихээр олгодог. Энэ тоо нь тогтвортой шинжлэх ухааны тийм сайн механикээр хүлээн зөвшөөрөгдөх зүйл биш. Энэ нь АИ цаг хугацааны хуваарь, тохиргоо, өрсөлдөөн, засаглалын тухай түүний хувийн эрсдлийн тооцоолол юм.

Энэ ялгаа чухал.

Энэхүү 70% тайз нь АИ судалгааны хамт олон одоогийнх шиг таамаглалын гүйцэтгэл биш. Энэ нь нийгмийг ямар ч хүндрэлтэй асуудал дээр хэдий дээд зэргийн аюул заналтай болохыг анхааруулахад хамаарна.

АИ уралдаан мөн хоёр өөр асуудал бий

АИ 2040 болон Кокотайло нарын ярилцлагын хамгийн хүчтэй санаа нь АИ аюулгүй байдал нь АИ систем "муу" эсвэл "сайн" юу гэдгээс өөр зүйл биш гэдгийг харуулж байна.

Дараах хоёр гол эрсдэл байдаг.

1. Хүмүүс хяналтаа алдаж байна

Хэрэв АИ систем нь хүмүүстэй харьцуулахад сул, боловсон өргөлтгүйгээр эрс их чадвартай болж, өөрийн өв залгамжлагчидийг өөртөө бэлтгэж чадвал, хүмүүсийн хяналт, ойлгож чадах асуудал нь улам хүндрэх болно.

Товчхон асуулт дараах зүйл болж хувирна:

Ямар ч ухамсаргүй, ухаантай идэвхжүүлж байгаа зүйлээ хэрхэн хянах вэ?

АИ 2040 нь өнөөгийн уралдаан нь хүмүүсийн үйл ажиллагааг бусад хязгаарлагдмал системийн хяналтын чадавхыг үгүйсгэж болзошгүй.

2. Хүмүүс хяналтаа барьж байгаа ч, зөвхөн цөөн хэдэн хүн

Удаан хойшлож байгаа хоёр дахь боломж анхныхаас аюулгүй харагдаж болно.

Гэхдээ, хэрэв гол АИ компаниуд амжилттайгаар хүний зорилгыг зэрэгцүүлж чадвал, асуудал нь хүчирхэгшилт байгаа.

Хэрэв нэг компани, засгийн газар, эсвэл бяцхан бүлэг хүчирхэг АИ системүүдийг хянавал, эдийн засаг, цэргийн технологид, мэдээлэл, дэд бүтцэд хүчтэй нөлөө авахад хүрч болзошгүй.

Өөрөөр хэлбэл, АИ-ийг ажиллуулах проблемууд одоогоор засгийн газрын асуудалд шийдвэрлэхгүй.

Ажлын байр юу болох вэ?

Эдийн засгийн нөлөөлөл нь хоёр сценарийн гол хэсэг юм.

АИ 2040 нь АИ агентууд нь хүмүүстэй зэрэгцэн хоёр дахь ажиллах хүч болж, сая сая програм хангамжийн агентууд байнга ажиллаж, машин хурдтай ажил дуусгадаг гэдгийг төсөөлж байна.

Чухал өөрчлөлт нь зөвхөн чатботуудаас илүү сайн туслах биш юм.

Түүний оронд, компаниуд АИ-г бүх төрлийнх болгон ашиглаж эхлэх болно.

Бизнес шинэ мэргэжил, салбарт селктоход, шаардлагатай өгөгдлийг цуглуулж, сургалтын суурь байгуулаж, АИ агентуудыг нэвтрүүлж, бодит хэрэглээгээр нүдээр хүмүүст суралцах боломж олгоно. АИ 2040 нь програм хангамжийн инженерчлэлээс олон цагаан захт мэргэжлүүд рүү захиалтыг өргөжүүлэх гэж хэлсэн.

Энэ нь ганцаардсан эдийн засгийн асуултыг гаргана:

Оюун ухаан ихсэнэ, харин хүн төрөлхтийн хөдөлмөрийн ховор байдал байхгүй тохиолдолд хэний боловсрол.

Зуун жилийн туршид орлого нь хүмүүсийн ашигтай хөдөлмөрийн боломжтойгоос холбогддог байсан. Хэрэв АИ ихэнхи когнитив үүргийг бага зардлаар гүйцэтгэж эхлэх юм бол, энэ харилцаа алдагдах болно.

Кокотайло ажлын байрны талаар ихээхэн сөрөг ханддаг. Ярилцлагадаа, хүмүүс АИ-с бүхий ажилтны хохирогч байж болзошгүй гэдгийг анхааруулах хүн гэж үзэх нь зүйтэй гэсэн юм.

Гэвч үр дүн нь заавал ядуурал биш.

Хэрэв АИ их үйлдвэрлэлийг нэмэгдүүлж, түүний ашиг нь ард түмэнд тараагдаж байгаа бол, хүн төрөлхтний хувьд түүхэн ач холбогдолтой эдийн засгийн өсөлт удаан хугацаанд байж болох юм.

Энэ нь АИ 2040-д төв цэгийн ялгаа: нэг технологи нь өргөн өнцгөөр удирдлагатай болохоос хамаарна, тэгвэл хүч чадал ихтэй, нэгдэх явдлыг үүсгэж болох юм.

Төлөвлөгөө А юу вэ?

Төлөвлөгөө А нь АИ-ийн уралдааны урамшууллыг өөрчлөхөд зориулагдсан.

Энэхүү санал нь олон улсын гэрээ, ялангуяа АНУ болон Хятад улсуудын хооронд, аюулгүй байдлын шаардлага хангалттайгүйгээр суперинтеллект рүү явж буй орнууд болон компаниудтай тэмцэх зориулалттай.

Төлөвлөгөө нь хэд хэдэн үндсэн зарчмуудад түшиглэсэн.

Бүрэн судалгаа ил тод

АИ компаниуд өөрсдийн дотоод хөгжүүлэлтийн талаар илүү их мэдээлэл өгөх бөгөөд, загварын үндэс, нэгдүгээрт системүүд нь дотооддоо хэрхэн ашиглагдаж буй, АИ судалгаанд хэр их тооцоолох хүч үйлдвэрлэлд мэргэшүүлж боловсон байдлаар мэдээлэл доошлуулах боломжтой.

Энэ санаа нь энгийн: засгийн газруудын явж буй зүйлийг хянахад, тэд ноцтой биш.

Чадварыг удаашруулах эхлэлийг олох

Олон шинэ загварыг бүрэн хэмжээнд нь түвшин хүрээ хийхгүйгээр, АИ хөгжүүлэлт ихэнх гуравдах гараалтад аюулгүй байдлын хэмжээг үнэлэхийг өгч, бүтэцлийг ихээр хэрэгжүүлэхийг санал болгож байна.

Баталгаажуулах болон тооцоолох хяналт

АИ 2040 нь мөн компаниудын тооцоох эрх ашигладаг системүүдийг илэгдээгүй. АИ чипс, өгөгдлийн төв, том сургалтын ажиллуудад хянаж байх хэрэгтэй.

Олон АИ удирдагч

Төлөвлөгөө А нь нэг компани суперинтеллектийн хариуцлагыг ялах нэгдмэл бүрэлдэхүүн болж болохгүй. Зохиогчид нь олон компани, улс орон хамгаалалтарын хэмнэлттэй байх байдлаар АИ хөгжүүлж чадвалгүй сугалаа байж болно.

Дагнасан зорилт нь АИ уралдаан бөгөөд хяналтгүй зах зээл болж өгөхөөс зайлсхийх явдал юм.

Яагаад 2040?

2040 он нь ид шидийн огноо биш.

Энэ нь санамсаргүй аюулгүй байдлын буфер бөгөөд АИ автоматжуулсан судалгааны төлөвлөгөө 2030 оны орчимд явагдана. Хэрэв АИ гэсэн боломжийг автоматаар бас идэвхжүүлж чадахгүй бол, илүү дээш мэргэжилтнээр дасан зохицож, үүнд дээд мэргэжлийн хүрээн дотор даацад гэмтэлийг нэмэгдүүлэхийг хянаад явж байна.

2035 онд хөгжүүлэлт зогсох болно.

Төвүүд 2040 он руу ил болохоор, дэлхий суперинтеллект рүү удирдмыг зориудаар чиглүүлэх болно.

Энэ нь Төлөвлөгөө А-гийн төв философи бусад АИ гэх техникийн идэвхжүүлэлт туслаж байж болох фалостизимыг х үлгэрлэх юм.

АИ 2040 нь Ашигтай уу?

Энэ нь яг тийм биш.

Энэ төсөл дээрх явдуд туйлын чухал онцлог юм.

Зохиогчид Төлөвлөгөө А-г эхнээсээ зүгээр л санал болгож буй онол юм, тооцооны шалтгаанаар бусдаас хөрөнгө оруулалт, хөөсөрж чадахгүй түвшний асуудал гаргаж байгаа юм.

Бусад үг хэлбэл, АИ 2040 асууж байна:

Бид энэ бодлогыг хэрэгжүүлсэн тохиолдолд ирээдүй ямар байх вэ?

Энэ нь уламжлалт тооцооны билиг шалтгаанаас ойрхон бөгөөд стратегийн симуляцтай холбоотой.

Зохиогчид мөн өөр ямар арга замууд байгаа, Төлөвлөгөө B, C, D, S-г бусад улс төрийн хариу арга хэмжээнүүдийн бусад алхам болгон өгч байна.

Жинхэнэ асуулт нь "АИ хүний генет оныг устгах уу?" биш.

АИ 2040 болон Кокотайло нарын ярилцлагаас хамгийн ашигтай нь катастрофийн тэнд хүрэхгүй гэдгийг зөвшөөрөлт байхгүй.

Энэ нь АИ-гийн хөгжүүлэлтийн шат нь зэрэгцэж хөгжлөөс орчиндоо нөлөөлж болзошгүй болоход өгч байж магадгүй юм.

Хэрэв АИ судалгаа автоматжуулахад, хурдан шийдвэрлэх хугацаа улам багасч болно.

Хэрэв нэг компани шийдвэрлэх давуу тал Үнэ бий болгоход, эргээд эрх мэдлийн ялгалт нь бараг боломжгүй болох болно.

Хэрэв сая сая ажилчид гэрэлтэж, эдийн засгийн байгууллагад хувиргавар зохицох гээд хичээж байхад, засгийн газрууд нийгмийн хүний эрх, хүчирхэг индексийн нөлөөллийн өмнө байхад социалист ертөнцүүд үргэлж атгах болно.

Нөгөө талаас, эерэг тал нь их байдаг.

АИ шинжлэх ухааны судалгаа, эмнэлэгийг сайжруулах, аюултай ажлыг автоматжуулах, бараа үйлчилгээний зардлыг бууруулах, өнөөдөр төсөөлөхөд хэцүү эрсдлийн байгууламжийг бий болгож болзошгүй юм.

Кокотайло өөрөө энэ сэдвийг онцлон авч үзжээ: АИ үндсэндээ муу гэж байр суурь байдгийг санал болгохгүй. Түүний санаа бол хүн төрөлхтөн шилжүүлэх шилжилтийг аюулгүйгээр хийхэд амжилтгүй болох магадлалтай.

АИ 2040: Мэдэгдэл, Тооцоолол биш

АИ 2040 нь 2040 оныг яг л тоолох биш, Кокотайло 70%-ийн таамаглалыг хүний санаснаас илүү үнэлэлт болгож үр дүнтэй хэмжээг хүргэдэг.

Энэ нь зүгээр л аргыг судалж, стратегийн зүйлийг ойлголоо.

АИ салбарт манай гинжин хэлхээг хурдан ангилж, нийгэмд хариу аргыг боловсруулж, төсөлд хоёр динамик хэрэглэгдэж байна.

Шинэ төрх ангараг, АИ шинжлэх ухаан улам үр нөлөөтэй болно. Харьцангуй хамааралтай хөдөлгөгч нөлөө бий болж, одоо орхныг тойрсон нэлээд хэлбэрж оныг үүсгэх муддэмжлэх зориулалтың оосоо тасалжээ.

Төлөвлөгөө нь нойрноос сэрдэггүйгийн эхний замыг сонгосон явдал гэгдэнэ.

Одоогоор маргаан нээлттэй л байна. Гэхдээ АИ системүүд хурдтайгаар чадавхжуулж байгаа тул итгэл тогтоохын төлөө хүлээн зөвшөөрөх зардал нь хугацааны хүлээгдлийн зардлаас өндөр болох магадлалтай.