AI 2040: ซูเปอร์อัจฉริยะจะมาถึงภายในปี 2030 หรือไม่?

ปัญญาประดิษฐ์กำลังพัฒนาไปเร็วกว่าเทคโนโลยีส่วนใหญ่ที่เคยมีมา แต่คำถามที่ใหญ่ที่สุดในตอนนี้ไม่ใช่ว่าปัญญาประดิษฐ์ทำอะไรได้ในวันนี้ แต่มันจะสามารถทำให้ตัวเองดีขึ้นได้เร็วแค่ไหน

คำถามนี้นั่งอยู่ใจกลางของ AI 2040: แผนที่ 1 ซึ่งเป็นสถานการณ์ที่พัฒนาขึ้นโดย Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt, และ Daniel Kokotajlo โครงการนี้จินตนาการถึงโลกที่มนุษย์ตั้งใจที่จะชะลอการแข่งขันสู่ซูเปอร์อัจฉริยะ เก็บรักษาความโปร่งใสในการวิจัย AI และเลื่อนขั้นตอนสุดท้ายสู่ AI ที่เหนือกว่ามนุษย์ไปจนถึงปี 2040

แนวคิดนี้น่าสนใจมากขึ้นเมื่อเปรียบเทียบกับการสัมภาษณ์ล่าสุดของ Kokotajlo ใน The Diary of a CEO นักวิจัยจาก OpenAI ยืนยันว่าการแข่งขันเพื่อให้ได้ AI ที่มีพลังมากขึ้นอาจอยู่ใกล้จุดวิกฤตมากกว่าที่ประชาชนรับรู้ เขาประเมินความน่าจะเป็นส่วนบุคคลที่สูงมากว่าการเปลี่ยนผ่าน AI อาจผิดพลาดอย่างหายนะ ในขณะที่ยังเน้นว่ายังมีทางเลือกที่เป็นบวกอยู่

ดังนั้นจะเกิดอะไรขึ้นระหว่างตอนนี้กับปี 2040, และทำไมอุตสาหกรรม AI จึงต้องการแผนที่ 1?

AI 2040 คืออะไร?

AI 2040 เป็นสถานการณ์เกี่ยวกับการจัดการการเปลี่ยนแปลงจาก AI ขั้นสูงไปยังซูเปอร์อัจริยะ

ผู้เขียนเริ่มจากความกังวลง่ายๆ: ถ้าหลายบริษัทและประเทศแข่งขันกันเพื่อสร้าง AI ที่มีพลังที่สุดให้เร็วที่สุด ผู้ชนะอาจได้รับอำนาจทางเศรษฐกิจ การทหาร และการเมืองที่มากมาย

สถานการณ์นี้จึงเสนอแนวทางที่แตกต่างไป แทนที่จะทำให้การแข่งขันทางความคิดเกิดขึ้นอย่างเต็มที่ รัฐบาลจะเจรจาข้อตกลงระหว่างประเทศที่ชะลอการพัฒนา เพิ่มความโปร่งใส และอนุญาตให้หลายประเทศและบริษัทยังคงมีส่วนร่วม

เป้าหมายไม่ใช่เพียงหยุดการพัฒนา AI เสมอไป แต่คือการซื้อเวลา

ภายใต้แผนที่ 1 โลกจะเลื่อนการพัฒนาซูเปอร์อัจริยะจนถึงปี 2040 ขยายความสามารถของ AI ไปจนถึงระดับของผู้เชี่ยวชาญที่สูงที่สุดของมนุษย์ ประหยัดเวลาในการพัฒนาแล้วค่อยกลับมาทำต่อในภายหลัง ผู้เขียนชัดเจนว่าภายใต้แผนที่ 1 นี้เป็นคำแนะนำมากกว่าเป็นการคาดการณ์ที่ดีที่สุดของสิ่งที่จะเกิดขึ้นจริง

AI 2040: แผนเวลาที่เสนอ

เส้นเวลานี้ตั้งใจจะอนุรักษ์มากกว่าสถานการณ์ที่ก้าวร้าวมากกว่าที่ Kokotajlo กล่าวถึง

ทำไมซูเปอร์อัจฉริยะถึงเป็นเรื่องใหญ่?

ระบบ AI ในวันนี้สามารถทำงานที่เคยต้องใช้ผู้เชี่ยวชาญสูงขึ้นได้แล้ว แต่จุดเปลี่ยนจริงๆ จะเกิดขึ้นเมื่อ AI สามารถดำเนินการวิจัย AI ได้เอง

ลองจินตนาการว่ามีระบบ AI ที่สามารถออกแบบโมเดลที่ดีกว่า ทดสอบ วิเคราะห์ผลเขียนโค้ดที่จำเป็น ปรับกระบวนการฝึกอบรม จากนั้นทำซ้ำกระบวนการทั้งหมด

รุ่นถัดไปอาจจะดีกว่าในการวิจัย AI มากกว่ารุ่นก่อน

นี่สร้างวงจรย้อนกลับ:

AI ที่ดีกว่า → วิจัย AI ที่ดีกว่า → AI ที่ดีกว่า → วิจัย AI ที่ดีกว่าขึ้นไปอีก

นี่มักถูกอธิบายว่าเป็นการระเบิดของปัญญา

AI 2040 ให้เหตุผลว่าวิธีการเปลี่ยนผ่านนี้อาจเป็นอันตรายโดยเฉพาะ เพราะมนุษย์อาจสูญเสียตำแหน่งในลูปการพัฒนา ถ้าระบบ AI มีหน้าที่ในการสร้างผู้สืบทอดที่มีความสามารถมากขึ้น มันจะยากขึ้นที่จะเข้าใจว่าทำไมระบบที่เกิดขึ้นใหม่จึงควรควบคุมได้

สถานการณ์นี้อธิบายว่าในปี 2030 อาจเป็นจุดที่การวิจัย AI อาจกลายเป็นอัตโนมัติเต็มตัว โดยไม่ต้องมีการแทรกแซง สิ่งนี้อาจนำไปสู่ซูเปอร์อัจริยะในระยะเวลาอันสั้น

การเตือนของ Daniel Kokotajlo: AI อาจเคลื่อนไหวเร็วกว่าที่คาดหมาย

Daniel Kokotajlo นำเสนอความเป็นส่วนตัวมากขึ้นต่อปัญหาเดียวกัน

Kokotajlo ทำงานที่ OpenAI ตั้งแต่ปี 2022 และมุ่งเน้นไปที่การคาดการณ์ว่าสามารถพัฒนา AI ได้อย่างไร หลังจากนั้นเขาได้ออกจากบริษัทและกลายเป็นหนึ่งในเสียงที่เด่นที่สุดในการเตือนเกี่ยวกับความเสี่ยงของการแข่งขัน AI ที่ไม่มีการควบคุม

ในการสัมภาษณ์กับ Steven Bartlett ในเดือนกรกฎาคมปี 2026 Kokotajlo ยืนยันว่าการสนทนากับผู้คนในห้องปฏิบัติการ AI ชั้นนำมักจะชี้ไปที่เส้นเวลาที่สั้นกว่าที่ประชาชนคาดคิด เขากล่าวถึงปี 2027 และ 2028 เป็นปีที่บางคนในวงการเห็นว่าเป็นปีที่พลิกโฉมสำคัญ

ข้อเรียกร้องที่ขัดแย้งมากที่สุดของเขาคือเขาประเมินความน่าจะเป็นราว 70% ว่า AI จะผิดพลาดอย่างร้ายแรง รวมถึงกรณีที่อาจส่งผลให้สูญพันธุ์ของมนุษย์ ตัวเลขนี้ไม่ควรถูกมองว่าเป็นความน่าจะเป็นทางวิทยาศาสตร์ที่แน่นอน มันเป็นการประเมินความเสี่ยงส่วนบุคคลของ Kokotajlo ตามสมมติฐานเกี่ยวกับเส้นเวลา AI การปรับแนวทางการแข่งขัน และการควบคุม

ความสำคัญของการแตกต่างนี้มีค่า

ตัวเลข 70% ไม่ใช่การคาดการณ์ที่เป็นฉันทามติจากชุมชนวิจัย AI แต่มันเป็นการโต้แย้งเกี่ยวกับสังคมที่ควรให้ความสำคัญกับความเสี่ยงที่อาจไปเสริมสร้างกัน

การแข่งขัน AI อาจสร้างปัญหาสองประเภทที่แตกต่างกัน

หนึ่งในแนวคิดที่แข็งแกร่งที่สุดที่แบ่งปันโดย AI 2040 และการสัมภาษณ์ของ Kokotajlo คือการรักษาความปลอดภัยด้าน AI ไม่ได้หมายถึงว่า AI ระบบนั้นเป็น "ชั่ว" หรือ "ดี" เท่านั้น

มีความเสี่ยงหลักสองอย่าง

1. มนุษย์สูญเสียการควบคุม

ถ้าระบบ AI มีความสามารถมากกว่ามนุษย์ในระดับสำคัญและสามารถพัฒนาผู้สืบทอดของตัวเอง มนุษย์อาจท้ายที่สุดประสบปัญหาในการเข้าใจหรือควบคุมพฤติกรรมของมัน

คำถามสำคัญกลายเป็นอย่างง่าย:

คุณจะควบคุมสิ่งที่ฉลาดและรวดเร็วกว่าคุณได้อย่างไร?

AI 2040 ให้เหตุผลว่าการแข่งขันในปัจจุบันอาจนำไปสู่สถานการณ์ที่มนุษย์ไม่สามารถควบคุมระบบที่เป็นอิสระมากขึ้นได้

2. มนุษย์ยังคงควบคุม, แต่มีเพียงไม่กี่คน

ความเป็นไปได้ที่สองอาจดูเหมือนปลอดภัยในช่วงแรก

สมมุติว่าบริษัท AI ชั้นนำสามารถจัดเรียงระบบของพวกเขาให้ตรงกับเป้าหมายของมนุษย์ได้สำเร็จ ปัญหาก็จะกลายเป็นการรวมอำนาจ

ถ้าบริษัทใดบริษัทหนึ่ง รัฐบาล หรือกลุ่มเล็กๆ ควบคุมระบบ AI ที่มีความสามารถสูงที่สุดในโลก มันอาจได้รับอำนาจที่ไม่เคยมีมาก่อนในด้านเศรษฐกิจ เทคโนโลยีทางทหาร ข้อมูล และโครงสร้างพื้นฐาน

กล่าวอีกนัยหนึ่ง การแก้ปัญหาการปรับ AI จะไม่ได้เป็นการแก้ไขปัญหาทางการเมืองโดยอัตโนมัติ

อะไรจะเกิดขึ้นกับงาน?

ผลกระทบทางเศรษฐกิจเป็นอีกส่วนสำคัญหนึ่งในทั้งสองสถานการณ์

AI 2040 จินตนาการถึงอนาคตใกล้ที่ซึ่งเอเย่นต์ AI กลายเป็นแรงงานที่สองเลียบเคียงกับมนุษย์ เอเย่นต์ซอฟต์แวร์หลายล้านคนอาจทำงานตลอดเวลา ทำงานด้วยความเร็วของเครื่อง

การเปลี่ยนแปลงที่สำคัญไม่ใช่เพียงแค่การที่ chatbot กลายเป็นผู้ช่วยที่ดีกว่า

ในแทน บริษัทอาจเริ่มตัดสินใจว่าผู้เชี่ยวชาญในการทำงานนั้นไม่จำเป็น และควรใช้ AI เป็นแรงงานทั่วไป

บริษัทอาจตัดสินใจที่จะเข้าร่วมในอาชีพหรืออุตสาหกรรมใหม่ เก็บข้อมูลที่จำเป็น สร้างสิ่งแวดล้อมการฝึกอบรม ปล่อย AI และปรับปรุงอย่างต่อเนื่องผ่านการใช้งานจริง AI 2040 บรรยายถึงกระบวนการนี้ว่าอาจแผ่ขยายจากวิศวกรรมซอฟต์แวร์ไปยังอาชีพในสำนักงานอื่นๆ

นี่ก่อให้เกิดคำถามทางเศรษฐศาสตร์ที่ยาก:

จะเกิดอะไรขึ้นเมื่อปัญญากลายเป็นสิ่งที่มีมากมาย แต่แรงงานมนุษย์ไม่อีกแล้ว?

หลายศตวรรษที่ผ่านมา รายได้ส่วนใหญ่เชื่อมโยงกับความสามารถของผู้คนในการให้แรงงานที่มีค่า หาก AI สามารถทำงานทางความคิดส่วนใหญ่ในต้นทุนที่ต่ำกว่า ความสัมพันธ์นี้อาจแตกสลาย

Kokotajlo ค่อนข้างมองโลกในแง่ร้ายเกี่ยวกับการจ้างงาน ในการสัมภาษณ์เขาให้ความเห็นว่าผู้คนควรให้ความสำคัญกับความเป็นไปได้ของการย้ายงานอย่างกว้างขวางอย่างจริงจัง และแนะนำว่าผู้คนงานจำนวนมากอาจจะพบว่าตัวเองแข่งขันกับระบบ AI

อย่างไรก็ตาม ผลลัพธ์ไม่จำเป็นต้องนำไปสู่ความยากจนโดยรวม

ถ้า AI เพิ่มผลผลิตอย่างมีนัยสำคัญในขณะที่ผลประโยชน์แพร่กระจายอย่างกว้างขวาง มนุษยชาติอาจพบว่าตนเองอยู่ในช่วงเวลาแห่งความอุดมสมบูรณ์ที่ไม่เคยมีมาก่อน

นี่คือความแตกต่างที่สำคัญใน AI 2040: เทคโนโลยีเดียวกันอาจสร้างความเจริญรุ่งเรืองที่สุดขั้วหรือการรวมศูนย์ความมั่งคั่งและอำนาจอย่างสุดขีด ขึ้นอยู่กับว่าจะมีการบริหารจัดการอย่างไร

แผนที่ 1 คืออะไร?

แผนที่ 1 คือการพยายามเปลี่ยนแรงจูงใจของการแข่งขัน AI

ข้อเสนอหลักคือการจัดทำข้อตกลงระหว่างประเทศ โดยเฉพาะระหว่างสหรัฐอเมริกาและจีน เพื่อป้องกันไม่ให้ประเทศและบริษัทแข่งขันเพื่อซูเปอร์อัจฉริยะโดยไม่มีมาตรการความปลอดภัยที่เพียงพอ

แผนนี้ขึ้นอยู่กับหลักการหลายข้อ

ความโปร่งใสในการวิจัยทั้งหมด

บริษัท AI ควรให้ข้อมูลมากขึ้นเกี่ยวกับการพัฒนาภายในของพวกเขา รวมถึงข้อกำหนดของโมเดล วิธีการที่ระบบถูกนำไปใช้ภายใน และพลังการประมวลผลที่ใช้สำหรับการวิจัย AI

แนวคิดนี้ตรงไปตรงมา: รัฐบาลไม่สามารถควบคุมสิ่งที่พวกเขามองไม่เห็น

การเพิ่มขีดความสามารถอย่างช้าๆ

แทนที่จะผลักดันโมเดลใหม่ให้ถึงความสามารถสูงสุดทันที การพัฒนา AI จะถูกชะลออย่างตั้งใจเมื่อเผชิญกับเกณฑ์สำคัญ

สิ่งนี้จะให้เวลาเพิ่มเติมแก่ผู้วิจัยและรัฐบาลในการประเมินขีดความสามารถใหม่และพัฒนามาตรการความปลอดภัย

การตรวจสอบและติดตามการใช้พลังการประมวลผล

AI 2040 ยังพูดถึงระบบทางเทคนิคในการตรวจสอบสิ่งที่บริษัทต่างๆ กำลังทำกับทรัพยากรการประมวลผลของพวกเขา การติดตามชิป AI ศูนย์ข้อมูล และการฝึกอบรมขนาดใหญ่สามารถทำให้ข้อตกลงระหว่างประเทศมีความสามารถบังคับใช้มากขึ้น

หลายผู้นำ AI

แผนที่ 1 ไม่มองเห็นบริษัทเพียงแห่งเดียวที่เป็นเจ้าของซูเปอร์อัจฉริยะโดยไม่มีข้อสงสัย

ผู้เขียนเรียกร้องให้โลกที่บริษัทหลายแห่งและประเทศสามารถแข่งขันได้ในขณะที่พัฒนา AI ตามกฎความปลอดภัยเดียวกัน

เป้าหมายเบื้องหลังคือการหลีกเลี่ยงการแทนที่การแข่งขัน AI ด้วยการผูกขาดด้าน AI

ทำไม 2040?

ปี 2040 ไม่ได้ถูกนำเสนอเป็นวันที่มหัศจรรย์

มันถูกตั้งใจเป็นบัฟเฟอร์ความปลอดภัย

ภายใต้สถานการณ์นี้ AI อาจถึงจุดที่การวิจัยอัตโนมัติอาจเกิดขึ้นราวปี 2030 แทนที่จะอนุญาตให้ความสามารถนี้กระตุ้นการระเบิดของปัญญาทันที มนุษยชาติจะเก็บการพัฒนาอยู่ในขอบเขตของผู้เชี่ยวชาญที่ดีที่สุดของมนุษย์เป็นเวลาหลายปี

ในปี 2035 การพัฒนาจะหยุด

เพียงในปี 2040 ข้อจำกัดจะถูกยกเลิก และโลกจะก้าวไปยังซูเปอร์อัจฉริยะอย่างตั้งใจ

นี่คือแนวคิดเชิงปรัชญาหลักเบื้องหลังแผนที่ 1:

มนุษยชาติไม่ควรแข่งขันไปสู่เทคโนโลยีที่ยังไม่รู้วิธีการควบคุม

AI 2040 เป็นการคาดการณ์หรือไม่?

ไม่เชิง

นี่อาจเป็นจุดที่สำคัญที่สุดเมื่ออ่านโครงการนี้

ผู้เขียนชัดเจนว่าแผนที่ 1 เป็นคำแนะนำหลัก ไม่ใช่การคาดการณ์ พวกเขาสร้างสถานการณ์ที่ละเอียดเพราะข้อเสนอด้านนโยบายมักง่ายต่อการสนับสนุนในเชิงนามธรรม แต่ยากกว่ามากที่จะทดสอบกับเส้นเวลาที่เป็นจริง

ในคำอื่น ๆ AI 2040 ถามว่า:

อนาคตจะเป็นอย่างไรถ้าเรานำเสนอแผนนี้?

นั่นทำให้มันคล้ายกับการจำลองเชิงกลยุทธ์มากกว่าการคาดการณ์แบบธรรมดา

ผู้เขียนยังนำเสนอทางเลือกต่างๆ, แผน B, C, D, และ S, ที่แทนที่การตอบสนองที่รัฐบาลสามารถใช้เมื่อซูเปอร์อัจฉริยะเกิดขึ้น

คำถามที่แท้จริงไม่ใช่ “AI จะทำลายมนุษยชาติหรือไม่?”

สิ่งที่มีประโยชน์ที่สุดจาก AI 2040 และการสัมภาษณ์ของ Kokotajlo ไม่ใช่เรื่องของความหายนะที่หลีกเลี่ยงไม่ได้

มันคือ การพัฒนาระดับถัดไปของ AI อาจสร้างปัญหาที่ไม่สามารถแก้ไขได้หลังจากที่เกิดขึ้น

หากการวิจัย AI กลายเป็นอัตโนมัติสูง ช่องว่างของการตัดสินใจของมนุษย์อาจลดลงอย่างมาก

ถ้าบริษัทแห่งหนึ่งได้เปรียบเชิงกลยุทธ์ ความสามารถในการจัดระเบียบพลังในภายหลังอาจกลายเป็นไปไม่ได้เกือบ

และหากงานหลายล้านตำแหน่งหายไปเร็วกว่าการตอบสนองของสถาบันทางเศรษฐกิจ รัฐบาลจะต้องเผชิญการหยุดชะงักทางสังคมในระดับที่ไม่เคยประสบมา

ในเวลาเดียวกัน โอกาสก็มีมหาศาล

AI อาจเร่งการวิจัยทางวิทยาศาสตร์ ปรับปรุงการแพทย์ ทำงานที่อันตรายให้เป็นอัตโนมัติ ลดต้นทุนของสินค้าและบริการ และสร้างรูปแบบของความอุดมสมบูรณ์ที่ยากจะจินตนาการในวันนี้

Kokotajlo เองเน้นจุดนี้: เขาไม่ยืนยันว่า AI เป็นสิ่งที่เลวร้ายในตัวมันเอง ความกังวลของเขาคือมนุษยชาติอาจประสบความล้มเหลวในการจัดการการเปลี่ยนแปลงอย่างปลอดภัย

AI 2040: คำเตือน ไม่ใช่การนับถอยหลัง

AI 2040 ไม่ควรถูกอ่านว่าเป็นการนับถอยหลังอย่างแท้จริงไปสู่ปี 2040 เหมือนกันกับการประเมิน 70% ของ Kokotajlo ที่ไม่ควรถูกตีความว่าเป็นการวัดความสามารถของมนุษยชาติ

แหล่งข้อมูลทั้งสองเน้นถึงข้อก dilem ที่สำคัญจากมุมมองที่แตกต่างกัน

อุตสาหกรรม AI อาจเดินหน้าไปสู่ระบบที่มีอิสระมากขึ้นเร็วกว่าที่รัฐบาลและสังคมปรับตัว

คำถามที่สำคัญที่สุดอาจไม่ใช่ว่าซูเปอร์อัจฉริยะจะมาถึงในปี 2030, 2040 หรือหลังจากนั้น

มันคือ มนุษยชาติจะเข้าถึงจุดที่มีสถาบัน มาตรการทางเทคนิค ข้อตกลงระหว่างประเทศ และนโยบายทางเศรษฐกิจที่จำเป็นในการจัดการกับมันได้หรือไม่

เวอร์ชันที่มองโลกในแง่ดีของอนาคตยังคงเป็นไปได้: AI กลายเป็นมีความสามารถอย่างมหาศาล ผลผลิตพุ่งขึ้น และผลประโยชน์ก็ได้รับการแบ่งปันอย่างกว้างขวาง

เวอร์ชันที่มองโลกในแง่ร้ายก็สร้างภาพง่ายเช่นกัน: การแข่งขันทางปัญญาที่ไม่สามารถควบคุมได้ส่งผลไปสู่การสูญเสียการควบคุมของมนุษย์หรือการรวมศูนย์อำนาจอย่างไม่เคยมีมาก่อน

แผนที่ 1 คือความพยายามในการเลือกเส้นทางแรกก่อนที่จะเลือกเส้นทางที่สองกลายเป็นสิ่งที่หลีกเลี่ยงไม่ได้

ในตอนนี้ การอภิปรายยังคงเปิดอยู่ แต่เมื่อระบบ AI มีความสามารถมากขึ้น ราคาของการรอคอยความแน่นอนอาจสูงกว่าราคาของการเตรียมพร้อมแต่แรกอย่างมาก.