AI 2040: Liệu Siêu trí tuệ Có Thể Đến Vào Năm 2030?

Trí tuệ nhân tạo đang phát triển nhanh hơn hầu hết các công nghệ trước đó, nhưng câu hỏi lớn nhất không còn là trí tuệ nhân tạo có thể làm gì ngày hôm nay nữa. Mà là trí tuệ nhân tạo có thể trở nên khả năng tự cải thiện nhanh như thế nào.

Câu hỏi này nằm ở trung tâm của AI 2040: Kế hoạch A, một kịch bản được phát triển bởi Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt và Daniel Kokotajlo. Dự án tưởng tượng một thế giới trong đó nhân loại chủ động làm chậm cuộc đua đến với siêu trí tuệ, duy trì tính minh bạch trong nghiên cứu trí tuệ nhân tạo, và hoãn lại bước cuối cùng đến trí tuệ siêu nhân cho đến năm 2040.

Ý tưởng này càng trở nên nổi bật hơn khi so sánh với cuộc phỏng vấn gần đây của Kokotajlo trên The Diary of a CEO. Cựu nghiên cứu viên OpenAI này lập luận rằng cuộc đua đến với trí tuệ nhân tạo mạnh mẽ hơn có thể gần đến một điểm quan trọng hơn so với nhận thức của công chúng. Ông ước tính xác suất cá nhân của mình về việc chuyển giao trí tuệ nhân tạo có thể sai lệch nghiêm trọng là rất cao, trong khi cũng nhấn mạnh rằng một kết quả tích cực vẫn có thể xảy ra.

Vậy, điều gì có thể xảy ra giữa bây giờ và năm 2040, và tại sao ngành công nghiệp AI cần một Kế hoạch A?

AI 2040 Là Gì?

AI 2040 là một kịch bản về việc quản lý sự chuyển tiếp từ AI tiên tiến đến siêu trí tuệ.

Các tác giả bắt đầu từ một mối quan tâm đơn giản: nếu có vài công ty và quốc gia cạnh tranh để xây dựng trí tuệ nhân tạo mạnh nhất càng nhanh càng tốt, thì người chiến thắng có thể giành được một lượng quyền lực kinh tế, quân sự và chính trị đáng kể.

Kịch bản đó do đó đề xuất một cách tiếp cận khác. Thay vì cho phép cuộc đua trí tuệ diễn ra với tốc độ tối đa, các chính phủ sẽ đàm phán một thỏa thuận quốc tế nhằm làm chậm sự phát triển, tăng cường tính minh bạch, và cho phép nhiều quốc gia và công ty vẫn tham gia.

Mục tiêu không phải là ngừng phát triển trí tuệ nhân tạo mãi mãi. Mà là để mua thời gian.

Theo Kế hoạch A, thế giới sẽ hoãn phát triển siêu trí tuệ cho đến năm 2040, dần dần mở rộng khả năng của AI đến khoảng trình độ của những chuyên gia hàng đầu, tạm dừng ở đó, và chỉ sau đó mới tiếp tục chuyển giao đến các hệ thống thực sự vượt trội. Các tác giả mô tả Kế hoạch A một cách rõ ràng là một khuyến nghị thay vì dự đoán tốt nhất của họ về những gì sẽ thực sự xảy ra.

AI 2040: Thời Gian Đề Xuất

Thời gian này cố ý bảo thủ so với các kịch bản quyết liệt hơn mà Kokotajlo đã thảo luận.

Tại Sao Siêu trí tuệ Lại Quan Trọng Đến Vậy?

Các hệ thống AI ngày nay đã có thể thực hiện những nhiệm vụ mà trước kia chỉ cần những chuyên gia được đào tạo cao. Nhưng điểm chuyển mình thực sự sẽ đến khi AI có khả năng thực hiện nghiên cứu AI cho chính nó.

Hãy tưởng tượng một hệ thống AI có thể thiết kế một mô hình tốt hơn, thử nghiệm nó, phân tích kết quả, viết mã cần thiết, tối ưu hóa quá trình đào tạo và sau đó lặp lại toàn bộ quy trình.

Thế hệ tiếp theo có thể tốt hơn trong nghiên cứu AI so với thế hệ trước.

Điều này tạo ra một vòng lặp phản hồi:

AI tốt hơn → Nghiên cứu AI tốt hơn → AI tốt hơn → Nghiên cứu AI thậm chí tốt hơn

Điều này thường được mô tả là một cuộc bùng nổ trí tuệ.

AI 2040 lập luận rằng sự chuyển tiếp này đặc biệt nguy hiểm vì con người có thể mất vị trí của mình trong vòng phát triển. Nếu các hệ thống AI chịu trách nhiệm tạo ra những người kế nhiệm ngày càng có khả năng hơn, sẽ ngày càng khó hiểu tại sao các hệ thống kết quả lại có thể kiểm soát được.

Kịch bản này mô tả năm 2030 là một điểm tiềm năng mà nghiên cứu AI có thể hoàn toàn tự động. Nếu không có sự can thiệp, điều đó có thể dẫn đến siêu trí tuệ trong một khoảng thời gian rất ngắn.

Cảnh Báo của Daniel Kokotajlo: AI Có Thể Diễn Ra Nhanh Hơn Mong Đợi

Daniel Kokotajlo đem đến một quan điểm cá nhân hơn về vấn đề tương tự.

Kokotajlo đã làm việc tại OpenAI từ năm 2022 và tập trung vào việc dự đoán sự phát triển khả năng của AI. Ông sau đó rời khỏi công ty và đã trở thành một trong những tiếng nói nổi bật cảnh báo về những rủi ro của cuộc đua AI không kiểm soát.

Trong cuộc phỏng vấn tháng 7 năm 2026 với Steven Bartlett, Kokotajlo lập luận rằng các cuộc trò chuyện với những người trong các phòng thí nghiệm AI hàng đầu thường chỉ ra rằng thời gian dự đoán ngắn hơn so với dự đoán của công chúng. Ông đã đề cập cụ thể đến năm 2027 và 2028 như những năm mà một số người trong ngành xem là hợp lý cho các đột phá lớn.

Khiêu khích nhất trong những gì ông cho là cá nhân là ông gán khoảng 70% khả năng AI sẽ “sai lầm cực kỳ”, bao gồm các tình huống có thể dẫn đến sự tuyệt chủng của con người. Con số này không nên được coi là xác suất khoa học đã được thiết lập. Đây là ước lượng rủi ro cá nhân của Kokotajlo dựa trên các giả định của ông về thời gian, sự phù hợp, cạnh tranh và quản trị của AI.

Sự khác biệt đó rất quan trọng.

Con số 70% không phải là một dự đoán đồng thuận từ cộng đồng nghiên cứu AI. Đây là một lập luận về việc xã hội nên coi nghiêm túc một tổ hợp rủi ro có thể gia tăng lẫn nhau như thế nào.

Cuộc Đua AI Có Thể Tạo Ra Hai Vấn Đề Khác Nhau

Một trong những ý tưởng mạnh mẽ nhất được chia sẻ bởi AI 2040 và cuộc phỏng vấn của Kokotajlo là an toàn AI không chỉ là liệu một hệ thống AI có “xấu” hay “tốt”.

Có ít nhất hai mối rủi ro lớn.

1. Con Người Mất Kiểm Soát

Nếu một hệ thống AI trở nên có khả năng hơn đáng kể so với con người và có thể cải thiện các thế hệ kế tiếp của nó, con người có thể cuối cùng gặp khó khăn trong việc hiểu hoặc kiểm soát hành vi của nó.

Câu hỏi chính trở nên đơn giản:

Làm thế nào để bạn kiểm soát một cái gì đó thông minh và nhanh hơn bạn?

AI 2040 lập luận rằng cuộc đua hiện tại có thể dẫn đến một tình huống trong đó con người không còn duy trì kiểm soát hiệu quả trên các hệ thống tự chủ ngày càng nhiều hơn.

2. Con Người Giữ Kiểm Soát, Nhưng Chỉ Một Số Ít Con Người

Khả năng thứ hai có vẻ an toàn hơn lúc đầu.

Giả sử các công ty AI hàng đầu đồng ý thành công trong việc điều chỉnh các hệ thống của họ với các mục tiêu của con người. Vấn đề lúc đó sẽ trở thành sự tập trung quyền lực.

Nếu một công ty, chính phủ hoặc nhóm nhỏ kiểm soát các hệ thống AI có khả năng nhất thế giới, nó có thể giành được ảnh hưởng chưa từng có đối với kinh tế, công nghệ quân sự, thông tin và cơ sở hạ tầng.

Nói cách khác, giải quyết sự phù hợp của AI sẽ không tự động giải quyết vấn đề chính trị.

Những Gì Sẽ Xảy Ra Với Việc Làm?

Tác động kinh tế là một phần quan trọng khác trong cả hai kịch bản.

AI 2040 tưởng tượng một tương lai gần trong đó các tác nhân AI trở thành lực lượng lao động thứ hai bên cạnh con người. Hàng triệu tác nhân dựa trên phần mềm có thể hoạt động liên tục, hoàn thành các nhiệm vụ với tốc độ của máy móc.

Sự thay đổi quan trọng không chỉ đơn giản là chatbot trở thành các trợ lý tốt hơn.

Thay vào đó, các công ty có thể bắt đầu coi AI như một lực lượng lao động đa năng.

Một doanh nghiệp có thể quyết định tham gia một ngành nghề hoặc lĩnh vực mới, thu thập dữ liệu cần thiết, xây dựng môi trường đào tạo, triển khai các tác nhân AI và liên tục cải thiện chúng thông qua việc sử dụng thực tế. AI 2040 mô tả quá trình này như có khả năng lan rộng từ kỹ thuật phần mềm sang nhiều nghề văn phòng khác.

Điều này dấy lên một câu hỏi kinh tế khó khăn:

Điều gì xảy ra khi trí tuệ trở nên phong phú nhưng lao động của con người không còn khan hiếm?

Trong nhiều thế kỷ, thu nhập chủ yếu được kết nối với khả năng của con người để cung cấp lao động hữu ích. Nếu AI có thể thực hiện hầu hết các nhiệm vụ nhận thức với chi phí thấp hơn, mối quan hệ này có thể bị phá vỡ.

Kokotajlo đặc biệt bi quan về công ăn việc làm. Trong cuộc phỏng vấn, ông lập luận rằng mọi người nên xem xét nghiêm túc khả năng mất việc hàng loạt và cho rằng nhiều công nhân có thể cuối cùng thấy mình đang cạnh tranh với các hệ thống AI.

Tuy nhiên, kết quả không nhất thiết là đói khổ hàng loạt.

Nếu AI tăng trưởng sản xuất một cách đáng kể trong khi lợi ích của nó được phân phối rộng rãi, nhân loại có thể trải nghiệm một giai đoạn thịnh vượng chưa từng có.

Đó là một trong những sự tương phản trung tâm trong AI 2040: cùng một công nghệ có thể tạo ra sự thịnh vượng tột độ hoặc sự tập trung cực độ của của cải và quyền lực, tùy thuộc vào cách nó được quản trị.

Kế Hoạch A Là Gì?

Kế Hoạch A về cơ bản là một nỗ lực thay đổi động lực của cuộc đua AI.

Đề xuất cốt lõi của nó là một thỏa thuận quốc tế, đặc biệt giữa Mỹ và Trung Quốc, nhằm ngăn chặn các quốc gia và công ty đua đến siêu trí tuệ mà không có các biện pháp an toàn thích hợp.

Kế hoạch dựa vào một số nguyên tắc chính.

Tổng Quan Nghiên Cứu Minh Bạch

Các công ty AI sẽ cung cấp nhiều thông tin hơn về phát triển nội bộ của họ, bao gồm thông số mô hình, cách các hệ thống đang được sử dụng nội bộ và số lượng sức mạnh tính toán được dành cho nghiên cứu AI.

Ý tưởng rất đơn giản: các chính phủ không thể quản lý những gì họ không thể nhìn thấy.

Tăng Tốc Quy Mô Khả Năng Chậm Lại

Thay vì ngay lập tức đẩy mọi mô hình mới đến khả năng tối đa của nó, phát triển AI sẽ được làm chậm một cách cố ý xung quanh các ngưỡng quan trọng.

Điều này sẽ giúp các nhà nghiên cứu và chính phủ có nhiều thời gian hơn để đánh giá các khả năng mới và phát triển các biện pháp an toàn.

Xác Minh và Giám Sát Tính Toán

AI 2040 cũng thảo luận về các hệ thống kỹ thuật để xác minh những gì các công ty đang làm với tài nguyên tính toán của họ. Theo dõi chip AI, trung tâm dữ liệu và các đợt đào tạo lớn có thể làm cho các thỏa thuận quốc tế dễ thực thi hơn.

Nhiều Lãnh Đạo AI

Kế Hoạch A không tưởng tượng một công ty trở thành chủ sở hữu không thể bàn cãi của siêu trí tuệ.

Các tác giả lập luận cho một thế giới trong đó nhiều công ty và quốc gia có thể giữ vững cạnh tranh trong khi phát triển AI theo các quy tắc an toàn chung.

Mục đích cơ bản là tránh việc thay thế cuộc đua AI bằng một độc quyền AI.

Tại Sao Năm 2040?

Năm 2040 không được trình bày như một ngày kỳ diệu.

Đó là một bộ đệm an toàn cố ý.

Theo kịch bản, AI có thể đạt được điểm mà nghiên cứu tự động hóa trở nên khả thi vào khoảng năm 2030. Thay vì cho phép khả năng đó ngay lập tức kích hoạt một cuộc bùng nổ trí tuệ, nhân loại sẽ giữ lại phát triển trong phạm vi của những chuyên gia con người giỏi nhất trong vài năm.

Vào năm 2035, phát triển sẽ tạm dừng.

Chỉ đến năm 2040 các hạn chế mới được gỡ bỏ và thế giới sẽ cố ý tiến tới siêu trí tuệ.

Đây là ý tưởng triết học trung tâm phía sau Kế hoạch A:

Nhân loại không nên đua đến một công nghệ mà nó chưa biết cách kiểm soát.

AI 2040 Có Phải Là Một Dự Đoán Không?

Không hẳn.

Đây có lẽ là điểm quan trọng nhất khi đọc dự án.

Các tác giả đã nói rõ rằng Kế hoạch A chủ yếu là một khuyến nghị, không phải là một dự đoán. Họ đã xây dựng một kịch bản chi tiết vì các đề xuất chính sách rất dễ ủng hộ ở dạng trừu tượng nhưng khó khăn hơn nhiều để thử nghiệm theo một dòng thời gian thực tế.

Nói cách khác, AI 2040 đặt câu hỏi:

Tương lai thực sự sẽ như thế nào nếu chúng ta thực hiện chính sách này?

Điều này làm cho nó gần gũi hơn với một mô phỏng chiến lược hơn là một dự đoán thông thường.

Các tác giả cũng trình bày các kịch bản thay thế, Kế hoạch B, C, D và S, đại diện cho các cách khác nhau mà chính phủ có thể phản ứng với sự xuất hiện của siêu trí tuệ.

Câu Hỏi Thực Sự Không Phải Là "Liệu AI Có Phá Hủy Nhân Loại?"

Điều hữu ích nhất từ AI 2040 và cuộc phỏng vấn của Kokotajlo không phải là thảm họa là điều không thể tránh khỏi.

Mà là giai đoạn tiếp theo của sự phát triển AI có thể tạo ra những vấn đề không thể giải quyết được sau đó.

Nếu nghiên cứu AI trở nên tự động hóa cao, khoảng thời gian cho việc ra quyết định của con người có thể trở nên nhỏ hơn nhiều.

Nếu một công ty giành được lợi thế quyết định, việc phân phối lại quyền lực sau đó có thể trở nên gần như không thể.

Và nếu hàng triệu việc làm biến mất nhanh hơn các tổ chức kinh tế thích ứng, các chính phủ có thể phải đối mặt với sự gián đoạn xã hội ở quy mô mà họ chưa bao giờ trải nghiệm.

Đồng thời, mặt tích cực là vô cùng lớn.

AI có thể tăng tốc nghiên cứu khoa học, cải thiện y học, tự động hóa các công việc nguy hiểm, giảm chi phí hàng hóa và dịch vụ và tạo ra các hình thức thịnh vượng khó tưởng tượng ngày hôm nay.

Chính Kokotajlo cũng nhấn mạnh điểm này: ông không lập luận rằng AI vốn đã xấu. Quan ngại của ông là nhân loại có thể không quản lý sự chuyển tiếp một cách an toàn.

AI 2040: Một Cảnh Báo, Không Phải Một Đếm Ngược

AI 2040 không nên được đọc như một đếm ngược theo nghĩa đen đến năm 2040, cũng như ước tính 70% của Kokotajlo không nên được diễn giải như là một phép đo khách quan về cơ hội của nhân loại.

Thay vào đó, hai nguồn tài liệu làm nổi bật cùng một tình huống chiến lược từ các góc độ khác nhau.

Ngành công nghiệp AI có thể đang tiến tới các hệ thống tự chủ ngày càng nhiều nhanh hơn những gì chính phủ và xã hội thích nghi.

Câu hỏi quan trọng nhất có thể sẽ không phải là siêu trí tuệ có xuất hiện vào năm 2030, 2040 hay muộn hơn.

Mà là liệu nhân loại đạt được điểm mà nó có đủ các tổ chức, biện pháp bảo vệ kỹ thuật, thỏa thuận quốc tế và chính sách kinh tế cần thiết để đối phó với điều đó hay không.

Phiên bản lạc quan của tương lai vẫn có thể xảy ra: AI trở nên cực kỳ có khả năng, năng suất bùng nổ, và lợi ích của nó được chia sẻ rộng rãi.

Phiên bản bi quan cũng dễ dàng hình dung: một cuộc đua trí tuệ không kiểm soát tạo ra hoặc một sự mất kiểm soát của con người hoặc một sự tập trung quyền lực chưa từng có.

Kế hoạch A là một nỗ lực để chọn con đường đầu tiên trước khi con đường thứ hai trở thành không thể tránh khỏi.

Hiện tại, cuộc tranh luận vẫn mở. Nhưng khi các hệ thống AI trở nên ngày càng có khả năng, chi phí để chờ đợi sự chắc chắn có thể trở nên cao hơn nhiều so với chi phí chuẩn bị sớm.