IA 2040: ¿Podría llegar la superinteligencia para 2030?

La inteligencia artificial avanza más rápido que la mayoría de las tecnologías anteriores, pero la gran pregunta ya no es qué puede hacer la IA hoy. Es cuán rápido podría la IA hacerse capaz de mejorarse a sí misma.

Esa pregunta se sitúa en el centro de IA 2040: Plan A, un escenario desarrollado por Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt y Daniel Kokotajlo. El proyecto imagina un mundo en el que la humanidad deliberadamente ralentiza la carrera hacia la superinteligencia, mantiene la investigación en IA transparente y pospone el paso final hacia la IA sobrehumana hasta 2040.

La idea se vuelve aún más impactante cuando se compara con la reciente entrevista de Kokotajlo en El Diario de un CEO. El exinvestigador de OpenAI argumenta que la carrera hacia una IA cada vez más poderosa podría estar mucho más cerca de un punto crítico de lo que el público se da cuenta. Estima una probabilidad personal muy alta de que la transición de IA podría salir catastróficamente mal, mientras también enfatiza que un resultado positivo sigue siendo posible.

Entonces, ¿qué podría suceder entre ahora y 2040, y por qué la industria de la IA necesita un Plan A?

¿Qué es IA 2040?

IA 2040 es un escenario sobre cómo gestionar la transición de la IA avanzada a la superinteligencia.

Sus autores parten de una preocupación simple: si varias empresas y países compiten para construir la IA más poderosa lo más rápido posible, el ganador podría obtener una extraordinaria cantidad de poder económico, militar y político.

Por lo tanto, el escenario propone un enfoque diferente. En lugar de permitir una carrera hacia la inteligencia a toda velocidad, los gobiernos negociarían un acuerdo internacional que ralentiza el desarrollo, aumenta la transparencia y permite que múltiples países y empresas sigan involucrados.

El objetivo no es detener el desarrollo de la IA para siempre. Es comprar tiempo.

Bajo el Plan A, el mundo retrasaría el desarrollo de la superinteligencia hasta 2040, escalaría gradualmente las capacidades de la IA aproximadamente al nivel de los mejores expertos humanos, haría una pausa y solo más tarde reanudaría la transición hacia sistemas realmente sobrehumanos. Los autores describen explícitamente el Plan A como una recomendación en lugar de su mejor predicción de lo que realmente sucederá.

IA 2040: La línea de tiempo propuesta

Esta línea de tiempo es deliberadamente conservadora en comparación con los escenarios más agresivos discutidos por Kokotajlo.

¿Por qué es tan importante la superinteligencia?

Los sistemas de IA actuales ya pueden realizar tareas que antes requerían profesionales altamente capacitados. Pero el verdadero punto de inflexión llegaría cuando la IA sea capaz de llevar a cabo investigación en IA por sí misma.

Imagina un sistema de IA que pueda diseñar un mejor modelo, probarlo, analizar los resultados, escribir el código necesario, optimizar el proceso de entrenamiento y luego repetir todo el proceso.

La próxima generación podría ser mejor en investigación de IA que su predecesora.

Eso crea un bucle de retroalimentación:

mejor IA → mejor investigación en IA → mejor IA → investigación en IA aún mejor

Esto se describe a menudo como una explosión de inteligencia.

IA 2040 argumenta que esta transición es particularmente peligrosa porque los humanos podrían perder su posición en el bucle de desarrollo. Si los sistemas de IA son responsables de crear sucesores cada vez más capaces, se vuelve más difícil entender por qué los sistemas resultantes seguirían siendo controlables.

El escenario describe 2030 como un posible punto en el que la investigación en IA podría volverse completamente automatizada. Sin intervención, eso podría llevar teóricamente a la superinteligencia en un período de tiempo muy corto.

La advertencia de Daniel Kokotajlo: la IA podría moverse más rápido de lo esperado

Daniel Kokotajlo aporta una perspectiva más personal al mismo problema.

Kokotajlo trabajó en OpenAI desde 2022 y se centró en prever cómo podrían desarrollarse las capacidades de la IA. Luego dejó la empresa y se ha convertido en una de las voces prominentes que advierten sobre los riesgos de una carrera de IA incontrolada.

En su entrevista de julio de 2026 con Steven Bartlett, Kokotajlo argumentó que las conversaciones con personas dentro de los principales laboratorios de IA a menudo apuntan a cronogramas más cortos de lo que el público espera. Mencionó específicamente 2027 y 2028 como años que algunos insiders de la industria consideran plausibles para avances importantes.

Su afirmación más controvertida es que personalmente asigna aproximadamente un 70% de probabilidad a que la IA salga "horriblemente mal", incluyendo escenarios que podrían resultar en la extinción humana. Este número no debe considerarse como una probabilidad científica establecida. Es la estimación personal de riesgo de Kokotajlo basada en sus suposiciones sobre cronogramas de IA, alineación, competencia y gobernanza.

Esa distinción es importante.

La cifra del 70% no es una previsión de consenso de la comunidad de investigación en IA. Es un argumento sobre cuán seriamente la sociedad debería tomar una combinación de riesgos que pueden reforzarse entre sí.

La carrera de IA podría crear dos problemas diferentes

Una de las ideas más fuertes compartidas por IA 2040 y la entrevista de Kokotajlo es que la seguridad de la IA no se trata solo de si un sistema de IA es "malvado" o "bueno".

Hay al menos dos riesgos principales.

1. Los humanos pierden el control

Si un sistema de IA se vuelve sustancialmente más capaz que los humanos y es capaz de mejorar sus propios sucesores, eventualmente podría ser difícil para los humanos entender o controlar su comportamiento.

La pregunta clave se vuelve simple:

¿Cómo controlas algo que es mucho más inteligente y rápido que tú?

IA 2040 argumenta que la carrera actual podría llevar eventualmente a una situación donde los humanos ya no mantienen un control efectivo sobre sistemas cada vez más autónomos.

2. Los humanos mantienen el control, pero solo unos pocos humanos

La segunda posibilidad puede parecer más segura al principio.

Supongamos que las principales empresas de IA alinean con éxito sus sistemas con los objetivos humanos. El problema se convertiría entonces en la concentración de poder.

Si una empresa, gobierno o pequeño grupo controla los sistemas de IA más capaces del mundo, podría ganar una influencia sin precedentes sobre la economía, la tecnología militar, la información y la infraestructura.

En otras palabras, resolver la alineación de la IA no resolvería automáticamente el problema político.

¿Qué sucede con los trabajos?

El impacto económico es otra parte importante de ambos escenarios.

IA 2040 imagina un futuro cercano en el que los agentes de IA se convierten en una segunda fuerza laboral junto a los humanos. Millones de agentes basados en software podrían operar continuamente, completando tareas a la velocidad de las máquinas.

El cambio importante no sería simplemente que los chatbots se vuelvan mejores asistentes.

En cambio, las empresas podrían comenzar a tratar la IA como una fuerza laboral de propósito general.

Un negocio podría decidir entrar en una nueva profesión o industria, recopilar los datos necesarios, construir entornos de entrenamiento, desplegar agentes de IA y mejorarlos continuamente mediante el uso en el mundo real. IA 2040 describe este proceso como que podría expandirse desde la ingeniería de software a muchas otras profesiones de oficina.

Esto plantea una difícil pregunta económica:

¿Qué pasa cuando la inteligencia se vuelve abundante pero el trabajo humano ya no es escaso?

Durante siglos, los ingresos han estado en gran medida conectados a la capacidad de las personas para proporcionar trabajo útil. Si la IA puede realizar la mayoría de las tareas cognitivas a un costo menor, esa relación podría romperse.

Kokotajlo es particularmente pesimista respecto al empleo. En la entrevista, argumenta que las personas deberían tomarse en serio la posibilidad de que se produzca un desplazamiento laboral generalizado y sugiere que muchos trabajadores podrían eventualmente encontrarse compitiendo con sistemas de IA.

Sin embargo, el resultado no es necesariamente pobreza masiva.

Si la IA aumenta dramáticamente la productividad mientras sus beneficios se distribuyen ampliamente, la humanidad podría experimentar en cambio un período sin precedentes de abundancia.

Ese es uno de los contrastes centrales en IA 2040: la misma tecnología podría producir una prosperidad extrema o una concentración extrema de riqueza y poder, dependiendo de cómo se gobierne.

¿Qué es el Plan A?

El Plan A es esencialmente un intento de cambiar los incentivos de la carrera de IA.

Su propuesta central es un acuerdo internacional, especialmente entre EE. UU. y China, diseñado para evitar que países y empresas corran hacia la superinteligencia sin medidas de seguridad adecuadas.

El plan se basa en varios principios importantes.

Total Transparencia en la Investigación

Las empresas de IA proporcionarían mucha más información sobre su desarrollo interno, incluyendo especificaciones de modelos, cómo se usan los sistemas internamente y cuánta potencia de cálculo se dedica a la investigación en IA.

La idea es sencilla: los gobiernos no pueden regular lo que no pueden ver.

Escalamiento de Capacidades Más Lento

En lugar de empujar inmediatamente cada nuevo modelo a su máxima capacidad posible, el desarrollo de la IA se ralentizaría deliberadamente en torno a umbrales críticos.

Esto daría a investigadores y gobiernos más tiempo para evaluar nuevas capacidades y desarrollar medidas de seguridad.

Verificación y Monitoreo de Cómputo

IA 2040 también discute sistemas técnicos para verificar lo que las empresas están haciendo con sus recursos de computación. Rastrear chips de IA, centros de datos y grandes ejecuciones de entrenamiento podría hacer que los acuerdos internacionales sean más aplicables.

Múltiples Líderes en IA

El Plan A no prevé que una empresa se convierta en la dueña indiscutible de la superinteligencia.

Los autores abogan por un mundo en el que múltiples empresas y países puedan seguir siendo competitivos mientras desarrollan IA bajo normas comunes de seguridad.

El objetivo subyacente es evitar reemplazar una carrera de IA con un monopolio de IA.

¿Por qué 2040?

El año 2040 no se presenta como una fecha mágica.

Es un margen de seguridad deliberado.

Bajo el escenario, la IA podría alcanzar potencialmente el punto en el que la investigación automatizada se vuelve posible en torno a 2030. En lugar de permitir que esa capacidad desencadene inmediatamente una explosión de inteligencia, la humanidad mantendría el desarrollo dentro del rango de los mejores expertos humanos durante varios años.

En 2035, el desarrollo haría una pausa.

Solo en 2040 se levantarían las restricciones y el mundo avanzaría intencionadamente hacia la superinteligencia.

Esta es la idea filosófica central detrás del Plan A:

La humanidad no debería correr hacia una tecnología que aún no sabe cómo controlar.

¿Es IA 2040 una predicción?

No exactamente.

Este es quizás el punto más importante al leer el proyecto.

Los autores dicen explícitamente que el Plan A es principalmente una recomendación, no una predicción. Crearon un escenario detallado porque las propuestas políticas son fáciles de apoyar en abstracto pero mucho más difíciles de probar contra una línea de tiempo realista.

En otras palabras, IA 2040 pregunta:

¿Cómo sería realmente el futuro si implementáramos esta política?

Eso lo acerca más a una simulación estratégica que a una previsión convencional.

Los autores también presentan escenarios alternativos, Planes B, C, D y S, que representan diferentes maneras en que los gobiernos podrían responder a la aparición de la superinteligencia.

La verdadera pregunta no es "¿destruirá la IA a la humanidad?"

La conclusión más útil de IA 2040 y la entrevista de Kokotajlo no es que la catástrofe sea inevitable.

Es que la siguiente etapa del desarrollo de la IA puede crear problemas que no se pueden resolver después del hecho.

Si la investigación en IA se vuelve altamente automatizada, la ventana para la toma de decisiones humanas podría volverse mucho más pequeña.

Si una empresa obtiene una ventaja decisiva, redistribuir el poder más tarde podría volverse casi imposible.

Y si millones de trabajos desaparecen más rápido de lo que las instituciones económicas se adaptan, los gobiernos podrían enfrentar una disrupción social a una escala que nunca han experimentado.

Al mismo tiempo, el lado positivo es enorme.

La IA podría acelerar la investigación científica, mejorar la medicina, automatizar trabajos peligrosos, reducir el costo de bienes y servicios, y crear formas de abundancia que son difíciles de imaginar hoy.

Kokotajlo mismo enfatiza este punto: no argumenta que la IA sea inherentemente mala. Su preocupación es que la humanidad podría fallar en gestionar la transición de manera segura.

IA 2040: Una advertencia, no un cronómetro

IA 2040 no debería leerse como un conteo literal hasta 2040, al igual que la estimación del 70% de Kokotajlo no debería interpretarse como una medición objetiva de las posibilidades de la humanidad.

En cambio, ambas fuentes destacan el mismo dilema estratégico desde diferentes ángulos.

La industria de la IA puede estar avanzando hacia sistemas cada vez más autónomos más rápido de lo que los gobiernos y la sociedad se están adaptando.

Por lo tanto, la pregunta más importante puede no ser si la superinteligencia llega en 2030, 2040 o más tarde.

Es si la humanidad llega a un punto en el que tiene las instituciones, las salvaguardias técnicas, los acuerdos internacionales y las políticas económicas necesarias para afrontar esta situación.

La versión optimista del futuro aún es posible: la IA se vuelve extraordinariamente capaz, la productividad explota y sus beneficios se comparten ampliamente.

La versión pesimista también es fácil de imaginar: una carrera de inteligencia incontrolada produce ya sea una pérdida de control humano o una concentración de poder sin precedentes.

El Plan A es un intento de elegir el primer camino antes de que el segundo se vuelva inevitable.

Por ahora, el debate sigue abierto. Pero a medida que los sistemas de IA se vuelven cada vez más capaces, el costo de esperar por la certeza podría volverse mucho más alto que el costo de prepararse con anticipación.