IA 2040: L'Intelligence Supérieure Pourrait-Elle Arriver d'Ici 2030?

L'intelligence artificielle évolue plus rapidement que la plupart des technologies précédentes, mais la plus grande question n'est plus ce que l'IA peut faire aujourd'hui. Il s'agit de la rapidité avec laquelle l'IA pourrait devenir capable de s'améliorer elle-même.

Cette question se trouve au centre d'IA 2040: Plan A, un scénario développé par Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt et Daniel Kokotajlo. Le projet imagine un monde dans lequel l'humanité ralentit délibérément la course vers l'intelligence supérieure, maintient la recherche sur l'IA à la pointe de la transparence et reporte la dernière étape vers l'IA surhumaine jusqu'en 2040.

L'idée devient encore plus frappante lorsqu'on compare avec l'interview récente de Kokotajlo dans The Diary of a CEO. L'ancien chercheur d'OpenAI soutient que la course vers une IA de plus en plus puissante pourrait être beaucoup plus proche d'un point critique que le public ne le réalise. Il estime qu'il y a une probabilité personnelle très élevée que la transition de l'IA puisse mal tourner catastrophiquement, tout en soulignant qu'un résultat positif reste possible.

Alors, que pourrait-il se passer entre maintenant et 2040, et pourquoi l'industrie de l'IA a-t-elle besoin d'un Plan A?

Qu'est-ce que l'IA 2040?

IA 2040 est un scénario sur la gestion de la transition de l'IA avancée à l'intelligence supérieure.

Ses auteurs commencent d'une préoccupation simple: si plusieurs entreprises et pays se concurrencent pour construire l'IA la plus puissante le plus rapidement possible, le gagnant pourrait acquérir une quantité extraordinaire de pouvoir économique, militaire et politique.

Le scénario propose donc une approche différente. Au lieu de permettre une course à l'intelligence à pleine vitesse, les gouvernements négocieraient un accord international qui ralentit le développement, augmente la transparence et permet à plusieurs pays et entreprises de rester impliqués.

L'objectif n'est pas d'arrêter le développement de l'IA pour toujours. C'est de gagner du temps.

Selon le Plan A, le monde retarderait le développement de l'intelligence supérieure jusqu'en 2040, augmenterait progressivement les capacités de l'IA pour atteindre approximativement le niveau des meilleurs experts humains, fermez là, et ne reprendrait la transition vers des systèmes véritablement surhumains que plus tard. Les auteurs décrivent explicitement le Plan A comme une recommandation plutôt que leur meilleure prédiction de ce qui se passera réellement.

IA 2040: La Chronologie Proposée

Cette chronologie est délibérément conservatrice par rapport aux scénarios plus agressifs discutés par Kokotajlo.

Pourquoi l'Intelligence Supérieure est-elle si Importante?

Les systèmes IA d'aujourd'hui peuvent déjà effectuer des tâches qui nécessitaient autrefois des professionnels hautement qualifiés. Mais le véritable tournant se produira lorsque l'IA sera capable de mener des recherches en IA elle-même.

Imaginez un système IA capable de concevoir un meilleur modèle, de le tester, d'analyser les résultats, d'écrire le code nécessaire, d'optimiser le processus de formation, puis de répéter l'ensemble du processus.

La prochaine génération pourrait alors être meilleure en recherche IA que sa prédécesseur.

Cela crée un cercle de rétroaction:

meilleure IA → meilleure recherche IA → meilleure IA → recherche IA encore meilleure

Cela est souvent décrit comme une explosion d'intelligence.

IA 2040 soutient que cette transition est particulièrement dangereuse car les humains pourraient perdre leur position dans la boucle de développement. Si les systèmes IA sont responsables de la création de successeurs de plus en plus capables, il devient plus difficile de comprendre pourquoi les systèmes qui en résultent resteraient contrôlables.

Le scénario décrit 2030 comme un point potentiel où la recherche IA pourrait devenir totalement automatisée. Sans intervention, cela pourrait théoriquement conduire à une intelligence supérieure dans une période très courte.

Avertissement de Daniel Kokotajlo: L'IA Pourrait Évoluer Plus Rapidement Que Prévu

Daniel Kokotajlo apporte une perspective plus personnelle sur le même problème.

Kokotajlo a travaillé chez OpenAI de 2022 et s'est concentré sur les prévisions sur la manière dont les capacités de l'IA pourraient évoluer. Il a ensuite quitté l'entreprise et est devenu l'une des voix éminentes avertissant des risques d'une course à l'IA non contrôlée.

Dans son interview de juillet 2026 avec Steven Bartlett, Kokotajlo a soutenu que les conversations avec des personnes au sein des principaux laboratoires d'IA pointent souvent vers des délais plus courts que ceux attendus par le public. Il a spécifiquement mentionné 2027 et 2028 comme des années qui, selon certains membres de l'industrie, sont plausibles pour des percées majeures.

Son affirmation la plus controversée est qu'il attribue personnellement environ 70 % de chances que l'IA aille "horriblement mal", y compris des scénarios qui pourraient conduire à l'extinction humaine. Ce chiffre ne doit pas être considéré comme une probabilité scientifique établie. C'est l'estimation personnelle de risque de Kokotajlo basé sur ses hypothèses concernant les délais de l'IA, l'alignement, la compétition et la gouvernance.

Cette distinction est importante.

Le chiffre de 70 % n'est pas une prévision consensuelle de la communauté de recherche en IA. C'est un argument sur la manière dont la société devrait prendre au sérieux une combinaison de risques qui peuvent se renforcer mutuellement.

La Course à l'IA Pourrait Créer Deux Problèmes Différents

L'une des idées les plus fortes partagées par IA 2040 et l'interview de Kokotajlo est que la sécurité de l'IA ne porte pas seulement sur le fait qu'un système IA est "maléfique" ou "bon".

Il existe au moins deux grands risques.

1. Les Humains Perdent le Contrôle

Si un système IA devient substantiellement plus capable que les humains et est en mesure d'améliorer ses propres successeurs, les humains pourraient finalement avoir du mal à comprendre ou à contrôler son comportement.

La question clé devient simple:

Comment contrôler quelque chose qui est beaucoup plus intelligent et rapide que vous?

IA 2040 soutient que la course actuelle pourrait finalement mener à une situation où les humains ne maintiennent plus un contrôle effectif sur des systèmes de plus en plus autonomes.

2. Les Humains Gardent le Contrôle, Mais Seulement Quelques Humains

La deuxième possibilité peut sembler plus sûre au premier abord.

Supposons que les principales entreprises d'IA alignent avec succès leurs systèmes sur les objectifs humains. Le problème deviendrait alors la concentration du pouvoir.

Si une entreprise, un gouvernement ou un petit groupe contrôlent les systèmes d'IA les plus capables au monde, cela pourrait leur donner une influence sans précédent sur l'économie, la technologie militaire, l'information et l'infrastructure.

En d'autres termes, résoudre l'alignement de l'IA ne résoudrait pas automatiquement le problème politique.

Que Se Passe-t-il Avec les Emplois?

L'impact économique est une autre partie majeure des deux scénarios.

IA 2040 imagine un avenir proche dans lequel des agents IA deviennent une seconde main-d'œuvre aux côtés des humains. Des millions d'agents basés sur des logiciels pourraient fonctionner en continu, réalisant des tâches à la vitesse de la machine.

Le changement important ne serait pas simplement que les chatbots deviennent de meilleurs assistants.

Au lieu de cela, les entreprises pourraient commencer à considérer l'IA comme une main-d'œuvre à usage général.

Une entreprise pourrait décider d'entrer dans une nouvelle profession ou industrie, de collecter les données nécessaires, de construire des environnements de formation, de déployer des agents IA, et de les améliorer continuellement grâce à une utilisation dans le monde réel. IA 2040 décrit ce processus comme potentiellement se répandant de l'ingénierie logicielle vers de nombreuses autres professions de cols blancs.

Cela soulève une question économique difficile:

Que se passe-t-il quand l'intelligence devient abondante mais que le travail humain n'est plus rare?

Pendant des siècles, le revenu a largement été lié à la capacité des gens à fournir un travail utile. Si l'IA peut effectuer la plupart des tâches cognitives à moindre coût, cette relation pourrait se briser.

Kokotajlo est particulièrement pessimiste quant à l'emploi. Dans l'interview, il soutient que les gens devraient prendre au sérieux la possibilité de déplacements massifs d'emplois et suggère que de nombreux travailleurs pourraient finalement se retrouver en compétition avec des systèmes IA.

Cependant, le résultat n'est pas nécessairement une pauvreté de masse.

Si l'IA augmente considérablement la productivité tout en distribuant largement ses bénéfices, l'humanité pourrait plutôt connaître une période d'abondance sans précédent.

C'est là l'un des principaux contrastes d'IA 2040: la même technologie pourrait produire soit une prospérité extrême, soit une concentration extrême de richesse et de pouvoir, selon la manière dont elle est gouvernée.

Qu'est-ce que le Plan A?

Le Plan A est essentiellement une tentative de changer les incitations de la course à l'IA.

Sa proposition centrale est un accord international, en particulier entre les États-Unis et la Chine, conçu pour empêcher les pays et les entreprises de courir vers l'intelligence supérieure sans mesures de sécurité adéquates.

Le plan repose sur plusieurs principes majeurs.

Transparence Totale de la Recherche

Les entreprises d'IA fourniraient beaucoup plus d'informations sur leur développement interne, y compris les spécifications des modèles, la manière dont les systèmes sont utilisés en interne et la quantité de puissance de calcul consacrée à la recherche en IA.

L'idée est simple: les gouvernements ne peuvent pas réguler ce qu'ils ne peuvent pas voir.

Accélération Plus Lente des Capacités

Au lieu de pousser immédiatement chaque nouveau modèle à sa capacité maximale possible, le développement de l'IA serait délibérément ralenti autour des seuils critiques.

Cela donnerait aux chercheurs et aux gouvernements plus de temps pour évaluer les nouvelles capacités et développer des mesures de sécurité.

Vérification et Surveillance du Calcul

IA 2040 discute également de systèmes techniques destinés à vérifier ce que les entreprises font de leurs ressources informatiques. Suivre les puces IA, les centres de données et les grandes sessions d'entraînement pourrait rendre les accords internationaux plus applicables.

Plusieurs Leaders en IA

Le Plan A n'envisage pas qu'une entreprise devienne le propriétaire incontesté de l'intelligence supérieure.

Les auteurs plaident pour un monde dans lequel plusieurs entreprises et pays peuvent rester compétitifs tout en développant l'IA sous des règles de sécurité communes.

L'objectif sous-jacent est d'éviter de remplacer une course à l'IA par un monopole de l'IA.

Pourquoi 2040?

L'année 2040 n'est pas présentée comme une date magique.

C'est un tampon de sécurité délibéré.

Selon le scénario, l'IA pourrait potentiellement atteindre le point où la recherche automatisée devient possible vers 2030. Au lieu de permettre à cette capacité de déclencher immédiatement une explosion d'intelligence, l'humanité garderait le développement dans la fourchette des meilleurs experts humains pendant plusieurs années.

En 2035, le développement ferait une pause.

Ce n'est qu'en 2040 que les restrictions seraient levées et que le monde se dirigerait intentionnellement vers l'intelligence supérieure.

C'est l'idée philosophique centrale derrière le Plan A:

L'humanité ne devrait pas courir vers une technologie dont elle ne sait pas encore comment maîtriser.

IA 2040 est-elle une Prédiction?

Pas exactement.

C'est peut-être le point le plus important à retenir en lisant le projet.

Les auteurs disent explicitement que le Plan A est principalement une recommandation, pas une prédiction. Ils ont créé un scénario détaillé car les propositions politiques sont faciles à soutenir dans l'abstrait mais beaucoup plus difficiles à tester par rapport à un calendrier réaliste.

En d'autres termes, IA 2040 demande:

À quoi ressemblerait l'avenir si nous mettions cette politique en œuvre?

Cela rend le projet plus proche d'une simulation stratégique que d'une prévision conventionnelle.

Les auteurs présentent également des scénarios alternatifs - Plans B, C, D et S - représentant différentes manières dont les gouvernements pourraient réagir à l'émergence de l'intelligence supérieure.

La Vraie Question n'est Pas "L'IA Détruira-t-elle l'Humanité?"

L'idée la plus utile à retenir d'IA 2040 et de l'interview de Kokotajlo n'est pas que la catastrophe est inévitable.

C'est que la prochaine étape du développement de l'IA pourrait créer des problèmes qui ne peuvent pas être résolus après coup.

Si la recherche IA devient hautement automatisée, la fenêtre de prise de décision humaine pourrait devenir beaucoup plus petite.

Si une entreprise obtient un avantage décisif, redistribuer le pouvoir plus tard pourrait devenir presque impossible.

Et si des millions d'emplois disparaissent plus rapidement que les institutions économiques ne s'adaptent, les gouvernements pourraient faire face à des disruptions sociales à une échelle qu'ils n'ont jamais vécue.

En même temps, la perspective est énorme.

L'IA pourrait accélérer la recherche scientifique, améliorer la médecine, automatiser des travaux dangereux, réduire le coût des biens et des services, et créer des formes d'abondance difficiles à imaginer aujourd'hui.

Kokotajlo lui-même souligne ce point: il ne soutient pas que l'IA est intrinsèquement mauvaise. Sa préoccupation est que l'humanité pourrait échouer à gérer la transition en toute sécurité.

IA 2040: Un Avertissement, Pas un Compte à Rebours

IA 2040 ne doit pas être lu comme un compte à rebours littéral jusqu'en 2040, tout comme l'estimation de 70 % de Kokotajlo ne doit pas être interprétée comme une mesure objective des chances de l'humanité.

Au lieu de cela, les deux sources soulignent le même dilemme stratégique sous des angles différents.

L'industrie de l'IA pourrait évoluer vers des systèmes de plus en plus autonomes plus rapidement que les gouvernements et la société ne s'adaptent.

La question la plus importante pourrait donc ne pas être de savoir si l'intelligence supérieure arrivera en 2030, 2040 ou plus tard.

C'est de savoir si l'humanité atteindra un point où elle dispose des institutions, des mesures de sécurité techniques, des accords internationaux et des politiques économiques nécessaires pour y faire face.

La version optimiste de l'avenir est toujours possible: l'IA devient extraordinairement capable, la productivité explose et ses bénéfices sont largement partagés.

La version pessimiste est également facile à imaginer: une course à l'intelligence non contrôlée produit soit une perte de contrôle humain, soit une concentration de pouvoir sans précédent.

Le Plan A est une tentative de choisir le premier chemin avant que le second devienne impossible à éviter.

Pour l'instant, le débat reste ouvert. Mais à mesure que les systèmes IA deviennent de plus en plus capables, le coût d'attendre la certitude pourrait devenir bien plus élevé que le coût de se préparer tôt.