KI 2040: Könnte Superintelligenz bis 2030 eintreffen?
Von Wendy Frey
Künstliche Intelligenz entwickelt sich schneller als die meisten früheren Technologien, aber die größte Frage ist nicht mehr, was KI heute leisten kann. Es ist, wie schnell KI in der Lage sein könnte, sich selbst zu verbessern.
Diese Frage steht im Mittelpunkt von KI 2040: Plan A, einem Szenario, das von Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt und Daniel Kokotajlo entwickelt wurde. Das Projekt stellt sich eine Welt vor, in der die Menschheit absichtlich das Wettrennen zur Superintelligenz verlangsamt, die Forschung an vorderster Front transparent hält und den letzten Schritt zur übermenschlichen KI bis 2040 verschiebt.
Die Idee wird noch eindrucksvoller, wenn man sie mit Kokotajlos aktuellem Interview im Podcast The Diary of a CEO vergleicht. Der ehemalige OpenAI-Forscher argumentiert, dass das Wettrennen um immer leistungsfähigere KI viel näher an einem kritischen Punkt sein könnte, als die Öffentlichkeit glaubt. Er schätzt die persönliche Wahrscheinlichkeit, dass der Übergang zur KI katastrophal schiefgehen könnte, als sehr hoch ein und betont gleichzeitig, dass ein positives Ergebnis weiterhin möglich bleibt.
Was könnte also zwischen jetzt und 2040 passieren, und warum benötigt die KI-Branche einen Plan A?
Was ist KI 2040?
KI 2040 ist ein Szenario zur Verwaltung des Übergangs von fortschrittlicher KI zu Superintelligenz.
Die Autoren beginnen mit einer einfachen Sorge: Wenn mehrere Unternehmen und Länder darum konkurrieren, die leistungsfähigste KI so schnell wie möglich zu entwickeln, könnte der Gewinner eine außergewöhnliche Menge an wirtschaftlicher, militärischer und politischer Macht erlangen.
Das Szenario schlägt daher einen anderen Ansatz vor. Anstatt ein Vollgas-Intelligenzrennen zuzulassen, würden Regierungen ein internationales Abkommen verhandeln, das die Entwicklung verlangsamt, die Transparenz erhöht und es mehreren Ländern und Unternehmen ermöglicht, beteiligt zu bleiben.
Das Ziel ist nicht, die KI-Entwicklung für immer zu stoppen. Es besteht darin, Zeit zu gewinnen.
Unter Plan A würde die Welt die Entwicklung von Superintelligenz bis 2040 verzögern, die KI-Fähigkeiten auf etwa das Niveau der besten menschlichen Experten anheben, dort pausieren und erst später wieder den Übergang zu wirklich übermenschlichen Systemen aufnehmen. Die Autoren beschreiben Plan A ausdrücklich als Empfehlung und nicht als ihre beste Vorhersage dessen, was tatsächlich passieren wird.
KI 2040: Der vorgeschlagene Zeitrahmen
| Jahr | KI 2040-Szenario |
|---|---|
| 2027 | KI-Agenten werden ein wesentlicher Teil der Arbeitskraft und beginnen, Büroarbeitsplätze zu transformieren |
| 2028 | Die KI-Störung breitet sich in professionellen Branchen aus und die Bedenken hinsichtlich wirtschaftlicher Konzentration wachsen |
| 2029 | Die USA und China stehen vor der Wahl zwischen einem KI-Wettlauf und einem internationalen Abkommen |
| 2030 | Vollständig automatisierte KI-Forschung könnte theoretisch eine Intelligenzexplosion auslösen |
| 2030-2035 | Die KI-Entwicklung wird innerhalb ungefähr des Bereichs menschlicher Experten fortgesetzt |
| 2035 | Die Entwicklung pausiert bei der Fähigkeit der besten menschlichen Experten |
| 2040 | Die Entwicklung wird fortgesetzt und die Menschheit bewegt sich in Richtung Superintelligenz |
Dieser Zeitrahmen ist absichtlich konservativ im Vergleich zu den aggressiveren Szenarien, die von Kokotajlo diskutiert werden.
Warum ist Superintelligenz so ein großes Thema?
Die heutigen KI-Systeme können bereits Aufgaben ausführen, die einst hochqualifizierte Fachkräfte erforderten. Aber der echte Wendepunkt würde eintreten, wenn KI in der Lage ist, selbst KI-Forschung durchzuführen.
Stellen Sie sich ein KI-System vor, das ein besseres Modell entwerfen, es testen, die Ergebnisse analysieren, den notwendigen Code schreiben, den Trainingsprozess optimieren und dann den gesamten Prozess wiederholen kann.
Die nächste Generation könnte dann besser in der KI-Forschung sein als ihre Vorgänger.
Das schafft einen Feedbackzyklus:
bessere KI → bessere KI-Forschung → bessere KI → noch bessere KI-Forschung
Dies wird oft als Intelligenzexplosion beschrieben.
KI 2040 argumentiert, dass dieser Übergang besonders gefährlich ist, weil die Menschen ihre Position im Entwicklungszyklus verlieren könnten. Wenn KI-Systeme dafür verantwortlich sind, zunehmend fähige Nachfolger zu schaffen, wird es schwieriger zu verstehen, warum die resultierenden Systeme weiterhin kontrollierbar bleiben sollten.
Das Szenario beschreibt 2030 als möglichen Punkt, an dem die KI-Forschung vollständig automatisiert werden könnte. Ohne Eingreifen könnte das theoretisch innerhalb sehr kurzer Zeit zu Superintelligenz führen.
Daniel Kokotajlos Warnung: KI könnte schneller vorankommen als erwartet
Daniel Kokotajlo bringt eine persönlichere Perspektive zu demselben Problem.
Kokotajlo arbeitete von 2022 an bei OpenAI und konzentrierte sich darauf, wie sich KI-Fähigkeiten entwickeln könnten. Später verließ er das Unternehmen und wurde zu einer der prominenten Stimmen, die vor den Risiken eines unkontrollierten KI-Wettlaufs warnen.
In seinem Interview mit Steven Bartlett im Juli 2026 argumentierte Kokotajlo, dass Gespräche mit Menschen in führenden KI-Labors oft auf kürzere Zeitrahmen hinweisen als die Öffentlichkeit erwartet. Er nannte speziell 2027 und 2028 Jahre, die einige Insider der Branche als plausibel für bedeutende Durchbrüche betrachten.
Seine am umstrittensten Behauptung ist, dass er persönlich einer Wahrscheinlichkeit von ungefähr 70 % zuweist, dass KI "furchtbar schiefgeht", einschließlich Szenarien, die zur Auslöschung der Menschheit führen könnten. Diese Zahl sollte nicht als festgelegte wissenschaftliche Wahrscheinlichkeit betrachtet werden. Es ist Kokotajlos persönliche Risikoeinschätzung basierend auf seinen Annahmen über KI-Zeitlinien, Ausrichtung, Wettbewerb und Governance.
Diese Unterscheidung ist wichtig.
Die 70 %-Zahl ist keine Konsensvorhersage der KI-Forschungsgemeinschaft. Es ist ein Argument dafür, wie ernst die Gesellschaft eine Kombination von Risiken nehmen sollte, die sich gegenseitig verstärken könnten.
Der KI-Wettlauf könnte zwei verschiedene Probleme schaffen
Eine der stärksten Ideen, die KI 2040 und Kokotajlos Interview teilen, ist, dass KI-Sicherheit nicht nur davon abhängt, ob ein KI-System „böse“ oder „gut“ ist.
Es gibt mindestens zwei große Risiken.
1. Menschen verlieren die Kontrolle
Wenn ein KI-System erheblich fähiger wird als Menschen und in der Lage ist, seine eigenen Nachfolger zu verbessern, könnte es für Menschen schließlich schwierig werden, sein Verhalten zu verstehen oder zu kontrollieren.
Die Schlüsselfrage wird einfach:
Wie kontrolliert man etwas, das viel schlauer und schneller ist als man selbst?
KI 2040 argumentiert, dass der gegenwärtige Wettlauf schließlich zu einer Situation führen könnte, in der Menschen keine effektive Kontrolle mehr über zunehmend autonome Systeme haben.
2. Menschen behalten die Kontrolle, aber nur wenige Menschen
Die zweite Möglichkeit könnte zunächst sicherer erscheinen.
Angenommen, die führenden KI-Unternehmen richten ihre Systeme erfolgreich auf menschliche Ziele aus. Das Problem würde dann die Machtkonzentration sein.
Wenn ein Unternehmen, eine Regierung oder eine kleine Gruppe die leistungsfähigsten KI-Systeme der Welt kontrolliert, könnte sie eine beispiellose Einflussnahme auf Wirtschaft, Militärtechnologie, Informationen und Infrastruktur gewinnen.
Mit anderen Worten: Die Lösung des KI-Ausrichtungsproblems würde das politische Problem nicht automatisch lösen.
| Risiko | Was könnte passieren? |
|---|---|
| Verlust der Kontrolle | KI-Systeme werden zu fähig oder autonom, um von Menschen zuverlässig kontrolliert zu werden |
| Machtkonzentration | Eine kleine Gruppe erlangt Kontrolle über extrem leistungsfähige KI |
| KI-Rüstungswettlauf | Wettbewerb zwingt Unternehmen und Staaten, Sicherheit zugunsten von Geschwindigkeit aufzugeben |
| Wirtschaftliche Störung | Große Teile menschlicher kognitiver Arbeit werden automatisiert |
| Versagen der Governance | Regierungen können nicht schnell genug auf technologische Veränderungen reagieren |
Was passiert mit Jobs?
Die wirtschaftlichen Auswirkungen sind ein weiterer wesentlicher Bestandteil beider Szenarien.
KI 2040 stellt sich eine nahe Zukunft vor, in der KI-Agenten eine zweite Arbeitskraft neben Menschen werden. Millionen von software-basierten Agenten könnten kontinuierlich arbeiten und Aufgaben mit Maschinen Geschwindigkeit erledigen.
Die wichtige Veränderung wäre nicht einfach, dass Chatbots bessere Helfer werden.
Stattdessen könnten Unternehmen beginnen, KI als eine allgemeine Arbeitskraft zu behandeln.
Ein Unternehmen könnte entscheiden, in einen neuen Beruf oder in eine neue Branche einzutreten, die notwendigen Daten sammeln, Trainingsumgebungen aufbauen, KI-Agenten einsetzen und diese durch reale Anwendungen kontinuierlich verbessern. KI 2040 beschreibt diesen Prozess als potenziell von der Softwareentwicklung auf viele andere Büroberufe übergreifend.
Das wirft eine schwierige wirtschaftliche Frage auf:
Was passiert, wenn Intelligenz reichlich vorhanden wird, aber menschliche Arbeit nicht mehr knapp ist?
Seit Jahrhunderten ist das Einkommen weitgehend mit der Fähigkeit der Menschen verbunden, nützliche Arbeit zu leisten. Wenn KI die meisten kognitiven Aufgaben zu geringeren Kosten ausführen kann, könnte diese Beziehung zerbrechen.
Kokotajlo ist besonders pessimistisch in Bezug auf die Beschäftigung. Im Interview argumentiert er, dass die Menschen die Möglichkeit der weit verbreiteten Arbeitsplatzverlagerung ernst nehmen sollten und schlägt vor, dass viele Arbeiter letztendlich in Konkurrenz zu KI-Systemen stehen könnten.
Das Ergebnis ist jedoch nicht unbedingt Massenarmut.
Wenn KI die Produktivität dramatisch steigert, während ihre Vorteile weit verbreitet sind, könnte die Menschheit stattdessen eine beispiellose Periode des Wohlstands erleben.
Das ist einer der zentralen Kontraste in KI 2040: Dieselbe Technologie könnte entweder extremen Wohlstand oder extreme Konzentration von Reichtum und Macht erzeugen, abhängig davon, wie sie regiert wird.
Was ist Plan A?
Plan A ist im Wesentlichen ein Versuch, die Anreize des KI-Wettlaufs zu ändern.
Sein Kernvorschlag ist ein internationales Abkommen, insbesondere zwischen den USA und China, das verhindern soll, dass Länder und Unternehmen ohne angemessene Sicherheitsvorkehrungen auf Superintelligenz zusteuern.
Der Plan beruht auf mehreren grundlegenden Prinzipien.
Vollständige Forschungstransparenz
KI-Unternehmen würden viel mehr Informationen über ihre interne Entwicklung bereitstellen, einschließlich Modell-Spezifikationen, wie Systeme intern genutzt werden und wie viel Rechenleistung der KI-Forschung gewidmet ist.
Die Idee ist einfach: Regierungen können nicht regulieren, was sie nicht sehen können.
Langsame Skalierung der Fähigkeiten
Anstatt jedes neue Modell sofort auf seine maximal mögliche Fähigkeit zu bringen, würde die KI-Entwicklung absichtlich um kritische Schwellenwerte verlangsamt.
Das würde Forschern und Regierungen mehr Zeit geben, neue Fähigkeiten zu bewerten und Sicherheitsvorkehrungen zu entwickeln.
Überprüfung und Überwachung der Rechenleistung
KI 2040 diskutiert auch technische Systeme zur Überprüfung, was Unternehmen mit ihren Rechenressourcen tun. Die Nachverfolgung von KI-Chips, Rechenzentren und großen Trainingseinheiten könnte internationale Vereinbarungen durchsetzbarer machen.
Mehrere KI-Führer
Plan A sieht nicht vor, dass ein Unternehmen der unbestrittene Besitzer der Superintelligenz wird.
Die Autoren plädieren für eine Welt, in der mehrere Unternehmen und Länder wettbewerbsfähig bleiben können, während sie KI unter gemeinsamen Sicherheitsregeln entwickeln.
Das zugrunde liegende Ziel ist, einen KI-Wettlauf nicht durch ein KI-Monopol zu ersetzen.
Warum 2040?
Das Jahr 2040 wird nicht als magisches Datum präsentiert.
Es ist ein absichtlicher Sicherheits-Puffer.
Unter dem Szenario könnte KI potenziell um 2030 den Punkt erreichen, an dem automatisierte Forschung möglich wird. Anstatt dieser Fähigkeit sofort zu erlauben, eine Intelligenzexplosion auszulösen, würde die Menschheit die Entwicklung über mehrere Jahre innerhalb des Bereichs der besten menschlichen Experten halten.
Im Jahr 2035 würde die Entwicklung pausieren.
Nur 2040 würden die Beschränkungen aufgehoben und die Welt würde absichtlich in Richtung Superintelligenz gehen.
Das ist die zentrale philosophische Idee hinter Plan A:
Die Menschheit sollte nicht auf eine Technologie zusteuern, die sie bisher nicht kontrollieren kann.
Ist KI 2040 eine Vorhersage?
Nicht ganz.
Das ist vielleicht der wichtigste Punkt beim Lesen des Projekts.
Die Autoren sagen ausdrücklich, dass Plan A hauptsächlich eine Empfehlung und keine Vorhersage ist. Sie haben ein detailliertes Szenario erstellt, weil politische Vorschläge in der Abstraktion leicht zu unterstützen sind, aber viel schwieriger gegen einen realistischen Zeitrahmen zu testen.
Mit anderen Worten, KI 2040 fragt:
Wie würde die Zukunft tatsächlich aussehen, wenn wir diese Politik umsetzen?
Das macht es näher an einer strategischen Simulation als an einer konventionellen Prognose.
Die Autoren präsentieren auch alternative Szenarien, Pläne B, C, D und S, die unterschiedliche Möglichkeiten repräsentieren, wie Regierungen auf das Auftreten von Superintelligenz reagieren könnten.
Die eigentliche Frage ist nicht „Wird KI die Menschheit zerstören?“
Die nützlichste Erkenntnis aus KI 2040 und Kokotajlos Interview ist nicht, dass Katastrophen unausweichlich sind.
Es ist, dass die nächste Stufe der KI-Entwicklung Probleme schaffen könnte, die nachträglich nicht gelöst werden können.
Wenn die KI-Forschung hochgradig automatisiert wird, könnte das Zeitfenster für menschliche Entscheidungen viel kleiner werden.
Wenn ein Unternehmen einen entscheidenden Vorteil erlangt, könnte es fast unmöglich werden, später Macht umzuverteilen.
Und wenn Millionen von Jobs schneller verschwinden, als sich wirtschaftliche Institutionen anpassen können, könnten Regierungen mit sozialen Störungen konfrontiert werden, die sie nie zuvor erlebt haben.
Gleichzeitig ist der Aufwärtstrend gewaltig.
KI könnte wissenschaftliche Forschung beschleunigen, die Medizin verbessern, gefährliche Arbeiten automatisieren, die Kosten für Waren und Dienstleistungen senken und Formen von Überfluss schaffen, die heute schwer vorstellbar sind.
Kokotajlo selbst betont diesen Punkt: Er argumentiert nicht, dass KI von Natur aus schlecht ist. Seine Sorge ist, dass die Menschheit es versäumen könnte, den Übergang sicher zu verwalten.
KI 2040: Eine Warnung, kein Countdown
KI 2040 sollte nicht als buchstäblicher Countdown bis 2040 gelesen werden, ebenso wie Kokotajlos 70 %-Schätzung nicht als objektive Messung der Chancen der Menschheit interpretiert werden sollte.
Stattdessen heben die beiden Quellen dasselbe strategische Dilemma aus unterschiedlichen Perspektiven hervor.
Die KI-Branche könnte sich schneller in Richtung zunehmend autonomer Systeme bewegen, als Regierungen und die Gesellschaft sich anpassen.
Die wichtigste Frage könnte daher nicht sein, ob die Superintelligenz 2030, 2040 oder später ankommt.
Es ist, ob die Menschheit einen Punkt erreicht, an dem sie die Institutionen, technischen Sicherheitsvorkehrungen, internationalen Vereinbarungen und wirtschaftlichen Politiken hat, die nötig sind, um damit umzugehen.
Die optimistische Version der Zukunft ist nach wie vor möglich: KI wird außergewöhnlich leistungsfähig, die Produktivität explodiert und ihre Vorteile werden breit geteilt.
Die pessimistische Version ist ebenfalls leicht vorstellbar: Ein unkontrolliertes Intelligenzrennen produziert entweder einen Verlust der menschlichen Kontrolle oder eine beispiellose Konzentration von Macht.
Plan A ist ein Versuch, den ersten Weg zu wählen, bevor der zweite unvermeidlich wird.
Für jetzt bleibt die Debatte offen. Aber während KI-Systeme zunehmend leistungsfähiger werden, könnten die Kosten des Wartens auf Sicherheit viel höher werden als die Kosten einer frühen Vorbereitung.
