AI 2040: 超知能は2030年までに到来する可能性はあるのか？

人工知能は過去のほとんどの技術よりも速く進化していますが、最大の疑問は、今のAIが何をできるかではありません。それは、AIがどれだけ早く自己改善できる能力を持つようになるかです。

この疑問は、トーマス・ラーセン、ロメオ・ディーン、ブレンダン・ホールステッド、エリ・リフランド、ライアン・グリーンブラット、ダニエル・ココタジロが開発したシナリオ「AI 2040: Plan A」の中心にあります。このプロジェクトは、人類が意図的に超知能への競争を遅らせ、最前線のAI研究を透明にし、超人的なAIへの最終段階を2040年まで延期する世界を想像しています。

この考えは、ココタジロが最近「The Diary of a CEO」で行ったインタビューと比較すると、さらに驚くべきものになります。元OpenAIの研究者である彼は、ますます強力なAIへの競争が、一般の人々が認識しているよりもはるかに重大なポイントに近づいていると主張しています。彼は、AI過渡期が壊滅的に誤った方向に進む高い個人的確率を示す一方で、ポジティブな結果が可能であることも強調しています。

それでは、2040年までの間に何が起こり得るのか、またなぜAI業界に「Plan A」が必要なのか？

AI 2040とは？

AI 2040は、進化したAIから超知能への移行を管理するシナリオです。

その著者たちは、いくつかの企業や国ができる限り早く最も強力なAIを構築しようと競争する場合、勝者は経済的、軍事的、および政治的な驚異的な権力を得ることができるという単純な懸念から出発します。

したがって、このシナリオは異なるアプローチを提案します。全速力での知能競争を許すのではなく、政府が国際的な合意を交渉して開発を遅らせ、透明性を高め、複数の国や企業が関与できるようにします。

目標はAI開発を永遠に止めることではありません。時間を稼ぐことです。

Plan Aの下では、世界は2040年まで超知能の開発を遅らせ、AIの能力を人間のトップ専門家のレベルまで徐々に引き上げ、そこで一時停止し、その後、本当に超人的なシステムへの移行を再開します。著者たちは、Plan Aは実際に起こることの最良の予測ではなく、推奨と明言しています。

AI 2040：提案されたタイムライン

このタイムラインは、ココタジロが議論するよりも攻撃的なシナリオと比較して意図的に保守的です。

なぜ超知能はそれほど重要なのか？

今日のAIシステムは、かつて高度な専門職を必要としたタスクを既に実行することができます。しかし、真の転換点は、AIが自分自身でAI研究を行う能力を持つようになるときです。

より良いモデルを設計し、それをテストし、結果を分析し、必要なコードを書き、トレーニングプロセスを最適化し、これらの全てのプロセスを繰り返すことができるAIシステムを想像してみてください。

次の世代は、その前の世代のAI研究よりも優れたものになるかもしれません。

それはフィードバックループを生み出します：

より良いAI → より良いAI研究 → より良いAI → さらに良いAI研究

これはしばしば知能の爆発と呼ばれます。

AI 2040は、この移行が特に危険であると主張しています。なぜなら、人間は開発ループ内での地位を失う可能性があるからです。もしAIシステムがますます有能な後継者を生み出す責任を負う場合、結果的なシステムがなぜ制御可能であるのかを理解することが難しくなります。

このシナリオは、2030年をAI研究が完全に自動化される可能性のあるポイントとして描いています。介入なしでは、それが理論的には非常に短期間で超知能を引き起こす可能性があります。

ダニエル・ココタジロの警告：AIは予想以上に早く進む可能性がある

ダニエル・ココタジロは、同じ問題に対してより個人的な視点を持ち込みます。

ココタジロは2022年からOpenAIで働き、AIの能力がどのように発展するかを予測することに注力しました。その後、彼は会社を辞め、制御が効かないAI競争のリスクについて警告する著名な声の一人となりました。

彼の2026年7月のスティーブン・バートレットとのインタビューでは、主要なAIラボ内部の人々との会話が、一般の人々が予測しているよりも短いタイムラインを示唆することが多いとココタジロは主張しました。彼は特に2027年と2028年を、業界の内部者が大きな突破口として考える実行可能な年として挙げました。

彼の最も物議を醸す主張は、AIが「ひどく間違う」確率を約70%に設定しているということです。これには人類の絶滅につながるシナリオも含まれます。この数値は、確立された科学的確率と見なされるべきではありません。これは、AIのタイムライン、調整、競争、ガバナンスに関する彼の仮定に基づく個人的なリスク推定です。

この区別は重要です。

70%の数字はAI研究コミュニティの合意された予測ではありません。それは、リスクの組み合わせを社会がどれだけ真剣に受け止めるべきかという議論です。

AI競争が2つの異なる問題を生み出す可能性

AI 2040とココタジロのインタビューが共有する強力なアイデアの一つは、AIの安全性がAIシステムが「悪」または「良い」であるかどうかだけの問題ではないということです。

リスクは少なくとも2つあります。

1. 人間が制御を失う

AIシステムが人間よりも著しく能力が高くなり、自己の後継者を改善する能力を持つようになると、人間はその行動を理解したり制御したりするのが難しくなります。

キーワードはシンプルです：

どうやって、あなたよりも遥かに賢く、素早いものを制御しますか？

AI 2040は、現在の競争が最終的に人間がますます自律的なシステムに対して効果的な制御を維持できない状況に繋がる可能性があると主張しています。

2. 人間が制御を維持する, しかし、制御できるのはごく少数の人間だけ

2番目の可能性は、最初は安全に見えるかもしれません。

もし主要なAI企業が自らのシステムを人間の目標に適合させることに成功した場合、問題は権力の集中に移ります。

もし一企業、政府、または小さなグループが世界で最も有能なAIシステムを支配した場合、経済、軍事技術、情報、およびインフラに対して前例のない影響力を得ることができます。

言い換えれば、AI調整を解決することは自動的に政治的問題を解決するわけではありません。

仕事にはどうなるのか？

経済的影響は両方のシナリオで重要な部分です。

AI 2040は、AIエージェントが人間と並行して第二の労働力となる近い未来を想像しています。何百万ものソフトウェアベースのエージェントが持続的に運用し、機械の速度でタスクを完了できます。

重要な変化は、単にチャットボットがより良いアシスタントになることではありません。

むしろ、企業はAIを一般的な労働力として扱い始めるかもしれません。

企業は新しい職業や産業に参入することを決定し、必要なデータを収集し、トレーニング環境を構築し、AIエージェントを展開し、実際の使用を通じて継続的に改善することができます。AI 2040は、このプロセスがソフトウェア工学から他の多くのホワイトカラー職へ拡大する可能性があると説明しています。

これは困難な経済的質問を提起します：

知能が十分に豊富になる一方で、人間の労働がもはや希少ではなくなると、どうなりますか？

何世紀にもわたって、収入は主に人々が有用な労働を提供する能力に結びついてきました。もしAIがほとんどの認知タスクを低コストで実行できる場合、その関係は壊れる可能性があります。

ココタジロは雇用について特に悲観的です。インタビューでは、広範な仕事の移転の可能性を真剣に受け止めるべきだと主張し、多くの労働者が最終的にAIシステムと競争する羽目になるかもしれないと示唆しています。

しかし、結果が必ずしも大規模な貧困につながるわけではありません。

もしAIが生産性を劇的に向上させ、その利益が広く分配されれば、人類は前例の無い豊富な期間を体験できるかもしれません。

これはAI 2040における中心的な対比の一つです：同じ技術が、どのように統治されるかによって、極端な繁栄や権力と富の極端な集中を生み出す可能性があります。

Plan Aとは？

Plan Aは、基本的にAI競争のインセンティブを変える試みです。

その核心的提案は、国々が十分な安全措置なしに超知能を目指して競争するのを防ぐために、特に米国と中国の間で国際合意を結ぶことです。

この計画は、いくつかの主要な原則に基づいています。

完全な研究の透明性

AI企業は、モデルの仕様、システムの内部使用方法、AI研究にどれだけの計算資源を割いているかなど、内部開発に関する情報を大幅に提供します。

考え方はシンプルです：政府は見えないものを規制できません。

スローペースの能力向上

すべての新しいモデルを最大限の能力まで即座に引き上げるのではなく、AI開発は重要な閾値の周囲で意図的に遅らせられます。

これにより、研究者と政府は新しい能力を評価し、安全対策を開発するための時間を増やすことができます。

検証とコンピュータ監視

AI 2040は、企業がその計算資源をどのように使用しているかを検証するための技術システムについても論じています。AIチップ、データセンター、および大規模なトレーニングランを追跡することは、国際合意をより強化する可能性があります。

複数のAIリーダー

Plan Aは、一つの企業が超知能を無条件に所有することを想定していません。

著者たちは、複数の企業や国が共通の安全ルールの下でAIを開発しながら競争し続けられる世界を主張しています。

その根本的目標は、AI競争をAI独占に置き換えないことです。

2040年の意味

2040年は魔法のような日付として提示されているわけではありません。

それは意図的な安全バッファです。

シナリオの下では、AIは2030年頃に自動研究が可能になる点に達する可能性があります。その能力が即座に知能の爆発を引き起こすのを許さず、人類は数年間、開発を最も優れた人間の専門家の範囲内に保ちます。

2035年には開発が一時停止します。

制限が解除され、世界が意図的に超知能に向かうのは2040年です。

これはPlan Aの中央的な哲学的アイデアです：

人類はまだ制御方法を知らない技術に向かってレースをしてはならない。

AI 2040は予測なのか？

正確にはそうではありません。

これは、おそらくプロジェクトを読む際の最も重要な点です。

著者たちは明示的に、Plan Aは主に推奨であって予測ではないと言っています。彼らは、政策提案が抽象的には支持しやすいが、現実的なタイムラインに対してテストするのははるかに難しいため、詳細なシナリオを作成しました。

言い換えれば、AI 2040は問います：

この政策を実施した場合、未来は実際にどのように見えるのか？

それは、従来の予測よりも戦略的シミュレーションに近いものです。

著者たちはまた、超知能の出現に対して政府がどのように応じるかに関する異なるシナリオ, Plan B、C、D、およびS, を提示しています。

本当の質問は「AIは人類を破壊するのか？」ではない

AI 2040とココタジロのインタビューからの最も有用な教訓は、破局が避けられないということではありません。

次の段階のAI開発が、後から解決できない問題を生み出す可能性があるということです。

AI研究が高度に自動化されると、人間の意思決定のウィンドウはずっと小さくなるかもしれません。

もし一社が決定的な優位に立つと、後に権力を再分配することはほぼ不可能になるかもしれません。

そして、何百万もの仕事が経済機関が適応するよりも早く失われれば、政府は未曾有の規模で社会不安に直面することになるかもしれません。

同時に、アップサイドは巨大です。

AIは科学研究を加速させ、医療を改善し、危険な仕事を自動化し、商品やサービスのコストを削減し、今日想像できないような豊富な様式を生み出す可能性があります。

ココタジロ自身もこの点を強調しています。彼はAIが本質的に悪いとは主張していません。彼の懸念は、人類が安全に移行を管理できない可能性があるということです。

AI 2040：警告、カウントダウンではない

AI 2040は、2040年への文字通りのカウントダウンとして読まれるべきではありません。ココタジロの70%の推定値も人類の可能性を客観的に測定したものと解釈されるべきではありません。

むしろ、両方の情報源は異なる角度から同じ戦略的ジレンマを浮き彫りにしています。

AI産業が、政府や社会が適応するよりも急速にますます自律的なシステムに向かって進んでいる可能性があります。

したがって、最も重要な質問は、超知能が2030年、2040年、あるいはそれ以降に到来するかどうかではないかもしれません。

それは、人類がそれに対処するために必要な制度、技術的セーフガード、国際協定、および経済政策に到達するかどうかです。

楽観的な未来のバージョンはまだ可能です：AIが非常に能力を持ち、生産性が爆発し、その利益が広く共有されることです。

悲観的なバージョンもまた容易に想像できます：制御不能な知能競争が、人間の制御の喪失または前例のない権力の集中を生み出すことです。

Plan Aは、2つ目の道が避けられなくなる前に最初の道を選ぼうとする試みです。

今のところ、議論は続いています。しかし、AIシステムがますます能力を持つようになるにつれ、確実性を待つコストは、早期に準備するコストを大きく上回るようになるかもしれません。