AI 2040: Potrebbe arrivare la superintelligenza entro il 2030?

L'intelligenza artificiale si sta muovendo più velocemente della maggior parte delle tecnologie precedenti, ma la domanda più grande non è più cosa possa fare l'IA oggi. È quanto velocemente l'IA potrebbe diventare capace di migliorare se stessa.

Questa domanda si trova al centro di AI 2040: Plan A, uno scenario sviluppato da Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt e Daniel Kokotajlo. Il progetto immagina un mondo in cui l'umanità rallenta deliberatamente la corsa verso la superintelligenza, mantiene la ricerca sull'IA di frontiera trasparente e posticipa il passo finale verso un'IA soprannaturale fino al 2040.

L'idea diventa ancora più impressionante se confrontata con l'intervista recente di Kokotajlo su The Diary of a CEO. L'ex ricercatore di OpenAI sostiene che la corsa verso un'IA sempre più potente potrebbe essere molto più vicina a un punto critico di quanto il pubblico si renda conto. Stima una probabilità personale molto alta che la transizione verso l'IA possa andare catastroficamente male, mentre sottolinea anche che un esito positivo rimane possibile.

Quindi, cosa potrebbe accadere tra ora e il 2040, e perché l'industria dell'IA ha bisogno di un Piano A?

Cos'è AI 2040?

AI 2040 è uno scenario su come gestire la transizione dall'IA avanzata alla superintelligenza.

I suoi autori partono da una semplice preoccupazione: se diverse aziende e paesi competono per costruire l'IA più potente nel modo più rapido possibile, il vincitore potrebbe guadagnare un'enorme quantità di potere economico, militare e politico.

Lo scenario propone quindi un approccio diverso. Invece di consentire una corsa all'intelligenza a piena velocità, i governi negozierebbero un accordo internazionale che rallenti lo sviluppo, aumenti la trasparenza e consenta a più paesi e aziende di rimanere coinvolti.

L'obiettivo non è fermare lo sviluppo dell'IA per sempre. È acquistare tempo.

Sotto il Piano A, il mondo ritarderebbe lo sviluppo della superintelligenza fino al 2040, amplierebbe gradualmente le capacità dell'IA a circa il livello dei migliori esperti umani, si fermerebbe lì e soltanto in seguito riprenderebbe la transizione verso sistemi realmente sovrumani. Gli autori descrivono esplicitamente il Piano A come una raccomandazione piuttosto che la loro migliore previsione su ciò che accadrà effettivamente.

AI 2040: La timeline proposta

Questa timeline è volutamente conservativa rispetto agli scenari più aggressivi discussi da Kokotajlo.

Perché la superintelligenza è così importante?

I sistemi IA di oggi possono già svolgere compiti che un tempo richiedevano professionisti altamente qualificati. Ma il vero punto di svolta si avrebbe quando l'IA diventasse capace di condurre ricerche sull'IA stessa.

Immagina un sistema IA capace di progettare un modello migliore, testarlo, analizzare i risultati, scrivere il codice necessario, ottimizzare il processo di addestramento e poi ripetere l'intero processo.

La generazione successiva potrebbe quindi essere migliore nella ricerca sull'IA rispetto alla sua predecessore.

Ciò crea un ciclo di feedback:

IA migliore → ricerca IA migliore → IA migliore → ricerca IA ancora migliore

Questo viene spesso descritto come un'esplosione d'intelligenza.

AI 2040 sostiene che questa transizione è particolarmente pericolosa perché gli esseri umani potrebbero perdere la loro posizione nel ciclo di sviluppo. Se i sistemi IA sono responsabili della creazione di successori sempre più capaci, diventa più difficile capire perché i sistemi risultanti rimarrebbero controllabili.

Lo scenario descrive il 2030 come un potenziale punto in cui la ricerca sull'IA potrebbe diventare completamente automatizzata. Senza interventi, ciò potrebbe teoricamente portare a una superintelligenza in un periodo di tempo molto breve.

L'avvertimento di Daniel Kokotajlo: l'IA potrebbe muoversi più velocemente del previsto

Daniel Kokotajlo offre una prospettiva più personale sullo stesso problema.

Kokotajlo ha lavorato per OpenAI dal 2022 e si è concentrato sulla previsione di come potrebbero svilupparsi le capacità dell'IA. In seguito ha lasciato l'azienda ed è diventato una delle voci di spicco che avvertono sui rischi di una corsa all'IA incontrollata.

Nella sua intervista di luglio 2026 con Steven Bartlett, Kokotajlo ha sostenuto che le conversazioni con persone all'interno dei principali laboratori di IA spesso puntano verso tempistiche più brevi di quanto si aspetti il pubblico. Ha specificamente menzionato il 2027 e il 2028 come anni che alcuni esperti del settore considerano plausibili per importanti risultati.

La sua affermazione più controversa è che assegna personalmente circa il 70% di probabilità che l'IA vada "orribilmente storta", inclusi scenari che potrebbero portare all'estinzione umana. Questo numero non dovrebbe essere trattato come una probabilità scientifica stabilita. È la stima di rischio personale di Kokotajlo basata sulle sue assunzioni riguardo ai tempi dell'IA, all'allineamento, alla competizione e alla governance.

Questa distinzione è importante.

La cifra del 70% non è una previsione di consenso della comunità di ricerca sull'IA. È un argomento su quanto seriamente la società dovrebbe prendere in considerazione una combinazione di rischi che potrebbero rafforzarsi a vicenda.

La corsa all'IA potrebbe creare due problemi diversi

Una delle idee più forti condivise da AI 2040 e dall'intervista di Kokotajlo è che la sicurezza dell'IA non riguarda solo se un sistema IA è "malvagio" o "buono".

Ci sono almeno due rischi principali.

1. Gli esseri umani perdono il controllo

Se un sistema IA diventa sostanzialmente più capace degli esseri umani e in grado di migliorare i propri successori, gli esseri umani potrebbero alla fine faticare a capire o controllare il suo comportamento.

La domanda chiave diventa semplice:

Come controlli qualcosa che è molto più intelligente e veloce di te?

AI 2040 sostiene che l'attuale corsa potrebbe eventualmente portare a una situazione in cui gli esseri umani non mantengono più un controllo effettivo su sistemi sempre più autonomi.

2. Gli esseri umani mantengono il controllo, ma solo pochi esseri umani

La seconda possibilità potrebbe apparire più sicura inizialmente.

Supponiamo che le principali aziende di IA allineino con successo i loro sistemi agli obiettivi umani. Il problema diventerebbe quindi la concentrazione di potere.

Se una sola azienda, un governo o un piccolo gruppo controlla i sistemi IA più capaci del mondo, potrebbe acquisire un'influenza senza precedenti su economia, tecnologia militare, informazione e infrastruttura.

In altre parole, risolvere l'allineamento dell'IA non risolverebbe automaticamente il problema politico.

Cosa succede ai lavori?

L'impatto economico è un altro aspetto principale di entrambi gli scenari.

AI 2040 immagina un futuro prossimo in cui gli agenti IA diventano una seconda forza lavoro insieme agli esseri umani. Milioni di agenti basati su software potrebbero operare continuamente, completando compiti a velocità di macchina.

Il cambiamento importante non sarebbe semplicemente che i chatbot diventano assistenti migliori.

Invece, le aziende potrebbero iniziare a trattare l'IA come una forza lavoro di uso generale.

Un'azienda potrebbe decidere di entrare in una nuova professione o industria, raccogliere i dati necessari, costruire ambienti di addestramento, distribuire agenti IA e migliorarli continuamente attraverso l'uso nel mondo reale. AI 2040 descrive questo processo come potenzialmente in espansione dall'ingegneria software in molte altre professioni d'ufficio.

Ciò solleva una difficile domanda economica:

Cosa succede quando l'intelligenza diventa abbondante ma il lavoro umano non è più raro?

Per secoli, il reddito è stato largamente collegato alla capacità delle persone di fornire lavoro utile. Se l'IA può eseguire la maggior parte dei compiti cognitivi a un costo inferiore, quella relazione potrebbe rompersi.

Kokotajlo è particolarmente pessimista riguardo all'occupazione. Nell'intervista, sostiene che le persone dovrebbero prendere seriamente in considerazione la possibilità di uno spostamento massiccio di posti di lavoro e suggerisce che molti lavoratori potrebbero alla fine trovarsi a competere con sistemi IA.

Tuttavia, l'esito non è necessariamente povertà di massa.

Se l'IA aumenta drammaticamente la produttività mentre i suoi benefici sono ampiamente distribuiti, l'umanità potrebbe invece sperimentare un periodo senza precedenti di abbondanza.

Questa è una delle contraddizioni centrali in AI 2040: la stessa tecnologia potrebbe produrre o una prosperità estrema o una concentrazione estrema di ricchezze e potere, a seconda di come viene governata.

Cos'è il Piano A?

Il Piano A è essenzialmente un tentativo di cambiare gli incentivi della corsa all'IA.

La sua proposta centrale è un accordo internazionale, in particolare tra gli Stati Uniti e la Cina, progettato per prevenire che paesi e aziende corrono verso la superintelligenza senza adeguate misure di sicurezza.

Il piano si basa su diversi principi principali.

Trasparenza totale nella ricerca

Le aziende di IA fornirebbero molte più informazioni sul loro sviluppo interno, comprese le specifiche dei modelli, come i sistemi vengono utilizzati internamente e quanta potenza di calcolo è dedicata alla ricerca sull'IA.

L'idea è semplice: i governi non possono regolamentare ciò che non possono vedere.

Scalabilità delle capacità più lenta

Invece di spingere immediatamente ogni nuovo modello al massimo delle sue capacità possibili, lo sviluppo dell'IA sarebbe deliberatamente rallentato attorno a soglie critiche.

Questo darebbe ai ricercatori e ai governi più tempo per valutare le nuove capacità e sviluppare misure di sicurezza.

Verifica e monitoraggio dei calcoli

AI 2040 discute anche sistemi tecnologici per verificare cosa stanno facendo le aziende con le loro risorse di calcolo. Monitorare chip IA, centri dati e grandi sessioni di addestramento potrebbe rendere gli accordi internazionali più applicabili.

Molteplici leader IA

Il Piano A non prevede che un'azienda diventi il proprietario indiscusso della superintelligenza.

Gli autori auspicano un mondo in cui più aziende e paesi possano rimanere competitivi mentre sviluppano IA sotto norme comuni di sicurezza.

L'obiettivo sottostante è evitare di sostituire una corsa all'IA con un monopolio dell'IA.

Perché il 2040?

L'anno 2040 non è presentato come una data magica.

È un buffer di sicurezza deliberato.

Sotto lo scenario, l'IA potrebbe potenzialmente raggiungere il punto in cui la ricerca automatizzata diventa possibile attorno al 2030. Invece di consentire che tale capacità inneschi immediatamente un'esplosione d'intelligenza, l'umanità manterrebbe lo sviluppo all'interno dell'intervallo dei migliori esperti umani per diversi anni.

Nel 2035, lo sviluppo si fermerebbe.

Solo nel 2040 le restrizioni verrebbero rimosse e il mondo si muoverebbe intenzionalmente verso la superintelligenza.

Questa è l'idea filosofica centrale dietro il Piano A:

L'umanità non dovrebbe correre verso una tecnologia che non sa ancora come controllare.

È AI 2040 una previsione?

Non esattamente.

Questo è forse il punto più importante da considerare nella lettura del progetto.

Gli autori affermano esplicitamente che il Piano A è principalmente una raccomandazione, non una previsione. Hanno creato uno scenario dettagliato perché le proposte politiche sono facili da sostenere in astratto ma molto più difficili da testare rispetto a una timeline realistica.

In altre parole, AI 2040 si chiede:

Come sarebbe realmente il futuro se implementassimo questa politica?

Questo lo rende più simile a una simulazione strategica che a una previsione convenzionale.

Gli autori presentano anche scenari alternativi, Piani B, C, D e S, che rappresentano diversi modi in cui i governi potrebbero rispondere all'emergere della superintelligenza.

La vera domanda non è "L'IA distruggerà l'umanità?"

Il risultato più utile di AI 2040 e dell'intervista di Kokotajlo non è che la catastrofe sia inevitabile.

È che la prossima fase dello sviluppo dell'IA potrebbe creare problemi che non possono essere risolti dopo il fatto.

Se la ricerca sull'IA diventa altamente automatizzata, la finestra per le decisioni umane potrebbe diventare molto più piccola.

Se un'azienda ottiene un vantaggio decisivo, ridistribuire il potere in seguito potrebbe diventare quasi impossibile.

E se milioni di posti di lavoro scompaiono più rapidamente di quanto le istituzioni economiche si adattino, i governi potrebbero affrontare disordini sociali su una scala mai vista prima.

Allo stesso tempo, il potenziale è enorme.

L'IA potrebbe accelerare la ricerca scientifica, migliorare la medicina, automatizzare lavori pericolosi, ridurre i costi di beni e servizi e creare forme di abbondanza che sono difficili da immaginare oggi.

Kokotajlo stesso sottolinea questo punto: non sostiene che l'IA sia intrinsecamente negativa. La sua preoccupazione è che l'umanità potrebbe non riuscire a gestire la transizione in modo sicuro.

AI 2040: un avvertimento, non un conto alla rovescia

AI 2040 non dovrebbe essere letto come un conto alla rovescia letterale verso il 2040, così come la stima del 70% di Kokotajlo non dovrebbe essere interpretata come una misura oggettiva delle possibilità dell'umanità.

Invece, le due fonti evidenziano lo stesso dilemma strategico da angolazioni diverse.

L'industria dell'IA potrebbe muoversi verso sistemi sempre più autonomi più velocemente di quanto i governi e la società si stiano adattando.

La domanda più importante potrebbe quindi non essere se la superintelligenza arrivi nel 2030, nel 2040 o più tardi.

È se l'umanità raggiungerà un punto in cui avrà le istituzioni, le salvaguardie tecniche, gli accordi internazionali e le politiche economiche necessarie per affrontarlo.

La versione ottimistica del futuro è ancora possibile: l'IA diventa straordinariamente capace, la produttività esplode e i suoi benefici sono ampiamente condivisi.

La versione pessimistica è anche facile da immaginare: una corsa all'intelligenza incontrollata produce o una perdita di controllo umano o una concentrazione di potere senza precedenti.

Il Piano A è un tentativo di scegliere il primo percorso prima che il secondo diventi impossibile da evitare.

Per ora, il dibattito rimane aperto. Ma man mano che i sistemi IA diventano sempre più capaci, il costo di aspettare certezze potrebbe diventare molto più alto del costo di prepararsi in anticipo.