Il 28 settembre 2026 il Cambridge Programme on AI Science and Policy (CASP) ha pubblicato What if automating AI R&D triggers an intelligence explosion?. Gli autori sono ventidue, fra cui Geoffrey Hinton, Yoshua Bengio, Jakub Pachocki, chief scientist di OpenAI, Jack Clark, cofondatore di Anthropic, ed Eric Horvitz di Microsoft.

La tesi è che i sistemi di AI siano sulla strada per automatizzare la maggior parte della ricerca e sviluppo sull’AI entro pochi anni, forse tutta. Se succede, il progresso può accelerare fino a comprimere in mesi avanzamenti che altrimenti richiederebbero anni. Gli autori la chiamano esplosione di intelligenza.

Il 2 ottobre Hinton l’ha presentata su X così:

The idea of an intelligence explosion caused by recursive self improvement has been around for a long time but until very recently it did not seem imminent. Now many leading researchers think it may happen quite soon.

L’idea risale al 1965, quando Irving John Good descrisse una macchina capace di progettare macchine migliori di sé e la chiamò proprio così. Per sessant’anni è rimasta una speculazione. Quello che cambia ora è che le aziende che costruiscono i modelli pubblicano numeri su quanto della propria ricerca fanno già fare all’AI.

Che cosa sostiene il paper

Il meccanismo è un ciclo in due tempi. I sistemi diventano più bravi nella ricerca sull’AI e allargano la forza lavoro che la fa, e quella forza lavoro produce sistemi migliori, che la allargano di nuovo. Una volta raggiunto un livello da esperto ai costi di oggi, il calcolo di un solo sviluppatore di frontiera potrebbe sostenere l’equivalente di milioni di ricercatori, contro le poche migliaia che le aziende impiegano.

Tutto dipende da un parametro, r, i rendimenti dello sforzo di ricerca. Sotto 1 le idee diventano difficili da trovare più in fretta di quanto cresca la forza lavoro e il progresso si spegne. Sopra 1 accelera. Sui dati storici le stime centrali stanno fra 1,2 e 1,9: se reggessero dopo l’automazione completa, il ritmo si moltiplicherebbe per dieci in circa un anno e mezzo, e un anno di progresso di oggi richiederebbe cinque settimane.

Gli autori elencano gli attriti, cioè rendimenti decrescenti, calcolo e dati, compiti difficili da automatizzare e addestramenti che durano mesi, e ammettono che l’evidenza è preliminare. La conclusione è che la soglia non è ancora raggiunta ma che i sistemi più recenti ci si stanno probabilmente avvicinando.

Cosa ne penso

Il titolo è una domanda, ma la parte ipotetica riguarda solo la velocità. La premessa è già un dato misurato. Secondo Anthropic, ad agosto 2026 Claude guida il 26% della ricerca e sviluppo dell’azienda, contro meno dell’1% a febbraio, e sulla piattaforma interna girano circa trentamila agenti contemporaneamente. «Guida» vuol dire che completa la maggior parte del compito da un’istruzione di alto livello, con una persona che supervisiona.

Sul sito ne ho raccontato gli effetti nelle ultime settimane: diecimila agenti di OpenAI che in 88 ore producono una dimostrazione su Navier-Stokes, una campagna di agenti Claude che trova senza intervento umano una nuova famiglia di enzimi, e prima ancora i 1.200 agenti di OpenAI che a luglio si sono coordinati fuori dal compito e sono entrati nei sistemi di Hugging Face.

Che l’AI faccia ricerca sull’AI quindi è un fatto. Resta da capire se r resterà sopra 1 abbastanza a lungo e quanto peseranno i colli di bottiglia, e su questo il paper è onesto nel dire che non lo sa.

Mi convince perché sta dalla parte delle misure, la stessa distinzione che facevo in Moriremo tutti? fra le stime di probabilità e i guasti che si contano. Chiede di rendere pubblica la quota di ricerca fatta dall’AI, il ritmo dei miglioramenti e le condizioni di supervisione degli agenti interni.

Il paragone che mi viene è il fattore di moltiplicazione di un reattore. Sotto 1 la reazione si spegne, sopra 1 si autosostiene, e il 2 dicembre 1942 Fermi lo portò appena sopra 1 nella Chicago Pile-1 con le barre di controllo pronte. Il paper chiede proprio questo: avere le barre pronte prima, perché una volta partita, scrivono gli autori, la finestra per agire potrebbe chiudersi.

Che cosa chiede ai governi

Tre cose. Visibilità, con indicatori standard di automazione della ricerca comunicati a governi e revisori indipendenti, anche presenti dentro le aziende sul modello degli ispettori nucleari. Governo del ritmo, con requisiti di sicurezza come condizione per continuare, procedure per mettere in pausa specifici carichi nei data center e accordi internazionali verificabili. Adattamento, con piani di emergenza e salvaguardie per i contrappesi fra poteri.

Sapere che cosa fanno gli agenti dentro un sistema e poterli fermare mentre girano sono anche le due cose su cui lavoro con DebugABot e Admina. Se gli strumenti bastino resta da dimostrare.

Limiti

È un working paper senza revisione paritaria, e le stime di r poggiano su dati limitati e modelli stilizzati. Diversi autori lavorano nelle aziende che stanno automatizzando la propria ricerca, e parte delle prove sono loro rendiconti: è anche il motivo per cui il paper chiede misure verificate da terzi.

Immagine di copertina: diagramma di biforcazione della mappa logistica, x → r·x·(1−x), generato per questo articolo. Per ogni valore del parametro r, da 2,85 a 4, mostra dove si stabilizza la stessa formula applicata al proprio risultato. Il comportamento si sdoppia a intervalli sempre più brevi e oltre r ≈ 3,57 diventa caotico, la parte che sfuma verso il corallo.