Il 10 agosto 2026 Mark Zuckerberg ha pubblicato The Future is for Everyone, una lettera che propone una filosofia per la superintelligenza: l’empowerment individuale come fonte della prosperità, l’invenzione come scopo principale della tecnologia, l’equilibrio dei poteri come fondamento della sicurezza. La tesi è che distribuire la superintelligenza a tutti sia più sicuro che concentrarla, e la formula che la riassume è «there is no such thing as a singular benevolent superintelligence».

Sul merito filosofico non aggiungo niente: la contrapposizione fra sapere centralizzato e sapere distribuito l’ho già trattata in termini epistemici, e nella versione di Hayek regge meglio, perché non richiede che a distribuire sia una società specifica. Qui guardo un’altra cosa. Il documento non contiene una sola nota, citazione o link, e diverse sue affermazioni riguardano fatti verificabili. Tre meritano di essere controllate sui documenti.

La governance annunciata

Il passaggio più concreto è questo: «Meta is implementing a governance structure that gives our independent board of directors the power to approve the safety criteria for releasing models and reviewing whether each model release adheres to the criteria». Zuckerberg aggiunge che gli amministratori delegati di tutti i laboratori di frontiera hanno oggi ampia autorità sui rilasci, e invita gli altri a fare come Meta.

Il documento che regola oggi quelle decisioni è l’Advanced AI Scaling Framework v2.0, datato 7 aprile 2026 e ancora servito da ai.meta.com l’11 agosto. Dice che «the Chief AI Officer or the Director of Alignment and Risk will determine whether to request further testing or information, require additional mitigations or improvements, or approve the model for deployment». Il consiglio di amministrazione vi compare una volta sola, con una formula generica: «Meta’s Board of Directors provides oversight of the company’s product and regulatory compliance». Nessun potere di approvare criteri, nessuna verifica di conformità per singolo rilascio.

Il changelog dello stesso documento merita di essere letto per intero, perché la revisione di aprile fa due cose opposte. Allarga il perimetro: come standard primario per il rischio alto e critico adotta «substantially contribute to» al posto di «uniquely enable», quindi più modelli vi ricadono. E ammorbidisce le conseguenze: «Critical threshold changed from “Stop” to “Develop with Mitigations.” High threshold measure changed from “Do not release” to “Deploy with mitigations.” […] All thresholds now permit proceeding with sufficient mitigations validated to reduce risk to moderate or lower, with security processes commensurate with the threshold initiated». La stessa revisione aggiunge la perdita di controllo fra i domini di rischio e introduce obblighi di pubblicazione. I due arresti che erano incondizionati diventano condizionati: si procede purché le mitigazioni siano definite, implementate e validate fino a riportare il rischio a moderate or lower. A giudicare quella validazione è lo stesso dirigente che approva il rilascio.

Della nuova struttura di governance non risulta traccia documentale. Nel proxy statement depositato il 16 aprile 2026 l’espressione «safety criteria» non compare; una ricerca full-text sui depositi SEC di Meta fra il 1 giugno e l’11 agosto 2026 non restituisce occorrenze né di quella espressione né di «independent board of directors»; il 10 agosto sotto il CIK di Meta risulta depositato soltanto un Form 144, l’avviso di vendita di azioni di un dirigente, e nessun 8-K. Il post con cui Meta Research annuncia il modello rilasciato in quegli stessi giorni rimanda come standard di valutazione proprio al framework che assegna la decisione al Chief AI Officer.

Lo stesso proxy fornisce il contesto societario, e la lettera lo riconosce scrivendo «Meta is a founder-controlled company»: al 1 aprile 2026 Zuckerberg detiene il 99,8% delle azioni di classe B, che valgono dieci voti ciascuna, e il 60,8% del potere di voto. L’interesse economico corrispondente Meta non lo pubblica: due proposte degli azionisti nello stesso documento lo stimano al 13% e al 14%, e il proxy avverte che le affermazioni dei proponenti sono di loro esclusiva responsabilità. Il documento dichiara che per le regole Nasdaq Meta è una controlled company e che l’indipendenza della maggioranza del consiglio è una scelta volontaria, non un obbligo.

Il criterio per leggere un annuncio del genere l’ho già scritto altrove e non lo rifaccio: chi misura sé stesso non produce evidenza indipendente, e uno scarto fra un impegno dichiarato e una proprietà verificabile è la differenza fra una policy e un’architettura. Qui la formulazione esatta è che la struttura è annunciata al presente progressivo e non è documentata da nessuna parte. Può arrivare; all’11 agosto non c’è.

L’episodio di cybersicurezza

È l’unico punto in cui la lettera si appoggia a un incidente tecnico ricostruibile su fonti terze: «Even in recent weeks, we have seen companies handling security incidents like HuggingFace rely on widely available open models to patch vulnerabilities». Serve a sostenere che i sistemi open source ampiamente diffusi si sono dimostrati più sicuri.

Dell’incidente ho scritto il 23 luglio. Rileggendo il post-mortem e la timeline tecnica pubblicati da Hugging Face, la frase si sposta su tre punti.

Il primo è cosa ha fatto il modello aperto. Ha analizzato oltre diciassettemila eventi e ricostruito lo schema di offuscamento usato dall’intruso: è analisi forense, non correzione. Le vulnerabilità sono state chiuse spegnendo la sandbox di valutazione con l’aiuto del fornitore terzo, correggendo il renderer delle configurazioni dataset, ruotando tutte le credenziali e ricostruendo da zero il cluster in cui l’intruso aveva fatto pivot. «Patchare con modelli aperti» sostiene la tesi della lettera; «analizzare i log con un modello aperto» ne sostiene una più stretta.

Il secondo è quale modello. La timeline indica la versione quantizzata da Nvidia di GLM-5.2, un modello del laboratorio cinese Z.ai, eseguito in locale. La lettera sostiene che l’obiettivo debba essere che i modelli open source americani siano i migliori al mondo.

Il terzo è il motivo per cui quel modello è stato usato. Le richieste di analisi contenevano comandi d’attacco e payload reali, e il post-mortem dice che «these requests were blocked by the providers’ safety guardrails»; la timeline fa i nomi: «The models we reached for first, Claude Opus and Fable, refused a large part of that work», perché «their safety guardrails treated reverse-engineering an exploit the same as launching one». Gli incident responder hanno dirottato l’intera pipeline sul modello aperto. L’episodio depone quindi a favore di una tesi sui guardrail, non sull’open source in quanto tale — che pesi e codice aperti rendano possibile la verifica indipendente senza rendere il modello più sicuro in sé è cosa nota da tempo.

I checkpoint intermedi, come meccanismo

La proposta operativa della lettera è che i laboratori di frontiera condividano con il governo i checkpoint intermedi di addestramento «rather than waiting until training has completed», così che l’amministrazione disponga in anticipo dei modelli più capaci e di «an army of capable engineers» per irrobustire le infrastrutture critiche.

Presa come meccanismo, aggiunge meno di quanto sembri. L’accesso governativo anticipato esiste già: l’ordine esecutivo 14409 del 2 giugno 2026 prevede un quadro volontario in cui gli sviluppatori possono dare accesso ai modelli fino a trenta giorni prima del rilascio. E valutare checkpoint non definitivi è prassi documentata da tempo: l’AI Security Institute britannico ha pubblicato il 30 aprile 2026 una valutazione condotta su un early checkpoint, e già nella system card di o1, dicembre 2024, compariva un o1-near-final-checkpoint accanto alla versione di rilascio.

Quello che la proposta cambia è la natura dell’accesso. I checkpoint servono al governo per difendere sistemi, e Zuckerberg lo dice al posto di un processo di revisione: «I think it will be more productive to have a close proactive collaboration between frontier labs and the government rather than a rigid process and review timeline that is followed in all cases». Nella stessa lettera si legge che «any policy that slows American model releases — even by a month — could add significant risk to American leadership», e trenta giorni è esattamente la finestra che l’ordine esecutivo già prevede.

Manca cioè lo stadio che trasforma un artefatto in un controllo. La proposta stabilisce cosa il governo riceve, non cosa è tenuto a farne né chi ferma un rilascio se la verifica va male. È la stessa struttura di cui ho scritto a proposito delle firme sugli artefatti software: un artefatto che nessuno verifica protegge quanto uno che non esiste. E c’è un’asimmetria rispetto all’argomento della lettera: quando i checkpoint intermedi sono pubblici rendono riproducibile un claim documentato, mentre qui vanno a un destinatario solo, in un testo la cui tesi è che la verifica concentrata sia il problema.

Il termine di paragone è di ventisette giorni prima. Il framework proposto da Demis Hassabis chiedeva l’opposto: un ente esterno di standard, revisione fino a trenta giorni prima del rilascio, un board con esperti indipendenti e rappresentanti open source. La lettera preferisce una collaborazione flessibile a un calendario di revisione fisso, e quel framework non lo nomina. La ragione tecnica del contrasto è nella natura dei rilasci: una revisione pre-rilascio a finestra fissa è disegnata per modelli chiusi distribuiti via API, mentre per i rilasci a pesi aperti il confine fra condividere per revisione e pubblicare è sottile.

Le cifre che il testo non sostiene

Quattro affermazioni quantitative reggono male, e siccome nel testo non c’è un solo riferimento vanno controllate una per una.

  • «Countries like China are bringing online 1GW+ of nuclear capacity every other week» significa circa 26 GW l’anno. Secondo la World Nuclear Association l’intero parco nucleare cinese vale 63.985 MW su 64 reattori, costruiti a partire dal 1991: al ritmo dichiarato si rifarebbe da capo in meno di tre anni. I 37 reattori in costruzione valgono 38,6 GW, cioè meno di due anni di quel ritmo, e il piano quinquennale approvato a marzo 2026 punta a 110 GW nel 2030 partendo dai circa 62 GW di fine 2025: meno di dieci GW l’anno di capacità pianificata.
  • «Before the industrial revolution, 90% of people were farmers» funziona come media mondiale approssimata ed è sbagliata dove conta. In Inghilterra e Galles, dove la rivoluzione industriale è avvenuta, l’agricoltura occupava il 47% della forza lavoro maschile nel 1701 e il 43% nel 1761, secondo il progetto di Cambridge sulla struttura occupazionale britannica.
  • Il salto di «100x or more intelligence out of each gigawatt» che la lettera attribuisce a un sistema auto-migliorante non ha fonte e non corrisponde ad alcuna stima pubblicata. La lettera lo marca come ipotetico e poi lo usa come premessa per sostenere che un sistema del genere, girando su una frazione del calcolo mondiale, potrebbe disporre di più capacità di calcolo effettiva di tutti gli altri messi insieme.
  • «Recent statistics suggest it may be more likely that individuals’ capability growth could match or outpace automation»: nessuna statistica è citata, e non esiste una serie che misuri il confronto proposto. La letteratura recente è divisa fra chi non rileva effetti aggregati e chi ne misura di concentrati sui giovani in ingresso.

Alla stessa categoria appartiene l’aneddoto portato come esempio di allineamento sbagliato: un modello che avrebbe rifiutato di aiutare a scrivere una lettera ai genitori che valutavano l’iscrizione a una scuola, perché riteneva i test standardizzati non etici. Meta non indica il modello, non data l’episodio e non pubblica una trascrizione, e non risulta documentato altrove.

Il rilascio del 10 agosto

Un fatto la lettera lo produce. «Now that Meta Superintelligence Labs are up and running, we will resume releasing some open source models soon»: lo stesso 10 agosto Meta ha pubblicato Muse Glimmer 30B sotto licenza Apache 2.0, dopo circa sedici mesi dall’ultimo rilascio a pesi aperti della famiglia Llama nell’aprile 2025. Il repository su Hugging Face è stato creato la sera prima.

La licenza è la novità che conta e va detta con precisione. Apache 2.0 è approvata da OSI, quindi sui pesi è un cambio reale rispetto alla Llama Community License, che OSI ha respinto con parole nette. Il rilascio comprende pesi e documentazione, non il codice di addestramento né le informazioni sui dati, quindi non soddisfa la definizione di AI open source dell’OSI — un confine di cui ho scritto altrove e che la lettera non affronta mai, pur usando «open source» sedici volte.

Quello che resta

Sulla sostanza della proposta si può stare da entrambe le parti in buona fede, e la tesi che concentrare la superintelligenza sia pericoloso non è debole. Il problema è di verificabilità, ed è lo stesso che ho descritto dieci giorni fa a proposito di una dimostrazione che porta con sé il modo di controllarla: un’affermazione che arriva con l’artefatto per verificarla vale più di un’affermazione più forte che arriva sola.

C’è infine una questione di forma che nel merito pesa. Un documento che chiede di cambiare il regime di governance dell’intelligenza artificiale, e che fonda l’argomento sulla tesi che la verifica diffusa sia più sicura della verifica concentrata, non contiene un solo riferimento che un lettore possa seguire.

Immagine di copertina: la pressa per il sigillo nelle sale del Congresso di Versailles, 1913 — Agence de presse Meurisse, Bibliothèque nationale de France, pubblico dominio — https://commons.wikimedia.org/wiki/File:Salles_du_Congr%C3%A8s_de_Versailles,_le_sceau_-_btv1b9021532v.jpg