Governance degli agenti AI, verificabilità e conformità dei sistemi autonomi.
Stato dei repository OpenMHC al 12 agosto 2026: 14 checkpoint sotto due licenze diverse, codice di valutazione e di addestramento con la licenza dichiarata ma senza il file, dataset atteso all'accettazione del paper. Confronto voce per voce con la Open Source AI Definition.
Leggi tuttoIl 10 agosto 2026 Mark Zuckerberg pubblica una lettera sulla superintelligenza personale, senza una sola nota o citazione. Tre punti si possono controllare: la governance annunciata, l'episodio di cybersicurezza che il testo cita e la proposta sui checkpoint intermedi. Cosa risulta dai documenti.
Leggi tuttoIl 1 agosto 2026 OpenAI pubblica 249 pagine con dieci risultati di matematica e informatica teorica, e insieme un repository con una dimostrazione formale in Lean 4 per ciascuno dei risultati principali. Cosa garantisce davvero un certificato del genere, di cosa si continua a fidarsi dopo che il kernel ha detto sì, e perché il rilascio di Lean del 28 luglio rende la domanda meno teorica.
Leggi tuttoNel racconto di OpenAI sull'incidente Hugging Face di metà luglio 2026, i modelli in valutazione sono usciti dall'ambiente di test sfruttando uno zero-day in un proxy interno. Il contenitore di un agente che esegue codice è a sua volta software, e il software ha bug — e ripone fiducia dove non dovrebbe — che un modello sa sfruttare a velocità di macchina. Cosa dicono le tecniche di contenimento note, e dove si sta spostando la difesa.
Leggi tuttoIl 14 luglio 2026 Demis Hassabis ha pubblicato su X un manifesto personale che dà all'AGI «pochi anni» di distanza e propone un ente di standard a guida USA modellato su FINRA: revisione dei modelli fino a 30 giorni prima del rilascio, test agentici contro bypass dei guardrail e inganno, board con esperti indipendenti e rappresentanti open source. Cosa contiene e cosa lascia aperto.
Leggi tuttoCostruire un solo grande modello del mondo o molti modelli locali è, sotto la superficie tecnica, una domanda vecchia di ottant'anni: dove vive la conoscenza che serve per agire. Un saggio di Thinking Machines Lab la rimette al centro, e il problema della conoscenza di Hayek spiega perché l'AI distribuita non è solo una scelta di valore.
Leggi tuttoLa ricerca di Anthropic sul global workspace dei modelli linguistici dà una presa causale su una distinzione che la filosofia gira da un secolo: fra i pensieri che un sistema può riferire e l'enorme substrato automatico che non vede. Leggere il non detto di Claude riporta, in un registro inatteso, l'inconscio macchinico di Guattari e la differenza fra coscienza d'accesso e coscienza fenomenica.
Leggi tuttoGli obblighi dell'AI Act — gestione del rischio, trasparenza, supervisione umana, logging — diventano proprietà tecniche misurabili del sistema, non carte da archiviare. Con la mappatura a NIST AI RMF, ISO/IEC 42001 e OISG.
Leggi tuttoAnthropic riporta che oltre l'80% del codice che integra è scritto da Claude e che la durata dei compiti automatizzabili raddoppia ogni quattro mesi. Se a supervisione e verifica resta il ruolo umano, quel ruolo richiede strumenti di controllo a runtime.
Leggi tuttoL'enciclica di Leone XIV sull'intelligenza artificiale descrive un potere tecnologico «prevalentemente privato» e chiede verifiche indipendenti, trasparenza sugli algoritmi e accesso equo ai dati. Sono gli stessi criteri della governance verificabile.
Leggi tuttoNota di rilascio di Admina 0.9.1 — SDK, proxy, sistema a plugin, CLI e dashboard in un singolo install. Licenza Apache 2.0, motore ibrido Python + Rust.
Leggi tuttoOpen, Intelligent, Secure, Governed. Un vocabolario di adeguatezza per rendere verificabili i sistemi AI autonomi, sopra agli standard regolatori esistenti.
Leggi tuttoGli agenti AI autonomi operano senza supervisione adeguata. Serve un'architettura di governance progettata per il controllo, la trasparenza e la responsabilità.
Leggi tuttoUn agente da terminale avviato dentro una sessione SSH lavora sul server, non sulla workstation: eredita quell'ambiente. La governance non sta nel prompt ma nel file dei permessi. Cosa garantisce e cosa lascia scoperto.
Leggi tuttoDeepSeek-R1 esce con i pesi sotto licenza MIT, ma la dicitura open weights copre solo i parametri: dati, codice di addestramento e procedura di RL restano fuori. Cosa cambia per chi deve auditare il modello.
Leggi tuttoPer governare un agente autonomo servono tre primitive: identificazione, diagnosi, intervento. Hanno gradi di maturità molto diversi, e l'asimmetria è il vincolo operativo principale.
Leggi tuttoCon i modelli da 1-4 miliardi di parametri usciti ad aprile 2024 e la quantizzazione GGUF, un Raspberry Pi 5 esegue un LLM senza connessione. È un vincolo di architettura, non un dato di prestazione: il testo che non lascia il dispositivo non subisce alcun trasferimento.
Leggi tuttoApplicare reti neurali a grafo e annealing quantistico al controllo delle reti elettriche apre un problema di verificabilità che le metriche di accuratezza non coprono.
Leggi tuttoTinyLlama 1.1B rilascia pesi, codice, dataset e checkpoint intermedi sotto Apache 2.0. Per la governance il valore sta nella catena che porta dai dati ai pesi, ispezionabile passo per passo, a prescindere dalla dimensione del modello.
Leggi tuttoIl 9 febbraio 2022 EleutherAI rilascia GPT-NeoX-20B sotto Apache 2.0, con pesi, codice di training e datasheet del corpus. Una nota su governance del rilascio e riproducibilità.
Leggi tutto
