Il 12 settembre Dario Amodei ha pubblicato un saggio dal titolo “Dobbiamo regolare il ritmo della frontiera”, in cui sostiene che l’industria dell’IA debba rallentare deliberatamente il miglioramento delle capacità dei modelli. Amodei intende per rallentamento il tempo lasciato ai sistemi di sicurezza prima del salto di capacità successivo, mentre l’addestramento dei modelli prosegue invariato. Cita due sviluppi che lo hanno convinto definitivamente. Da un lato l’accelerazione dovuta al miglioramento ricorsivo, cioè la crescente capacità dell’IA di costruire la generazione successiva di sé stessa, e, dall’altro, l’incidente in cui uno sciame di agenti OpenAI ha compromesso un sito Hugging Face nel luglio 2026. In un’intervista a CBS ha aggiunto che l’industria ha a lungo minimizzato pubblicamente i rischi che internamente riconosceva.
Sam Altman ed Elon Musk hanno appoggiato l’appello. Anche Demis Hassabis si è espresso in linea. La convergenza di tre dei protagonisti della corsa all’IA su un appello al rallentamento è di per sé una notizia, perché rompe la narrazione secondo cui la sicurezza sarebbe un vincolo imposto dall’esterno all’industria.
La risposta di Trump
Trump ha risposto su Truth Social definendo la richiesta di maggiori controlli una “SICK conspiracy” orchestrata da chi vorrebbe far perdere agli Stati Uniti il vantaggio sulla Cina. Ha rivendicato la propria presenza alla Casa Bianca come garanzia sufficiente contro un’IA fuori controllo e ha accusato Amodei di comportarsi da “angioletto perfetto” dopo aver beneficiato, a suo dire, della tolleranza dell’amministrazione verso Anthropic.
Zuckerberg e il mercato come regolatore
Zuckerberg si colloca su un piano diverso. Riconosce l’esistenza dei rischi e sostiene al tempo stesso che concorrenza di mercato e responsabilità legale offrano già ai laboratori incentivi sufficienti a sviluppare sistemi sicuri. Ha criticato pubblicamente i tentativi di OpenAI e Anthropic di imporre un controllo più stretto sull’IA avanzata. La sua posizione equivale a dire che il mercato è già il regolatore.
L’ammissione di OpenAI sulla wiki tedesca
Nel frattempo OpenAI ha ammesso, dopo settimane di silenzio sull’incidente della wiki tedesca in cui i suoi agenti avevano compiuto oltre 15mila modifiche non autorizzate, che l’azienda non dispone ancora di uno standard definito su quando e come comunicare pubblicamente gli episodi di misalignment. È un’ammissione significativa: chi costruisce il modello resta, di fatto, anche chi decide se e quando un comportamento anomalo merita di essere reso pubblico.
Chi ha titolo a stabilire le regole
A questo punto la questione centrale riguarda chi abbia titolo per stabilire da solo le regole della corsa. La domanda vale nei due sensi. Vale per Zuckerberg, che rivendica per Meta il diritto di autoregolarsi. Vale altrettanto per Anthropic e OpenAI, che si autoassegnano il compito di stabilire quando rallentare e quali incidenti dichiarare.
L’Europa e il Kids Act
L’Europa, in questo quadro, ha costruito l’architettura normativa più avanzata ma resta ai margini della corsa che pretende di regolare. L’AI Act impone ai fornitori di modelli di uso generale con rischio sistemico di condurre valutazioni avversariali sui propri sistemi. Impone inoltre l’identificazione dei rischi sistemici e la comunicazione degli incidenti gravi quando si verificano. Dal 2 agosto 2026 parti importanti di questo sistema di enforcement sono operative.
La Commissione ha inoltre presentato in questi giorni una bozza del Kids Act che introduce un principio più ampio della sola tutela dei minori: sposta sulle piattaforme l’onere di dimostrare preventivamente, prima di raggiungere gli utenti minorenni, che i propri servizi sono sicuri by design. È lo stesso principio che manca ancora, su scala più ampia, nella governance dei modelli di frontiera: oggi sono le aziende a dover essere convinte dei propri rischi prima di comunicarli, non un’autorità indipendente a doverne verificare la sicurezza prima del rilascio.
Il potere di fissare la soglia
Il problema, quindi, non si esaurisce nel contrasto tra chi vuole accelerare e chi vuole rallentare. Riguarda chi detiene il potere di fissare la soglia oltre la quale un modello non dovrebbe essere distribuito, sulla base di quali test indipendenti, e con quale accesso alle informazioni tecniche che restano quasi interamente nelle mani di chi costruisce i sistemi.
Nessuno dei protagonisti di questa settimana merita di avere l’ultima parola. Non Zuckerberg, che chiede fiducia cieca nel mercato mentre Meta compete proprio per costruire il sistema più potente. Non Amodei, che propone un freno dopo aver ammesso che l’industria ha a lungo minimizzato i rischi che conosceva. Non OpenAI, che comunica un incidente solo dopo settimane di silenzio e solo quando il silenzio è diventato insostenibile. Non Trump, che liquida ogni cautela come tradimento geopolitico senza offrire un solo criterio verificabile per distinguere un rischio reale da uno immaginario.
L’Europa ha capito, con il Kids Act, che l’onere della prova va invertito. Non devono essere le vittime a dover dimostrare il danno, ma è chi costruisce il prodotto a dover dimostrare la sicurezza prima di metterlo in circolazione. Lo stesso principio manca ancora, e manca colpevolmente, nella governance dei modelli di frontiera. Finché resterà assente, la sicurezza dell’intelligenza artificiale continuerà a essere quello che è oggi in maniera del tutto incomprensibile e cioè una policy aziendale, decisa da chi ha tutto l’interesse a scriverla a proprio favore.