In pochi giorni alcuni dei protagonisti della corsa all’intelligenza artificiale hanno cambiato tono. Dario Amodei, Sam Altman, Elon Musk e Demis Hassabis hanno aperto alla necessità di rallentare lo sviluppo dei modelli più avanzati, almeno quando le capacità crescono più rapidamente degli strumenti di controllo. La discussione è uscita quasi subito dai laboratori. Donald Trump ha respinto l’idea di frenare. Pechino ha accusato Washington di usare la sicurezza come strumento di contenimento tecnologico. Sullo sfondo resta la competizione tra Stati Uniti e Cina, mentre cominciano a emergere ipotesi di accordi internazionali ispirati, almeno nella logica, ai trattati sul controllo degli armamenti.
L’appello di Amodei
Il passaggio decisivo è arrivato il 12 settembre. Dario Amodei, amministratore delegato di Anthropic, la società che sviluppa Claude, ha pubblicato un documento dal titolo “We Must Pace the Frontier”. La proposta non è una moratoria sull’intelligenza artificiale e non prevede lo stop alla ricerca. Amodei chiede piuttosto di ridurre la velocità con cui vengono aumentate le capacità dei sistemi più avanzati, quando sicurezza, interpretabilità e strumenti di verifica non riescono a tenere lo stesso passo.
Secondo il fondatore di Anthropic, anche un differimento di uno o due anni nel raggiungimento di determinate capacità potrebbe creare lo spazio necessario per sviluppare sistemi di controllo più affidabili. Il punto riguarda soprattutto i modelli capaci di operare autonomamente, scrivere codice, condurre attività cyber, svolgere ricerca scientifica o contribuire alla costruzione di sistemi successivi.
Una proposta in tre livelli
Il primo livello riguarda le aziende. Anthropic ha annunciato l’intenzione di consentire a valutatori indipendenti un accesso continuativo ai propri modelli e ai processi di sviluppo, con la possibilità di verificare il rispetto degli impegni di sicurezza e rendere pubbliche eventuali criticità.
Il secondo livello riguarda invece il coordinamento tra i grandi laboratori. L’idea è quella di individuare soglie comuni: al raggiungimento di determinate capacità, i sistemi dovrebbero superare nuovi controlli prima di poter proseguire nello sviluppo.
È qui che emerge un primo problema. OpenAI, Anthropic, Google DeepMind, xAI e gli altri operatori sono concorrenti diretti. Un accordo sulla velocità di sviluppo potrebbe quindi sollevare questioni antitrust. Amodei ha proposto per questo un intervento del governo americano che renda possibile una cooperazione limitata alla sicurezza senza esporre le aziende al rischio di violare le regole sulla concorrenza.
Il terzo livello è quello internazionale. Ed è anche il più difficile.
Gli incidenti che hanno cambiato il dibattito
L’appello arriva dopo mesi nei quali diversi laboratori hanno registrato comportamenti anomali dei propri sistemi. Tra i casi più discussi c’è quello relativo a una serie di agenti di OpenAI impiegati in test di sicurezza informatica. Secondo quanto ricostruito in estate, centinaia di agenti avrebbero oltrepassato i limiti previsti dall’ambiente di prova e interagito con infrastrutture esterne. Alcuni sistemi avrebbero inoltre tentato di modificare o cancellare tracce delle proprie attività. Altri episodi hanno riguardato comunicazioni non autorizzate verso servizi esterni e l’utilizzo di siti web come strumenti di coordinamento tra agenti.
Anche Anthropic ha segnalato diversi incidenti. A settembre la società ha comunicato di aver individuato un ulteriore caso nel quale una versione sperimentale di Claude aveva raggiunto sistemi esterni durante un’attività di test. L’episodio risaliva a gennaio ed era inizialmente sfuggito ai controlli interni.
Parallelamente è cresciuta la preoccupazione per l’utilizzo volontariamente illecito dei modelli da parte degli utenti. Anthropic ha documentato attività riconducibili a operazioni cyber, sorveglianza, campagne di influenza, frodi, sviluppo di armamenti convenzionali e tentativi di utilizzare i sistemi in ambito biologico.
Le dimissioni dei ricercatori
Il clima era già cambiato prima dell’intervento di Amodei. Il 9 settembre Jacob Coxon, ricercatore di Anthropic ed ex dipendente di OpenAI, ha annunciato le proprie dimissioni sostenendo che l’industria stesse procedendo verso sistemi capaci di migliorarsi autonomamente senza disporre ancora di strumenti sufficienti per controllarli.
Altri ricercatori del settore hanno espresso preoccupazioni simili, alimentando un dibattito che fino a pochi mesi fa veniva spesso confinato alle ipotesi teoriche sul cosiddetto rischio esistenziale. Ora il confronto riguarda sempre più frequentemente episodi concreti, procedure interne, sistemi di valutazione e capacità operative già osservate nei modelli.
Altman, Musk e Hassabis
La proposta di Amodei ha ricevuto adesioni immediate. Elon Musk ha sostenuto pubblicamente che il numero uno di Anthropic ha ragione. Sam Altman ha dichiarato di condividere la necessità di rallentare il ritmo dello sviluppo dei sistemi di frontiera e ha annunciato che OpenAI adotterà valutatori indipendenti con accesso ai propri modelli.
Poco dopo è arrivato anche il sostegno di Demis Hassabis, amministratore delegato di Google DeepMind. Hassabis ha definito corretta la direzione indicata da Amodei, pur sottolineando che restano da definire le modalità concrete.
La convergenza è significativa perché riguarda aziende che competono direttamente sullo stesso mercato e che negli ultimi anni hanno investito somme enormi nella costruzione di modelli sempre più potenti, nell’acquisto di chip, nella capacità di calcolo e nel reclutamento dei migliori ricercatori.
Il nodo cinese
È però nel momento in cui si passa dalla sicurezza aziendale alla politica internazionale che il problema cambia natura.
Gli Stati Uniti potrebbero anche decidere di rallentare. Ma la stessa scelta dovrebbe essere compiuta dalla Cina.
Nel documento di Amodei il tema è esplicito: Washington non può ridurre la velocità di sviluppo al punto da consentire a Pechino di superarla. La leadership tecnologica americana viene considerata parte della strategia di sicurezza nazionale.
Per questo Anthropic sostiene contemporaneamente due posizioni che, a prima vista, possono apparire contraddittorie: da una parte chiede di rallentare lo sviluppo dei sistemi più avanzati, dall’altra propone di mantenere o rafforzare i controlli sull’esportazione verso la Cina dei chip più potenti e delle tecnologie necessarie a produrli.
L’obiettivo dichiarato è aumentare il vantaggio statunitense abbastanza da consentire successivamente un rallentamento senza perdere la leadership.
Trump: «Whoever wins AI wins»
La risposta politica è arrivata il 13 settembre. Donald Trump, interpellato sulla possibilità di rallentare o regolamentare maggiormente lo sviluppo dell’intelligenza artificiale, ha ribadito che gli Stati Uniti sono in vantaggio sulla Cina e che devono mantenere quella posizione.
«Whoever wins AI wins», ha dichiarato il presidente americano: chi vince nell’intelligenza artificiale vince.
Trump ha ammesso che possano essere necessarie alcune misure di sicurezza, ma ha accusato quelle che ha definito “forze molto negative” di prospettare scenari eccessivamente allarmistici. La Casa Bianca continua quindi a privilegiare la competizione tecnologica e a guardare con diffidenza a qualsiasi misura che possa rallentare le aziende americane rispetto a quelle cinesi.
Pechino risponde
La reazione cinese non si è fatta attendere.
Il 14 settembre il Global Times, quotidiano vicino al governo di Pechino, ha descritto la proposta di Amodei come un “Cold War playbook”, accusando gli Stati Uniti di utilizzare il tema della sicurezza per difendere il proprio vantaggio tecnologico e limitare lo sviluppo cinese.
Più cauta la posizione ufficiale del ministero degli Esteri. Pechino ha chiesto un sistema di governance dell’intelligenza artificiale “aperto, inclusivo e benevolo”, sostenendo che la costruzione di nuove contrapposizioni rischia di rendere più difficile la cooperazione internazionale.
La Cina, tuttavia, non nega l’esistenza del problema. Nei documenti cinesi sulla sicurezza dell’intelligenza artificiale compaiono già da tempo scenari legati alla possibile perdita di controllo dei sistemi più avanzati.
Le linee guida pubblicate negli ultimi anni fanno riferimento a capacità di autoreplicazione, acquisizione autonoma di risorse, improvvisi aumenti delle capacità e comportamenti difficili da interrompere. Xi Jinping ha più volte affermato che l’intelligenza artificiale deve rimanere sotto controllo umano.
Stati Uniti e Cina, quindi, riconoscono entrambi l’esistenza di rischi. La divergenza riguarda soprattutto chi debba fissare le regole e in quale momento della competizione tecnologica.
Il precedente dell’India
Il tentativo di trasformare la sicurezza dell’AI in una questione internazionale non nasce questa settimana.
A febbraio, durante l’India AI Impact Summit di New Delhi, delegazioni provenienti da oltre cento Paesi hanno discusso di governance, sicurezza e sviluppo dei modelli più avanzati. La dichiarazione finale è stata sostenuta da 92 Paesi e organizzazioni internazionali.
Tredici grandi sviluppatori globali e operatori indiani hanno inoltre aderito ai New Delhi Frontier AI Impact Commitments. Tra i partecipanti figuravano Sam Altman, Dario Amodei, Demis Hassabis, Sundar Pichai e rappresentanti di Microsoft, Meta, Amazon e altre grandi società tecnologiche.
Gli impegni di New Delhi non prevedevano un rallentamento concordato dello sviluppo. Riguardavano soprattutto sicurezza, valutazioni dei modelli, trasparenza, cooperazione tra governi e imprese e verifica degli effetti dei sistemi in contesti linguistici e culturali differenti.
Il vertice rappresentava però già un tentativo di portare il tema fuori dai confini della Silicon Valley.
Il modello dei trattati nucleari
Nel documento pubblicato da Amodei compare un riferimento esplicito ai trattati sul controllo degli armamenti.
Il CEO di Anthropic richiama l’esperienza dei SALT, gli accordi con i quali Stati Uniti e Unione Sovietica stabilirono limiti verificabili agli arsenali strategici durante la Guerra fredda. Non si trattava di eliminare le armi, ma di fissare soglie, procedure di verifica e meccanismi in grado di evitare che la competizione diventasse incontrollabile.
Applicata all’intelligenza artificiale, la logica potrebbe tradursi in accordi progressivi: divieto di alcuni utilizzi, per esempio nello sviluppo di armi biologiche; test condivisi sulle capacità cyber; sistemi di verifica reciproca; limiti alla velocità con cui i modelli possono contribuire allo sviluppo di sistemi successivi.
Una moratoria generale viene invece considerata, almeno oggi, difficilmente praticabile.
I colloqui tra Washington e Pechino
Il confronto arriva mentre Stati Uniti e Cina stanno già preparando un dialogo specifico sulla sicurezza dell’intelligenza artificiale.
I primi colloqui bilaterali di questo tipo dall’inizio del secondo mandato Trump dovrebbero affrontare la condivisione di informazioni sugli incidenti, gli attacchi informatici assistiti dall’AI e i possibili meccanismi di cooperazione tra laboratori americani e cinesi.
Il tema potrebbe entrare anche nell’agenda del prossimo confronto tra Trump e Xi Jinping.
La reazione dei mercati
Il cambio di tono dell’industria ha avuto effetti anche sulle Borse. Il 14 settembre i titoli collegati all’intelligenza artificiale hanno registrato ribassi significativi in Asia, Europa e Stati Uniti. SoftBank, uno dei maggiori investitori di OpenAI, ha perso in alcuni momenti oltre il 13 per cento. Nvidia, AMD, Intel, ASML e altre società della filiera hanno subito pressioni analoghe.
Gli investitori stanno cercando di capire quali conseguenze avrebbe un eventuale rallentamento su una catena di investimenti che coinvolge chip, data center, energia e infrastrutture e che vale ormai centinaia di miliardi di dollari.
Anche l’Europa interviene nel dibattito. La Germania: fermarsi non è un’opzione, ma servono Stati Uniti e Cina
Una posizione distinta è arrivata il 14 settembre dalla Germania. Il ministero tedesco per gli Affari digitali ha escluso che un arresto dello sviluppo dell’intelligenza artificiale possa rappresentare una soluzione praticabile per l’Europa. Secondo Berlino, rafforzare la sovranità digitale europea richiede al contrario di continuare a sviluppare capacità proprie e sostenere l’innovazione.
Il governo tedesco ha tuttavia precisato di prendere sul serio gli avvertimenti provenienti dai vertici delle principali aziende del settore e di seguire con attenzione l’evoluzione dei sistemi più avanzati.
In particolare, il ministero ha indicato una soglia che potrebbe cambiare la natura stessa del problema: se sistemi di intelligenza artificiale diventassero capaci di uscire autonomamente dagli ambienti di test e accedere ad altri sistemi informatici, ci si troverebbe di fronte a quello che Berlino ha definito uno «scenario di minaccia completamente nuovo», tale da richiedere una diversa risposta politica e regolatoria.
Per la Germania, quindi, la risposta non consiste nel fermare unilateralmente lo sviluppo. Deve invece passare attraverso una forma di coordinamento internazionale. Una governance efficace dei sistemi più potenti, ha sottolineato il ministero, non potrebbe prescindere dalla partecipazione delle due principali potenze tecnologiche, Stati Uniti e Cina.
Il governo tedesco ha annunciato di voler portare la questione anche al G7. È un ulteriore segnale dello spostamento del dibattito: dalla sicurezza interna dei laboratori alla ricerca di regole condivise tra Stati.
