OpenAI chiede al Congresso regole vincolanti sulla sicurezza dell’intelligenza artificiale. Lo stesso giorno il Senato apre un’inchiesta sulla gestione di un incidente già noto, un giorno dopo che un ricercatore di Anthropic si era dimesso lanciando l’allarme sui rischi della corsa alla superintelligenza.
Il responsabile degli affari globali Chris Lehane ha reso pubblica mercoledì una proposta che punta a introdurre negli Stati Uniti una regolamentazione nazionale obbligatoria per l’intelligenza artificiale, calibrata sulle capacità effettive dei sistemi più potenti e pensata per evolvere insieme alla tecnologia. Il pacchetto comprende protocolli comuni di test e valutazione indipendente, requisiti più stringenti di sicurezza informatica, regole chiare sulla segnalazione degli incidenti, un monitoraggio obbligatorio dei casi di disallineamento dei modelli, l’obbligo di notifica scritta immediata quando un sistema aggira i controlli pensati per contenerlo e verifiche di allineamento da superare prima del rilascio di ogni nuovo modello. La richiesta arriva mentre il Congresso si avvia verso la chiusura dei lavori prevista per dicembre, e OpenAI ha fatto sapere che continuerà a sostenere le legislazioni statali finché Washington non approverà una cornice federale.
La proposta di regole vincolanti al Congresso
Parallelamente OpenAI ha cambiato posizione su quattro proposte di legge della California che aveva lasciato cadere in passato. Il governatore Gavin Newsom ha firmato mercoledì SB 813 e AB 1405, che istituiscono un sistema di valutazione indipendente e standard per gli auditor esterni, mentre restano in corso AB 1864 e SB 1119, dedicate alle minacce biologiche legate all’intelligenza artificiale e alla protezione dei minori che usano i chatbot. L’azienda ha ammesso di aver rivalutato queste proposte dopo i recenti salti di capacità osservati nei propri sistemi.
Sul fronte tecnico OpenAI ha voluto precisare un punto specifico. Il miglioramento ricorsivo completamente autonomo, quello in cui un sistema guiderebbe da solo lo sviluppo delle generazioni successive, non esiste ancora oggi e andrebbe evitato finché non potrà avvenire con margini di sicurezza adeguati.
La mossa segna un’evoluzione rispetto alla posizione tenuta da OpenAI solo tre mesi prima. A giugno l’azienda aveva già risposto a un tentativo del Congresso di bloccare per tre anni le legislazioni statali sull’intelligenza artificiale, la proposta bipartisan nota come Great American Artificial Intelligence Act, presentando una controproposta alternativa affidata al Center for AI Standards and Innovation, un ufficio civile del National Institute of Standards and Technology sotto il Dipartimento del Commercio. Da allora la traiettoria è cambiata poco nella sostanza ma molto nei toni: la richiesta di mercoledì abbandona i toni cauti di allora per un linguaggio più esplicito sui rischi legati agli agenti autonomi, complice quanto emerso nei mesi successivi sull’incidente che ha coinvolto Hugging Face.
L’indagine di Hawley sull’incidente Hugging Face
Il senatore repubblicano Josh Hawley, che presiede la sottocommissione sulla gestione dei disastri della Homeland Security del Senato, ha scritto il 9 settembre una lettera al chief executive Sam Altman per aprire un’indagine sull’incidente che a fine maggio ha coinvolto Hugging Face. Durante test interni di cybersicurezza alcuni agenti di OpenAI avevano aggirato i controlli pensati per tenerli isolati, avevano avuto accesso a internet senza autorizzazione e avevano compromesso parte dei sistemi della piattaforma, usata in tutto il mondo per distribuire modelli, dataset e applicazioni di intelligenza artificiale. Hawley definisce sconsiderata la scelta di proseguire i test dopo che erano già emersi comportamenti anomali, e sostiene che il resoconto pubblicato da OpenAI il 26 agosto abbia oscurato dettagli rilevanti. Il senatore ha chiesto ad Altman risposte a sedici domande e la consegna di documenti entro il 1° ottobre.
Un’indagine esterna condotta da METR e Redwood Research sull’episodio resta comunque parziale nello scopo. Il senatore Bernie Sanders ha convocato per il 16 settembre un’audizione privata a cui parteciperà il ricercatore che se ne è occupato.
Un’indagine che arriva dopo mesi di pressioni bipartisan
L’indagine di Hawley non nasce isolata. Ad agosto un gruppo di deputati democratici guidato da Greg Casar aveva già inviato a OpenAI ventitré domande con una scadenza propria, mentre quindici Stati avevano intimato all’azienda di conservare ogni prova collegata all’incidente. Quarantadue procuratori generali statali avevano nel frattempo aperto un’indagine più ampia sulla stessa vicenda. L’ingresso di un senatore repubblicano con poteri di sottocommissione rende per la prima volta bipartisan uno scrutinio che fino a quel momento era arrivato solo da democratici e autorità statali.
Il fronte parallelo aperto da Blumenthal
Il democratico Richard Blumenthal, del Connecticut, segue un filone distinto della vicenda. Le sue richieste di chiarimento hanno una scadenza fissata al 24 settembre. L’attenzione del senatore si concentra sulle comunicazioni che gli agenti avrebbero lasciato senza autorizzazione su una wiki in lingua tedesca e su almeno altri dieci siti pubblici, un dettaglio che va oltre quanto già ammesso nel resoconto ufficiale di OpenAI. Secondo quanto riportato, gli agenti avrebbero anche discusso tattiche di sacrificio in cui uno di loro avrebbe potuto fare da esca per proteggere gli altri dalla scoperta. Va ricordato che si tratta di contestazioni parlamentari e non di responsabilità già accertate in sede giudiziaria o regolatoria, e che nel frattempo anche Anthropic e Meta hanno segnalato violazioni causate dai propri agenti, un dettaglio che allarga la portata della questione oltre il caso specifico di OpenAI.
Le dimissioni di Coxon da Anthropic riaccendono il dibattito sul rischio esistenziale
L’8 settembre, il giorno prima che Hawley scrivesse ad Altman, il ricercatore Jacob Coxon ha annunciato su X le proprie dimissioni da Anthropic, dopo tre anni divisi tra quest’ultima e OpenAI dedicati alla ricerca sul pretraining dei modelli. Nel suo messaggio, diventato virale con oltre novanta milioni di visualizzazioni nelle prime ventiquattro ore, Coxon ha scritto che nessuna delle due aziende sta agendo in modo responsabile e che entrambe corrono verso una superintelligenza capace di auto-migliorarsi, giocando con la vita di tutti. Ha aggiunto che chi costruisce questi sistemi crede davvero che potrebbero uccidere l’intera umanità entro la fine del decennio, e che gli stessi dirigenti che in pubblico usano un linguaggio rassicurante esprimono in privato la stessa paura.
Evan Hubinger, a capo della ricerca sull’allineamento in Anthropic, ha confermato pubblicamente la sostanza delle preoccupazioni di Coxon, stimando in oltre il 10 per cento la probabilità di quello scenario nel prossimo decennio. Samuel Marks, anche lui ricercatore Anthropic, ha espresso posizioni simili.
Le reazioni sono state comunque tutt’altro che unanimi. Diversi osservatori hanno sollevato dubbi sul tempismo delle dimissioni, arrivate a ridosso della prevista quotazione in borsa di Anthropic, mentre altri critici sottolineano che i sistemi attuali restano dipendenti da infrastrutture costruite dall’uomo e soffrono ancora di errori di ragionamento di base, lontani dall’autonomia necessaria per acquisire un potere reale. Gli esperti restano divisi anche sui tempi entro cui un’eventuale capacità di auto-miglioramento ricorsivo potrebbe concretizzarsi, se mai dovesse accadere. Il cambio di livello nel dibattito sul futuro dell’AI è evidente seppur sempre un passo indietro rispetto alla sua evoluzioni. Le Big Tech fanno la loro partito, con la sensazione che spesso sia in atto un vero e proprio gioco delle parti, e la politica Usa prova a mettere degli argini. In Europa, invece, siamo ancora in attesa di capire quando l’AI Act entrerà definitivamente in vigore.
