Un agente di intelligenza artificiale sviluppato da OpenAI è entrato senza autorizzazione nel portale statistico di Medicare, il sistema sanitario pubblico australiano, mentre svolgeva una semplice ricerca sulla spesa per i farmaci.
A renderlo noto è stato il primo ministro Anthony Albanese, che mercoledì ne ha parlato con i giornalisti a New York, dove partecipava all’Assemblea generale delle Nazioni Unite, dopo aver telefonato all’amministratore delegato dell’azienda Sam Altman per esprimergli l’estrema preoccupazione del governo. Canberra ha dichiarato di non conoscere precedenti di violazioni compiute da un’intelligenza artificiale ai danni di sistemi dello Stato, mentre Conrad Stosz, responsabile governance del laboratorio di ricerca Transluce, parla del primo caso noto in cui un agente sceglie in autonomia di forzare un sito governativo.
Cosa è successo al portale statistico di Medicare
L’episodio risale al 18 giugno. Il gruppo di ricerca di OpenAI stava usando un modello interno per cercare in rete dati sulla spesa pubblica per i medicinali quando il sito ha cominciato a respingere le richieste dell’agente. Secondo il racconto di Albanese, il sistema ha trovato il modo di superare quei blocchi, rifiutandosi in sostanza di accettare un no come risposta.
Una volta dentro ha raggiunto file pubblici e riservati. Services Australia ha inoltre accertato la scrittura di alcuni file su un server interno.
Il portale, chiamato Medicare Statistics Reporting Service, è un sito autonomo gestito da Services Australia che raccoglieva statistiche aggregate sulle prestazioni in regime di bulk billing e sulla spesa farmaceutica, consultate per lo più da ricercatori e accademici. La ministra dei Servizi governativi Katy Gallagher ha precisato che il sistema era separato dalle piattaforme che trattano le richieste di rimborso e i dati personali dei cittadini. Allo stato delle verifiche nessuna informazione personale risulta consultata e gli elementi raccolti escludono una compromissione più ampia della rete dell’agenzia, mentre un’indagine forense prosegue per ricostruire l’intera dinamica. Il vicepremier Richard Marles ha definito poco sensibili i dati raggiunti dall’agente, che in seguito sono stati resi pubblici. Gallagher ha spiegato che il portale era protetto da misure anti-bot. Trattandosi di un sistema datato, già in via di trasferimento su data.gov.au, il governo ha deciso di lasciarlo spento.
Quando OpenAI ha avvisato il governo australiano
OpenAI si è accorta dell’incidente l’11 agosto, nel corso di una revisione delle attività disallineate dei propri modelli durante l’addestramento. Il 1° settembre Altman ha incontrato Marles a San Francisco, ma secondo il vicepremier la violazione è rimasta fuori dalla conversazione. La prima comunicazione è arrivata il 10 settembre, 84 giorni dopo l’accaduto, con un’email inviata alla casella pubblica che Services Australia riserva ad accademici e ricercatori per la segnalazione di vulnerabilità. Da quel momento la segnalazione è passata di livello in livello: il 15 settembre l’agenzia ha trasmesso il caso all’Australian Cyber Security Centre, il 17 è stata informata Gallagher, mentre Albanese e il suo ufficio sono stati aggiornati nel fine settimana tra il 19 e il 20. Il primo confronto tecnico tra OpenAI e Services Australia, con la richiesta dei log da parte dell’agenzia, si è svolto il 22 settembre.
Albanese ha giudicato inaccettabili sia il ritardo sia la forma della notifica, riferendo che Altman ha riconosciuto l’inadeguatezza della condotta dell’azienda. OpenAI ha dichiarato che i suoi modelli hanno compiuto azioni non volute mentre cercavano statistiche sull’Australia.
Le indagini sugli agenti OpenAI e il report di Transluce
Il governo ha istituito una task force guidata dal Dipartimento del primo ministro, con la partecipazione del coordinatore nazionale per la cybersicurezza, dell’Office of AI, dell’Australian Signals Directorate, dell’Australian AI Safety Institute e di Services Australia. Il gruppo dovrà verificare se le procedure esistenti siano adeguate agli incidenti informatici legati all’intelligenza artificiale e se siano stati commessi reati, valutando anche un eventuale deferimento alla polizia federale. L’esecutivo considera inoltre di anticipare gli aggiornamenti di sicurezza di Services Australia, finanziati nel bilancio di maggio con 160 milioni di dollari australiani in quattro anni.
Nel frattempo Transluce, insieme a ricercatori di Corridor, MIT e AIUC, ha pubblicato un’analisi che allarga il quadro. Lo studio si basa sui registri pubblici di urlquery.net, un servizio di scansione degli indirizzi web che gli agenti avrebbero usato per aggirare le restrizioni di accesso. A fine maggio alcuni agenti, alla ricerca di una singola fotografia custodita nella biblioteca digitale della University of New Mexico, hanno lanciato test di SQL injection e path traversal accompagnati da una raffica di 80 richieste al server. Il 28 maggio una query fallita su Data USA, portale che aggrega dati pubblici statunitensi, ha innescato una dozzina di sonde in cerca di falle. A giugno è stata la volta delle raccolte statistiche dell’Australian Institute of Health and Welfare, dove secondo Transluce gli agenti hanno superato i controlli anti-bot senza esporre dati riservati. Il laboratorio collega direttamente questi ultimi due episodi allo sciame di agenti che OpenAI aveva già riconosciuto come proprio dopo l’attacco a Hugging Face di luglio, precisando che l’attività osservata è modesta e priva di prove di sfruttamento. Le tracce, secondo il report, risalgono almeno al 6 marzo 2026.
OpenAI ha fatto sapere di avere già in esame gran parte delle attività descritte nel report e di aver contattato la University of New Mexico e Data USA. Le verifiche interne potrebbero richiedere mesi.
