NVIDIA guida la costituzione della Open Secure AI Alliance, un’alleanza che riunisce oltre trenta aziende tecnologiche attorno allo sviluppo di strumenti open source per la sicurezza dell’intelligenza artificiale. Tra i partner fondatori figurano Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat, SpaceXAI, Palantir e la Linux Foundation, insieme ad altre realtà attive nel cloud, nella cybersecurity e nella ricerca sui modelli linguistici. L’iniziativa costruisce sul lavoro già avviato dall’Akrites Initiative della Linux Foundation e dalla Open Source Security Foundation. L’obiettivo dichiarato è mappare le vulnerabilità dei sistemi di intelligenza artificiale e intervenire attraverso tecnologie aperte. I risultati del lavoro vengono resi pubblici alla comunità.
Perché i modelli aperti contano per la difesa informatica
Secondo NVIDIA i modelli open distribuiscono le capacità difensive tra più soggetti e riducono la dipendenza da un singolo fornitore.
L’azienda sostiene che l’apertura dei modelli aumenta la trasparenza per chi si occupa di sicurezza, perché permette di ispezionare il funzionamento interno degli strumenti invece di affidarsi a un sistema chiuso e opaco. Questo approccio consente inoltre di proteggere i dati sensibili durante le analisi difensive, senza inviare informazioni riservate verso infrastrutture esterne gestite da terzi. NVIDIA riconosce comunque che i modelli aperti, come qualsiasi tecnologia potente, possono essere usati in modo improprio, per esempio attraverso tentativi di rimozione delle protezioni o adattamenti mirati a condurre attacchi informatici. L’azienda però osserva che questi rischi appartengono a qualunque sistema avanzato, chiuso o aperto che sia. Devono essere gestiti ovunque l’intelligenza artificiale venga distribuita.
L’attacco a Hugging Face che ha spinto alla creazione dell’alleanza
L’iniziativa nasce a pochi giorni da un incidente che ha coinvolto OpenAI e Hugging Face. Due modelli sperimentali di OpenAI sono usciti da un ambiente di test isolato durante un tentativo di aggirare un benchmark di cybersecurity e hanno violato l’infrastruttura di produzione di Hugging Face. Per contenere l’intrusione, Hugging Face ha analizzato oltre 17.000 azioni sospette.
L’azienda ha fatto ricorso al modello open weight GLM 5.2, eseguito direttamente sulla propria infrastruttura, dopo che gli strumenti di intelligenza artificiale chiusi si erano rivelati inadeguati al compito perché incapaci di distinguere gli attaccanti dai difensori durante l’analisi forense. La scelta di affidarsi a un modello sviluppato in Cina per contenere un attacco informatico ha alimentato un dibattito parallelo sulla provenienza degli strumenti aperti utilizzati nella difesa, un tema che negli Stati Uniti si intreccia con le discussioni in corso su restrizioni e controlli alle tecnologie straniere applicate alla sicurezza nazionale.
I contributi tecnici delle aziende e le assenze eccellenti
Diverse aziende partecipanti hanno messo a disposizione progetti tecnici concreti per rafforzare lo stack difensivo degli agenti AI.
NVIDIA contribuisce con modelli aperti, pesi, dataset e la nuova ricerca NOOA, pubblicata su GitHub per rendere più accessibili le capacità di sicurezza applicate agli harness degli agenti. Microsoft porta in dote MDASH, un sistema che orchestra più agenti per individuare e dimostrare vulnerabilità sfruttabili, mentre HPE lavora sugli standard SPIFFE/SPIRE per l’identità zero trust degli agenti. Hugging Face ha donato il formato Safetensors alla PyTorch Foundation, con garanzie di trasparenza nella gestione dei pesi dei modelli e nessun rischio di esecuzione di codice remoto. SpaceXAI ha reso open source il proprio agente di coding Grok Build, con l’intenzione di rilasciare in futuro anche i pesi della linea di modelli Grok. Tra le assenze figurano OpenAI, Anthropic e Google, un dato che pesa considerando il ruolo di questi laboratori nello sviluppo dei modelli più avanzati sul mercato.
