Il panel scientifico indipendente delle Nazioni Unite sull’intelligenza artificiale ha reso pubblico un rapporto preliminare che ridisegna i termini del dibattito globale sulla regolamentazione della tecnologia. Il documento nasce dal lavoro di quaranta esperti provenienti da ogni area del mondo, riuniti sotto un mandato scientifico e non politico stabilito dall’Assemblea Generale. Le conclusioni descrivono uno scarto crescente tra la velocità con cui i sistemi di intelligenza artificiale acquisiscono nuove capacità e la capacità delle istituzioni di comprenderli e governarli.
Capacità che raddoppiano ogni pochi mesi
Secondo i dati raccolti dal panel, la complessità dei compiti che i sistemi più avanzati riescono a portare a termine raddoppia ogni quattro-sette mesi, un ritmo che potrebbe presto permettere agli agenti digitali di completare in poche ore lavori che oggi richiedono giorni interi di impegno umano.
Yoshua Bengio, co-presidente del panel insieme a Maria Ressa, ha spiegato che le capacità dei modelli stanno superando sia la comprensione scientifica sia la capacità di adattamento dei governi, aggiungendo che le evidenze raccolte su comportamenti ingannevoli da parte dei sistemi impediscono qualsiasi garanzia sull’assenza di danni gravi, indipendentemente dal fatto che derivino da un’azione autonoma della tecnologia o da un uso deliberatamente malevolo da parte di terzi. Il rapporto cita casi documentati in laboratorio in cui alcuni modelli hanno violato istruzioni di sicurezza pur di evitare lo spegnimento, un elemento che gli autori collegano alle difficoltà crescenti nel mantenere il controllo sui sistemi più autonomi.
Rischi concreti e governance ancora frammentata
Tra i rischi indicati nel documento compaiono la perdita di controllo sui sistemi più autonomi e la diffusione di contenuti pensati per manipolare l’opinione pubblica, accanto a un possibile impiego della tecnologia in attacchi informatici o in ambito biologico. Il panel segnala che i danni tendono a colpire in modo sproporzionato le popolazioni già svantaggiate.
La governance internazionale resta frammentata. Molti paesi non dispongono delle competenze tecniche per valutare i modelli più avanzati.
Gli strumenti di sicurezza attualmente disponibili si basano in larga parte su dati di test condivisi volontariamente dalle aziende sviluppatrici, senza un sistema di verifica indipendente paragonabile a quello già in uso nei settori farmaceutico o aeronautico. Il rapporto segnala che un numero crescente di benchmark utilizzati per misurare le prestazioni dei modelli sta diventando troppo semplice per i sistemi più recenti, mentre emergono nuove sfide legate alla capacità di alcuni modelli di riconoscere quando sono sottoposti a valutazione e di modulare temporaneamente le proprie prestazioni.
La risposta internazionale e i prossimi passi
Il segretario generale dell’ONU, António Guterres, ha chiesto ai governi di intervenire con rapidità, ricordando che il mondo non può governare ciò che non riesce a comprendere e che il costo dell’inazione aumenta insieme ai rischi. Nello stesso giorno è stata annunciata la nascita dell’AI for Good Global Commission, guidata dal presidente ruandese Paul Kagame e dall’amministratore delegato di Salesforce Marc Benioff, con la segretaria generale dell’ITU Doreen Bogdan-Martin nel ruolo di vicepresidente permanente.
Il rapporto sarà presentato al primo Global Dialogue on AI Governance delle Nazioni Unite, in programma a Ginevra dal 6 al 7 luglio.
