Rendere l’intelligenza artificiale misurabile, confrontabile e tracciabile. Questo è l’obiettivo che Pechino si è data con il nuovo framework nazionale di valutazione dell’AI, pubblicato congiuntamente dalla State Administration for Market Regulation e dalla National Development and Reform Commission. Il documento introduce uno standard unificato che abbraccia tre dimensioni distinte, i modelli algoritmici, le infrastrutture di calcolo e la qualità dei dati utilizzati in fase di addestramento costruendo per la prima volta un sistema di misurazione comune applicabile all’intera filiera tecnologica. Sullo sfondo, una competizione globale sempre più esplicita in cui l’AI è ormai considerata da Pechino un asset strategico di primo piano, tanto per la crescita economica interna quanto per il confronto con gli Stati Uniti sul piano tecnologico.
Il problema della scatola nera e la risposta regolatoria
Il cuore del provvedimento riguarda un limite strutturale che accomuna sistemi AI sviluppati in ogni parte del mondo: l’opacità dei processi decisionali automatizzati, comunemente descritta con l’espressione “scatola nera”. Quando un algoritmo elabora dati e produce un risultato, gli utenti e spesso anche gli stessi operatori tecnici non sono in grado di ricostruire il percorso logico che ha portato a quella conclusione. Il framework chiede esplicitamente lo sviluppo di strumenti capaci di aprire, almeno parzialmente, questa scatola, rendendo il funzionamento interno dei modelli più leggibile e verificabile.
La SAMR ha sintetizzato l’obiettivo in termini precisi: promuovere l’adozione di standard di misurazione affidabili, sicuri e degni di fiducia per l’intelligenza artificiale, in modo che le prestazioni dei sistemi possano essere valutate con criteri omogenei. Un’ambizione che richiede soluzioni tecniche ancora in parte da costruire, ma che indica con chiarezza la direzione in cui il governo intende muoversi. Parallelamente, il documento identifica un ostacolo concreto che rallenta la transizione dal laboratorio all’industria: le imprecisioni nei metodi di misurazione e la scarsità di dati disponibili in determinati contesti applicativi, due fattori che limitano la capacità di trasferire i risultati della ricerca verso ambienti produttivi reali.
Il provvedimento si affianca a una serie di interventi regolativi già adottati negli ultimi anni, dagli obblighi di registrazione degli algoritmi di raccomandazione alle misure sulla AI generativa entrate in vigore nell’estate del 2023, costruendo un quadro normativo che Pechino presenta come alternativa al modello europeo basato sulla classificazione del rischio.
Bias algoritmici e sicurezza dei dati al centro del dibattito interno
L’adozione del framework riflette anche una pressione crescente all’interno del sistema cinese sui rischi associati all’uso massiccio dell’intelligenza artificiale. Le preoccupazioni legate al bias algoritmico come la tendenza dei modelli a riprodurre o amplificare discriminazioni presenti nei dati di addestramento e quelle relative alla sicurezza dei dati circolano con frequenza crescente nel dibattito tecnico e istituzionale cinese.
Ricercatori di aziende come DeepSeek e Alibaba hanno già invocato pubblicamente una maggiore trasparenza nel framework regolatorio domestico, segnalando che il sistema attuale di pre-registrazione dei modelli risulta opaco per gli stessi sviluppatori. Il nuovo documento non risolve queste tensioni, ma le riconosce e prova a costruire attorno ad esse un’architettura di valutazione condivisa, che includa strumenti di monitoraggio esterni e meccanismi per rendere confrontabili le performance tra sistemi diversi.
Quanto questa architettura sarà effettivamente praticabile dipenderà dalla qualità degli strumenti tecnici che verranno sviluppati nei prossimi mesi e dalla disponibilità delle aziende a sottoporsi a verifiche indipendenti.
