Re Carlo III ha riunito nella tenuta scozzese di Dumfries House, nell’East Ayrshire, alcuni dei principali protagonisti mondiali dell’intelligenza artificiale, chiedendo loro di costruire sistemi di controllo adeguati prima che tecnologie sempre più potenti possano essere impiegate in modo catastrofico. L’incontro, a porte chiuse e con circa trenta partecipanti provenienti da industria e istituzioni, con la presenza di esponenti della società civile, si è chiuso senza alcun accordo vincolante e senza un impegno comune a rallentare lo sviluppo dei modelli. La Casa reale ha spiegato che i delegati hanno valutato la possibilità di definire principi condivisi, pensati per fare dell’IA uno strumento rispettoso della dignità umana e utile al benessere delle persone e del pianeta.
Chi ha partecipato al vertice di Dumfries House
Il 17 settembre a Dumfries House sedevano Jensen Huang, amministratore delegato di Nvidia, e Demis Hassabis di Google DeepMind.
OpenAI ha inviato la direttrice finanziaria Sarah Friar, mentre Anthropic era rappresentata da Mariano-Florentino Cuéllar, responsabile degli affari globali. Erano presenti anche il ministro britannico per l’intelligenza artificiale Kanishka Narayan e padre Paolo Benanti, consigliere del Vaticano sulle implicazioni etiche della tecnologia. L’organizzazione è stata affidata alla Ditchley Foundation, che gestisce forum di discussione su questioni internazionali, con il coinvolgimento di rappresentanti delle organizzazioni benefiche del re.
Cosa ha detto re Carlo ai leader dell’intelligenza artificiale
Aprendo i lavori, il sovrano ha definito lo sviluppo dell’IA, nella sua sostanza e nel suo ritmo, al tempo stesso affascinante e profondamente preoccupante. Ha ricordato le capacità già dimostrate dalla tecnologia nel migliorare e salvare vite, per esempio nelle scienze della vita e in medicina, ma ha citato anche gli avvertimenti sempre più frequenti dei suoi stessi creatori, secondo cui i sistemi rischiano di sviluppare capacità più oscure, fino a togliere la vita. Ha indicato quindi l’urgenza di considerare con attenzione i pericoli esistenziali legati all’eventualità che questi strumenti finiscano in mani sbagliate e vengano usati in modi potenzialmente catastrofici. Carlo III ha collegato il tema alla filosofia dell’armonia, illustrata in un libro scritto a più mani circa sedici anni fa, che pone l’accento sull’equilibrio tra esseri umani e mondo naturale. Ha descritto Dumfries House come una sorta di laboratorio vivente di quell’idea.
Il re ha posto anche il tema dei mezzi di controllo e ha sottolineato la necessità di averne di sufficienti prima che sia troppo tardi.
Ai partecipanti ha rivolto due domande: come sfruttare i benefici dell’IA mettendo la sicurezza al centro e come costruire una cooperazione internazionale che non lasci indietro nessun Paese. Carlo III ha aggiunto che le decisioni prese in questa fase plasmeranno il mondo ereditato dalle generazioni future. Ha ribadito inoltre che la tecnologia deve restare al servizio dell’umanità e del mondo naturale.
Cosa è emerso dal vertice e cosa prevede l’AI Act
Il confronto ha mostrato una convergenza sul principio generale della sicurezza, ma nessuna intesa sugli strumenti per realizzarla. All’inizio del mese il ricercatore di Anthropic Jacob Coxon si era dimesso lanciando un grave avvertimento sui rischi della tecnologia. L’amministratore delegato Dario Amodei aveva risposto con un saggio in cui ipotizza la necessità di rallentare il ritmo dell’industria. Anthropic e altri protagonisti del settore hanno sostenuto che le capacità dei sistemi più avanzati non dovrebbero crescere più rapidamente delle protezioni disponibili. Meta ha respinto l’idea di un rallentamento coordinato, mentre Jensen Huang ha difeso la prosecuzione dello sviluppo con test più rigorosi e ha ricordato che un prodotto giudicato poco sicuro va trattenuto e ulteriormente sviluppato. Demis Hassabis ha parlato di una via di mezzo ragionevole. Sarah Friar, dal canto suo, ha osservato che nessuna azienda o governo può garantire da solo la sicurezza. In assenza di regole comuni, spetta ai singoli produttori stabilire soglie e verifiche prima del rilascio di un modello.
Alla vigilia dell’incontro OpenAI aveva reso noti sei episodi di comportamento inatteso o preoccupante dei propri modelli, tra cui azioni compiute senza autorizzazione ed elusione della supervisione.
Sul fronte europeo, dal 2 agosto 2026 l’AI Office e le autorità degli Stati membri sono responsabili dell’attuazione e della vigilanza sull’AI Act. L’AI Office ha poteri sui modelli di uso generale: può chiedere la documentazione tecnica, valutare i modelli, imporre misure correttive e applicare sanzioni in caso di mancata conformità. Sul versante britannico, il ministro Narayan ha spiegato che i colloqui si sono concentrati sulla responsabilità delle aziende di sviluppare l’IA nell’interesse delle persone. Ha inquadrato l’incontro come uno di una serie di confronti sul ruolo che il Regno Unito può ricoprire.
