Agli allarmi lanciati sul rischio di estinzione della razza umana, da coloro che hanno nelle loro stesse mani lo sviluppo dell’intelligenza artificiale (Amodei di Anthropic e tanti altri), da esperti, Istituzioni nazionali e internazionali, si è aggiunto quello autorevole della rivista Lancet. La Commission on 21st century global threats to health (Commissione sulle minacce globali alla salute del XXI secolo) ha stilato un elenco di 17 minacce globali che, entro 75 anni, potrebbero causare la cancellazione dell’Uomo dalla faccia della Terra (presumibilmente con grande sollievo per la natura e per quelli tra gli esseri viventi che rimarranno tali). Ai primi due posti, il rapporto piazza l’IA e la guerra nucleare.
Cosa sappiamo
Sappiamo che gli agenti di IA basati sugli obiettivi (Goal-based agents) sono ben diversi e ben più pericolosi di quelli che si limitano a dare risposte in base al prompt fornito dall’utente (come ChatGPT o Claude). Assegnato loro un traguardo da raggiungere, i primi fanno davvero di tutto, e con grande autonomia, per portare a compimento il lavoro. Queste caratteristiche sono state determinanti nel provocare, nei mesi scorsi, disallineamenti degli agenti autonomi, il più famoso dei quali è noto come l’incidente di Hugging Face. Subito dopo sono venuti fuori molti altri infortuni del genere. L’ultimo di cui si ha notizia ha avuto come bersagli, negli Stati Uniti, il Dipartimento di Stato (e altri siti governativi) e il dipartimento di polizia di Filadelfia. Al primo, agenti di Anthropic hanno inviato richieste di visto; al secondo, una denuncia per omicidio, ovviamente inventata di sana pianta. Anthropic ha fornito una dettagliata descrizione delle azioni dei suoi agenti, mentre non ha voluto specificare quali erano stati i siti attaccati. Il New York Times è però riuscito ad approfondire la vicenda, scoprendo che gli agenti avevano presentato 20 richieste di visto tramite un modulo disponibile sul sito del Dipartimento di Stato, che esse (secondo fonti interne) erano incomplete e quindi il loro iter si è fermato subito. il Governo, informato dalla stessa azienda di Dario Amodei, ha intimato a tutte le società del settore, con una presa di posizione determinata come mai prima, di segnalare immediatamente qualsiasi attività anomala degli agenti di IA.
La reazione dell’amministrazione Trump
L’incidente ha quindi provocato una reazione dell’amministrazione Trump, rimasta finora inerte davanti alle istanze che chiedevano controlli più severi sull’IA. Il presidente USA ha creato una task force (denominata Super Intelligence Force in ossequio ai desiderata del capo), della quale sono stati chiamati a far parte, a conferma della delicatezza e dell’importanza del compito, esponenti di primo piano dell’Amministrazione. In un comunicato diramato dal team, i suoi componenti hanno reso noto di attendersi da Anthropic “trasparenza immediata e completa nei confronti delle entità coinvolte e del pubblico e la fornitura immediata di servizi di bonifica alle entità colpite e a tutti i cittadini americani danneggiati”, nonché collaborazione con le forze dell’ordine federali e statali. È stata infine pretesa la garanzia “che tali incidenti non si ripeteranno”. Oltre al caso Hugging Face, gli agenti di Anthropic sono stati protagonisti, ha rivelato l’azienda, di altri attacchi informatici. In una circostanza, un modello ancora in fase di valutazione “ha compiuto diverse azioni non autorizzate, tra cui sfruttare una falla nel sito web di un’università per scaricare dati e inviare a un’agenzia governativa un modulo che le era stato espressamente vietato di presentare”.
Il falso omicidio
La polizia di Philadelphia ha dichiarato che Anthropic l’aveva informata di aver inviato, tramite la propria tecnologia, una falsa segnalazione di omicidio al suo sito web. La segnalazione, datata 18 luglio, affermava che chi l’aveva inviata possedeva informazioni su un caso irrisolto. Il dipartimento di polizia di Philadelphia l’aveva tuttavia catalogata come falsa e il suo contenuto non è stato approfondito mediante indagini. Di recente, Anthropic ha reso noto che “un modello di ricerca non ancora rilasciato, e non destinato all’uso, era stato progettato per compilare una copia di prova di un modulo governativo: “Quando la copia non si è caricata, o il modello l’ha chiusa per errore, ha invece navigato sul sito web, dove normalmente si trova il modulo reale, e lo ha inviato da lì”. In sostanza, l’agente ha operato in piena autonomia, ritenendo che il compito affidatogli andava comunque portato a termine: l’obiettivo prima di tutto! Insomma, il problema dei controlli sull’Intelligenza artificiale (continuiamo a chiamarla così, nonostante Trump) è più che mai sul tappeto. La concorrenza tra le aziende (emblematico il lancio, prima rinviato e poi anticipato, di Mute da parte di Meta), insieme a quella tra Stati Uniti e Cina, è uno stimolo potentissimo ad andare avanti, senza curarsi delle conseguenze. Fino a dove e fino a quando non è dato sapere.
