Un rapporto di intelligence costruito con l’aiuto dell’intelligenza artificiale ha portato l’esercito degli Stati Uniti a un passo dall’abbordaggio armato di una nave cinese in Medio Oriente, sulla base di un’informazione rivelatasi del tutto sbagliata. Il documento sosteneva che l’imbarcazione trasportasse componenti destinati a un programma di armi nucleari ed è circolato tra i comandi militari la scorsa primavera, nel pieno della guerra contro l’Iran. A ricostruire la vicenda è stata la CNN, che ha raccolto le testimonianze di quattro fonti a conoscenza dei fatti.
Come un chatbot di intelligenza artificiale ha sbagliato il carico della nave cinese
La macchina militare si è messa in moto quasi subito, con militari armati pronti a salire a bordo e aerei già decollati secondo quanto riferito da due coppie distinte di fonti.
L’operazione si è fermata soltanto all’ultimo momento, quando i funzionari hanno deciso di esaminare più a fondo il rapporto e hanno scoperto che era stato preparato da un analista del Comando per le operazioni speciali con l’aiuto di un chatbot, il quale aveva identificato in modo errato il materiale presente a bordo. L’analista aveva interrogato lo strumento su alcune informazioni relative al manifesto di carico, provenienti dal Comando per le operazioni speciali del Pacifico con sede alle Hawaii. Il sistema ha incrociato fonti aperte con intelligence dei segnali classificata, conservata negli archivi governativi, fino ad arrivare alla conclusione sbagliata sul contenuto della stiva. In un passaggio successivo la stessa persona ha usato ancora l’intelligenza artificiale per dare ai risultati la forma di un rapporto standard, il genere di documento su cui i vertici militari fanno abitualmente affidamento, prima di diffonderlo lungo la catena di comando. Quale fosse davvero il carico della nave la CNN non è riuscita a stabilirlo.
Una delle fonti ha definito il rapporto «completamente falso», aggiungendo che per poco non ha scatenato una guerra. Un’azione americana contro un’imbarcazione cinese, infatti, avrebbe potuto trasformarsi in uno scontro armato tra Washington e Pechino, con conseguenze difficili da contenere.
Cosa prevede la strategia del Pentagono sull’AI
Resta ignoto se il chatbot fosse un prodotto commerciale o uno strumento sviluppato per il governo. Un ex alto funzionario statunitense che conosce i sistemi in uso tra militari e analisti ha descritto quelli interni come copie dei prodotti in commercio appena ritoccate in superficie, mentre il Pentagono e il comando del Pacifico hanno lasciato senza risposta le richieste di commento. L’episodio si colloca dentro una spinta generalizzata a portare l’intelligenza artificiale in quasi ogni ambito del lavoro militare e di intelligence, dall’analisi delle enormi quantità di dati grezzi raccolti dagli Stati Uniti fino alla selezione degli obiettivi da colpire. Le applicazioni arrivano anche ad attività di routine come la gestione dei bilanci e delle catene di approvvigionamento. L’amministrazione giustifica la corsa con la velocità, perché l’IA aiuterebbe a decidere prima quali bersagli attaccare e dove spostare le risorse, un vantaggio che Washington ritiene di non poter concedere alla Cina o a un altro avversario.
A gennaio il segretario alla Difesa Pete Hegseth ha presentato la strategia di accelerazione sull’intelligenza artificiale del dipartimento, con la promessa di abbattere le barriere burocratiche. Il memorandum che la accompagnava puntava a mettere i modelli più avanzati nelle mani dei tre milioni di dipendenti civili e militari, a ogni livello di classificazione.
I rischi dell’AI nel targeting militare
Diversi funzionari descrivono un’adozione frammentata, in cui ogni ramo dell’apparato usa strumenti differenti con ordini e standard di sicurezza propri, senza un insieme comune di regole per verificare le informazioni prodotte da questi sistemi, per cui l’affidabilità cambia molto da un ufficio all’altro. A Washington il dibattito si concentra da settimane sugli avvertimenti lanciati da ingegneri e amministratori delegati della Silicon Valley su un’intelligenza artificiale capace di sfuggire al controllo umano. Il caso della nave porta alla luce un pericolo più vicino, quello di persone che prendono decisioni gravissime sulla base di dati inesatti generati da una macchina. Secondo una fonte vicina alle attuali politiche militari, l’uso dell’IA nella scelta dei bersagli è in rapida crescita, mentre mancano indicazioni concrete su come la presenza di un essere umano nel processo possa evitare vittime civili o episodi di fuoco amico.
Allucinazioni simili si sono già ripetute nella comunità dell’intelligence da quando questi strumenti si sono diffusi negli uffici governativi, ha riferito una delle fonti. Alcuni funzionari di lungo corso, anche tra i favorevoli all’IA, segnalano la pressione crescente per produrre rapporti in tempi sempre più stretti. «L’IA ti permette di arrivare prima a una cattiva idea», ha detto una fonte. Gli analisti più giovani, cresciuti con questi strumenti, tendono secondo diverse testimonianze a fidarsi dei risultati senza metterli in discussione.
