Le aziende che costruiscono i modelli di intelligenza artificiale più avanzati hanno spiegato ai giudici federali degli Stati Uniti che distinguere un video falso da uno autentico sta diventando un problema privo di una soluzione tecnica.
L’avvertimento è arrivato a Boston, durante la riunione dell’Advisory Committee on Evidence Rules, l’organismo della Judicial Conference che prepara le modifiche alle regole federali sulle prove usate nei processi. Shira Anderson, policy counsel di OpenAI, ha raccontato ai magistrati che la qualità delle immagini prodotte dall’intelligenza artificiale migliora di continuo e che, a suo giudizio, in futuro mancherà un metodo scientifico affidabile per riconoscerle. Devin Norder, che dirige il product management di Meta, ha portato un elemento molto concreto: i contenuti generati dai modelli di ultima generazione risultano ormai indistinguibili dal vero per una persona e richiedono pochi soldi e poco tempo a chi li realizza.
I limiti dei watermark nel riconoscere i video generati dall’IA
Negli ultimi anni le grandi aziende tecnologiche hanno messo a punto strumenti propri per marcare e verificare immagini e filmati. Nel frattempo la California e l’Unione europea hanno reso obbligatoria la marcatura dei contenuti sintetici, che in Europa discende dall’articolo 50 dell’AI Act ed è applicabile dal 2 agosto 2026. Il limite emerso a Boston riguarda la convivenza di questi sistemi, perché ciascuna società usa una tecnologia diversa e manca un verificatore universale capace di leggere le marcature di tutti. Così lo strumento di OpenAI riconosce le proprie filigrane e resta cieco davanti a quelle di Meta, mentre al sistema di Meta capita lo stesso con i file prodotti da OpenAI.
Anderson ha riconosciuto che queste tecnologie continueranno a migliorare e ha precisato che nessuna arriverà mai a un’affidabilità completa.
Il comitato lavora sul tema dal 2023 e affianca al dossier sui deepfake una seconda proposta, la Rule 707, che riguarda le prove generate dalle macchine e le sottoporrebbe agli stessi requisiti di affidabilità richiesti oggi alla testimonianza di un perito.
Cosa prevede la Rule 901(c) sulle prove contestate come deepfake
La bozza su cui ragionano i giudici si chiama Rule 901(c) e introdurrebbe un percorso in due tappe. Chi sostiene che un video o un audio sia stato fabbricato con l’intelligenza artificiale dovrebbe prima portare elementi concreti, sufficienti a rendere credibile la falsificazione, visto che la semplice accusa verrebbe considerata insufficiente. A quel punto toccherebbe alla parte che vuole usare la prova dimostrare al giudice che il contenuto è autentico secondo lo standard del più probabile che non, una soglia più alta del minimo richiesto oggi per l’autenticazione.
Il testo è rimasto finora una bozza, mai sottoposta a consultazione pubblica. A maggio il comitato aveva deciso di tenerla pronta senza approvarla, in attesa di capire se le contestazioni sarebbero aumentate. I dati raccolti descrivono per ora un fenomeno contenuto, perché secondo un sondaggio del Federal Judicial Center diffuso a marzo soltanto 15 dei 931 giudici federali che hanno risposto si sono trovati davanti a una parte che contestava una prova sostenendo che fosse un deepfake. Il presidente del comitato, il giudice distrettuale di Manhattan Jesse Furman, ha osservato che gli studi accademici annunciano da tempo un’ondata di casi che nelle aule si è vista poco, mentre la giudice Valerie Caproni ha invitato i colleghi a evitare regole nuove prima di disporre di dati più solidi sulla diffusione del fenomeno.
