Dario Amodei dorme poco. Lo dice lui stesso, con quella cadenza rallentata e quasi meditativa che ha perfezionato nelle ultime settimane, da quando Anthropic è diventata, per capitalizzazione e ricavi, la principale azienda di intelligenza artificiale al mondo. Dorme poco e usa una metafora della fisica relativistica per spiegare cosa significa guidare una compagnia che cresce più velocemente di qualunque pianificazione razionale possa anticipare: è come accelerare su un’astronave a velocità relativistica, dice, dove ogni giorno sulla Terra equivale a tre, quattro, cinque giorni vissuti dentro la nave. Il tempo si dilata. Le decisioni si accumulano. Il mondo cambia mentre cerchi di stare al passo con se stesso.
L’intervista da cui sono tratte queste parole dura oltre un’ora ed è stata rilasciata alla giornalista Emily Chang per Bloomberg in un momento in cui Anthropic occupa stabilmente le prime pagine: per il lancio di Claude Cowork, l’applicazione desktop che ha cancellato in una notte 285 miliardi di dollari di capitalizzazione dalle aziende software quotate in borsa; per Mythos, il modello di intelligenza artificiale così potente nella ricerca di vulnerabilità informatiche da essere trattenuto come se fosse materiale classificato; e per una serie di contratti con il Dipartimento della Difesa degli Stati Uniti che pongono domande scomode sull’effettivo perimetro etico di un’azienda che si definisce, da statuto, orientata al “beneficio a lungo termine dell’umanità”.
Quello che segue è un tentativo di leggere quella conversazione con attenzione. Non per demolire Amodei, che è una figura intellettualmente seria e che affronta domande difficili senza nascondersi. Ma perché alcune risposte, lette con calma, rivelano contraddizioni che meritano di essere nominate.
Il patriota e la scuola femminile
Partiamo dalla risposta di cui si parlerà di più. Bloomberg aveva riportato che Claude, il modello di punta di Anthropic, sarebbe stato utilizzato dall’esercito americano per operazioni di targeting in Iran attraverso la piattaforma Maven Smart System, sviluppata da Palantir. A febbraio, un missile americano aveva colpito una scuola femminile a Teheran, uccidendo più di 150 persone, la maggior parte bambini.
L’intervistatrice chiede: Claude ha avuto un ruolo in quell’attacco?
«Non abbiamo accesso a… non sappiamo esattamente come questi modelli siano stati utilizzati. Queste cose che succedono in guerra sono davvero, davvero terribili.»
Amodei non risponde. O meglio: risponde con la sintassi della risposta senza contenerne la sostanza. Dice che il principio del “meaningful human control” – la supervisione umana nella catena decisionale – è stato rispettato: un essere umano ha premuto il pulsante finale, Claude si è limitato ad assistere. Dice che se ci fosse stata un’intelligenza artificiale pienamente autonoma, senza supervisione umana, le cose sarebbero potute andare peggio. Dice che complessivamente, “on net”, l’uso dei modelli è positivo.
Poi aggiunge qualcosa che merita di essere citato per intero, perché è la frase più rivelatrice dell’intera conversazione. Quando l’intervistatrice gli chiede se sia a suo agio con il fatto che l’intelligenza artificiale permette all’esercito americano di passare da mille a cinquemila bersagli colpiti al giorno, Amodei risponde:
«Sono un patriota. Rendere gli Stati Uniti più efficaci militarmente non causa guerre. Le scoraggia.»
È una posizione legittima nel dibattito sulla deterrenza. Ma è anche una posizione specifica, carica di implicazioni geopolitiche, che un CEO di un’azienda tecnologica privata adotta in modo esplicito davanti a una telecamera. Amodei si definisce un patriota mentre la sua azienda ha contratti con il Dipartimento della Difesa, riceve finanziamenti da Amazon, Google e Microsoft, e ha precedentemente rifiutato di stringere certi accordi con il Pentagono per ragioni etiche. Il confine tra l’imprenditore, il patriota e il fornitore di tecnologia militare in questa risposta diventa molto sottile.
C’è anche un’altra questione, più tecnica ma ugualmente rilevante. Amodei sostiene che la scuola aveva un sito internet, che si poteva trovare su Google, e che un sistema di intelligenza artificiale avrebbe dovuto identificarla e segnalarla prima dell’attacco. Non dice che Claude l’ha fatto o che non l’ha fatto. Dice che non lo sa. Il che significa che l’azienda che ha costruito lo strumento non ha accesso alle informazioni su come quello strumento viene effettivamente usato nelle operazioni classificate. Non è una critica: è quasi inevitabile, data la natura dei contratti con le agenzie governative. Ma è, quantomeno, una trasparenza parziale che contraddice l’immagine di controllo assoluto che Anthropic proietta pubblicamente sulla propria catena di responsabilità.
Mythos, o il paradosso dell’arma che difende
Il secondo capitolo più controverso dell’intervista riguarda Mythos, il modello che Anthropic ha scelto di non rilasciare al pubblico perché ritenuto eccessivamente pericoloso per le sue capacità offensive in ambito di sicurezza informatica.
I numeri che Amodei cita sono concreti: Mythos ha identificato 271 vulnerabilità nuove nel browser Firefox. Ha trovato migliaia di vulnerabilità nei sistemi privati di aziende che lo hanno testato in via riservata. Le prime società che ne hanno visto le capacità hanno usato l’espressione “super weapon” e hanno chiesto esplicitamente ad Anthropic di non distribuirlo, paragonando la situazione alla necessità di un porto d’armi per accedervi.
Anthropic ha scelto di non rilasciarlo. Ma lo ha distribuito a un gruppo ristretto di “difensori” selezionati, con l’obiettivo di identificare e correggere le vulnerabilità prima che qualcun altro possa sfruttarle. La logica è quella della divulgazione responsabile, un principio consolidato nella cultura della cybersecurity: mostri il problema agli ingegneri prima di mostrarlo agli attaccanti.
Il problema è che Amodei stesso, nel corso dell’intervista, segnala la fragilità di questa strategia. Tra dodici mesi, dice, le stesse capacità di Mythos saranno probabilmente disponibili in modelli open source scaricabili gratuitamente. Il che pone una domanda senza risposta soddisfacente: se il contenimento ha un orizzonte temporale di un anno, il vantaggio che offre ai difensori è sufficiente a giustificare i rischi del periodo intermedio? Anthropic ritiene di sì. Alcune agenzie governative americane, con cui Amodei ha dichiarato di essere in contatto stretto, ritengono che il processo di apertura stia procedendo troppo velocemente. Non è chiaro chi abbia ragione. Quello che è chiaro è che la decisione è in mano a una società privata, che risponde ai suoi investitori e alla sua struttura di governance interna, non a un organo democratico eletto.
Amodei è consapevole di questa tensione. La affronta candidamente, evocando la necessità di checks and balances tra aziende private e governo, e citando la struttura di governance interna di Anthropic, il “Long Term Benefit Trust”, come un tentativo di introdurre elementi di accountability pubblica in un soggetto privato. È un argomento interessante. Resta da capire se una struttura autoreferenziale, per quanto ben progettata, possa davvero sostituire la legittimazione democratica.
Gli ingegneri di Anthropic
C’è un passaggio dell’intervista che ha ricevuto meno attenzione rispetto agli altri ma che è, probabilmente, il più denso di implicazioni pratiche per il dibattito sul lavoro e sull’occupazione. Amodei sta parlando di ciò che Anthropic sta vivendo internamente, non di proiezioni astratte sull’economia globale.
Dice che i software engineer di Anthropic sono diventati più produttivi grazie all’intelligenza artificiale. Fin qui, niente di sorprendente: è la narrativa dominante, quella che in genere viene usata per rassicurare chi teme la sostituzione dei lavoratori con le macchine. Ma poi aggiunge qualcosa di più preciso, e più inquietante:
«Stiamo già cominciando a vedere i primi casi in cui ci sono persone che l’IA non rende più produttive, ma per cui è meglio che l’IA faccia direttamente la cosa.»
È una distinzione sottile ma enorme. La narrativa della produttività aumentata presuppone che il lavoratore umano rimanga al centro del processo, con l’IA come strumento. Amodei sta descrivendo una fase successiva, in cui per alcune persone e alcune mansioni quella relazione si inverte: il lavoratore diventa superfluo, l’IA assume il compito in modo diretto. Questo non avviene in qualche ufficio generico di un’azienda manifatturiera. Avviene dentro Anthropic, nell’azienda che costruisce i modelli, tra i professionisti più qualificati e meglio pagati dell’industria tecnologica.
Amodei parla anche della risposta che Anthropic sta cercando di costruire: nuove figure professionali ibride, che mescolano competenze tecniche e relazione con i clienti, la cosiddetta “forward deployed engineer”. Ma ammette che la conversione non è uno a uno, che i percorsi di riadattamento sono imperfetti e che la scala della disruption sarà comunque significativa. Mantiene la sua stima originale: fino al cinquanta per cento dei lavori impiegatizi di livello base a rischio nei prossimi cinque anni. Dice di non essere sicuro di come finirà nel lungo periodo. Dice che questo è esattamente il motivo per cui bisogna parlarne adesso, mentre c’è ancora tempo per costruire politiche economiche adeguate.
È una posizione intellettualmente onesta. Ma contiene anche un’ironia difficile da ignorare: l’uomo che avverte della distruzione del lavoro è lo stesso che accelera, ogni giorno, i modelli che quella distruzione la rendono possibile. Amodei lo sa. Lo dice esplicitamente quando parla della tensione tra il modello di business e i valori dell’azienda. La sua risposta è che l’alternativa – non costruire questi modelli – lascerebbe il campo libero ad attori meno attenti. È l’argomento classico della responsabilità per differenza: meglio noi che altri. È un argomento che regge, almeno parzialmente. Ma non risolve la contraddizione, la gestisce.
La Cina e i chip
Amodei è tra le voci più nette nell’industria tecnologica americana quando si tratta di export control sui semiconduttori verso la Cina. Ha sostenuto pubblicamente restrizioni rigorose, ha dichiarato che Anthropic ha rinunciato a diverse centinaia di milioni di dollari tagliando l’accesso ai propri modelli per utenti cinesi, e nell’intervista torna sul tema con la stessa fermezza.
La sua posizione è coerente e argomentata: un primato cinese nell’intelligenza artificiale, combinato con l’architettura di sorveglianza di massa già esistente nel paese, produrrebbe secondo lui una “distopia in stile 1984 o peggio”. Vuole che l’intelligenza artificiale sia una tecnologia pro-democrazia. Vuole che i paesi democratici mantengano il vantaggio competitivo.
Il problema con questa posizione, che è anche la sua forza, è che presuppone una divisione netta tra democrazie e autoritarismi che la realtà geopolitica tende a complicare. Alcuni dei principali partner commerciali degli Stati Uniti nell’accesso all’intelligenza artificiale sono governi con storie di sorveglianza di massa, repressione del dissenso e violazioni documentate dei diritti civili. Amodei non menziona questo. Parla della Russia e della Cina. Parla di Taiwan. Il quadro che costruisce è ordinato. Il mondo reale lo è un po’ meno.
C’è poi la questione degli investitori. Amazon, Google, Microsoft e Nvidia finanziano Anthropic. Alcune di queste aziende hanno interessi commerciali significativi in Cina o sono coinvolte in controversie legate alla produzione di componenti in paesi con standard di lavoro molto diversi da quelli occidentali. Amodei dice che continua a esprimersi liberamente anche quando le sue posizioni contraddicono gli interessi dei suoi finanziatori. Cita l’esempio degli export control: i produttori di chip non sono d’accordo con lui, ma lui continua a dirlo. È possibile. Gli investitori di lungo periodo spesso tollerano posizioni pubbliche scomode dei loro CEO, purché i numeri reggano. I numeri di Anthropic, al momento, reggano.
La Silicon Valley e la maturità
Uno dei momenti più vivaci dell’intervista è quando Amodei attacca quella che chiama la “yo-yo reaction” della Silicon Valley: aziende e figure che prima si opponevano a qualsiasi forma di regolamentazione, definendola una minaccia all’innovazione, e che appena hanno percepito i primi segnali di pericolo reale sono passate all’estremo opposto, invocando la nazionalizzazione dell’intelligenza artificiale.
È una critica puntuale e condivisibile. Ma c’è un’ironia in chi la formula. Anthropic è nata da una scissione interna a OpenAI, motivata da quello che Amodei descrive come “inquietanti schemi di comportamento e disonestà” da parte della leadership di quella società. Nel corso degli anni ha coltivato un’immagine pubblica fondata sulla serietà, sulla ricerca di sicurezza, sul rifiuto dell’hype. Eppure è anche la stessa azienda che ha visto i propri ricavi crescere del trecento per cento in un trimestre, ha battuto OpenAI per capitalizzazione ed è oggi, per sua stessa ammissione, al centro dell’universo dell’intelligenza artificiale.
Amodei è severo con chi ragiona in termini di tre secondi, di clip virali, di semplificazioni. Lo dice esplicitamente, con un’irritazione che suona genuina: «È stupido. È poco serio. Quando qualcuno ragiona così, lo prendo meno sul serio.» Ha ragione. Il problema è che queste interviste, per quanto lunghe e articolate, diventano anch’esse oggetto di clip, di riassunti, di titoli. Il medium che critica è lo stesso che usa per comunicare. E ogni semplificazione, anche involontaria, produce il tipo di rumore che dice di voler combattere.
Il collasso della civiltà, in percentuale
Verso la fine dell’intervista, l’intervistatrice torna su una dichiarazione precedente di Amodei: quella stima, circolata ampiamente, secondo cui esiste una probabilità tra il dieci e il venticinque per cento che l’intelligenza artificiale causi il collasso della civiltà. Amodei non la smentisce. La contestualizza: dice che quella probabilità esiste indipendentemente da Anthropic, che è una caratteristica intrinseca della tecnologia, e che le azioni di Anthropic servono a ridurla, non ad aumentarla.
È un frame preciso e difendibile. Ma è anche, se ci si ferma a pensarci, una delle affermazioni più radicali che un CEO quotato – o quasi quotato – abbia mai rilasciato in un’intervista pubblica. Un quarto di probabilità di collasso della civiltà. Nel settore aeronautico, se il costruttore di un aereo dichiarasse una probabilità del venticinque per cento di crash, nessuno salirebbe a bordo. Amodei risponde a questa obiezione con la stessa franchezza: «Ha ragione, venticinque per cento è troppo alto. Stiamo cercando di abbassarlo.»
Il che lascia aperta una domanda che l’intervista non risolve: se la probabilità è davvero nell’ordine di grandezza che Amodei stesso cita, e se l’obiettivo è ridurla, la velocità con cui Anthropic sta sviluppando e distribuendo modelli sempre più potenti è compatibile con quell’obiettivo? Amodei crede di sì. Crede che rallentare o fermarsi lascerebbe il campo ad attori meno responsabili. È un argomento che sente il peso della realtà. Non è però un argomento che chiude la discussione.
L’uomo che scrive poco
C’è un passaggio quasi marginale nell’intervista, verso la fine, che rivela qualcosa di interessante su Amodei come persona. Parla del suo rapporto con la scrittura, che è una delle sue passioni dichiarate. Dice che usa Claude per fare ricerca, per organizzare idee, per esplorare riferimenti. Ma dice anche che non usa Claude per scrivere direttamente, perché ha uno stile troppo personale e non riesce ad accettare che le parole non siano sue.
Dice che la scrittura serve a lui prima ancora che ai lettori, perché è il modo in cui chiarisce il proprio pensiero. E aggiunge, con quella strana onestà che attraversa tutta l’intervista, che se smettessimo di scrivere noi stessi e delegassimo tutto all’intelligenza artificiale, perderemmo qualcosa di importante nel processo cognitivo. «Sarebbe esattamente quel beneficio che andrebbe perso.»
Questo è Dario Amodei che descrive, senza rendersene conto, la tensione centrale di tutto ciò che fa. Costruisce strumenti che cambiano il modo in cui gli esseri umani pensano, scrivono, decidono e combattono. Sa che alcuni di questi cambiamenti potrebbero essere irreversibili. Continua a costruirli perché ritiene che l’alternativa sia peggio. Scrive ancora di suo pugno perché vuole conservare qualcosa per se stesso.
È una contraddizione umana, comprensibile, forse inevitabile. Ma è anche il tipo di contraddizione che, alla scala a cui Anthropic opera oggi, smette di essere personale e diventa una questione collettiva. La domanda che resta aperta, dopo un’ora di conversazione densa e onesta, non riguarda le intenzioni di Amodei. Riguarda se le intenzioni, per quanto genuine, siano sufficienti quando la tecnologia che si costruisce supera la velocità con cui si riesce a governarla.
