In Jurassic Park il matematico Ian Malcolm dice ai padroni del parco che i loro scienziati erano così presi dal poter farlo che non si sono chiesti se dovessero farlo. Trent’anni dopo, la novità è che a dirlo sono gli scienziati stessi ma la trama apocalittica cambia soggetto, con Amodei/Anthropic, Altman/OpenAI e Musk/xAI e Hassabis di Google ad accodarsi e sottoscrivere un appello che si può riassumere in “fermiamoci prima che sia troppo tardi”. E il “troppo tardi” pare non essere una mera immagine da film apocalittico, visto che pochi giorni prima la stessa Anthropic aveva ammesso che Claude era stato usato per tentare di sintetizzare armi biologiche e per attività di spionaggio.
La risposta di Trump
Trump ha risposto che rallentare è un errore, perché “chi vince l’AI vince tutto” e la Cina non aspetta.
E la Cina? Pechino ha replicato nel giro di un giorno, e non con un “va bene, rallentiamo anche noi”. Il Global Times ha bollato l’appello come una strategia da manuale da guerra fredda per frenare la Cina, e il portavoce del Ministero degli Esteri Guo Jiakun ha parlato di “allarmismo e competizione viziosa”.
Il motivo è semplice, visto che nello stesso saggio in cui chiede di rallentare, Amodei chiede a Washington di stringere ancora l’export di chip verso la Cina. Da Pechino la proposta si legge in un solo modo: fermatevi voi, i chip li teniamo noi.
Eppure la Cina non è affatto tranquilla, considerando che negli stessi giorni il suo ministro della Sicurezza ha avvertito della possibile minaccia dell’AI a infrastrutture e stabilità del Paese, e lo stesso Xi si è espresso a favore di una governance globale “basata sul consenso”. Tutti hanno paura, nessuno vuole essere il primo a frenare.
Le proposte di accordo internazionale
Qualcuno propone allora un accordo internazionale, con l’urgenza di un trattato di non proliferazione. Lo stesso Amodei ammette che il dilemma più difficile della sua proposta è cosa succede se la Cina non segue. Ma le regole valgono se le accettano tutti, e la storia recente non incoraggia, considerando che l’Accordo di Parigi sul clima lo hanno abiurato proprio gli Stati Uniti, due volte, entrambe con Trump. Se ne parlerà, forse, il 24 settembre, quando Trump e Xi si siederanno allo stesso tavolo con l’AI in agenda.
C’è però un dettaglio che merita forse, e ribadisco forse, più attenzione dell’appello stesso.
Il rallentamento chiedo dalle aziende che hanno i modelli più potenti
A chiedere di rallentare sono le tre o quattro aziende che oggi hanno i modelli più potenti al mondo. Un rallentamento concordato tra loro non ferma la corsa, ma in qualche modo congela la classifica. Chi è davanti resta davanti, chi è dietro non recupera più, e l’open source resta fuori dalla porta. Non a caso David Sacks, il responsabile AI della Casa Bianca, ha parlato apertamente sia di cartello che di duopolio, e negli Stati Uniti si comincia a chiedere se coordinarsi sulla velocità di sviluppo non sia, semplicemente, il frutto di una spartizione di mercato.
Un appello alla prudenza firmato da chi ha già il vantaggio è quindi prudenza, o è una barriera all’ingresso, magari per tagliare fuori i modelli open source?
Se il rischio è quello che dicono, i firmatari stanno chiedendo di socchiudere il cancello mentre i velociraptor sono probabilmente già in cucina. Se invece il rischio è ritenuto esagerato, si ha la certezza di sbarrare la strada ai potenziali propositori di un paradigma economicamente e democraticamente più sostenibile.
In entrambi i casi il parco resta aperto, i visitatori continuano ad arrivare e nessuno ha ancora trovato l’interruttore. A Jurassic Park almeno i dinosauri erano su un’isola. Qui no.
