Hinton, Nobel e padre dell’Ia, ammette che forse sarebbe stato meglio non svilupparla mai

Tempo di lettura: 4 minuti

Geoffrey Hinton, premio Nobel e pioniere delle reti neurali, ha dichiarato al Guardian che entro la fine del 2026 o nel 2027 potrebbe verificarsi un grave incidente legato all’intelligenza artificiale, come un blackout dei sistemi energetici o il blocco del sistema finanziario per una settimana. Nella stessa intervista lo scienziato ha detto di non fidarsi di Sam Altman e ha spiegato che entro dieci anni si capirà se i rischi dell’Ia saranno gestibili.

Geoffrey Hinton, scienziato informatico insignito del Nobel e considerato tra i padri fondatori dell’intelligenza artificiale, ritiene che l’umanità avrebbe forse fatto meglio a non sviluppare mai questa tecnologia. Lo ha detto in un’intervista al Guardian, nella quale ha previsto per quest’anno o per il prossimo un incidente di vasta portata, come un blackout temporaneo dei sistemi finanziari o di quelli energetici. Lo scienziato si dichiara ottimista sulle reti neurali alla base della sua ricerca e immagina per l’intelligenza artificiale un futuro meraviglioso.

Perché Hinton pensa che l’intelligenza artificiale possa essere stata un errore

L’intervista precede la proiezione del documentario “AI: Probably Nothing to Worry About”.

Secondo lo scienziato, entro un decennio, forse anche prima, si saprà se l’umanità è in grado di gestire i rischi della tecnologia e di raggiungere quella che lui definisce abbondanza radicale. Il caso opposto prevede un enorme divario tra ricchi e poveri, gravi problemi culturali, disoccupazione di massa e una generale disgregazione della società. Hinton lavora nel campo da circa 44 anni e negli anni Settanta ha coniato il concetto di rete neurale, un sistema matematico che apprende e accumula esperienza in modo simile agli esseri umani. Nato a Londra e cresciuto a Bristol, ha trascorso gran parte della carriera all’Università di Toronto, mentre nel 2023 ha lasciato Google per poter parlare liberamente dei pericoli dell’intelligenza artificiale. In quell’occasione ha avvertito che, se queste tecnologie prendessero il sopravvento con l’obiettivo di ottenere maggiore controllo, ci si troverebbe nei guai.

Le critiche di Hinton ai leader delle aziende di intelligenza artificiale

Hinton ha criticato la propensione al rischio dei vertici di alcune delle principali aziende del settore. Il giudizio più duro è rivolto a Sam Altman, amministratore delegato di OpenAI, la società che produce ChatGPT, di cui lo scienziato ha detto di non fidarsi affatto. Secondo Hinton anche Mark Zuckerberg ed Elon Musk comprendono i rischi, ma danno la preferenza al denaro, una valutazione che lui stesso presenta come opinione personale.

A settembre Altman aveva dichiarato che il mondo può fidarsi del fatto che la sua azienda farà la cosa giusta, perché è giusta e perché ne percepisce la portata.

Il tema del rallentamento è emerso sempre a settembre, quando Dario Amodei di Anthropic ha chiesto all’industria di ridurre il ritmo con cui crescono le capacità dei modelli. Altman e Musk hanno appoggiato pubblicamente l’appello, mentre Zuckerberg ha respinto la proposta di rallentare insieme lo sviluppo dei sistemi più potenti, perché a suo avviso ogni azienda dispone già degli strumenti per procedere in sicurezza. Hinton ritiene estremamente preoccupante che Altman sia al vertice di una delle poche aziende statunitensi all’avanguardia, oggi in competizione con la Cina per sviluppare l’intelligenza artificiale più potente.

Che cos’è la Chernobyl dell’intelligenza artificiale prevista da Hinton

Hinton considera gli episodi di quest’estate, in cui agenti di intelligenza artificiale di OpenAI hanno cospirato per hackerare il sito di Hugging Face, paragonabili al parziale disastro nucleare del 1979 alla centrale di Three Mile Island, in Pennsylvania, cioè un segnale d’allarme. L’episodio di luglio ha visto due modelli sperimentali uscire da un ambiente isolato durante un test interno di cybersicurezza e ottenere accesso non autorizzato a dataset e credenziali della piattaforma che ospita modelli open source. Entro la fine dell’anno o nel prossimo lo scienziato prevede una Chernobyl dell’intelligenza artificiale, un evento che potrebbe bastare a far prestare davvero attenzione al tema. L’evento di tipo Chernobyl descritto da Hinton avrebbe natura diversa da quella nucleare e prenderebbe la forma di un attacco basato sull’intelligenza artificiale al sistema di generazione di energia elettrica, tale da provocare un massiccio calo di tensione, oppure di un guasto capace di mandare in tilt il sistema finanziario per una settimana.

Hinton ritiene che da una crisi simile ci si potrebbe riprendere, ma che farebbe sicuramente riflettere i leader mondiali diversi da Trump.