Un ricercatore di Anthropic si dimette per il timore che l'AI possa sfuggire al controllo: "Stanno giocando con le nostre vite"

Un ricercatore di Anthropic ha lasciato l'azienda lanciando un avvertimento sui rischi legati allo sviluppo dell'intelligenza artificiale. Jacob Coxon ha denunciato la corsa delle aziende verso sistemi di IA sempre più potenti e ha sostenuto che la superintelligenza potrebbe rappresentare una minaccia concreta per l'umanità. 

IA, un ricercatore lascia Anthropic e lancia l’allarme sulla superintelligenza

Un ricercatore di intelligenza artificiale che lavorava presso Anthropic si è dimesso. A fare notizia non è stata la scelta di Jacob Coxon di lasciare il settore ma la sua denuncia sulla corsa allo sviluppo di sistemi di IA sempre più potenti che potrebbe rappresentare una minaccia esistenziale per l'umanità.

Jacob Coxon, un ingegnere britannico 27enne, ha pubblicato una serie di post su X il 9 settembre e ha affermato di aver trascorso gli ultimi tre anni lavorando sulla ricerca di pre-addestramento presso OpenAI e Anthropic.

Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo a perdifiato verso la superintelligenza auto-migliorante e stanno giocando con le nostre vite.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Coxon ha avvertito di "non sottovalutate il potere di questa tecnologia" e ha sostenuto che i sistemi di intelligenza artificiale "sovrumani" potrebbero diventare capaci di "hackerare qualsiasi cosa, rivoluzionare qualsiasi settore da un giorno all'altro e acquisire potere e risorse reali".

Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore da un giorno all'altro e acquisire potere e risorse reali. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e questi progressi non accennano a rallentare.

I rischi della superintelligenza secondo Jacob Coxon

Ha anche parlato di preoccupazioni sui potenziali pericoli:

Le persone che sviluppano l'intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio.

Queste sue parole sono state pubblicamente appoggiate dal responsabile scientifico per l'allineamento presso Anthropic, Evan Hubinger.

Hubinger ha affermato, condividendo il post di Coxon:

Jacob ha ragione: crediamo davvero che l'IA potrebbe sterminare tutta l'umanità! Personalmente, penso che questa percentuale supererà il 10% entro il prossimo decennio. Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell'allineamento con la superintelligenza e non siamo chiaramente sulla buona strada per farlo.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Le parole di Coxon hanno riacceso il dibattito sulla sicurezza dell’IA, sui rischi legati allo sviluppo della superintelligenza e sulla velocità con cui le aziende stanno procedendo.