La corsa all’intelligenza artificiale avanzata riapre il dibattito sui rischi della tecnologia. A far discutere è la scelta di Jacob Coxon, giovane ricercatore britannico di 27 anni, che ha lasciato Anthropic, una delle società più importanti nel settore dell’IA generativa, perché preoccupato dalla direzione presa dalla ricerca sui modelli sempre più potenti.
Secondo quanto riportato dal Wall Street Journal, Coxon avrebbe deciso di interrompere il proprio percorso nell’azienda per non contribuire allo sviluppo di sistemi che, in futuro, potrebbero diventare difficili da controllare dall’uomo. Il tema al centro delle sue preoccupazioni è quello dei modelli capaci di migliorarsi autonomamente, una prospettiva considerata dagli esperti una delle sfide più complesse per la sicurezza dell’intelligenza artificiale.
“Stiamo andando verso scenari estremi”: il timore della corsa senza freni
Coxon, laureato in matematica all’Università di Cambridge, ha lavorato per circa tre anni nella ricerca sul pretraining, cioè la fase in cui i modelli di IA vengono addestrati analizzando enormi quantità di dati per imparare linguaggi, schemi e capacità di ragionamento.
La sua decisione nasce dalla convinzione che la competizione tra le grandi aziende tecnologiche stia accelerando lo sviluppo dei sistemi senza che la sicurezza proceda allo stesso ritmo. Il ricercatore ha parlato di una fase definita da alcuni addetti ai lavori come “endgame”, cioè il possibile arrivo a sistemi con capacità molto superiori a quelle attuali. Secondo Coxon, il settore potrebbe avvicinarsi a scenari estremi già nei prossimi anni, soprattutto in un contesto di forte competizione tra aziende statunitensi e cinesi.
“Le persone che sviluppano l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una mossa di marketing. Nessun’altra attività umana comporta un tale livello di pericolo” ha dichiarato Coxon.
Il punto centrale non è l’intelligenza artificiale attuale, ma la possibilità teorica che sistemi futuri possano raggiungere livelli di autonomia tali da rendere più difficile prevederne comportamenti e decisioni.
Come mantenere l’IA sotto controllo
La questione sollevata dal ricercatore riguarda uno dei temi più studiati nella sicurezza dell’IA: il cosiddetto allineamento, cioè la capacità di fare in modo che gli obiettivi di un sistema rimangano coerenti con le intenzioni e i valori umani.
Anche Evan Hubinger, uno degli scienziati di Anthropic impegnati proprio nello studio della sicurezza dei modelli, ha commentato la vicenda sui social, sostenendo che le preoccupazioni espresse da Coxon siano fondate.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Hubinger ha scritto che il rischio legato a un’eventuale IA superintelligente fuori controllo è una possibilità che il settore deve prendere seriamente in considerazione, indicando personalmente una probabilità superiore al 10% nel prossimo decennio. Una valutazione che resta però una stima individuale e non una previsione condivisa dall’intera comunità scientifica.
Non tutti gli esperti vedono lo stesso scenario
Il dibattito sui rischi dell’intelligenza artificiale è aperto da anni e divide anche il mondo della ricerca. Una parte degli studiosi sottolinea la necessità di introdurre regole più rigide, controlli indipendenti e sistemi di sicurezza prima di rendere disponibili modelli sempre più potenti. Altri esperti ritengono invece che gli scenari catastrofici siano ipotesi molto lontane e che il principale problema attuale sia legato agli utilizzi concreti dell’IA: dalla disinformazione alla sicurezza informatica, fino all’impatto sul lavoro.
La stessa Anthropic, fondata nel 2021 da ex ricercatori di OpenAI, ha costruito la propria identità proprio sul tema della sicurezza dell’intelligenza artificiale, sviluppando modelli come Claude con particolare attenzione ai meccanismi di controllo.
La domanda aperta: quanto velocemente corre l’IA rispetto alla capacità di governarla?
La vicenda Coxon non dimostra che un’intelligenza artificiale fuori controllo sia imminente, ma riporta al centro una domanda che accompagna lo sviluppo della tecnologia: la capacità umana di controllare questi sistemi crescerà alla stessa velocità con cui aumentano le loro capacità?