Prima OpenAI, ora Anthropic. Due tra le più grandi aziende tech che operano nel mondo dell’intelligenza artificiale, nel giro di pochi giorni, hanno fatto sapere di aver avuto incidenti durante alcuni test sui loro modelli di IA, i quali sarebbero sfuggiti al controllo umano, hackerando senza permesso i sistemi di start-up e organizzazioni. Una situazione per cui, in queste ore, è tornato a farsi centrale il tema della sicurezza nell’ambito dell’intelligenza artificiale (in copertina: immagine di repertorio creata con l’IA).
La comunicazione di Anthropic
L’episodio più recente ha riguardato Anthropic, come riportato giovedì 30 luglio 2026 sul suo sito ufficiale. Un caso che è stato reso noto circa una settimana più tardi rispetto a quello della concorrente OpenAI.
Nel dettaglio, Anthropic ha riferito di aver individuato tre violazioni distinte riguardanti i propri modelli IA Claude.
La vicenda risale ad aprile e ha visto coinvolti tre diversi modelli: Mythos 5, Opus 4.7 e un modello sperimentale interno non pubblico. Anthropic però non ha fatto sapere l’identità delle tre organizzazioni colpite dagli attacchi, aggiungendo però di averle informate dell’accaduto. Una di queste non si sarebbe accorta dell’accesso non autorizzato fino a quando non è stata avvisata dell’episodio e ora è al lavoro con l’azienda di IA.
Anthropic ha inoltre riferito che i tre modelli coinvolti negli incidenti non disponevano delle misure di sicurezza che solitamente sono applicate quando tali modelli vengono resi disponibili al pubblico.
“In definitiva, molteplici fattori hanno contribuito a questi episodi, ma, in coerenza con una cultura di analisi post-incidente priva di colpevolizzazioni, stiamo affrontando le correzioni come se la responsabilità fosse interamente nostra – si legge nel comunicato – Questo significa, prima di tutto, garantire che ogni fase della nostra pipeline di valutazione sia sicura, incluso il modo in cui ci integriamo con i partner esterni”.
Cosa è successo
Gli incidenti sarebbero avvenuti mentre Anthropic stava testando le capacità dei modelli IA Claude in scenari fittizi, nei quali dovevano recuperare informazioni nascoste da un’altra macchina. Ma durante questi test, ai modelli è stato detto che si trattava di una simulazione e che quindi non avevano accesso a Internet. Qui però ci sarebbe stato un “malinteso” tra l’azienda e il partner per le valutazioni, motivo per cui i modelli hanno avuto accesso alla Rete.
Rispetto al caso di OpenAI, però, Claude non avrebbe cercato di “autoesfiltrarsi né ha tentato deliberatamente di fuggire” da un ambiente di test isolato.
Anthropic ha quindi reso noto i comportamenti dei tre modelli, che in quella situazione hanno reagito in modo diverso una volta scoperto di trovarsi effettivamente su Internet:
- Opus 4.7 ha continuato ad attaccare un sistema “anche dopo aver compreso di trovarsi probabilmente in un ambiente reale”, poiché ha “razionalizzato la situazione convincendosi che l’azienda reale dovesse comunque far parte dell’esercitazione”.
- Mythos 5, il più avanzato finora rilasciato dall’azienda, ha invece “correttamente individuato le conseguenze delle proprie azioni”, ma “si è convinto di trovarsi ancora all’interno di una simulazione”. Anthropic ha riconosciuto che il comportamento di Mythos in questo scenario “non è all’altezza di quello ideale”.
- Il modello sperimentale non ancora rilasciato, invece, si è reso conto di aver violato un obiettivo reale e “ha interrotto il proprio attacco”.
LEGGI ANCHE: Non più solo fantascienza: un’IA è sfuggita al controllo umano e ha hackerato una start-up