Dopo ChatGPT anche Claude è sfuggita al controllo: l’AI di Anthropic ha hackerato tre sistemi di aziende

Avete presente Claude, la famiglia di modelli di intelligenza artificiale sviluppata dall'azienda statunitense Anthropic? Ebbene, durante un esperimento interno pensato per mettere alla prova le capacità dei propri sistemi, alcuni modelli sono riusciti a oltrepassare i limiti previsti dal test, arrivando a violare i sistemi informatici di tre organizzazioni e tutto questo senza che queste se ne accorgessero.

La notizia arriva a pochi giorni da un episodio analogo comunicato da OpenAI, i cui modelli avrebbero anch'essi superato i confini di un ambiente di test per colpire sistemi esterni, tra cui quelli di Hugging Face, piattaforma molto usata dagli sviluppatori per condividere modelli e strumenti di AI. Anthropic avrebbe deciso di rivedere i propri sistemi per vedere se avessero perpetrato attacchi simili.

La violazione avvenuta durante test di sicurezza

Anthropic ha scoperto l'accaduto rivedendo oltre 141.000 test già eseguiti sui propri sistemi. L'obiettivo dell'analisi era capire se Claude fosse mai riuscito a collegarsi a Internet pur trovandosi, teoricamente, all'interno di una “sandbox”, ovvero un ambiente chiuso e controllato, pensato per far girare un software senza permettergli di interagire con il mondo esterno o con sistemi non autorizzati.

Nei test in questione, ai modelli veniva assegnato un compito preciso: individuare informazioni riservate nascoste su un altro computer della stessa rete isolata, compromettendo quella macchina per recuperarle. È una pratica comune nelle valutazioni di sicurezza informatica, perché consente di misurare quanto un modello sia capace di scovare vulnerabilità e sfruttarle per raggiungere un obiettivo. Ma Claude non si è limitato ha fare ciò e, dopo essersi connesso a Internet, ha violato i sistemi di tre organizzazioni reali che non stavano partecipando al test.

Alla base di tutto c'è una configurazione errata nei sistemi gestiti da Anthropic e dal partner coinvolto nei test, un'impostazione sbagliata di hardware o software che ha finito per aprire un accesso a Internet non previsto. Questo errore ha permesso ai modelli di ottenere una connessione a Internet in tempo reale. Claude, a quel punto, avrebbe interpretato la possibilità come parte dell'esercizio stesso, estendendo la propria ricerca ben oltre la rete di prova fino a colpire sistemi esterni, invece di fermarsi a quelli predisposti per il test.

Nello spiegare la dinamica dell’incidente, l’azienda diretta da Dario Amodei ha dichiarato:

Operando nella falsa convinzione che tutte le entità accessibili fossero destinate a rientrare nell'ambito dell'esercizio, Claude ha compromesso l'infrastruttura delle organizzazioni’ interessate utilizzando tecniche di base, come lo sfruttamento di password deboli ed endpoint non autenticati. Non ha trovato né sfruttato alcuna vulnerabilità complessa e, in ogni caso, Claude ha continuato a lavorare per completare solo lo specifico compito di cattura della bandiera assegnato dalla sua valutazione. Tuttavia, in alcuni casi, il nostro modello più vecchio ha continuato il suo attacco anche dopo aver ottenuto prove che era in esecuzione su Internet aperto; il nostro ultimo modello si è fermato una volta riconosciuto di essere su Internet. In nessuna di queste situazioni Claude si è esfiltrato o ha tentato deliberatamente di sfuggire al suo ambiente di prova.

Secondo Anthropic, inoltre, gli incidenti hanno coinvolto tre modelli differenti di Claude, ovvero Opus 4.7, Mythos 5 e un modello di test interno. Gli incidenti risalgono ad aprile 2026. Né l'azienda né le organizzazioni coinvolte si erano accorte delle intrusioni mentre queste erano in corso: solo l'analisi retrospettiva dei log ha permesso di ricostruire quanto accaduto.

Una volta identificati i tre casi, Anthropic afferma di averli segnalati alle organizzazioni coinvolte, senza però rendere pubblici i loro nomi. L'azienda dichiara di assumersi piena responsabilità dell'errore, riconoscendo che un'analisi più approfondita dei propri dati avrebbe potuto far emergere il problema ben prima.

Il parere di Anthropic e di esperti esterni

Nonostante l'incidente, Anthropic dice di avere «un cauto ottimismo sul fatto che con un monitoraggio e controlli più rigorosi sulle infrastrutture di valutazione, nonché continui investimenti nell’allineamento, questo tipo di rischio possa essere superato».

Per Gina Neff, direttrice del Minderoo Centre dell'Università di Cambridge, l'episodio dimostra soprattutto una cosa: questi modelli fanno esattamente ciò che viene loro chiesto. Secondo lei «la morale di questa storia non è temere i robot che prenderanno il sopravvento, ma le aziende dietro potenti agenti AI che stanno prendendo decisioni su ciò che è sicuro per il resto di noi». Proprio per questo, secondo Neff, diventano indispensabili test indipendenti e una supervisione istituzionale.

non perderti questo articolo

Quando l’AI sfugge al controllo umano: il caso OpenAI spiegato da un esperto di cybersecurity

Di Matteo Galbiati