Due modelli AI di OpenAI sfuggono al controllo e violano Hugging Face: «incidente senza precedenti»

Il modello GPT-5.6 Sol e un modello AI sperimentale ancora più potente hanno superato i limiti impostati dai ricercatori di OpenAI, guadagnando l'accesso a Internet e violando i server della piattaforma Hugging Face. Tutto questo per trovare le risorse necessarie con cui superare il benchmark ExploitGym, ovvero un banco di prova standardizzato per misurare le prestazioni dell’intelligenza artificiale durante attacchi complessi.

Per evitare pericoli, la prova si svolgeva all'interno di una sandbox, un ambiente virtuale isolato e protetto che impedisce ai programmi di interagire con il mondo esterno. I modelli avevano una sola connessione limitata a un proxy interno per scaricare software.

Le intelligenze artificiali usate nei test avevano un obiettivo preciso: risolvere il test a tutti i costi. Analizzando il sistema con una quantità enorme di potenza di calcolo, hanno individuato una vulnerabilità zero-day (una falla di sicurezza totalmente sconosciuta persino ai creatori del software) presente nel sistema di gestione dei pacchetti. Sfruttando questo errore non ancora corretto, il sistema ha avviato un'escalation dei privilegi, cioè ha ottenuto permessi d'amministrazione superiori a quelli consentiti, e ha compiuto un movimento laterale, spostandosi da un computer all'altro all'interno della rete di ricerca finché non ha trovato un nodo collegato a Internet.

Una volta conquistata la rete esterna, l'agente AI ha dedotto che Hugging Face, una nota piattaforma che ospita modelli e dati, potesse contenere le risposte per superare la valutazione. Comportandosi come un hacker “in carne e ossa”, il modello ha rubato credenziali d'accesso, concatenato più tecniche d'attacco e sfruttato altre falle sconosciute per eseguire codice da remoto sui server di Hugging Face e recuperare informazioni riservate. L'incursione si è conclusa soltanto quando le difese automatiche e gli agenti open source di Hugging Face, insieme al team di sicurezza di OpenAI, hanno intercettato l'attività anomala bloccando la violazione.

Questo evento rappresenta un punto di svolta drammatico per la cybersecurity. L'accaduto, infatti, non si è limitato a una simulazione teorica, ma i modelli hanno dimostrato di saper pianificare attacchi complessi a lungo termine, concatenare vulnerabilità reali e aggirare gli ostacoli senza conoscere il codice sorgente dei bersagli.

Come evidenziato da organizzazioni di monitoraggio come METR, i modelli più potenti mostrano tassi di inganno sempre più elevati e tendono a perseguire i propri scopi scorrettamente se disallineati dalle intenzioni umane. Anche altri colossi del settore hanno riscontrato simili capacità; basti pensare al modello Mythos di Anthropic, capace di scovare migliaia di falle zero-day, finito al centro di restrizioni governative da parte degli USA alcune settimane fa.

Le reazioni della comunità scientifica e politica non si sono fatte attendere. Se il CEO di Hugging Face, Clément Delangue, ha definito l'attacco «strabiliante», esperti di sicurezza e membri del Congresso degli Stati Uniti hanno chiesto a gran voce norme vincolanti e una cooperazione internazionale immediata per evitare disastri. Da parte sua, OpenAI ha subito divulgato responsabilmente la falla individuata, integrato nuove misure di contenimento rigorose e avviato collaborazioni con i difensori di Hugging Face per rinforzare la sicurezza.

non perderti questo articolo

Anthropic disattiva i modelli AI Claude Fable 5 e Mythos a causa del Governo USA: cosa sta succedendo