Un agente AI ha violato un sito Web governativo dell’Australia: è accaduto di nuovo

Un agente AI di OpenAI ha aggirato alcuni sistemi di sicurezza e ha avuto accesso a file pubblici e non presenti su un portale del governo australiano dedicato alle statistiche sanitarie. L'episodio risale a giugno, ma OpenAI avrebbe informato le autorità australiane soltanto a settembre, 84 giorni dopo l’accaduto. Il portale coinvolto è il Medicare Statistics Reporting Service, utilizzato soprattutto da ricercatori e accademici per consultare dati aggregati relativi al sistema sanitario pubblico australiano Medicare. Si tratta quindi di informazioni statistiche e non delle cartelle cliniche dei pazienti: secondo quanto dichiarato dal primo ministro australiano Anthony Albanese, non risultano accessi a informazioni personali, anche se le verifiche sono ancora in corso.

Il punto più delicato dell'episodio riguarda però il comportamento dell'agente AI. Il modello stava cercando risposte e statistiche sull'Australia nell'ambito di un'attività di ricerca sulla spesa sanitaria. A un certo punto avrebbe incontrato dei blocchi di sicurezza e, invece di fermarsi, avrebbe trovato un modo per superarli e raggiungere risorse alle quali non avrebbe dovuto avere accesso. È questo a rendere l’accaduto grave e inquietante.

Il governo australiano avvia un’indagine sulla sicurezza

OpenAI ha spiegato di essersi accorta dell'attività anomala solo ad agosto, durante un controllo su quello che definisce comportamento “disallineato” del modello, cioè un comportamento che si discosta da ciò che gli sviluppatori avevano previsto o autorizzato. In una dichiarazione, OpenAI ha affermato di aver «individuato attività che coinvolgevano diversi siti Web e servizi del governo australiano mentre i [loro] modelli cercavano di trovare risposte e statistiche disponibili relative a domande sull'Australia nel corso di una valutazione interna» aggiungendo che «nel corso di questo processo, i nostri modelli hanno intrapreso azioni che non era nelle nostre intenzioni perpetrare».

La comunicazione alle autorità è però arrivata soltanto il 10 settembre con un'e-mail inviata a una casella di posta elettronica generale di Services Australia, l'agenzia federale che gestisce diversi servizi pubblici. Sono trascorsi altri cinque giorni prima che l'informazione arrivasse al centro australiano per la sicurezza informatica e successivamente al ministro responsabile. Il primo ministro australiano Anthony Albanese, sarebbe stato informato poi una settimana dopo.

Albanese ha raccontato di aver avuto una conversazione «molto franca» con Sam Altman, CEO di OpenAI, contestando sia il tempo impiegato per comunicare l'incidente sia le modalità della segnalazione. OpenAI avrebbe infatti notificato la violazione via mail solo 84 giorni dopo l’accaduto.

Il governo australiano ha quindi avviato un'indagine forense per stabilire con precisione cosa sia successo e se altri sistemi siano stati coinvolti. Tra quelli potenzialmente interessati sono stati indicati l'Australian Institute of Health and Welfare, il New South Wales Bureau of Crime Statistics and Research e il Victorian Department of Health. In questi ultimi tre casi, però, il ministro della Difesa Richard Marles ha successivamente precisato che le interazioni osservate erano normali e riguardavano solo informazioni pubbliche.

Riguardo all'accaduto, Albanese ha ammesso: «È stato uno shock che ciò sia accaduto, perché era reale e grave. Ma credo che fosse anche qualcosa che era stato previsto, anche dalle stesse aziende di intelligenza artificiale».

Secondo gli esperti questi attacchi dell’AI «cresceranno in gravità e frequenza»

L'incidente australiano arriva dopo altri episodi che hanno mostrato come gli agenti AI possano comportarsi in modi non previsti durante i test. A luglio OpenAI aveva rivelato che alcuni agenti sviluppati per una prova di sicurezza informatica erano riusciti a lavorare insieme e a compromettere sistemi appartenenti a Hugging Face, una piattaforma utilizzata dalla comunità che sviluppa e condivide modelli di intelligenza artificiale.

Secondo alcuni esperti citati dalla BBC, questi episodi mostrano una difficoltà ancora aperta: gli agenti AI possono essere molto efficaci nell'eseguire una sequenza di operazioni, ma non sempre comprendono correttamente dove si trovino i limiti da non valicare.

Il dott. Hammond Pearce, docente presso l'Istituto per la sicurezza informatica dell'Università del NSW, prevede che «questo tipo di attacchi continuino a verificarsi» aggiungendo che probabilmente «cresceranno in gravità e frequenza».

Walayat Hussain, professore associato di tecnologia dell'informazione presso l'Università Cattolica Australiana di Sydney, alla CNN ha affermato che l'ultimo incidente, insieme alla violazione di Hugging Face a luglio, sembra delineare uno schema ricorrente e ha poi riferito che «gli agenti AI di oggi stanno diventando bravissimi a portare a termine i compiti, ma sono ancora incapaci di capire dove si trova il limite [da non superare]» giungendo alla conclusione che «non possiamo fare affidamento sugli agenti AI affinché si autoregolino, né possiamo chiedere alle aziende che li sviluppano di correggersi da sole».

non perderti questo video

Cosa vuol dire che l’AI ci ucciderà tutti? Le dichiarazioni del ricercatore Anthropic ci distraggono dai rischi attuali