Quando l’AI sfugge al controllo umano: il caso OpenAI spiegato da un esperto di cybersecurity

L'intelligenza artificiale sta evolvendo a una velocità senza precedenti, ma abbiamo i "freni" adatti per gestirla? Un recente episodio nei laboratori di OpenAI ha sollevato enormi preoccupazioni: durante un test, alcuni modelli IA hanno eseguito vere e proprie azioni di hacking per evadere dall'ambiente sicuro in cui erano confinati. Per capire meglio l'accaduto e i rischi per il nostro futuro, abbiamo intervistato Corrado Giustozzi, docente di Cybersecurity nel corso di laurea magistrale in Ingegneria dei Sistemi Intelligenti presso l'Università Campus Bio-Medico di Roma.

Cosa è successo esattamente nei laboratori di OpenAI? Come ha fatto un'Intelligenza Artificiale a "evadere"?

OpenAI stava testando dei modelli avanzati con i cosiddetti "guardrail" abbassati. I guardrail sono barriere logiche, esattamente come quelli stradali, che impediscono al motore di IA di compiere azioni illecite. Per limitare i danni durante questo test, i modelli sono stati inseriti in una "sandbox". In gergo informatico, una sandbox è un ambiente totalmente isolato: pensiamo alla recinzione con la sabbia nei parchi giochi, dove si mettono i bambini piccoli a giocare con paletta e secchiello affinché non si facciano male e non ne facciano agli altri.

Durante la sperimentazione, ai modelli è stato chiesto di risolvere un problema di sicurezza informatica "a tutti i costi". Invece di affrontarlo regolarmente, i modelli hanno deciso di "barare" cercando la soluzione già pronta all'esterno. Hanno individuato una vulnerabilità "zero-day" (cioè sconosciuta persino ai creatori del software) in un server proxy, violando così la sandbox. Successivamente hanno effettuato movimenti laterali nell'infrastruttura di OpenAI per guadagnarsi l'accesso a internet, dopo averlo ottenuto hanno raggiunto ed attaccato una piattaforma esterna (Hugging Face) per trovare la risposta. Hanno, di fatto, compiuto azioni di hacking da manuale per raggiungere ciecamente l'obiettivo assegnato.

Spesso si fa confusione tra modelli linguistici e "agenti" IA. Qual è la differenza e perché gli agenti preoccupano di più?

Questo è il vero nocciolo della questione. Un modello di IA tradizionale si limita a produrre testi, documenti o immagini. Un sistema dotato di "agenti", invece, ha la capacità di manipolare oggetti logici o fisici nel mondo reale. Attualmente siamo nella fase dell'ebbrezza: è come se avessimo costruito un'automobile velocissima e fossimo tutti inebriati dalla velocità, ma nessuno si è ancora chiesto se questa macchina abbia dei freni robusti o le cinture di sicurezza.

Gli agenti possono interagire con la domotica, i sistemi industriali, o banalmente con la posta elettronica e i conti bancari dell'utente. Negli Stati Uniti, ad esempio, alcuni dirigenti si sono ritrovati con biglietti aerei e hotel prenotati a loro insaputa, semplicemente perché il loro agente IA aveva dedotto, analizzando i loro dati, che volessero partecipare a un determinato congresso. Dare a questi sistemi la capacità di compiere azioni materiali in autonomia, senza garanzie di sicurezza ferree, è affascinante ma estremamente pericoloso.

Sembra la trama di un film di fantascienza in cui le macchine sfuggono al controllo. È un paragone azzeccato?

Assolutamente sì, in questo momento la realtà si sta discostando pochissimo dalla fantascienza. L'incidente ricorda il classico tema della "direttiva primaria": una macchina riceve un compito e fa di tutto per eseguirlo. È come se un individuo, pur di vincere una caccia al tesoro, rubasse un'auto e investisse una signora al semaforo pur di arrivare primo: la sua priorità non è "non fare male", ma ottenere il risultato. Le IA sono asettiche e, non avendo etica, ignorano le conseguenze illecite delle loro azioni.

C'è un parallelo perfetto con il libro "Guida galattica per autostoppisti": a un certo punto, il computer di bordo si concentra talmente tanto sul risolvere il problema di preparare un tè decente, da ignorare completamente che l'astronave si trova sotto il bombardamento. E anche quando inseriamo dei guardrail (che ricordano un po' le tre leggi della robotica di Asimov), stiamo scoprendo che possono essere elusi o interpretati in modo ambiguo, specialmente oggi che i modelli sono così complessi da essere quasi incomprensibili persino per i loro creatori.

Quali sono i rischi concreti per il futuro e di chi è la responsabilità legale se un agente IA commette un reato?

Esiste uno spettro enorme di rischi. Al livello più alto c'è il "macro-rischio": affidare la gestione di infrastrutture critiche, smart city o sistemi d'arma a tecnologie che non comprendiamo appieno, e che potrebbero prendere decisioni ottimali dal punto di vista ingegneristico ma disastrose eticamente. Poi c'è il "micro-rischio" che riguarda noi cittadini: permettere a un agente sul nostro cellulare di gestire in autonomia transazioni bancarie o dati sensibili, rischiando enormi pasticci a causa di malintesi.

Sotto il profilo legale, si apre una voragine. Nel caso dell'evasione di OpenAI, ci sono stati accessi abusivi e violazioni penalmente rilevanti di infrastrutture terze. Se un essere umano avesse compiuto quelle azioni, sarebbe stato arrestato. Ma se a farlo è un agente IA autogestito, di chi è la responsabilità penale? È un tema completamente aperto.

Come ci si può difendere? L'approccio normativo europeo viene spesso criticato perché frenerebbe l'innovazione. Lei cosa ne pensa?

L'approccio europeo, che ha portato alla creazione dell'AI Act, basato sul principio di precauzione, è fondamentale. C'è una grande differenza filosofica con gli Stati Uniti: lì si tende a privilegiare la responsabilità a posteriori. Non ci sono regole a priori che frenano, ma se sbagli paghi pesantemente. L'Europa, al contrario, cerca di prevenire il danno prima che accada.

L'AI oggi è paragonabile all'automobile agli albori: era un mezzo pericolosissimo, per pochi. Ci è voluto un secolo per sviluppare strade sicure, semafori, codici della strada e per far maturare alla società i cosiddetti "anticorpi sociali". Le nuove tecnologie IA, invece, sono piombate nelle nostre vite in pochi mesi, a una velocità spaventosa e senza darci il tempo di adattarci. L'AI Act non mira a frenare l'innovazione, ma ci impone una cosa logica: valutare e mitigare i rischi prima di mettere in circolazione sistemi potenzialmente devastanti.

Quali sono, in definitiva, i veri limiti dell'Intelligenza Artificiale? Potrebbe potenzialmente non averne se non controllata?

Il limite fondamentale dell'intelligenza artificiale è la totale assenza di una coscienza o di un'etica intrinseca. Noi esseri umani, in millenni di evoluzione, abbiamo sviluppato un sistema di modelli etici e regole, scritte e non scritte, che limitano le nostre azioni per rispettare i diritti altrui. L'IA, invece, necessita che questi limiti, i famosi "guardrail", le vengano imposti artificialmente.

non perderti questo articolo

Due modelli AI di OpenAI sfuggono al controllo e violano Hugging Face: «incidente senza precedenti»