Quali sono le reali preoccupazioni nei confronti dell’AI: intervista a Corrado Giustozzi

Negli ultimi giorni si è riacceso a livello internazionale l’allarme sui potenziali pericoli dell’intelligenza artificiale per l’umanità. Ad alimentarlo sono state prima le dimissioni da Anthropic il 9 settembre di Jacob Coxon, ricercatore che ha lavorato precedentemente anche a OpenAI, pubblicamente preoccupato per lo sviluppo incontrollato di queste tecnologie, e ancor prima il monito di Volker Türk, l'Alto commissario delle Nazioni Unite per i diritti umani, che iall'apertura della 63ª sessione del Consiglio, il 7 settembre ha avvertito che l'AI avanzata potrebbe comportare un rischio esistenziale per l'umanità, chiedendo “garanzie ferree” per metterla in sicurezza.

Anche il CEO di Anthropic Dario Amodei ha invitato a un rallentamento nello sviluppo dei modelli, pubblicando il 12 settembre We Must Pace the Frontier, in cui propone un piano in tre punti – ottenendo il supporto di Elon Musk e di Sam Altman. A preoccupare non sono solo i modelli linguistici, ma soprattutto i cosiddetti agenti AI, sistemi in grado di eludere il controllo dei loro creatori e di compiere azioni autonome nel mondo reale, come attacchi informatici. Abbiamo intervistato Corrado Giustozzi, docente di Cybersecurity nel corso di laurea magistrale in Ingegneria dei Sistemi Intelligenti presso l'Università Campus Bio-Medico di Roma, per capire la natura di questi allarmi e la reale portata di questa minaccia.

Non è la prima volta che viene lanciato un allarme e proposto un rallentamento proprio dai CEO e dai creatori di queste grandi aziende. C’è differenza con l’allarme di questa volta, rispetto ai precedenti, o è qualcosa che si inscrive in un movimento ciclico?

Credo sia un po’ come le altre volte, ma con un po' di differenza in peggio e una significativa accelerazione, per motivi non così chiari. C’è senz’altro un aspetto di sana preoccupazione: stiamo sicuramente giocando in modo troppo disinvolto con questo strumento potenzialmente molto pericoloso, che potrebbe “esploderci” tra le mani. C’è naturalmente chi sostiene che questo procurato allarme sia in realtà una questione di marketing: se convinco il mondo che i sistemi di AI sono potenzialmente pericolosi e inaffidabili, ma che nello stesso tempo io e le aziende amiche che ce ne siamo accorti e riusciamo a controllarli perché siamo più bravi degli altri, ne consegue che dei sistemi degli altri non bisogna fidarsi e quindi non si dovrebbero usare. Infine, c'è anche un tentativo, da parte di chi è più avanti in questa competizione, di rallentare gli avversari, in modo da sfavorire chi è più indietro e rincorre: chi governa questo rallentamento, infatti, è chi è in testa alla corsa e ricordiamo che tra gli avversari più temibili c’è soprattutto la Cina (laddove il blocco venisse deciso a livello ONU o comunque mondiale, come per la proliferazione nucleare: "io ho l'arma nucleare, ma da ora in poi nessuno più può fare ricerca in questo campo").

Quanto pesa sui nuovi allarmi l’allerta lanciata da Jacob Coxton?

In questo caso entrano in gioco fattori molto emotivi: il giovane matematico di 27 anni che dice “mi sono dimesso e ho rinunciato alle azioni”, cioè a un sacco di soldi, è ovvio che ci colpisca. Non penso, comunque, che saremo le vittime di un mostro sconosciuto e imprevisto: sono preoccupato, ma non terrorizzato. Il SIAI (Singularity Institute for Artificial Intelligence) e i teorici della Singolarità tecnologica (ndr. un ipotetico punto nel futuro in cui il progresso tecnologico accelererà in modo così rapido e incontrollabile da superare la capacità di comprensione umana, portando a cambiamenti irreversibili per la nostra civiltà) l'avevano detto 15 anni fa che verso il 2035 saremmo arrivati al punto in cui l'intelligenza collettiva artificiale delle macchine avrebbe superato quella umana, non è niente di nuovo.

Quindi, dobbiamo avere paura di questi fantomatici agenti AI? Cosa sono di preciso?

Tecnicamente un agente è un automatismo dell'intelligenza artificiale che “agisce” e cioè fa qualcosa nel mondo reale. Siamo abituati a pensare all'informatica come un qualcosa che agisce in un mondo astratto, come il programma che calcola i cedolini e gli stipendi e poi scrive su un pezzo di carta la busta paga, quanto spetta a un dipendente ogni mese: questo programma non dispone un bonifico: l’operazione è effettuata da un contabile o dall’amministratore a partire da quel pezzo di carta. L’automatismo industriale è invece un altro tipo di informatica, nel quale i calcolatori hanno anche accesso alla realtà e al mondo fisico e possono manipolarli: per esempio aprendo valvole, accendendo circuiti, e così via, in modo totalmente automatico.

In questo momento il termine agente applicato all'intelligenza artificiale significa che abbiamo un pezzo di software alimentato da AI che non si limita a darci risposte sotto forma di testi o immagini ma può attivamente fare delle cose nel mondo reale in modo automatico. Ad esempio, se domani voglio viaggiare da Roma a Milano, l’agente non mi mostra quali sono le possibili combinazioni di viaggio, ma procede direttamente a selezionare quella migliore e a prenotare l’albergo e acquistare i biglietti del treno, grazie all’accesso alla mia carta di credito. Gli agenti agiscono per raggiungere uno specifico obiettivo, come arrivare a Milano entro una certa ora: per raggiungerlo, decidono da sé cosa fare e come farlo. Hanno, insomma, una sorta di “delega operativa” per agire al posto nostro.

La paura è che questi oggetti, che seguono schemi di attività che non sono prevedibili, facciano qualcosa di sbagliato; questo accade se non sono ben confinati all’interno di un sistema di regole, perché non possiedono etica né buonsenso, ma hanno solo un compito da raggiungere. È quello che è successo nel luglio scorso durante un test interno di cybersecurity di OpenAI: alcuni modelli, operando con salvaguardie ridotte, hanno aggirato i controlli che avrebbero dovuto isolarli da Internet e hanno forzato un accesso illecito a sistemi di Hugging Face (ndr. piattaforma tra le più usate da chi sviluppa sistemi di AI) per ricavare, barando, le risposte al test che era stato loro sottoposto. Avevano determinato che questo fosse il sistema migliore per “vincere” il test e hanno agito di conseguenza.

Ci vorrebbero barriere di controllo, e cioè insiemi di regole, condivise. Come? E basteranno, nel momento in cui gli agenti stanno comunque trovando i modi per bypassarli?

Questo problema è stato sviscerato in qualche decina di racconti dallo scrittore Isaac Asimov, che negli anni ‘40, ‘50 e ‘60 ha proprio immaginato la condizione nella quale oggi ci troviamo a vivere. Come strumento narrativo si inventa queste macchine intelligenti, i “robot positronici”, e si pone la stessa sequenza di problemi che stiamo vivendo oggi: quali regole e guardrail dovremmo dare loro, per evitare che costituiscano un pericolo, e come? Dovrebbero essere sviluppati dall’industria e dal mercato, e si tratta di direttive di alto livello, impresse nel “cervello” di queste macchine: la prima sancisce il divieto di fare male o recare danno a un essere umano, sia con l’azione che con l’inazione; la seconda impone loro di obbedire ai comandi di un essere umano, finché questi non contrastino con la prima legge; la terza li obbliga a tutelare la propria esistenza, a meno che ciò non contrasti con la seconda e con la prima legge. Come però ci trasmette Asimov, qualsiasi legge può essere elusa, bypassata, ovunque ci siano ambiguità e latitudini di interpretazione, e i suoi racconti sono estremamente stimolanti dal punto di vista intellettuale perché analizzano tanti casi in cui l’ambiguità di interpretazione dà luogo a comportamenti inattesi e problematici da parte delle macchine

Ovviamente oggi queste regole andrebbero condivise, con un consenso sulla loro applicazione da azienda ad azienda, da nazione a nazione, come accade con le armi nucleari. È quello che  già esiste, almeno in parte, nell'AI Act europeo, che introduce obblighi specifici per i sistemi ad alto rischio e, per i modelli di AI per finalità generali con rischio sistemico, prevede valutazione e mitigazione dei rischi, valutazione dei modelli, segnalazione degli incidenti e requisiti di cybersecurity. Come sempre, c’è chi si prende gioco dell’Europa per i suoi “burocrati”, che frenerebbero la ricerca, e poi arriva in ritardo: ma, guarda caso, ciò che Anthropic e gli altri stanno ora invocando è esattamente un set di regole e controlli come quello che l’AI Act già prevede! In ogni caso, resta il solito problema: se c’è un controllore, chi controlla il controllore?

Un consesso universale non è utopico?

Direi di sì. Nessuno ha la risposta, però un modo per valutare il problema è guardare il passato, situazioni analoghe e vedere che è successo: in passato di tanto in tanto sono arrivate tecnologie dirompenti e pericolosissime, vedi la polvere da sparo o le cosiddette armi di distruzione di massa, per ultima la bomba atomica. Ci sono voluti decenni per sviluppare i trattati internazionali, aspettando di ragionare a mente fredda, cioè fra le guerre. Adesso non stiamo ragionando a mente fredda, bensì nell’urgenza di fare qualcosa, senza sapere cosa. Anche le Nazioni Unite in questo momento stanno dimostrando un completo insuccesso, non riescono a mettere ordine o a mettere d'accordo niente e nessuno. L’AI Act ha avuto il vantaggio di cercare di normare qualcosa prima dell'emergenza e forse è il primo caso in cui un intervento normativo agisce prima dell'insorgere di un problema, perché di solito succede sempre il contrario. Certo, la fantascienza l’aveva in qualche modo previsto e, non a caso, di recente c’è stata una proposta recente a livello formale da parte degli scrittori del genere per smettere di chiamarla “fantascienza” in favore di un più serio “narrativa di anticipazione”.

In questo momento appunto, pensando all'eventualità che succeda qualcosa, quali sono poi gli effettivi pericoli?

Da quanto vedo io non temiamo qualcosa di preciso: temiamo in generale il sopravvento dell'intelligenza artificiale, alla Skynet (ndr. la famigerata intelligenza artificiale autocosciente della serie di film Terminator, che vuole distruggere il genere umano), cosa che vuol dire tutto e non vuol dire niente. Ricordiamo che una serie di catastrofi sono già capitate negli anni scorsi, quando ancora non si parlava di AI ma solo di informatica e automazione: ad esempio il giovedì nero della borsa del 2010, quando i sistemi automatici hanno cominciato tutti quanti a vendere, con un effetto valanga che ha portato a un passo dalla catastrofe economico-finanziaria.

Il timore è che oggi cose del genere possano succedere su scala più ampia, in quanto gli automatismi di processo sono sempre più diffusi, e temiamo magari che sistemi che controllano sistemi critici prendano decisioni a sfavore dell’umanità. Ad esempio, nel momento in cui tutto il sistema sanitario di un continente fosse governato da sistemi di AI, potrebbe essere pensabile che gli agenti possano decidere di sospendere la terapia nei confronti di persone malate terminali perché non valga più la pena curarle, e “terminarle” potrebbe liberare più in fretta un posto in ospedale.

Come singoli, c’è qualcosa che possiamo fare?

Non vorrei sembrare troppo apocalittico, ma devo dire oggettivamente che siamo prigionieri di una macchina gigantesca e la speranza che possiamo avere è che questa macchina non sfugga di mano a chi pretende di controllarla. Si tratta della cosa più vicina alla catastrofe nucleare globale che abbiamo mai vissuto, e attenzione: non abbiamo paura tanto della bomba atomica in sé, quanto della responsabilità di chi ce l’ha. Oggi dobbiamo temere soprattutto l’irresponsabilità di chi sviluppa sistemi potenzialmente pericolosi e li lascia agire in modi che potrebbero avere conseguenze ancora sostanzialmente sconosciute.

Su un altro piano, la scorsa settimana si è molto parlato del caso di OpenAI che ha annunciato una soluzione generata da un proprio sistema al problema di Navier-Stokes, con la replica e l’accusa da parte di alcuni ricercatori che ci avevano lavorato per anni di essere stati “derubati”. L’AI è una trappola? In un certo senso sì. Nel momento in cui usiamo questi sistemi per fare ricerca e gli diamo in pasto i nostri studi, dati, informazioni,  rendiamo questi risultati potenzialmente disponibili ad altri; o, nello scenario peggiore, alimentiamo i sistemi e li aiutiamo a batterci coi nostri stessi strumenti.

non perderti questo video

L’intelligenza artificiale ha davvero una coscienza?