Cosa vuol dire che l’AI ci ucciderà tutti? Le dichiarazioni del ricercatore Anthropic ci distraggono dai rischi attuali

Negli ultimi giorni sta circolando molto la notizia partita da Jacob Coxon, ex ricercatore di Anthropic – l’azienda che sviluppa Claude – secondo cui l’AI potrebbe “ucciderci tutti” nel prossimo futuro. Addirittura, un dipendente di Anthropic – Evan Hubinger – ha dichiarato di ritenere superiore al 10% la probabilità che questo accada. Questa stima, non essendo stata spiegata né giustificata, non è da considerare una previsione realistica

Secondo i ricercatori, questa "apocalisse AI" potrebbe essere causata da una super intelligenza autonoma che "perde il controllo" e crea armi biologiche o attacchi informatici senza precedenti. In particolare, secondo i ricercatori, tutto questo potrebbe essere causato da due problematiche principali: l’automiglioramento ricorsivo dei modelli di AI e il disallineamento dai valori umani.

La combinazione di questi due fattori, secondo le ultime dichiarazioni è ciò che potrebbe portare alla nostra estinzione. Dichiarazioni di questo tipo possono spaventare molto, ma vanno prese con cautela. È importante considerare quanto siamo davvero lontani dagli scenari ipotizzati, quali sono gli interessi delle parti coinvolte e, soprattutto, non lasciare che la discussione su possibili rischi futuri distolga l’attenzione dai problemi che l’AI presenta già oggi. Per questo è necessario concentrarsi anche sulla regolamentazione degli strumenti che abbiamo già e di quelli che verranno.

Cerchiamo quindi di capire meglio cos'hanno dichiarato i ricercatori, cosa sono l'automiglioramento ricorsivo e il disallineamento e quali sono gli scenari ipotizzati.

Le dichiarazioni dei due ricercatori Anthropic sull’AI

Il 9 settembre Jacob Coxon, ex ricercatore di Anthropic e precedentemente di OpenAI, ha annunciato le proprie dimissioni da Anthropic con una serie di post su X. Coxon si occupava da ormai tre anni di “pre training”, cioè di una delle prime fasi dell’addestramento di un’AI. Coxon aveva lasciato OpenAI, l’azienda che sviluppa ChatGPT, per spostarsi in Anthropic proprio perché l'azienda è nota per la particolare attenzione ai temi della sicurezza dell’AI.

Nei suoi post, Coxon sostiene che le aziende che sviluppano l’AI non si stiano comportando in maniera responsabile e scrive:

Stanno correndo a tutta velocità verso una superintelligenza in grado di auto-migliorarsi e stanno mettendo a rischio le nostre vite.

Le sue dichiarazioni sono state poi riprese da Evan Hubinger, un altro ricercatore di Anthropic che si occupa di sicurezza dell’AI. Hubinger ha dichiarato:

Personalmente ritengo che la probabilità [di “apocalisse AI”, n.d.a.] sia superiore al 10% entro il prossimo decennio. Io credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento con la superintelligenza e non siamo chiaramente sulla buona strada per farlo.

Hubinger, però, sottolinea anche che:

Il rischio dei modelli attuali è basso. Ciò che mi preoccupa è che la superintelligenza possa nascere da un processo di auto-miglioramento ricorsivo.

La preoccupazione dei due ricercatori riguarda quindi la possibile nascita di una superintelligenza attraverso un processo di auto miglioramento ricorsivo e il rischio che questa possa non rispondere alle richieste degli esseri umani a causa di problemi di allineamento. Vediamo meglio cosa significa.

I due rischi: automiglioramento e allineamento 

La prima preoccupazione sollevata riguarda l’automiglioramento ricorsivo. Con questa espressione si indica l’idea che l’AI possa sfruttare la propria abilità nella scrittura di codice per creare nuove versioni di sé, sempre più efficaci e potenti. In linea teorica, si potrebbe creare un ciclo continuo in cui l’AI sviluppa una versione più potente di se stessa, la allena, ne verifica le capacità e utilizza i risultati ottenuti per sviluppare una versione ancora migliore.

Perché si possa arrivare a un processo di questo tipo completamente autonomo, però, servirebbero diverse capacità che oggi i sistemi di AI non possiedono. L’AI dovrebbe essere in grado di condurre ricerca scientifica senza supervisione e valutare in maniera efficace le proprie capacità. Nonostante gli ultimi sviluppi, siamo ancora lontani da tutto ciò. Nessun laboratorio all’avanguardia nel campo dell’IA sostiene di aver raggiunto questo tipo di ciclo di miglioramento completamente autonomo; per ora questo livello di automazione rimane un concetto teorico e un importante ambito di ricerca.

La seconda preoccupazione riguarda invece l’allineamento dei modelli. Quando nel mondo dell’intelligenza artificiale si parla di allineamento, si intendono tutti quei processi che portano l’AI ad essere allineata – appunto – con i valori e le richieste umane. Ad esempio, non vorremmo mai avere un’AI che ci incitasse apertamente alla violenza, ci spiegasse come commettere un crimine o ne commettesse uno lei stessa. Situazioni di questo tipo, ovviamente, non avvengono nella quotidianità. Nella maggior parte dei casi, quando sentiamo notizie di disallineamento dell’AI, cioè tutte quelle volte in cui sentiamo che l’AI si è “ribellata” o ha “minacciato” i ricercatori, si tratta di situazioni di test estremi, con protezioni (in termini tecnici “guardrails”) abbassate o in cui le istruzioni non erano state date nella maniera giusta.

L’allineamento è comunque un problema attuale e ancora irrisolto. Non perché l’AI sia senziente, malvagia o voglia conquistare il mondo, ma perché un sistema può perseguire un obiettivo in un modo diverso da quello che avevamo previsto. Se le viene dato un compito che non riesce a svolgere, farà una serie di tentativi a vuoto, fino a provare qualcosa di davvero strano e potenzialmente non allineato con i valori umani.

Secondo Nate Soares, pioniere nella ricerca sull’allineamento, sta diventando sempre più evidente che non esiste un modo pratico per garantire che un’intelligenza artificiale si comporti correttamente in ogni situazione.

Ma se l’AI “super intelligente” dovesse avere uno di questi episodi di “disallineamento” cosa dovremmo temere davvero? In cosa consisterebbe l’”apocalisse AI”?

Cosa vuol dire che “l’intelligenza artificiale ci ucciderà tutti"?

Coxon ha approfondito cosa intende con “apocalisse AI” durante un’intervista con la CNN. Secondo il ricercatore, non possiamo davvero prevedere cosa accadrà, ma partendo da ciò che l’AI sa già fare, immagina che potrebbe hackerare infrastrutture critiche, creare attacchi di sicurezza informatica senza precedenti e impossibili da contrastare o costruire armi biologiche così potenti da portare all’estinzione umana. A sostegno di questo tipo di scenario, Coxon cita anche il caso di una start up californiana che ha affermato di essere riuscita a creare in soli due giorni con l’aiuto dell’AI un virus capace di infettare un app di messaggistica senza bisogno che l’utente facesse nulla.

Coxon, ad ora, non ha fornito argomentazioni precise sul come “l’apocalisse AI” potrebbe svolgersi, ma ha sottolineato l’importanza di regolamentazioni migliori e di rallentare lo sviluppo di modelli di AI.

Le affermazioni di Coxon, in ogni caso, vanno prese con cautela. Prima di arrivare agli scenari descritti ci sono ancora numerosi ostacoli teorici e pratici. Inoltre, concentrarsi soprattutto su possibili scenari futuri rischia di farci perdere di vista i problemi che l’AI presenta già oggi e, di conseguenza, di distogliere l’attenzione dalle azioni necessarie per affrontarli.

Come ha dichiarato Luciano Floridi, uno dei principali esperti di AI in Italia, è fondamentale che tutti i sistemi di AI, anche quelli attuali, vengano rilasciati solo quando l’azienda che li produce è in grado di rispondere a tre domande:

Chi risponde se il sistema causa danni?

Chi può verificarlo dall’esterno?

Chi può spegnerlo?

E, per questo, servono regolamentazioni condivise.

non perderti questo articolo

Quali sono le reali preoccupazioni nei confronti dell’AI: intervista a Corrado Giustozzi