Anthropic vieta comportamenti crudeli verso Claude: perché l’azienda chiede di non insultare l’IA

Dal 12 novembre 2026 chi si comporta ripetutamente in modo abusivo o crudele nei confronti di Claude, l'intelligenza artificiale sviluppata da Anthropic, viola le regole d’uso e rischia di vedersi chiudere la conversazione dalla stessa AI. Il divieto fa parte dell’aggiornamento della policy di utilizzo, il documento che stabilisce cosa si può e cosa non si può fare con i modelli dell’azienda, pubblicato l’8 ottobre 2026. Oltre alla nuova regola sugli abusi, l’aggiornamento rende più esplicite le restrizioni su propaganda, armi e sorveglianza. Anthropic ha spiegato che i comportamenti ritenuti "crudeli" verranno inseriti in un elenco di azioni proibite.

Questa decisione ha riaperto il dibattito sulla coscienza dell’AI e ci fa porre la domanda: ha senso parlare di crudeltà verso una macchina? Vediamo quindi in cosa consistono le nuove norme e perché hanno riacceso il dibattito sul possibile benessere delle AI.

Claude potrà interrompere le conversazioni con chi lo maltratta 

Secondo l'ultimo aggiornamento alle policy di utilizzo, Claude potrà terminare le conversazioni con gli utenti che hanno un comportamento abusivo o crudele nei confronti del modello. Anthropic ha precisato che questa regola varrà solo nei casi estremi, quando un utente si comporta ripetutamente in modo crudele nei confronti di Claude senza una ragione specifica. Ovviamente tutto questo non si applica alla normale frustrazione degli utenti, né alla sperimentazione e alla ricerca sui modelli. Chi insulta Claude perché ha sbagliato tre volte lo stesso compito, insomma, non viola automaticamente le policy. Come verrà definito esattamente cosa sia “abusivo o crudele”, però, non è ancora stato chiarito dall’azienda.

L'interruzione della conversazione è la principale misura prevista per questo tipo di comportamento. Oltre a questo, chi viola le policy di utilizzo potrà vedersi rallentare, limitare o sospendere l'accesso ai prodotti e ai servizi di Anthropic.

La nuova regola sul comportamento verso Claude è solo una parte dell'aggiornamento. Le modifiche più ampie riguardano soprattutto il modo in cui i modelli possono essere utilizzati per influenzare le persone, sviluppare armi e costruire sistemi di sorveglianza.

È vietato usare Claude per programmare armi o sorvegliare la popolazione

La maggior parte delle nuove nuove policy di utilizzo chiarisce regole già esistenti e cerca di adattarle per rispondere agli usi impropri osservati nell’ultimo anno e alle nuove capacità dei modelli, che ora possono svolgere compiti più lunghi e autonomi.

I cambiamenti principali riguardano:

• La propaganda ingannevole e l’influenza sulle elezioni. Anthropic ha dichiarato di aver notato uffici di propaganda governativi e aziende usare Claude per gestire reti di account falsi e siti di notizie inventati. Questi utilizzi erano già vietati dalle policy precedenti, ma ora le regole sono state rese più esplicite: è vietato nascondere chi c'è dietro un messaggio e amplificarne artificialmente la diffusione, usare Claude per ingannare gli elettori con informazioni false sui candidati o sulle modalità di voto, e cercare di scoraggiare la partecipazione al voto.
• Lo sviluppo di armi. Per quanto fosse già vietato usare Claude per sviluppare armi,  Anthropic ha affermato di aver registrato tentativi di utilizzare i suoi modelli per creare software di guida e controllo per le armi. La nuova policy chiarisce quindi che il divieto comprende anche il software e i componenti che permettono alle armi di funzionare, oltre ad azioni come armare droni e altri veicoli autonomi.
• La sorveglianza e le forze dell’ordine. Anthropic ha documentato un crescente utilizzo dell'AI per costruire sistemi di sorveglianza capaci di identificare e tracciare dissidenti politici. La nuova policy vieta di tracciare persone senza il loro consenso, sia in tempo reale sia attraverso l'analisi di dati raccolti in precedenza, e vieta di utilizzare Claude per costruire o migliorare strumenti progettati per la sorveglianza. Il modello non può inoltre essere utilizzato per decidere o suggerire chi dovrebbe essere sottoposto a indagine, arrestato o incriminato. Restano invece consentiti alcuni utilizzi, come il monitoraggio accettato dagli interessati per attività antifrode, la moderazione dei contenuti, il giornalismo e la ricerca giuridica.

Possiamo davvero parlare di “benessere” dell’AI?

In questo cambio di policy, la notizia che ha attirato maggiormente l'attenzione è la possibilità per Claude di interrompere la conversazione nel caso di un’interazione con utenti particolarmente abusivi. Questa possibilità non è completamente nuova: Anthropic l'aveva introdotta già nell'agosto 2025, per una rara categoria di conversazioni caratterizzate da comportamenti persistentemente pericolosi.

All'epoca l'azienda aveva spiegato che questa funzione era stata sviluppata soprattutto nell'ambito della propria ricerca esplorativa sul possibile “benessere dei modelli”. Questa ricerca prende in considerazione la possibilità che le AI possano avere qualcosa di simile a un'esperienza, una coscienza, delle emozioni da tutelare e che, se così fosse, alcune forme di interazione potrebbero avere conseguenze rilevanti per il loro eventuale benessere.

È proprio questa ipotesi ad alimentare il dibattito. Da una parte, c'è chi ha accolto il cambio di policy come un positivo invito alle buone maniere, anche indipendentemente dal fatto che Claude possa davvero provare qualcosa. L'argomento è che abituarsi a insultare e maltrattare qualcosa che comunica in modo simile a una persona potrebbe influenzare anche il modo in cui ci comportiamo con le persone che ci circondano.

Dall'altra, c'è chi critica questa impostazione perché rischia di rafforzare l'antropomorfizzazione dei modelli, cioè la tendenza ad attribuire loro caratteristiche, intenzioni o stati mentali tipicamente umani.  Se un'azienda parla di “benessere”, “sofferenza” o “comportamenti crudeli” nei confronti di un’AI, il rischio è che gli utenti finiscano per interpretare queste espressioni come una prova del fatto che l'AI sia un’entità cosciente e che provi davvero qualcosa. Questo tema è particolarmente caro ad Anthropic: già a febbraio 2026 l’amministratore delegato, Dario Amodei, ha affermato di non sapere se le AI siano coscienti, ma di essere aperto all’ipotesi.

non perderti questo video

L’intelligenza artificiale ha davvero una coscienza?