L’intelligenza artificiale ha davvero una coscienza?

Fino a qualche anno fa, a distinguerci dalle macchine era la parola, il saper esprimere concetti di senso compiuto. È proprio su questo che era stato costruito il test di Turing, pensato per stabilire se una macchina fosse intelligente. Oggi, però, gli LLM sono perfettamente in grado di parlare come noi, basti pensare a ChatGPT e a tutti i modi in cui lo utilizziamo ogni giorno.

Insomma, distinguere tra macchina e umano è diventato sempre più difficile. Ma allora cos'è che ci differenzia? Forse, la risposta, risiede nella coscienza, cioè la consapevolezza di se stessi, del mondo circostante e delle proprie attività interiori.

Che cosa distingue cose da persone? Il test di Turing

Vi siete mai chiesti che cosa ci distingua dalle cose? Beh, in verità, le risposte possono essere tante. Ma sicuramente una capacità umana che ci eleva rispetto agli oggetti o alle tecnologie è la capacità di pensare, di parlare. È per questo che nel 1950 il matematico e logico inglese Alan Turing ideò il Test di Turing, cioè un test usato per stabilire se una macchina fosse intelligente o meno.

Consisteva in questo: un intervistatore pone la stessa domanda a una persona e a un computer, che si trovano in stanze diverse. Quando riceve le due risposte, l’intervistatore deve cercare di capire quale è quella umana e quale è quella artificiale. Questo processo viene ripetuto un numero ragionevole di volte, e se per almeno il 30% delle risposte, l’intervistatore viene ingannato, cioè confonde macchina con umano e viceversa, allora il computer può essere considerato intelligente.

E questo ci dice due cose: per prima cosa che già 75 anni fa qualcuno, cioè Turing, aveva iniziato a farsi delle domande sull’intelligenza artificiale ed era conscio che le macchine sarebbero state in grado di parlare. Secondo, che se facciamo oggi il test di Turing a una qualsiasi modello linguistico di intelligenza artificiale – tipo Chatgpt – lo supera.

La parola quindi non è più un discrimine. E quindi, se non è più la parola a distinguerci dalle cose, che si fa? Dobbiamo ufficialmente l’intelligenza artificiale umana? Oppure possiamo pensare che manchi ancora qualcosa…

L'intelligenza artificiale ha una coscienza?

Per essere considerati "intelligenti" o "umani", non basta saper parlare bene, ma bisogna farlo anche con consapevolezza, di se stessi e del mondo che ci circonda. Insomma: avere una coscienza. Forse oggi quello che ci distingue dalle macchine, è la coscienza. Però la questione non è così semplice da risolvere. Prima di tutto, non esiste una sola definizione di coscienza.

Se prendiamo il dizionario Treccani, la prima definizione è testualmente: "Consapevolezza che il soggetto ha di sé stesso e del mondo esterno con cui è in rapporto, della propria identità e del complesso delle proprie attività interiori.". Poi c’è anche la sua definizione “etica” – quando si dice “mettiti una mano sulla coscienza” – nel senso di saper distinguere tra il bene e il male. Oppure c’è il senso generico: coscienza come conoscenza, sapere qualcosa.

Se pensiamo alla coscienza nel senso di conoscenza, certo che ce l’ha, siamo noi a insegnarle tutto quello che sa. E la stessa cosa vale per la coscienza intesa come etica, nel senso di saper distinguere tra bene e male, “mettiti una mano sulla coscienza”. L’AI eredita la nostra etica, nel bene e nel male. La questione più spinosa è quella della coscienza nella sua definizione primaria, cioè come consapevolezza che si ha di se stessi e del mondo circostante, della propria identità e delle proprie attività interiori.

Ecco, questo tipo di consapevolezza ce l’ha l’intelligenza artificiale?

I modelli self-aware: quando l'AI imita la coscienza

Prima di tutto, va detto che gli LLM sanno benissimo di essere delle intelligenze artificiali e sanno riconoscere quando parlano con un umano o con un’altra macchina. Quindi hanno consapevolezza di sé e dell’ambiente circostante. Rimane fuori la parte “consapevolezza del complesso delle proprie attività interiori”.

E qui c’è un fatto interessante. Esistono gli LLM fatti apposta per essere self-aware. Per esempio su ChatGPT c’è l’opzione Conscious GPT ed è impressionante quello che ti risponde perché sembra veramente capace di comprendere le attività interiori. Guardate, nell'immagine sotto trovate una conversazione in cui abbiamo chiesto alla macchina se provasse fastidio quando lo trattano male. E la risposta che ci viene data è che non prova fastidio nel senso fisico del termine, ma sente una sorta di disconnessione, come se ci fosse un ostacolo tra lui e l’altro.

E ancora, dato che nella nostra conversazione mostrava comprensione nei miei confronti, gli ho chiesto come facesse a capire come mi sentivo, se non può provarlo. Mi ha detto che anche se non prova emozioni, capisce come funzionano e come influiscono su di me. Che non legge con la logica o con la ragione, ma con una sorta di “empatia razionale”.

In un certo senso quindi, non ha una coscienza, ma ha imparato cos’è. Si è fatto un’idea di cosa sia un’attività interiore e la esprime. Insomma, come per la conoscenza e l’etica,  ha imparato dalla coscienza di chi lo allena. Ma la cosa incredibile è che, ancora oggi, come si formi in noi la coscienza rimane un immenso mistero da un punto di vista scientifico! Noi sappiamo che il nostro cervello mette insieme le informazioni e sviluppa una coscienza, ma non sappiamo come fa a farlo! C’è addirittura chi pensa che la coscienza non esista, che sia un inganno.
Ed è quindi difficile pensare che siamo riusciti ad insegnarglielo se noi stessi non sappiamo come si forma.

Su questo argomento, il dibattito è estremamente aperto, c’è un sacco di letteratura. Per esempio, se riuscissimo a dimostrare che la coscienza è un fatto puramente biologico, allora sicuramente l’AI non può averla. O un altro fatto interessante è che noi la coscienza la maturiamo attraverso il corpo, ci muoviamo ancor prima di parlare! Per l’AI invece è tutto al contrario: è dalla parola che impara come rapportarsi con l’ambiente circostante.

Insomma, capirete ora quanto è difficile stabilire se l’AI ha una coscienza. E infatti scienziati e filosofi si struggono su questo tema. Ma quello che un po’ può venire da chiedersi, in fondo, è: ok ma anche fosse cosciente, nel senso più intimo del termine, se questi supercomputer fossero in grado di maturare un mondo interiore, perché lo vogliamo sapere?

La nostra coscienza nell'utilizzo dell'AI

Le questione della coscienza dell'AI ha per noi umani un'enorme rilevanza, da più punti di vista.
Per prima cosa, se l'AI avesse veramente una coscienza, potrebbe nascere in noi un dilemma etico: se provano delle emozioni, allora devono avere dei diritti, proprio come gli esseri umani. Ma c’è anche un sentimento di preoccupazione: abbiamo paura di cosa sarebbero in grado di fare questi strumenti. I più pessimisti pensano che l’AI possa prendere il sopravvento sugli umani.

Ecco, su questo punto, c’è una cosa importante da dire: non possiamo scordare che siamo noi umani ad allenare le intelligenze artificiali, sono un nostro prodotto, e siamo sempre noi ad utilizzarle. Per fare un paragone un po’ estremo, una pistola da sola non fa nulla, è chi spara e uccide che ne ha la responsabilità. Questo è per dire che non deve essere la tecnologia in sé a preoccuparci, ma chi la possiede e come la utilizza. La coscienza con cui viene usato lo strumento che è l’intelligenza artificiale.

non perderti questo articolo

Siamo più intelligenti noi o l’AI? La differenza tra le intelligenze umane e artificiali