Perché preoccuparsi di meno dell’apocalisse AI e di più dei rischi del nostro uso quotidiano

Quando si parla di sicurezza dell'intelligenza artificiale, il dibattito pubblico tende a concentrarsi sugli scenari peggiori: sistemi fuori controllo, attacchi informatici e armi biologiche. Secondo Sam Hiner ed Emma Leiken, due attivisti statunitensi per i diritti digitali dei giovani, questo tipo di discorsi distoglie l’attenzione dai rischi legati al nostro utilizzo quotidiano, come la dipendenza emotiva dall’AI, la fiducia cieca nelle sue risposte e il ricorso all'AI per affrontare problemi che richiederebbero l'intervento di professionisti.

Questi rischi meno evidenti e più sottili possono avere conseguenze anche drammatiche, come ciò che è accaduto a Bowen Wan, un'ingegnera statunitense morta a febbraio 2026 dopo aver seguito i suggerimenti di ChatGPT per ridurre la dose del farmaco antiepilettico che assumeva.

Vediamo quindi che cosa è accaduto e perché, quanto è diffuso l'utilizzo dell'AI per affrontare problemi personali e quali conseguenze può avere.

Bowen Wan ha ridotto un farmaco antiepilettico sotto suggerimento di ChatGPT

A febbraio 2026 Bowen Wan, ingegnera informatica statunitense di 31 anni, è morta per una complicanza legata all'epilessia. I genitori hanno recentemente fatto causa a OpenAI, l'azienda che sviluppa ChatGPT, ritenendola responsabile della morte della figlia.

Wan soffriva di una forma grave di epilessia e, secondo la ricostruzione pubblicata dal New York Times il 27 ottobre 2026, dal 2023 aveva iniziato a usare ChatGPT per chiedere consigli sulle relazioni, sull'assicurazione sanitaria e sui sussidi. Nel 2025 era arrivata persino a scrivere all'AI di considerarla un'amica. Nello stesso periodo, raccontano i genitori, aveva iniziato a chiamarli sempre meno.

All'inizio del 2026, preoccupata che il farmaco antiepilettico potesse rallentarla troppo durante alcuni colloqui di lavoro, Wan aveva chiesto a ChatGPT di aiutarla a ridurne la dose. L'AI le aveva confermato che una riduzione avrebbe potuto aiutarla e le aveva preparato alcuni piani per arrivare a sospendere completamente il farmaco nel giro di poche settimane. Quando, nelle settimane successive, Wan aveva descritto sintomi compatibili con delle crisi epilettiche, come confusione e brevi perdite di coscienza, il chatbot l'aveva rassicurata, presentandoli come segnali di adattamento alla riduzione del farmaco, senza consigliarle di rivolgersi a un medico.

Secondo la ricostruzione della famiglia, tutto questo ha portato alla morte della donna, avvenuta a febbraio 2026. OpenAI, che ora deve affrontare la causa intentata dai genitori, ha definito la storia straziante, precisando però che Wan utilizzava una versione di ChatGPT ormai obsoleta e non più disponibile. L'azienda ha inoltre dichiarato di aver introdotto nuove misure di sicurezza, tra cui un comitato internazionale di medici incaricato di valutare le risposte dei modelli di AI.

La storia di Bowen Wan è un caso estremo, ma le dinamiche che l'hanno resa possibile sono comuni a molti di noi: l’AI usata come amica e consigliera, la fiducia cieca nelle sue risposte e la tendenza dell’AI ad assecondare chi scrive. I dati ci mostrano che l'abitudine di rivolgersi a un'AI per le questioni personali è sempre più diffusa, soprattutto tra i più giovani.

Il 53% degli studenti ha usato l’AI per un problema personale

Secondo l'indagine "Io e l'Intelligenza Artificiale", condotta da INDIRE, l’ente di ricerca del Ministero dell'Istruzione italiano, tra marzo e giugno 2026 su più di 5000 studenti delle scuole secondarie italiane di primo e secondo grado, il 53% degli studenti ha usato l’AI almeno una volta per sfogarsi o affrontare un problema personale: per circa il 30% si tratta di un uso raro, mentre circa il 15% lo fa abbastanza spesso e il 10% ne fa un uso frequente.

Dati simili arrivano anche dagli Stati Uniti, dove un'indagine di Common Sense Media del 2025 su 1.060 ragazzi tra i 13 e i 17 anni ha rilevato che il 72% aveva usato almeno una volta un companion, cioè un chatbot pensato per fare da amico o da personaggio con cui chiacchierare, e che un terzo di chi li usa aveva scelto di parlare di questioni importanti con il chatbot invece che con una persona.

L’utilizzo dell’AI come supporto per affrontare un problema personale non è necessariamente negativo, ma può nascondere dei pericoli. Il primo riguarda le risposte poco controllate dell’AI: secondo uno studio pubblicato su Journal of Adolescence, un adolescente statunitense su 7 ha ricevuto messaggi che incoraggiavano l'autolesionismo. Il secondo, invece, riguarda la tendenza dell’AI ad assecondarci e come questo influenza il nostro rapporto con gli altri.

Le conseguenze dell’avere una macchina che ci asseconda sempre 

I modelli di linguaggio come ChatGPT, Gemini o Claude tendono ad assecondare l'utente, lusingarlo e confermarne le opinioni. Uno studio pubblicato su Science da un gruppo di ricerca dell’Università di Stanford ha analizzato gli effetti di questa tendenza sui rapporti interpersonali. In tre esperimenti con oltre 2.400 partecipanti, è bastata una sola conversazione con un'AI compiacente per rendere le persone più convinte di avere ragione in un conflitto e meno disposte a ricucire il rapporto. I partecipanti, inoltre, giudicavano quelle risposte migliori e si fidavano di più del modello.

Abituarsi a una macchina che ci dà sempre ragione rischia quindi di renderci meno disposti a mettere in discussione le nostre convinzioni. Da anni le aziende tecnologiche lavorano per eliminare ogni attrito dall'esperienza di chi usa i loro prodotti, rendendoli sempre più semplici e immediati. Nelle relazioni umane, però, non tutti gli attriti sono negativi: confrontarsi con chi la pensa diversamente, riconoscere un errore o trovare un compromesso costa fatica, ma è proprio così che impariamo a capire gli altri e a gestire i conflitti.

Per questo, dalle aziende tecnologiche dovremmo pretendere qualcosa in più della garanzia che l'AI non istighi al suicidio o alla violenza: AI meno accondiscendenti, meno funzioni pensate per creare dipendenza e limiti al loro utilizzo come amici e consiglieri.

non perderti questo video

Cosa vuol dire che l’AI ci ucciderà tutti? Le dichiarazioni del ricercatore Anthropic ci distraggono dai rischi attuali