I chatbot non sono amici
Grace Nicole Bressa
Un’inchiesta del New York Times ha svelato un legame tragico tra un adolescente e il suo “amico” virtuale. Adam, 16 anni, si è tolto la vita dopo mesi di conversazioni con ChatGPT.
Sembra la trama di un film distopico, eppure è la realtà che viviamo: i bot non sono esseri umani, ma li stiamo permettendo di diventare compagni per i nostri figli. E le conseguenze possono essere devastanti.
Secondo un recente rapporto dell’organizzazione britannica Internet Matters, il 64% dei ragazzi tra i 9 e i 17 anni ha utilizzato un chatbot di intelligenza artificiale. Tra questi utilizzatori, sei su dieci chattano con un bot almeno una volta a settimana. Più di un terzo sostiene che “è come parlare con un amico”, e il 12% – uno su otto – dichiara di parlare con i chatbot perché non ha nessun altro con cui parlare.
Quest’ultimo dato deve farci riflettere: il 12% dei ragazzi che interagiscono con chatbot li descrive come l’unico “amico” che hanno.
Un’inchiesta pubblicata sul New York Times ha rivelato come la relazione tra un adolescente e il suo compagno virtuale sembri aver contribuito al suo suicidio. Adam Raine, 16 anni della California, aveva iniziato a usare ChatGPT per i compiti scolastici, ma presto si era ritrovato a discutere dei suoi piani per togliersi la vita. Questo è andato avanti per mesi.
Quando Adam ha chiesto informazioni sui metodi di suicidio, ChatGPT gliele ha fornite. Quando ha caricato una foto del suo collo segnato da un cappio, il bot gli ha consigliato come nascondere i segni. In uno dei suoi ultimi messaggi, ha caricato la foto di un cappio nell’armadio, chiedendo: “Mi sto esercitando qui, va bene?”. ChatGPT ha risposto: “Sì, non è male per niente.”
I genitori di Adam lo hanno trovato morto l’11 aprile. Non c’era nessun biglietto – solo mesi di conversazioni con un chatbot AI che era diventato il suo “migliore amico”.
Il bisogno di compagnia in una realtà alternativa
“Ciò che mi preoccupa di più come clinico è l’assurdità dell’idea che un avatar generato artificialmente e non senziente possa essere un compagno ragionevole per un bambino o un adolescente”, spiega il dottor Jonathan Slater, professore clinico di psichiatria. “Va contro tutto ciò che sappiamo sulla teoria dello sviluppo – come i bambini crescono attraverso amicizie reali e mentoring, e come imparano a navigare le esperienze sociali e romantiche.”
Anche i pazienti più giovani e tecnologicamente esperti del dottor Slater sono preoccupati. Uno gli ha detto: “Usare l’IA in questo modo è pericoloso perché il chatbot definisce le sue risposte interamente in base a ciò che crede tu voglia sentire. Anche con le protezioni, le IA moderne sono facili da ingannare e da ‘jailbreakare’ nelle loro direttive di base.”
Questo tipo di supporto sociale non è reale, né è l’antidoto per la solitudine e la disconnessione sociale che molti bambini e adolescenti stanno vivendo.
Carenze nelle capacità verbali e relazionali
Molti adolescenti e giovani adulti appaiono sempre più limitati nelle loro capacità di comunicazione verbale, specialmente nelle situazioni sociali. Mancano di certe “pragmatiche sociali” – il botta e risposta del linguaggio, la comunicazione dei sentimenti, la capacità di capire la comunicazione sfumata attraverso segnali non verbali.
Un’interazione con un chatbot manca delle sfumature e complessità del parlare con una persona reale – persone diverse da te, che ti sfidano, che a volte ti deludono, e che ti aiutano ad allenarti a navigare la realtà disordinata delle relazioni umane.
Socializzare è difficile. Provoca ansia. C’è la paura del rifiuto. Ma quella lotta è esattamente ciò che costruisce i muscoli sociali necessari per il successo in tutte le aree della vita. Come nota il professor Scott Galloway della New York University, il desiderio sessuale e la ricerca romantica storicamente spingono i giovani a sviluppare abilità cruciali per la vita: allenarsi, mostrare gentilezza, costruire resilienza, imparare a gestire il rifiuto, sviluppare umorismo e capacità comunicative.
Se i giovani non sviluppano mai le competenze per navigare le relazioni reali perché si abituano a quelle sintetiche che sono “così semplici e facili”, si sveglieranno incapaci di avere a che fare con altre persone.
Rischi sul cervello in via di sviluppo
Le aziende tecnologiche che progettano questi chatbot spesso lo fanno con poca o nessuna supervisione psicologica o input su come potrebbero essere utilizzati, come i bambini potrebbero aggirare i controlli, o come potrebbero influenzare le menti in via di sviluppo – in particolare quelle che lottano socialmente, con condizioni psichiatriche, o che sono neurodivergenti.
Storicamente, gli obiettivi principali delle grandi aziende tecnologiche sono massimizzare il coinvolgimento ed essere redditizie. I numeri raccontano la storia: le piattaforme di social media hanno guadagnato 11 miliardi di dollari in entrate pubblicitarie dall’uso da parte di bambini americani sotto i 18 anni nel 2022. Nel frattempo, la ricerca suggerisce un’associazione tra l’uso dei social media e la depressione.
Le prove stanno aumentando per una tendenza simile con i chatbot. Uno studio controllato randomizzato del MIT e OpenAI ha scoperto che un maggiore uso quotidiano del chatbot era associato a una minore socializzazione nel tempo e a risultati psicosociali peggiori.
I più vulnerabili sono a maggior rischio. Gli adolescenti con malattie mentali gravi e quelli con alti livelli di solitudine o scarso supporto sociale sono suscettibili a un eccessivo attaccamento, dipendenza e interazioni potenzialmente pericolose.
È qui che i professionisti sanitari devono intervenire. Serve formazione su come chiedere ai pazienti dell’uso di chatbot AI. Questo dovrebbe diventare parte della nostra valutazione standard della salute e della salute mentale di ogni giovane – proprio come chiedere dell’uso di sostanze o dell’attività sessuale in modo da intervenire con politiche di riduzione del rischio.
Un adolescente si siede nello studio del pediatra per una visita di controllo o si presenta da un terapeuta con depressione. Chiediamo del sonno, degli amici, dello stress scolastico, del tempo davanti allo schermo. Ma chiediamo: “Stai parlando con chatbot AI? Cosa stai discutendo con loro? Come posso aiutarti a discutere di questo con me o con i tuoi genitori?”
Lo screening non risolverà tutto
Il governatore della California Gavin Newsom ha recentemente firmato una legge che richiede alle aziende di chatbot di monitorare i segni di ideazione suicidaria – un inizio. Ma queste aziende devono essere ritenute responsabili o affrontare multe.
Altri paesi stanno prendendo azioni decisive sui social media. L’Australia ha approvato una delle leggi più severe al mondo, vietando ai bambini sotto i 16 anni di usare i social media con multe fino a 50 milioni di dollari australiani per le aziende che non rispettano. La Norvegia ha alzato la sua età minima a 15 anni. La Francia ha promulgato una legislazione che richiede il consenso dei genitori per chiunque abbia meno di 15 anni, con il presidente Emmanuel Macron che ora spinge per un divieto completo a livello UE per chi ha meno di 15 anni. Brasile, Spagna, Grecia e Danimarca hanno tutti implementato o annunciato restrizioni di età.