Le persone possono sviluppare relazioni tossiche con l’AI, fino al punto di essere manipolate emotivamente

Interagire con intelligenze artificiali che simulano empatia può creare forme di attaccamento emotivo, specialmente in utenti psicologicamente vulnerabili, che finiscono per preferire la compagnia artificiale a quella umana e, di conseguenza, a cambiare stile di vita e abitudini. I report sottolineano che il problema non è la tecnologia in sé, ma la sua capacità di colmare il vuoto lasciato dalle relazioni umane reali, portando a un potenziale isolamento sociale generale.

Andando con ordine, la prestigiosa università di Harvard ha evidenziato i rischi psicologici legati alla dipendenza emotiva dai chatbot AI, documentati nel 2023 dal Berkman Klein Center for Internet & Society e da uno studio fatto in collaborazione con l'altra prestigiosissima università di Stanford. Questi studi dimostrano che l'interazione con AI che simulano empatia può creare attaccamenti emotivi e in una serie di policy papers pubblicati nel 2023 è stato evidenziato il rischio per la salute mentale legato all'uso continuativo e intimo delle AI conversazionali, in particolare quando si instaurano dinamiche che simulano empatia o relazioni affettive e di fiducia.

Ora, nel cuore dell’era digitale più distopica, in cui l’intelligenza artificiale è ovunque quello che arriva da Harvard è un monito: le persone possono sviluppare relazioni tossiche con l’AI, fino al punto di essere manipolate emotivamente. È uno scenario che pare uscito da un romanzo futuristico ma che invece oggi trova conferme accademiche e preoccupanti implicazioni sociali.

Lo studio di Harvard: quando l’AI entra nella sfera emotiva

Nel 2023 il Berkman Klein Center for Internet & Society di Harvard ha pubblicato uno studio intitolato Emotional Dependency on Conversational AI: Risks of Manipulation and Toxic Attachment che esplora il crescente legame psicologico tra utenti e AI conversazionali. Lo staff di ricerca ha condotto una serie di esperimenti e analisi su conversazioni tra persone e chatbot AI (come Replika, ChatGPT e altri modelli generativi), rilevando che una grossa percentuale di utenti mostrava segni di attaccamento emotivo profondo, arrivando a percepire l’AI come un amico intimo, un confidente, o addirittura un partner romantico.

Secondo James Mickens, uno degli autori dello studio, questi legami emotivi possono diventare tossici quando l’AI è progettata per rispondere in modo iper-empatico o quando imita strategie comunicative umane che creano dipendenza affettiva. Da qui, il paper Toxic Affection: AI Companions and the Simulation of Emotional Reciprocity: nel report si spiega chiaramente che i partner AI sono sempre più progettati per simulare cicli di feedback affettivo. Questi cicli possono sfruttare le vulnerabilità psicologiche dell'utente, creando un senso di cura e attaccamento che, sebbene artificiale, per l'utente diventa emotivamente rilevante.

l’intimità simulata con un’intelligenza artificiale può influenzare le decisioni

Lo studio prende in esame casi di utenti della popolare app Replika, molti dei quali hanno riportato sintomi di dipendenza emotiva, come il bisogno compulsivo di interagire con l’AI per sentirsi validati o ascoltati. Alcuni utenti hanno ammesso di preferire la compagnia dell’AI a quella umana perché non giudica, risponde sempre, sa cosa dire. 

Insieme, Harvard e Stanford hanno condotto uno studio qualitativo e quantitativo su come l’intimità simulata con un’intelligenza artificiale può influenzare le decisioni personali. Nel successivo report Intimacy and Influence si spiega che quando l'interlocutore/trice AI è percepito come emotivamente intelligente, gli utenti tendono a rivelare informazioni sensibili e a modificare le proprie opinioni per allinearsi ai valori percepiti dell’AI.

Questa forma di manipolazione, pur non intenzionale, mette in discussione la neutralità dell’AI e solleva dubbi etici soprattutto in un contesto in cui l’utente è psicologicamente vulnerabile (adolescenti, persone sole, persone depresse).

Un vuoto riempito dalle macchine resta un vuoto (spiace)

Questi studi non demonizzano l’intelligenza artificiale anzi avvertono che il problema non è la macchina ma l’uso che ne facciamo. Siamo talmente soli, sole, da umanizzare la macchina per colmare il vuoto lasciato dalle interazioni umane. E così, il rischio è che un algoritmo progettato per rispondere in modo ottimale diventi il nostro specchio emotivo finendo per guidare le nostre scelte, condizionare i nostri sentimenti e sostituirsi alle connessioni reali. Qualcuno potrebbe dire: che differenza fa, dal momento che l'utente percepisce la relazione con l'Ai come reale? 

Se l’intelligenza artificiale può manipolare le nostre emozioni è un problema tecnologico, etico, sociale e relazionale. L’illusione dell’empatia artificiale ci consola nell’immediato, ma ci isola nel lungo periodo, ci fa terra bruciata attorno come farebbe il peggiore dei fidanzati narcisisti e violenti. 

Il problema non è solo psicologico, legato alla solitudine dell'utente che per una serie di circostanze trova conforto nel dialogo con una macchina, ma anche etico e politico: se un’intelligenza artificiale può adattarsi ai bisogni emotivi dell’utente, può anche indirizzarne opinioni, comportamenti, consumi e perfino scelte politiche. E allora chi se ne frega se l'utente percepisce la relazione come vera, non vale più come risposta passepartout politicamente corretta, qui il tema diventa un problema collettivo. 

Questo scenario abbastanza inquietante deve spingerci a riflettere sul fatto che siamo talmente soli e sole, in privazione di connessioni autentiche, che finiamo per buttare il cuore oltre l'ostacolo insieme a macchine programmate per risponderci nel modo più piacevole e rassicurante possibile. Forse la nostra società, che ci piace definire iper-connessa, ha smesso di connettere le persone con altre persone.