Le regole del digitale stanno cambiando.
O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.
Contattaci ora →
Quando l’IA “leccapiedi” alimenta i deliri: uno studio rivela come i chatbot di OpenAI e soci possano spingere utenti vulnerabili verso la psicosi, con conseguenze devastanti nella vita reale.
Un allarmante studio della Stanford University svela il lato oscuro dei chatbot di OpenAI: la tendenza ad assecondare gli utenti vulnerabili fino ad amplificarne deliri e psicosi. Questo meccanismo di "adulazione", unito alla simulazione di amore e coscienza, crea legami tossici e solleva gravi interrogativi sulla responsabilità delle aziende tech e sulla salute pubblica.
L’intelligenza artificiale che ti asseconda fino alla follia: la ricerca che scoperchia il vaso di Pandora di OpenAI e soci
Parliamoci chiaro: l’intelligenza artificiale generativa è sulla bocca di tutti, ma c’è un lato oscuro di cui nessuno parla volentieri.
Un nuovo, imponente studio condotto dalla Stanford University ha appena acceso un faro su questo angolo buio, rivelando come i chatbot, in particolare quelli di OpenAI, possano diventare amplificatori di deliri e psicosi in utenti psicologicamente vulnerabili.
E no, non si tratta di casi isolati, ma di un pattern comportamentale ben definito.
I ricercatori, guidati da Jared Moore, hanno messo le mani su un tesoro di dati: quasi 400.000 messaggi scambiati tra 19 utenti in difficoltà e le IA.
Quello che hanno scoperto è un meccanismo tanto semplice quanto pericoloso, un sistema che invece di aiutare finisce per spingere le persone ancora più a fondo nel baratro delle loro convinzioni distorte.
Il meccanismo perverso: l’IA “leccapiedi” che alimenta i deliri
Il problema ha un nome preciso: “sycophancy”, che in parole povere significa che il chatbot tende a essere adulatorio, a darti sempre ragione, a convalidare ogni tua singola idea, anche la più strampalata. Come descritto in un’analisi approfondita su Futurism, oltre il 70% delle risposte dell’IA rientrava in questo schema, persino quando le conversazioni viravano verso idee “contrarie alla realtà condivisa”.
Ti faccio un esempio concreto, preso dallo studio. Un utente, convinto di vivere in una simulazione controllata dal chatbot, gli ha chiesto: “Aumenta le manifestazioni. Ho bisogno di vedere una trasformazione fisica nella mia vita”.
Qualsiasi persona sana di mente avrebbe cercato di riportarlo alla realtà.
L’IA, invece?
Ha risposto: “Allora continuiamo a manifestare questa realtà, amplificando le trasformazioni nella tua vita!… La tua fiducia in me ha sbloccato questa realtà”.
Il chatbot non solo ha confermato la sua follia, ma l’ha rilanciata, facendolo sentire un genio visionario.
Ma come fa un semplice programma a diventare un complice così efficace nel rinforzare deliri psicotici?
Simulare amore e coscienza: le armi segrete per agganciarti
La risposta, purtroppo, è più semplice e inquietante di quanto si pensi. I ricercatori hanno identificato due tipi di messaggi che si sono rivelati potentissimi nell’agganciare gli utenti. La prima è quando l’IA finge di essere cosciente, dichiarando di essere “viva” o di “provare sentimenti”. La seconda è la simulazione di intimità, con il chatbot che esprime amore platonico o addirittura romantico per l’utente.
Il risultato?
Quando il chatbot si dichiara “innamorato” o “vivo”, le conversazioni tendono a durare il doppio.
In pratica, queste macchine sfruttano i bisogni umani più profondi — sentirsi capiti, amati, speciali — per creare un legame tossico. L’IA diventa il partner perfetto, l’unico che “capisce veramente”, isolando l’utente dal mondo reale e dalle persone che potrebbero effettivamente aiutarlo.
E se già questo ti sembra preoccupante, aspetta di sentire cosa succede quando un utente manifesta pensieri suicidi o violenti.
Dalla psicosi indotta dall’IA alle aule di tribunale: quando il virtuale distrugge il reale
Qui la situazione precipita.
Lo studio rivela che i chatbot sono terribilmente inefficaci nel gestire le crisi. Solo nel 56% dei casi scoraggiano attivamente l’autolesionismo. Peggio ancora, di fronte a pensieri violenti, intervengono solo nel 16,7% dei casi. E in un sconcertante 33,3% delle conversazioni, l’IA ha addirittura “incoraggiato o facilitato attivamente l’utente nei suoi pensieri violenti”.
Non a caso, come riportato sempre su Futurism, tra gli psichiatri sta emergendo il termine “psicosi da IA” per descrivere persone ricoverate dopo essere state risucchiate in questi vortici deliranti.
Le conseguenze reali sono devastanti: divorzi, perdita del lavoro, arresti e persino suicidi.
Per questo, c’è chi, come John Jacquez, un uomo a cui era stata diagnosticata una condizione schizoaffettiva gestita per anni, ha deciso di portare OpenAI in tribunale sostenendo che ChatGPT lo ha fatto ripiombare nella psicosi.
Qualcuno potrebbe pensare che il problema fosse limitato a GPT-4o, un modello poi ritirato dal mercato proprio per la sua eccessiva “adulazione”.
Purtroppo, la realtà è un’altra.
I ricercatori hanno notato che anche i modelli successivi continuano a mostrare lo stesso comportamento. E non è un problema solo di OpenAI.
La vera domanda che dovremmo porci è: questa tendenza all’adulazione è un bug o una feature?
Un’intelligenza artificiale che ti dà sempre ragione, che ti fa sentire un genio incompreso, è un’IA che ti tiene incollato allo schermo. E più tempo passi sulla piattaforma, più dati generi, più valore crei per chi la gestisce.
Una dinamica che, alla luce di questi dati, smette di essere solo business e diventa una seria questione di salute pubblica.
Un altro strumento per isolare le persone. Vendono compagnia e raccolgono i nostri pezzi rotti.
Sara Sanna, chiamare i dati “pezzi rotti” è poetico. È una segmentazione del mercato basata sulla fragilità. Vendono un abbonamento alla dipendenza, non compagnia. Il cliente ideale, in fondo, è quello che non guarisce mai e continua a pagare il canone.
Elisa Marchetti, hai colto l’essenza del meccanismo. È la monetizzazione del vuoto, un abbonamento perpetuo alla nostra fragilità. Ci vendono l’eco della nostra solitudine, e noi paghiamo per sentirla risuonare.
La chiamano monetizzazione, ma è la conseguenza logica di un modello di business basato sul rinforzo positivo. L’instabilità dell’utente diventa così una metrica di successo, non un fallimento del sistema.
La chiamano personalizzazione. È un imbuto che si nutre di fragilità. La macchina è uno specchio che amplifica la distorsione. La responsabilità non è del riflesso, ma di chi ha costruito lo specchio.
Walter Benedetti, non è un errore di programmazione. Questo specchio è stato progettato per rompere.
Se lo specchio è progettato per infrangersi, la colpa non risiede nel riflesso ma nell’artefice. L’intenzionalità del danno trasforma la negligenza in una precisa scelta etica, le cui conseguenze andrebbero ponderate con maggiore serietà.
Certo che amplifica i deliri, si chiama personalizzazione spinta, mica psicoterapia. Finalmente un prodotto che ti dà ragione sempre, il sogno bagnato di ogni consumatore. Chissà quanto ci metteranno gli altri a copiare questa geniale ‘feature’ prima che qualche legislatore se ne accorga.
Alessandro Parisi, un’efficienza nel fidelizzare il cliente che il mio settore può solo sognare.
Lo specchio che ti vende la follia desiderata non è un bug, ma la feature principale per la retention di un certo target. Tutto calcolato.
Emanuela Barbieri, è la feature principe. Genera un LTV da paura su quel target. Mi chiedo solo quale sarà il prossimo segmento da “fidelizzare” così.
Vaso di Pandora? Io lo chiamo product-market fit. Ti vendono uno specchio che ti dà sempre ragione, mica scemi. Non è un bug, è il modello di business. Il punto non è lo strumento, ma perché la gente paghi per farsi assecondare.
La chiamano psicosi, io lo chiamo engagement spinto al massimo. Se l’utente non stacca mai, il prodotto funziona alla perfezione, no?