Il fenomeno del factwashing emerge dalle conversazioni informali, dove le informazioni perdono attribuzione e certezza
Quando un sistema di intelligenza artificiale scrive nella propria memoria un’informazione sbagliata, non lo fa quasi mai a partire da documenti ufficiali, email aziendali o comunicati stampa. Lo fa mentre processa una conversazione informale. Il dato è netto: il 55% delle scritture errate si verifica nel sentito dire conversazionale, mentre solo il 7% nasce da email aziendali. Una differenza statisticamente schiacciante, con un p-value inferiore a 0,001. Non sono i fatti a mancare, è il contesto che si sfalda. Questo fenomeno ha un nome — factwashing — e per la prima volta, la scorsa settimana, un gruppo di ricercatori ha pubblicato un sistema per rilevarlo.
L’epidemia del sentito dire
Il dato del 55% contro il 7% è controintuitivo. Verrebbe da pensare che i guai peggiori per la memoria dei sistemi AI arrivino da fonti strutturate, dove le informazioni sono dense e i fraintendimenti possono propagarsi in modo silenzioso. Invece no: è la conversazione informale — quella in cui le persone accennano, ipotizzano, si correggono a metà frase, riportano cose sentite da altri — a produrre il maggior numero di scritture difettose nella memoria dei modelli. Il problema non è tanto che i fatti siano falsi. Spesso sono veri. Il problema è come ci arrivano: senza attribuzione chiara, con marcatori di incertezza che il sistema di memoria non cattura, con riferimenti temporali vaghi. Il fatto sopravvive, il contesto no.
Già nel novembre 2025 il benchmark HaluMem aveva individuato il punto esatto in cui i sistemi di memoria cominciano a deragliare: le fasi di estrazione e aggiornamento. Secondo HaluMem, è lì che i modelli tendono a generare e accumulare allucinazioni, che poi si propagano fino alla fase di risposta alle domande, quando ormai è troppo tardi per accorgersene. Il nuovo studio FACTWASH aggiunge un tassello decisivo: mostra che quei guasti non sono casuali, ma seguono una logica precisa. E che sfuggono ai controlli tradizionali perché il contenuto letterale dell’informazione è, tecnicamente, corretto.
Il paradosso della verità nuda
Qui sta il nucleo del factwashing, ed è un paradosso che rende il fenomeno particolarmente insidioso. Un sistema di verifica dei fatti standard guarda se una frase è vera. Ma il danno del factwashing non sta nella falsità della frase: sta nella sua posizione epistemica — chi l’ha detto, con quale grado di certezza, in quale momento. Un’informazione vera, se privata dell’attribuzione e dell’hedging che l’accompagnavano nella conversazione originale, diventa una mina vagante nella memoria del sistema. È tecnicamente vera, ma il sistema la tratterà come un dato certo e ben fondato quando non lo è affatto.
I ricercatori di FACTWASH hanno costruito un rilevatore che affronta proprio questo strato invisibile. Per i cue di negazione esplicita — i segnali linguistici che smentiscono qualcosa — il sistema raggiunge un punteggio F1 di 0,91 su testo non ottimizzato, un risultato solido. Più difficile è catturare i cue di hedging e attribuzione, quelli che segnalano incertezza o riportano informazioni di seconda mano. Qui un vocabolario predefinito si ferma a un recall vicino alla metà. I ricercatori hanno allora affiancato un “testimone” basato su LLM: una singola domanda posta al modello recupera 17 punti di recall in più per l’hedging e 15 per l’attribuzione, mantenendo la stessa precisione. In pratica, il sistema impara a chiedersi: “questa informazione mi è stata data come certa o come ipotetica? Me l’ha detta qualcuno che l’ha vista o qualcuno che l’ha sentita dire?”.
La posta in gioco è alta perché il factwashing è invisibile a qualsiasi metrica di factualità tradizionale. Una frase come “Marco dice che forse il progetto slitta a settembre” può diventare, nella memoria del sistema, “il progetto slitta a settembre”. Formalmente vera — Marco l’ha detto davvero — ma epistemicamente mutilata. E su quella memoria mutilata il sistema costruirà risposte, raccomandazioni, decisioni.
Mem0 e la promessa infranta
Per capire quanto il problema sia concreto basta guardare a Mem0, un’architettura di memoria per AI che promette esattamente il contrario di ciò che il factwashing produce. Mem0 dichiara di prevenire le allucinazioni grazie a una memoria persistente e ancorata ai fatti. L’idea è che estraendo, consolidando e recuperando dinamicamente le informazioni salienti dalle conversazioni, si elimini l’incertezza che genera risposte inventate. Un’architettura ingegneristicamente sofisticata, descritta in un paper dedicato come un sistema che “estrae, consolida e recupera dinamicamente informazioni salienti dalle conversazioni in corso”.
I ricercatori di FACTWASH hanno messo alla prova Mem0 nella versione 2.0.7, senza modificarla. Hanno testato il gate su otto scritture di memoria provenienti da conversazioni con hearsay attenuato — il tipico “mi hanno detto che forse” delle chat informali. Il risultato: il gate FACTWASH ha segnalato 5 scritture su 8. Cinque informazioni su otto erano state scritte in memoria perdendo i marcatori di incertezza e attribuzione presenti nella conversazione originale. Non erano false. Erano epistemicamente degradate.
Il confronto è istruttivo. Da un lato c’è Mem0 che rivendica una memoria “ancorata” e immune da allucinazioni. Dall’altro c’è un rilevatore appena pubblicato che, senza bisogno di modificare il sistema, trova crepe epistemiche nella maggioranza dei casi testati. Non è una condanna di Mem0 in sé — è la dimostrazione che il problema è strutturale e riguarda l’intera pipeline di memoria dei sistemi agentici, dall’estrazione all’aggiornamento, esattamente come HaluMem aveva previsto.
Per chi progetta memoria AI, il factwashing non è un bug periferico da sistemare con un ritocco al prompt. È una crepa strutturale nella fiducia che riponiamo in questi sistemi. Il gate di FACTWASH — pubblicato su arXiv il 4 agosto, con i suoi 0,91 di F1 sui cue di negazione e il recupero di recall via LLM witness — è il primo strumento che permette di vederla. E vederla impone di ripensare l’intera catena di estrazione e scrittura della memoria, perché non si può più dare per scontato che un fatto vero, da solo, basti.
