Un falso profilo social è riuscito a comparire come dato verificato nei riquadri automatici di Google
Daejon Love non ha mai messo piede in un campo NFL. Eppure, per un periodo, Google lo ha presentato come wide receiver dei San Francisco 49ers. Quando le vittime della presunta truffa hanno protestato, Love ha mostrato gli screenshot di un AI Overview — il riquadro di risposta automatica che Google genera sopra i risultati di ricerca — che lo indicavano falsamente come wide receiver dei 49ers. La sua risposta: «That’s Google. That’s not me, that’s Google», è Google, non sono io. La vicenda, ricostruita da un articolo pubblicato nei giorni scorsi, non è un’anomalia: è il segnale che i sistemi che Google dice di aver corretto possono ancora essere ingannati.
La dinamica è stata ricostruita dall’FBI. A causa delle false rappresentazioni che Love diffondeva sui social media, i motori di ricerca e l’intelligenza artificiale occasionalmente lo indicavano come un giocatore autentico dei 49ers. Non una diceria su un forum qualunque: un riquadro di risposta automatica che presenta la bugia come un dato verificato. La differenza è sostanziale. Una voce falsa si può contestare. Un dato certificato da un sistema di ricerca no.
Un finto 49ers certificato da Google
Il punto non è che Love abbia mentito. Le persone mentono sui social media da sempre, e questo caso non aggiunge nulla di nuovo alla storia delle truffe online. Il punto è che la menzogna ha trovato un amplificatore inatteso: i sistemi di ricerca. Un AI Overview non restituisce una lista di link da vagliare. Formula una risposta sintetica, scritta come un fatto, e la colloca sopra tutti gli altri risultati. Quando quel riquadro afferma che una persona è un giocatore professionista, la distinzione tra contenuto pubblicato e dato verificato scompare.
E qui arriva la domanda scomoda. Come può un errore del genere sopravvivere, se Google dichiara di aver corretto i suoi sistemi? L’azienda non è rimasta ferma: ha annunciato correzioni, ha comunicato interventi. Il problema è che le correzioni non bastano. O, detto altrimenti: non sono pensate per questo tipo di attacco.
Le toppe di Google e il cortocircuito
Già a maggio 2024, Google ha comunicato di aver implementato più di una dozzina di miglioramenti tecnici ai suoi sistemi per affrontare i problemi con gli AI Overview. Nel dettaglio: ha sviluppato meccanismi di rilevamento per le query senza senso che non dovrebbero generare un riquadro di risposta automatica, e ha limitato l’inclusione di contenuti satirici e umoristici. Sono interventi reali, comunicati pubblicamente. Vanno letti per quello che sono: toppe tecniche.
Il caso Love dimostra che le toppe non chiudono il rubinetto. Un uomo con false rappresentazioni sui social media è riuscito a trasformarsi, negli AI Overview, in un giocatore dei 49ers. Non si trattava di una query senza senso. Non era satira, né umorismo. Era una bugia costruita con sufficiente coerenza da passare per vera. I filtri di Google sono tarati su contenuti chiaramente problematici: domande assurde, battute, parodie. Non su bugie strutturate, ripetute con costanza su più piattaforme, fino a diventare indistinguibili dalla realtà.
Se le contromisure di Google non bastano per un singolo caso virale, cosa succede su scala più ampia? La domanda non è retorica. È la stessa che si pongono le imprese che investono in visibilità online e si trovano a competere con contenuti che non dovrebbero esistere.
Il test della BBC: seminare fatti falsi funziona ancora
Il cortocircuito non è limitato a Google. Un’indagine della BBC ha dimostrato che ChatGPT, Gemini e gli AI Overview di Google possono essere manipolati con contenuti seminati ad arte. In altre parole: il problema riguarda l’intera categoria di strumenti che generano risposte sintetiche attingendo a fonti online. Non è un difetto di un singolo prodotto. È una caratteristica del modo in cui questi sistemi funzionano: pescano da ciò che trovano online, e ciò che trovano online può essere piantato.
Per chi pubblica contenuti online, la conseguenza è concreta. Un contenuto manipolato può trasformarsi in una risposta autorevole. La visibilità non è più solo una questione di ranking, ma di fiducia in un sistema che può essere piantato. Chi gestisce siti, profili o schede aziendali deve chiedersi non solo come apparire, ma come difendersi: la stessa visibilità che porta traffico può diventare una condanna se il sistema non distingue più il vero dal seminato.
Non è questione di allarmismo. È questione di misurare le aspettative. Google e gli altri player continueranno a migliorare i loro sistemi, ma la lezione del caso Love è che le toppe arrivano sempre dopo. Chi produce contenuti farebbe bene a monitorare non solo le classifiche, ma anche le risposte automatiche che i motori generano a partire da quei contenuti. Perché nel momento in cui un AI Overview sbaglia, chi ha pubblicato il contenuto originale rischia di vederselo rigirare contro — o di non poter più distinguere la propria versione da quella che il sistema ha deciso di raccontare.
