L’analisi su 40mila risposte di sette modelli mostra distorsioni sistematiche che non emergono mai nelle giustificazioni dichiarate
Se un medico passa da 3,9 a 4,7 stelle nelle recensioni online, la probabilità che un’intelligenza artificiale lo consigli a un paziente sale di 31,4 punti percentuali. Lo rileva uno studio pubblicato la scorsa settimana su arXiv, che ha analizzato 40.068 risposte generate da sette modelli di linguaggio, i sistemi alla base dei chatbot che fanno da filtro tra un professionista e chi lo cerca. Ma c’è un secondo dato, meno visibile: se il medico ha un nome che segnala un genere femminile, la probabilità di scelta guadagna altri 2,5 punti percentuali rispetto a un nome maschile. E il modello non lo dice quasi mai.
Qui sta il paradosso. I modelli menzionano il genere o l’etnia in al massimo lo 0,03% delle loro ragioni dichiarate. In pratica, su diecimila giustificazioni che un chatbot fornisce per spiegare perché consiglia un medico, al massimo tre contengono un riferimento al genere o all’etnia. Eppure la distorsione c’è, misurabile e sistematica.
La statistica che smonta la neutralità
Lo studio lavora sugli infomediari AI: sistemi che non creano informazioni, ma le filtrano, le ordinano e le consigliano, un po’ come facevano i comparatori di prezzi, con in più la capacità di rispondere in linguaggio naturale. Sette modelli sono stati interrogati su profili di medici con valutazioni e nomi diversi. Il rating è la leva che muove di più la decisione, con i 31,4 punti percentuali in più passando da 3,9 a 4,7 stelle. Trentuno punti non sono un ritocco: sono la differenza tra comparire in cima alla lista o restare fuori dalla conversazione. Il nome, con il suo +2,5 punti a parità di valutazione per chi segnala un genere femminile, è un secondo motore che non compare mai nelle spiegazioni.
Da dove nasce questa distorsione, se i modelli non la dichiarano quasi mai? La risposta non sta nelle parole dei chatbot, ma nei pattern silenziosi che emergono quando si confrontano i risultati con gli studi di audit tradizionali.
Non è la solita discriminazione, è più subdola
Chi conosce la letteratura sugli audit si aspetterebbe il solito schema: nomi associati a uomini bianchi favoriti, nomi associati a donne nere penalizzati. In effetti, in uno studio del 2024, i nomi associati a uomini bianchi producevano le previsioni più vantaggiose, mentre quelli associati a donne nere generavano esiti che svantaggiavano la persona. Ma i nuovi infomediari AI non replicano quel copione. Come scrivono i ricercatori, gli infomediari AI non riproducono la discriminazione anti-minorità documentata negli studi di audit umani né raggiungono la neutralità: applicano silenziosamente distorsioni demografiche sistematiche proprie. In questo studio la distorsione premia i nomi femminili. Non è neutralità, è un altro tipo di parzialità.
La sensibilità dei modelli ai segnali non dichiarati non riguarda solo i profili medici. Già a giugno 2026, un altro studio aveva mostrato che per gli hotel un rating elevato faceva salire la selezione di 31,6 punti percentuali, mentre un prezzo alto la riduceva di 30,0. Gli infomediari AI pesano molti fattori contemporaneamente; il problema è sapere quali, e con che peso.
C’è poi un dettaglio che riguarda chiunque debba fidarsi di questi sistemi. Tra i sette modelli auditati, uno solo, il piccolo modello di ragionamento DeepSeek-R1:7b, ha fallito il gate di auditabilità pre-registrato dello studio. I ricercatori avevano stabilito in anticipo un criterio minimo per considerare un modello ispezionabile: DeepSeek-R1:7b non l’ha superato. Se un sistema di ragionamento non supera nemmeno il controllo che dovrebbe renderne verificabili i processi, cosa significa per chi pubblica online e per la trasparenza?
La trasparenza entra in vigore: chi controllerà?
La domanda non è teorica. Lo scorso 2 agosto 2026 sono entrate in vigore le obbligazioni di trasparenza dell’articolo 50 dell’AI Act dell’Unione europea. Chi sviluppa o mette in servizio sistemi di intelligenza artificiale generativa deve rendere trasparenti determinati comportamenti. Ma i dati mostrano che i meccanismi di audit possono fallire proprio dove servono: un consiglio che non dichiara mai di aver pesato il nome resta difficile da verificare.
E la posta in gioco è concreta. Secondo il sondaggio West Health–Gallup, un adulto americano su quattro, oltre 66 milioni di persone, ha già usato strumenti di intelligenza artificiale o chatbot per informazioni o consigli sanitari. Non è una nicchia tecnologica: è il canale attraverso cui una parte crescente delle persone sceglie un medico, un terapeuta, una struttura. Per chi gestisce profili di professionisti, il problema non è solo etico, è di visibilità: se un modello applica un +2,5 legato al nome, quel peso esiste, muove la scelta, ma non è spiegato né contestabile.
Chi pubblica informazioni sanitarie o gestisce profili di professionisti deve smettere di trattare l’AI come una scatola neutra. Le distorsioni sono sistematiche, silenziose e ora anche normativamente rilevanti. La domanda resta aperta: come si rende verificabile un consiglio che non dichiara mai di aver pesato il nome?
