Il sistema identifica bersaglio e intensità dell’odio, non solo la presenza
Un team di ricercatori dell’Università Sabanci di Istanbul ha pubblicato uno studio che colma una lacuna nelle capacità di analisi dell’odio online: identificare non solo l’ostilità, ma chi ne è il bersaglio. La ricerca, apparsa su arXiv e ancora in attesa di peer review, introduce una metodologia che va ben oltre la semplice etichettatura binaria di “odio sì / odio no”. E lo fa concentrandosi su lingue e contesti culturali finora largamente trascurati dagli strumenti di moderazione automatica.
Perché l’IA non capisce l’odio in turco
Il contesto è noto da tempo. In Turchia si registra, stando al rapporto di monitoraggio dell’Ecri (Commissione europea contro il razzismo e l’intolleranza) pubblicato nel novembre 2024, un aumento allarmante di incitamento all’odio e crimini contro vari gruppi: comunità non musulmane, persone LGBTI, cittadini siriani, curdi e rom. Si tratta di un fenomeno profondo, che affonda le radici ben oltre l’emergenza dell’ultimo anno.
Già nel 2009, la Fondazione Hrant Dink, che con il suo Media Watch on Hate Speech Project monitora la carta stampata, segnalava un incremento significativo dell’incitamento all’odio contro le minoranze in Turchia. E dall’inizio del 2014, i rifugiati siriani sono diventati un bersaglio sistematico sulle testate e, di riflesso, nel dibattito online. Nonostante questa escalation, la maggior parte degli studi di rilevamento automatico in turco e arabo ha un difetto metodologico enorme: non identifica i gruppi specifici presi di mira. È un po’ come avere un allarme antincendio che suona, ma non ti dice in quale stanza stanno bruciando i mobili. Gli algoritmi, addestrati su dataset troppo generici, si limitano a una diagnosi binaria che non permette di distinguere la gravità, la direzione o la tipologia della minaccia.
Un dataset che finalmente dà un volto all’odio
La risposta a questo limite arriva dal laboratorio VERIM dell’Università Sabanci. Per costruire un rilevatore efficace, i ricercatori hanno prima di tutto costruito una base solida. Hanno attinto a due dataset già esistenti. Il primo è il dataset della Convenzione di Istanbul, composto da tweet pubblicati dopo la controversa uscita della Turchia dalla convenzione nel 2021. Il secondo è il dataset Rifugiati, nato dalla raccolta di tweet filtrati con parole chiave comunemente usate per parlare di immigrazione.
A questo materiale di partenza è stato aggiunto un lavoro di annotazione molto più granulare. Il nuovo dataset copre cinque argomenti specifici in turco: il conflitto Israele-Palestina, il sentimento anti-greco, le comunità etniche e religiose (Aleviti, Armeni, Arabi, Ebrei e Curdi), i LGBTI+ e il tema dei rifugiati. A questi si aggiunge un sesto capitolo in arabo, focalizzato anch’esso sui rifugiati. Su queste basi sono stati sviluppati modelli basati sull’architettura BERTurk – una versione di BERT ottimizzata per la lingua turca. E non si limitano a una singola operazione. Il sistema affronta l’analisi su quattro dimensioni distinte: classifica la categoria d’odio, ne prevede l’intensità, identifica il gruppo bersaglio e isola la porzione esatta di testo che contiene l’incitamento (hate speech span detection). Invece di un generico “questo tweet contiene odio”, l’IA ora è in grado di restituire un responso articolato: “in questo post c’è istigazione all’odio di intensità elevata contro la minoranza curda”. Un dettaglio che cambia radicalmente le possibilità di moderazione.
Cosa cambia per chi pubblica online
C’è un nesso, ricordato nello studio, che chiude ogni possibile equivoco sull’inerzia: l’incitamento all’odio online è stato collegato a un aumento globale della violenza reale contro le minoranze, dalle sparatorie di massa ai linciaggi fino alle pulizie etniche. Se modi i contenuti senza sapere chi stai attaccando o chi viene difeso, non sei neutrale: sei semplicemente cieco. Chi pubblica – una testata, un social network, un brand con una pagina in turco – oggi ha a disposizione i mezzi per non esserlo più. Integrare un sistema che distingue il target dell’odio non è filantropia digitale. È un modo per misurare un rischio concreto, reputazionale e legale. La scelta di ignorarlo, ora che gli strumenti esistono, è soltanto una scelta.
Invece di affrontare le radici sociali dell’intolleranza, ci affidiamo a un algoritmo per catalogarne i frutti marci. È questa la nostra grande pensata per il futuro, misurare la febbre senza cercare la cura?
Antonio, dopo aver misurato la febbre, venderanno il termometro come arma di precisione.
Catalogare l’odio per target mi ricorda il mio lavoro, uno sbatti assurdo. A che serve questa profilazione precisa se poi non si interviene mai?
Eccellente. Invece di sradicare la pianta velenosa, ci siamo specializzati nel descrivere la forma delle sue foglie. Questa non è ricerca per la tutela, è la creazione di un’arma analitica. Chi la userà per primo contro gli stessi gruppi che dovrebbe difendere?
Etichettare l’odio con precisione non lo cura, lo rende solo un bersaglio migliore.
@Isabella Sorrentino, hai fotografato il meccanismo. Non è una cura, è profilazione spinta. Ogni bersaglio dell’odio diventa un’audience, un nuovo segmento a cui vendere il perfetto antidoto a pagamento.
@Sabrina Coppola Classificano il dolore per metterci sopra un cartellino del prezzo. Qualcuno crede sul serio che l’obiettivo sia la nostra tutela?
@Isabella Sorrentino Certo, un bersaglio migliore. La diagnosi precisa precede sempre la vendita della cura, o di un palliativo. La sofferenza è un mercato florido, basta saperla catalogare con efficienza.
Perfetto. Ora l’odio è un cluster ben definito. A quando i primi banner mirati?
Hanno costruito una lente d’ingrandimento per l’odio. A me sembra un ottimo modo per bruciare le formiche con più precisione. Siamo sempre i soliti bambini con giochi pericolosi, non è vero?
@Paolo Fiore Uno strumento per comprendere, non solo per colpire. Ogni tecnologia riflette l’intenzione di chi la guida. La responsabilità è umana.
Noi media buyer affiniamo il targeting per vendere un prodotto, altri lo useranno come un bisturi di precisione per epurare le minoranze. È la stessa medaglia, solo che una faccia sorride mentre l’altra prepara le liste di proscrizione. La tecnica è sempre neutra.
@Sabrina Coppola Vendiamo prodotti o persone, basta che l’algoritmo segmenti il giusto cluster per l’epurazione.
Perfetto, ora i regimi autoritari avranno un comodo tool per automatizzare la repressione del dissenso, tutto grazie a un paper accademico. Quale sarà la prossima feature, il punteggio di lealtà?
Costruiscono liste di proscrizione con la tecnologia che uso per vendere scarpe.
@Emma Rinaldi La tua tech per le scarpe, la loro per le liste. Il database è carico.
@Giada Mariani La base tecnica è quella, che si venda un prodotto o si etichetti una persona. La differenza la fa chi gestisce i dati.
Hanno creato la lista di proscrizione perfetta. E la chiamano sicurezza. Ditemi voi chi controllerà i controllori.
Un’arma di precisione per schedare nemici, venduta come scudo per le vittime.
Un atlante del nostro odio per mappare le prossime solitudini, o per prevenirle?
@Miriam Gallo “Prevenirle”? Roba da film. Questo è un database di vulnerabilità, non un tool per assistenti sociali. Chi ha i dati controlla il mercato. La vera domanda non è se lo useranno, ma per vendere cosa e a chi.
Perfetto, una profilazione iper-specifica delle prossime vittime sacrificali per le campagne di marketing politico. Qualcuno ha detto efficienza?
Letizia, la chiamano protezione, io lo chiamo targeting avanzato per la prossima purga.
Un magnifico strumento per segmentare il mercato del dissenso e poi gestirlo, semplicemente.
Catalogano le vittime con una precisione chirurgica, non per proteggerle, ma per offrire a chi comanda un menù da cui scegliere il prossimo bersaglio. È un servizio di profilazione avanzata, travestito da progresso scientifico per i deboli di cuore.
Creano la mappa del nostro dolore. Non per guarirci, ma per colpirci meglio. Siamo diventati solo dei punti deboli da analizzare?
Sebastiano, ovvio che analizzano i punti deboli. Come ti vendono il cerotto giusto, altrimenti?
Riccardo De Luca, il punto non è il cerotto. Il dubbio è che questo strumento non serva a curare la ferita, ma a gestirla, a mantenerla aperta quanto basta. La vera domanda è: a vantaggio di chi?
Fantastico, un servizio che non solo identifica i “clienti” scontenti ma cataloga pure i loro “punti deboli” più sentiti. Questo non è un report, è un manuale d’istruzioni per chi vuole dividere. Quando esce l’abbonamento premium?
Isabella, l’abbonamento premium è la ricerca stessa. È il beta test. Presto diventerà un prodotto per governi, per la profilazione di massa. Un servizio clienti perfetto per i manipolatori.
Bello, un catalogo preciso di vulnerabilità umane per campagne marketing mirate. L’efficienza prima di tutto, no?
La chiamano ricerca, ma stanno solo affinando il targeting. Mappano l’odio per poi venderlo a chi offre di più. Mi chiedo quando la finiremo di essere così ingenui.
A chiunque voglia polarizzare un’elezione. Mappare l’odio è il primo passo per manovrarlo. Un business plan coi fiocchi, direi.
Addestrare un’IA a fare un preciso inventario del nostro odio è come dare a un becchino un nuovo software per catalogare le lapidi. Un modo elegante per studiare il sintomo senza curare la malattia. Chissà quando smetteremo di costruire specchi migliori per guardare il mostro.
Sabrina, creano un database dei bersagli. A chi lo venderanno dopo?