I ricercatori turchi hanno insegnato all’IA a riconoscere il bersaglio dell’odio

Il sistema identifica bersaglio e intensità dell’odio, non solo la presenza

Un team di ricercatori dell’Università Sabanci di Istanbul ha pubblicato uno studio che colma una lacuna nelle capacità di analisi dell’odio online: identificare non solo l’ostilità, ma chi ne è il bersaglio. La ricerca, apparsa su arXiv e ancora in attesa di peer review, introduce una metodologia che va ben oltre la semplice etichettatura binaria di “odio sì / odio no”. E lo fa concentrandosi su lingue e contesti culturali finora largamente trascurati dagli strumenti di moderazione automatica.

Perché l’IA non capisce l’odio in turco

Il contesto è noto da tempo. In Turchia si registra, stando al rapporto di monitoraggio dell’Ecri (Commissione europea contro il razzismo e l’intolleranza) pubblicato nel novembre 2024, un aumento allarmante di incitamento all’odio e crimini contro vari gruppi: comunità non musulmane, persone LGBTI, cittadini siriani, curdi e rom. Si tratta di un fenomeno profondo, che affonda le radici ben oltre l’emergenza dell’ultimo anno.

Già nel 2009, la Fondazione Hrant Dink, che con il suo Media Watch on Hate Speech Project monitora la carta stampata, segnalava un incremento significativo dell’incitamento all’odio contro le minoranze in Turchia. E dall’inizio del 2014, i rifugiati siriani sono diventati un bersaglio sistematico sulle testate e, di riflesso, nel dibattito online. Nonostante questa escalation, la maggior parte degli studi di rilevamento automatico in turco e arabo ha un difetto metodologico enorme: non identifica i gruppi specifici presi di mira. È un po’ come avere un allarme antincendio che suona, ma non ti dice in quale stanza stanno bruciando i mobili. Gli algoritmi, addestrati su dataset troppo generici, si limitano a una diagnosi binaria che non permette di distinguere la gravità, la direzione o la tipologia della minaccia.

Un dataset che finalmente dà un volto all’odio

La risposta a questo limite arriva dal laboratorio VERIM dell’Università Sabanci. Per costruire un rilevatore efficace, i ricercatori hanno prima di tutto costruito una base solida. Hanno attinto a due dataset già esistenti. Il primo è il dataset della Convenzione di Istanbul, composto da tweet pubblicati dopo la controversa uscita della Turchia dalla convenzione nel 2021. Il secondo è il dataset Rifugiati, nato dalla raccolta di tweet filtrati con parole chiave comunemente usate per parlare di immigrazione.

A questo materiale di partenza è stato aggiunto un lavoro di annotazione molto più granulare. Il nuovo dataset copre cinque argomenti specifici in turco: il conflitto Israele-Palestina, il sentimento anti-greco, le comunità etniche e religiose (Aleviti, Armeni, Arabi, Ebrei e Curdi), i LGBTI+ e il tema dei rifugiati. A questi si aggiunge un sesto capitolo in arabo, focalizzato anch’esso sui rifugiati. Su queste basi sono stati sviluppati modelli basati sull’architettura BERTurk – una versione di BERT ottimizzata per la lingua turca. E non si limitano a una singola operazione. Il sistema affronta l’analisi su quattro dimensioni distinte: classifica la categoria d’odio, ne prevede l’intensità, identifica il gruppo bersaglio e isola la porzione esatta di testo che contiene l’incitamento (hate speech span detection). Invece di un generico “questo tweet contiene odio”, l’IA ora è in grado di restituire un responso articolato: “in questo post c’è istigazione all’odio di intensità elevata contro la minoranza curda”. Un dettaglio che cambia radicalmente le possibilità di moderazione.

Cosa cambia per chi pubblica online

C’è un nesso, ricordato nello studio, che chiude ogni possibile equivoco sull’inerzia: l’incitamento all’odio online è stato collegato a un aumento globale della violenza reale contro le minoranze, dalle sparatorie di massa ai linciaggi fino alle pulizie etniche. Se modi i contenuti senza sapere chi stai attaccando o chi viene difeso, non sei neutrale: sei semplicemente cieco. Chi pubblica – una testata, un social network, un brand con una pagina in turco – oggi ha a disposizione i mezzi per non esserlo più. Integrare un sistema che distingue il target dell’odio non è filantropia digitale. È un modo per misurare un rischio concreto, reputazionale e legale. La scelta di ignorarlo, ora che gli strumenti esistono, è soltanto una scelta.