Nei sistemi RAG multilingue la lingua dei documenti recuperati incide sulla qualità delle risposte, ma i modelli di ranking tradizionali
Immaginate di cercare informazioni in italiano su un database aziendale che contiene documenti in tredici lingue. Il sistema di retrieval trova il documento perfetto per contenuto: parla esattamente di quello che vi serve, con dati aggiornati e fonti verificate. C’è solo un problema: è scritto in swahili. Il modello di linguaggio lo elabora, genera una risposta, ma il risultato finale vi lascia perplessi. Non è un guasto del sistema, è un difetto di progettazione che fino a ieri quasi nessuno misurava.
Un problema simile emerge in modo sistematico nei sistemi RAG multilingue (mRAG), dove query utente e datastore convivono in lingue diverse. Un lavoro del 2024 firmato Chirkova e colleghi ha preso in esame proprio questo scenario con tredici lingue. La ricerca ha mostrato qualcosa di controintuitivo: la lingua del documento recuperato influisce sulla qualità della risposta generata anche quando il documento è semanticamente equivalente alla query. In pratica, due documenti che dicono la stessa identica cosa producono risultati diversi a seconda della lingua in cui sono scritti.
I dati sono chiari. I documenti scritti nella stessa lingua della query tendono a ottenere punteggi F1 più elevati. Non stiamo parlando di preferenze estetiche, ma di accuratezza misurabile delle risposte. Eppure i reranker tradizionali, i modelli che ordinano i documenti recuperati in base alla loro pertinenza, guardano quasi esclusivamente alla rilevanza semantica. La coerenza linguistica resta fuori dall’equazione.
Come LAMAR riscrive le regole del reranking
Il meccanismo è ingegnoso nella sua semplicità. LAMAR utilizza una tecnica chiamata distillazione della rilevanza ancorata all’inglese per stabilire un punteggio di rilevanza coerente tra input multilingue. In sostanza, il modello impara a valutare quanto un documento sia pertinente usando l’inglese come lingua pivot, e poi trasferisce questa capacità di giudizio a tutte le altre lingue. Ma il passo successivo è quello che fa la differenza: l’addestramento include esplicitamente un obiettivo di coerenza linguistica, spingendo il modello a preferire documenti nella stessa lingua della query a parità di rilevanza.
I risultati degli esperimenti sono netti. In un test controllato progettato per isolare proprio la capacità di valutare la coerenza linguistica, LAMAR ha ottenuto le migliori prestazioni complessive e in tutte le lingue esaminate individualmente. Non solo: il modello rimane competitivo sui benchmark multilingue di reranking consolidati come MIRACL, un riferimento per il retrieval monolingue dove query e corpus sono nella stessa lingua. Questo significa che LAMAR non sacrifica la capacità di valutare la pertinenza per inseguire la coerenza linguistica: le integra.
Il dato più interessante riguarda un meccanismo che chi sviluppa sistemi RAG conosce bene. Quando un documento è semanticamente allineato alla query ma scritto in una lingua diversa, il modello generativo fatica a produrre una risposta fluida e accurata. LAMAR interviene a monte, nel momento del reranking, spostando più in alto documenti che sono sia pertinenti sia linguisticamente coerenti con la domanda dell’utente.
Il nuovo campo di battaglia dei reranker
LAMAR non arriva in un vuoto competitivo. Il mercato dei reranker multilingue è in fermento. Cohere, uno dei nomi di riferimento nel settore, ha presentato Rerank 3.5 con capacità di ragionamento e multilingue migliorate per la ricerca di dati aziendali complessi. L’offerta è pensata per scenari enterprise dove l’accuratezza è un requisito non negoziabile.
Sul fronte open source, la serie Qwen3 Embedding supporta oltre 100 lingue, inclusi vari linguaggi di programmazione, posizionandosi come una soluzione orizzontale per chi lavora con basi di conoscenza multilingue. Modelli come Jina-reranker-v3 e Qwen3-Reranker-4B competono sullo stesso terreno, ciascuno con i propri punti di forza.
Ma c’è un vuoto che LAMAR colma con precisione chirurgica. Mentre i competitor si concentrano sull’ampiezza del supporto linguistico o sulla potenza del ragionamento, il modello di Lee e colleghi affronta un problema specifico e misurabile: il mismatch linguistico che degrada la qualità delle risposte generate. Non si tratta di supportare più lingue, ma di usarle in modo intelligente quando si ordina ciò che il sistema ha recuperato.
Per chi sviluppa sistemi RAG destinati a utenti globali, il messaggio è chiaro. La sfida non è più solo trovare contenuti pertinenti, ma trovarli nella lingua giusta. Ignorare la coerenza linguistica nel reranking significa accettare che una frazione non trascurabile delle risposte sarà di qualità inferiore, non per mancanza di informazioni ma per un disallineamento evitabile.
LAMAR alza l’asticella in un modo che ha implicazioni pratiche immediate. Qualunque azienda che gestisca knowledge base multilingue, dall’assistenza clienti alla documentazione tecnica, ha ora uno strumento in più per valutare se i propri sistemi stanno rispondendo alle domande degli utenti nel modo più efficace possibile. La coerenza linguistica non è più un dettaglio che si può trascurare. È una dimensione del ranking che ha effetti misurabili sulla soddisfazione di chi cerca risposte.
