La compressione riduce i costi di indicizzazione per archivi di migliaia di documenti, mantenendo quasi intatta l’accuratezza della ricerca
Per cercare un grafico dentro un PDF, un modello come ColPali genera migliaia di vettori per ogni singola pagina. Un costo di calcolo che cresce in fretta, specie se devi indicizzare decine di migliaia di documenti. Il 4 agosto è stato sottomesso su arXiv MarginMerge, un metodo che promette di ridurre quei vettori dal 90 al 95 per cento mantenendo tra il 97 e il 99 per cento dell’nDCG@5 medio, una metrica che misura la qualità dei risultati di ricerca. Detto in altro modo: si può buttare via quasi tutto il magazzino e continuare a trovare quello che serve quasi sempre.
Il paradosso dei vettori: troppi ma indispensabili
I retriever visivi multi-vettore come ColPali, nato nel 2024 da un gruppo di ricercatori che lo ha addestrato per estrarre embedding di alta qualità da immagini di pagine, hanno cambiato le carte in tavola. Invece di affidarsi solo al testo estratto con l’OCR, guardano l’intera pagina: tabelle, disposizione degli elementi, grafici. Il prezzo da pagare è un’esplosione dei dati da gestire. Ogni pagina produce migliaia di vettori, rendendo l’indicizzazione e la ricerca sempre più costose man mano che gli archivi crescono.
Qui arriva il paradosso: quei vettori sono troppi per essere gestiti in modo economico, ma finora si pensava fossero quasi tutti indispensabili per non perdere qualità. MarginMerge dimostra che non è così. Su sei dataset diversi, con due modelli di riferimento (ColQwen2.5 e ColPali), il metodo raggiunge il più alto matched query-agnostic average sia al 5% che al 10% di ritenzione vettoriale. In pratica, tenendo solo un vettore ogni venti o ogni dieci, la qualità della ricerca resta altissima.
Ma come fa a ottenere questi risultati dove altri metodi fallivano o si fermavano a compromessi peggiori?
Perché la fusione geometrica non bastava (e MarginMerge fa la differenza)
La risposta sta nel modo in cui molti modelli precedenti univano i vettori simili. L’approccio più intuitivo, la fusione geometrica, tende a creare artefatti: quando si fondono due vettori vicini, la media può finire in un punto dello spazio che non rappresenta bene nessuno dei due contenuti originali. Il risultato sono i cosiddetti ranking flips: documenti che prima venivano restituiti tra i primi risultati e dopo la compressione spariscono dalla lista, e viceversa. Al 5% di ritenzione, MarginMerge riduce questi scambi di posizione di circa il 41% in media rispetto alla fusione geometrica, su tutti e sei i dataset testati con ColQwen2.5.
Non è un dettaglio da addetti ai lavori. Un sistema di ricerca che inverte le priorità è inaffidabile per chi lo usa e per chi pubblica documenti sperando di essere trovato. E i metodi alternativi non avevano risolto il problema. Un esperimento riportato in uno studio presentato all’ACL 2025 aveva mostrato un risultato controintuitivo: un semplice pruning casuale superava strategie di potatura sofisticate, pur restando insoddisfacente. Nello stesso filone, Light-ColPali era riuscito a mantenere il 98,2% delle prestazioni con solo l’11,8% della memoria originale. Buoni risultati, ma con un margine di perdita più ampio e senza il guadagno di stabilità nei ranking che MarginMerge ora rivendica. Anche framework come HPC-ColPali, basati su una compressione gerarchica dei patch, avevano migliorato l’efficienza mantenendo l’accuratezza, ma MarginMerge alza l’asticella sul rapporto tra compressione e qualità conservata.
Il dato chiave è la combinazione: fino al 95% di vettori in meno, 97‑99% di nDCG@5 conservato e quasi la metà dei ranking flips eliminati rispetto alla fusione geometrica. Non si tratta solo di risparmiare spazio: si tratta di rendere la ricerca visiva prevedibile e davvero scalabile.
Domani: chi cerca senza vedere perde
Per chi pubblica documenti online, questi numeri hanno una traduzione molto concreta. Fino a ieri, indicizzare un archivio di migliaia di PDF con un retriever visivo multi-vettore era un investimento pesante, riservato a chi poteva permettersi infrastrutture generose o a chi accettava compromessi forti sulla qualità. Con un metodo come MarginMerge, il costo di calcolo crolla e la stessa qualità di ricerca diventa accessibile anche per archivi di dimensioni medie: un editore, una piccola azienda di consulenza, un ufficio legale con decine di migliaia di documenti non strutturati.
Non è solo una questione di efficienza interna. I motori di ricerca e i sistemi di retrieval-augmented generation stanno già integrando capacità multimodali: chi cerca informazioni non si accontenta più del solo testo indicizzato, cerca ciò che vede in una tabella, in un diagramma, in un organigramma disegnato in un PDF. Se un contenuto non viene “visto” dal retriever, semplicemente non esiste per chi cerca. MarginMerge non inventa la ricerca visiva — quella esiste già — ma la fa uscire dai laboratori e la porta nei server di chi pubblica sul serio. E abbassa la soglia per non restare fuori.
