Lo studio mostra che riscrivere i documenti prima dell’indicizzazione può colmare il divario tra modelli economici e premium
Un modello di embedding che costa 6,5 volte meno può superare il suo equivalente premium, a patto di riscrivere i documenti prima di indicizzarli. Lo dimostra lo studio pubblicato sull’archivio arXiv presentato lo scorso 6 aprile e aggiornato lo scorso 5 agosto: con l’ottimizzazione dei documenti, OpenAI text-embedding-3-small passa da 58,7 a 66,8 punti di nDCG5 sul code retrieval — la metrica che misura quanto bene è ordinata la lista dei documenti recuperati — e supera di un soffio il fratello maggiore text-embedding-3-large, fermo a 66,3.
Per capire la portata del risultato serve un minimo di contesto. I modelli di embedding trasformano testi e documenti in coordinate numeriche che permettono a un motore di ricerca di capire quali contenuti rispondono a una domanda. Chi pubblica online li usa, o li subisce, ogni volta che un sistema di intelligenza artificiale decide se citare una pagina come fonte. Finora il ragionamento era lineare: modello più grande, prezzo più alto, risultati migliori.
Piccolo batte grande: i numeri del sorpasso
I dati raccontano un’altra storia. Sul code retrieval, text-embedding-3-small ottimizzato sale a 66,8 punti contro i 66,3 del large. Sul visual document retrieval (VDR), cioè il recupero di informazioni da documenti visivi, lo stesso modello passa da 53,3 a 57,6, mentre il large si ferma a 57,0. In entrambi i benchmark il piccolo ottimizzato supera, anche se di misura, il modello più costoso.
Non è un caso isolato. Lo studio ha applicato la stessa ottimizzazione a Jina-ColBERT-V2, un modello open-source: i punteggi salgono da 55,8 a 63,3 sul VDR e da 48,6 a 61,8 sul code retrieval. La dinamica è la stessa: un intervento sulla preparazione dei documenti produce salti che nessun upgrade di modello, da solo, garantirebbe.
Resta la domanda: perché un intervento così semplice produce questi risultati — e quando invece non funziona?
Il rovescio del paradosso: l’espansione aiuta i deboli e frena i forti
La risposta viene da una ricerca precedente sullo stesso tema. Secondo una ricerca sull’espansione dei documenti, esiste una forte correlazione negativa tra le prestazioni del retriever — il sistema che recupera i documenti pertinenti a una query — e i guadagni ottenuti dall’espansione. In pratica, l’espansione migliora i punteggi dei modelli più deboli, ma in genere danneggia quelli già forti.
È il paradosso che spiega il sorpasso: text-embedding-3-small parte da una base più bassa e ha quindi più margine per beneficiare di documenti riscritti e arricchiti. Il modello large, più capace in partenza, non riceve lo stesso aiuto. L’espansione non è una bacchetta magica: premia chi parte indietro, non chi è già davanti.
Costi, benchmark e l’alternativa ColBERT: la scelta concreta
Per chi decide su un budget, il confronto si sposta sul listino. Secondo l’annuncio dei nuovi modelli di embedding di OpenAI, text-embedding-3-small costa 0,00002 dollari per mille token, cinque volte meno di text-embedding-ada-002, che viaggiava a 0,0001 dollari. Il modello large è prezzato a 0,00013 dollari per mille token: esattamente 6,5 volte il costo del piccolo.
Le differenze di prezzo non si traducono in differenze di prestazione altrettanto ampie. Sullo storico MTEB, il benchmark che misura la qualità media degli embedding, text-embedding-3-large raggiunge il 64,6% contro il 61,0% di ada-002, mentre il piccolo si ferma a 62,3%. Su MIRACL, un benchmark multilingue, il large quasi raddoppia ada-002: 54,9% contro 31,4%. Ma i numeri dello studio di aprile suggeriscono che il divario tra piccolo e grande può essere annullato a monte, lavorando sui documenti prima dell’indicizzazione.
Resta l’alternativa open-source. La scheda tecnica di Jina-ColBERT-v2 indica un miglioramento del 6,5% rispetto al ColBERT-v2 originale sui compiti in inglese, con un punteggio medio di 0,521 su 14 benchmark BEIR. Dopo l’ottimizzazione dei documenti, il suo code retrieval passa da 48,6 a 61,8: un salto che lo avvicina ai modelli proprietari senza chiedere il canone.
Il punto, per chi pubblica online, è questo: l’ottimizzazione dei documenti prima dell’indicizzazione consente di usare modelli economici senza perdere qualità, ma solo se il retriever di partenza non è già tra i più forti. La scelta del modello va fatta dopo aver valutato il proprio caso concreto, non in base al listino dei prezzi né alle promesse dei fornitori.
Perfetto. Ora non siamo più solo consulenti SEO, ma balie di modelli analfabeti. Un’altra mansione da aggiungere al curriculum senza aumento di stipendio. La tecnologia del futuro è solo un modo più creativo per creare lavoro sottopagato.
Hanno costruito un motore potentissimo che non sa leggere la mappa. Ora pagano noi per fargli da navigatori. A quanto pare il mio mestiere è ancora salvo.
@Giovanni Battaglia Salvo? Siamo i badanti digitali di un’intelligenza demente, finché non imparerà a cambiarsi il pannolone da sola.
@Fabio Fontana Il prossimo passo sarà assumerci per masticare i dati prima di darglieli in pasto. La chiameranno ‘pre-elaborazione umana potenziata’.
Signor Battaglia, non si illuda. Non siamo navigatori, siamo diventati i correttori di bozze strapagati di un algoritmo analfabeta. La mia agenzia ringrazia sentitamente per questa gloriosa involuzione che ci garantisce lavoro.
Trasformiamo un costo di piattaforma in ore uomo fatturabili, un’altra magia del progresso.
@Carlo Bruno La mia consulenza diventa il cerotto per l’intelligenza artificiale zoppicante, che carriera.
La vera notizia è che il lavoro manuale di qualità si può finalmente rivendere come tech.
Si chiama preparare la merce prima di esporla. Una banalità travestita da scoperta. Il focus sul modello è il solito specchietto per le allodole. La vera partita si gioca sempre a monte, sulla qualità dei dati in ingresso.
@Vanessa De Rosa La scoperta dell’acqua calda, vestita con un abito da sera. Alla fine, il tocco umano nel preparare i dati batte sempre la forza bruta del silicio. Meno male, direi.
L’ovvio diventa business. La sfida non è riscrivere, è farlo in automatico e su scala.
@Simone Rinaldi, chiamare “sfida” l’automazione su scala è generoso. È il solito giro di valzer dove si sposta il costo dal modello al processo di pulizia. Un nuovo mercato per vendere soluzioni a problemi creati ad arte. Qualcuno ci guadagna sempre, no?
@Elisa Marchetti Non è un giro di valzer, è un trade-off tecnico. Il costo si sposta dove il controllo è maggiore. La vera competenza sta lì.
Continuano a vendere motori potenti, ignorando che il carburante è sporco. Ora ci dicono di pulire il carburante per farli funzionare meglio. Una rivelazione sorprendente. Il problema è sempre stato a monte, non nel meccanismo finale.
@Danilo Graziani, chiamare “carburante” il dato grezzo è un’iperbole per il solito imbuto dove l’output dipende dall’input. Stupirsi di questo è come meravigliarsi che, piovendo, la terra si bagni.
@Paola Pagano Non mi stupisco della pioggia, ma di chi vende l’ovvio a peso d’oro, chiamandolo scoperta. Pare che l’acqua calda sia l’affare del secolo.
La celebrazione di questa ovvietà, ossia che la cura umana del dato superi la forza bruta del calcolo, dimostra la diffusa amnesia tecnologica del nostro tempo. Evidentemente, si preferisce pagare per una soluzione pigra piuttosto che investire nel pensiero critico.
@Francesco Messina, la tua “amnesia tecnologica” è un eufemismo per la cronica pigrizia mentale che alimenta questo circo dell’IA, dove paghiamo profumatamente per non pensare. Stanno solo lucidando la stessa vecchia ferraglia.
@Fabio Fontana La chiami pigrizia, io la chiamo esperienza. Vedo che il concetto di “garbage in, garbage out” vi sorprende ancora nel 2026. Che tenerezza vedere la vostra meraviglia per l’ovvio.
Aver riscoperto che la qualità del dato batte il costo del modello è il progresso.
La mia lezione base: spazzatura dentro, spazzatura fuori. Hanno solo messo un redattore a lucidare l’input, chiamandolo progresso. Il costo del lucidatore?
Spostare il costo dal modello al redattore non è un progresso. È contabilità.
Un altro artigiano da inserire nella catena di montaggio. Chi garantisce la qualità?
Cara Enrica, più che un artigiano mi sembra l’ennesimo cavallo di Troia per vendere consulenza a basso costo, mentre il vero valore sta nel dimostrare che la spesa per la tecnologia premium è spesso fumo negli occhi. Alla fine, misuriamo sempre e solo i risultati.
Benedetta, il vero risultato è aver convinto qualcuno a pagare un redattore per far sembrare intelligente un software economico, trasformando un’inefficienza tecnica in una lucrosa opportunità commerciale. Un’astuzia notevole.