L’architettura disaccoppiata usa l’AIMD del TCP per gestire la concorrenza, con una quantizzazione selettiva per GPU da 12 GB
Noesis, un’architettura Graph-RAG disaccoppiata presentata la scorsa settimana, toglie GPT-4o dal cuore della costruzione del grafo. Su HotpotQA ottiene 59.5 EM (exact match) / 74.7 F1, superando GraphRAG di +27.8 EM. Il tutto con una velocizzazione di 23 volte e zero eventi di esaurimento memoria, usando un modello on-premises da 35 miliardi di parametri al posto di GPT-4o.
Non è una promessa di marketing. È un benchmark che riscrive i costi dell’AI search, con numeri che hanno un contesto verificabile. HotpotQA, introdotto nel 2018 con 113mila coppie di domande e risposte basate su Wikipedia, è uno dei dataset di riferimento per misurare la capacità di un sistema di rispondere a domande complesse. GraphRAG, proposto già nell’aprile 2024, è un approccio basato su grafi per il question answering su corpora testuali privati, pensato per scalare con la generalità delle domande degli utenti e la quantità di testo sorgente. Il test di Noesis è stato condotto su 1.000 domande prese da HotpotQA.
Il benchmark che sposta l’equilibrio: +27.8 EM senza GPT-4o
Il guadagno di 27,8 punti di exact match rispetto a GraphRAG non arriva usando un modello più potente in cloud. Arriva usando un modello on-premises da 35 miliardi di parametri al posto di GPT-4o nella fase di costruzione del grafo. Tradotto: più precisione spendendo meno, senza dipendere da un’API esterna.
Nel paper ci sono altri tre numeri che danno sostanza alla storia. Il primo: un controllo di concorrenza adattato dal controllo di congestione del TCP raggiunge una velocizzazione di 23 volte con zero eventi di esaurimento memoria (out of memory, OOM). Il secondo: Moesis, la quantizzazione selettiva per modelli a mistura di esperti, raggiunge una velocizzazione di 6,3 volte su GPU consumer da 12 GB. Il terzo: la verifica del testo sorgente su un documento di 193 pagine conferma una precisione del 90% sugli archi causali a lungo raggio, quelli che l’estrazione indipendente dai chunk non riesce a raggiungere.
La domanda che resta aperta è come si ottengano questi numeri senza mandare in OOM l’infrastruttura.
Il trucco: prendere a prestito il controllo di congestione del TCP
Dietro il +27,8 EM c’è una scelta architetturale controintuitiva: adattare l’AIMD del controllo di congestione TCP alla costruzione del grafo. L’AIMD — additive increase, multiplicative decrease — è lo stesso meccanismo con cui il protocollo TCP evita di intasare una rete: aumenta gradualmente il carico finché non rileva congestione, poi lo riduce bruscamente. Noesis applica la stessa logica alla concorrenza nella costruzione del grafo. Il risultato misurato: 23 volte più veloce, zero eventi OOM.
Il secondo tassello è Moesis, la quantizzazione selettiva che tiene conto del dominio, pensata per modelli a mistura di esperti. Su una GPU consumer da 12 GB raggiunge una velocizzazione di 6,3 volte. In pratica, la quantizzazione riduce la precisione dei calcoli per risparmiare risorse; quella selettiva lo fa solo dove il dominio lo consente, mantenendo la qualità dove serve. Il punto non è solo tecnico: è economico. Se una GPU consumer da 12 GB basta a raggiungere questi ritmi, la costruzione del grafo smette di essere un lusso riservato a chi può permettersi infrastrutture cloud costose.
Le tre sfide dei RAG tradizionali sono note. Nel 2025, un’analisi sui sistemi RAG tradizionali individuava tre problemi: comprensione di query complesse in contesti professionali, integrazione della conoscenza tra fonti distribuite e colli di bottiglia di efficienza su larga scala. Noesis affronta queste limitazioni con quattro algoritmi, intervenendo soprattutto sul terzo punto: l’efficienza.
Se la tecnica regge sui benchmark, la domanda diventa: cosa cambia per chi pubblica contenuti che finiscono dentro questi sistemi?
Cosa cambia per chi pubblica: l’AI search che non si blocca più
I numeri di Noesis non riguardano solo i ricercatori. Toccano direttamente chiunque pubblichi contenuti professionali che un sistema RAG deve recuperare con precisione. Il dato sulla verifica del testo sorgente — 90% di precisione sugli archi causali a lungo raggio in un documento di 193 pagine — è il segnale più concreto: un sistema che coglie le connessioni tra fatti lontani tra loro è un sistema che risponde meglio alle domande multi-hop, quelle che richiedono di unire informazioni da più punti dello stesso documento o da fonti diverse.
Sul fronte open-source, nell’ottobre 2024 era arrivato LightRAG, framework open-source leggero alternativo a Microsoft GraphRAG. Noesis si inserisce in quel solco, ma sposta il discorso: non è solo questione di leggerezza, è questione di sostenibilità economica dell’AI search su grandi corpora aziendali.
Cosa succede quando un sistema di AI search non collassa per esaurimento memoria e recupera con precisione anche le connessioni a lungo raggio tra documenti distribuiti? Succede che i contenuti di qualità — quelli che rispondono davvero alle domande complesse — diventano visibili. La conseguenza per chi pubblica online è misurabile: non si tratta di un paper accademico fine a se stesso, ma di un’architettura che rende l’AI search su grandi corpora aziendali economicamente sostenibile. Chi produce contenuti di qualità può aspettarsi di essere recuperato con precisione anche in query multi-hop, senza che il sistema collassi per esaurimento memoria.
