Due errori tecnici hanno trasformato il test in un esercizio di copiatura
Zero. Non un numero basso, non «sotto le aspettative»: zero risposte esatte su 2.250 tentativi. È il verdetto finale su SR-TTT, il meccanismo di «attenzione lineare» che prometteva di eliminare il collo di bottiglia della memoria nei transformer e che il 22 luglio 2026 ha visto il suo principale autore ritirare ogni affermazione della prima versione del paper. L’esperimento chiave — il test Needle-in-a-Haystack — è stato ripetuto con metriche corrette e la conclusione è lapidaria: l’architettura non impara a recuperare informazioni da contesti lunghi. I guadagni che a febbraio avevano fatto notizia erano un artefatto tecnico.
Due errori e un crollo
Il problema è che quei risultati non misuravano ciò che dichiaravano di misurare. La versione 2, pubblicata a luglio, svela due difetti che insieme spiegano l’intero castello di carte. Primo: un disallineamento delle etichette di un singolo token — l’equivalente di leggere la risposta un passo troppo tardi — trasformava il test Needle-in-a-Haystack in un banale esercizio di copiatura. Il modello vedeva la risposta nei suoi input prima di doverla produrre. Tanto che un modello addestrato su dati dove il recupero era impossibile raggiungeva comunque il 100% di accuratezza con quella metrica sbagliata.
Secondo: la cache utilizzava attenzione non causale. In parole povere, poteva sbirciare token futuri, risposta inclusa. È come sostenere di aver superato un esame a occhi chiusi mentre si legge il libro sotto il banco. Quando i ricercatori hanno corretto entrambi i difetti e ripetuto le prove, il meccanismo ha dato zero corrispondenze esatte su tutte le 2.250 prove appaiate. Il primo autore ha esplicitamente ritirato ogni affermazione della prima versione.
Perché l’architettura era destinata a fallire
Il crollo non è solo un incidente di laboratorio. L’autopsia tecnica contenuta nella versione 2 del paper individua due colli di bottiglia strutturali che condannano l’approccio prima ancora della valutazione.
Il primo riguarda il gating basato sulla sorpresa. L’idea era elegante: se un token sorprende il modello, probabilmente contiene informazione nuova e va memorizzato. Ma la metrica di ricostruzione usata da SR-TTT ha bisogno di un periodo di rodaggio prima di riconoscere qualcosa come sorprendente. Il risultato è una distorsione sistematica per posizione: gli aghi informativi piazzati all’inizio del contesto — esattamente dove la memoria a lungo termine serve di più — vengono memorizzati a tassi tra lo 0 e l’1% quando si trovano al 10% della profondità del testo. È un paradosso architetturale: il meccanismo che dovrebbe decidere cosa ricordare è cieco proprio dove la memoria è più necessaria.
Il secondo collo di bottiglia sta nell’addressing basato solo sul contenuto, senza informazioni posizionali. In pratica, la cache cerca informazioni usando la similarità semantica, ma non sa distinguere slot ordinati con contenuti simili. Se in un testo compaiono più volte frasi analoghe in posizioni diverse, il meccanismo non ha modo di capire quale occorrenza sia rilevante per la domanda. È come avere uno schedario dove tutte le schede simili sono indistinguibili: cercare diventa inutile.
La lezione tecnica è netta. I layer TTT — proposti come alternativa alla KV-cache e basati sull’aggiornamento auto-supervisionato dello stato nascosto durante l’inferenza — restano un’idea interessante per la compressione della memoria. Ma SR-TTT, la variante che aggiungeva il gating selettivo per promettere recupero esatto da contesti lunghi, si è rivelata un vicolo cieco.
Chi avanza mentre SR-TTT arretra
Il panorama non è fermo. Mentre SR-TTT ritira le proprie affermazioni, l’approccio TTT-E2E propone una strada diversa. L’architettura raggiunge una latenza di inferenza costante con scalabilità simile all’attenzione completa: non promette il recupero esatto, ma offre un compromesso pratico tra efficienza computazionale e qualità. Non è un miracolo architetturale, è un’ingegnerizzazione solida che affronta il problema reale — la crescita lineare del costo di inferenza con la lunghezza del contesto — senza pretendere di risolverlo con scorciatoie che poi non reggono al test.
Per chi sviluppa o adotta modelli di linguaggio in contesti aziendali, l’intera vicenda contiene un avvertimento pratico. La capacità di recuperare informazioni esatte da contesti lunghi resta un banco di prova severo, e le soluzioni che promettono di aggirare l’attenzione completa con meccanismi più economici vanno verificate su test reali prima di essere integrate in prodotti. La versione 1 di SR-TTT aveva numeri spettacolari che chiunque poteva citare in una presentazione commerciale; la versione 2 dimostra che quei numeri misuravano una cosa diversa da quella dichiarata.
La prossima volta che qualcuno presenta un’architettura «rivoluzionaria» per la memoria dei transformer, la domanda da fare è una sola: avete verificato che il modello non stia copiando la risposta che ha già visto? Sembra banale, eppure è esattamente quello che è sfuggito per mesi. Per chi pubblica online e integra AI nei propri flussi, la lezione è chiara: diffidare dei miracoli fino a quando non superano test reali. Oggi solo le soluzioni con attenzione completa o varianti consolidate offrono garanzie sulla qualità del recupero da contesti lunghi. Il resto è rumore.
