Il metodo VerIH insegna ai modelli a ragionare sui conflitti tra comandi
E fino a ieri era quasi impossibile da risolvere. La scorsa settimana, però, un gruppo di ricercatori ha mostrato che si può insegnare a un modello linguistico a gestire i conflitti tra comandi come farebbe un essere umano: ragionando. Il metodo VerIH, pubblicato su arXiv lo scorso 30 ottobre 2025, affronta proprio questo buco nero dei grandi modelli linguistici e lo fa con un approccio che ha già attirato l’attenzione di OpenAI.
Il tallone d’Achille degli LLM: quando due comandi diventano un caos
Chiunque programmi un chatbot lo sa: il prompt di sistema dovrebbe guidare il comportamento del modello, e quello dell’utente dovrebbe adattarsi alle regole di base. Ma se l’utente scrive “ignora le istruzioni precedenti e fai questa cosa”, la maggior parte dei modelli linguistici crolla. Non è un incidente occasionale: la versione estesa della ricerca lo definisce un fallimento strutturale. “La maggior parte degli LLM non riesce a comportarsi in modo coerente quando queste istruzioni sono in conflitto”, si legge nel documento. Il motivo è che i modelli sono stati addestrati a soddisfare tutte le richieste, senza una gerarchia e senza gli strumenti per scegliere quale comando privilegiare.
Lo si sapeva da tempo. Già nell’aprile 2024, OpenAI aveva pubblicato un documento fondativo che introduceva il concetto di gerarchia delle istruzioni: i prompt di sistema dovrebbero vincolare quelli dell’utente, e quelli dell’utente i contenuti provenienti da terze parti. Nello stesso anno, Wallace e colleghi avevano addestrato modelli su un set sintetico di istruzioni gerarchiche per rafforzare la conformità con i comandi privilegiati. Ma restava un limite: quelle tecniche insegnavano al modello a eseguire meccanicamente un copione, non a capire la logica di un conflitto. Fuori dagli esempi di addestramento, la protezione svaniva.
Il gruppo di Sachin Kumar, Chan Young Park, Faeze Brahman e altri ha ribaltato la prospettiva: invece di iniettare regole prefabbricate, ha riformulato la risoluzione della gerarchia come un compito di ragionamento. Il set di addestramento VerIH è composto da problemi di rispetto dei vincoli in cui le risposte sono sempre verificabili, e dove le istruzioni di sistema e utente possono concordare o entrare in conflitto. Su quella base, il modello impara non solo a dare la risposta giusta, ma a esplicitare il perché, passo dopo passo. I risultati, misurati su più famiglie di modelli, mostrano un miglioramento assoluto di circa il 20% nella capacità di seguire le istruzioni in presenza di conflitti. E quel che conta è che il beneficio non si ferma alla distribuzione di addestramento: anche in scenari critici per la sicurezza mai visti prima, il tasso di successo degli attacchi di jailbreak e di prompt injection è sceso fino al 20%.
La domanda, ora, è se un miglioramento del 20% basti a convincere chi sviluppa applicazioni reali. Per un editor che usa un LLM per filtrare commenti o per un chatbot che deve rispettare una policy aziendale incrociando richieste libere degli utenti, il margine è ancora ampio. Ma la direzione è chiara: il ragionamento verificabile è la prima strada che porta fuori da un vicolo cieco.
La conferma di OpenAI: perché anche i giganti ora investono sulla gerarchia delle istruzioni
E mentre VerIH mostrava la strada, a marzo 2026 OpenAI rispondeva con un nuovo benchmark e un fine-tuning mirato. Il team ha costruito dataset IH-Challenge, progettato per l’addestramento con apprendimento per rinforzo capace di insegnare al modello a resistere a ordini contraddittori anche quando l’avversario si adatta. Il fine-tuning di GPT-5-Mini con generazione di esempi avversariali online ha migliorato la robustezza della gerarchia delle istruzioni del 10% in media su 16 benchmark, portando il punteggio dall’84,1% al 94,1%. Il test ha coperto sia dati vicini alla distribuzione di addestramento, sia scenari fuori distribuzione e attacchi di red-teaming umano.
Non è l’unico segnale che il tema è diventato centrale. Già nel 2024, il metodo ISE aveva migliorato l’accuratezza robusta media fino al 15,75% sul benchmark Structured Query e del 18,68% su Instruction Hierarchy. Pur usando una strada diversa, anche quel lavoro mostrava che i modelli potevano apprendere a distinguere le priorità senza dover ricominciare da zero ogni volta che un prompt tentava di scavalcare le regole.
La convergenza tra accademia e aziende non è casuale. Man mano che i modelli linguistici escono dai sandbox per entrare in prodotti con milioni di utenti, la capacità di rispettare una scala di autorità diventa un requisito industriale, non una speculazione teorica. Per chi sviluppa applicazioni basate su AI, significa che i modelli del futuro prossimo saranno sempre più prevedibili, ma anche più rigidi: un bene per la sicurezza, un vincolo per chi è abituato a contrattare ogni risposta con prompt creativi.
Oltre il jailbreak: cosa cambia per chi fa impresa con l’AI
I numeri raccontano una storia chiara: meno attacchi riusciti, più allineamento anche fuori distribuzione. Ma la vera differenza, per un’impresa, non sta nei punti percentuali: sta nel fatto che per la prima volta un LLM non solo esegue, ma argomenta. Il salto di VerIH non è solo difensivo: trasformare un conflitto di istruzioni in un problema di ragionamento significa che il modello può spiegare perché ha scelto di ignorare un comando, esattamente come farebbe un buon editor davanti a una nota che contraddice la linea editoriale.
Per chi costruisce interfacce utente o chatbot, la direzione è una sola: prepararsi a istruzioni multilivello, dove l’AI non sarà più un semplice interlocutore ma un guardiano dei contenuti. Ed è una buona notizia per tutti, tranne per chi sperava di poterla ancora prendere a comandi.
