Le regole del digitale stanno cambiando.
O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.
Contattaci ora
L’azienda ha riscritto la soglia di sicurezza, mentre OpenAI ha fissato una data per il researcher automatizzato
Anthropic ammette nella S-1 di non essersi accorta di alcuni salti di capacità nei modelli sviluppati con l'IA. Il fatto conta perché arriva in un documento legale, non in un post: la soglia oltre cui scatta il miglioramento ricorsivo la scrive però l'azienda stessa, che l'ha rivista nella versione 3.4 della sua policy.
Di solito certe ammissioni si leggono in un post di ricerca o si ascoltano in un’intervista. Questa volta no. Come riportato da TechCrunch, Anthropic ha inserito nella sezione Risk Factors della sua S-1, il documento depositato ieri per la quotazione in borsa, un passaggio che merita di essere letto con attenzione: l’azienda dichiara di aver già usato l’IA per sviluppare nuovi modelli i cui salti di capacità, al momento, non aveva riconosciuto. In parole semplici: un’azienda che si presenta agli investitori scrivendo che non sempre si accorge di quanto sta crescendo ciò che costruisce.
Cosa c’è scritto nella S-1, e perché pesa
La S-1 non è un comunicato stampa. È il documento più formale che un’azienda possa produrre prima di andare sul mercato, e la sezione sui rischi serve proprio a tutelarsi legalmente. Proprio per questo il tono conta. Anthropic scrive che usare l’IA per aiutare a costruire IA più capaci «potrebbe comportare anche un considerevole rischio per la sicurezza, in particolare se accelera bruscamente il ritmo del progresso». E aggiunge che le sue stime interne e le aspettative sui modelli futuri, non su quelli attuali, indicano che potrebbe raggiungere «in modo imminente» la definizione di «progresso drammaticamente accelerato attribuibile all’IA» prevista dalla sua Responsible Scaling Policy, il regolamento interno con cui l’azienda decide quali precauzioni adottare man mano che i modelli diventano più potenti.
Poi arrivano le rassicurazioni. Nessuno dei modelli attuali, secondo Anthropic, è stato classificato come oltre la soglia di RSI, e l’azienda continua a valutare i dati. Inoltre non prevede di poter usare Claude in sicurezza per progettare e costruire in modo completamente autonomo le generazioni successive di modelli di frontiera, senza una supervisione e una comprensione umana significative, «se e quando ciò diventerà tecnicamente possibile». Tutto in ordine, quindi? Resta una domanda. Se nessun modello ha superato la soglia, chi decide dove sta la soglia?
La soglia che si sposta
La risposta è semplice, ed è qui che il discorso si fa interessante. La soglia la scrive Anthropic stessa. Partiamo dal concetto. Per RSI, cioè recursive self-improvement o miglioramento ricorsivo, si intende la capacità di un sistema di IA di progettare e sviluppare in totale autonomia il proprio successore. Un modello che costruisce il modello successivo, che a sua volta costruisce quello dopo. Anthropic, nei suoi materiali di approfondimento, dice di non essere ancora arrivata a quel punto e che il miglioramento ricorsivo non è inevitabile, ma che «potrebbe arrivare prima di quanto la maggior parte delle istituzioni sia preparata».
Ora il dettaglio che pesa. Già a luglio 2026, con l’aggiornamento alla versione 3.4 della Responsible Scaling Policy di Anthropic, l’azienda ha rivisto la propria soglia per la R&D automatizzata, cioè la ricerca e sviluppo svolta dalle macchine, con l’obiettivo dichiarato di seguire meglio il tipo di minaccia che preoccupa. Può essere una scelta tecnicamente sensata, le definizioni si affinano. Ma va detto chiaramente: quando un’azienda è insieme l’atleta e l’arbitro, ogni ritocco alla regola merita un occhio critico. Il fatto verificato è che nessun modello è stato dichiarato oltre la soglia. Il fatto altrettanto verificato è che quella soglia è stata riscritta pochi mesi fa da chi deve rispettarla.
C’è poi la posizione personale del CEO, Dario Amodei. In un saggio intitolato “We must pace the frontier” scrive senza giri di parole: «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA». E spiega di essersi convinto che affrontare davvero i rischi richieda più prudenza: non solo investire nella prevenzione, ma regolare la velocità con cui avanzano le capacità, così che la prevenzione abbia il tempo di stare al passo. Una tesi coerente con il tono della S-1. Ma il punto è un altro. Se perfino chi propone di rallentare dichiara di essere vicino al limite, cosa fanno gli altri?
La corsa e chi dovrebbe arbitrarla
Gli altri accelerano. A settembre, come riportato da Fortune, OpenAI, l’azienda di ChatGPT, ha annunciato di aver sviluppato un «research intern» automatizzato: un sistema capace di svolgere compiti di ricerca ben definiti sotto la guida umana, inclusi lavori che a un ricercatore esperto richiederebbero alcuni giorni. E l’obiettivo dichiarato è creare un «researcher» automatizzato, un ricercatore a tutti gli effetti, entro marzo 2028. Da una parte c’è chi scrive in un documento legale che bisogna frenare. Dall’altra c’è chi ha già fissato una data sul calendario per andare più veloce.
Questa distanza spiega la posizione di chi si occupa di sicurezza dell’IA. Il Future of Life Institute, in una dichiarazione pubblica sul miglioramento ricorsivo, sostiene che i laboratori privati non possono controllarsi da soli e che devono essere i governi a intervenire per limitare le forme rischiose di automiglioramento. Detto in modo diretto: l’autocontrollo funziona finché conviene, e in una corsa a chi arriva prima conviene sempre meno. Chi ci guadagna da regole interne flessibili? Chi le scrive.
Cosa osservare, allora, nelle prossime settimane? Tre cose. Se arriveranno regole pubbliche, e non solo impegni volontari. Se ci saranno nuove revisioni della Responsible Scaling Policy, e in quale direzione. E il ritmo dei rilasci, che dirà più di qualunque dichiarazione d’intenti.
Per chi costruisce prodotti e servizi su Claude, ChatGPT e strumenti simili, il messaggio concreto è questo: i modelli potrebbero cambiare più in fretta di quanto i fornitori stessi riescano a misurare. Lo ha scritto Anthropic, non un osservatore esterno. La stabilità degli strumenti su cui si appoggia un business dipenderà sempre più da decisioni di governance, e sempre meno dalle sole roadmap di prodotto.
