Anthropic blinda Fable 5: ecco il framework CJS anti-jailbreak

Le regole del digitale stanno cambiando.

O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.

Contattaci ora →

L’azienda ha blindato il suo modello più potente con sistemi di filtraggio che dirottano le richieste sensibili e ha introdotto un framework per valutare la gravità dei “jailbreak”, scatenando però reazioni contrastanti nel settore.

Anthropic risponde alle pressioni normative blindando il suo modello AI di punta, Fable 5. Con un approccio di "difesa in profondità" e un nuovo framework per classificare i jailbreak (CJS), l'azienda cerca un difficile equilibrio tra sicurezza e usabilità. La mossa, pur apprezzata per la trasparenza, frustra i professionisti del settore, limitando il lavoro legittimo di ricerca sulle vulnerabilità.

Anthropic gioca in difesa: ecco Fable 5 e i suoi “guardiani digitali”

Anthropic ha deciso di rimettere in campo il suo pezzo da novanta, il modello AI Claude Fable 5, ma questa volta lo ha blindato con una serie di nuove misure di sicurezza informatica. In pratica, hanno costruito una specie di fortezza digitale attorno al loro modello più potente, quello che loro chiamano di “classe Mythos”, pensato per ragionamenti complessi e per scrivere codice.

La mossa interessante, però, è che non si sono limitati a un semplice muro. Se provi a fare domande su argomenti che loro considerano sensibili – come cybersecurity, biologia o chimica – il sistema non ti risponde direttamente con Fable 5. Al contrario, come descritto da diverse testate tra cui SecurityWeek, la tua richiesta viene dirottata in automatico su un modello meno potente, il Claude Opus 4.8, avvisandoti del cambio.

Questo approccio, che loro chiamano “difesa in profondità”, è una mezza ammissione: sanno di non poter garantire una sicurezza impenetrabile e quindi preferiscono rendere gli attacchi così difficili e costosi da scoraggiare chiunque.

L’operazione non è casuale, ma arriva dopo che Anthropic aveva dovuto sospendere temporaneamente l’accesso a Fable 5 in seguito a una direttiva del governo statunitense. Una volta riavuto il via libera, hanno colto la palla al balzo per rinforzare le difese e, soprattutto, per essere più trasparenti su come funzionano.

Questo sistema di filtri automatici non analizza solo le tue richieste, ma scansiona qualsiasi contenuto che il modello legge, che sia da file, dal web o dalla sua memoria interna. Una rete di sicurezza a maglie strette, forse anche troppo, ma che risponde a una pressione normativa sempre più forte.

Ma la vera domanda è: come fa il sistema a decidere cosa è lecito e cosa no?

E qui la faccenda si fa interessante.

Una scala di pericolosità per i “jailbreak”: è la mossa giusta?

Invece di bloccare tutto ciò che puzza di cybersecurity, Anthropic ha scelto una via più sfumata. Hanno creato un sistema che classifica le richieste legate alla sicurezza informatica in quattro categorie.

Le attività palesemente dannose, come lo sviluppo di ransomware o malware, vengono bloccate senza discussioni. Poi ci sono quelle ad “alto rischio”, come lo sviluppo di exploit o il penetration testing, che pur essendo utili per i professionisti della sicurezza, sono troppo facili da usare per scopi malevoli e quindi, per ora, restano bloccate.

Le attività a “basso rischio” e quelle “benigne”, come l’analisi di log o la formazione sulla scrittura di codice sicuro, sono invece generalmente permesse. L’azienda stessa ammette che queste soglie sono più rigide rispetto ai modelli precedenti, preferendo bloccare qualche richiesta legittima piuttosto che rischiare di fornire assistenza pericolosa.

La vera novità, però, è un’altra.

Insieme a un bel gruppo di amici potenti come Amazon, Microsoft e Google, Anthropic ha proposto un framework per dare un voto alla gravità dei “jailbreak”, ovvero quelle tecniche usate per aggirare le protezioni di un’AI.

Questo sistema, chiamato Cyber Jailbreak Severity (CJS), mira a creare un linguaggio comune per capire quanto sia davvero pericoloso un attacco.

In parole povere, si chiedono: questo jailbreak ti dà superpoteri che prima non avevi o è solo un modo nuovo per fare qualcosa che potevi già fare con altri strumenti?

Valutano anche quanto sia facile trasformare la tecnica in un attacco reale e quanto sia difficile scoprirla. L’idea è di dare una priorità a ciò che conta davvero, invece di farsi prendere dal panico per ogni piccola falla.

Tutto questo sistema di punteggi e classifiche sembra ben congegnato, ma serve davvero a qualcosa?

E, soprattutto, cosa ne pensa chi con questi strumenti ci lavora ogni giorno?

Tra applausi e frustrazione: la reazione del mondo tech

Come prevedibile, il mondo tech si è spaccato a metà. Da un lato, molti esperti del settore hanno accolto con favore la trasparenza di Anthropic. Un esperto ha ammesso che le protezioni sono buone e fermeranno molti tentativi diretti di usare il modello per scopi malevoli, pur avvertendo che gli aggressori più determinati troveranno sempre un modo per aggirarle.

D’altronde, la stessa Anthropic, come si legge sul loro blog ufficiale, ha ammesso che le sue misure di sicurezza sono così forti da aver ricevuto lamentele da parte di utenti che le ritengono eccessive.

Questo la dice lunga sulla difficoltà di bilanciare protezione e libertà d’uso.

Dall’altra parte della barricata, infatti, il malumore serpeggia. Molti professionisti della sicurezza, come penetration tester e ricercatori indipendenti, si sentono frustrati perché queste restrizioni limitano il loro lavoro legittimo di scoperta e analisi delle vulnerabilità. È il classico scontro tra sicurezza e usabilità, dove a farne le spese sono spesso proprio coloro che cercano di rendere i sistemi più sicuri.

Fable 5 diventa così un grande esperimento a cielo aperto: un modello potentissimo tenuto al guinzaglio da regole ferree e da un nuovo sistema di valutazione dei rischi che ora attende il giudizio del pubblico.

Staremo a vedere se questo diventerà lo standard del settore o resterà solo il tentativo di un’azienda di gestire una tecnologia che, forse, corre più veloce di chi la crea.