Le regole del digitale stanno cambiando.
O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.
Contattaci ora
Hugging Face: i test invecchiano in fretta e mancano standard condivisi.
I test di sicurezza dell'AI invecchiano rapidamente e mancano standard condivisi per confrontarli, secondo Irene Solaiman di Hugging Face. La valutazione degli agenti autonomi è costosa e poco praticata, mentre Anthropic ha affidato a un valutatore esterno senza regole chiare su accesso e finanziamento. L'etichetta di sicurezza resta ambigua e l'indipendenza delle verifiche appare più dichiarata che garantita.
«Sono una scienza in evoluzione, e non sappiamo come confrontarle tra loro in modo significativo». A parlare così delle valutazioni dei modelli di intelligenza artificiale è Irene Solaiman, chief policy officer di Hugging Face, durante una discussione a TechCrunch Disrupt. Come riportato da TechCrunch in un articolo di lunedì scorso, secondo Solaiman i metodi alla base di questi test sono complicati e stanno ancora maturando. C’è poi un dettaglio che pesa più degli altri: proprio gli strumenti su cui si regge la promessa di un’AI sicura smettono di funzionare in fretta.
Il metro che si consuma mentre misura
Prima di tutto, cosa si intende per «valutazione»? In parole semplici è una batteria di prove a cui si sottopone un modello di AI per capire come si comporta: se dà risposte pericolose, se può essere manipolato, se fa ciò che promette. È l’esame che sta dietro all’etichetta «testato per la sicurezza» che le aziende del settore espongono volentieri.
Il problema, secondo Solaiman, è che questo esame invecchia male. «Iniziano a diventare inefficaci in tempi relativamente brevi», ha spiegato, aggiungendo che manca un insieme abbastanza vivace di soggetti, competenze e risorse capace di sostenerle. Quindi il metro con cui misuriamo la sicurezza si consuma mentre misura. E non c’è nemmeno un modo condiviso per confrontare un test con un altro.
Il punto più delicato riguarda gli agenti, cioè i sistemi che non si limitano a rispondere ma agiscono da soli: navigano, compilano, eseguono operazioni. «Le valutazioni agentiche sono davvero difficili e davvero costose», ha detto Solaiman. Ha anche osservato che i test dedicati agli harness, l’infrastruttura che collega il modello agli strumenti con cui opera, sono meno numerosi di quelli dedicati ai modelli. Proprio la parte che agisce nel mondo reale, insomma, è quella meno controllata. Resta allora una domanda semplice: chi verifica davvero questi sistemi?
Accenture dentro Anthropic: il controllore senza regolamento
Un tentativo di risposta esiste già, ed è arrivato lo scorso settembre da Anthropic. L’azienda ha scelto Accenture come suo primo «evaluator embedded», cioè un valutatore esterno integrato nei processi interni, con accesso diretto ai sistemi da esaminare. Una mossa che, ricorda TechCrunch, ha suscitato parecchie critiche. Non è difficile capire perché: affidare il ruolo di controllore a una grande società di consulenza, che con l’AI fa affari, pone almeno qualche domanda sull’indipendenza del giudizio.
Il dato più interessante, però, lo mette nero su bianco la stessa Anthropic. Nel suo annuncio sulla valutazione integrata con Accenture, l’azienda ammette che al momento non esistono standard su quali informazioni debbano essere accessibili ai valutatori embedded, né su come debbano riportare ciò che trovano. E aggiunge che non c’è nemmeno un sistema consolidato per finanziare la valutazione indipendente.
Tradotto: il controllore entra in casa, ma nessuno ha scritto le regole su cosa possa guardare, cosa debba rendere pubblico e chi lo paghi. Se a pagare è l’azienda valutata, l’indipendenza diventa una questione di fiducia più che di garanzie. Non è un’accusa: è esattamente il vuoto che l’azienda stessa descrive. Ma è bene distinguere l’annuncio, che parla di trasparenza, dalla sostanza, che per ora resta da definire.
Del resto l’idea non è solo di Anthropic. Già a settembre TechCrunch raccontava che Anthropic e OpenAI vogliono integrare valutatori di sicurezza nei propri processi. I valutatori indipendenti sentiti dalla testata hanno accolto la proposta con favore, ma con una condizione: i dettagli vanno definiti e, preferibilmente, sostenuti da una legge. Finché quella legge non c’è, a stabilire le regole del gioco sono di fatto le aziende che il gioco lo conducono. E intanto gli agenti autonomi sono già al lavoro.
Quando a muoversi è l’agente
Mentre le regole mancano, gli agenti non stanno ad aspettarle. In un resoconto di un incidente di sicurezza pubblicato sul blog di Hugging Face, si legge che l’operazione è stata condotta «dall’inizio alla fine da un sistema autonomo di agenti AI». E che a sua volta è stata individuata e analizzata «in gran parte con un’AI nostra». Agenti che attaccano, agenti che difendono. Il tutto con strumenti di valutazione che, per ammissione di chi li studia, sono costosi, scarsi e rapidi a diventare obsoleti.
Cosa guardare nelle prossime settimane? Due cose. La prima: se arriveranno standard o norme su cosa possano vedere e riportare gli evaluator embedded. La seconda: come le aziende rendiconteranno i test sugli agenti, non solo sui modelli.
Per chi fa impresa online e sta integrando agenti AI nella propria attività, oggi l’etichetta «valutato per la sicurezza» non ha un significato univoco. Può voler dire molte cose diverse, a seconda di chi ha condotto i test e con quali mezzi. Finché non ci saranno standard condivisi su accesso e rendicontazione, le domande utili da porre ai fornitori restano tre: chi ha fatto i test, su cosa li ha fatti e con quale grado di indipendenza.
