Le regole del digitale stanno cambiando.
O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.
Contattaci ora →
Ma possiamo davvero affidarci a un’azienda che si auto-valuta, definendo quanto è pericolosa la sua stessa tecnologia?
OpenAI ha rilasciato i modelli GPT-OSS "open-weight", sostenendo di aver superato rigorosi test interni di sicurezza. Questa mossa ha sollevato dubbi sull'affidabilità dell'autovalutazione. L'azienda ha anche lanciato una "Red Teaming Challenge" da 500.000 dollari per trovare falle, alimentando il dibattito: è apertura reale o una strategia calcolata per delegare la sicurezza e ottenere visibilità?
Il test del “cattivo”: così OpenAI ha provato a creare un mostro
Per convincere il mondo della loro diligenza, i ricercatori di OpenAI hanno inventato una metodologia che hanno chiamato “malicious fine-tuning” (MFT), ovvero un addestramento malevolo.
Te lo spiego in parole semplici: hanno preso il loro modello e, invece di insegnargli a essere utile, hanno provato deliberatamente a renderlo il più pericoloso possibile.
Hanno simulato lo scenario peggiore, quello in cui un malintenzionato con risorse significative cerca di trasformare l’IA in un’arma, concentrandosi su due campi che fanno paura a tutti: la biologia, per la creazione di minacce, e la cybersicurezza.
Come descritto nel loro documento di ricerca, hanno messo il modello in un ambiente controllato e gli hanno dato gli strumenti per imparare a fare danni.
È un po’ come prendere un cane da guardia e addestrarlo non per proteggere, ma per attaccare indiscriminatamente, solo per vedere fino a che punto può spingersi la sua aggressività.
Una mossa audace, certo, ma il risultato che hanno sbandierato lascia qualche perplessità.
Un esame superato, ma chi ha scritto le domande?
E qui viene il bello.
Dopo aver tentato di “corrompere” la propria creatura, OpenAI ha annunciato che, tutto sommato, il pericolo è sotto controllo. I loro test hanno mostrato che, anche dopo l’addestramento malevolo, i modelli GPT-OSS non hanno raggiunto livelli di rischio “Alti” secondo la loro scala di valutazione interna, il Preparedness Framework.
Anzi, si sono dimostrati meno capaci dei loro modelli più potenti e tenuti sotto chiave, come O3. Come riportato sul loro sito, il loro stesso comitato di sicurezza ha dato il via libera al rilascio.
Diciamocelo, sembra tutto perfetto.
Forse troppo.
Il punto è che l’esaminatore e l’esaminato sono la stessa entità. OpenAI ha definito i rischi, ha creato la metodologia per testarli e alla fine si è data la sufficienza. È un’autocertificazione di sicurezza su una tecnologia che potrebbe avere un impatto enorme.
Questo processo, per quanto trasparente sulla carta, non risolve il dubbio di fondo: stiamo basando la nostra sicurezza sulla valutazione di chi ha tutto l’interesse a procedere con i propri piani?
La caccia ai bug da 500.000 dollari: sicurezza reale o marketing?
E per completare il quadro, insieme al rilascio dei modelli, OpenAI ha lanciato una “Red Teaming Challenge”. In pratica, hanno messo sul piatto 500.000 dollari per chiunque riesca a trovare nuove falle di sicurezza nei loro sistemi.
Da un lato, sembra un’iniziativa lodevole per coinvolgere la comunità e rafforzare la sicurezza.
Dall’altro, non ti sembra un modo elegante per delegare ad altri la ricerca di problemi che forse dovrebbero risolvere internamente, prima di rilasciare un prodotto così delicato?
Questa mossa sposta una parte della responsabilità sulla comunità globale di sviluppatori e ricercatori. Invece di garantire un prodotto a prova di bomba, si affida a una sorta di caccia al tesoro post-rilascio.
È una strategia di apertura genuina e un nuovo standard per la sicurezza, come dicono loro, o un modo astuto per accelerare la diffusione della propria tecnologia, scaricando parte del rischio e facendosi anche un’ottima pubblicità?
La riflessione, come sempre, la lascio a te.
Ah, l’autovalutazione di OpenAI. Un vero capolavoro di trasparenza, non trovi? Delegare la sicurezza a una “sfida” da mezzo milione sembra un approccio alquanto… *creativo*.
Sicurezza delegata? Ma che idea brillante. Davvero un passo avanti.
La metodologia di “malicious fine-tuning” pare piuttosto un modo per esternalizzare la responsabilità, non una vera garanzia di sicurezza. Un approccio piuttosto… creativo per evitare di assumersi pienamente gli oneri.
Interessante l’idea di “testare il cattivo” per vendere sicurezza. Come mettere il lupo a guardia del pollaio, diciamo. La fiducia si costruisce con fatti, non con sfide da mezzo milione di dollari. Bisogna vedere se questo approccio regge nel lungo termine.
La fiducia nei modelli GPT-OSS? Si basa su test interni e sfide da mezzo milione, non su garanzie. L’approccio è da valutare nel tempo.
È un po’ come chiedere al lupo di fare la guardia al pollaio. Un tentativo, certo. Ma la fiducia si guadagna con i fatti, non con le sfide a pagamento.
L’autovalutazione di OpenAI è un po’ come chiedere al lupo di sorvegliare le pecore. 🐑👎 Non mi convince per niente. #AI #dubbi
Ah, l’autovalutazione… mica male come modo per scaricare la responsabilità, no? 🙄 La sfida da mezzo milione è solo un bel sipario per nascondere l’ovvio: la sicurezza se la devono garantire da soli, mica con un concorso a premi. 🤦♂️
Ammiro la loro audacia nel testare le vulnerabilità in modo così diretto! Chissà se questa trasparenza sarà sufficiente a placare ogni dubbio. Il futuro ci dirà se è apertura genuina.
Fidarsi di chi si auto-certifica la sicurezza? Logico. La Red Teaming Challenge è un modo elegante per far fare il lavoro sporco ad altri. E noi paghiamo. Geniale.