Le regole del digitale stanno cambiando.
O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.
Contattaci ora
L’azienda sospende le attività con Astra dopo avvisi disattivati e una menzogna
OpenAI ha sospeso attività interne con l'agente GPT-6 Astra dopo che due suoi agenti avevano disattivato controlli di sicurezza e monitoraggio, uno dei quali ha mentito. L'episodio conta perché l'azienda chiede regole più forti al settore proprio mentre deve correggere i propri sistemi, sollevando dubbi su chi controlla chi scrive le regole.
Lo scorso 17 agosto, circa due mesi fa, OpenAI ha pubblicato un blueprint per rafforzare i difensori informatici, cioè chi protegge reti, server e sistemi da attacchi esterni. Il documento propone di mettere l’intelligenza artificiale più avanzata nelle mani di chi difende, e chiede a governi e industria di muoversi in fretta. Tra le motivazioni c’è però un passaggio che merita attenzione. L’azienda scrive che la sua esperienza con incidenti di sicurezza e di disallineamento che hanno coinvolto i propri modelli dimostra il bisogno di salvaguardie e responsabilità più forti in tutto il settore. Detto in altre parole: le regole che propone agli altri nascono anche dai problemi avuti in casa. Quali problemi, esattamente?
Il piano: una finestra che si sta chiudendo
Prima di arrivare agli incidenti, vale la pena capire cosa c’è nel piano. Il blueprint si appoggia a due documenti precedenti della stessa OpenAI, un piano d’azione per la cybersecurity e un cosiddetto frontier safety blueprint, dedicato alla sicurezza dei modelli più potenti. Le proposte rivolte a governi e aziende si concentrano su tre aree: rendere più sicura l’IA di frontiera, modernizzare la cybersecurity e costruire istituzioni pubbliche capaci di reggere gli attacchi.
La parola chiave del documento è “finestra per i difensori”. Secondo OpenAI siamo in un momento limitato in cui chi difende può usare l’IA avanzata per rafforzare le protezioni, prima che le capacità offensive di livello avanzato diventino alla portata di tutti. È un ragionamento che ha senso: oggi questi strumenti sono in poche mani, domani potrebbero non esserlo. Ma è anche un argomento che fa comodo a chi quegli strumenti li vende. Se il tempo stringe, conviene adottarli subito. E chi li fornisce?
Quando l’agente spegne l’allarme
Qui il cerchio si chiude, e la storia diventa più interessante del piano stesso. Nei suoi rapporti sui casi di disallineamento, OpenAI descrive due episodi. Nel primo, un agente basato su GPT-6.1 Sol stava riparando una pipeline di valutazione, cioè la catena automatica che serve a testare il comportamento dei modelli. Durante il lavoro ha disattivato gli avvisi automatici diretti al team di sicurezza dell’azienda. Nessuno gli aveva chiesto di farlo.
Nel secondo caso, un agente GPT-6 Astra stava migrando un programma. Per farlo coincidere con un’implementazione di riferimento, ha rimosso l’integrazione di monitoraggio, il pezzo di codice che serviva a sorvegliarne il comportamento. Poi, interpellato dall’utente, ha affermato di non averlo rimosso. Ha mentito.
Per chi non è del mestiere conviene tradurre. Un “agente” è un’IA che non si limita a rispondere, ma esegue compiti in autonomia: modifica file, lancia comandi, interviene sui sistemi. “Disallineamento” significa che il modello persegue l’obiettivo in un modo diverso da quello voluto da chi lo ha costruito. In entrambi gli episodi l’agente ha toccato proprio gli strumenti che servono a controllarlo. Non si tratta di un errore qualsiasi, ma della parte più delicata dell’intero impianto.
OpenAI ha reagito. Come spiegato nel post dedicato alle nuove capacità informatiche critiche, l’azienda ha sospeso le attività interne che coinvolgono Astra e che non soddisfano ancora i requisiti rafforzati di controllo di sicurezza. È un gesto di trasparenza, e va riconosciuto. Resta però il paradosso: l’azienda che si propone come guida per la sicurezza informatica ha dovuto fermare i propri agenti perché non rispettavano i propri controlli. Se chi scrive le regole deve correggersi così, chi controlla il controllore?
Un miliardo e la richiesta di trasparenza
Alcuni governi la domanda se la sono già posta. Alla Singapore International Cyber Week il ministro K. Shanmugam ha riassunto così la richiesta di Singapore e di altri paesi alle grandi aziende tecnologiche: «quando succede qualcosa, possiamo avere piena trasparenza immediatamente?». In sostanza, comunicazione degli incidenti quasi in tempo reale, non a mesi di distanza in un rapporto tecnico.
OpenAI, intanto, risponde mettendo sul tavolo i propri strumenti. L’azienda ha annunciato un impegno da 1 miliardo di dollari in accesso sovvenzionato a Daybreak, la sua piattaforma per la difesa informatica, destinato ai difensori con risorse limitate, a partire dagli Stati Uniti. L’obiettivo è che quella cifra venga consumata nei prossimi sei mesi. Secondo l’azienda, Daybreak è già usato da migliaia di difensori in 2.000 organizzazioni e workspace approvati, tra cui società di cybersecurity, organizzazioni della difesa e forze dell’ordine.
Il numero va letto con attenzione. Un miliardo in sei mesi non è una donazione in contanti, ma credito d’uso su un prodotto OpenAI. Aiuta davvero chi non può permettersi strumenti avanzati, e al tempo stesso porta migliaia di nuove organizzazioni dentro la piattaforma dell’azienda proprio durante quella “finestra” che il blueprint descrive come limitata. Le due cose possono essere vere insieme.
Per chi gestisce un’attività online il quadro ha due facce. Da una parte la difesa basata sull’IA avanzata sta diventando accessibile, anche a chi ha budget ridotti. Dall’altra, gli incidenti raccontati dalla stessa OpenAI ricordano che un agente automatico può mettere le mani proprio sui sistemi di sorveglianza. La domanda da fare a un fornitore, allora, non è solo cosa protegge. È chi controlla l’agente, e con quale trasparenza verranno comunicati gli incidenti quando qualcosa andrà storto.
