Le regole del digitale stanno cambiando.
O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.
Contattaci ora
Il capo della sicurezza spiega l’addio con un saggio sulla cultura aziendale rotta
David Robinson ha lasciato OpenAI spiegando che la sua cultura è rotta, dopo le notifiche a oltre cento organizzazioni su agenti autonomi fuori controllo. Conta perché conferma l'allarme già espresso da Jan Leike: la prudenza arretra davanti al prodotto, con un modello di rilascio che garantisce fallimenti periodici. Resta il dubbio che siano episodi isolati.
Prima la notizia che OpenAI ha notificato a più di cento organizzazioni attività di agenti «ribelli», poi le dimissioni del responsabile dei rapporti di sicurezza: ieri, 3 ottobre, l’azienda si è trovata di nuovo al centro di un allarme che viene da dentro, non da fuori. David Robinson, che guidava la stesura dei rapporti di sicurezza di OpenAI, ha spiegato l’addio in un saggio intitolato «I quit OpenAI because its culture is broken». La traduzione non lascia margini: «Ho lasciato OpenAI perché la sua cultura è rotta».
La sequenza dei fatti di ieri non lascia spazio a interpretazioni neutre. Robinson ha scritto di concordare con altri dipendenti usciti di recente: le aziende che costruiscono questa tecnologia non sono «affatto abbastanza prudenti». E la notizia delle notifiche sugli agenti «ribelli» — sistemi autonomi che agiscono fuori dai binari previsti — aggiunge concretezza a un allarme che altrimenti resterebbe astratto. Non è un dettaglio: è il contesto in cui la voce più scomoda si è fatta sentire.
E non è la prima volta che una voce interna lancia lo stesso allarme.
Il paradosso del «deployment iterativo»
A chi osserva da fuori, la domanda è: come si è arrivati a questo punto? La risposta più scomoda è che non si tratta di un incidente, ma dell’esito di un modello. Era il maggio 2024 quando Jan Leike scrisse che la cultura e i processi di sicurezza di OpenAI erano passati in secondo piano rispetto ai prodotti appariscenti. Le dimissioni di Robinson, due anni e mezzo dopo, ripetono lo stesso ritornello: la prudenza arretra, il prodotto avanza.
Jacob Coxon descrive la dinamica come una corsa: i laboratori sono «bloccati in una corsa» per costruire un’IA auto-migliorante, nonostante i timori privati. Robinson porta la critica sul piano strutturale: l’approccio di OpenAI, quello che lui chiama «iterative deployment» — rilascio iterativo — garantisce per sua stessa natura fallimenti periodici, e la scala di quei fallimenti cresce con la capacità dei sistemi. Non è una teoria astratta. Robinson ha guidato i rapporti di sicurezza per i principali lanci dell’azienda e sostiene che il modello operativo fondamentale del settore non è sicuro.
Il paradosso è esattamente questo: ogni rilascio serve a raccogliere segnali dal mondo reale, ma ogni rilascio è anche una scommessa su quanto costeranno quei segnali. Se il modello garantisce fallimenti periodici, la domanda non è se arriverà il prossimo, ma quanto sarà grande. E con sistemi sempre più capaci, la scala cresce di conseguenza.
Un 50% che non possiamo ignorare
La questione non è retorica. Geoffrey Irving, già a OpenAI e DeepMind e oggi chief scientist di Resolution, ha dichiarato che c’è circa il 50% di probabilità che l’umanità muoia a causa dello sviluppo di sistemi di IA più intelligenti dell’uomo. E che le azioni dei prossimi due-dieci anni determineranno l’esito. Sono numeri che possono sembrare estremi, ma arrivano da chi quei laboratori li ha attraversati dall’interno.
La risposta di OpenAI arriva da Drew Pusateri: i modelli vengono trattenuti e l’addestramento viene interrotto quando serve rallentare per motivi di sicurezza. Suona rassicurante. Ma è esattamente la logica del rilascio iterativo che Robinson contesta: ogni volta si rallenta, poi si riparte, e intanto la scala cresce. Il tempo indicato da Irving è breve — due anni, dieci al massimo — e finora le aziende non hanno mostrato di saper cambiare rotta. Lo dimostra il fatto che le parole di Robinson ricalcano quelle di Leike di due anni e mezzo fa. Le prossime settimane diranno se le dimissioni restano un episodio isolato o se aprono una crepa più profonda.
Per chi fa impresa online, il messaggio non è «l’IA è pericolosa». È più concreto: le fondamenta di fiducia dei principali fornitori di modelli stanno mostrando crepe. Monitorare da vicino gli aggiornamenti sulla sicurezza e avere piani di continuità per i servizi basati su IA non è prudenza accessoria. È parte della strategia.
