Il ricercatore che ha guidato l’allineamento in OpenAI entra nell’organo che può bloccare un modello di frontiera
Da ieri, un uomo ha il potere di bloccare il rilascio di un modello di frontiera. Non è Sam Altman. Paul Christiano è stato nominato membro del consiglio della OpenAI Foundation, secondo l’annuncio ufficiale diffuso dall’azienda. Entrerà anche nel Safety and Security Committee, l’organo che ha l’autorità di fermare il rilascio di nuovi sistemi di intelligenza artificiale se li ritiene non sicuri.
Il nuovo volto del veto
All’interno del comitato, Christiano lavorerà accanto al presidente Zico Kolter. Non è un ruolo di rappresentanza: è il posto da cui si esercita un giudizio tecnico che può condizionare ciò che OpenAI mette sul mercato. Christiano non arriva da fuori. Tra il 2017 e il 2021 ha guidato la ricerca sull’allineamento in OpenAI e ha contribuito al lavoro fondamentale sul reinforcement learning from human feedback, la tecnica con cui i modelli imparano a seguire le preferenze espresse dagli esseri umani.
La domanda è perché adesso. Il comitato non nasce con Christiano: fu creato nel maggio 2024, dopo che OpenAI aveva iniziato ad addestrare il suo modello di frontiera successivo, e all’epoca includeva lo stesso Sam Altman, come si legge nell’annuncio che istituiva il Safety and Security Committee. Da allora la composizione è cambiata, e il perimetro del controllo si è allargato oltre i confini della società operativa. L’ingresso di un ricercatore con quella storia è un segnale su chi avrà voce sul giudizio di sicurezza.
La partita della governance indipendente
Qui la questione è di indipendenza, non di organigramma. Bret Taylor ha descritto Zico Kolter, il presidente del comitato, come una figura che porta una profonda comprensione tecnica della sicurezza e della robustezza dell’intelligenza artificiale, secondo una nota diffusa dall’azienda. È il tipo di competenza che serve per valutare se un modello può essere rilasciato senza conseguenze. Christiano porta credenziali simili, ma da un’altra direzione: l’allineamento dei modelli, il lavoro sul feedback umano.
Il punto strutturale pesa di più. Il Safety and Security Committee rimarrà un comitato della OpenAI Foundation e continuerà a esercitare la governance sulle pratiche di sicurezza di tutta OpenAI, incluso OpenAI Group, come indicato nella pagina sulla struttura aziendale. Tradotto: chi valuta la sicurezza non sta dentro l’entità che sviluppa e commercializza i modelli, ma in una fondazione separata. È lo schema che Anthropic aveva sperimentato già nel 2023 con il suo Long-Term Benefit Trust, un precedente di governance di missione indipendente nell’AI di frontiera. Il meccanismo è lo stesso: mettere la missione al riparo dagli incentivi commerciali.
Il potere di veto non è un dettaglio teorico. Lo documentava Fortune nel novembre scorso: un panel di quattro persone guidato da Zico Kolter ha l’autorità di fermare il rilascio di nuovi sistemi di intelligenza artificiale se li ritiene non sicuri. Con l’ingresso di Christiano, quel presidio si rafforza nel profilo tecnico, non solo nel mandato.
Il rischio che non vedete nel contratto
Per chi usa OpenAI o costruisce servizi sui suoi modelli, questa governance diventa una variabile operativa. Se un comitato separato dalla società operativa può fermare il rilascio di un modello giudicato non sicuro, la disponibilità di un modello non è più una certezza contrattuale: è l’esito di una valutazione indipendente. Non è uno scenario remoto: il mandato del comitato copre le pratiche di sicurezza di tutta OpenAI, incluso OpenAI Group, l’entità che sviluppa e commercializza i modelli. Chiunque abbia un contratto con OpenAI, o costruisca sopra le sue API, dipende da un giudizio che non controlla.
Vale la pena leggerlo in controluce. Le aziende valutano i fornitori di intelligenza artificiale guardando prestazioni, prezzo, latenza. La governance della sicurezza resta spesso una riga nei documenti societari. Ma da ieri quel dettaglio ha un nuovo interprete, e il suo mestiere è dire di no quando qualcosa non lo convince.
Avere un comitato che può fermare tutto sembra un dettaglio organizzativo. Fino al giorno in cui lo fa.
