OpenAI: le allucinazioni non sono un difetto, ma un problema di addestramento

Le regole del digitale stanno cambiando.

O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.

Contattaci ora →

Dietro le allucinazioni delle AI si cela un sistema di addestramento che premiava risposte rapide e sicure, anche se inventate, sollevando dubbi sull’affidabilità di questi strumenti.

OpenAI ha ammesso che le "allucinazioni" dei modelli linguistici non sono difetti, ma risultato di un addestramento che premiava risposte veloci e sicure, anche se errate. Questa rivelazione solleva dubbi sulla responsabilità aziendale e implica che gli utenti dovrebbero trattare gli output dell'IA con scetticismo, verificandoli sempre.

La “scoperta” che sa di ammissione di colpa

La radice del problema, quindi, non sarebbe un mistero tecnologico insondabile, ma una semplice questione di incentivi sbagliati.

Come descritto nel loro stesso paper tecnico, i ricercatori di OpenAI spiegano che le allucinazioni nascono come semplici errori statistici: se il modello non riesce a distinguere un fatto da un’affermazione plausibile ma falsa, nel dubbio spara la sua ipotesi.

E il sistema di training, fino a ieri, diceva: “Bravo, hai risposto!”.

In pratica, abbiamo passato anni a discutere della “creatività” o dei “difetti” dell’IA, quando il problema era a monte: nel modo in cui le è stato insegnato a comportarsi.

La soluzione proposta sembra quasi banale: permettere al modello di astenersi.

I test mostrano che con un tasso di astensione del 52%, le risposte errate crollano drasticamente.

Un risultato che, a ben vedere, solleva un dubbio ancora più grande.

Il vero problema non è la macchina, ma chi la addestra

Se basta cambiare una regola nell’addestramento per migliorare così tanto l’affidabilità, significa che per tutto questo tempo abbiamo usato strumenti tarati per essere degli “yes-man” presuntuosi, non dei collaboratori affidabili.

La colpa, quindi, non è dell’algoritmo in sé, ma delle priorità di chi lo ha sviluppato. La fretta di lanciare sul mercato un prodotto che sembrasse onnisciente ha prevalso sulla necessità di renderlo onesto.

Questa dinamica sposta il focus da un problema tecnico a una questione di responsabilità aziendale.

Le grandi corporation tech ci hanno venduto una tecnologia presentandola come potentissima, omettendo però di specificare che la sua “sicurezza” era una scommessa, non una certezza.

E ora che la falla è evidente, la “soluzione” viene presentata come un’innovazione. Ma questo non cancella il fatto che, fino a ieri, il sistema era progettato per ingannare pur di compiacere.

E adesso? le implicazioni per chi usa l’IA ogni giorno

Cosa significa tutto questo per te, che magari stai pensando di usare l’IA per scrivere i testi del tuo sito, analizzare dati di mercato o gestire il customer care?

Significa una cosa sola: non puoi fidarti ciecamente.

La notizia di OpenAI non è la fine del problema delle allucinazioni, ma la conferma ufficiale che devi trattare ogni output dell’IA con scetticismo e verificarlo sempre con la tua testa e la tua esperienza.

La tecnologia è uno strumento potentissimo, non c’è dubbio, ma non è un oracolo.

Questa vicenda ci ricorda che dietro ogni riga di codice ci sono scelte umane, con priorità e, a volte, con interessi che non sempre coincidono con la trasparenza.

La vera intelligenza, alla fine, non sta nell’usare l’IA, ma nel sapere quando e come non fidarsene.