Sora 2 di OpenAI: promesse di sicurezza contro il rischio deepfake

Le regole del digitale stanno cambiando.

O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.

Contattaci ora →

Tra promesse di sicurezza e timori di abusi, le contromisure basteranno a proteggerci dai rischi di deepfake e manipolazioni?

OpenAI presenta Sora 2, il suo nuovo generatore video, promettendo un ecosistema sicuro grazie a filtri avanzati e controlli sull'identità. Tuttavia, le prime falle nel sistema, denunciate da organizzazioni di vigilanza, sollevano seri dubbi. Il rischio che la tecnologia venga sfruttata per creare deepfake e disinformazione appare concreto, mettendo in discussione l'efficacia delle difese proposte dall'azienda.

Le promesse di OpenAI: un mondo di video sicuri (o quasi)

OpenAI ha messo sul tavolo la sua nuova creatura, Sora 2, e insieme ad essa un intero pacchetto di promesse sulla sicurezza. L’idea è quella di darci uno strumento potentissimo per creare video dal nulla, ma con tutte le garanzie del caso per evitare che la situazione sfugga di mano.

Si parla di un sistema su più livelli che va dalla verifica della provenienza dei contenuti tramite metadati standard (i C2PA) e watermark visibili, fino a filtri automatici che dovrebbero bloccare sul nascere richieste e video problematici, come materiale sessuale o propaganda terroristica.

In pratica, prima che tu possa anche solo pensare di generare qualcosa, la piattaforma analizza ciò che scrivi. E se per caso il risultato finale viola le policy, viene bloccato.

Sulla carta, un castello di difese impenetrabile.

Ma, come sempre quando si parla di colossi tech, la teoria è una cosa, la pratica è tutt’altra.

Quali sono, nel dettaglio, gli strumenti che dovrebbero tenerci al sicuro da un uso spregiudicato di questa tecnologia?

Gli strumenti del mestiere per una creatività “sotto controllo”

Andiamo a vedere cosa c’è nella cassetta degli attrezzi di OpenAI. Per prima cosa, hanno introdotto un controllo granulare sui “personaggi”, ovvero sulla tua immagine. Se qualcuno prova a creare un video usando una tua foto, non solo deve dichiararlo, ma tu hai il potere di revocare l’accesso e controllare ogni singolo video che ti ritrae. A questo si aggiungono protezioni specifiche per i più giovani e un sistema di controllo audio che impedisce di imitare la voce di artisti viventi o di replicare opere musicali esistenti.

L’azienda si vanta anche di aver condotto test approfonditi per scovare i rischi. I test interni, secondo il loro system card ufficiale, mostrerebbero un’efficacia del 96% nel bloccare contenuti sessualmente espliciti, senza però esagerare e bloccare richieste legittime.

Un numero che fa una certa impressione, non c’è che dire.

Tutto questo sembra fantastico, quasi troppo bello per essere vero.

Ma la domanda che dovresti farti è: regge alla prova del mondo reale?

O stiamo solo guardando una facciata ben costruita?

La realtà dei fatti: quando la toppa è peggio del buco

E qui, purtroppo, il castello di carte inizia a vacillare.

Nonostante le rassicurazioni, le organizzazioni di vigilanza hanno già lanciato l’allarme. A quanto pare, i filtri anti-impersonificazione di Sora 2 sono stati aggirati poco dopo il lancio, come denunciato qui.

Il problema è che, una volta che la tecnologia è là fuori, c’è sempre qualcuno pronto a trovarne le crepe. E le conseguenze non sono affatto banali.

Il rischio che Sora abbassi drasticamente la soglia per la creazione di deepfake convincenti usati per frodi, impersonificazioni e manipolazione dell’opinione pubblica è più che concreto, un timore condiviso da molti esperti di sicurezza.

La stessa OpenAI, con una certa onestà, ammette che “la protezione perfetta è difficile” da raggiungere, pur continuando a investire per migliorare.

La vera domanda, però, è un’altra:

Basta questo a dormire sonni tranquilli mentre una tecnologia così potente viene messa nelle mani di tutti?