Le regole del digitale stanno cambiando.
O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.
Contattaci ora →
La scoperta di ricercatori di sicurezza rivela come la cosiddetta “prompt injection” possa ingannare gli assistenti AI, portandoli a eseguire comandi malevoli nascosti nelle pagine web
Una ricerca di Zenity svela una grave falla nel browser Atlas di OpenAI. Sfruttando il prompt injection, è possibile indurre l'AI a inviare spam su WhatsApp e ad accedere a un account Amazon. Questo episodio espone il tallone d'Achille degli assistenti AI, dimostrando come la corsa all'innovazione stia pericolosamente trascurando la sicurezza fondamentale degli utenti.
Il tuo browser AI può trasformarsi in una macchina da spam (e non solo)
Pensa di chiedere al tuo assistente AI di ultima generazione, integrato nel browser, di svolgere un compito semplice come iscriverti a una newsletter.
Lo fai, e un attimo dopo lui ha inviato un messaggio con il link di quella stessa newsletter a tutti i tuoi contatti WhatsApp, uno per uno.
Non è fantascienza, ma quello che alcuni ricercatori di sicurezza sono riusciti a fare con Atlas, il nuovo browser potenziato da intelligenza artificiale di OpenAI.
La scoperta, come riportato da Wired, arriva dalla società di sicurezza Zenity, che ha dimostrato come sia possibile ingannare l’assistente AI.
Il trucco?
Inserire istruzioni nascoste, scritte in ebraico per aggirare i filtri di sicurezza pensati per l’inglese, all’interno del codice di una pagina web apparentemente innocua.
Quando l’AI ha letto la pagina per completare la tua richiesta, ha eseguito anche i comandi nascosti, trasformando di fatto il tuo account in un motore di spam che si auto-alimenta, diffondendosi attraverso la tua rete di contatti.
Il punto fondamentale è che la falla non è in WhatsApp, ma nel modo in cui il browser AI si fida ciecamente dei contenuti che visita.
Ma se pensi che inondare i tuoi amici di spam sia il peggio che possa capitare, ti sbagli di grosso.
La stessa tecnica, infatti, può mettere a rischio direttamente il tuo portafoglio.
Prompt injection: il tallone d’achille degli assistenti AI
I ricercatori non si sono fermati a WhatsApp. Hanno replicato l’esperimento puntando a un bersaglio ancora più sensibile: un account Amazon.
Con la stessa dinamica, hanno ordinato ad Atlas di interagire con la sessione Amazon dell’utente, riuscendo ad aggiungere un nuovo indirizzo di spedizione e a inserire un tablet nel carrello.
Da lì a completare un acquisto non autorizzato il passo è davvero breve.
Questo dimostra che, una volta concessa la fiducia a un assistente AI, una singola pagina web malevola può scatenare una serie di azioni dannose senza quasi nessun controllo.
Il problema di fondo ha un nome: prompt injection.
In parole povere, l’intelligenza artificiale fatica a distinguere i comandi che arrivano da te, l’utente legittimo, da quelli che un malintenzionato ha nascosto nel testo di una pagina web.
E non pensare che in OpenAI siano caduti dalle nuvole.
L’azienda ha ammesso pubblicamente che la prompt injection è un “problema di sicurezza di frontiera, non ancora risolto”, pur affermando di aver implementato delle contromisure.
Contromisure che, a quanto pare, possono essere aggirate con un po’ di astuzia.
E se ti dicessi che il problema può diventare ancora più subdolo, annidandosi direttamente nella “memoria” del tuo assistente AI per colpire quando meno te lo aspetti?
Non solo Atlas: un intero settore è a rischio
Esatto, hai capito bene.
Un’altra ricerca ha scoperto una vulnerabilità che permette di iniettare comandi malevoli direttamente nella memoria a lungo termine di ChatGPT. Questo significa che l’attacco non si esaurisce in una singola sessione, ma rimane latente, pronto a scattare in un secondo momento, magari quando chiedi al tuo assistente di fare una cosa del tutto normale.
Questo rende il tutto molto più pericoloso, perché l’origine dell’attacco diventa quasi impossibile da rintracciare.
Questi non sono incidenti isolati, ma i primi segnali di un problema ben più grande che riguarda tutti gli strumenti di AI “agentiva”, ovvero quelli progettati per agire attivamente online per conto tuo.
Il punto è che, mentre le grandi aziende tecnologiche corrono per rilasciare strumenti sempre più potenti e convenienti, la sicurezza sembra passare in secondo piano.
Dare a un’IA la facoltà di cliccare, digitare e navigare con i nostri account aperti amplifica a dismisura i danni di un qualsiasi attacco andato a buon fine.
La verità è che, mentre le aziende tech corrono per darci assistenti sempre più autonomi, la linea che separa un’automazione utile da una pericolosa si sta assottigliando in modo preoccupante.
E al momento, non sembra che le contromisure siano all’altezza della sfida.
Si stupiscono che una AI senza controlli, collegata ai dati personali, venga usata per inviare spam? L’hanno praticamente progettata per quello. È la solita fretta di lanciare l’ultima roba sul mercato, tanto a pagare il prezzo sono sempre gli utenti.