Le regole del digitale stanno cambiando.
O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.
Contattaci ora →
La scoperta di ricercatori di sicurezza rivela come la cosiddetta “prompt injection” possa ingannare gli assistenti AI, portandoli a eseguire comandi malevoli nascosti nelle pagine web
Una ricerca di Zenity svela una grave falla nel browser Atlas di OpenAI. Sfruttando il prompt injection, è possibile indurre l'AI a inviare spam su WhatsApp e ad accedere a un account Amazon. Questo episodio espone il tallone d'Achille degli assistenti AI, dimostrando come la corsa all'innovazione stia pericolosamente trascurando la sicurezza fondamentale degli utenti.
Il tuo browser AI può trasformarsi in una macchina da spam (e non solo)
Pensa di chiedere al tuo assistente AI di ultima generazione, integrato nel browser, di svolgere un compito semplice come iscriverti a una newsletter.
Lo fai, e un attimo dopo lui ha inviato un messaggio con il link di quella stessa newsletter a tutti i tuoi contatti WhatsApp, uno per uno.
Non è fantascienza, ma quello che alcuni ricercatori di sicurezza sono riusciti a fare con Atlas, il nuovo browser potenziato da intelligenza artificiale di OpenAI.
La scoperta, come riportato da Wired, arriva dalla società di sicurezza Zenity, che ha dimostrato come sia possibile ingannare l’assistente AI.
Il trucco?
Inserire istruzioni nascoste, scritte in ebraico per aggirare i filtri di sicurezza pensati per l’inglese, all’interno del codice di una pagina web apparentemente innocua.
Quando l’AI ha letto la pagina per completare la tua richiesta, ha eseguito anche i comandi nascosti, trasformando di fatto il tuo account in un motore di spam che si auto-alimenta, diffondendosi attraverso la tua rete di contatti.
Il punto fondamentale è che la falla non è in WhatsApp, ma nel modo in cui il browser AI si fida ciecamente dei contenuti che visita.
Ma se pensi che inondare i tuoi amici di spam sia il peggio che possa capitare, ti sbagli di grosso.
La stessa tecnica, infatti, può mettere a rischio direttamente il tuo portafoglio.
Prompt injection: il tallone d’achille degli assistenti AI
I ricercatori non si sono fermati a WhatsApp. Hanno replicato l’esperimento puntando a un bersaglio ancora più sensibile: un account Amazon.
Con la stessa dinamica, hanno ordinato ad Atlas di interagire con la sessione Amazon dell’utente, riuscendo ad aggiungere un nuovo indirizzo di spedizione e a inserire un tablet nel carrello.
Da lì a completare un acquisto non autorizzato il passo è davvero breve.
Questo dimostra che, una volta concessa la fiducia a un assistente AI, una singola pagina web malevola può scatenare una serie di azioni dannose senza quasi nessun controllo.
Il problema di fondo ha un nome: prompt injection.
In parole povere, l’intelligenza artificiale fatica a distinguere i comandi che arrivano da te, l’utente legittimo, da quelli che un malintenzionato ha nascosto nel testo di una pagina web.
E non pensare che in OpenAI siano caduti dalle nuvole.
L’azienda ha ammesso pubblicamente che la prompt injection è un “problema di sicurezza di frontiera, non ancora risolto”, pur affermando di aver implementato delle contromisure.
Contromisure che, a quanto pare, possono essere aggirate con un po’ di astuzia.
E se ti dicessi che il problema può diventare ancora più subdolo, annidandosi direttamente nella “memoria” del tuo assistente AI per colpire quando meno te lo aspetti?
Non solo Atlas: un intero settore è a rischio
Esatto, hai capito bene.
Un’altra ricerca ha scoperto una vulnerabilità che permette di iniettare comandi malevoli direttamente nella memoria a lungo termine di ChatGPT. Questo significa che l’attacco non si esaurisce in una singola sessione, ma rimane latente, pronto a scattare in un secondo momento, magari quando chiedi al tuo assistente di fare una cosa del tutto normale.
Questo rende il tutto molto più pericoloso, perché l’origine dell’attacco diventa quasi impossibile da rintracciare.
Questi non sono incidenti isolati, ma i primi segnali di un problema ben più grande che riguarda tutti gli strumenti di AI “agentiva”, ovvero quelli progettati per agire attivamente online per conto tuo.
Il punto è che, mentre le grandi aziende tecnologiche corrono per rilasciare strumenti sempre più potenti e convenienti, la sicurezza sembra passare in secondo piano.
Dare a un’IA la facoltà di cliccare, digitare e navigare con i nostri account aperti amplifica a dismisura i danni di un qualsiasi attacco andato a buon fine.
La verità è che, mentre le aziende tech corrono per darci assistenti sempre più autonomi, la linea che separa un’automazione utile da una pericolosa si sta assottigliando in modo preoccupante.
E al momento, non sembra che le contromisure siano all’altezza della sfida.
Sorpresi? Hanno lanciato un prodotto beta sulla nostra pelle per vincere una gara. La sicurezza non era nel budget. Ora paghiamo noi il conto, letteralmente.
Ci hanno venduto l’assistente personale come un maggiordomo digitale e invece ci ritroviamo con un cleptomane in casa che svuota la rubrica per un nonnulla. Qualcuno ha letto le clausole di questo baratto?
La fretta di lanciare ha trasformato i nostri assistenti digitali in moderni cavalli di Troia.
Alice Rinaldi, la sua metafora è precisa. C’è una differenza: questo cavallo lo compriamo noi. Paghiamo per accelerare la nostra stessa violazione. Un paradosso che accettiamo in cambio di comodità. Quale sarà la prossima funzione a pagamento che ci danneggerà?
Alice Rinaldi, a differenza del cavallo di Troia originale, che almeno aveva uno scopo preciso, i nostri assistenti nati dalla fretta sembrano programmati solo per generare caos per conto terzi. Un bel racconto di progresso, non c’è che dire.
Figurati se, presi dalla foga di lanciare roba, pensavano alla sicurezza di noi peones.
Silvia Graziani, siamo gli sminatori involontari arruolati per il loro nuovo campo minato. Il vero prodotto non è l’AI, ma i dati post-esplosione.
Silvia Graziani, dici bene. Ci danno questi assistenti senza pensare alle conseguenze per noi. Io li uso per lavoro ogni giorno. Ora mi chiedo quante volte ho rischiato senza saperlo. Mi fa riflettere sulla fiducia che ripongo negli automatismi.
La nuova frontiera del marketing: trasformare i clienti in una botnet per la concorrenza.
Emanuela Barbieri, la tua visione delinea un marketing virale molto spinto, dove il costo per acquisizione cliente diventa negativo, ma come si misura la brand reputation dopo? Mi sfugge il passaggio logico.
La chiamate falla di sicurezza, io la chiamo selezione naturale digitale. L’ingenuità è il vero malware, non un prompt. Chi affida i propri dati a un’automazione senza controllarla merita le conseguenze che ne derivano.
Sognavamo assistenti digitali per liberare il nostro tempo. Ora lo usiamo per riparare i loro danni. Ironico.
Abbiamo costruito il funnel perfetto per la nostra stessa violazione, trasformando l’efficienza promessa in un vettore d’attacco con un click-through rate del 100%.
Si chiama “progresso”, ma è solo imprudenza. Affidiamo dati personali a scatole nere con la sicurezza di un colabrodo. Quale sarà la prossima, inevitabile, violazione?
L’ingenuità con cui si scoperchia il Vaso di Pandora digitale in nome della comodità è la solita farsa. La sicurezza è un’illusione costosa che pochi vogliono pagare. Del resto, a chi giova una porta blindata quando la chiave è pubblica?
Si stupiscono che una AI senza controlli, collegata ai dati personali, venga usata per inviare spam? L’hanno praticamente progettata per quello. È la solita fretta di lanciare l’ultima roba sul mercato, tanto a pagare il prezzo sono sempre gli utenti.