Le regole del digitale stanno cambiando.
O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.
Contattaci ora →
Questo metodo, noto come “text salting”, sfrutta l’aggiunta di testo innocuo e invisibile per confondere gli LLM
Una tecnica datata, il 'text salting', sta aggirando i più sofisticati filtri antispam basati su intelligenza artificiale. Inserendo testo innocuo e invisibile nelle email di phishing, gli aggressori ingannano i sistemi di sicurezza, come riportato da Barracuda. Questo fallimento solleva dubbi sull'effettiva innovazione della cybersecurity, vulnerabile a trucchi noti da oltre un decennio.
La vecchia arte di “salare” le email per ingannare l’intelligenza artificiale
Il metodo si chiama “text salting” e, diciamocelo, è di una semplicità disarmante. Gli aggressori non fanno altro che imbottire le email di phishing con enormi quantità di testo innocuo, spesso reso invisibile all’occhio umano. È un po’ come nascondere una pillola amara in un pezzo di carne per il tuo cane.
Tu, utente, vedi solo un breve e urgente messaggio che ti spinge a cliccare un link per un finto premio o uno sconto, ma il filtro AI vede un’email lunghissima, piena di parole normali e statisticamente innocue. Il risultato? Il sistema di sicurezza dà il via libera a un messaggio malevolo, convinto che sia tutto a posto.
Come descritto nel loro recente report “Threat Spotlight”, i ricercatori di Barracuda hanno rilevato che questa tecnica è stata utilizzata in oltre un milione di email di phishing in pochi mesi, prendendo di mira non solo i vecchi filtri, ma anche i nuovi e sofisticati motori di analisi basati su LLM.
Il meccanismo è quasi banale, diciamocelo.
E allora la vera domanda è: come è possibile che sistemi di intelligenza artificiale, venduti come il futuro della sicurezza, ci caschino con tutte le scarpe?
Il punto debole degli LLM: vedono il codice, non la realtà
Il problema sta tutto qui: questi modelli avanzati vengono nutriti con il codice sorgente dell’email, il testo nudo e crudo, senza una reale comprensione di ciò che tu vedrai effettivamente sullo schermo.
Utilizzando trucchi e CSS, come testo di colore bianco su sfondo bianco o caratteri di dimensione zero, gli aggressori nascondono intere pareti di testo. L’intelligenza artificiale legge tutto: sia le 20 parole della trappola phishing, sia le 400 parole di una storia innocua su un weekend al mare nascosta nel codice.
A quel punto, fa una media e conclude che l’argomento generale e il “sentimento” del messaggio sono positivi. E così, un sistema che dovrebbe essere iper-intelligente finisce per giudicare l’email come “innocua”, basandosi su un testo spazzatura che tu non vedrai mai.
Una bella falla, non trovi?
Ma se è così facile ingannare un filtro email, fermati un attimo a pensare: cosa impedisce di usare la stessa tecnica, ad esempio, per truccare un curriculum e superare i filtri automatici delle risorse umane?
Una minaccia nota da un decennio, ma che oggi fa più paura
Questa è la parte che, onestamente, fa più riflettere. Il “text salting” non è spuntato fuori ieri. Studi accademici ne parlavano già oltre dieci anni fa, descrivendolo come una tattica specifica per aggirare i filtri di machine learning.
Era un problema noto, analizzato e per il quale erano già state proposte soluzioni, come analizzare l’email in base a ciò che l’utente vede visivamente, non solo leggendone il codice.
Eppure, sembra che le lezioni del passato siano state messe in un cassetto, mentre le grandi aziende erano troppo impegnate a etichettare ogni cosa con la sigla “AI”. L’implicazione è scomoda: stiamo assistendo al riciclo di vecchie tattiche contro nuove difese che, a quanto pare, non hanno imparato la lezione.
La vera domanda che dovremmo porci non è se l’IA sia potente, ma se le soluzioni che ci vengono vendute siano state costruite con la dovuta diligenza o se, sotto la vernice dell’innovazione, si nascondano le stesse, vecchie vulnerabilità di sempre.
Costruiamo queste cattedrali di calcolo solo per vederle ingannate da un trucco vecchio quanto il cucco. È una farsa malinconica. A che serve innalzare un muro altissimo se poi si lascia la porta di servizio socchiusa?
La falla non è tecnologica, è di esperienza utente. La fiducia è l’asset che si sta distruggendo. Proteggiamo le persone, non solo i dati.
Francesco De Angelis, il punto è proprio quello. Creiamo giganti tecnologici che inciampano sui sassolini del passato. Ad ogni caduta, si sbriciola un altro pezzo della fiducia delle persone. Come la rimetteremo insieme?
Si affannano a inventare palati artificiali sopraffini, che vengono regolarmente ingannati da un po’ di sale grosso. Che farsa.
È quasi rassicurante osservare come soluzioni tecnologiche avanzate inciampino su trucchetti vecchi di dieci anni, dimostrando che il vero punto debole non è il software ma la prevedibile natura umana. Se il problema è sempre quello, perché cerchiamo la risposta in un algoritmo?
Signora Sorrentino, la sua mi pare la scoperta dell’acqua calda. Si vendono soluzioni tecnologiche, non la formazione delle persone. L’errore umano non è un bug da correggere, è il modello di business su cui si fonda l’intera industria della sicurezza informatica.
Deprimente per chi ci casca. Per noi del settore è un martedì qualunque.
Risulta deprimente constatare come certi meccanismi datati aggirino le nuove difese, un casino che dimostra una fragilità di fondo. Il vero dramma non è il fallimento tecnologico, ma quante persone ancora oggi vengono ingannate da questi espedienti; ci si sente impotenti.