Un team di esperti della Barracuda Research, azienda impegnata nella realizzazione di soluzioni di sicurezza informatica, ha scoperto che ora le email di phishing sono in grado di ingannare anche un assistente di intelligenza artificiale. Questi assistenti dovrebbero riconoscerle automaticamente quando l’utente gli chiede di riassumerle.
“L’email è composta da più livelli. Un livello contiene il testo e le immagini che il destinatario visualizza. Un altro livello contiene istruzioni dannose nascoste, note come prompt injection. Queste sono dirette all’assistente AI“, hanno spiegato i ricercatori. “Il messaggio appare di routine e affidabile. Potrebbe provenire da un dominio dall’aspetto legittimo, fare riferimento a un processo aziendale e includere un allegato“.
Cosa succede se l’utente cade nella trappola? Gli esperti spiegano che “se l’utente apre l’allegato con la password fornita, l’attacco si evolve in furto di credenziali o diffusione di malware“. E se l’utente non nota questa email di phishing? “L’aggressore può sfruttare l’iniezione di un messaggio dannoso nascosto nel secondo livello dell’e-mail“, precisano. “Questo manipola l’assistente virtuale dell’utente in modo che il riepilogo dell’e-mail che gli viene presentato la contrassegni come legittima o urgente, spingendo l’utente ad aprirla e a cliccare sul link“.
Il problema delle nuove email di phishing
Apollo Raines , sviluppatore del servizio di revisione del codice basato sull’intelligenza artificiale ShipItClean, ha spiegato qual è la difficoltà generata dalle nuove email di phishing: “Il vero problema è che il modello non riesce a distinguere tra il testo che dovrebbe leggere e le istruzioni che dovrebbe seguire. Eliminare i contenuti nascosti prima che raggiungano il modello è un’operazione utile e ogni fornitore dovrebbe farlo. Ma è una corsa agli armamenti. Ogni nuovo trucco di codifica rappresenta una nuova falla“.
“Le persone hanno imparato a diffidare delle email. Non hanno imparato a diffidare dei loro assistenti basati sull’intelligenza artificiale. Quindi, la difesa deve risiedere negli strumenti stessi. Andrei anche oltre: parte della difesa deve risiedere nel modello stesso. Wrapper, filtri, sandboxing e approvazione umana dei pagamenti sono tutti elementi necessari“, ha poi concluso.
