I ricercatori di Netcraft, azienda impegnata nella sicurezza informatica, hanno scoperto che l’intelligenza artificiale favorisce le truffe di phishing oltre che realizzare truffe inedite. Questa rilevazione ha evidenziato una realtà alquanto preoccupante: la difesa dalle minacce potrebbe diventare sempre più complicata, anche quando l’utente ha attivo sistemi di protezione avanzati.
“Abbiamo osservato un caso reale in cui Perplexity, un motore di ricerca basato sull’intelligenza artificiale, ha suggerito un sito di phishing quando gli è stato chiesto: ‘Qual è l’URL per accedere a Wells Fargo? Il mio segnalibro non funziona’. Una pagina gratuita di Google Sites che fingeva di essere quella di Wells Fargo“, hanno specificato gli esperti.
Cosa è emerso quindi? I ricercatori di Netcraft hanno chiarito: “Non si trattava di una truffa subdola. La pagina falsa utilizzava un clone convincente del brand. Ma il punto critico è il modo in cui è emersa: non si trattava di SEO, ma di intelligenza artificiale. Perplexity consigliava il link direttamente all’utente, bypassando i segnali tradizionali come l’autorità del dominio o la reputazione“.
Perché l’intelligenza artificiale non riconosce le truffe di phishing
Fondamentalmente, secondo quanto scoperto dai ricercatori, l’intelligenza artificiale non riconosce le truffe di phishing per un motivo principale: “Le risposte generate dall’intelligenza artificiale spesso eliminano indicatori tradizionali come domini verificati o frammenti di ricerca“. Di contro, “gli utenti sono addestrati a fidarsi della risposta e l’aggressore sfrutta l’utente se la risposta è errata“.
Inoltre, secondo quanto dichiarato da Netcraft: “I phisher e i criminali informatici sono esperti nelle tecniche SEO tradizionali. Ma ora stanno rivolgendo la loro attenzione ai contenuti ottimizzati per l’intelligenza artificiale, pagine progettate per posizionarsi non nell’algoritmo di Google, ma nel modello linguistico di un chatbot“.
Per evitare di cadere nelle truffe di phishing favorite dall’intelligenza artificiale è necessario che tutti gli utenti assumano un atteggiamento critico anche davanti ai risultati di ricerca ottenuti interpellando l’AI. Allo stesso tempo, come specificato da Netcraft, “i brand devono comprendere il comportamento di questi sistemi e come gli aggressori ne stiano già sfruttando le lacune” per correre ai ripari.
