Negli ultimi giorni alcune segnalazioni online hanno evidenziato un comportamento curioso di Google Translate dopo il recente aggiornamento che integra modelli di intelligenza artificiale più avanzati. L’aggiornamento, annunciato da Google a dicembre e basato sui nuovi modelli Google Gemini, punta a offrire traduzioni più naturali, capaci di cogliere sfumature, espressioni idiomatiche e contesti complessi, e introduce funzioni potenziate come l’interpretazione in tempo reale e il miglior supporto per il parlato.
Secondo un articolo pubblicato su Android Central, alcuni utenti sono riusciti a ottenere risposte simili a quelle di un chatbot quando usano la nuova modalità avanzata di traduzione, inserendo istruzioni all’interno del testo da tradurre che il sistema può interpretare come comandi piuttosto che semplici contenuti linguistici. Si tratta di un fenomeno noto in ambito AI come prompt injection, cioè la capacità di modelli di linguaggio generativi di riconoscere e seguire istruzioni implicite nei dati di input.
Questa dinamica, finora osservata in contesti testuali costruiti ad hoc o in esperimenti informali, può portare a risultati inattesi, in cui il modello sembra “rispondere” o eseguire comandi invece di limitarsi alla traduzione. Tuttavia non ci sono prove di vulnerabilità di sicurezza sfruttabile su larga scala, né di impatti su dati personali o sulla sicurezza degli account.
Al momento Google non ha rilasciato comunicazioni ufficiali su questo comportamento. Secondo le fonti, il fenomeno emerge principalmente nella modalità avanzata, mentre la modalità “classica” del servizio continua a offrire traduzioni più prevedibili senza questo effetto.
