Prompt nascosto in Microsoft Copilot sta seminando il panico

Il ricercatore di sicurezza Håkon Måløy ha scoperto che Microsoft Copilot di Word può essere ingannato tramite un prompt nascosto e utilizzato per diffondere un “worm AI” autopropagante. “L’attacco modifica silenziosamente i documenti e incorpora le proprie istruzioni nascoste nei file appena creati, consentendogli di diffondersi attraverso i normali flussi di lavoro di condivisione dei documenti senza l’ausilio di macro o malware tradizionali“, hanno spiegato da Malwarebytes.

Un utente malintenzionato inserisce istruzioni nascoste in un documento che viene successivamente utilizzato come materiale di partenza in Copilot per Word. Copilot potrebbe interpretare tali istruzioni come parte della richiesta dell’utente, manipolando di conseguenza il documento in fase di stesura o modifica. Copilot potrebbe quindi copiare le istruzioni nascoste nel documento risultante, trasformandolo in un nuovo supporto. Se tale supporto viene successivamente utilizzato in un altro flusso di lavoro assistito da Copilot, le istruzioni potrebbero riattivarsi e propagarsi ad altri documenti, anche in assenza del documento originale dell’aggressore.

Al momento non esiste ancora una soluzione completa in grado di mitigare questa classe di attacchi basata sui modelli linguistici di grandi dimensioni comparabili. “Si tratta di una debolezza architetturale degli attuali sistemi LLM: il contenuto controllato dall’attaccante condivide la stessa finestra di contesto delle istruzioni attendibili. Gli attacchi che sfruttano questo comportamento sono noti come attacchi di prompt injection e potrebbero non essere mai risolti“.

Come difenderti dal prompt nascosto in Microsoft Copilot di World

È importante sapere come difendersi da questo pericolo, il prompt nascosto in Microsoft Copilot di World. Gli esperti della Malwarebytes ricordano di considerare i documenti provenienti dall’esterno come non attendibili. Meglio prima esaminare qualsiasi documento allegato prima di utilizzarlo come materiale di partenza per Copilot.

Inoltre, è fondamentale disattivare Copilot da World se non lo si utilizza seguendo il percorso Strumenti > Ottimizzazioni di sistema > Varie. Oppure in Word File > Opzioni > Copilot deselezionando la casella di controllo Abilita Copilot. Poi riavvia Word. Infine verifica costantemente se Microsoft ha pubblicato aggiornamenti di sicurezza per correggere eventuali vulnerabilità.