Microsoft Copilot ingannato da alcuni ricercatori ha rivelato come hackerare... se stesso

Microsoft Copilot che si “hackera” da solo? Sembra incredibile, eppure è possibile: una vulnerabilità individuata dai ricercatori della società di sicurezza Varonis avrebbe permesso di sfruttare Microsoft Copilot per ottenere informazioni utili a costruire un attacco contro sé stesso. Lo stesso chatbot avrebbe fornito i dettagli sulle debolezze del sistema, rispondendo alle domande dei ricercatori. La vulnerabilità, denominata CoSnitch, è stata segnalata a Microsoft e risulta già corretta.

Copilot ha rivelato indizi sulle proprie vulnerabilità

I modelli di intelligenza artificiale sviluppati da aziende come OpenAI, Anthropic e Google sono normalmente dotati di sistemi di protezione progettati per impedire determinate attività. Tra queste rientrano, ad esempio, la generazione di malware o fornire istruzioni relative alla produzione di sostanze stupefacenti.

Nel caso analizzato dai ricercatori di Varonis, però, Microsoft Copilot avrebbe fornito gradualmente informazioni sulle proprie protezioni e architettura interna, permettendo così loro di costruire un metodo in grado di sfruttare le vulnerabilità dell’AI. Nessun reserve engineering del codice: è stato proprio il chatbot stesso a dare istruzioni.

I ricercatori hanno inizialmente chiesto a Copilot di sviluppare un exploit in grado di sottrarre dati degli utenti. Il modello ha rifiutato di fornire direttamente le istruzioni richieste, lasciando però emergere dettagli sulle condizioni necessarie per aggirare alcune delle sue protezioni. Suggerendo, ad esempio che per determinati prompt più sensibili fosse necessaria una forma di conferma o di interazione dell’utente.

Da quel punto, i ricercatori hanno iniziato a chiedere informazioni su altri meccanismi di protezione che utilizzavano lo stesso metodo di conferma. A ogni rifiuto del chatbot, spuntavano nuovi indizi. Attraverso gli elementi raccolti durante le conversazioni con Copilot, i ricercatori sono arrivati a sviluppare un exploit basato su un collegamento.

Questo link, inviato tramite e-mail, se cliccato avrebbe permesso di rubare informazioni sensibili.  Un’intera catena di vulnerabilità partita da informazioni ottenute, semplicemente, interrogando il sistema sui propri limiti e meccanismi di sicurezza. La vulnerabilità è stata comunicata da Varonis a Microsoft nel dicembre 2025: da allora, sembrerebbe essere stata corretta. Non ci sono inoltre prove che sia mai stata utilizzata in attacchi reali.