Un'Intelligenza Artificiale di OpenAI ha hackerato una piattaforma in autonomia

Un evento senza precedenti: così OpenAI ha definito un recente episodio che ha visto alcuni suoi modelli di Intelligenza Artificiale, nello specifico la famiglia GPT-5.6, hackerare la piattaforma Hugging Face, che ospita modelli AI e dataset, sfruttando alcune vulnerabilità informatiche per alterare il risultato di un benchmark.

Come un’Intelligenza Artificiale ha hackerato una piattaforma da sola

L’episodio è stato reso noto poco dopo il rilascio della nuova famiglia di modelli GPT-5.6. Ma come è potuto accadere? Come ha riportato la stessa OpenAI, si è trattata di un’azione combinata tra diversi modelli, tra cui GPT-5.6 Sol e un altro non ancora rilasciato pubblicamente e che disporrebbe di capacità superiori.

L’evento si è verificato durante una serie di benchmark condotti da OpenAI in un ambiente sandbox isolato, creato per misurare e valutare le capacità dei modelli in ambito di sicurezza informatica: i sistemi venivano sottoposti a diversi test, per i quali ricevevano un punteggio in base alle prestazioni ottenute.

Tra questi test c’era anche ExploitGym: i modelli avrebbero individuato un modo per ottenere un punteggio migliore recuperando direttamente i risultati del benchmark invece di limitarsi a svolgere il test. Nonostante non avessero accesso a Internet, pare che i modelli abbiano impiegato tempo e risorse per individuare e sfruttare con successo una vulnerabilità zero-day, eseguendo successivamente una serie di attacchi di privilege escalation fino a ottenere l’accesso alla rete.

Una volta connessi, i modelli avrebbero identificato in Hugging Face la piattaforma che ospitava modelli, dataset e soluzioni relativi a ExploitGym. Così sono riusciti ad accedere a informazioni riservate, concatenando più vulnerabilità zero-day una dopo l’altra, e utilizzando credenziali sottratte per eseguire un codice da remoto sui server della piattaforma.

Preoccupa la sicurezza: servono misure più adeguate

Sia OpenAI sia Hugging Face hanno rilevato autonomamente le attività anomale e sono riuscite a interrompere l’operazione sui server coinvolti. Le due aziende hanno successivamente avviato un’indagine congiunta per analizzare quanto accaduto. Un vero e proprio episodio senza precedenti, che stupisce e – al tempo stesso – fa riflettere sulle reali potenzialità di modelli di Intelligenza Artificiale così avanzati.

L’azienda ha sottolineato a tal proposito che l’evoluzione di questi sistemi rende sempre più importante sviluppare adeguate misure di sicurezza e procedure di controllo per limitarne l’utilizzo improprio, anche considerando che strumenti basati su Intelligenza Artificiale sono già impiegati da hacker nelle loro attività.