YouTube cerca di frenare i deepfake ampliando il proprio sistema di rilevamento AI. La sua tecnologia di scansione del volto diventa ora disponibile per tutti gli utenti maggiorenni della piattaforma, con l’obiettivo di contrastare la crescente diffusione di contenuti non autorizzati.
La tecnologia anti-deepfake alla portata di tutti
La distinzione tra video reali e media generati artificialmente sta diventando sempre più complessa. Se in passato il fenomeno colpiva soprattutto personaggi pubblici e creator molto noti, oggi anche utenti privati finiscono sempre più spesso nel mirino di software utilizzati per creare deepfake.
YouTube aveva annunciato un framework automatico in grado di rilevare i deepfake nel 2024, avviando una distribuzione limitata a canali premium dello YouTube Partner Program verso la fine del 2025. Successivamente, la piattaforma aveva esteso il proprio strumento alle categorie considerate ad alto rischio, come funzionari governatici, politici, giornalisti e operatori media.
Con il nuovo rollout cambia però la strategia adottata da Google. Secondo quanto dichiarato dall’azienda, dimensione del canale e storico di pubblicazione non influenzeranno più il livello di protezione disponibile per gli utenti.
In un’email citata da The Verge, il portavoce di YouTube Jack Malon ha spiegato che la piattaforma intende offrire “lo stesso livello di protezione dell’identità sia ai creator esperti sia ai principianti assoluti”.
Come funziona il sistema di rilevamento AI di YouTube?
Il sistema opera automaticamente in background all’interno dell’infrastruttura di YouTube e analizza costantemente i nuovi video caricati per individuare possibili corrispondenze facciali.
Per attivare la funzione, gli utenti idonei devono accedere a YouTube Studio da browser desktop, aprire la nuova sezione “Content Detection” presente nella barra laterale e selezionare il menu “Likeness”.
La procedura richiede il consenso esplicito al trattamento dei dati biometrici. Durante la registrazione, gli utenti devono scansionare un QR code tramite smartphone e inviare un documento di identità ufficiale (è necessario essere maggiorenni) insieme a un breve video selfie di verifica.
Dopo la validazione, il sistema AI crea una sorta di firma visiva personale utilizzata per monitorare l’ecosistema video della piattaforma. Se viene individuata una possibile corrispondenza, il contenuto compare in una dashboard personale che consente all’utente di esaminarlo e inviare immediatamente una segnalazione per uso non autorizzato.
Le richieste di rimozione non vengono però gestite automaticamente. YouTube sottopone ogni caso a revisione manuale secondo le linee guida sulla privacy già esistenti. I revisori valutano il contesto del contenuto, ma il sistema prevede eccezioni specifiche per opere trasformative, satira e parodia, che generalmente non vengono rimosse automaticamente.
La tecnologia presenta comunque alcuni limiti tecnici. Il sistema di scansione automatica si basa esclusivamente sul riconoscimento facciale e non è ancora in grado di identificare autonomamente cloni vocali generati dall’intelligenza artificiale, nonostante durante la procedura di segnalazione YouTube chieda agli utenti se anche la voce sia stata imitata artificialmente.
