Meta AI avvisa i genitori sui rischi di autolesionismo

Meta rafforza le misure di sicurezza dedicate agli utenti più giovani. L’azienda ha annunciato una nuova funzionalità che informerà i genitori o i tutori quando un adolescente, durante una conversazione con Meta AI, mostrerà possibili segnali di autolesionismo o di ideazione suicidaria. La novità rappresenta un ulteriore passo nell’espansione degli strumenti di supervisione parentale e arriva in un momento in cui le grandi aziende dell’intelligenza artificiale sono sempre più sotto pressione per garantire la sicurezza dei minori online.

Come funzionano i nuovi avvisi

Fino a oggi Meta AI era già progettata per riconoscere conversazioni riguardanti suicidio o autolesionismo, indirizzando l’utente verso numeri di emergenza, servizi di supporto psicologico e invitandolo a rivolgersi a un adulto di fiducia. Con il nuovo aggiornamento, però, il sistema farà un passo ulteriore: quando individuerà contenuti potenzialmente preoccupanti, notificherà direttamente il genitore o il tutore che ha attivato gli strumenti di supervisione dell’account del minore.

Secondo Meta, l’obiettivo non è quello di sostituire il dialogo familiare, ma di fornire ai genitori un segnale tempestivo affinché possano intervenire e offrire supporto. Le notifiche saranno accompagnate da materiale informativo e suggerimenti elaborati insieme a esperti della salute mentale per aiutare gli adulti ad affrontare conversazioni particolarmente delicate.

Uno degli aspetti più rilevanti riguarda il funzionamento del sistema di rilevamento. Meta spiega di aver sviluppato un modello di intelligenza artificiale dedicato all’identificazione delle conversazioni a rischio, ma ogni caso segnalato verrà esaminato manualmente da operatori umani prima dell’invio della notifica.

L’azienda precisa comunque che preferirà adottare un approccio prudenziale: anche in situazioni in cui l’intenzione dell’utente non dovesse risultare completamente chiara, potrebbe comunque decidere di avvisare i genitori, privilegiando la possibilità di prevenire situazioni potenzialmente pericolose rispetto al rischio di qualche falso positivo.

La funzione è già disponibile per gli account che utilizzano la supervisione parentale negli Stati Uniti, Regno Unito, Australia e Canada. Meta ha inoltre confermato che il rilascio sarà esteso progressivamente a tutti gli utenti che utilizzano gli strumenti di supervisione entro la fine dell’anno.

L’iniziativa amplia una strategia avviata nei mesi scorsi. In precedenza la società aveva introdotto una sezione che permette ai genitori di visualizzare le principali categorie di argomenti affrontati dai figli con Meta AI, senza accedere al contenuto completo delle conversazioni, nel tentativo di trovare un equilibrio tra tutela della privacy e supervisione familiare.

In futuro anche il coinvolgimento dei servizi di emergenza

Meta sta lavorando anche a una funzionalità ancora più delicata: la possibilità di contattare direttamente i servizi di emergenza quando una conversazione con Meta AI suggerisca un rischio imminente di suicidio o autolesionismo. In questo caso il sistema riguarderebbe non solo gli adolescenti, ma anche gli utenti adulti.

La società non ha ancora comunicato una data per il rilascio di questa funzione né ha spiegato nel dettaglio quali criteri verranno utilizzati per stabilire quando una situazione possa essere considerata realmente critica.

L’annuncio si inserisce in un contesto di crescente attenzione verso il ruolo dei chatbot nelle situazioni di disagio psicologico. Negli ultimi mesi sia Meta sia altri sviluppatori di intelligenza artificiale hanno introdotto nuove protezioni dopo le critiche ricevute da ricercatori, associazioni e autorità di regolamentazione sulla gestione delle conversazioni con utenti vulnerabili, in particolare adolescenti.