Alcune chat private di Claude sono finite tra i risultati di Google: cosa è successo

Chat, personali, di Claude sono comparse tra i risultati di ricerca di Google, alla mercé di chiunque. Non una fuga dati, ma un problema di indicizzazione presto risolto da Anthropic, che apre tuttavia spunti di riflessione su quanto siano davvero private le conversazioni con i chatbot più noti.

Conversazioni con Claude tra i risultati di Google

L’incidente si è verificato lo scorso fine settimana, quando un utente di Reddit ha pubblicato un post, diventato immediatamente virale, in cui ha mostrato come fosse sufficiente cercare la chiave “site:claude.ai/share” per trovare e leggere conversazioni degli utenti con Claude archiviate da Google. Il motore di ricerca, come riporta Cyber Security News, avrebbe infatti indicizzato i link di alcune delle chat, rendendole di fatto pubbliche.

C’era un po’ di tutto: dalle discussioni tra avvocati su strategie legali, ai confronti tecnici tra ingegneri, fino a utenti che raccontavano problemi personali. Questione di semplice imbarazzo per alcuni, un serio problema di riservatezza per altri. Dopo che il post Reddit è andato virale, Anthropic è intervenuta rapidamente e, al momento, non è più possibile leggere le conversazioni attraverso Google.

A causare l’incidente, che non avrebbe coinvolto tutti gli utenti (altrimenti staremmo parlando di migliaia di pagine di ricerca), ci sarebbe la funzione che permette di condividere le conversazioni attraverso un link. Quegli stessi URL, generati per l’occasione, sarebbero poi stati indicizzati da Google. Non è sempre così, però, perché in un analogo caso risalente allo scorso settembre, alcuni tra gli utenti coinvolti avevano dichiarato di non aver mai utilizzato la funzione.

Le conversazioni private sono davvero private?

Il caso riporta l’attenzione sulle modalità con cui le aziende che sviluppano chatbot gestiscono i dati degli utenti. Anche quando una conversazione non viene condivisa pubblicamente, ciò non significa necessariamente che rimanga privata. Nel caso di Claude, le conversazioni vengono trasmesse ad Anthropic e possono essere utilizzate per l’addestramento dei futuri modelli di intelligenza artificiale, a meno che l’utente non scelga esplicitamente di escludere i propri dati.

Si tratta di una pratica adottata, con modalità differenti, anche da molte altre aziende del settore. In alcuni casi è anche prevista l’analisi di parte delle conversazioni da parte di personale umano, per attività di verifica, controllo qualità o miglioramento. Anche scegliendo di non autorizzare l’utilizzo dei dati per l’addestramento, le conversazioni potrebbero comunque essere conservate per un determinato periodo di tempo. Anthropic, ad esempio, mantiene i dati delle chat per 30 giorni dopo la loro eliminazione, periodo durante il quale restano archiviati sui propri server pur non essendo più accessibili all’utente.

È la seconda volta che conversazioni di Claude finiscono al centro di un problema di indicizzazione, mentre un episodio analogo aveva interessato anche ChatGPT nell’agosto dello scorso anno. L’accaduto evidenzia ancora una volta l’importanza di prestare attenzione alle informazioni inserite nei chatbot basati sull’intelligenza artificiale. In particolare, è consigliato evitare di condividere dati personali o particolarmente sensibili.