Gli esperti di sicurezza informatica stanno iniziando a parlare di privacy mentale minacciata dallo sviluppo dell’AI cognitiva. Sappiamo che l’intelligenza artificiale si sta diffondendo sempre di più e non solo nei nostri smartphone o computer. Infatti, esistono studi e sviluppi anche all’interno dell’analisi dei segnali neurali, nella creazione di modelli comportamentali e nell’anticipazione dei pattern decisionali.
“Ciò segna un cambiamento di paradigma, passando dalla semplice elaborazione dei dati a sistemi in grado di interpretare e interagire con la cognizione umana“, hanno spiegato gli esperti di Kaspersky. “Sebbene gli attuali sistemi di IA non siano in grado né di comprendere direttamente né di decodificare con precisione i pensieri umani, offrono funzionalità che possono influenzare i comportamenti e orientare le decisioni“.
Questo può avvenire tramite sistemi di suggerimento, personalizzazione e controllo su larga scala. Per i ricercatori, si tratta di una vera e propria minaccia per la privacy mentale. “Un rischio reale e crescente per la sicurezza informatica e un rischio socio-tecnico, anche se gli scenari più estremi rimangono ancora puramente ipotetici“.
I 4 rischi emergenti per la privacy mentale con lo sviluppo dell’AI cognitiva
Secondo gli esperti di Kaspersky GReAT, sono 4 i rischi emergenti per la sicurezza e la privacy mentale con lo sviluppo dell’AI cognitiva.
- Il social engineering diventa sempre più complesso e ingannevole
- La manipolazione cognitiva influenza l’opinione pubblica
- La profilazione favorisce gli abusi predittivi
- Le interfacce cervello-computer si integrano con l’IoT
Teresa Potenza, giornalista e formatrice in materia di IA responsabile, ha approfondito il tema dichiarando: “Il vero rischio dell’AI cognitiva è che modella le nostre menti, in modo silenzioso e diffuso. Abbiamo imparato che i sistemi ottimizzati per il coinvolgimento minano il giudizio. Ecco perché la regolamentazione è ora una difesa dell’autonomia umana, ma non può stare al passo con l’AI cognitiva se si limita a considerare ciò che questi sistemi fanno oggi. Abbiamo bisogno di un principio applicabile: la tecnologia deve servire le persone, non il contrario. L’autonomia non è solo una questione di privacy, è una questione di democrazia“.
