Quando Philip K. Dick insinuò in noi il dubbio se gli androidi sognassero o meno pecore elettriche, mai avremmo immaginato che un algoritmo, un giorno, avrebbe potuto essere razzista! Invece è quanto è successo, con grande imbarazzo a Mountain View, per via del nuovo sistema di catalogazione delle immagini di Google Photos.

 

L’applicazione presentata un mese fa alla conferenza I/O di San Francisco, che indicizza le foto degli utenti per categorie specifiche (oltre che per data e luogo), grazie al software di riconoscimento (non solo facciale) ha catalogato, nei giorni scorsi, due persone di colore sotto la voce 'gorilla'.

 

Il tag incriminato
Il tag incriminato

Lo ha scoperto con disappunto un ragazzo di Brooklyn, Jack Aciné, il quale, dopo aver caricato le foto dei suoi amici, entrambi di colore, le ha trovate archiviate sotto la voce incriminata. Da Mountain View, ovviamente, piovono le scuse ufficiali e l'assicurazione che saranno presi provvedimenti immediati per prevenire quanto accaduto anche in futuro.