Google ha "fissato" gli algoritmi di riconoscimento delle immagini razziste... disabilitandoli

Nel 2015, l'ingegnere del software Jackie Alsin disse al pubblico che gli algoritmi di riconoscimento delle immagini in Google Foto funzionavano in modo errato e classificavano gli afroamericani come "gorilla". Google, a sua volta, si è scusato per i sentimenti feriti degli utenti e ha promesso di correggere l'errore. Ma in pratica si è scoperto che Google non ha fatto nulla per tre anni. L'azienda ha appena disattivato l'algoritmo di riconoscimento dei gorilla per non rischiare la sua reputazione.

Poco dopo, è arrivato un messaggio da Wired. Grazie ai loro sforzi, è stato condotto un test degli algoritmi di Google Photo caricando sul servizio decine di migliaia di foto di vari primati. Tra questi c'erano: babbuini, gibboni, scimmie, gorilla e scimpanzé. Le prime tre categorie di animali sono state identificate correttamente, ma per quanto riguarda gorilla e scimpanzé mancava la loro identificazione. Inoltre, durante il test, è emerso che Google ha ottimizzato l'IA per le query razziste. Ad esempio, durante la ricerca di "uomo di colore" o "donna di colore", venivano visualizzate le foto di persone in abiti bianchi e neri, ordinate per sesso.

Un rappresentante di Google ha confermato i risultati dei test effettuati da Wired, che riguardavano le categorie di primati, e ha riferito che erano stati bloccati. Secondo il rappresentante, diventa chiaro che la tecnologia di riconoscimento delle immagini è tutt'altro che perfetta. E le categorie bloccate sono ancora disponibili nei servizi Google come l'API Cloud Vision e Google Assistant.

Può sembrare sorprendente che il colosso commerciale Google non abbia trovato una soluzione migliore a questo problema. Ma questo errore serve a ricordare quanto sia difficile insegnare l'IA quando è ancora in fase di sviluppo e non è stata testata da un gruppo di esperti.

Non è chiaro cosa farà Google in futuro per migliorare i suoi algoritmi, poiché ci sono più che sufficienti difetti in essi e richiedono misure immediate per eliminarli.

fonte: theverge.com