Google a "fixé" les algorithmes de reconnaissance d'images racistes... en les désactivant

En 2015, l'ingénieur logiciel Jackie Alsin a déclaré au public que les algorithmes de reconnaissance d'images de Google Photos ne fonctionnaient pas correctement et classaient les Afro-Américains comme des "gorilles". Google, à son tour, s'est excusé pour les sentiments blessés des utilisateurs et a promis de corriger l'erreur. Mais en pratique, il s'est avéré que Google n'a rien fait pendant trois ans. L'entreprise vient de désactiver l'algorithme de reconnaissance des gorilles pour ne pas risquer sa réputation.

Un peu plus tard, un message est venu de Wired. Grâce à leurs efforts, un test des algorithmes de Google Photo a été effectué en téléchargeant des dizaines de milliers de photos de divers primates sur le service. Parmi lesquels : des babouins, des gibbons, des singes, des gorilles et des chimpanzés. Les trois premières catégories d'animaux ont été correctement identifiées, mais comme pour les gorilles et les chimpanzés, leur identification manquait. De plus, lors du test, il a été constaté que Google avait peaufiné l'IA pour les requêtes racistes. Par exemple, lors de la recherche de "homme noir" ou "femme noire", des photos de personnes vêtues de noir et blanc étaient affichées, triées par sexe.

Un représentant de Google a confirmé les résultats des tests effectués par Wired, qui concernaient les catégories de primates, et a signalé qu'ils étaient bloqués. Selon le représentant, il devient clair que la technologie de reconnaissance d'image est loin d'être parfaite. Et les catégories bloquées sont toujours disponibles dans les services Google tels que l'API Cloud Vision et Google Assistant.

Il peut sembler surprenant que le géant commercial Google n'ait pas trouvé de meilleure solution à ce problème. Mais cette erreur rappelle à quel point il est difficile d'enseigner l'IA alors qu'elle est encore en développement et n'a pas été testée par un panel d'experts.

On ne sait toujours pas ce que Google fera à l'avenir pour améliorer ses algorithmes, car ils contiennent plus qu'assez de défauts et ils nécessitent des mesures immédiates pour les éliminer.

Source: theverge.com