Google "corrigiu" algoritmos de reconhecimento de imagens racistas... desabilitando-os

Em 2015, o engenheiro de software Jackie Alsin disse ao público que os algoritmos de reconhecimento de imagem no Google Fotos estavam funcionando incorretamente e estavam classificando os afro-americanos como "gorilas". O Google, por sua vez, pediu desculpas pelos sentimentos feridos dos usuários e prometeu corrigir o erro. Mas, na prática, descobriu-se que o Google não fez nada por três anos. A empresa acabou de desativar o algoritmo de reconhecimento de gorilas para não arriscar sua reputação.

Pouco depois, chegou uma mensagem da Wired. Por meio de seus esforços, um teste dos algoritmos do Google Photo foi realizado com o upload de dezenas de milhares de fotos de vários primatas para o serviço. Entre eles estavam: babuínos, gibões, macacos, gorilas e chimpanzés. As três primeiras categorias de animais foram identificadas corretamente, mas quanto aos gorilas e chimpanzés, sua identificação estava faltando. Além disso, durante o teste, descobriu-se que o Google ajustou a IA para consultas racistas. Por exemplo, ao pesquisar por "homem negro" ou "mulher negra", eram exibidas fotos de pessoas com roupas pretas e brancas, classificadas por gênero.

Um representante do Google confirmou os resultados dos testes feitos pela Wired, relacionados às categorias de primatas, e informou que eles foram bloqueados. Segundo o representante, fica claro que a tecnologia de reconhecimento de imagem está longe de ser perfeita. E as categorias bloqueadas ainda estão disponíveis nos serviços do Google, como a API Cloud Vision e o Google Assistant.

Pode parecer surpreendente que o gigante comercial Google não tenha encontrado uma solução melhor para esse problema. Mas esse erro serve como um bom lembrete de como é difícil ensinar IA quando ela ainda está em desenvolvimento e não foi testada por um painel de especialistas.

Ainda não está claro o que o Google fará no futuro para melhorar seus algoritmos, pois há falhas mais do que suficientes neles e exigem medidas imediatas para eliminá-los.

fonte: theverge.com