구글 "고정" 인종차별 이미지 인식 알고리즘 비활성화

2015년에 소프트웨어 엔지니어 Jackie Alsin은 Google 포토의 이미지 인식 알고리즘이 잘못 작동하고 있으며 아프리카계 미국인을 "고릴라"로 분류하고 있다고 대중에게 말했습니다. 이에 구글은 이용자들의 마음에 상처를 준 점에 대해 사과하고 오류를 시정하겠다고 약속했다. 그러나 실제로 구글은 년 동안 아무것도 하지 않은 것으로 밝혀졌다. 이 회사는 평판을 위험에 빠뜨리지 않기 위해 고릴라 인식 알고리즘을 해제했습니다.

잠시 후 Wired에서 메시지가 왔습니다. 이들의 노력으로 다양한 영장류의 사진을 수만 장씩 서비스에 올려 구글 포토 알고리즘 테스트를 진행했다. 그 중에는 개코원숭이, 긴팔원숭이, 원숭이, 고릴라, 침팬지가 있었습니다. 동물의 처음 세 가지 범주는 정확하게 식별되었지만 고릴라와 침팬지의 경우 식별이 누락되었습니다. 또한 테스트 과정에서 구글이 인종차별적인 쿼리를 위해 AI를 수정한 사실이 밝혀졌다. 예를 들어 '흑인남성'이나 '흑인여성'을 검색하면 흑백 옷을 입은 사람들의 사진이 성별로 분류되어 표시된다.

구글 관계자는 와이어드가 영장류 카테고리와 관련된 테스트 결과를 확인하고 차단했다고 전했다. 대표에 따르면 이미지 인식 기술이 완벽하지 않다는 것이 분명해진다. 차단된 카테고리는 Cloud Vision API 및 Google Assistant와 같은 Google 서비스에서 계속 사용할 수 있습니다.

상업적인 거인 Google이 이 문제에 대한 더 나은 솔루션을 제시하지 않은 것이 놀랍게 보일 수 있습니다. 그러나 이 실수는 AI가 아직 개발 중이고 전문가 패널이 테스트하지 않았을 때 AI를 가르치는 것이 얼마나 어려운지를 상기시켜줍니다.

알고리즘에 결함이 충분하고 이를 제거하기 위한 즉각적인 조치가 필요하기 때문에 Google이 알고리즘을 개선하기 위해 앞으로 무엇을 할 것인지는 불분명합니다.

드 제렐로 : theverge.com