Google “исправила” расистские алгоритмы распознавания изображений… их отключением

В далеком 2015 году инженер-программист Джеки Алсин сообщил общественности, что алгоритмы распознавания изображений в Google Фото работают неправильно и классифицируют афроамериканцев в качестве “горилл”. Google же в свою очередь извинилась за задетые чувства пользователей и пообещала исправить ошибку. Но на практике оказалось, что три года Google ничего не предпринимала. Компания всего лишь отключила алгоритм распознавание “горилл”, чтобы не рисковать своей репутацией.

Чуть позднее поступило сообщение от компании Wired. Их усилиями был проведен тест алгоритмов Google Фото, посредством загрузки на службу десятка тысяч фотографий различных приматов. Среди которых были: бабуины, гиббоны, мартышки, гориллы и шимпанзе. Первые три категории животных были определены правильно, но что же касается горилл и шимпанзе их идентификация отсутствовала. Также в ходе теста было обнаружено, что Google подправила ИИ в отношении расистских запросов. Так например при поиске “черного человека” или “черной женщины” выводились фотографии людей в черно-белой одежде, отсортированные по половой принадлежности.

Представитель Google подтвердил результаты тестов, совершенных Wired, которые касались категорий приматов и сообщил что они были заблокированы. Со слов представителя становится понятным, что технология распознавания изображений далеко не идеальна. И заблокированные категории все еще остаются доступными в службах Google, таких как API Cloud Vision и Google Assistant.

Может показаться странным, что коммерческая компания-гигант Google, не придумала более правильного решения этой проблемы. Но эта оплошность служит хорошим напоминанием о том, как сложно обучать ИИ, когда он находится в стадии разработки и не проверен группой специалистов.

Остается неясным, что Google будет предпринимать в дальнейшем для улучшения своих алгоритмов, так как изъянов в них предостаточно и они требуют незамедлительных мер по устранению.

Источник: theverge.com