Искусственный интеллект штука не простая и проблемы с ним могут возникнуть даже у компаний с большим опытом разработки в этой сфере. Также случилось и с Amazon. Как сообщает агенство новостей Reuters: “Компании пришлось отказаться от проекта на основе ИИ, который автоматически подбирал персонал. Его главная проблема – ущемление особей женского пола.”
Неудачный эксперимент компании Amazon
В большинстве случаев, обучение ИИ происходит путем анализа исторических данных. Частой проблемой оных является выполнение задач на основе “предубеждений”. В данном случае “предубеждением” послужило большое количество мужчин, работающих в сфере IT. ПО выработало алгоритм, который ставит на последние места в рейтинге анкеты, где указаны женские колледжи и которые содержат слово “женский”.
Читайте также: Amazon запускает часы Echo Wall Clock с поддержкой голосового помощника Alexa
“Команда разработчиков пыталась разработать программу, которая из 100 поданных заявок выбирает 5 лучших, по определенным критериям.” – сообщает неназванный источник.
Читайте также: Amazon представляет обновлённую смарт-колонку Echo Show с большим 10-дюймовым дисплеем
Когда компания поняла, что программа выдает результаты основываясь на гендерном различии, то решила подправить алгоритмы ИИ. Однако репутация проекта была подорвана. К тому же, не было никаких гарантий, что в программе отсутствуют другие “предубеждения”. Поэтому недолго думая, Amazon решила прикрыть проект до лучших времен.
Остается лишь надеется, что проект будет исправлен и в дальнейшем порадует пользователей честными результатами.
Источник: theverge