Искусственный интеллект штука не простая и проблемы с ним могут возникнуть даже у компаний с большим опытом разработки в этой сфере. Также случилось и с Amazon. Как сообщает агенство новостей Reuters: «Компании пришлось отказаться от проекта на основе ИИ, который автоматически подбирал персонал. Его главная проблема — ущемление особей женского пола.»
Неудачный эксперимент компании Amazon
В большинстве случаев, обучение ИИ происходит путем анализа исторических данных. Частой проблемой оных является выполнение задач на основе «предубеждений». В данном случае «предубеждением» послужило большое количество мужчин, работающих в сфере IT. ПО выработало алгоритм, который ставит на последние места в рейтинге анкеты, где указаны женские колледжи и которые содержат слово «женский».
Читайте также: Amazon запускает часы Echo Wall Clock с поддержкой голосового помощника Alexa
«Команда разработчиков пыталась разработать программу, которая из 100 поданных заявок выбирает 5 лучших, по определенным критериям.» — сообщает неназванный источник.
Читайте также: Amazon представляет обновлённую смарт-колонку Echo Show с большим 10-дюймовым дисплеем
Когда компания поняла, что программа выдает результаты основываясь на гендерном различии, то решила подправить алгоритмы ИИ. Однако репутация проекта была подорвана. К тому же, не было никаких гарантий, что в программе отсутствуют другие «предубеждения». Поэтому недолго думая, Amazon решила прикрыть проект до лучших времен.
Остается лишь надеется, что проект будет исправлен и в дальнейшем порадует пользователей честными результатами.
Источник: theverge