Проект компании Amazon на основе ИИ провалился

Amazon AI program

Искусственный интеллект штука не простая и проблемы с ним могут возникнуть даже у компаний с большим опытом разработки в этой сфере. Также случилось и с Amazon. Как сообщает агенство новостей Reuters: “Компании пришлось отказаться от проекта на основе ИИ, который автоматически подбирал персонал. Его главная проблема – ущемление особей женского пола.”

Amazon AI program

Неудачный эксперимент компании Amazon

В большинстве случаев, обучение ИИ происходит путем анализа исторических данных. Частой проблемой оных является выполнение задач на основе “предубеждений”. В данном случае “предубеждением” послужило большое количество мужчин, работающих в сфере IT. ПО выработало алгоритм, который ставит на последние места в рейтинге анкеты, где указаны женские колледжи и которые содержат слово “женский”.

Amazon AI program

Читайте также: Amazon запускает часы Echo Wall Clock с поддержкой голосового помощника Alexa

“Команда разработчиков пыталась разработать программу, которая из 100 поданных заявок выбирает 5 лучших, по определенным критериям.” – сообщает неназванный источник.

Читайте также: Amazon представляет обновлённую смарт-колонку Echo Show с большим 10-дюймовым дисплеем

Amazon AI program

Когда компания поняла, что программа выдает результаты основываясь на гендерном различии, то решила подправить алгоритмы ИИ. Однако репутация проекта была подорвана. К тому же, не было никаких гарантий, что в программе отсутствуют другие “предубеждения”. Поэтому недолго думая, Amazon решила прикрыть проект до лучших времен.

Amazon AI program

Остается лишь надеется, что проект будет исправлен и в дальнейшем порадует пользователей честными результатами.

Источник: theverge