Штучний інтелект штука непроста і проблеми з ним можуть виникнути навіть у компаній з великим досвідом розробки в цій сфері. Також сталося і з Amazon. Як повідомляє агенство новин Reuters: “Компанії довелося відмовитися від проекту на основі ШІ, який автоматично підбирав персонал. Його головна проблема – утиски особин жіночої статі.”
У більшості випадків, навчання ШІ відбувається шляхом аналізу історичних даних. Частою проблемою оних є виконання завдань на основі “упереджень”. В даному випадку “упередженням” стала значна кількість чоловіків, що працюють в сфері IT. ПЗ виробило алгоритм, який ставить на останні місця в рейтингу анкети, де вказані жіночі коледжі і які містять слово “жіночий”.
Читайте також: Amazon запускає годинник Echo Wall Clock з підтримкою голосового помічника Alexa
“Команда розробників намагалася розробити програму, яка з 100 поданих заявок вибирає 5 кращих, за певними критеріями.” – повідомляє неназване джерело.
Читайте також: Amazon представляє оновлену смарт-колонку Echo Show з великим 10-дюймовим дисплеєм
Коли компанія зрозуміла, що програма видає результати грунтуючись на гендерній відмінності, то вирішила підправити алгоритми ШІ. Однак репутація проекту була підірвана. До того ж, не було ніяких гарантій, що в програмі відсутні інші “упередження”. Тому не довго думаючи, Amazon вирішила прикрити проект до кращих часів.
Залишається лише сподіватись, що проект буде виправлений і надалі порадує користувачів чесними результатами.
Джерело: theverge
Leave a Reply