בינה מלאכותית היא לא דבר קל, ובעיות בה יכולות להתעורר גם בחברות בעלות ניסיון רב בפיתוח בתחום זה. זה קרה גם עם אמזון בעברית. כפי שדיווחה סוכנות הידיעות רויטרס: "החברה נאלצה לנטוש פרויקט המבוסס על בינה מלאכותית שבחר באופן אוטומטי כוח אדם. הבעיה העיקרית שלו היא דיכוי נשים".
ניסוי כושל של אמזון
ברוב המקרים, אימון בינה מלאכותית נעשה על ידי ניתוח נתונים היסטוריים. הבעיה התכופה שלהם היא ביצוע משימות המבוססות על "דעות קדומות". במקרה זה, "הדעה הקדומה" הייתה מספר לא מבוטל של גברים שעבדו בתחום ה-IT. התוכנה פיתחה אלגוריתם המדרג שאלונים המפרטים מכללות לנשים ואשר מכילים את המילה "נשים" במקומות האחרונים בדירוג.
קרא גם: אמזון משיקה את Echo Wall Clock עם תמיכה בעוזרת הקולית של Alexa
"צוות הפיתוח ניסה לפתח תוכנית שמתוך 100 בקשות שהוגשו, בוחרת את ה-5 הטובות ביותר, לפי קריטריונים מסוימים". - מדווח מקור ללא שם.
קרא גם: אמזון מציגה את הרמקול החכם המעודכן Echo Show עם תצוגה גדולה בגודל 10 אינץ'
כשהחברה הבינה שהתוכנית נותנת תוצאות על סמך הבדלים בין המינים, היא החליטה לצבוט את אלגוריתמי הבינה המלאכותית. עם זאת, המוניטין של הפרויקט התערער. בנוסף, לא היו ערבויות לכך שלא היו "הטיות" אחרות בתוכנית. לכן, בלי לחשוב הרבה, אמזון החליטה לכסות את הפרויקט עד לזמנים טובים יותר.
אנחנו יכולים רק לקוות שהפרויקט יתוקן וימשיך לרצות את המשתמשים עם תוצאות כנות.
מָקוֹר: הגבר