גוגל "תיקנה" אלגוריתמים גזעניים לזיהוי תמונות... על ידי השבתתם

עוד ב-2015, מהנדס התוכנה ג'קי אלסין אמר לציבור שאלגוריתמי זיהוי התמונות ב-Google Photos פועלים בצורה שגויה ומסווגים אפרו-אמריקאים כ"גורילות". גוגל, בתורה, התנצלה על הרגשות הפגועים של המשתמשים והבטיחה לתקן את השגיאה. אבל בפועל התברר שגוגל לא עשתה כלום במשך שלוש שנים. החברה פשוט כיבה את אלגוריתם זיהוי הגורילות כדי לא לסכן את המוניטין שלה.

קצת מאוחר יותר הגיעה הודעה מ-Wired. באמצעות מאמציהם, בוצעה בדיקה של אלגוריתמי Google Photo על ידי העלאת עשרות אלפי תמונות של פרימטים שונים לשירות. ביניהם היו: בבונים, גיבונים, קופים, גורילות ושימפנזים. שלוש הקטגוריות הראשונות של בעלי חיים זוהו בצורה נכונה, אך באשר לגורילות ושימפנזים, הזיהוי שלהם היה חסר. כמו כן, במהלך הבדיקה, נמצא שגוגל שיפצה את ה-AI לשאילתות גזעניות. לדוגמה, בעת חיפוש אחר "גבר שחור" או "אישה שחורה", הוצגו תמונות של אנשים בבגדים שחורים ולבנים, ממוינים לפי מין.

נציג של גוגל אישר את תוצאות הבדיקות שערכה Wired, שהתייחסו לקטגוריות הפרימטים, ודיווח כי הן נחסמו. לדברי הנציג, מתברר שטכנולוגיית זיהוי התמונה רחוקה מלהיות מושלמת. וקטגוריות חסומות עדיין זמינות בשירותי Google כגון Cloud Vision API ו-Google Assistant.

זה אולי נראה מפתיע שענקית המסחר גוגל לא המציאה פתרון טוב יותר לבעיה הזו. אבל הטעות הזו משמשת תזכורת טובה לכמה קשה ללמד AI כשהוא עדיין בפיתוח ולא נבדק על ידי פאנל מומחים.

עדיין לא ברור מה גוגל תעשה בעתיד כדי לשפר את האלגוריתמים שלה, שכן יש בהם די והותר פגמים והם דורשים אמצעים מיידיים כדי לחסל אותם.

מָקוֹר: theverge.com