جوجل "أصلحت" خوارزميات التعرف على الصور العنصرية ... عن طريق تعطيلها

في عام 2015 ، أخبر مهندس البرمجيات جاكي ألسين الجمهور أن خوارزميات التعرف على الصور في صور Google كانت تعمل بشكل غير صحيح وكانت تصنف الأمريكيين الأفارقة على أنهم "غوريلا". Google بدورها ، اعتذرت عن مشاعر الأذى للمستخدمين ووعدت بتصحيح الخطأ. لكن من الناحية العملية ، تبين أن Google لم تفعل شيئًا لمدة ثلاث سنوات. قامت الشركة للتو بإيقاف تشغيل خوارزمية التعرف على الغوريلا حتى لا تخاطر بسمعتها.

بعد ذلك بقليل ، جاءت رسالة من Wired. من خلال جهودهم ، تم إجراء اختبار لخوارزميات صور Google عن طريق تحميل عشرات الآلاف من الصور لمختلف الرئيسيات على الخدمة. ومن بينها: قرود البابون والجيبون والقرود والغوريلا والشمبانزي. تم تحديد الفئات الثلاث الأولى من الحيوانات بشكل صحيح ، ولكن بالنسبة للغوريلا والشمبانزي ، فقد تم التعرف على هوياتهم. أيضًا ، أثناء الاختبار ، وجد أن Google قامت بتعديل الذكاء الاصطناعي للاستفسارات العنصرية. على سبيل المثال ، عند البحث عن "رجل أسود" أو "امرأة سوداء" ، تم عرض صور لأشخاص يرتدون ملابس سوداء وبيضاء ، مرتبة حسب الجنس.

وأكد ممثل جوجل نتائج الاختبارات التي أجرتها Wired والتي تتعلق بفئات الرئيسيات ، وأفاد بأنه تم حظرها. وفقًا للممثل ، يتضح أن تقنية التعرف على الصور بعيدة عن الكمال. ولا تزال الفئات المحظورة متوفرة في خدمات Google مثل Cloud Vision API و Google Assistant.

قد يبدو من المدهش أن العملاق التجاري Google لم يتوصل إلى حل أفضل لهذه المشكلة. لكن هذا الخطأ بمثابة تذكير جيد بمدى صعوبة تعليم الذكاء الاصطناعي عندما لا يزال قيد التطوير ولم يتم اختباره من قبل لجنة من الخبراء.

لا يزال من غير الواضح ما الذي ستفعله Google في المستقبل لتحسين خوارزمياتها ، نظرًا لوجود أكثر من عيوب كافية فيها وتتطلب تدابير فورية للقضاء عليها.

مصدر: theverge.com