گوگل الگوریتم‌های تشخیص تصویر نژادپرستانه را با غیرفعال کردن آن‌ها اصلاح کرد

در سال ۲۰۱۵، مهندس نرم‌افزار جکی آلسین به مردم گفت که الگوریتم‌های تشخیص تصویر در Google Photos به درستی کار نمی‌کنند و آمریکایی‌های آفریقایی‌تبار را به عنوان «گوریل» طبقه‌بندی می‌کنند. گوگل نیز به نوبه خود بابت احساسات جریحه دار شده کاربران عذرخواهی کرد و قول داد این خطا را تصحیح کند. اما در عمل مشخص شد که گوگل به مدت سه سال هیچ کاری انجام نداد. این شرکت فقط الگوریتم تشخیص گوریل را خاموش کرد تا اعتبار خود را به خطر نیندازد.

کمی بعد پیامی از Wired آمد. با تلاش آنها، آزمایشی از الگوریتم های Google Photo با آپلود ده ها هزار عکس از پستانداران مختلف در این سرویس انجام شد. از جمله: بابون ها، گیبون ها، میمون ها، گوریل ها و شامپانزه ها. سه دسته اول حیوانات به درستی شناسایی شدند، اما در مورد گوریل ها و شامپانزه ها، شناسایی آنها وجود نداشت. همچنین، در طول آزمایش، مشخص شد که گوگل هوش مصنوعی را برای پرس و جوهای نژادپرستانه بهینه کرده است. به عنوان مثال، هنگام جستجوی "مرد سیاه پوست" یا "زن سیاه پوست"، عکس های افرادی با لباس های سیاه و سفید نمایش داده می شود که بر اساس جنسیت مرتب شده اند.

نماینده گوگل نتایج آزمایش های انجام شده توسط Wired را که مربوط به دسته های نخستی ها بود تایید کرد و از مسدود شدن آنها خبر داد. به گفته نماینده، مشخص می شود که فناوری تشخیص تصویر بسیار عالی است. و دسته‌های مسدود شده همچنان در سرویس‌های Google مانند Cloud Vision API و Google Assistant موجود هستند.

شاید تعجب آور به نظر برسد که غول تجاری گوگل راه حل بهتری برای این مشکل ارائه نکرده است. اما این اشتباه به خوبی یادآوری می کند که آموزش هوش مصنوعی در زمانی که هنوز در حال توسعه است و توسط گروهی از متخصصان آزمایش نشده است چقدر دشوار است.

هنوز مشخص نیست که گوگل در آینده برای بهبود الگوریتم های خود چه خواهد کرد، زیرا بیش از حد کافی نقص در آنها وجود دارد و نیاز به اقدامات فوری برای از بین بردن آنها دارد.

منبع: theverge.com