Google irqchi tasvirni aniqlash algoritmlarini "tuzatdi" ... ularni o'chirib qo'yish orqali

2015-yilda dasturiy ta’minot muhandisi Jeki Alsin jamoatchilikka Google Photos’dagi tasvirni aniqlash algoritmlari noto‘g‘ri ishlayotgani va afro-amerikaliklarni “gorillalar” deb tasniflayotganini aytgan edi. Google, o'z navbatida, foydalanuvchilarning xafagarchiliklari uchun uzr so'radi va xatoni tuzatishga va'da berdi. Ammo amalda Google uch yil davomida hech narsa qilmagani ma'lum bo'ldi. Kompaniya o'z obro'sini xavf ostiga qo'ymaslik uchun gorillani tanib olish algoritmini o'chirib qo'ydi.

Birozdan keyin Wireddan xabar keldi. Ularning sa’y-harakatlari bilan servisga turli primatlarning o‘n minglab fotosuratlarini yuklash orqali Google Photo algoritmlari sinovi o‘tkazildi. Ular orasida: babunlar, gibbonlar, maymunlar, gorillalar va shimpanzelar bor edi. Hayvonlarning dastlabki uchta toifasi to'g'ri aniqlangan, ammo gorillalar va shimpanzelarga kelsak, ularning identifikatsiyasi yo'q edi. Shuningdek, sinov davomida Google irqchilik so'rovlari uchun sun'iy intellektni o'zgartirgani aniqlandi. Masalan, “qora erkak” yoki “qora ayol” so‘zlarini qidirishda, jinsi bo‘yicha saralangan qora va oq kiyimdagi odamlarning fotosuratlari ko‘rsatilgan.

Google vakili Wired tomonidan primatlar toifalari bilan bog‘liq bo‘lgan sinovlar natijalarini tasdiqladi va ular bloklangani haqida xabar berdi. Vakilning so'zlariga ko'ra, tasvirni aniqlash texnologiyasi mukammallikdan yiroq ekanligi ayon bo'ladi. Bloklangan toifalar hali ham Cloud Vision API va Google Assistant kabi Google xizmatlarida mavjud.

Google tijorat giganti bu muammoga yaxshiroq yechim topmagani ajablanarli tuyulishi mumkin. Ammo bu xato AI hali ishlab chiqilayotgan va ekspertlar guruhi tomonidan sinovdan o‘tkazilmagan bo‘lsa, uni o‘rgatish qanchalik qiyinligini yaxshi eslatib turadi.

Google o'z algoritmlarini yaxshilash uchun kelajakda nima qilishi noma'lumligicha qolmoqda, chunki ularda yetarlicha kamchiliklar mavjud va ularni bartaraf etish uchun zudlik bilan choralar ko'rish kerak.

Jeraldo: theverge.com