Google ги „поправа“ расистичките алгоритми за препознавање слики ... со нивно оневозможување

Во 2015 година, софтверскиот инженер Џеки Алсин ѝ кажа на јавноста дека алгоритмите за препознавање слики во Google Photos работат погрешно и ги класифицираат Афроамериканците како „горили“. Google, пак, се извини за повредените чувства на корисниците и вети дека ќе ја поправи грешката. Но, во пракса се покажа дека Google не направи ништо три години. Компанијата само го исклучи алгоритмот за препознавање горила за да не ја ризикува својата репутација.

Малку подоцна стигна порака од Wired. Со нивни напори, беше спроведено тестирање на алгоритмите на Google Photo со поставување на десетици илјади фотографии од различни примати на услугата. Меѓу кои беа: павијаните, гибоните, мајмуните, горилите и шимпанзата. Првите три категории на животни беа точно идентификувани, но што се однесува до горилите и шимпанзата, нивната идентификација недостасуваше. Исто така, за време на тестот, беше откриено дека Google ја изменил вештачката интелигенција за расистички прашања. На пример, при пребарувањето за „црнец“ или „црна жена“, беа прикажани фотографии од луѓе во црно-бела облека, подредени по пол.

Претставник на Google ги потврди резултатите од тестовите направени од Wired, кои се однесуваат на категориите на примати и извести дека се блокирани. Според претставникот, станува јасно дека технологијата за препознавање слики е далеку од совршена. А блокираните категории сè уште се достапни во услугите на Google како што се Cloud Vision API и Google Assistant.

Можеби изгледа изненадувачки што комерцијалниот гигант Google не смисли подобро решение за овој проблем. Но, оваа грешка служи како добар потсетник за тоа колку е тешко да се научи вештачката интелигенција кога таа сè уште е во развој и не е тестирана од панел на експерти.

Останува нејасно што ќе направи Google во иднина за да ги подобри своите алгоритми, бидејќи во нив има повеќе од доволно недостатоци и бараат итни мерки за нивно отстранување.

Џерело: theverge.com