Google „поправи“ расистките алгоритми за разпознаване на изображения... като ги деактивира

През 2015 г. софтуерният инженер Джаки Алсин каза на обществеността, че алгоритмите за разпознаване на изображения в Google Photos работят неправилно и класифицират афро-американците като „горили“. Google от своя страна се извини за наранените чувства на потребителите и обеща да коригира грешката. Но на практика се оказа, че Google не направи нищо в продължение на три години. Компанията просто е изключила алгоритъма за разпознаване на горила, за да не рискува репутацията си.

Малко по-късно дойде съобщение от Wired. Чрез техните усилия беше извършен тест на алгоритмите на Google Photo чрез качване на десетки хиляди снимки на различни примати в услугата. Сред тях бяха: павиани, гибони, маймуни, горили и шимпанзета. Първите три категории животни бяха идентифицирани правилно, но що се отнася до горилите и шимпанзетата, тяхната идентификация липсваше. Освен това по време на теста беше установено, че Google е променил AI за расистки запитвания. Например при търсене на „черен мъж“ или „черна жена“ се показват снимки на хора в черно-бели дрехи, сортирани по пол.

Представител на Google потвърди резултатите от тестовете, направени от Wired, които се отнасяха до категориите примати, и съобщи, че те са блокирани. Според представителя става ясно, че технологията за разпознаване на изображения далеч не е перфектна. А блокираните категории все още са налични в услугите на Google, като API за Cloud Vision и Google Assistant.

Може да изглежда изненадващо, че търговският гигант Google не е предложил по-добро решение на този проблем. Но тази грешка служи като добро напомняне за това колко трудно е да се преподава AI, когато той все още е в процес на разработка и не е тестван от група експерти.

Остава неясно какво ще предприеме Google в бъдеще, за да подобри своите алгоритми, тъй като недостатъците в тях са повече от достатъчно и изискват незабавни мерки за отстраняването им.

Dzherelo: theverge.com