Google „opravil“ rasistické algoritmy rozpoznávání obrázků... tím, že je zakázal

V roce 2015 softwarový inženýr Jackie Alsin řekl veřejnosti, že algoritmy rozpoznávání obrázků ve Fotkách Google nefungují správně a klasifikují Afroameričany jako „gorily“. Google se zase omluvil za zraněné pocity uživatelů a slíbil, že chybu napraví. V praxi se ale ukázalo, že Google tři roky nic nedělal. Společnost právě vypnula algoritmus rozpoznávání goril, aby neriskovala svou pověst.

O něco později přišla zpráva od Wired. Díky jejich úsilí byl proveden test algoritmů Google Photo nahráním desítek tisíc fotografií různých primátů do služby. Mezi nimi byli: paviáni, giboni, opice, gorily a šimpanzi. První tři kategorie zvířat byly identifikovány správně, ale u goril a šimpanzů jejich identifikace chyběla. Během testu bylo také zjištěno, že Google vylepšil AI pro rasistické dotazy. Například při hledání „černoch“ nebo „černoška“ se zobrazily fotografie lidí v černobílém oblečení seřazené podle pohlaví.

Zástupce společnosti Google potvrdil výsledky testů provedených společností Wired, které se týkaly kategorií primátů, a oznámil, že byly zablokovány. Podle zástupce se ukazuje, že technologie rozpoznávání obrazu má k dokonalosti daleko. A blokované kategorie jsou stále dostupné ve službách Google, jako je Cloud Vision API a Google Assistant.

Může se zdát překvapivé, že komerční gigant Google nepřišel s lepším řešením tohoto problému. Tato chyba ale slouží jako dobrá připomínka toho, jak těžké je naučit AI, když je stále ve vývoji a nebyla testována panelem odborníků.

Zůstává nejasné, co Google v budoucnu udělá pro zlepšení svých algoritmů, protože v nich je více než dost nedostatků a vyžadují okamžitá opatření k jejich odstranění.

Dzherelo: theverge.com