Google „opravil“ algoritmy na rozpoznávanie rasistických obrázkov... tým, že ich zakázal

V roku 2015 softvérový inžinier Jackie Alsin povedal verejnosti, že algoritmy rozpoznávania obrázkov vo Fotkách Google nefungujú správne a klasifikujú Afroameričanov ako „gorily“. Google sa zase ospravedlnil za zranené pocity používateľov a sľúbil, že chybu napraví. V praxi sa ale ukázalo, že Google tri roky nič nerobil. Spoločnosť práve vypla algoritmus rozpoznávania goríl, aby neriskovala svoju povesť.

O niečo neskôr prišla správa od Wired. Vďaka ich úsiliu bol vykonaný test algoritmov Google Photo nahraním desiatok tisíc fotografií rôznych primátov do služby. Medzi nimi boli: paviány, gibony, opice, gorily a šimpanzy. Prvé tri kategórie zvierat boli identifikované správne, ale pokiaľ ide o gorily a šimpanzy, ich identifikácia chýbala. Počas testu sa tiež zistilo, že Google vylepšil AI pre rasistické otázky. Napríklad pri vyhľadávaní výrazu „černoch“ alebo „čierna žena“ sa zobrazili fotografie ľudí v čiernobielom oblečení zoradené podľa pohlavia.

Zástupca spoločnosti Google potvrdil výsledky testov uskutočnených spoločnosťou Wired, ktoré sa týkali kategórií primátov, a oznámil, že boli zablokované. Podľa zástupcu je jasné, že technológia rozpoznávania obrazu má ďaleko k dokonalosti. A blokované kategórie sú stále dostupné v službách Google, ako sú Cloud Vision API a Google Assistant.

Môže sa zdať prekvapujúce, že komerčný gigant Google neprišiel s lepším riešením tohto problému. Táto chyba však slúži ako dobrá pripomienka toho, aké ťažké je naučiť AI, keď je stále vo vývoji a nebola testovaná panelom odborníkov.

Zostáva nejasné, čo Google v budúcnosti urobí, aby zlepšil svoje algoritmy, pretože nedostatkov je v nich viac než dosť a vyžadujú si okamžité opatrenia na ich odstránenie.

Dzherelo: theverge.com