„Google“ „pataisė“ rasistinius vaizdų atpažinimo algoritmus... juos išjungdama

Dar 2015 m. programinės įrangos inžinierius Jackie Alsin visuomenei sakė, kad „Google“ nuotraukose vaizdų atpažinimo algoritmai veikė netinkamai ir afroamerikiečiai priskiriami „goriloms“. „Google“ savo ruožtu atsiprašė už vartotojų įskaudinimą ir pažadėjo ištaisyti klaidą. Tačiau praktiškai paaiškėjo, kad „Google“ nieko nedarė trejus metus. Bendrovė tiesiog išjungė gorilų atpažinimo algoritmą, kad nerizikuotų savo reputacija.

Kiek vėliau atėjo žinutė iš „Wired“. Jų pastangomis buvo atliktas „Google Photo“ algoritmų testas, įkeliant į paslaugą dešimtis tūkstančių įvairių primatų nuotraukų. Tarp kurių buvo: babuinai, gibonai, beždžionės, gorilos ir šimpanzės. Pirmosios trys gyvūnų kategorijos buvo identifikuotos teisingai, tačiau gorilų ir šimpanzių identifikavimo nebuvo. Be to, bandymo metu buvo nustatyta, kad „Google“ pakoregavo AI rasistinėms užklausoms. Pavyzdžiui, ieškant „juodaodžio“ ar „juodaodžio moters“, buvo rodomos juodai baltais drabužiais apsirengusių žmonių nuotraukos, surūšiuotos pagal lytį.

„Google“ atstovas patvirtino „Wired“ atliktų testų, susijusių su primatų kategorijomis, rezultatus ir pranešė, kad jie buvo užblokuoti. Pasak atstovo, tampa aišku, kad vaizdo atpažinimo technologija toli gražu nėra tobula. Užblokuotos kategorijos vis dar pasiekiamos „Google“ paslaugose, pvz., „Cloud Vision“ API ir „Google Assistant“.

Gali pasirodyti keista, kad komercinė gigantė „Google“ nesugalvojo geresnio šios problemos sprendimo. Tačiau ši klaida puikiai primena, kaip sunku išmokyti dirbtinio intelekto, kai jis vis dar kuriamas ir jo neišbandė ekspertų grupė.

Kol kas neaišku, ką „Google“ darys ateityje, kad patobulintų savo algoritmus, nes juose yra daugiau nei pakankamai trūkumų ir jiems pašalinti reikia nedelsiant imtis priemonių.

Dzerelo: theverge.com