Google je "popravio" rasističke algoritme za prepoznavanje slika ... tako što ih je onemogućio

Još 2015. godine, softverski inženjer Jackie Alsin rekao je javnosti da algoritmi za prepoznavanje slika u Google fotografijama ne rade ispravno i klasifikuju Afroamerikance kao "gorile". Google se zauzvrat izvinio zbog povrijeđenih osjećaja korisnika i obećao da će ispraviti grešku. Ali u praksi se pokazalo da Google tri godine nije ništa radio. Kompanija je upravo isključila algoritam za prepoznavanje gorila kako ne bi rizikovala svoju reputaciju.

Nešto kasnije stigla je poruka od Wireda. Njihovim zalaganjem provedeno je testiranje algoritama Google Photo postavljanjem desetina hiljada fotografija različitih primata na servis. Među njima su bili: babuni, giboni, majmuni, gorile i čimpanze. Prve tri kategorije životinja su identificirane ispravno, ali što se tiče gorila i čimpanza, njihova identifikacija je izostala. Takođe, tokom testa je otkriveno da je Google podesio AI za rasističke upite. Na primjer, prilikom pretraživanja "crnac" ili "crna žena" prikazivale su se fotografije ljudi u crno-bijeloj odjeći, sortirane po spolu.

Predstavnik Google-a potvrdio je rezultate testova koje je uradio Wired, a koji se odnose na kategorije primata, te izvijestio da su oni blokirani. Prema riječima predstavnika, postaje jasno da je tehnologija prepoznavanja slika daleko od savršene. A blokirane kategorije su i dalje dostupne u Googleovim uslugama kao što su Cloud Vision API i Google Assistant.

Može izgledati iznenađujuće da komercijalni gigant Google nije smislio bolje rješenje za ovaj problem. Ali ova greška služi kao dobar podsjetnik koliko je teško podučavati AI kada je još u razvoju i nije testiran od strane panela stručnjaka.

Ostaje nejasno šta će Google učiniti u budućnosti kako bi poboljšao svoje algoritme, budući da u njima ima više nego dovoljno nedostataka i zahtijevaju hitne mjere za njihovo otklanjanje.

Izvor: theverge.com