Google je "popravio" algoritme za prepoznavanje rasističkih slika ... tako što ih je onemogućio

Još 2015. softverska inženjerka Jackie Alsin rekla je javnosti da algoritmi za prepoznavanje slika u Google Photosu ne rade ispravno i da Afroamerikance klasificiraju kao "gorile". Google se pak ispričao zbog povrijeđenih osjećaja korisnika i obećao da će ispraviti pogrešku. No u praksi se pokazalo da Google tri godine nije radio ništa. Tvrtka je samo isključila algoritam za prepoznavanje gorila kako ne bi riskirala svoju reputaciju.

Nešto kasnije stigla je poruka iz Wireda. Njihovim trudom provedeno je testiranje algoritama Google Photo uploadom desetaka tisuća fotografija raznih primata na uslugu. Među kojima su bili: pavijani, giboni, majmuni, gorile i čimpanze. Prve tri kategorije životinja točno su identificirane, ali što se tiče gorila i čimpanza, njihova identifikacija je izostala. Također, tijekom testa je otkriveno da je Google prilagodio AI za rasističke upite. Primjerice, kada se traži "crnac" ili "crnka", prikazivale su se fotografije ljudi u crno-bijeloj odjeći, poredane po spolu.

Predstavnik Googlea potvrdio je rezultate testova Wireda koji se odnose na kategorije primata i izvijestio da su oni blokirani. Prema predstavniku, postaje jasno da je tehnologija prepoznavanja slika daleko od savršene. Blokirane kategorije i dalje su dostupne u Googleovim uslugama kao što su Cloud Vision API i Google Assistant.

Možda se čini iznenađujućim da komercijalni div Google nije smislio bolje rješenje za ovaj problem. Ali ova pogreška služi kao dobar podsjetnik koliko je teško poučavati umjetnu inteligenciju kada je još u razvoju i nije je testirala skupina stručnjaka.

Ostaje nejasno što će Google u budućnosti učiniti da unaprijedi svoje algoritme, budući da nedostataka u njima ima više nego dovoljno i zahtijevaju hitne mjere za njihovo uklanjanje.

Dzherelo: theverge.com