Google je "popravil" algoritme za prepoznavanje rasističnih slik ... tako, da jih je onemogočil

Leta 2015 je programska inženirka Jackie Alsin javnosti povedala, da algoritmi za prepoznavanje slik v storitvi Google Photos ne delujejo pravilno in Afroameričane razvrščajo med "gorile". Google se je v zameno opravičil za prizadete občutke uporabnikov in obljubil, da bo napako popravil. Toda v praksi se je izkazalo, da Google tri leta ni naredil ničesar. Podjetje je samo izklopilo algoritem za prepoznavanje goril, da ne bi tvegalo svojega ugleda.

Malo kasneje je prišlo sporočilo iz Wireda. Z njihovimi prizadevanji je bil opravljen preizkus algoritmov Google Photo z nalaganjem več deset tisoč fotografij različnih primatov v storitev. Med njimi so bili: pavijani, giboni, opice, gorile in šimpanzi. Prve tri kategorije živali so bile identificirane pravilno, kar zadeva gorile in šimpanze, pa njihova identifikacija manjka. Tudi med testom je bilo ugotovljeno, da je Google prilagodil AI za rasistične poizvedbe. Na primer, pri iskanju "črnca" ali "črne ženske" so bile prikazane fotografije ljudi v črno-belih oblačilih, razvrščenih po spolu.

Predstavnik Googla je potrdil rezultate testov Wireda, ki so se nanašali na kategorije primatov, in sporočil, da so bili blokirani. Po mnenju predstavnika postane jasno, da tehnologija za prepoznavanje slik še zdaleč ni popolna. In blokirane kategorije so še vedno na voljo v Googlovih storitvah, kot sta Cloud Vision API in Google Assistant.

Morda se zdi presenetljivo, da komercialni velikan Google ni pripravil boljše rešitve za ta problem. Toda ta napaka služi kot dober opomin, kako težko je poučevati umetno inteligenco, ko je še v razvoju in je ni preizkusila skupina strokovnjakov.

Kaj bo Google naredil v prihodnje za izboljšanje svojih algoritmov, ostaja nejasno, saj je pomanjkljivosti v njih več kot dovolj in zahtevajo takojšnje ukrepe za njihovo odpravo.

Dzherelo: theverge.com