"Inayos" ng Google ang mga algorithm sa pagkilala ng racist na imahe ... sa pamamagitan ng hindi pagpapagana sa mga ito

Noong 2015, sinabi ng software engineer na si Jackie Alsin sa publiko na ang mga algorithm ng pagkilala ng larawan sa Google Photos ay hindi gumagana at inuuri ang mga African American bilang "mga gorilya." Humingi naman ng paumanhin ang Google para sa nasaktang damdamin ng mga user at nangakong itatama ang error. Ngunit sa pagsasagawa, lumabas na walang ginawa ang Google sa loob ng tatlong taon. Pinatay lang ng kumpanya ang gorilla recognition algorithm para hindi malagay sa panganib ang reputasyon nito.

Maya-maya, may dumating na mensahe mula kay Wired. Sa pamamagitan ng kanilang mga pagsusumikap, isinagawa ang isang pagsubok sa mga algorithm ng Google Photo sa pamamagitan ng pag-upload ng libu-libong larawan ng iba't ibang primates sa serbisyo. Kabilang sa mga ito ay: baboon, gibbons, monkeys, gorilya at chimpanzee. Natukoy nang tama ang unang tatlong kategorya ng mga hayop, ngunit para sa mga gorilya at chimpanzee, nawawala ang kanilang pagkakakilanlan. Gayundin, sa panahon ng pagsubok, nalaman na binago ng Google ang AI para sa mga racist na query. Halimbawa, kapag naghahanap ng "itim na lalaki" o "itim na babae", ipinakita ang mga larawan ng mga taong nakasuot ng itim at puting damit, na pinagsunod-sunod ayon sa kasarian.

Kinumpirma ng isang kinatawan ng Google ang mga resulta ng mga pagsubok na ginawa ng Wired, na nauugnay sa mga kategorya ng primate, at iniulat na na-block ang mga ito. Ayon sa kinatawan, nagiging malinaw na ang teknolohiya sa pagkilala ng imahe ay malayo sa perpekto. At available pa rin ang mga naka-block na kategorya sa mga serbisyo ng Google gaya ng Cloud Vision API at Google Assistant.

Maaaring mukhang nakakagulat na ang komersyal na higanteng Google ay hindi nakagawa ng isang mas mahusay na solusyon sa problemang ito. Ngunit ang pagkakamaling ito ay nagsisilbing magandang paalala kung gaano kahirap magturo ng AI kapag ito ay nasa development pa at hindi pa nasusubok ng isang panel ng mga eksperto.

Ito ay nananatiling hindi malinaw kung ano ang gagawin ng Google sa hinaharap upang mapabuti ang mga algorithm nito, dahil mayroong higit sa sapat na mga bahid sa mga ito at nangangailangan sila ng mga agarang hakbang upang maalis ang mga ito.

Dzherelo: theverge.com