Google "korjasi" rasistiset kuvantunnistusalgoritmit ... poistamalla ne käytöstä

Vuonna 2015 ohjelmistoinsinööri Jackie Alsin kertoi yleisölle, että Google Kuvien kuvantunnistusalgoritmit toimivat väärin ja luokittelevat afroamerikkalaiset "gorilloiksi". Google puolestaan ​​pyysi anteeksi käyttäjien loukkaantuneita tunteita ja lupasi korjata virheen. Mutta käytännössä kävi ilmi, että Google ei tehnyt mitään kolmeen vuoteen. Yritys vain sammutti gorillan tunnistusalgoritmin, jotta se ei vaarantaisi mainettaan.

Vähän myöhemmin Wirediltä tuli viesti. Heidän ponnistelunsa avulla suoritettiin Google Photo -algoritmien testi lataamalla palveluun kymmeniä tuhansia kuvia erilaisista kädellisistä. Joita olivat: paviaanit, gibbonit, apinat, gorillat ja simpanssit. Kolme ensimmäistä eläinluokkaa tunnistettiin oikein, mutta gorillat ja simpanssit puuttuivat. Testin aikana havaittiin myös, että Google muokkasi tekoälyä rasistisia kyselyitä varten. Kun esimerkiksi haettiin "musta mies" tai "musta nainen", valokuvat mustavalkoisissa vaatteissa olevista ihmisistä näytettiin sukupuolen mukaan lajiteltuina.

Googlen edustaja vahvisti Wiredin tekemien kädellisten luokkiin liittyvien testien tulokset ja ilmoitti, että ne oli estetty. Edustajan mukaan käy selväksi, että kuvantunnistustekniikka on kaukana täydellisestä. Ja estetyt luokat ovat edelleen saatavilla Googlen palveluissa, kuten Cloud Vision API ja Google Assistant.

Saattaa tuntua yllättävältä, että kaupallinen jättiläinen Google ei ole keksinyt parempaa ratkaisua tähän ongelmaan. Mutta tämä virhe on hyvä muistutus siitä, kuinka vaikeaa on opettaa tekoälyä, kun se on vielä kehitysvaiheessa eikä sitä ole testannut asiantuntijapaneeli.

On edelleen epäselvää, mitä Google tekee tulevaisuudessa parantaakseen algoritmejaan, koska niissä on enemmän kuin tarpeeksi puutteita ja ne vaativat välittömiä toimenpiteitä niiden poistamiseksi.

Dzherelo: theverge.com