Google "fikset" rasistiske bildegjenkjenningsalgoritmer ... ved å deaktivere dem

Tilbake i 2015 fortalte programvareingeniør Jackie Alsin offentligheten at bildegjenkjenningsalgoritmene i Google Photos fungerte feil og klassifiserte afroamerikanere som «gorillaer». Google ba på sin side om unnskyldning for brukernes sårede følelser og lovet å rette opp feilen. Men i praksis viste det seg at Google ikke gjorde noe på tre år. Selskapet har nettopp slått av gorilla-gjenkjenningsalgoritmen for ikke å risikere ryktet.

Litt senere kom det en melding fra Wired. Gjennom deres innsats ble det utført en test av Google Photo-algoritmer ved å laste opp titusenvis av bilder av forskjellige primater til tjenesten. Blant disse var: bavianer, gibboner, aper, gorillaer og sjimpanser. De tre første kategoriene av dyr ble identifisert riktig, men når det gjelder gorillaer og sjimpanser, manglet identifiseringen. Under testen ble det også funnet at Google tilpasset AI for rasistiske spørsmål. Når man for eksempel søkte etter «svart mann» eller «svart kvinne», ble det vist bilder av personer i svart-hvite klær, sortert etter kjønn.

En representant for Google bekreftet resultatene av testene gjort av Wired, som var relatert til primatkategoriene, og rapporterte at de ble blokkert. Ifølge representanten blir det klart at bildegjenkjenningsteknologien er langt fra perfekt. Og blokkerte kategorier er fortsatt tilgjengelige i Google-tjenester som Cloud Vision API og Google Assistant.

Det kan virke overraskende at den kommersielle giganten Google ikke har kommet opp med en bedre løsning på dette problemet. Men denne feilen tjener som en god påminnelse om hvor vanskelig det er å lære AI når det fortsatt er under utvikling og ikke har blitt testet av et panel av eksperter.

Det er fortsatt uklart hva Google vil gjøre i fremtiden for å forbedre algoritmene sine, siden det er mer enn nok feil i dem og de krever umiddelbare tiltak for å eliminere dem.

Dzherelo: theverge.com