Google "fiksede" racistiske billedgenkendelsesalgoritmer ... ved at deaktivere dem

Tilbage i 2015 fortalte softwareingeniør Jackie Alsin offentligheden, at billedgenkendelsesalgoritmerne i Google Fotos fungerede forkert og klassificerede afroamerikanere som "gorillaer". Google undskyldte til gengæld for brugernes sårede følelser og lovede at rette fejlen. Men i praksis viste det sig, at Google ikke lavede noget i tre år. Virksomheden har netop slået gorilla-genkendelsesalgoritmen fra for ikke at risikere sit omdømme.

Lidt senere kom der en besked fra Wired. Gennem deres indsats blev der udført en test af Google Foto-algoritmer ved at uploade titusindvis af billeder af forskellige primater til tjenesten. Blandt disse var: bavianer, gibboner, aber, gorillaer og chimpanser. De første tre kategorier af dyr blev identificeret korrekt, men hvad angår gorillaer og chimpanser, manglede deres identifikation. Under testen blev det også fundet, at Google justerede AI for racistiske forespørgsler. Når man f.eks. søgte efter "sort mand" eller "sort kvinde", blev der vist billeder af personer i sort/hvidt tøj sorteret efter køn.

En repræsentant for Google bekræftede resultaterne af testene lavet af Wired, som var relateret til primatkategorierne, og rapporterede, at de var blokeret. Ifølge repræsentanten bliver det klart, at billedgenkendelsesteknologien langt fra er perfekt. Og blokerede kategorier er stadig tilgængelige i Google-tjenester såsom Cloud Vision API og Google Assistant.

Det kan virke overraskende, at den kommercielle gigant Google ikke er kommet med en bedre løsning på dette problem. Men denne fejl tjener som en god påmindelse om, hvor svært det er at undervise i AI, når det stadig er under udvikling og ikke er blevet testet af et panel af eksperter.

Det er stadig uklart, hvad Google vil gøre i fremtiden for at forbedre sine algoritmer, da der er mere end nok fejl i dem, og de kræver øjeblikkelige foranstaltninger for at fjerne dem.

Kilde: theverge.com