Google hat rassistische Bilderkennungsalgorithmen „korrigiert“, indem es sie deaktiviert hat

Bereits 2015 teilte die Software-Ingenieurin Jackie Alsin der Öffentlichkeit mit, dass die Bilderkennungsalgorithmen in Google Fotos nicht korrekt funktionierten und Afroamerikaner als „Gorillas“ klassifizierten. Google wiederum entschuldigte sich für die verletzten Gefühle der Nutzer und versprach, den Fehler zu beheben. Aber in der Praxis hat sich herausgestellt, dass Google drei Jahre lang nichts getan hat. Das Unternehmen hat den Gorilla-Erkennungsalgorithmus einfach abgeschaltet, um seinen Ruf nicht zu riskieren.

Wenig später kam eine Nachricht von Wired. Durch ihre Bemühungen wurde ein Test der Google Photo-Algorithmen durchgeführt, indem Zehntausende von Fotos verschiedener Primaten in den Dienst hochgeladen wurden. Darunter waren: Paviane, Gibbons, Affen, Gorillas und Schimpansen. Die ersten drei Tierkategorien wurden korrekt identifiziert, aber bei Gorillas und Schimpansen fehlte ihre Identifizierung. Außerdem wurde während des Tests festgestellt, dass Google die KI für rassistische Anfragen optimiert hat. Beispielsweise wurden bei der Suche nach „schwarzer Mann“ oder „schwarze Frau“ Fotos von Menschen in schwarz-weißer Kleidung angezeigt, sortiert nach Geschlecht.

Ein Vertreter von Google bestätigte die Ergebnisse der von Wired durchgeführten Tests, die sich auf die Primatenkategorien bezogen, und meldete, dass sie blockiert wurden. Laut dem Vertreter wird deutlich, dass die Bilderkennungstechnologie alles andere als perfekt ist. Und blockierte Kategorien sind weiterhin in Google-Diensten wie der Cloud Vision API und Google Assistant verfügbar.

Es mag überraschen, dass der kommerzielle Riese Google keine bessere Lösung für dieses Problem gefunden hat. Aber dieser Fehler ist eine gute Erinnerung daran, wie schwierig es ist, KI zu lehren, wenn sie sich noch in der Entwicklung befindet und nicht von einem Expertengremium getestet wurde.

Es bleibt unklar, was Google in Zukunft tun wird, um seine Algorithmen zu verbessern, da sie mehr als genug Fehler enthalten und sofortige Maßnahmen zu deren Beseitigung erfordern.

Quelle: theverge.com