Google "fixade" rasistiska bildigenkänningsalgoritmer ... genom att inaktivera dem

Tillbaka 2015 berättade mjukvaruingenjören Jackie Alsin för allmänheten att bildigenkänningsalgoritmerna i Google Foton fungerade felaktigt och klassificerade afroamerikaner som "gorillor". Google bad i sin tur om ursäkt för användarnas sårade känslor och lovade att rätta till felet. Men i praktiken visade det sig att Google inte gjorde något på tre år. Företaget stängde precis av gorillaigenkänningsalgoritmen för att inte riskera sitt rykte.

Lite senare kom ett meddelande från Wired. Genom deras ansträngningar genomfördes ett test av Google Photo-algoritmer genom att ladda upp tiotusentals bilder på olika primater till tjänsten. Bland dessa fanns: babianer, gibboner, apor, gorillor och schimpanser. De tre första kategorierna av djur identifierades korrekt, men vad gäller gorillor och schimpanser saknades deras identifiering. Under testet upptäcktes det också att Google justerade AI för rasistiska frågor. När man till exempel sökte efter "svart man" eller "svart kvinna" visades bilder på personer i svartvita kläder, sorterade efter kön.

En representant för Google bekräftade resultaten av de tester som Wired gjorde, som relaterade till primatkategorierna, och rapporterade att de var blockerade. Enligt representanten blir det tydligt att bildigenkänningstekniken är långt ifrån perfekt. Och blockerade kategorier är fortfarande tillgängliga i Googles tjänster som Cloud Vision API och Google Assistant.

Det kan tyckas förvånande att den kommersiella jätten Google inte har kommit på en bättre lösning på detta problem. Men detta misstag fungerar som en bra påminnelse om hur svårt det är att lära ut AI när det fortfarande är under utveckling och inte har testats av en expertpanel.

Det är fortfarande oklart vad Google kommer att göra i framtiden för att förbättra sina algoritmer, eftersom det finns mer än tillräckligt med brister i dem och de kräver omedelbara åtgärder för att eliminera dem.

Källa: theverge.com