Google "repareerde" racistische algoritmen voor beeldherkenning ... door ze uit te schakelen

In 2015 vertelde software-ingenieur Jackie Alsin het publiek dat de algoritmen voor beeldherkenning in Google Foto's niet goed werkten en Afro-Amerikanen classificeerden als 'gorilla's'. Google verontschuldigde zich op zijn beurt voor de gekwetste gevoelens van gebruikers en beloofde de fout te corrigeren. Maar in de praktijk bleek dat Google drie jaar niets deed. Het bedrijf heeft zojuist het algoritme voor herkenning van gorilla's uitgeschakeld om zijn reputatie niet op het spel te zetten.

Even later kwam er een bericht van Wired. Door hun inspanningen werd een test van Google Photo-algoritmen uitgevoerd door tienduizenden foto's van verschillende primaten naar de service te uploaden. Waaronder waren: bavianen, gibbons, apen, gorilla's en chimpansees. De eerste drie categorieën dieren waren correct geïdentificeerd, maar wat betreft gorilla's en chimpansees ontbrak hun identificatie. Ook bleek tijdens de test dat Google de AI aanpaste voor racistische zoekopdrachten. Bij het zoeken naar "zwarte man" of "zwarte vrouw" werden bijvoorbeeld foto's weergegeven van mensen in zwart-witte kleding, gesorteerd op geslacht.

Een vertegenwoordiger van Google bevestigde de resultaten van de tests van Wired, die betrekking hadden op de categorieën primaten, en meldde dat ze waren geblokkeerd. Volgens de vertegenwoordiger wordt duidelijk dat de beeldherkenningstechnologie verre van perfect is. En geblokkeerde categorieën zijn nog steeds beschikbaar in Google-services zoals de Cloud Vision API en Google Assistant.

Het lijkt misschien verrassend dat de commerciële gigant Google geen betere oplossing voor dit probleem heeft bedacht. Maar deze fout dient als een goede herinnering aan hoe moeilijk het is om AI te leren wanneer het nog in ontwikkeling is en niet is getest door een panel van experts.

Het blijft onduidelijk wat Google in de toekomst gaat doen om zijn algoritmen te verbeteren, aangezien er meer dan genoeg fouten in zitten en ze onmiddellijke maatregelen vereisen om ze te elimineren.

bron: theverge.com