A Google "megjavította" a rasszista képfelismerő algoritmusokat... letiltásával

2015-ben Jackie Alsin szoftvermérnök azt mondta a nyilvánosságnak, hogy a Google Fotók képfelismerő algoritmusai hibásan működnek, és az afroamerikaiakat "gorilláknak" minősítik. A Google viszont elnézést kért a felhasználók megbántott érzéseiért, és megígérte, hogy kijavítja a hibát. A gyakorlatban azonban kiderült, hogy a Google nem csinált semmit három évig. A cég most kikapcsolta a gorillafelismerő algoritmust, hogy ne kockáztassa hírnevét.

Kicsit később üzenet érkezett a Wiredtől. Erőfeszítéseik során a Google Photo algoritmusainak tesztelését végezték el, különféle főemlősök több tízezer fotójának feltöltésével a szolgáltatásba. Ezek között voltak: páviánok, gibbonok, majmok, gorillák és csimpánzok. Az első három állatkategóriát helyesen azonosították, de ami a gorillákat és a csimpánzokat illeti, az azonosításuk hiányzott. A teszt során azt is megállapították, hogy a Google a rasszista lekérdezésekhez módosította az AI-t. Például a „fekete férfi” vagy „fekete nő” kifejezésre keresve fekete-fehér ruhás emberek fényképei jelentek meg nemek szerint rendezve.

A Google képviselője megerősítette a Wired által végzett, a főemlős kategóriákra vonatkozó tesztek eredményeit, és arról számolt be, hogy blokkolták őket. A képviselő szerint világossá válik, hogy a képfelismerő technológia korántsem tökéletes. A letiltott kategóriák továbbra is elérhetők a Google szolgáltatásaiban, például a Cloud Vision API-ban és a Google Assistantben.

Meglepőnek tűnhet, hogy a Google kereskedelmi óriáscég nem talált jobb megoldást erre a problémára. Ez a hiba azonban jó emlékeztetőül szolgál arra, hogy milyen nehéz megtanítani az AI-t, amikor még fejlesztés alatt áll, és még nem tesztelte szakértői testület.

Továbbra sem világos, hogy a Google mit tesz a jövőben az algoritmusok fejlesztése érdekében, mivel több mint elég hiba van bennük, és azonnali intézkedésekre van szükségük azok kiküszöbölésére.

Forrás: theverge.com