Google a „reparat” algoritmii de recunoaștere a imaginilor rasiste... dezactivându-i

În 2015, inginerul de software Jackie Alsin a spus publicului că algoritmii de recunoaștere a imaginii din Google Foto funcționau incorect și îi clasifică pe afro-americani drept „gorile”. Google, la rândul său, și-a cerut scuze pentru sentimentele rănite ale utilizatorilor și a promis că va corecta eroarea. Dar, în practică, s-a dovedit că Google nu a făcut nimic timp de trei ani. Compania tocmai a dezactivat algoritmul de recunoaștere a gorilelor pentru a nu-și risca reputația.

Puțin mai târziu, a venit un mesaj de la Wired. Prin eforturile lor, a fost efectuat un test al algoritmilor Google Photo prin încărcarea în serviciu a zeci de mii de fotografii cu diferite primate. Printre care s-au numărat: babuini, giboni, maimuțe, gorile și cimpanzei. Primele trei categorii de animale au fost identificate corect, dar în ceea ce privește gorilele și cimpanzeii, identificarea acestora lipsea. De asemenea, în timpul testului, s-a constatat că Google a modificat IA pentru interogări rasiste. De exemplu, la căutarea „bărbat negru” sau „femeie neagră”, au fost afișate fotografii cu persoane în haine alb-negru, sortate după sex.

Un reprezentant al Google a confirmat rezultatele testelor făcute de Wired, care se refereau la categoriile de primate, și a raportat că acestea au fost blocate. Potrivit reprezentantului, devine clar că tehnologia de recunoaștere a imaginii este departe de a fi perfectă. Și categoriile blocate sunt încă disponibile în serviciile Google, cum ar fi Cloud Vision API și Google Assistant.

Poate părea surprinzător că gigantul comercial Google nu a venit cu o soluție mai bună la această problemă. Dar această greșeală servește ca o bună reamintire a cât de dificil este să predați AI atunci când este încă în dezvoltare și nu a fost testat de un grup de experți.

Rămâne neclar ce va face Google în viitor pentru a-și îmbunătăți algoritmii, deoarece acestea sunt mai mult decât suficiente defecte și necesită măsuri imediate pentru a le elimina.

Dzherelo: theverge.com