Google "izlaboja" rasistiskus attēlu atpazīšanas algoritmus... tos atspējojot

Vēl 2015. gadā programmatūras inženieris Džekijs Alsins paziņoja sabiedrībai, ka attēlu atpazīšanas algoritmi pakalpojumā Google fotoattēli darbojas nepareizi un klasificē afroamerikāņus kā "gorillas". Savukārt Google atvainojās par lietotāju aizvainotajām sajūtām un solīja kļūdu labot. Taču praksē izrādījās, ka Google trīs gadus neko nedarīja. Uzņēmums tikko izslēdza gorillu atpazīšanas algoritmu, lai neriskētu ar savu reputāciju.

Nedaudz vēlāk pienāca ziņa no Wired. Pateicoties viņu pūlēm, tika veikta Google Photo algoritmu pārbaude, pakalpojumā augšupielādējot desmitiem tūkstošu dažādu primātu fotoattēlu. Starp tiem bija: paviāni, giboni, pērtiķi, gorillas un šimpanzes. Pirmās trīs dzīvnieku kategorijas tika identificētas pareizi, bet attiecībā uz gorillām un šimpanzēm to identifikācijas nebija. Pārbaudes laikā arī tika konstatēts, ka Google pielāgoja AI rasistiskiem vaicājumiem. Piemēram, meklējot “melns vīrietis” vai “melnā sieviete”, tika rādītas melnbaltās drēbēs tērptu cilvēku fotogrāfijas, sakārtotas pēc dzimuma.

Google pārstāvis apstiprināja Wired veikto testu rezultātus, kas attiecās uz primātu kategorijām, un ziņoja, ka tie ir bloķēti. Pēc pārstāves teiktā, kļūst skaidrs, ka attēlu atpazīšanas tehnoloģija nebūt nav perfekta. Un bloķētās kategorijas joprojām ir pieejamas Google pakalpojumos, piemēram, Cloud Vision API un Google Assistant.

Var šķist pārsteidzoši, ka komerciālais gigants Google nav nācis klajā ar labāku šīs problēmas risinājumu. Taču šī kļūda kalpo kā labs atgādinājums par to, cik grūti ir mācīt AI, kad tas vēl ir izstrādes stadijā un to nav pārbaudījusi ekspertu grupa.

Joprojām nav skaidrs, ko Google darīs turpmāk, lai uzlabotu savus algoritmus, jo tajos ir vairāk nekā pietiekami daudz trūkumu, un to novēršanai ir nepieciešami tūlītēji pasākumi.

Dzherelo: theverge.com