Google расисттик сүрөттөрдү таануу алгоритмдерин "оңдолгон" ... аларды өчүрүү менен

2015-жылы программалык камсыздоо боюнча инженер Жеки Алсин коомчулукка Google Фотодогу сүрөттөрдү таануу алгоритмдери туура эмес иштеп, африкалык америкалыктарды "гориллалар" катары классификациялап жатканын айткан. Google өз кезегинде колдонуучулардын көңүлүн оорутканы үчүн кечирим сурап, катаны оңдоого убада берди. Бирок иш жүзүндө Google үч жыл бою эч нерсе кылбаганы белгилүү болду. Компания өзүнүн репутациясын тобокелге салбоо үчүн горилланы таануу алгоритмин өчүрдү.

Бир аздан кийин Wiredден кабар келди. Алардын аракети менен сервиске ар кандай приматтардын он миңдеген сүрөттөрүн жүктөө аркылуу Google Фотонун алгоритмдеринин сыноосу өткөрүлдү. Алардын арасында: бабундар, гиббондор, маймылдар, гориллалар жана шимпанзелер болгон. Жаныбарлардын алгачкы үч категориясы туура аныкталган, бирок гориллалар менен шимпанзелерге келсек, алардын идентификациясы жок болгон. Ошондой эле, тесттин жүрүшүндө, Google расисттик суроолор үчүн AIны өзгөрткөнү аныкталган. Маселен, “кара киши” же “кара аял” деп издөөдө ак-кара кийинген адамдардын жынысы боюнча иреттелген сүрөттөрү коюлган.

Google компаниясынын өкүлү примат категорияларына тиешелүү Wired тарабынан жүргүзүлгөн тесттердин жыйынтыгын тастыктап, аларга бөгөт коюлганын билдирди. Өкүлдүн айтымында, сүрөттөрдү таануу технологиясы идеалдуу эмес экени айкын болуп калды. Ал эми бөгөттөлгөн категориялар Cloud Vision API жана Google Assistant сыяктуу Google кызматтарында дагы эле бар.

Коммерциялык гигант Google бул көйгөйдү жакшыраак чече албаганы таң калыштуу көрүнүшү мүмкүн. Бирок бул ката AI иштеп чыгууда жана эксперттер тобу тарабынан сынала элек кезде үйрөтүү канчалык кыйын экенин жакшы эскертип турат.

Google өзүнүн алгоритмдерин жакшыртуу үчүн келечекте эмне кылары белгисиз, анткени аларда кемчиликтер жетиштүү жана аларды жоюу үчүн токтоосуз чараларды көрүүнү талап кылат.

Dzherelo: theverge.com