გუგლმა „გაასწორა“ რასისტული გამოსახულების ამოცნობის ალგორითმები... მათი გამორთვით

ჯერ კიდევ 2015 წელს პროგრამული უზრუნველყოფის ინჟინერმა ჯეკი ალსინმა საზოგადოებას განუცხადა, რომ Google Photos-ში გამოსახულების ამოცნობის ალგორითმები არასწორად მუშაობდა და აფროამერიკელებს „გორილებად“ ახარისხებდა. გუგლმა, თავის მხრივ, ბოდიში მოიხადა მომხმარებლების ტკივილის გამო და შეცდომის გამოსწორებას დაჰპირდა. მაგრამ პრაქტიკაში აღმოჩნდა, რომ Google-მა არაფერი გააკეთა სამი წლის განმავლობაში. კომპანიამ უბრალოდ გამორთო გორილების ამოცნობის ალგორითმი, რათა არ დაემუქროს მისი რეპუტაცია.

ცოტა მოგვიანებით, მესიჯი მოვიდა Wired-დან. მათი ძალისხმევით ჩატარდა Google Photo ალგორითმების ტესტირება სხვადასხვა პრიმატების ათიათასობით ფოტო სერვისში ატვირთვით. მათ შორის იყვნენ: ბაბუნები, გიბონები, მაიმუნები, გორილები და შიმპანზეები. ცხოველთა პირველი სამი კატეგორიის იდენტიფიცირებული იყო სწორად, მაგრამ რაც შეეხება გორილებსა და შიმპანზეებს, მათი იდენტიფიკაცია არ იყო. ასევე, ტესტის დროს აღმოჩნდა, რომ Google-მა შეცვალა ხელოვნური ინტელექტი რასისტული შეკითხვებისთვის. მაგალითად, „შავკანიანი კაცის“ ან „შავკანიანი ქალის“ ძებნისას აჩვენეს შავ-თეთრ ტანსაცმელში გამოწყობილი ადამიანების ფოტოები, დალაგებული სქესის მიხედვით.

Google-ის წარმომადგენელმა დაადასტურა Wired-ის მიერ ჩატარებული ტესტების შედეგები, რომლებიც ეხებოდა პრიმატების კატეგორიებს და აცნობა, რომ ისინი დაბლოკილია. წარმომადგენლის თქმით, ირკვევა, რომ გამოსახულების ამოცნობის ტექნოლოგია შორს არის სრულყოფილი. და დაბლოკილი კატეგორიები კვლავ ხელმისაწვდომია Google სერვისებში, როგორიცაა Cloud Vision API და Google Assistant.

შეიძლება გასაკვირი ჩანდეს, რომ კომერციულმა გიგანტმა Google-მა ამ პრობლემის უკეთესი გადაწყვეტა არ მოიფიქრა. მაგრამ ეს შეცდომა კარგი შეხსენებაა იმისა, თუ რამდენად რთულია ხელოვნური ინტელექტის სწავლება, როდესაც ის ჯერ კიდევ დამუშავების პროცესშია და არ არის გამოცდილი ექსპერტთა ჯგუფის მიერ.

გაურკვეველი რჩება, რას გააკეთებს Google მომავალში თავისი ალგორითმების გასაუმჯობესებლად, ვინაიდან მათში საკმარისზე მეტი ხარვეზებია და მათ აღმოსაფხვრელად სასწრაფო ზომების მიღებაა საჭირო.

ძერლო: theverge.com