Google, ırkçı görüntü tanıma algoritmalarını devre dışı bırakarak "sabitledi"

2015 yılında yazılım mühendisi Jackie Alsin, halka Google Fotoğraflar'daki görüntü tanıma algoritmalarının yanlış çalıştığını ve Afrikalı Amerikalıları "goriller" olarak sınıflandırdığını söyledi. Google, buna karşılık, kullanıcıların incinmiş duygularından dolayı özür diledi ve hatayı düzeltme sözü verdi. Ancak pratikte Google'ın üç yıl boyunca hiçbir şey yapmadığı ortaya çıktı. Şirket, itibarını riske atmamak için goril tanıma algoritmasını kapattı.

Biraz sonra Wired'dan bir mesaj geldi. Çabaları sayesinde, hizmete çeşitli primatların on binlerce fotoğrafını yükleyerek Google Fotoğraf algoritmalarının bir testi yapıldı. Bunların arasında babunlar, gibonlar, maymunlar, goriller ve şempanzeler vardı. İlk üç hayvan kategorisi doğru bir şekilde tanımlandı, ancak goriller ve şempanzelere gelince, kimlikleri eksikti. Ayrıca test sırasında Google'ın yapay zekayı ırkçı sorgular için ince ayar yaptığı tespit edildi. Örneğin, "siyah adam" veya "siyah kadın" aranırken, siyah beyaz giysili kişilerin fotoğrafları cinsiyete göre sıralanmış olarak görüntüleniyordu.

Google'ın bir temsilcisi, Wired tarafından yapılan ve primat kategorileriyle ilgili yapılan testlerin sonuçlarını doğruladı ve engellendiğini bildirdi. Temsilciye göre, görüntü tanıma teknolojisinin mükemmel olmaktan uzak olduğu ortaya çıkıyor. Engellenen kategoriler, Cloud Vision API ve Google Asistan gibi Google hizmetlerinde hâlâ kullanılabilir.

Ticari devi Google'ın bu soruna daha iyi bir çözüm bulamamış olması şaşırtıcı gelebilir. Ancak bu hata, hala geliştirme aşamasındayken ve bir uzmanlar paneli tarafından test edilmediğinde yapay zekayı öğretmenin ne kadar zor olduğunu iyi bir şekilde hatırlatıyor.

Google'ın algoritmalarını geliştirmek için gelecekte ne yapacağı belirsizliğini koruyor, çünkü bunlarda fazlasıyla kusur var ve bunları ortadan kaldırmak için acil önlemler gerekiyor.

Джерело: theverge.com