Google "memperbaiki" algoritme pengenalan gambar rasis ... dengan menonaktifkannya

Kembali pada tahun 2015, insinyur perangkat lunak Jackie Alsin mengatakan kepada publik bahwa algoritme pengenalan gambar di Foto Google tidak berfungsi dengan benar dan mengklasifikasikan orang Afrika-Amerika sebagai "gorila". Google, pada gilirannya, meminta maaf atas perasaan sakit hati pengguna dan berjanji untuk memperbaiki kesalahan tersebut. Namun dalam praktiknya ternyata Google tidak melakukan apa-apa selama tiga tahun. Perusahaan baru saja mematikan algoritma pengenalan gorila agar tidak mempertaruhkan reputasinya.

Beberapa saat kemudian, sebuah pesan datang dari Wired. Melalui upaya mereka, dilakukan pengujian algoritme Foto Google dengan mengunggah puluhan ribu foto berbagai primata ke layanan tersebut. Diantaranya adalah: babon, owa, monyet, gorila, dan simpanse. Tiga kategori hewan pertama diidentifikasi dengan benar, tetapi untuk gorila dan simpanse, identifikasi mereka hilang. Selain itu, selama pengujian, ditemukan bahwa Google mengubah AI untuk pertanyaan rasis. Misalnya, saat menelusuri "pria kulit hitam" atau "wanita kulit hitam", ditampilkan foto orang berpakaian hitam putih, diurutkan berdasarkan jenis kelamin.

Perwakilan Google mengkonfirmasi hasil tes yang dilakukan oleh Wired, yang terkait dengan kategori primata, dan melaporkan bahwa mereka diblokir. Menurut perwakilan tersebut, jelas bahwa teknologi pengenalan gambar jauh dari sempurna. Dan kategori yang diblokir masih tersedia di layanan Google seperti Cloud Vision API dan Google Assistant.

Tampaknya mengejutkan bahwa raksasa komersial Google belum menemukan solusi yang lebih baik untuk masalah ini. Namun kesalahan ini berfungsi sebagai pengingat yang baik tentang betapa sulitnya mengajarkan AI saat masih dalam pengembangan dan belum diuji oleh panel ahli.

Masih belum jelas apa yang akan dilakukan Google di masa depan untuk meningkatkan algoritmenya, karena ada lebih dari cukup kekurangan di dalamnya dan memerlukan tindakan segera untuk menghilangkannya.

Sumber: theverge.com