Yapay zeka kolay bir şey değildir ve bu alanda engin geliştirme deneyimine sahip şirketlerde bile onunla ilgili sorunlar ortaya çıkabilir. ile de oldu Amazon. Reuters haber ajansının bildirdiği üzere: “Şirket, personeli otomatik olarak seçen yapay zekaya dayalı bir projeden vazgeçmek zorunda kaldı. Onun asıl sorunu kadınlara yönelik baskıdır."
Amazon'dan başarısız bir deney
Çoğu durumda yapay zeka eğitimi, geçmiş verileri analiz ederek yapılır. Sıklıkla karşılaştıkları sorun, "önyargılara" dayalı görevlerin yerine getirilmesidir. Bu durumda, bilişim alanında çalışan erkeklerin önemli bir kısmı “önyargı” oldu. Yazılım, kadın kolejlerini listeleyen ve derecelendirmede son sıralarda "kadın" kelimesini içeren anketleri sıralayan bir algoritma geliştirdi.
Ayrıca okuyun: Amazon, Alexa sesli asistan desteğiyle Echo Duvar Saatini başlattı
"Geliştirme ekibi, gönderilen 100 başvuru arasından belirli kriterlere göre en iyi 5'i seçen bir program geliştirmeye çalıştı." - isimsiz bir kaynak bildiriyor.
Ayrıca okuyun: Amazon, 10 inçlik geniş bir ekrana sahip güncellenmiş Echo Show akıllı hoparlörünü sunuyor
Şirket, programın cinsiyet farklılıklarına dayalı sonuçlar verdiğini fark edince yapay zeka algoritmalarında ince ayar yapmaya karar verdi. Ancak, projenin itibarı baltalandı. Ayrıca programda başka "önyargılar" olmadığına dair hiçbir garanti yoktu. Bu nedenle Amazon, fazla düşünmeden projeyi daha iyi zamanlara kadar kapsamaya karar verdi.
Sadece projenin düzeltileceğini ve kullanıcıları dürüst sonuçlarla memnun etmeye devam edeceğini umabiliriz.
Джерело: sınır