อัลกอริธึมการรู้จำภาพเหยียดผิวของ Google "แก้ไข" ... โดยการปิดการใช้งาน

ย้อนกลับไปในปี 2015 วิศวกรซอฟต์แวร์ Jackie Alsin บอกกับสาธารณชนว่าอัลกอริทึมการจดจำภาพใน Google Photos ทำงานไม่ถูกต้องและได้จัดประเภทชาวแอฟริกันอเมริกันเป็น "กอริลลา" ในทางกลับกัน Google ขอโทษสำหรับความรู้สึกเจ็บปวดของผู้ใช้และสัญญาว่าจะแก้ไขข้อผิดพลาด แต่ในทางปฏิบัติ ปรากฏว่า Google ไม่ได้ทำอะไรเลยเป็นเวลาสามปี บริษัทเพิ่งปิดอัลกอริทึมการรู้จำกอริลลาเพื่อไม่ให้เสี่ยงต่อชื่อเสียง

หลังจากนั้นไม่นาน ข้อความก็มาจาก Wired ด้วยความพยายามของพวกเขา การทดสอบอัลกอริธึมของ Google Photo ได้ดำเนินการโดยอัปโหลดภาพถ่ายของไพรเมตต่างๆ หลายหมื่นภาพไปยังบริการ ได้แก่ ลิงบาบูน ชะนี ลิง กอริลล่า และชิมแปนซี สัตว์สามประเภทแรกได้รับการระบุอย่างถูกต้อง แต่สำหรับกอริลลาและชิมแปนซีไม่มีการระบุตัวตน นอกจากนี้ ในระหว่างการทดสอบ พบว่า Google ได้ปรับแต่ง AI สำหรับการสืบค้นข้อมูลเหยียดผิว ตัวอย่างเช่น เมื่อค้นหา "ชายผิวดำ" หรือ "หญิงผิวดำ" รูปภาพของคนในชุดขาวดำจะถูกแสดงโดยจัดเรียงตามเพศ

ตัวแทนของ Google ยืนยันผลการทดสอบที่ทำโดย Wired ซึ่งเกี่ยวข้องกับหมวดหมู่ไพรเมตและรายงานว่าถูกบล็อก จากข้อมูลของตัวแทน เป็นที่ชัดเจนว่าเทคโนโลยีการจดจำภาพยังห่างไกลจากความสมบูรณ์แบบ และหมวดหมู่ที่ถูกบล็อกยังคงมีอยู่ในบริการของ Google เช่น Cloud Vision API และ Google Assistant

อาจดูน่าประหลาดใจที่ Google ยักษ์ใหญ่ทางการค้าไม่ได้เสนอวิธีแก้ปัญหาที่ดีกว่านี้ แต่ความผิดพลาดนี้เป็นเครื่องเตือนใจที่ดีว่าการสอน AI นั้นยากเพียงใดเมื่อยังอยู่ระหว่างการพัฒนาและยังไม่ได้รับการทดสอบโดยคณะผู้เชี่ยวชาญ

ยังไม่ชัดเจนว่า Google จะทำอะไรในอนาคตเพื่อปรับปรุงอัลกอริธึม เนื่องจากมีข้อบกพร่องอยู่มากเกินพอและพวกเขาต้องการมาตรการทันทีเพื่อกำจัด

Dzherelo: theverge.com