Google đã "sửa chữa" các thuật toán nhận dạng hình ảnh phân biệt chủng tộc ... bằng cách vô hiệu hóa chúng

Trở lại năm 2015, kỹ sư phần mềm Jackie Alsin nói với công chúng rằng các thuật toán nhận dạng hình ảnh trong Google Photos đang hoạt động không chính xác và đang phân loại người Mỹ gốc Phi là "khỉ đột". Đến lượt mình, Google đã xin lỗi về những cảm xúc bị tổn thương của người dùng và hứa sẽ sửa lỗi. Nhưng trên thực tế, hóa ra Google đã không làm gì trong ba năm. Công ty vừa tắt thuật toán nhận dạng khỉ đột để không gây rủi ro cho danh tiếng của mình.

Một lúc sau, một tin nhắn đến từ Wired. Thông qua những nỗ lực của họ, một bài kiểm tra các thuật toán Google Photo đã được thực hiện bằng cách tải lên dịch vụ hàng chục nghìn bức ảnh về các loài linh trưởng khác nhau. Trong số đó có: khỉ đầu chó, vượn, khỉ, khỉ đột và tinh tinh. Ba loại động vật đầu tiên đã được xác định chính xác, nhưng đối với khỉ đột và tinh tinh, thông tin nhận dạng của chúng bị thiếu. Ngoài ra, trong quá trình thử nghiệm, người ta thấy rằng Google đã điều chỉnh AI cho các truy vấn phân biệt chủng tộc. Ví dụ: khi tìm kiếm "người đàn ông da đen" hoặc "phụ nữ da đen", ảnh của những người mặc quần áo đen trắng được hiển thị, được sắp xếp theo giới tính.

Một đại diện của Google đã xác nhận kết quả của các bài kiểm tra do Wired thực hiện, liên quan đến các danh mục linh trưởng và báo cáo rằng chúng đã bị chặn. Theo vị đại diện, rõ ràng là công nghệ nhận dạng hình ảnh còn lâu mới hoàn hảo. Và các danh mục bị chặn vẫn có sẵn trong các dịch vụ của Google như API Cloud Vision và Trợ lý Google.

Có vẻ như đáng ngạc nhiên khi gã khổng lồ thương mại Google đã không đưa ra giải pháp tốt hơn cho vấn đề này. Nhưng sai lầm này như một lời nhắc nhở tốt về việc dạy AI khó như thế nào khi nó vẫn đang trong quá trình phát triển và chưa được kiểm tra bởi một hội đồng chuyên gia.

Vẫn chưa rõ Google sẽ làm gì trong tương lai để cải thiện các thuật toán của mình, vì có quá đủ các lỗ hổng trong đó và họ yêu cầu các biện pháp ngay lập tức để loại bỏ chúng.

Đại ca: theverge.com