谷歌“修复”种族主义图像识别算法......通过禁用它们

早在 2015 年，软件工程师 Jackie Alsin 就告诉公众，谷歌照片中的图像识别算法工作不正常，将非裔美国人归类为“大猩猩”。 反过来，谷歌为用户的感情受到伤害而道歉，并承诺纠正错误。 但事实证明，谷歌三年没有做任何事情。 该公司刚刚关闭了大猩猩识别算法，以免损害其声誉。

过了一会儿，来自连线的消息传来。 通过他们的努力，通过将数万张各种灵长类动物的照片上传到该服务，对 Google Photo 算法进行了测试。 其中包括：狒狒、长臂猿、猴子、大猩猩和黑猩猩。 前三类动物被正确识别，但大猩猩和黑猩猩的识别缺失。 此外，在测试过程中，谷歌发现针对种族主义查询调整了 AI。 例如，当搜索“黑人男性”或“黑人女性”时，会显示穿黑白衣服的人的照片，并按性别排序。

谷歌的一位代表证实了 Wired 所做的与灵长类动物类别相关的测试结果，并报告说他们被屏蔽了。 据该代表称，很明显，图像识别技术远非完美。 被屏蔽的类别在 Cloud Vision API 和 Google Assistant 等 Google 服务中仍然可用。

商业巨头谷歌没有想出更好的解决方案来解决这个问题，这似乎令人惊讶。 但这个错误很好地提醒了人们，当 AI 仍处于开发阶段且尚未经过专家小组测试时，教授 AI 是多么困难。

目前尚不清楚谷歌未来将如何改进其算法，因为它们中存在的缺陷已经足够多，需要立即采取措施消除它们。

Dzherelo： theverge.com