Googleは人種差別的な画像認識アルゴリズムを「修正」しました...それらを無効にすることにより

2015 年、ソフトウェア エンジニアのジャッキー アルシンは、Google フォトの画像認識アルゴリズムが正しく機能しておらず、アフリカ系アメリカ人を「ゴリラ」として分類していると一般に語りました。 Google は、ユーザーの傷ついた感情について謝罪し、エラーを修正することを約束しました。 しかし実際には、Google は 年間何もしなかったことが判明しました。 同社は、評判を危険にさらさないように、ゴリラ認識アルゴリズムをオフにしました。

しばらくしてWiredからメッセージが来た。 彼らの努力により、さまざまな霊長類の何万枚もの写真をサービスにアップロードすることで、Google フォト アルゴリズムのテストが実施されました。 その中には、ヒヒ、テナガザル、サル、ゴリラ、チンパンジーが含まれていました。 最初の つのカテゴリの動物は正しく識別されましたが、ゴリラとチンパンジーに関しては、それらの識別が欠落していました。 また、テスト中に、Google が人種差別的なクエリのために AI を微調整したことがわかりました。 たとえば、「黒人男性」や「黒人女性」を検索すると、白黒の服を着た人物の写真が性別ごとに表示されました。

Google の担当者は、霊長類のカテゴリに関連する Wired によるテストの結果を確認し、ブロックされたと報告しました。 代表者によると、画像認識技術が完全ではないことが明らかになりました。 また、ブロックされたカテゴリは、Cloud Vision API や Google アシスタントなどの Google サービスで引き続き利用できます。

巨大な商業企業である Google が、この問題に対するより良い解決策を思いつかなかったのは驚くべきことのように思えるかもしれません。 しかし、この間違いは、AI がまだ開発中であり、専門家の委員会によってテストされていないときに AI を教えることがいかに難しいかを思い起こさせるものです。

アルゴリズムには十分な欠陥があり、それらを排除するために早急な対策が必要であるため、アルゴリズムを改善するために Google が将来何をするかは不明のままです。

出典： theverge.com