Гүүгл арьс өнгөөр ​​ялгаварлан гадуурхсан дүрсийг таних алгоритмуудыг ... идэвхгүй болгосноор "зассан"

2015 онд программ хангамжийн инженер Жеки Алсин олон нийтэд хандаж, Google Photos дээрх дүрсийг таних алгоритмууд буруу ажиллаж, Африк гаралтай америкчуудыг "горилла" гэж ангилж байна гэж хэлж байсан. Google нь эргээд хэрэглэгчдийнхээ гомдсон сэтгэлд уучлалт гуйж, алдаагаа засахаа амлав. Гэвч бодит байдал дээр Google гурван жилийн турш юу ч хийгээгүй нь тодорхой болсон. Тус компани нэр хүндээ эрсдэлд оруулахгүйн тулд зүгээр л горилла таних алгоритмыг унтраасан.

Хэсэг хугацааны дараа Wired-ээс мессеж ирлээ. Тэдний хүчин чармайлтаар янз бүрийн приматуудын хэдэн арван мянган зургийг уг үйлчилгээнд байршуулж Google Photo алгоритмын туршилт хийсэн. Үүнд: бабуун, гиббон, сармагчин, горилла, шимпанзе. Эхний гурван ангиллын амьтдыг зөв тодорхойлсон боловч горилла, шимпанзегийн хувьд тэдний таних тэмдэг байхгүй байв. Түүнчлэн туршилтын явцад Google арьс өнгөөр ​​​​ялгаварлан гадуурхах асуултуудад зориулж хиймэл оюун ухааныг өөрчилсөн нь тогтоогджээ. Тухайлбал, "хар хүн" эсвэл "хар эмэгтэй" гэж хайхад хар, цагаан хувцастай хүмүүсийн зургийг хүйсээр нь ангилдаг.

Google-ийн төлөөлөгч Примат ангилалд хамаарах Wired-ийн хийсэн туршилтын үр дүнг баталж, тэдгээрийг хаасан гэж мэдэгдэв. Төлөөлөгчийн хэлснээр, дүрсийг таних технологи төгс биш гэдэг нь тодорхой болж байна. Мөн блоклогдсон категориуд нь Cloud Vision API болон Google Assistant зэрэг Google-н үйлчилгээнүүдэд боломжтой хэвээр байна.

Арилжааны аварга Google компани энэ асуудлыг шийдэх илүү сайн шийдэл олоогүй нь гайхмаар санагдаж магадгүй юм. Гэхдээ энэ алдаа нь хиймэл оюун ухаан хөгжиж байгаа бөгөөд мэргэжилтнүүдийн баг туршиж үзээгүй байхад заах нь хичнээн хэцүү болохыг сайн сануулж байна.

Google алгоритмуудаа сайжруулахын тулд ирээдүйд юу хийх нь тодорхойгүй хэвээр байна, учир нь тэдгээрт хангалттай олон дутагдал байгаа бөгөөд тэдгээрийг арилгахын тулд яаралтай арга хэмжээ авах шаардлагатай байна.

Джерело: theverge.com