Η Google «διόρθωσε» αλγόριθμους αναγνώρισης ρατσιστικών εικόνων... απενεργοποιώντας τους

Το 2015, ο μηχανικός λογισμικού Jackie Alsin είπε στο κοινό ότι οι αλγόριθμοι αναγνώρισης εικόνων στο Google Photos λειτουργούσαν λανθασμένα και ταξινομούσαν τους Αφροαμερικανούς ως "γορίλες". Η Google, με τη σειρά της, ζήτησε συγγνώμη για τα πληγωμένα συναισθήματα των χρηστών και υποσχέθηκε να διορθώσει το σφάλμα. Αλλά στην πράξη αποδείχθηκε ότι η Google δεν έκανε τίποτα για τρία χρόνια. Η εταιρεία μόλις απενεργοποίησε τον αλγόριθμο αναγνώρισης γορίλα για να μην διακινδυνεύσει τη φήμη της.

Λίγο αργότερα ήρθε ένα μήνυμα από το Wired. Με τις προσπάθειές τους, πραγματοποιήθηκε μια δοκιμή αλγορίθμων Google Photo ανεβάζοντας στην υπηρεσία δεκάδες χιλιάδες φωτογραφίες από διάφορα πρωτεύοντα. Μεταξύ των οποίων ήταν: μπαμπουίνοι, γίβωνες, πίθηκοι, γορίλες και χιμπατζήδες. Οι τρεις πρώτες κατηγορίες ζώων αναγνωρίστηκαν σωστά, αλλά όσον αφορά τους γορίλες και τους χιμπατζήδες, η ταυτοποίησή τους έλειπε. Επίσης, κατά τη διάρκεια της δοκιμής, διαπιστώθηκε ότι η Google προσάρμοσε το AI για ρατσιστικά ερωτήματα. Για παράδειγμα, κατά την αναζήτηση για "μαύρος άνδρας" ή "μαύρη γυναίκα", εμφανίζονταν φωτογραφίες ατόμων με ασπρόμαυρα ρούχα, ταξινομημένες κατά φύλο.

Εκπρόσωπος της Google επιβεβαίωσε τα αποτελέσματα των δοκιμών που έκανε το Wired, που αφορούσαν τις κατηγορίες πρωτευόντων και ανέφερε ότι αποκλείστηκαν. Σύμφωνα με τον εκπρόσωπο, γίνεται σαφές ότι η τεχνολογία αναγνώρισης εικόνας απέχει πολύ από την τέλεια. Και οι αποκλεισμένες κατηγορίες εξακολουθούν να είναι διαθέσιμες σε υπηρεσίες Google, όπως το Cloud Vision API και το Google Assistant.

Μπορεί να φαίνεται περίεργο το γεγονός ότι ο εμπορικός κολοσσός Google δεν έχει βρει καλύτερη λύση σε αυτό το πρόβλημα. Αλλά αυτό το λάθος χρησιμεύει ως μια καλή υπενθύμιση του πόσο δύσκολο είναι να διδάξετε την τεχνητή νοημοσύνη όταν είναι ακόμα υπό ανάπτυξη και δεν έχει δοκιμαστεί από μια ομάδα ειδικών.

Παραμένει ασαφές τι θα κάνει η Google στο μέλλον για να βελτιώσει τους αλγόριθμους της, καθώς υπάρχουν περισσότερα από αρκετά ελαττώματα σε αυτούς και απαιτούν άμεσα μέτρα για την εξάλειψή τους.

Πηγή: theverge.com