Künstliche Intelligenz ist keine einfache Sache, und selbst in Unternehmen mit langjähriger Entwicklungserfahrung auf diesem Gebiet können damit Probleme auftreten. Es passierte auch mit Amazon. Wie die Nachrichtenagentur Reuters berichtet: „Das Unternehmen musste ein Projekt aufgeben, das auf KI basiert und automatisch Personal auswählt. Sein Hauptproblem ist die Unterdrückung von Frauen."
Ein gescheitertes Experiment von Amazon
In den meisten Fällen erfolgt das KI-Training durch die Analyse historischer Daten. Ihr häufiges Problem ist die Erfüllung von Aufgaben auf der Grundlage von „Vorurteilen“. In diesem Fall war das „Vorurteil“ eine erhebliche Anzahl von Männern, die im IT-Bereich arbeiten. Die Software hat einen Algorithmus entwickelt, der Fragebögen einordnet, die Frauenhochschulen auflisten und die das Wort "Frauen" auf den letzten Plätzen der Bewertung enthalten.
Lesen Sie auch: Amazon bringt Echo Wall Clock mit Unterstützung für den Sprachassistenten Alexa auf den Markt
"Das Entwicklungsteam hat versucht, ein Programm zu entwickeln, das aus 100 eingereichten Bewerbungen nach bestimmten Kriterien die besten 5 auswählt." - berichtet eine ungenannte Quelle.
Lesen Sie auch: Amazon präsentiert den aktualisierten Smart Speaker Echo Show mit großem 10-Zoll-Display
Als das Unternehmen feststellte, dass das Programm Ergebnisse basierend auf geschlechtsspezifischen Unterschieden lieferte, beschloss es, die KI-Algorithmen zu optimieren. Der Ruf des Projekts wurde jedoch untergraben. Darüber hinaus gab es keine Garantie dafür, dass es keine anderen „Voreingenommenheiten“ im Programm gab. Daher beschloss Amazon, ohne lange nachzudenken, das Projekt bis zu besseren Zeiten abzudecken.
Wir können nur hoffen, dass das Projekt korrigiert wird und die Benutzer weiterhin mit ehrlichen Ergebnissen zufrieden sind.
Quelle: theverge