Kunstig intelligens er ikke en nem ting, og problemer med det kan opstå selv i virksomheder med stor udviklingserfaring på dette område. Det skete også med Amazon. Som rapporteret af nyhedsbureauet Reuters: "Virksomheden måtte opgive et projekt baseret på AI, der automatisk valgte personale. Hans hovedproblem er undertrykkelse af kvinder."
I de fleste tilfælde udføres AI-træning ved at analysere historiske data. Deres hyppige problem er udførelsen af opgaver baseret på "forforståelser". I dette tilfælde var "fordommen" et betydeligt antal mænd, der arbejdede på it-området. Softwaren har udviklet en algoritme, der rangerer spørgeskemaer, der viser kvinders colleges, og som indeholder ordet "kvinder" på de sidste pladser i vurderingen.
Læs også: Amazon lancerer Echo Wall Clock med understøttelse af Alexa stemmeassistent
"Udviklingsteamet forsøgte at udvikle et program, der ud af 100 indsendte ansøgninger udvælger de 5 bedste efter bestemte kriterier." - rapporterer en unavngiven kilde.
Læs også: Amazon præsenterer den opdaterede Echo Show-smarthøjttaler med en stor 10-tommer skærm
Da virksomheden indså, at programmet gav resultater baseret på kønsforskelle, besluttede det at justere AI-algoritmerne. Projektets omdømme blev dog undermineret. Derudover var der ingen garantier for, at der ikke var andre "biases" i programmet. Derfor besluttede Amazon uden at tænke længe at dække projektet indtil bedre tider.
Vi kan kun håbe, at projektet bliver rettet og vil fortsætte med at glæde brugerne med ærlige resultater.
Kilde: Randen
Giv en kommentar