AI-drevne jobrekruteringsværktøjer forbedrer muligvis ikke ansættelsesdiversiteten, hævder eksperter

Topline

Jobrekrutteringsværktøjer, der hævder at bruge kunstig intelligens til at undgå køns- og racemæssige skævheder, forbedrer muligvis ikke mangfoldigheden i forbindelse med ansættelser, og de kan faktisk fastholde disse fordomme, argumenterede forskere fra University of Cambridge søndag, der castede programmerne - som tidligere har fået kritik - som en måde at bruge teknologi til at tilbyde en hurtig løsning på et dybere problem.

Fakta

Afgørende citat

"Ved at påstå, at racisme, sexisme og andre former for diskrimination kan fjernes fra ansættelsesprocessen ved hjælp af kunstig intelligens, reducerer disse virksomheder race og køn til ubetydelige datapunkter, snarere end magtsystemer, der former, hvordan vi bevæger os gennem verden, " sagde Drage i en erklæring.

Tangent

Amazon annoncerede i 2018, at det ville stoppe ved at bruge et AI-rekrutteringsværktøj til at gennemgå jobansøgeres CV'er, efter at det fandt ud af, at systemet var stærkt diskriminerende mod kvinder. Dette skyldes, at de computermodeller, som den stolede på, blev udviklet baseret på CV'er indsendt til virksomheden i løbet af de seneste 10 år, som for det meste kom fra mandlige ansøgere.

Nøglebaggrund

Organisationer har i stigende grad henvendt sig til AI for at hjælpe med at styre jobrekrutteringsprocessen. I en 2020 afstemning af mere end 300 ledere af menneskelige ressourcer, citeret af forfatterne til søndagens papir, fandt konsulentfirmaet Gartner, at 86 % af arbejdsgiverne bruger virtuel teknologi i deres ansættelsespraksis, en tendens, der er accelereret siden Covid-19-pandemien tvang mange til at skifte arbejde online. Mens nogle virksomheder har hævdet, at AI kan tilbyde en mere omkostnings- og tidseffektiv ansættelsesproces, er nogle eksperter have fundet systemerne har en tendens til at fremme – i stedet for at eliminere – race- og kønsbaserede ansættelser ved at kopiere eksisterende fordomme fra den virkelige verden. Det har flere amerikanske lovgivere Rettet at tackle skævheder i kunstige intelligenssystemer, da teknologien fortsætter med at udvikle sig hurtigt, og der findes få love til at regulere det. Det Hvide Hus frigivet i denne uge en "Blueprint for an AI Bill of Rights", som hævder, at algoritmer, der bruges til at ansætte, har vist sig at "afspejle og reproducere eksisterende uønskede uligheder" eller indlejre ny "bias og diskrimination." Planen – som ikke er juridisk bindende eller en officiel regeringspolitik – opfordrer virksomheder til at sikre, at kunstig intelligens ikke diskriminerer eller krænker databeskyttelse, og til at gøre brugerne opmærksomme på, hvornår teknologien bliver brugt.

Hvad skal man se på

I en liste over anbefalinger, forfatterne af søndagens Filosofi og teknologi Paper foreslog, at virksomheder, der udvikler AI-teknologier, fokuserer på bredere, systematiske uligheder i stedet for "individualiserede tilfælde af bias." For eksempel foreslår de, at softwareudviklere undersøger de kategorier, der bruges til at sortere, behandle og kategorisere kandidater, og hvordan disse kategorier kan fremme diskrimination ved at stole på visse antagelser om køn og race. Forskere hævder også, at HR-professionelle bør forsøge at forstå, hvordan AI-rekrutteringsværktøjer fungerer, og hvad nogle af deres potentielle begrænsninger er.

Overraskende fakta

Den Europæiske Union har klassificeret AI-drevet ansættelsessoftware og præstationsevalueringsværktøjer som "høj risiko" i sin nye udkast juridiske rammer for kunstig intelligens, hvilket betyder, at værktøjerne vil blive underkastet mere kontrol og skulle opfylde visse overholdelseskrav.

Yderligere læsning

DC ønsker at lede kampen mod AI-bias (Axios)