Två affärsmän pratar på en surfplatta i en modern fabrik
getty
Eftersom vår datorprogramvara och hårdvara fortsätter att förbättras, hittar arbetsgivare nya sätt att dra fördel av dessa framsteg. Istället för att öka produktiviteten tar ny teknik, som artificiell intelligens, ytterligare roller på arbetsplatsen. Ansökningarna inkluderar medarbetarövervakning och assistans i rekryteringsprocessen.
Men användningen av ny teknik för beslut som traditionellt fattas av människor kan orsaka viss ökande smärta, inklusive oavsiktlig diskriminering. Lyckligtvis är brottsbekämpande myndigheter för medborgerliga rättigheter på arbetsplatsen, såsom US Equal Employment Opportunity Commission (EEOC) och US Department of Justice’s Civil Rights Division (DOJ), medvetna om detta potentiella problem och har vidtagit åtgärder för att ta itu med det.
Hur arbetsgivare använder ny teknik på arbetsplatsen
Det finns två huvudområden där arbetsgivare använder teknik på ett sätt som kan leda till olaglig diskriminering. För det första handlar det om att övervaka de anställdas produktivitetsnivåer och mäta deras prestationer. För det andra när man fattar rekryteringsbeslut.
Användningen av mjukvara, artificiell intelligens och algoritmer för att öka effektiviteten i rekryteringsprocessen kan vara det största exemplet på företag som försöker få ut det mesta av ny teknik. Men för att spara tid, pengar och ansträngning kan de som söker vissa jobb i denna sökning hamna i en orättvis och olaglig nackdel.
Hur avancerad teknik av misstag kan diskriminera på arbetsplatsen
När det gäller övervakning av anställda (och åsidosättande av potentiella juridiska frågor) finns det situationer där målet att identifiera de mest produktiva medarbetarna kan resultera i ett brott mot 1990 års American Disability Act (ADA).
Till exempel kan en arbetsgivare ha programvara som spårar en anställds tangenttryckningar eller slutförda datoruppgifter under en tidsperiod. Men vad händer om medarbetaren har en ADA-erkänd funktionsnedsättning som gör det svårt att skriva eller använda en traditionell mus?
För att hantera detta problem kan de ha tillgång till en rimlig distribution, såsom ett röstigenkänningsprogram eller någon annan inmatningsenhet. Om övervakningsprogrammet inte tar hänsyn till dessa platser kan en anställd med funktionsnedsättning bli orättvist bedömd av övervakningsprogrammet. Denna bristfälliga bedömning ignorerar den anställdes förmåga att utföra sina arbetsuppgifter perfekt under acceptabla förhållanden. En arbetsgivare som är medveten om detta scenario kan undvika denna situation genom att använda olika metoder för att kontrollera eller bedöma de anställdas produktivitetsnivåer. Men tricket är att veta att ett sådant scenario kan inträffa.
När det kommer till teknik som diskriminerar rekrytering finns det många möjliga fallgropar för en slarvig arbetsgivare. Några exempel inkluderar:
- Programvara och algoritmer som skannar sökandes CV:n efter specifika nyckelord.
- Teknik för ansikts- och röstigenkänning som utvärderar arbetssökande efter deras talstil och ansiktsuttryck.
- Be potentiella anställda att göra ett självutvärderingstest för att fastställa deras identitet och lämplighet för en viss position.
- Använd chatbots eller virtuella assistenter för att ställa grundläggande frågor till arbetssökande om deras specialiteter.
- Potentiella rekryter måste göra ett datorbaserat prov innan de anställs.
Dessa verkar ofarliga, och i de flesta fall är de det. Hur kunde de diskriminera? I exempel 1 kan en person som utvecklar algoritmer och mjukvara omedvetet programmera teknik för att ge speciell preferens åt könsbaserade ord. Detta kan ge företräde åt CV:n av ett visst kön eller kön i urvalsprocessen.
I exempel 2 kan programvara och algoritmer fokusera på kandidater som talar på ett visst sätt eller använder vissa ord. Men de med accenter, unika talmönster eller talstörningar kan straffas med teknik. Detta kan leda till olaglig diskriminering på grund av ens ras, hudfärg, nationella ursprung eller funktionshinder.
Till exempel kan en kandidat med svår depression diskvalificeras för sin “identitet” även om hans eller hennes svar är resultatet av en psykisk störning som erkänns av ADA.
Till exempel # 4, föreställ dig en chatbot som frågar sökande ja eller nej-frågor om deras arbetshistorik. Och en av frågorna är om de någonsin kommer att få sparken “av en anledning.” Den sökande vill svara rätt och har försiktigt fel när han svarar “ja”. Men detta svar leder automatiskt till att de avskedas. Chatboten tillät dock inte sökanden att förklara att skälet till deras uppsägning senare visade sig vara olagligt, eftersom det berodde på sökandens ålder.
I det femte exemplet kanske själva testet inte är diskriminerande. Men om det ges på ett sätt som gör vissa sökande ogynnsamma på grund av det skyddade inslaget kan det vara olagligt.
En hypotetisk situation kan vara ett lämplighetstest som måste genomföras på en dator på arbetsgivarens kontor och mäta kandidatens skrivförmåga. Men förmågan att se en kandidat är svag. Även om de kan skriva på ett vanligt tangentbord, är deras skrivkunskaper inte lika bra som när de använder vilket punkttangentbord som helst.
Vad kan arbetsgivare göra för att förhindra teknikdiskriminering?
Det största arbetsgivare kan göra är att vara medvetna om de potentiella utmaningarna med ny teknik. Och trots de bästa avsikterna kan diskriminering fortfarande ske.
I de flesta fall försöker inte arbetsgivare som använder teknik att diskriminera. Däremot kanske de inte är medvetna om hur användningen av deras teknik leder till att lovande sökande och framgångsrika anställda avskedas på grund av skyddade funktioner.
Olika statliga myndigheter har publicerat juridiska och tekniska riktlinjer för att öka medvetenheten bland arbetsgivare. De är utformade för att ge råd till arbetsgivare om vad de ska leta efter när de tillämpar ny programvara, algoritmer och artificiell teknik på arbetsplatsen.
EEOC och DOJ har släppt två nya utgåvor om Americans with Disabilities Act och Software, Algoritmer och artificiell intelligens för bedömning av arbetsgivare och anställda, respektive om algoritmer, artificiell intelligens och diskriminering av funktionshinder. Dessa fokuserar på diskriminering av funktionshinder, men är förmodligen bara början.
US Department of Labor (DOL) kommer sannolikt att publicera sina juridiska riktlinjer för arbetsgivare. Det kommer sedan att instrueras att arbetsgivarens användning av tekniken kan vara diskriminerande i strid med andra federala lagar, såsom artikel VII (kapitel VII) i 1964 års Civil Rights Act.
Slutsats
Ny teknik kan hjälpa arbetsgivare att hitta nya sätt att få jobbet gjort. Men om de inte är försiktiga kan detta leda till oavsiktlig diskriminering av anställda och sökande. Federala myndigheter som ansvarar för att upprätthålla medborgerliga rättigheter på arbetsplatsen vidtar redan åtgärder för att hjälpa arbetsgivare att undvika dessa misstag.
