En före detta Uber Eats-förare har lämnat in en stämningsansökan mot matleveransföretaget och hävdar att han fick sparken på ett orättvist sätt på grund av företagets “rasistiska” mjukvara för ansiktsigenkänning.
Uber Eats-förare måste ta en selfie innan de påbörjar ett skift för att verifiera sin identitet. Pa Edrisa Manjang sa dock att Uber Eats-appen sa åt honom att ta flera selfies om dagen eftersom programvaran av misstag trodde att han var någon annan.
“Din algoritm verkar vara rasistisk”, sa Manjang, som är svart.
På onsdagen avslog en arbetsdomstol Ubers begäran om att avvisa diskrimineringsanspråket, vilket innebär att fallet kommer att gå vidare till en fullständig förhandling.
Det säger en talesperson för Uber UKTN att “automatisk ansiktsverifiering inte var orsaken till Mr. Manjangs tillfälliga förlust av åtkomst till hans kurirkonto.”
Talesmannen tillade att Uber Eats ID-verifiering i realtid används för säkerhets- och säkerhetssyften.
“Systemet inkluderar robust mänsklig granskning för att säkerställa att vi inte fattar beslut om någons försörjning i ett vakuum, utan tillsyn”, sade talesmannen.
Manjang sa vidare vakt att Uber inte “värderar” eller “respekterar” sina leveransförare och att de agerar på ett “aggressivt sätt”.
“Så som ett resultat, för de människor som arbetar för dem är vi bara siffror,” sa Manjang.
AI-bias
Det här är inte första gången Uber har ställts inför anklagelser om att dess ansiktsigenkänningsprogram är rasistiskt partisk. I oktober förra året lämnade Abiodun Ogunyemi in ett mål till arbetsdomstolen efter att Ubers automatiska ansiktsskanningsprogram inte kände igen honom, vilket ledde till att han fick sparken.
Experter på artificiell intelligens säger att ansiktsigenkänningssystem i allmänhet inte är lika exakta när det gäller att identifiera personer med etnisk minoritetsbakgrund. De säger att detta ofta beror på att data som används för att träna algoritmen tenderar att vara snedställd mot vita män, vilket gör programvaran mer exakt när det gäller att identifiera personer från den demografin än andra.
Uber är inte det enda företaget som står inför rättsliga frågor om sin användning av ansiktsigenkänningsteknik. Big Brother Watch lämnade i går in ett klagomål mot Southern Co-op angående användningen av tekniken i 35 av dess butiker.
Clearview AI fick böter på 7,5 miljoner pund av Information Commissioner’s Office (ICO) tidigare i år för olaglig skörd av miljarder bilder. Det är en ICO som för närvarande undersöker om AI har rasfördom.
Detta sker i en tid då användningen av digitala ID-appar gradvis ökar över hela landet. Vissa biografer har börjat acceptera digitala ID som en metod för att bevisa ålder.
