En ny undersökning avslöjar att 80 % av amerikanska företag har stött på problem trots att de har implementerat fördomsövervakning eller algoritmtester.
Bild: Shutterstock / Celia Ong
Teknikföretag i USA och Storbritannien har inte gjort tillräckligt för att undvika partiskhet i artificiell intelligensalgoritmer, enligt en ny undersökning från Data Robot. Samma organisationer känner redan effekten av detta problem i form av förlorade kunder och förlorade intäkter.
DataRobot undersökte mer än 350 teknikledare baserade i USA och Storbritannien för att förstå hur organisationer identifierar och mildrar fall av AI-bias. De som svarade på undersökningen inkluderade CIO:er, CIO:er, IT-chefer, datavetare och utvecklingschefer som använder eller planerar att använda AI. Forskningen genomfördes i samarbete med World Economic Forum och akademiska ledare i världen.
I undersökningen, 36 % av de tillfrågade sa att deras organisation hade lidit på grund av uppkomsten av AI-fördomar i en eller flera algoritmer. Bland dessa företag var skadan betydande:
- 62 % förlorade intäkter
- 61 % av förlorade kunder
- 43 % av de anställda förlorade på grund av AI-bias
- 35 % ådrog sig advokatkostnader till följd av en rättegång eller rättegång
Respondenterna rapporterar att deras organisations algoritmer oavsiktligt har bidragit till ett brett spektrum av fördomar mot flera grupper av människor:
- Kön: 34 %
- Ålder: 32%
- Stroke: 29 %
- Sexuell läggning: 19 %
- Religioner: 18 %
Förutom att mäta tillståndet för AI-bias, undersökte undersökningen attityder till reglering. Överraskande nog trodde 81 % av de tillfrågade att statliga regleringar skulle vara till hjälp för att ta itu med två särskilda delar av denna utmaning: att definiera och förhindra partiskhet. Utöver det fruktar 45 % av teknikledarna att samma regler kommer att öka kostnaderna och skapa hinder för adoption. Undersökningen identifierade också en annan komplexitet av problemet: 32 % av de tillfrågade sa att de fruktade att en brist på reglering skulle skada vissa grupper av människor.
SER: 5 frågor att ställa om ditt IA- eller IoT-projekt
Emanuel de Bellis, professor vid Institutet för beteendevetenskaper och teknologier vid universitetet i St. Gallen, sa i ett pressmeddelande att EU-kommissionens förslag för reglering av AI skulle kunna lösa båda dessa problem.
“AI erbjuder otaliga möjligheter för företag och erbjuder sätt att ta itu med några av vår tids mest angelägna problem”, sa de Bellis. Samtidigt utgör AI risker och juridiska frågor, inklusive ogenomskinligt beslutsfattande (svarta lådan), diskriminering (baserad på partiska data eller algoritmer), integritetsfrågor och ansvar.
AI-biastester misslyckas
Företag är medvetna om risken för bias i algoritmer och har försökt införa vissa skyddsåtgärder. 77 procent av de tillfrågade sa att de hade ett biastest eller en AI-algoritm på plats innan de fastställde att bias ändå inträffade. Fler organisationer i USA (80 %) hade implementerat AI-biasövervakning eller algoritmtester innan biasen upptäcktes än organisationer i Storbritannien (63 %).
Samtidigt är amerikanska teknikledare mer säkra på sin förmåga att upptäcka partiskhet, med 75 % av de amerikanska svarspersonerna som säger att de kan upptäcka partiskhet, jämfört med 56 % av de tillfrågade i Storbritannien som säger detsamma.
Här är stegen som företag för närvarande vidtar för att upptäcka partiskhet:
- Verifiering av datakvalitet: 69 %
- Utbilda anställda i vad AI-bias är och hur man förhindrar det: 51 %
- Att anställa en expert på AI-bias eller etik: 51 %
- Mät AI-beslutsfaktorer: 50 %
- Övervakning av dataförändringar över tid: 47 %
- Implementering av algoritmer som upptäcker och mildrar dolda fördomar i träningsdata: 45 %
- Introduktion av förklarande AI-verktyg: 35 %
- Vidtar ingen åtgärd: 1 %
84 procent av de tillfrågade sa att deras organisationer planerar att investera mer i förebyggande initiativ för AI-bias under de kommande 12 månaderna. Enligt undersökningen kommer dessa åtgärder att innefatta att spendera mer pengar för att stödja modellstyrning, anställa fler personer för att hantera AI-förtroende, bygga mer sofistikerade AI-system och producera system. mer förklarlig AI.
