Forskare skeptisk till rekryteringsrobotar
Uppdaterad 2021-04-14 | Publicerad 2021-03-07
Tanken är att AI och algoritmer ska sätta stopp för fördomar och diskriminering på arbetsmarknaden. Bland annat testas rekryteringsrobotar som ska vara helt fördomsfria. Men Uppsalaforskaren Mikael Laaksoharju är skeptisk till hur man tar till vara på utvecklingen.
– Jag tycker att man ska vara försiktig med att plocka bort människors rätt och möjlighet att fatta beslut.
AI-tekniker tar allt större plats inom många områden. Inte minst på arbetsmarknaden där krut läggs på algoritmer och artificiell intelligens för att optimera rekryteringsprocessen och göra den så rättvis som möjligt. Men algoritmer kan också riskera att cementera orättvisan, något tidningen Kollega var först med att skriva om.
Rekryteringsföretaget TNG har utvecklat Tengai som kallas världens första fördomsfria intervjurobot. Sociala AI-roboten Tengai ska vid anställningsintervjuer inte låta sig påverkas av arbetssökandes kön, etnicitet eller ålder. Förra året blev Upplands-Bro den första kommunen i världen att rekrytera personal med hjälp av roboten.
Till tidningen Kollega säger Åsa Edman Källströmer, vd för rekryteringsfirman TNG så här:
– Det finns tydliga studier som visar att man tar mycket intryck av sådant som inte är relevant för tjänsten när man rekryterar. Rekryterarna dissar eller höjer kandidater omedvetet och kan påverka den sökandes prestation. Det ligger i vår ryggmärg att göra så.
”Man reducerar människan till målvakt”
Uppsalaforskaren Mikael Laaksoharju, lektor i människa-datorinteraktion vid Uppsala universitet, menar att det finns en risk med en allt för stark tro på robotarna.
– När vi plockar in tekniska lösningar måste vi fundera på: varför? Förutom kompetens finns det mjuka värden som också är viktiga. Man ska ju arbeta med människor, kollegor. Hur ska en robot mäta det som alltid har pratats om i svenska annonser: social kompetens? Är det på det här sättet intervjun ska genomföras så kan de sökande lika gärna skriva svaren i ett frågeformulär på ett papper, säger han och fortsätter:
– I och med AI:s intåg börjar man ta bort det godtyckliga hos rekryterare. Men det här godtycket är ju också en slags beslutsfärdighet. Jag tycker att man ska vara försiktig med att plocka bort människors rätt och möjlighet att fatta beslut. Jag stör mig lite på att man reducerar människan i scenariot till en målvakt för beslut som fattas av AI eller en algoritm.
Sorterar bort kvinnor
Det finns också en risk att rekryteringsalgoritmer kan komma att fortsätta upprätthålla snedvridningar som många hoppas jobba bort med hjälp den tekniska utvecklingen. I tidningen Kollega lyfts exemplet när företagsjätten Amazon testade en algoritm som visade sig sortera bort kvinnor systematiskt och enbart lyfte vita män. Mikael Laaksoharju förklarar att algoritmer imiterar tidigare mönster och hajar vad som tidigare premierats i företaget.
– Finns det ett mönster av orättvisa är med andra ord algoritmer ingen snabblösning.
Evelina Reuterfors är medievetarstudent vid Uppsala universitet och liberal debattör. Hon anser att unga kvinnor mekaniskt sorteras bort av algoritmer vid rekrytering, något som hon skrev om i en debattartikel om i UNT i höstas. Ofta sorteras de bort redan när annonsen publiceras, förklarar hon för Aftonbladet.
– Unga kvinnor är köpkraftiga. Våra klick kostar därför mer, våra klick är mer värdefulla och dyrare. När en arbetsplatsannons publiceras vill Google och Facebook optimera antal klick per krona – och resultatet blir att man riktar sig främst till män. Helt enkelt för att det är billigare, men effekten blir att vi som klickar, alltså kvinnor, får upp färre annonser. Färre annonser som ska riktas till alla når kvinnor. Effekten blir att kvinnor nås av färre arbetsplatsannonser, särskilt när det gäller välbetalda jobb. Det får en negativ effekt på jämställdheten.
Forskaren Mikael Laaksoharju menar att människan bör vara försiktig med att sortera bort sig själv ur viktiga beslutsprocesser allt för snabbt.
– Jag tycker att AI ska designas så att det blir roligare att gå till jobbet, så att människan får mer tid till simulerande arbetsuppgifter. AI kan hjälpa till att sköta rutingrejer, scanna text. Människor kan ägna sig åt det som är vårt bidrag, vilket är att väga, värdera, fatta beslut.