Kunstig intelligens kan hindre diskriminering

Fairsight er en norsk oppstartsbedrift som utvikler løsninger  for å gjøre rekrutteringsprosessen mer rettferdig ved hjelp av kunstig intelligens. De har blant annet utviklet en plattform som distribuerer tester som kan brukes til rekruttering. Disse testene består av ulike typer personlighetstester og resonneringstester.

— Målet vårt er å redusere usaklig forskjellsbehandling i hele rekrutteringsprosessen, sier Fredrik Asmaro.

Et av verktøyene de selger bruker maskinlæring til å varsle rekruttere om hvilke konsekvenser valgene deres har i rekrutteringsprosesser.

Han forteller at de analyserer prosessene svært nøye ved hjelp av en såkalt «real-time-bias-tracker», kalt The Equalizer. Dette er et KI-system som måler risikoen for diskriminering i ulike beslutninger. Den vurderer kontinuerlig om valgene man tar i en rekrutteringsprosess potensielt kan føre til diskriminerende utfall.

Capus er en etablert rekrutteringsbedrift som bruker både tradisjonelle og innovative metoder for å finne riktige kandidater. I tillegg til å drive med tradisjonell rekruttering, har de også omfavnet KI-teknologien i underselskapet CapusX. Bjørn Gjølme er daglig leder i Capus. Han har jobbet lenge i rekrutteringsbransjen, og har fulgt nøye med på utviklingen innen feltet.

— Nå sitter for eksempel de fleste jobbsøkere med mobilen i hånda mesteparten av tiden, og da må vi som rekrutterere være der på de riktige plattformene for å hente inn kandidater, sier Gjølme.

Gjølme har satt i gang en gruppe som utvikler retningslinjer for KI, med arbeidstittelen Spinning Jenny. Han sammenligner dermed inntoget av KI med inntoget av vevstolen Spinning Jenny på slutten av 1700-tallet. Vevstolen sies å ha vært starten på den industrielle revolusjon.

Capus bruker løsninger fra Fairsight i sine rekrutteringsprosesser for å finne de kandidatene som er best kvalifiserte for en stilling.

— Fairsight har samme syn på rettferdighet som oss, og vi bruker deres tester med de som vi allerede har valgt ut som kvalifiserte, sier Gjølme.

Gjølme mener at en prosess er rettferdig dersom alle kandidater som er kvalifiserte får være med i prosessen. Han er likevel varsom med å bruke maskinlæringsalgoritmer dersom det er manglende innsikt i hvordan systemet fungerer.

— Vi er veldig forsiktige med maskinlæringsalgoritmer. Hvis vi ikke kan forklare hva som skjedde, så kan vi ikke bruke det. Jeg må kunne forklare hva som skjedde, fastslår Gjølme.

Dette indikerer at Gjølme er generelt skeptisk til maskinlæringsprodukter, men ikke til Fairsights produkter på grunn av at de er bygget på et felles verdigrunnlag.

Gjølme sier at Capus aldri vil bruke en maskin til å plukke ut et menneske. Det er for å beholde menneskelig innflytelse og dømmekraft i rekrutteringsprosessen. Han trekker frem det amerikanske selskapet Hirevue, hvor en kandidat ble både ansatt og sagt opp via en maskin, som et eksempel på noe han absolutt ikke ønsker.

— Det er en kjerneverdi at det til syvende og sist alltid er mennesker som er med på disse avgjørelsene, sier Gjølme.

Asmaro i Fairsight påpeker at det er nødvendig å ha et kontinuerlig fokus på å unngå diskriminering gjennom hele rekrutteringsprosessen. Selv om man kan bruke teknologi for å fjerne diskriminering tidlig i rekrutteringsprosessen, kan ikke utviklere fjerne den diskrimineringen som eventuelt skjer på senere stadier av prosessen, når det er mennesker som sitter og tar avgjørelsene.

Han forteller at det er varierende grad av dialog med bedriftene som tar løsningene i bruk, og at utviklerne har begrenset innsyn i det som skjer videre i rekrutteringsprosessen hos selskapene som implementerer løsningene deres.

— Man kan fjerne diskrimineringen så mye man vil i starten, men hvis de som tar den siste avgjørelsen ikke er bevisste på at de også kan diskriminere, blir bare diskrimineringen forskjøvet dit, avslutter Asmaro.