KI i rekruttering: når automatisk utvelgelse blir diskriminering

Hvordan KI brukes i rekruttering

Mange større arbeidsgivere bruker programvare til å sortere søknader. Systemet kan lese CV-er og rangere søkerne, plukke ut ord som matcher annonsen, vurdere videointervjuer eller sende ut automatiske avslag til dem som havner under en grense. Noen bruker også språkmodeller til å oppsummere søknader.

For søkeren er det vanskelig å se hva som skjer. Du får et avslag, men vet ikke om en person leste søknaden din eller om en algoritme (en datamaskinregel som sorterer etter mønstre) avviste den allerede i første omgang.

Diskrimineringsreglene er skrevet uten tanke på teknologi, men de gjelder likevel. Det er hvilken virkning valget får for deg som avgjør, ikke om det var et menneske eller en maskin som tok det.

Arbeidsgiver er ansvarlig

Diskrimineringsforbudet retter seg mot arbeidsgiver, og § 29 gjelder alle sider av et arbeidsforhold, inkludert utlysning og ansettelse. At et verktøy er kjøpt fra en leverandør, fritar ikke arbeidsgiver. Det er arbeidsgiver som velger verktøyet, setter parameterne og bruker resultatet.

Arbeidsgiver som ikke vet hvordan systemet fungerer, står dårlig stilt. I en sak vil spørsmålet bli hva arbeidsgiver har gjort for å sikre at utvelgelsen er saklig. Det er arbeidsgivers sak å kunne forklare hvordan søkerne er vurdert, også når en maskin har gjort jobben.

Indirekte diskriminering gjennom filteret

Det vanligste problemet er ikke at et system er programmert til å diskriminere. Det er at filteret ser nøytralt ut, men rammer en gruppe hardere. Dette er indirekte forskjellsbehandling etter § 8: en tilsynelatende nøytral bestemmelse, betingelse eller praksis som stiller personer dårligere på grunn av et vernet forhold.

Noen eksempler på hvordan det kan skje:

• Filteret sorterer ut søkere som har hull i CV-en. Det kan ramme kvinner som har vært i permisjon, og personer med sykdom eller funksjonsnedsettelse.
• Systemet gir poeng for utdanning fra bestemte skoler eller for «kulturell match» målt mot dem som allerede er ansatt. Er de ansatte stort sett norskfødte menn, vil filteret favorisere flere av samme type.
• Det legger vekt på ord og formuleringer som er vanligere i norskfødtes språk, og straffer søkere med annet morsmål.
• Det sorterer etter hvor mange år det er siden eksamen, som ofte vil ramme eldre.

Forskjellsbehandlingen er likevel lovlig hvis den oppfyller vilkårene i § 9: saklig formål, nødvendig for å nå formålet, og ikke uforholdsmessig inngripende. Å kreve nødvendig utdanning for stillingen kan være saklig. Å sortere ut alle med lang erfaring fordi de «koster for mye», er det ikke.

Alder er regulert i arbeidsmiljøloven

For alder gjelder ikke diskrimineringsloven i arbeidsforhold. Paragraf 2 sier at loven ikke gjelder ved diskriminering på grunn av alder i forhold som er regulert av arbeidsmiljøloven kapittel 13. Der står både forbudet mot direkte og indirekte aldersdiskriminering i § 13-1 og en bevisregel i § 13-8.

Bevisregelen er parallell. Legger du fram opplysninger som gir grunn til å tro at det har skjedd diskriminering, må arbeidsgiver sannsynliggjøre at det likevel ikke har skjedd. Unntakene i § 13-3 krever et saklig formål, og at forskjellsbehandlingen er nødvendig og ikke uforholdsmessig inngripende.

For de andre grunnlagene, som etnisitet, kjønn og funksjonsnedsettelse, gjelder likestillings- og diskrimineringsloven.

Andre regler som kan komme inn

Personvernforordningen (GDPR) har en egen regel om at du ikke skal bli gjenstand for en avgjørelse som bare bygger på automatisert behandling, hvis den har rettslig virkning eller påvirker deg betydelig. Du har også rett til innsyn i opplysningene som behandles om deg. Dette er egne regler utenfor diskrimineringsloven, men kan gi deg en vei til å få vite hva som ligger bak.

Hvis systemet henter ut eller utleder opplysninger om graviditet, religion, funksjonsnedsettelse eller seksuell orientering fra CV-en eller en video, kan det komme i konflikt med forbudet mot å innhente slike opplysninger i § 30.

Slik får du innsyn i hvordan søknaden ble vurdert

Be om en forklaring på hvordan søknaden din er vurdert, og om det var et menneske som leste den. Be om opplysninger om den som ble ansatt, som du har rett til etter § 31. Ta vare på avslag og tidspunkt.

Du kan klage til Diskrimineringsnemnda. Hvordan nemnda bruker bevisbyrden, er forklart i artikkelen om bevisbyrden.

Kort oppsummert

• Arbeidsgiver er ansvarlig for at KI i rekruttering ikke diskriminerer, også når verktøyet er levert av andre.
• Et nøytralt filter som i praksis rammer en gruppe hardere, kan være indirekte forskjellsbehandling etter § 8.
• Alder reguleres av arbeidsmiljøloven kapittel 13, mens etnisitet, kjønn og funksjonsnedsettelse følger diskrimineringsloven.
• Gir omstendighetene grunn til å tro at det har skjedd diskriminering, må arbeidsgiver sannsynliggjøre det motsatte.