AI och arbetsrätt: Hur AI och AI-förordningen påverkar ditt HR-arbete

AI håller på att förändra alla branscher, och HR-området är inget undantag. Inom HR används AI-verktyg bland annat vid rekrytering och utvärdering av de anställdas arbetsprestationer. Det kan handla om att granska CV:n och genomföra inledande intervjuer, analysera kandidaters potentiella framgång eller mäta hur effektiv en anställd är. Även om fördelarna är uppenbara, såsom att det sparar tid och, i teorin, minskar partiskheten, väcker den ökade användningen av AI inom HR-området också viktiga juridiska frågor inom IT- och arbetsrätt, inklusive rättvisa, integritet och transparens.

De flesta AI-system som används idag är så kallade prediktiva modeller där modellens output är baserad på information som den tränats på. Vid träning av AI används stora mängder av data som samlas in, sorteras och slutligen används i träningsfasen där AI-modellen med hjälp av algoritmer identifierar mönster, relationer och strukturer i det tillhandahållna materialet. Hur effektivt AI-systemet sedan blir beror i hög grad på kvaliteten på informationen som den tränas på. Om träningsdatan som används innehåller fördomar, t.ex. en preferens för vissa demografiska grupper eller kvalifikationer, kan AI-systemet oavsiktligt lära sig och replikera dessa fördomar i sitt beslutsfattande. Risken för partiskhet är ett stort problem inom HR-arbetet, eftersom det leder till att arbetsgivaren kan gå miste om kompetenta kandidater men också eftersom det innebär en risk för renomméskada och potentiella rättsliga utmaningar. Om AI-systemet genom fördomar i sitt beslutsfattande missgynnar personer, exempelvis på grund av deras kön eller etniska tillhörighet, kan arbetsgivaren som använder sig av AI-systemet göra sig skyldig till diskriminering. Ett exempel på detta är när Amazon 2018 implementerade ett AI-system för rekrytering som visade sig missgynna kvinnor på grund av fördomsfull träningsdata. Amazon hade tränat modellen på tidigare framgångsrika kandidater genom att mata in deras CV och profiler och eftersom Amazon historiskt hade anställt fler män än kvinnor ledde det till att modellen drog slutsatsen att kandidatens kön var ett viktigt kriterium. Detta ledde till att CV:n som innehöll ord som indikerade att kandidaten var en kvinna, såsom att kandidaten gått utbildningar på universitet för kvinnor eller varit med i en kvinnlig schackklubb, sorterades bort.

Händelser som den på Amazon har tydliggjort teknikens brister i relation till juridiken och behovet av en ökad reglering av AI. Som ett led i arbetet att främja utvecklingen av säkra och tillförlitliga AI-system antogs AI-förordningen av EU-parlamentet den 21 maj 2024. Förordningen introducerar ett regelverk som kategoriserar AI-system utifrån deras potentiella risk för att inskränka grundläggande rättigheter. AI-verktyg som används i beslutsfattande kopplat till exempelvis rekrytering, förändringar av anställningsvillkor, uppsägningar eller utvärdering av arbetsprestationer klassas som ”hög risk”. Det finns en ventil där system som inte utgör en betydande risk för skada på personers hälsa, säkerhet eller grundläggande rättigheter och inte materiellt påverkar resultatet av beslutsfattande kan omklassificeras till en lägre risknivå, men som regel faller de flesta AI-system som används på HR-området inom högriskkategorin.

AI-förordningen ställer främst krav på utvecklare av AI-system men det finns ett flertal skyldigheter för användare av AI-systemen. Skyldigheterna innebär att såväl tekniska som organisatoriska åtgärder vidtas, inbegripet att utbilda personal för att kunna utöva tillsyn, säkerställa relevant och representativ indata om modellen tränas internt, spara loggar och annan dokumentation i transparens och kontrollsyfte samt informera arbetstagarrepresentanter och de anställda innan det tas i bruk. Det ska även finnas möjlighet för mänsklig kontroll av AI-systemet som övervakning och granskning för att vid ett tidigt stadie upptäcka risker för orättvisa som till exempel diskriminering. Vid misstanke om att AI-systemet utgör en risk för människors hälsa, säkerhet eller grundläggande rättigheter har användare även en skyldighet att informera såväl utvecklaren av AI-systemet som relevant myndighet om detta.

Ett annat sätt som AI-system redan idag används på i rekryteringsprocesser och på arbetsplatser, även om det sker i begränsad omfattning, är för att uttyda en fysisk persons känslor. Dessa system är numera som huvudregel förbjudna enligt AI-förordningen men får användas av medicinska skäl eller säkerhetsskäl. Ett system som kan känna igen utmattning eller koncentrationsproblem och därigenom förhindra olyckor hos exempelvis piloter eller yrkeschaufförer är exempel på detta. I övrigt är det dock inte tillåtet att använda ett AI-system för att övervaka anställda eller arbetssökande för att upptäcka känslor såsom frustration, tristess, engagemang eller glädje. Skälet till att den här typen av användning av AI anses olämplig är att dagens AI-system inte är tillräckligt sofistikerade för att på ett korrekt sätt bedöma mänskliga känslor. Därtill har alla människor olika känslouttryck och det går därför inte att generalisera hur en person ser ut eller agerar när denna exempelvis känner engagemang för något. Att avgöra en persons sinnesstämning baserat på till exempel ansiktsuttryck eller kroppsspråk är alltså svårt och en sådan användning av AI riskerar i stället att bland annat diskriminera personer med funktionsnedsättningar, vilket vi tidigare har skrivit om på Delphi Tech Blog och som går att läsa här.

AI-verktyg är här för att stanna. Även om det för med sig fördelar i form av effektivitet och objektivitet, är det viktigt att beakta riskerna, inte ha en övertro på teknikens ofelbarhet och alltid bära med sig ett integritetsperspektiv i sin användning. Det är därför viktigt att arbetsgivare som tänker införa eller har infört AI-system i sitt HR-arbete förstår:

• hur AI-systemet fungerar;
• vad det ska användas till och inte användas till; och
• vilka processer och policys som behöver införas för att säkerställa regelefterlevnad.

Detta är viktigt både gällande ansvarstagandet gentemot den egna personalen och framtida talanger men även för att inte riskera de dryga böter som följer av AI-förordningen. Användning av AI på arbetsplatsen är ett spännande område som med säkerhet kommer att leda till nya och effektivare HR-processer och innovativa lösningar med förhoppning om en förbättrad arbetssituation för alla.

Har du funderingar om din AI-användning efterlever AI-förordningen eller vill ha rådgivning kring AI-användning i HR-processer? Tveka inte att kontakta oss på Delphi!

Denna artikel är skriven av Associate Ida Nordmark, Associate David Suh, och Thesis Trainee Klara Thyrén.