Få overblik over AI-reglerne i HR- sammenhæng

AI-forordningen, også kaldet AI Act, er en EU-forordning, som gælder direkte i Danmark. Forordningen trådte formelt i kraft den 1. august 2024, men reglerne indfases gradvist.

For virksomheder er det særligt vigtigt at være opmærksom på brugen af AI i HR-processer, for eksempel i forbindelse med rekruttering, medarbejdervurderinger, opgavefordeling, overvågning og beslutninger om ansættelsesvilkår. 

Nogle former for AI er allerede forbudt

Reglerne om forbudte AI-systemer har været gældende fra den 2. februar 2025.

Det betyder blandt andet, at virksomheder som udgangspunkt ikke må bruge AI til at genkende eller udlede medarbejderes følelser på arbejdspladsen.

Der gælder snævre undtagelser, hvis anvendelsen sker af hensyn til medicinske formål eller sikkerhed.

Forordningen forbyder også en række andre former for AI-anvendelse, herunder visse systemer, der manipulerer personer, udnytter sårbarhed eller kategoriserer personer på grundlag af følsomme personoplysninger.

AI i HR kan være et højrisikosystem

AI-systemer, der anvendes på beskæftigelsesområdet, kan være højrisikosystemer. Det gælder blandt andet AI-systemer, der bruges til screening og rangering af CV’er eller til performanceovervågning.

Det kan også være AI-systemer, der anvendes til beslutninger om medarbejderes ansættelsesvilkår, forfremmelse, opsigelse, opgavefordeling, overvågning eller evaluering af medarbejdere.

Et AI-system er ikke nødvendigvis et højrisikosystem, blot fordi det bruges i en HR-proces. Et system kan eksempelvis falde uden for kategorien, hvis det alene udfører en snæver, praktisk opgave.

Vurderingen afhænger blandt andet af, hvad systemet konkret bruges til, hvorvidt der er menneskelig kontrol, og om anvendelsen kan få betydning for personer i ansættelsesforhold eller rekrutteringsprocesser.

Reglerne for AI-systemer med en højrisiko-anvendelse udskydes til at gælde fra 2. december 2027 og er derfor ikke gældende endnu.

Udbyderen og idriftsætteren har forskellige opgaver

AI-forordningen skelner særligt mellem to roller. Udbyder og idriftsætteren af et AI-system.

Udbyderen er en virksomhed, der udvikler et AI-system – eller får det udviklet – og markedsfører eller tager systemet i brug under eget navn eller varemærke.

Udbyderen har blandt andet ansvar for, at et højrisikosystem er udviklet, testet og dokumenteret i overensstemmelse med forordningens krav.

Idriftsætteren er den virksomhed, der anvender AI-systemet under sin egen kontrol. En virksomhed, der køber eller licenserer et AI-værktøj til rekruttering, vil derfor normalt være idriftsætter.

Idriftsætteren skal blandt andet anvende systemet efter udbyderens instruktioner, sikre relevant menneskeligt tilsyn og reagere, hvis systemet medfører risici eller fejl.

I kan som virksomhed blive anset som udbyder, hvis I foretager væsentlige ændringer af et højrisikosystem eller ændrer systemets formål på en måde, der gør det til et højrisikosystem. Rollen som udbyder udløser langt flere forpligtelser.

I bør være opmærksomme, at rollen kan ændre sig. Virksomheder, der anvender højrisiko‑AI‑systemer på arbejdspladsen, er som idriftsættere og arbejdsgivere forpligtet efter AI‑forordningen til at informere berørte medarbejdere og medarbejderrepræsentanter om, at de vil være omfattet af anvendelsen af systemet.

Uanset AI‑forordningen vil information typisk også være påkrævet efter samarbejdsaftaler/kontrolforanstaltningsregler og den almindelige arbejdsretlige regulering.

Husk GDPR og de almindelige ansættelsesretlige regler

AI-forordningen gælder parallelt med anden lovgivning og andre kollektive regler. I skal derfor fortsat overholde de almindelige regler om databeskyttelse, kontrolforanstaltningsaftalen, samarbejdsaftalen og lignende.

Der gælder for eksempel et databeskyttelsesretligt forbud mod udelukkende automatiserede afgørelser, som virksomheder skal være opmærksomme på, uanset hvad AI-forordningen isoleret set kræver.