KI im HR: Auswirkungen des AI Acts auf das Arbeitsrecht

KI im HR: Auswirkungen des AI Acts auf das Arbeitsrecht

|

Redaktion

Künst­li­che Intel­li­genz (KI) revo­lu­tio­niert zuneh­mend den Per­so­nal­be­reich (HR). Mit der fort­schrei­ten­den Inte­gra­ti­on von KI-Sys­te­men in HR-Pro­zes­se stel­len sich jedoch auch neue recht­li­che Fra­gen. Der kürz­lich ver­ab­schie­de­te EU AI Act zielt dar­auf ab, einen Rah­men für den Ein­satz von KI zu schaf­fen und risi­ko­ba­sier­te Regeln zu defi­nie­ren. Ins­be­son­de­re für den HR-Bereich erge­ben sich dar­aus weit­rei­chen­de Kon­se­quen­zen für das Arbeits­recht. Die­ser Arti­kel beleuch­tet die zen­tra­len Aus­wir­kun­gen des AI Acts auf HR-Prak­ti­ken, von der Rekru­tie­rung bis zur Mit­ar­bei­ter­ver­wal­tung, und dis­ku­tiert die damit ver­bun­de­nen Her­aus­for­de­run­gen und Chan­cen für Arbeit­ge­ber und Arbeit­neh­mer.

Der EU AI Act im Überblick: Relevanz für den HR-Bereich

Der EU AI Act, die ers­te umfas­sen­de gesetz­li­che Rege­lung für Künst­li­che Intel­li­genz welt­weit, ver­folgt das Ziel, einen har­mo­ni­sier­ten Rechts­rah­men für die Ent­wick­lung, den Ein­satz und die Ver­mark­tung von KI-Sys­te­men in der Euro­päi­schen Uni­on zu schaf­fen. Das Kern­stück des Geset­zes bil­det ein risi­ko­ba­sier­ter Ansatz, der KI-Sys­te­me in ver­schie­de­ne Risi­ko­ka­te­go­rien ein­teilt: unan­nehm­ba­res Risi­ko, hohes Risi­ko, begrenz­tes Risi­ko und mini­ma­les Risi­ko. Sys­te­me, die als „hohes Risi­ko“ ein­ge­stuft wer­den, unter­lie­gen den strengs­ten Anfor­de­run­gen, um die Sicher­heit und die Grund­rech­te der betrof­fe­nen Per­so­nen zu gewähr­leis­ten.

Der HR-Bereich wird vom EU AI Act expli­zit als ein Sek­tor mit hohem Risi­ko iden­ti­fi­ziert. Dies liegt dar­an, dass KI-Sys­te­me im Per­so­nal­we­sen poten­zi­ell tief­grei­fen­de Aus­wir­kun­gen auf das Leben und die Kar­rie­ren von Ein­zel­per­so­nen haben kön­nen. Ent­schei­dun­gen, die auf algo­rith­mi­schen Aus­wer­tun­gen basie­ren, kön­nen über Ein­stel­lun­gen, Beför­de­run­gen, Leis­tungs­be­ur­tei­lun­gen oder Kün­di­gun­gen ent­schei­den und somit erheb­li­che Fol­gen für die Chan­cen­gleich­heit und die fai­re Behand­lung von Mit­ar­bei­tern haben. Die Kern­prin­zi­pi­en des AI Acts, die für HR-Anwen­dun­gen gel­ten, umfas­sen daher ins­be­son­de­re die Daten­ge­nau­ig­keit, die mensch­li­che Auf­sicht, die Trans­pa­renz, die Rück­ver­folg­bar­keit, die Robust­heit und die Cyber­si­cher­heit von KI-Sys­te­men. Unter­neh­men, die KI im HR ein­set­zen, müs­sen sicher­stel­len, dass die­se Sys­te­me die­se Anfor­de­run­gen erfül­len, um recht­li­che Kon­se­quen­zen zu ver­mei­den und das Ver­trau­en ihrer Mit­ar­bei­ter zu wah­ren.

KI-Anwendungen im HR: Wo trifft der AI Act auf das Arbeitsrecht?

Die Inte­gra­ti­on von Künst­li­cher Intel­li­genz im Per­so­nal­we­sen (HR) erstreckt sich über eine Viel­zahl von Pro­zes­sen, die alle­samt unter die Lupe des EU AI Acts und des bestehen­den Arbeits­rechts fal­len. Im Recrui­ting wer­den KI-gestütz­te Tools häu­fig zur Vor­auswahl von Bewer­bern ein­ge­setzt, indem sie Lebens­läu­fe ana­ly­sie­ren und Kan­di­da­ten anhand vor­de­fi­nier­ter Kri­te­ri­en bewer­ten. Hier trifft der AI Act auf das Arbeits­recht, ins­be­son­de­re im Hin­blick auf das Dis­kri­mi­nie­rungs­ver­bot. Wenn KI-Algo­rith­men unbe­ab­sich­tigt oder beab­sich­tigt Mus­ter erken­nen, die zu einer Benach­tei­li­gung bestimm­ter Grup­pen füh­ren (z. B. auf­grund von Geschlecht, Alter oder Her­kunft), kann dies gegen Gleich­be­hand­lungs­ge­set­ze ver­sto­ßen.

Ein wei­te­rer wich­ti­ger Bereich ist das Per­for­mance Manage­ment. KI-Sys­te­me kön­nen zur kon­ti­nu­ier­li­chen Über­wa­chung von Mit­ar­bei­ter­leis­tun­gen, zur Ana­ly­se von Pro­duk­ti­vi­täts­da­ten und zur Iden­ti­fi­zie­rung von Schu­lungs­be­darf ein­ge­setzt wer­den. Die­se Art der Über­wa­chung wirft Fra­gen des Daten­schut­zes und des Per­sön­lich­keits­rechts auf, die durch die Trans­pa­renz­an­for­de­run­gen des AI Acts ergänzt wer­den. Mit­ar­bei­ter müs­sen dar­über infor­miert wer­den, wie ihre Leis­tung erfasst und bewer­tet wird. Auch in der Mit­ar­bei­ter­ana­ly­se, bei­spiels­wei­se zur Vor­her­sa­ge von Fluk­tua­ti­on oder zur Opti­mie­rung von Per­so­nal­res­sour­cen, müs­sen die ein­ge­setz­ten KI-Sys­te­me trans­pa­rent und nach­voll­zieh­bar sein, um Will­kür und Dis­kri­mi­nie­rung zu ver­mei­den.

Selbst bei ver­meint­lich ein­fa­chen Pro­zes­sen wie der Lohn­ab­rech­nung kann KI zum Ein­satz kom­men, bei­spiels­wei­se zur auto­ma­ti­sier­ten Prü­fung von Arbeits­zeit­mo­del­len oder zur Berech­nung von Boni. Auch hier gilt es sicher­zu­stel­len, dass die zugrun­de­lie­gen­den Algo­rith­men feh­ler­frei sind und kei­ne dis­kri­mi­nie­ren­den Ergeb­nis­se pro­du­zie­ren. Der EU AI Act for­dert für sol­che hoch­ris­kan­ten Anwen­dun­gen umfas­sen­de Risi­ko­be­wer­tun­gen und stren­ge Kon­for­mi­täts­prü­fun­gen, bevor sie in Betrieb genom­men wer­den dür­fen. Die Schutz­me­cha­nis­men für Arbeit­neh­mer umfas­sen hier­bei vor allem das Recht auf Infor­ma­ti­on über den KI-Ein­satz, das Recht auf mensch­li­che Über­prü­fung von Ent­schei­dun­gen und das Recht auf Kor­rek­tur feh­ler­haf­ter Daten. Wie die KPMG Law in ihrem Bei­trag „KI und Arbeits­recht: Das bedeu­tet der AI Act für den HR-Bereich“ her­vor­hebt, ist die Anpas­sung von KI-Sys­te­men an arbeits­recht­li­che Bestim­mun­gen uner­läss­lich, um die Ein­hal­tung der neu­en Vor­schrif­ten zu gewähr­leis­ten.

Diskriminierungsschutz und Transparenz durch den AI Act im HR

Der EU AI Act setzt einen kla­ren Fokus auf den Schutz vor Dis­kri­mi­nie­rung und die Gewähr­leis­tung von Trans­pa­renz im Ein­satz von KI-Sys­te­men, ins­be­son­de­re im sen­si­blen HR-Bereich. Algo­rith­men, die im Per­so­nal­we­sen zur Ent­schei­dungs­fin­dung ein­ge­setzt wer­den, ber­gen das Risi­ko, bestehen­de gesell­schaft­li­che Vor­ur­tei­le zu repro­du­zie­ren oder sogar zu ver­stär­ken. Dies kann zu unglei­cher Behand­lung von Bewer­bern oder Mit­ar­bei­tern füh­ren, etwa bei Ein­stel­lun­gen, Beför­de­run­gen oder Leis­tungs­be­wer­tun­gen. Der AI Act ver­sucht die­sem Pro­blem durch stren­ge Auf­la­gen ent­ge­gen­zu­wir­ken.

Ins­be­son­de­re Sys­te­me, die als „hohes Risi­ko“ ein­ge­stuft wer­den – und dazu zäh­len die meis­ten HR-KI-Anwen­dun­gen – müs­sen so kon­zi­piert sein, dass sie eine algo­rith­mi­sche Dis­kri­mi­nie­rung ver­mei­den. Dies erfor­dert eine sorg­fäl­ti­ge Aus­wahl und Auf­be­rei­tung der Trai­nings­da­ten, die Über­prü­fung der Algo­rith­men auf Fair­ness und die Imple­men­tie­rung von Maß­nah­men zur Mini­mie­rung von Ver­zer­run­gen. Dar­über hin­aus ver­pflich­tet der Act zu einem hohen Maß an Trans­pa­renz. Dies bedeu­tet, dass Arbeit­ge­ber ihre Mit­ar­bei­ter klar und ver­ständ­lich dar­über infor­mie­ren müs­sen, wann und wie KI-Sys­te­me im HR-Bereich ein­ge­setzt wer­den. Dazu gehö­ren Infor­ma­tio­nen über die Art der ver­wen­de­ten Daten, die Funk­ti­ons­wei­se des Algo­rith­mus und die erwar­te­ten Ergeb­nis­se von KI-gestütz­ten Ent­schei­dun­gen. Das Recht auf Infor­ma­ti­on ist ein zen­tra­les Ele­ment, um Gleich­be­hand­lung und Fair­ness im HR zu gewähr­leis­ten.

Die Anfor­de­run­gen an Trans­pa­renz gehen über blo­ße Infor­ma­ti­ons­pflich­ten hin­aus. Sie sol­len es den Betrof­fe­nen ermög­li­chen, KI-gestütz­te Ent­schei­dun­gen nach­zu­voll­zie­hen und gege­be­nen­falls anzu­fech­ten. Dies ist ent­schei­dend, um das Ver­trau­en in KI-gestütz­te Pro­zes­se zu stär­ken und sicher­zu­stel­len, dass alle Mit­ar­bei­ter fair behan­delt wer­den. Die Ver­mei­dung von Dis­kri­mi­nie­rung durch KI ist somit nicht nur eine recht­li­che Not­wen­dig­keit, son­dern auch ein wich­ti­ger Fak­tor für eine posi­ti­ve Arbeits­platz­kul­tur.

Pflichten und Verantwortlichkeiten für Unternehmen im HR unter dem AI Act

Der EU AI Act legt kla­re Arbeit­ge­ber­pflich­ten für Unter­neh­men fest, die KI-Sys­te­me im Per­so­nal­we­sen ein­set­zen. Die­se Pflich­ten zie­len dar­auf ab, den rechts­kon­for­men und ethi­schen Ein­satz von KI sicher­zu­stel­len und die Rech­te der Arbeit­neh­mer zu schüt­zen. Eine zen­tra­le Anfor­de­rung ist die Durch­füh­rung einer umfas­sen­den Risi­ko­ana­ly­se HR für jedes KI-Sys­tem, bevor es in Betrieb genom­men wird. Die­se Ana­ly­se muss poten­zi­el­le Gefah­ren für Grund­rech­te und Sicher­heit iden­ti­fi­zie­ren, ins­be­son­de­re im Hin­blick auf Dis­kri­mi­nie­rung und Daten­schutz.

Unter­neh­men sind zudem ver­pflich­tet, detail­lier­te Doku­men­ta­ti­ons­pflich­ten zu erfül­len. Dies beinhal­tet die Doku­men­ta­ti­on der Ent­wick­lung, des Ein­sat­zes und der Funk­ti­ons­wei­se des KI-Sys­tems. Die Daten­qua­li­tät muss fort­lau­fend über­wacht und die Algo­rith­men regel­mä­ßig auf ihre Leis­tung und Fair­ness hin über­prüft wer­den. Bei Sys­te­men, die als „hohes Risi­ko“ ein­ge­stuft sind, sind zusätz­li­che Anfor­de­run­gen zu erfül­len, wie bei­spiels­wei­se die Gewähr­leis­tung einer effek­ti­ven mensch­li­chen Auf­sicht. Bei Nicht­ein­hal­tung die­ser Vor­schrif­ten dro­hen emp­find­li­che Stra­fen. Die Haf­tung KI liegt grund­sätz­lich beim Betrei­ber des Sys­tems, also dem Unter­neh­men.

Für die Sicher­stel­lung der Com­pli­ance HR kön­nen Unter­neh­men ver­pflich­tet sein, unab­hän­gi­ge Kon­for­mi­täts­be­wer­tun­gen durch­zu­füh­ren oder sich durch inter­ne oder exter­ne Com­pli­ance-Beauf­trag­te unter­stüt­zen zu las­sen. Die­se Ver­ant­wort­li­chen spie­len eine Schlüs­sel­rol­le bei der Imple­men­tie­rung und Über­wa­chung der Ein­hal­tung der AI Act-Vor­ga­ben. Die Vor­be­rei­tung auf den AI Act erfor­dert eine pro­ak­ti­ve Aus­ein­an­der­set­zung mit die­sen Pflich­ten, um recht­li­che Risi­ken zu mini­mie­ren und das Ver­trau­en der Mit­ar­bei­ter zu stär­ken.

Der Betriebsrat und die Mitbestimmung bei KI im HR

Die Ein­füh­rung und Nut­zung von KI-Sys­te­men im HR-Bereich hat signi­fi­kan­te Aus­wir­kun­gen auf die Arbeit­neh­mer, was auto­ma­tisch die Rol­le und die Rech­te des Betriebs­rats auf den Plan ruft. Der EU AI Act, der die recht­li­chen Rah­men­be­din­gun­gen für KI-Sys­te­me neu defi­niert, hat auch tief­grei­fen­de Impli­ka­tio­nen für die Mit­be­stim­mung HR. Der Betriebs­rat hat nach Betriebs­ver­fas­sungs­ge­setz (BetrVG) umfas­sen­de Informations‑, Bera­tungs- und Mit­be­stim­mungs­rech­te, wenn es um die Ein­füh­rung und Anwen­dung von tech­ni­schen Ein­rich­tun­gen geht, die zur Über­wa­chung des Ver­hal­tens oder der Leis­tung der Arbeit­neh­mer bestimmt sind.

KI-gestütz­te HR-Tools, wie bei­spiels­wei­se sol­che für das Bewer­ber­ma­nage­ment, die Leis­tungs­über­wa­chung oder die Per­so­nal­pla­nung, fal­len ein­deu­tig unter die­se Kate­go­rie. Der Betriebs­rat muss früh­zei­tig und umfas­send über die geplan­te Ein­füh­rung eines sol­chen Sys­tems infor­miert wer­den. Dies beinhal­tet Details zur Funk­ti­ons­wei­se, den Zie­len, den poten­zi­el­len Aus­wir­kun­gen auf die Arbeits­plät­ze und die Arbeits­be­din­gun­gen der Mit­ar­bei­ter sowie die Art der Daten­ver­ar­bei­tung. Ohne die Zustim­mung des Betriebs­rats dür­fen sol­che Sys­te­me grund­sätz­lich nicht ein­ge­führt oder ange­wen­det wer­den, ins­be­son­de­re wenn sie dazu die­nen, das Ver­hal­ten oder die Leis­tung der Arbeit­neh­mer zu über­wa­chen.

Die Mit­be­stim­mung KI durch den Betriebs­rat ist ein ent­schei­den­des Instru­ment, um sicher­zu­stel­len, dass der Ein­satz von KI im HR-Bereich die Rech­te und Inter­es­sen der Beleg­schaft wahrt. Dies umfasst auch die For­de­rung nach Trans­pa­renz und Fair­ness in den Algo­rith­men und die Ver­hin­de­rung von Dis­kri­mi­nie­rung. Eine offe­ne und kon­struk­ti­ve Zusam­men­ar­beit zwi­schen Arbeit­ge­ber und Betriebs­rat ist uner­läss­lich, um die Her­aus­for­de­run­gen des KI-Ein­sat­zes Arbeit­neh­mer­ver­tre­tung erfolg­reich zu meis­tern und eine tech­no­lo­gie­ge­stütz­te Arbeits­welt zu gestal­ten, die sowohl pro­duk­tiv als auch sozi­al­ver­träg­lich ist.

Fazit und Ausblick: Zukünftige Entwicklungen und Handlungsempfehlungen

Der EU AI Act mar­kiert einen Wen­de­punkt für den Ein­satz von Künst­li­cher Intel­li­genz im Per­so­nal­we­sen. Er schafft einen drin­gend benö­tig­ten recht­li­chen Rah­men, der sowohl Inno­va­ti­on als auch den Schutz der Grund­rech­te von Arbeit­neh­mern in Ein­klang brin­gen soll. Die zen­tra­len Aus­wir­kun­gen lie­gen in den erhöh­ten Anfor­de­run­gen an Trans­pa­renz, Fair­ness und Dis­kri­mi­nie­rungs­schutz sowie in den kla­ren Pflich­ten und Ver­ant­wort­lich­kei­ten für Unter­neh­men. Der Act betont die Not­wen­dig­keit, KI-Sys­te­me nicht als Black­box zu betrach­ten, son­dern ihre Funk­ti­ons­wei­se nach­voll­zieh­bar zu machen und stets die mensch­li­che Auf­sicht zu gewähr­leis­ten.

Für HR-Ver­ant­wort­li­che und Unter­neh­men erge­ben sich dar­aus kon­kre­te Hand­lungs­emp­feh­lun­gen: Eine pro­ak­ti­ve Aus­ein­an­der­set­zung mit den Bestim­mun­gen des AI Acts ist uner­läss­lich. Dies beinhal­tet die Durch­füh­rung von Risi­ko­be­wer­tun­gen für alle ein­ge­setz­ten KI-Sys­te­me, die Imple­men­tie­rung robus­ter Doku­men­ta­ti­ons- und Über­wa­chungs­pro­zes­se sowie die Sicher­stel­lung der rechts­si­cher­heit KI. Eine enge Zusam­men­ar­beit mit dem Betriebs­rat ist essen­zi­ell, um des­sen Mit­be­stim­mungs­rech­te zu wah­ren und eine rei­bungs­lo­se Imple­men­tie­rung neu­er Tech­no­lo­gien zu gewähr­leis­ten. Die Schu­lung von HR-Mit­ar­bei­tern im Umgang mit KI und den damit ver­bun­de­nen recht­li­chen Aspek­ten ist eben­falls von hoher Bedeu­tung.

Der AI Act ist ein dyna­mi­sches Regel­werk, und sei­ne Aus­le­gung sowie die tech­no­lo­gi­sche Ent­wick­lung wer­den kon­ti­nu­ier­lich neue Her­aus­for­de­run­gen und Chan­cen mit sich brin­gen. Unter­neh­men, die jetzt in KI-Stra­te­gie HR inves­tie­ren und die Anfor­de­run­gen des AI Acts ernst neh­men, posi­tio­nie­ren sich nicht nur recht­lich sicher, son­dern för­dern auch eine Kul­tur des Ver­trau­ens und der Fair­ness. Dies ist ent­schei­dend für die zukunfts­fä­hi­ge Gestal­tung des Per­so­nal­we­sens in einer zuneh­mend digi­ta­li­sier­ten Arbeits­welt.

Schlagwörter:

, , , , , , , , ,

Das könnte Sie auch interessieren: