Einsatz von Künstlicher Intelligenz (KI) und damit verbundene Pflichten für den Arbeitgeber

Auch in der Arbeitswelt wird die Nutzung von künstlicher Intelligenz immer präsenter. Für den Arbeitgeber ergeben sich hieraus viele Vorteile, allerdings hat er bei der Verwendung von KI auch einige Pflichten zu beachten, die im Folgenden näher beleuchtet werden sollen.

Begriff KI

Bislang ist der Begriff der künstlichen Intelligenz rechtlich nicht definiert. Im April 2021 hat die Europäische Kommission einen Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI) vorgelegt, in dem sich nun ein Vorschlag hierzu findet.

Der Ausdruck „System der künstlichen Intelligenz“ (KI-System) bezeichnet nach Art. 3 Nr. 1 KI-VO-E „eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren“.

Höchstpersönlichkeit von Arbeitgeberentscheidungen

In der Praxis ist es nicht unüblich, dass der Arbeitgeber seine Rechte im Wege der Stellvertretung auf nachgeordnete Leistungsebenen delegiert. Nun stellt sich im Bereich der Anwendung von KI die Frage, ob die Delegation von Entscheidungen des Arbeitgebers an KI-Systeme einer Stellvertretung gleichzusetzen wäre.

Dies ist allerdings abzulehnen, da KI-generierten Erklärungen keine eigene Rechtspersönlichkeit zugesprochen werden kann. Auch Arbeitnehmer, die für ihre Arbeitsleistung KI einsetzen, erbringen die Arbeitsleistung höchstpersönlich, solange ein hinreichender menschlicher Einfluss auf die KI, also eine bewusste Entscheidungsfindung des Arbeitnehmers, gegeben ist. Folglich sind KI-generierte Erklärungen des Arbeitgebers ihm als eigene Willenserklärung zuzurechnen.

Bewerbungsverfahren, Bewerberauswahl und Vertragsschluss

Bei der Prüfung und Bewertung von Bewerbungsunterlagen sowie Bewerbungsgesprächen durch KI-Systeme ist zu beachten, dass nur arbeitsrechtlich zulässige Informationen nach § 26 BDSG erhoben werden dürfen und keine Persönlichkeitsanalyse durchgeführt wird. Außerdem muss das System vorsehen, dass eine unmittelbare und mittelbare Diskriminierung von Bewerbern nach § 1 AGG nicht stattfindet.

Der Arbeitgeber darf ebenfalls nicht die letzte Entscheidung über Einstellung oder Ablehnung eines Bewerbers gem. Art. 22 DSGVO an ein KI-System übertragen, da diese nicht  ausschließlich auf einer automatisierten Verarbeitung beruhen dürfen. KI kann damit nur vorbereitend bei der Entscheidungsfindung helfen. Die finale Entscheidung hat aber stets durch einen Menschen zu erfolgen.

Nutzung von KI im laufenden Arbeitsverhältnis

Im laufenden Arbeitsverhältnis kann der Arbeitgeber mithilfe von KI personenbezogene Daten des Beschäftigten verarbeiten, wenn die Verarbeitung zur Durchführung des Arbeitsverhältnisses erforderlich ist, vgl. § 26 I 1 BDSG.

Auf Arbeitgeberseite kommt beispielsweise das Interesse an einer objektiven Entscheidungsfindung, Beschleunigung sowie Kostensenkung, aber auch die Verbesserung der Arbeitsergebnisse durch KI in Betracht. Demgegenüber steht das Interesse des Beschäftigten an einem möglichst geringen Eingriff in das Persönlichkeitsrecht.

Allgemein gilt auch hier, die Eingriffsintensität möglichst gering zu halten und etwaige Daten zu KI-Verarbeitung nur zu verwenden, wenn diese zur Durchführung des Arbeitsverhältnisses erforderlich sind.

Weisung, Abmahnung und Kündigung

Der Arbeitgeber kann sein Weisungsrecht auf KI-Systeme übertragen, solange sie im Ergebnis der Billigkeit nach § 106 GewO entsprechen und die Grenzen des Art. 22 DSGVO beachtet werden. Werden durch die Weisung jedoch nur arbeitsvertraglich geschuldete Arbeitspflichten konkretisiert, greift Art. 22 DSGVO nicht, da hieraus keine neuen Pflichten für den Arbeitnehmer resultieren. Ausnahmen bilden beispielsweise die Anordnung von Überstunden oder die arbeitsvertragliche Versetzung an einen anderen Arbeitsort.

Die Wirksamkeit einer Abmahnung durch ein KI-System scheitert bereits an Art. 22 DSGVO, da sie als kündigungsvorbereitende Maßnahme den Arbeitnehmer erheblich beeinträchtigt. Gleiches gilt für die Kündigung, die zusätzlich das Vorliegen einer eigenhändigen Unterschrift der zuständigen Person nach § 623 BGB voraussetzt und daher nicht durch KI ersetzt werden kann.

Der Arbeitgeber hat insofern bei der Verwendung von KI Acht zu geben, ob für die Erklärung ein Schriftformerfordernis nach § 125 BGB besteht. Da das Schriftformerfordernis stets eine eigenhändige Unterschrift voraussetzt, reicht im Gegensatz zur elektronischen Form und zur Textform damit eine Kopie der Unterschrift nicht aus und kann daher auch nicht automatisch durch KI eingesetzt werden.

Anforderungen des Antidiskriminierungsrechts

Bedient sich der Arbeitgeber im Rahmen des Personalmanagements künstlicher Intelligenz, ist zu berücksichtigen, dass durch das jeweilige KI-System keine Benachteiligung i.S.v. §§ 1 und 7 AGG erzeugt wird. Nutzt der Arbeitgeber ein KI-System, dass bei der Auswahl der Bewerber oder im bestehenden Arbeitsverhältnis gegen einer der in § 1 AGG genannten Merkmale, wie Alter, Geschlecht oder ethnische Herkunft verstößt, so können ihm Schadensersatzforderungen und Entschädigungszahlungen nach § 15 AGG drohen. Mit Blick auf die finanziellen Konsequenzen bei einem Verstoß gegen das Benachteiligungsverbot, sollte der Arbeitgeber die Transparenz und Nachvollziehbarkeit seiner Entscheidungsfindung durch ein KI-System stets aufmerksam überwachen.

Fazit

Eine vollumfängliche Nutzung von KI ist gerade mit Blick auf Personalentscheidungen mit Vorsicht zu genießen, sollte jedoch nicht vor der Nutzung von KI abschrecken. Insbesondere Erklärungen, die einer besonderen Form bedürfen, können nicht gänzlich durch den Einsatz von KI vorgefertigt werden. Außerdem kann das automatische Generieren von Auswahlfaktoren in Bewerbungs- oder Auswahlgesprächen dazu führen, dass dadurch eine Benachteiligung i.S.v. §§ 1 und 7 AGG erzeugt wird.  Schlussendlich bedürfen gerade personelle Entscheidungen einer letzten menschlichen Kontrollinstanz, sodass der Arbeitgeber KI-generierte Ergebnisse regelmäßig nur als Vorbereitung nutzen sollte.