Künstliche Intelligenz und Arbeitsrecht: 5 Fragen zum Einsatz im Arbeitsverhältnis

Künstliche Intelligenz (KI) erhält zunehmend Einzug in das Arbeitsverhältnis. Der Einsatz von KI soll Arbeitsprozesse erleichtern, automatisieren und optimieren. Ihre Einführung bzw. ihr Einsatz im Arbeitsverhältnis ist aber nicht nur technisch, sondern auch rechtlich komplex und die damit im Zusammenhang stehenden juristischen Fragen stellen Unternehmen häufig vor Herausforderungen. Wir beleuchten daher 5 wesentliche Fragen zum Einsatz von KI im Arbeitsverhältnis.

Was ist KI eigentlich? Künstliche Intelligenz als neuer (Rechts-)Begriff

Der Begriff der Künstlichen Intelligenz ist rechtlich bislang nicht definiert. Der jüngst vom EU-Parlament in das Gesetzgebungsverfahren eingebrachte Entwurf für eine KI-Verordnung (KI-VO-E) (mehr dazu in unserem Blogbeitrag EU-Parlament verabschiedet „AI Act“ – was deutsche Arbeitgeber wissen sollten) definiert in Art. 3 Nr. 1 KI-VO-E „System der künstlichen Intelligenz (KI-System)“ als

„eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren;“

Zu den im Anhang I des KI-VO-E aufgeführten Techniken und Konzepten zählen Konzepte des maschinellen Lernens (d.h. „selbstlernende“ Systeme), logik- und wissensgestützte Konzepte sowie statistische Ansätze.

Der deutsche Gesetzgeber hat den Begriff der „Künstlichen Intelligenz“ bislang nicht definiert, ihn jedoch durch das Betriebsrätemodernisierungsgesetz an drei Stellen in das BetrVG mit aufgenommen (mehr dazu in unserem Blogbeitrag Künstliche Intelligenz – Mehr Pflichten des Arbeitgebers gegenüber dem Betriebsrat? ).

Ist KI bislang völlig unreguliert?

Nein, zwar wurde bislang noch kein KI-Gesetz verabschiedet. Auch die KI-VO wird voraussichtlich erst im Jahr 2024 verabschiedet und mit einer Übergangsfrist für die Umsetzung erst in den Jahren 2025 oder 2026 in Kraft treten. Allerdings lassen sich zahlreiche arbeitsrechtliche Problemfragen bereits mit der Anwendung bestehender Gesetze lösen. So unterliegt der Einsatz von KI-Systemen bereits heute den Vorgaben des Datenschutzrechts. Auch setzen die Diskriminierungsverbote des AGG dem Einsatz von KI im Arbeitsrecht Grenzen und die Einbindung von Betriebsräten beim Einsatz von KI im Arbeitsverhältnis ist nicht nur über die durch das Betriebsrätemodernisierungsgesetz neu eingeführten § 80 Abs. 3 S. 2 BetrVG (Hinzuziehung von Sachverständigen), § 90 Abs. 1 Nr. 3 BetrVG (Unterrichtungs- und Beratungsrechte) und § 95 Abs. 2a BetrVG (Auswahlrichtlinien) Rechnung getragen, sondern auch durch das Mitbestimmungsrecht des Betriebsrats nach § 87 Abs. 1 Nr. 6 BetrVG, welches  bei der Einführung von KI-Systemen regelmäßig Anwendung finden dürfte.

Steht der Einsatz von KI im Konflikt mit der Höchstpersönlichkeit der Arbeitsleistung?

Schon jetzt ist KI im Arbeitsleben allgegenwärtig. Sowohl Arbeitnehmer als auch Arbeitgeber setzen Systeme, die jedenfalls z.T. oder auch gänzlich KI-Systeme sind, häufig im Rahmen ihrer beruflichen Tätigkeit ein (z.B. Nutzung von DeepL für Übersetzungen oder der Einsatz von ChatGPT zum Erstellen von Texten).

Damit stellt sich die Frage, ob dies im Konflikt zur Pflicht des Arbeitnehmers steht, seine Arbeitsleistung persönlich zu erbringen. Das Arbeitsverhältnis ist gerade dadurch gekennzeichnet, dass der Arbeitnehmer eine Tätigkeit als solche verspricht und anders als der Werkunternehmer keinen Erfolg zusagt. Für den Arbeitgeber ist regelmäßig die Person des Arbeitnehmers sowie seine Fähigkeiten und Fertigkeiten von besonderer Bedeutung, so dass er seine Arbeitsleistung grundsätzlich nicht an Dritte delegieren kann. Entscheidend für die Beantwortung dieser Frage dürfte sein, ob eine Übertragung von Arbeitsaufgaben durch den Arbeitnehmer auf eine KI-Anwendung, dem (unzulässigen) Einsatz einer Hilfsperson oder dem (zulässigen) Einsatz eines Hilfsmittels entspricht.

Vor dem Hintergrund, dass für den Arbeitgeber der Person des Arbeitnehmers und dessen Fähigkeiten eine besondere Bedeutung zukommt, dürfte die Höchstpersönlichkeit der Arbeitsleistung jedenfalls dann gewahrt sein, wenn das durch KI kreierte „Arbeitsergebnis“ einer menschlichen, d.h. bewussten Entscheidung dieses Arbeitnehmers zugeführt wird. Entscheidend ist daher, dass ein hinreichender menschlicher Einfluss sichergestellt ist, das KI-kreierte Arbeitsprodukt also nicht ungeprüft und unverändert als Arbeitsprodukt des Mitarbeiters ausgegeben wird. Gewährleistet der Arbeitnehmer ein solches Dazwischentreten, dürfte trotz seines Rückgriffs auf die KI-Anwendung weiter von einer höchstpersönlichen Arbeitsleistung auszugehen sein.

Arbeitgeber tun jedoch bereits jetzt gut daran, Regelungen zum Umgang mit KI-gestützten Systemen zu erlassen und ihre Arbeitnehmer im Umgang mit diesen Systemen zu schulen. So sollten Arbeitnehmer u.a. darauf hingewiesen werden, keine personenbezogenen Daten in das System einzugeben und für mögliche Datenschutz- und Copyright-Verstöße sensibilisiert werden.

Steht der Einsatz von KI im Widerspruch zum Datenschutz?

Nein. Die DSGVO schließt den Einsatz von KI vor und nach Begründung des Arbeitsverhältnisses nicht aus, sie setzt ihm aber bestimmte Grenzen. So schützt die DSGVO Bewerber beispielsweise bereits heute davor, durch sog. „Profiling“ aus dem Bewerbungsverfahren aussortiert zu werden, ohne dass sich eine natürliche Person mit dem Bewerber beschäftigt hat. Denn Art. 22 Abs. 1 DSGVO gibt der betroffenen Person das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden. Hinter der Norm steht der Gedanke, dass Entscheidungen, die das Persönlichkeitsrecht berühren, nicht von Maschinen getroffen werden sollen. Sobald eine rechtlich verbindliche Entscheidung getroffen wird, darf diese Entscheidung also zumindest nicht allein auf der automatisierten Verarbeitung beruhen, sondern muss immer durch einen Menschen getroffen werden.

Eine Entscheidungshilfe, etwa durch Aufstellen eines vorläufigen Bewerber-Rankings, ist somit durch die Nutzung von KI möglich. Die menschliche Befassung mit den Bewerbungen kann jedoch nicht durch diese ersetzt werden. Auch im bereits bestehenden Arbeitsverhältnis ist der Einsatz von KI aufgrund der Einwilligungsmöglichkeit des Arbeitnehmers grundsätzlich denkbar. In beiden Konstellationen ist aber in jedem Fall eine sorgfältige Prüfung im Einzelfall notwendig, um die Grenzen der Zulässigkeit auszuloten und so etwaige Bußgelder wegen Datenschutzverstößen zu vermeiden.

Ist KI der bessere Entscheider, da sie rein objektive Entscheidungen trifft?

Jein. Zwar vermittelt der Einsatz von KI-Systemen beispielsweise im Bewerbungsprozess oder bei sonstigen Personalentscheidungen auf den ersten Blick den Eindruck gesteigerter Objektivität bereits dadurch, dass in gewissen Phasen keine Entscheidungen von Menschen getroffen werden, die möglicherweise gewisse Stereotypen und diskriminierende Tendenzen (oft unbewusst) einfließen lassen. Die KI-Anwendung selbst diskriminiert nicht. Trotzdem kann es auch bei Nutzung von KI zu Diskriminierungen kommen, deren diskriminierungsrechtliche Konsequenzen sich aus dem Benachteiligungsverbot in § 7 Abs. 1 AGG ergeben.

Die Gründe hierfür können vielfältig sein. Die KI trifft ihre Entscheidungen anhand von Gruppenwahrscheinlichkeiten. Dabei kann gerade die Anknüpfung an eines der in § 1 AGG genannten Merkmale die Gefahr diskriminierender Effekte beinhalten. Besonders kritisch wird es, wenn die KI anhand von mit diskriminierenden Tendenzen behafteten Datensätzen Entscheidungen trifft. Wenn in einem eingespeisten Datensatz beispielsweise mehr Männer als Frauen eingestellt wurden, überträgt der Algorithmus dieses Muster auf seine zukünftigen Entscheidungen. In diesem Fall werden Frauen automatisch prozentual weniger berücksichtigt.

Unternehmen müssen also ein besonderes Augenmerk darauf richten, auch beim Einsatz von KI Benachteiligungen zu vermeiden, auch um etwaige Schadensersatzansprüche auszuschließen. Dies gilt umso mehr als der Schutz vor Diskriminierung auch Gegenstand des Art. 71 Abs. 3 KI-VO-E ist, der bei Verstoß gegen die Verordnung empfindliche Sanktionen von bis zu EUR 30 Mio. bzw. 6% des gesamten weltweiten Jahresumsatzes vorsieht, je nachdem, welcher Betrag höher ist.

Ausblick

Die Bedeutung von KI im Arbeitsverhältnis und auch die Diskussion um ihren Einsatz wird nicht abreisen, sondern weiter zunehmen. Die Vorteile für Unternehmen, KI zu nutzen und in die bestehenden Arbeitsabläufe zu implementieren, liegen auf der Hand. Andererseits wird der Einsatz von KI und die damit im Zusammenhang stehenden juristischen Fragen Unternehmen auch künftig vor Herausforderungen stellen. Die gesetzgeberischen Entwicklungen sollten Unternehmen hierbei genau im Auge behalten. Über die geplante KI-VO hinaus sorgen jüngst auch die „Vorschläge für einen modernen Beschäftigtendatenschutz“ des BMAS und BMI für Diskussionsstoff. Die Bundesregierung beabsichtigt, einen sicheren Rechtsrahmen für KI-Anwendungen zu schaffen, wobei es spannend bleibt, ob die (geplante) Regulatorik mit der technischen Entwicklung Schritt halten wird.