Robot Recruiting – Mit Hilfe von KI zu einem objektivierten Bewerbungsverfahren?

Künstliche Intelligenz („KI“) wird immer häufiger zur Unterstützung bei Bewerbungen herangezogen. Ziel ist es, die HR-Prozesse zu automatisieren und zu optimieren, verbunden mit der Hoffnung, dass das Bewerbungsverfahren effizienter und objektiver wird. Dabei werden lernende Algorithmen nicht nur für die Suche von geeigneten Bewerber:innen, sondern auch für den Erstkontakt mit dem/der Bewerber:in genutzt. In diesem Beitrag beleuchten wir die rechtlichen Probleme der Nutzung von KI im Bewerbungsverfahren, insbesondere bezüglich des AGG, und zeigen Lösungsansätze auf.

Was ist KI?

Eine einheitliche Definition von KI gibt es nicht. Bezogen auf die Anwendung in Personalfragen lässt sich KI als lernender Algorithmus – also eine Vorschrift, die es einem Computer ermöglicht, eine Klasse von Problemen zu lösen – beschreiben. Dieser kann bestehende Datensätze eigenständig analysieren und durch Abgleich Muster erkennen. Der KI ist es so möglich, zu von einem Menschen definierten Zielen Vorhersagen zu treffen oder Empfehlungen „auszusprechen“. Robot Recruiting beschreibt die Automatisierung von Teilen des Bewerbungsverfahrens mithilfe eines Algorithmus.

Wie kann Robot Recruiting im Bewerbungsverfahren eingesetzt werden?

Robot Recruiting ist vielfältig anwendbar und kann in vielen Phasen des Bewerbungsprozesses von Nutzen sein. Stellenanzeigen können mithilfe von KI-Systemen so optimiert werden, dass potenzielle Bewerber:innen diese möglichst problemlos finden. Darüber hinaus können Chatbots hilfreich sein, um häufig gestellte Fragen zu sammeln. In einem nächsten Schritt können Chatbots diese Fragen beantworten oder sie an eine/n (andere/n) Mitarbeiter:in zur Beantwortung weiterleiten. Noch intensiver wird der Einfluss der KI, wenn im Rahmen des sogenannten „Resume-Parsing“ wesentliche Daten aus Lebensläufen oder Online-Profilen gefiltert werden, um eine Datenbank der Bewerber:innen aufzubauen. Hierbei kann eine Analyse der Qualität der eingehenden Bewerbungen auf Grundlage von festgelegten Kriterien vorgenommen und so automatisch geprüft werden, wer am besten ins Jobprofil passt.

Wo liegen die rechtlichen Problemfelder, v.a. im Zusammenhang mit dem AGG?

Aufgrund des breiten Anwendungsbereichs des Robot Recruiting kann die Nutzung von KI das Bewerbungsverfahren deutlich effizienter machen. Gleichzeitig vermittelt KI den Eindruck gesteigerter Objektivität bereits allein dadurch, dass in gewissen Phasen keine Entscheidungen von Menschen getroffen werden, die möglicherweise gewisse Stereotypen und diskriminierende Tendenzen (auch unbewusst) einfließen lassen. Die KI selbst diskriminiert nicht. Trotzdem kann es auch bei Nutzung von KI zu Diskriminierungen kommen, deren diskriminierungsrechtliche Konsequenzen sich aus dem Benachteiligungsverbot in § 7 Abs. 1 AGG ergeben.

Die Gründe hierfür können vielfältig sein. Die KI-Entscheidungen und Vorhersagen werden anhand von Gruppenwahrscheinlichkeiten getroffen. Dabei birgt gerade die Anknüpfung an eines der in § 1 AGG genannten Merkmale die Gefahr diskriminierender Effekte. Hinzu kommt, dass die Klassifizierungen anhand von Korrelationen vorgenommen werden, die für einen Außenstehenden nicht erkennbar sind.

Besonders kritisch wird es, wenn die KI anhand von mit diskriminierenden Tendenzen behafteten Datensätzen Entscheidungen trifft. Wenn in einem eingespeisten Datensatz beispielsweise mehr Männer als Frauen eingestellt wurden, übertragt der Algorithmus dieses Muster auf seine zukünftigen Entscheidungen. In diesem Fall werden Frauen automatisch prozentual weniger berücksichtigt.

Fazit

Unternehmen sollten ein besonderes Augenmerk darauf richten, auch beim Einsatz von KI Benachteiligungen zu vermeiden, auch um etwaige Schadensersatzansprüche auszuschließen. Bereits bei der Entwicklung der Algorithmen sollten diese auf diskriminierende Muster geprüft werden. Dies obliegt zwar an erster Stelle den Entwicklern der KI. Dennoch kann auch der die KI einsetzende Arbeitgeber dieser Problematik durch Testläufe vor der tatsächlichen Verwendung im Bewerbungsverfahren begegnen. Außerdem kann es hilfreich sein, HR und IT-Mitarbeiter:innen durch Antidiskriminierungsstellen beraten zu lassen, um zu verhindern, dass diskriminierende Auswahlkriterien in den Algorithmus eingebaut werden. Schließlich sind Mitbestimmungsrechte der Arbeitnehmervertretung zu berücksichtigen sowie datenschutzrechtliche Aspekte, insbesondere Art. 22 DSGVO, der Grenzen der Verarbeitung von Daten in diesem Zusammenhang aufzeigt. Unter Beachtung dieser Grundsätze kann die Nutzung von KI in Bewerbungsverfahren Ressourcen sparen und den Prozess effektiver gestalten.