Diskriminierung und KI

KI-Anwendungen werden immer mehr normaler Bestandteil von Computerprogrammen. Sie können einem Unternehmen viel Nutzen bringen, indem Effizienz gesteigert und Kosten erspart werden. Das gilt auch für den HR-Bereich. Dabei muss jedoch sichergestellt werden, dass die KI-Systeme keine Bewerber oder Mitarbeiter diskriminieren und dadurch potentielle Schadensersatzrisiken für den Arbeitgeber schaffen. Grundlagen Was rechtlich unter einer KI verstanden wird, wird in Art. 3 Nr. 1 KI-Verordnung definiert….

Künstliche Intelligenz im HR-Bereich: Chancen und Pflichten bei Hochrisikosystemen nach der KI-Verordnung

Mit der zunehmenden Integration von Künstlicher Intelligenz (KI) in die Arbeitswelt stehen Arbeitgeber vor neuen Herausforderungen, aber auch Chancen. Insbesondere sog. Hochrisikosysteme, die z. B. beim Recruiting, der Zuweisung von Aufgaben oder Leistungsbewertungen von Arbeitnehmern zum Einsatz kommen, bieten großes Potenzial. Die KI-Verordnung (VO 2024/1689) der Europäischen Union (EU) definiert klare Anforderungen an das Anbieten und Betreiben solcher Systeme. Arbeitgeber, die Hochrisikosysteme einsetzen, müssen sich…

Einsatz von KI ohne Mitbestimmung des Betriebsrats – geht das? und wenn ja, wie?

Frage an ChatGPT: „Welche Anwendungsmöglichkeiten haben KI-Systeme im Arbeitsalltag?“ Antwort von ChatGPT: „KI-Systeme im Arbeitsalltag automatisieren repetitive Aufgaben, unterstützen bei Analysen und Entscheidungen, verbessern den Kundensupport, und optimieren Prozesse in Bereichen wie Personalwesen, Marketing, Finanzwesen, Produktentwicklung, Supply Chain Management, IT und Cybersicherheit sowie Gesundheitswesen.“ KI-Einsatz kann Kosten senken und die Effizienz von Unternehmen steigern. Als Arbeitgeber auf KI zu verzichten, kann zu ökonomischen und zu…

Der „AI Act“ steht in den Startlöchern – Welche Herausforderungen kommen auf Unternehmen zu?

Kürzlich haben sich Europäischer Rat und Europäisches Parlament auf einen finalen Text des Artificial Intelligence Act („AI Act“) verständigt. In diesem Beitrag geben wir einen Überblick zu den wesentlichen Neuerungen des finalen Entwurfs und zeigen, welche Herausforderungen auf Unternehmen zukommen. Nachdem die Europäische Kommission erstmals im April 2021 einen Vorschlag für eine EU-Verordnung zur Künstlichen Intelligenz vorgelegt hatte, stimmte das EU-Parlament im Juni 2023 über…

Regulierung von ChatGPT und Co? – Aktueller Stand zur KI-Verordnung

In den vergangenen Wochen und Monaten wurde viel über ChatGPT gesprochen und wie diese und andere KI-Anwendungen die Arbeitswelt und unsere Gesellschaft verändern werden. Die zuletzt durch künstliche Intelligenz geschaffenen Bilder von Donald Trump bei dessen Verhaftung zeigen, was künstliche Intelligenz aktuell schon schaffen kann. Auch wenn das Europäische Parlament und der Rat die Verordnung zur KI noch nicht verabschiedet haben, haben sie sich früh…