Die zunehmende Integration Künstlicher Intelligenz (KI) in Geschäftsprozesse hat unzählige Vorteile gebracht, insbesondere im Bereich der Personalgewinnung. Systeme, die Bewerberprofile analysieren und Empfehlungen aussprechen, versprechen Effizienzsteigerungen und eine schnellere Auswahl qualifizierter Kandidaten. Doch die am 19. Mai 2025 getroffene Entscheidung eines US-Bundesgerichts im Fall Mobley gegen Workday Inc. bietet ein eindrucksvolles Beispiel dafür, welche Herausforderungen und Risiken bei der Nutzung von KI-Systemen insbesondere in Bezug auf Diskriminierung bestehen können.
Ein Richter am Bundesgericht des Northern District of California wies Workdays Antrag zurück, die Klage wegen Altersdiskriminierung vorläufig abzuweisen und genehmigte stattdessen die Fortführung als Sammelklage. Der Fall wirft nicht nur rechtliche, sondern auch gesellschaftliche Fragen auf, die für Unternehmen weltweit von hoher Relevanz sind. Workday, ein großer Anbieter von Cloud-basierten HR- und Finanzmanagementlösungen, verfügt über eine KI-gestützte Bewerberempfehlungsplattform, die von zahlreichen Unternehmen genutzt wird, um Kandidaten für offene Stellen zu bewerten. Das Gericht erkennt nun an, dass das System möglicherweise Bewerber, die 40 Jahre oder älter sind, benachteiligt habe. Die Kläger, darunter der Hauptkläger Mobley und vier weitere Beteiligte, argumentieren, dass sie durch schnelle Ablehnungen ohne Vorstellungsgespräch benachteiligt wurden, wodurch das System gegen das Age Discrimination in Employment Act (ADEA) verstößt, das Personen ab 40 Jahren vor Diskriminierung schützt.
Das Gericht entschied, dass die Bewerber, die über Workdays Plattform abgelehnt wurden, genügend Gemeinsamkeiten aufweisen, um als Sammelklage zugelassen zu werden. Dabei war ausschlaggebend, dass sie „auf ungleicher Basis gegeneinander antraten, aufgrund der angeblich diskriminierenden Empfehlungen des KI-Systems“. Die Diskussionen, die vor Gericht stattfanden, offenbaren wichtige Aspekte darüber, wie Nachweispflichten bei Diskriminierungsfällen gegen KI vor Gericht gehandhabt werden. Um einen sogenannten disparaten Impact nachzuweisen, müssen die Kläger eine signifikante Benachteiligung einer geschützten Gruppe darlegen, das betroffene Beschäftigungsverfahren identifizieren und einen kausalen Zusammenhang zwischen Verfahren und Benachteiligung herstellen. Workday argumentierte, die Kläger sollten aufgrund des bereits begonnenen Entdeckungsverfahrens (Discovery) eine höhere Beweislast tragen.
Das Gericht lehnte diese Forderung mit der Begründung ab, dass dies eine strukturelle Erhöhung der Hürden für die Kläger darstellen würde. Besonders bemerkenswert ist die Einschätzung des Gerichts, dass selbst wenn die Zahl der betroffenen Bewerber in die „hunderten Millionen“ gehen sollte, dies kein Grund sei, die Sammelklage zu verweigern. Stattdessen wird dies vielmehr als Indiz dafür gewertet, dass ein breites Spektrum von Bewerbern von potenzieller Diskriminierung betroffen sein könnte. Diese Entscheidung hat weitreichende Konsequenzen für den Umgang mit KI im Personalbereich. Unternehmen, die KI-gestützte Auswahlverfahren einsetzen, sehen sich mit der Verantwortung konfrontiert, sicherzustellen, dass ihre Algorithmen nicht gegen Antidiskriminierungsgesetze verstoßen.
Die Methode der algorithmischen Bewertung birgt die Gefahr eingebauter Vorurteile, die sich entlang von Alter, Geschlecht oder ethnischer Herkunft zeigen können. Im Fall von Workday stellt sich die Frage, ob die KI-Modelle durch historische Daten trainiert wurden, die selbst bereits diskriminierende Muster enthalten, oder ob andere Faktoren innerhalb der Datenverarbeitung eine Verzerrung verursachen. Ein weiterer relevanter Punkt ist, wie Unternehmen die Fairness und Transparenz ihrer Algorithmen überprüfen. Der Fall Mobley gegen Workday hebt hervor, dass auch bei automatisierten Entscheidungen eine rechtliche Kontrolle notwendig ist, um potenzielle systemische Diskriminierung zu erkennen und zu verhindern. Zugleich wirft er die Frage auf, wie viel Einsicht Arbeitgeber und Softwareanbieter in die Funktionsweise komplexer KI-Systeme gewähren müssen, um die Gleichbehandlung aller Bewerber zu garantieren.
In Deutschland und der Europäischen Union gelten ähnliche rechtliche Bestimmungen, die Diskriminierung am Arbeitsplatz verbieten. Zudem ist die EU mit ihren Vorgaben zur Transparenz und Erklärbarkeit von KI-Systemen, etwa im Rahmen der geplanten KI-Verordnung, besonders wachsam gegenüber den Risiken von Bias in automatisierten Entscheidungen. Der Fall Workday dient als Warnung für alle Unternehmen, die digitale Rekrutierungstools einsetzen: Die Begeisterung für KI darf nicht dazu führen, dass grundlegende arbeitsrechtliche und ethische Standards vernachlässigt werden. Die social compliance und die Verantwortung gegenüber Bewerbern müssen sich in der Entwicklung und dem Einsatz von KI widerspiegeln. Potentielle Kandidaten haben Anspruch darauf, nicht durch undurchsichtige oder voreingenommene Algorithmen systematisch benachteiligt zu werden.
Das Urteil könnte außerdem Auswirkungen auf die Branche der Anbieter von KI-Lösungen für HR haben. Ein Gericht, das eine Sammelklage in einem so brisanten Fall zulässt, erhöht den Druck auf Unternehmen, umfassende Audits und kontinuierliche Überprüfungen der eingesetzten Algorithmen durchzuführen. Es zeigt sich, dass juristische Auseinandersetzungen dabei helfen können, Standards für Softwareentwickler und Nutzer zu setzen und somit faire Beschäftigungspraktiken zu fördern. Workday hingegen betont, dass der Fall sich noch im frühen Stadium befinde und die Vorwürfe nicht bewiesen seien. Ein Unternehmenssprecher ließ verlauten, dass sie überzeugt seien, dass die Klageentlastung erfolgen werde, sobald alle Fakten vor Gericht präsentiert seien.
Trotzdem wird eine mögliche Entscheidung in der Sache mit Spannung erwartet, da sie wegweisend für den Umgang mit Diskriminierungsvorwürfen im Zusammenhang mit KI sein könnte. Insgesamt verdeutlicht die Entscheidung, wie wichtig es ist, ethische Fragestellungen im Kontext Künstlicher Intelligenz eng mit juristischen Vorgaben zu verbinden. Unternehmen sollten proaktiv Maßnahmen ergreifen, um Diskriminierung zu vermeiden, transparente Prozesse etablieren und die Auswirkungen ihrer Systeme kontinuierlich evaluieren. Nur so können Technologie und Gerechtigkeit im Arbeitsmarkt in Einklang gebracht werden. Die Klage gegen Workday und deren Zulassung als Sammelverfahren markieren einen Wendepunkt im Dialog über KI im Human Resource Management und die Sicherstellung von Gleichbehandlung für alle Bewerber, unabhängig von Alter oder anderen geschützten Merkmalen.
Die kommenden Monate und Jahre werden zeigen, wie sich die Rechtsprechung weiterentwickelt und welche Maßnahmen Unternehmen ergreifen, um der Verantwortung gerecht zu werden, die der Einsatz von Künstlicher Intelligenz mit sich bringt.
