Wie viel Einfluss sollte künstliche Intelligenz auf Entscheidungen über Mitarbeitende haben? Diese Frage steht derzeit auch bei Meta im Raum. 26 aktuelle und ehemalige Beschäftigte haben in Kalifornien Klage gegen den Konzern eingereicht. Sie werfen Meta vor, bei einer größeren Entlassungsrunde KI-gestützte Systeme, Leistungsdaten und algorithmisch unterstützte Bewertungen eingesetzt zu haben. Nach Darstellung der Kläger sollen dabei auch Kennzahlen zur Nutzung interner KI-Werkzeuge berücksichtigt worden sein.
Die Kläger befürchten, dass dadurch unter anderem Beschäftigte benachteiligt worden sein könnten, die wegen Elternzeit, Krankheit oder familiärer Gründe abwesend waren. Meta weist die Vorwürfe zurück und betont, dass die Personalentscheidungen von Menschen getroffen worden seien.
Der Fall ist noch nicht abschließend entschieden. Für Unternehmen ist die dahinterstehende Frage dennoch relevant: Was passiert, wenn KI nicht mehr nur Arbeit unterstützt, sondern Entscheidungen über Menschen vorbereitet oder beeinflusst?
Daten erklären nicht automatisch Leistung
KI kann große Datenmengen analysieren und Muster erkennen. Ein System kann etwa feststellen, dass jemand weniger Projekte abgeschlossen oder bestimmte Anwendungen seltener genutzt hat.
Was die Daten nicht automatisch erklären: warum das so war. Genau darin liegt ein wesentliches Compliance-Risiko. Leistungskennzahlen können objektiv erscheinen, ohne den tatsächlichen Kontext ausreichend abzubilden. Elternzeit, Krankheit, besondere Aufgaben oder unterschiedliche Tätigkeitsprofile können eine Bewertung erheblich beeinflussen.
Unternehmen müssen deshalb nachvollziehen können, welche Kriterien in eine KI-gestützte Bewertung einfließen und ob diese für den jeweiligen Zweck überhaupt geeignet sind.
Der AI Act nimmt Personalentscheidungen ernst
Auch der EU AI Act trägt der besonderen Sensibilität von KI im Personalbereich Rechnung. Bestimmte Systeme, die beispielsweise im Recruiting, bei Leistungsbewertungen, Beförderungen oder Entscheidungen über Arbeitsverhältnisse eingesetzt werden, können als Hochrisiko-KI eingestuft werden. Das bedeutet nicht, dass jedes KI-Tool in einer Personalabteilung automatisch Hochrisiko-KI ist. Entscheidend ist der konkrete Verwendungszweck und der tatsächliche Einfluss auf eine Entscheidung.
Für Unternehmen folgt daraus eine zentrale Frage: Unterstützt die KI lediglich – oder bestimmt sie faktisch mit, wie über einen Menschen entschieden wird?
„Ein Mensch entscheidet“ allein genügt nicht
Dass am Ende formal ein Mensch entscheidet, ist wichtig. Entscheidend ist aber auch, ob diese Person das Ergebnis der KI tatsächlich kritisch prüfen kann. Wer lediglich eine automatisch erzeugte Empfehlung oder Rangliste übernimmt, ohne Kriterien und Grenzen des Systems zu verstehen, schafft noch keine wirksame menschliche Kontrolle. Deshalb sollten Unternehmen vor dem Einsatz klären: Welche Rolle hat die KI? Welche Kriterien darf sie berücksichtigen? Wer prüft ihre Ergebnisse? Und wer kann einer Empfehlung widersprechen?
KI im HR braucht klare Leitplanken
Gerade bei Personalentscheidungen sollte KI-Governance nicht erst dann beginnen, wenn ein Konflikt entsteht. Unternehmen sollten wissen, welche KI-Systeme im Personalbereich eingesetzt werden, welche Entscheidungen sie unterstützen und welche internen Regeln gelten. Zuständigkeiten, Freigaben und menschliche Kontrollmechanismen sollten nachvollziehbar festgelegt sein.
Dabei geht es nicht darum, KI aus dem Personalbereich zu verbannen. Sie kann Prozesse sinnvoll unterstützen. Problematisch wird es dort, wo Unternehmen selbst nicht mehr erklären können, wie eine Empfehlung entstanden ist und welchen Einfluss sie auf die Entscheidung hatte.
Der Meta-Fall zeigt deshalb vor allem eines: KI im Personalbereich ist nicht nur ein Technologie- oder HR-Thema. Sie ist auch eine Frage guter Compliance und klarer Unternehmensorganisation.