Suche 
Mit der zunehmenden Integration von Künstlicher Intelligenz (KI) in die Arbeitswelt stehen Arbeitgeber vor neuen Herausforderungen, aber auch Chancen. Insbesondere sog. Hochrisikosysteme, die z. B. beim Recruiting, der Zuweisung von Aufgaben oder Leistungsbewertungen von Arbeitnehmern zum Einsatz kommen, bieten großes Potenzial. Die KI-Verordnung (VO 2024/1689) der Europäischen Union (EU) definiert klare Anforderungen an das Anbieten und Betreiben solcher Systeme. Arbeitgeber, die Hochrisikosysteme einsetzen, müssen sich sowohl der Chancen als auch den Pflichten bewusst sein, die mit dieser Technologie einhergehen. In diesem Blogbeitrag werfen wir einen Blick auf beide Aspekte.
I. Hochrisikosysteme im HR-Bereich
Bevor Arbeitgeber Maßnahmen ergreifen können, müssen sie zunächst feststellen, ob die von ihnen angebotenen oder genutzten KI-Systeme als Hochrisikosystem eingestuft werden.
Ob ein KI-System als Hochrisikosystem eingestuft wird, hängt nach der KI-Verordnung maßgeblich von seiner Zweckbestimmung, den Verwendungsmodalitäten sowie den möglichen Gefahren für Grundrechtseinschränkungen bei den Nutzern ab. In Anhang 3 der KI- Verordnung sind Bereiche und Anwendungsfälle, auch für den HR-Bereich, aufgelistet, die ausdrücklich als Hochrisikosystem eingestuft werden, unter anderem:
- Recruiting: KI-Systeme, die gezielt Stellenanzeigen schalten, Bewerbungen sichten oder filtern und Bewerber bewerten
- Zuweisung von Aufgaben an Mitarbeiter
- Beobachtung und Bewertung der Leistung und des Verhaltens von Mitarbeitern
- Beeinflussung der Entscheidungen zu individuellen Gehaltsanpassungen, Beförderungen, Abmahnungen oder Kündigungen
Geplant ist zudem die Errichtung einer EU-Datenbank für Hochrisikosysteme.
Die KI-Verordnung verfolgt zudem einen rollenbasierten Ansatz. Sie verteilt die Verantwortlichkeiten entlang der Wertschöpfungskette von KI-Anwendungen und unterscheidet zwischen Anbietern und Betreibern von KI-Systemen. Anbieter unterliegen strengeren Pflichten als Betreiber.
In der Regel werden Arbeitgeber als Betreiber einzuordnen sein.
Arbeitgeber sind Betreiber, wenn sie ein KI-System im Personalbereich in eigener Verantwortung verwenden. Um Anbieter eines KI-Systems zu sein, müssten Arbeitgeber ein KI-System entwickeln oder entwickeln lassen und es unter ihrem eigenen Namen in Verkehr bringen oder in Betrieb nehmen.
II. Chancen von Hochrisikosystemen für Arbeitgeber
Hochrisikosysteme bieten Arbeitgebern trotz der strengen Regulierungen zahlreiche Chancen. Der gezielte Einsatz solcher Systeme kann dabei helfen, Prozesse zu optimieren und fundiertere Entscheidungen zu treffen, während die Anforderungen der Verordnung gleichzeitig als Rahmen für Sicherheit und Vertrauen dienen.
1. Effizienzsteigerung und Kostenersparnis
Hochrisikosysteme können große Mengen an Daten in kürzester Zeit verarbeiten und präzise Vorschläge liefern, etwa beim automatisierten Recruiting, beim Screening von Bewerbungen oder bei internen Talentmanagement-Prozessen. KI kann beispielsweise anhand von Datenmodellen Vorhersagen treffen, welche Bewerber die höchste Eignung für eine Position mitbringen oder welche Mitarbeiter Potenzial für eine Beförderung haben. Dies führt zu einer drastischen Reduzierung der Bearbeitungszeit und der operativen Kosten. Arbeitgeber können sich stärker auf strategische Personalentscheidungen konzentrieren, während die KI Routineaufgaben übernimmt.
Insbesondere im Recruiting-Bereich ist jedoch zu prüfen und sicherzustellen, dass die KI bei ihrem Vorgehen nicht gegen das Allgemeine Gleichbehandlungsgesetz (AGG) verstößt, indem z. B. Bewerbende einer bestimmten Altersgruppe oder eines bestimmten Geschlechts besonders positiv bewertet werden.
2. Förderung von Diversität und Inklusion
Durch den Einsatz von Hochrisiko-KI-Systemen können Arbeitgeber gezielt Vorurteile in Personalentscheidungen reduzieren. Solche Systeme treffen Entscheidungen auf Basis objektiver Daten und Kriterien, was dazu beitragen kann, faire und diversitätsfördernde Einstellungsprozesse zu schaffen. Arbeitgeber, die Hochrisiko-KI-Systeme im Einklang mit den Anforderungen der Verordnung einsetzen, können so ihre Diversity-Strategien erheblich verbessern.
3. Mitarbeiterbindung und -entwicklung
Hochrisiko-KI-Systeme können auch in der Personalentwicklung und -bindung eingesetzt werden, indem sie beispielsweise die Leistung von Mitarbeitern analysieren, Weiterbildungsmöglichkeiten aufzeigen und individuelle Entwicklungspläne erstellen. Dadurch wird das Mitarbeiterengagement erhöht und Talente werden gezielt gefördert. Arbeitgeber können so das Potenzial ihrer Belegschaft besser nutzen und Fluktuation minimieren.
III. Pflichten für Arbeitgeber, die Hochrisikosysteme anbieten
Betreiber von Hochrisikosystemen müssen eine Reihe von Pflichten erfüllen. Diese zielen darauf ab, Transparenz, Sicherheit und den Schutz der Grundrechte der betroffenen Personen zu gewährleisten. Zu den Pflichten zählen insbesondere:
1. Vorprüfung
Eine umfassende Risikobewertung muss durchgeführt werden, bevor das Hochrisikosystem eingesetzt wird. Diese Bewertung sollte potenzielle Diskriminierungen und Verzerrungen in den Entscheidungen berücksichtigen, die durch fehlerhafte oder unausgewogene Daten entstehen könnten. Außerdem muss hier geprüft werden, ob das KI-System Funktionen beinhaltet, die nach der KI-Verordnung verboten sind. Sollte dies der Fall sein, ist der Einsatz der KI zu unterbinden. Vor Inbetriebnahme oder Verwendung müssen zudem die Arbeitnehmervertreter und die betroffenen Arbeitnehmer informiert werden. Diese Informationspflicht ist darauf gerichtet, die Arbeitnehmervertreter und betroffenen Arbeitnehmer darüber zu unterrichten, dass sie Gegenstand des Einsatzes des Hochrisiko-KI-Systems sein werden.
2. Sicherstellung der Nutzung im Rahmen der Betriebsanleitung und Zweckbindung
Betreiber müssen geeignete technische und organisatorische Maßnahmen ergreifen, um sicherzustellen, dass die Eingabedaten dem vorgesehenen Zweck des Hochrisikosystems entsprechen und hinreichend repräsentativ sind. Außerdem ist zu gewährleisten, dass das Hochrisikosystem im Rahmen der Betriebsanleitung verwendet wird. Darüber hinaus schreibt die KI-Verordnung eine kontinuierliche Überwachung des Systems während seines gesamten Lebenszyklus vor.
3. Schulungspflichten
Ein oft unterschätzter, aber nicht minder wichtiger Aspekt ist die Schulung der Mitarbeiter im Umgang mit Hochrisikosystemen. Arbeitgeber müssen sicherstellen, dass ihre Mitarbeiter entsprechend geschult sind und die potenziellen Risiken und Verantwortlichkeiten im Umgang mit den KI-Systemen kennen. Dies betrifft sowohl die technische Ebene (wie den Umgang mit spezifischen KI-Modellen und deren Sicherheit) als auch die ethischen Aspekte (z.B. die Auswirkungen von KI-Entscheidungen auf einzelne Mitarbeiter oder die Belegschaft). Diese Verpflichtung tritt, neben den anderen grundlegenden Bestimmungen des ersten Kapitels der KI-Verordnung, bereits ab dem 2. Februar 2025 in Kraft (für die zeitliche Anwendbarkeit der KI-Verordnung: https://kliemt.blog/2024/07/31/eu-ki-verordnung-tritt-in-kraft-diese-termine-sollten-sie-beachten/)
4. Menschliche Aufsicht
Der Einsatz des Hochrisikosystems ist durch menschliche Aufsicht zu überwachen. Arbeitgeber müssen gewährleisten, dass diese Aufsichtspersonen über die erforderliche Ausbildung verfügen, beispielsweise durch geeignete Trainingsprogramme.
5. Dokumentation
Hochrisikosysteme müssen eine automatische Aufzeichnung von Ereignissen während ihrer Verwendung durchführen, um eine Überwachung des Betriebs zu ermöglichen. Arbeitgeber müssen diese Protokolle für mindestens 6 Monate aufbewahren.
6. Überwachungs- und Meldepflichten
Die Überwachung eines Hochrisiko-KI-Systems ist eine zentrale Pflicht des Betreibers, um sicherzustellen, dass das System den Vorgaben der KI-Verordnung entspricht. Der Arbeitgeber muss regelmäßig überprüfen, ob das System im Einklang mit den rechtlichen und technischen Anforderungen betrieben wird, um potenzielle Risiken zu minimieren. Sollte es zu Verstößen gegen die KI-Verordnung kommen, wie beispielsweise durch Fehlfunktionen, unerwartete Ergebnisse oder Diskriminierungstendenzen, ist der Betreiber verpflichtet, den Anbieter des KI-Systems unverzüglich darüber zu informieren. Diese Meldung dient dazu, schnellstmöglich Korrekturmaßnahmen einzuleiten und die Sicherheit sowie den ordnungsgemäßen Betrieb des Systems wiederherzustellen. Zudem kann es erforderlich sein, den Vorfall auch den zuständigen Behörden zu melden, um den regulatorischen Anforderungen der KI- Verordnung gerecht zu werden.
7. Pflichten aus anderen Rechtsnormen gelten weiterhin
Arbeitgeber sind verpflichtet, bei dem Einsatz von KI alle weiteren einschlägigen unionsrechtlichen und nationalen rechtlichen Vorgaben zu beachten. Die KI-Verordnung ergänzt diese bestehenden Pflichten, ersetzt sie jedoch nicht. Insbesondere müssen Arbeitgeber zusätzlich die Anforderungen der DSGVO einhalten, wenn personenbezogene Daten mithilfe von KI-Systemen verarbeitet werden. Dazu gehören vor allem:
- Bestehen einer Rechtsgrundlage für die Verarbeitung der personenbezogenen Daten
- Transparenz und Informationspflichten: Verpflichtung, betroffene Personen umfassend über die Erhebung und Verarbeitung ihrer Daten zu informieren
- Datensparsamkeit und Zweckbindung
- Sicherstellung der Datensicherheit sowie die Rechenschafts- und Kooperationspflichten.
- Durchführung einer Datenschutz-Folgenabschätzung
- Verbot automatisierter Einzelentscheidungen wie Abmahnungen oder Kündigungen durch KI, zulässig: Unterstützung/Vorbereitung solcher Entscheidungen durch KI
- Wahrung der Betroffenenrechte, insbesondere Löschungs- und Auskunftsrecht
IV. Fazit
Durch die konsequente Umsetzung der Pflichten können Arbeitgeber die Chancen von KI-Systemen optimal nutzen, ohne dabei die Rechte und Interessen der betroffenen Personen zu gefährden. Die Einhaltung der KI-Verordnung ist nicht nur eine rechtliche Verpflichtung, sondern auch ein Wettbewerbsvorteil für Unternehmen, die verantwortungsvoll mit KI umgehen. Dies stärkt das Vertrauen von Mitarbeitern, Kunden und der Öffentlichkeit und trägt zu einem nachhaltigen und ethisch vertretbaren Einsatz von Hochrisikosystemen bei.
