EU-Parlament verabschiedet „AI Act“ – was deutsche Arbeitgeber wissen sollten

Ein US-amerikanischer Anwalt musste sich kürzlich in New York vor Gericht verantworten, weil er in seinen Schriftsätzen frei erfundene Rechtsprechung als Beleg für seine Rechtsauffassung zitiert hatte. Er hatte seinen Schriftsatz von ChatGPT erstellen lassen und die Zitate nicht überprüft. Die Europäische Union verhandelt seit 18 Monaten über den weltweit ersten Versuch, Künstliche Intelligenz (KI) umfassend zu regeln. Das EU-Parlament hat nun mit großer Mehrheit für den veränderten Entwurf des Artificial Intelligence Act gestimmt.

Stand des Gesetzgebungsverfahrens

Das EU-Parlament hat am 14. Juni 2023 über den Entwurf der Kommission abgestimmt und den ergänzten Gesetzesentwurf in das weitere Gesetzgebungsverfahren eingebracht. Es folgen nun Verhandlungen zwischen den EU-Mitgliedsstaaten und dem Ministerrat. Die Verordnung wird voraussichtlich in 2024 verabschiedet. Es ist damit zu rechnen, dass das Gesetz mit einer Übergangsfrist für die Umsetzung in Kraft treten wird, vermutlich 2025 oder 2026.

AI ist überall

Schon jetzt ist KI im Arbeitsleben allgegenwärtig. Aber erst durch die Verfügbarkeit von ChatGPT seit Ende November 2022 (GPT-3, seit März als GPT-4 begrenzt verfügbar) ist sie einer breiteren Öffentlichkeit ins Bewusstsein gerückt. Als KI definiert man selbst lernende Systeme, die mit Hilfe von Algorithmen Regeln aufstellen und anwenden, und dadurch wahrscheinliche Ergebnisse berechnen können, die aber nicht notwendigerweise richtig sein müssen.

Arbeitnehmer verwenden bereits jetzt, auch im Rahmen ihrer beruflichen Tätigkeit, KI:

• Sie nutzen Suchmaschinen wie Google oder Übersetzungsprogramme wie DeepL, denen jeweils ein Algorithmus zugrunde liegt.
• Der Sprachgenerator ChatGPT wird eingesetzt um, wie eingangs erwähnt, einen Schriftsatz zu entwerfen, eine Marketing-Präsentation vorzubereiten oder einen Text zusammenzufassen.

Unternehmen setzen Programme ein, die in Teilen KI nutzen:

• Ein großer Online-Händler setzt KI gesteuerte Roboter im Lager zum „Pick and Pack“ ein – Aussuchen der Waren im Hochregallager und Verpacken für den Versand.
• Ein anderer Online-Modehändler setzt KI zum Erfassen von Modetrends in Social Media und zur Bewertung der Beliebtheit von probeweise gefertigten Modellen ein.
• In Microsoft365 liefert KI Antwortvorschläge für Teams-Dialoge. Microsoft Delve stellt mit Hilfe von KI die Vernetzung zu Kolleginnen her, die an einem ähnlichen Thema arbeiten wie man selbst.
• KI wird eingesetzt in der Überwachung von Maschinen, meldet ungewöhnliche Kennzahlen oder Geräusche und entwirft ganze Textbausteine für Wartungsberichte.
• Im Onlinehandel werden Chatbots für die Kundenkommunikation im Service eingesetzt. Im Modehandel unterbreitet der KI-gesteuerte Kundenberater Modevorschläge.
• Die HR-Abteilung setzt Recruiting KI gestützte Programme für das aktive Sourcing geeigneter Mitarbeiter aus Social Media ein. Das Programm prüft diese Bewerber auf Eignung für die Profile der offenen Stellen in fachlicher und sozialer Hinsicht.

Bestehende arbeitsrechtliche Regelungen für die Nutzung von KI 

Der Einsatz von KI geschieht auch heute nicht im rechtsfreien Raum. Die Vorgaben des Datenschutzrechts, Persönlichkeitsschutzrechts und des Urheberrechts müssen beachtet werden. Arbeitgeber sollten schon jetzt Regelungen erlassen zum gesetzeskonformen Einsatz von generativen KI-Systemen wie ChatGPT oder von Übersetzungsprogrammen. Schon jetzt ist der beabsichtigte Einsatz von KI-Systemen mitbestimmt nach § 87 Abs. 1 Nr. 1 und Nr. 6 BetrVG. Im November 2022 hat der Gesetzgeber die Rechte des Betriebsrats beim Einsatz von KI erweitert. Der Betriebsrat hat ein Unterrichtungs- und Beratungsrecht beim geplanten Einsatz von KI, § 90 Abs. 1 Nr. 3 BetrVG. Bei der Aufstellung von KI gestützten Auswahlrichtlinien ist der Betriebsrat zu beteiligen, § 95 Abs. 2a BetrVG. Er hat ferner das Recht auf Hinzuziehung eines Sachverständigen beim Einsatz von KI-Systemen, § 80 Abs. 3 S. 2, 3 BetrVG (vgl. hierzu unser Blog vom 9.11.2022).

Der europäische Entwurf eines „AI Act“

Der europäische Entwurf ist der weltweit erste Versuch, den Einsatz von KI umfassend zu regeln. Erhofft wird eine Signalwirkung über die Grenzen von Europa hinaus. Der jetzt verabschiedete Entwurf des Artificial Intelligence Act (im Folgenden: Draft AI Act) enthält weiterhin den risikobasierten Ansatz des Kommissionsentwurfs, darüber hinaus aber viele Ergänzungen:

• Verboten sind jegliche Arten von KI, die den Menschen unterdrücken können. Dazu zählt etwa die Dauerüberwachung im öffentlichen Raum mittels biometrischer Erkennungssysteme, oder sogenanntes „Social Scoring“, eine dauerhafte soziale Verhaltensbewertung (Art. 5 Draft AI Act).
• Als Hoch-Risiko-AI (Art. 6 Draft AI Act) eingestuft werden Systeme, die einen Nutzen haben können, aber auch erhebliche Schäden anrichten können, wie z. B. das autonome Fahren, oder die Beeinflussung von Wählern. Die Verpflichtungen aus dem AI Act richten sich ausdrücklich auch an die Anwender solcher Systeme. Aus arbeitsrechtlicher Sicht wichtig ist der Einsatz von KI-Systemen bei der Auswahl von Bewerbern als Teil dieser Kategorie (Annex III, Abs. 1 Nr. 4a Draft AI-Act). Ein weiteres Beispiel sind Systeme, die über die Zulassung zu beruflichen und anderen Fortbildungen entscheiden (Annex III, Abs. 1 Nr. 3 a Draft AI-Act). Schließlich fallen in diese Kategorie auch Systeme, die Entscheidungen über Beförderungen, Versetzungen oder Kündigungen treffen, oder für die Überwachung und Bewertung von Verhalten und Leistung von Arbeitnehmern (Annex III, Abs. 1 Nr. 4b Draft AI Act). Hier müssen die Daten, mit denen die KI trainiert wird, so ausgewählt werden, dass Diskriminierungen nicht möglich sind. Der Anwender muss auf Systemsicherheit achten und dokumentieren, wie das System funktioniert. Ein Mensch muss die Anwendung überwachen. Der Anwender muss vor Einsatz des Systems eine Risikoanalyse durchführen.
• Als weniger riskant eingestuft ist der Einsatz von Chatbots etwa in Telefonhotlines. Hier muss klargestellt sein, wann die Antwort von einem Menschen und wann sie von der KI stammt.

Daneben hat das Parlament allgemeine Regelungen für alle Anwender und Entwickler von KI ergänzt (Art. 4a Draft AI-Act):

a) Menschlicher Überblick
b) Technische Verlässlichkeit
c) Schutz von Daten und Privatsphäre
d) Transparenz
e) Schutz vor Diskriminierung
f) Nachhaltigkeit und Umweltfreundlichkeit

Entwickler von Generator-KI wie dem Sprachgenerator ChatGPT müssen Transparenzanforderungen erfüllen. Sie müssen auf den Einsatz von KI hinweisen und dokumentieren, mit welchen Daten das System trainiert wurde. Schließlich ist die KI-Definition nun enger gefasst (Art. 3 Abs. 1 No. 1 AI-Act). Kritiker des Kommissionsentwurfs hatten behauptet, dessen KI-Definition würde jede Excel-Tabelle oder automatisierte Kaffeemaschine umfassen.

Welche Auswirkungen hat der Entwurf schon jetzt für deutsche Arbeitgeber?

Der Entwurf wird, wie eingangs erwähnt, voraussichtlich erst mit einer Übergangsfrist anwendbar werden. Schon jetzt mag aber der Gesetzesentwurf als „state of the art“ Signalwirkung haben für die Bewertungen in der Praxis auch von Behörden. Unternehmen und Arbeitgeber sollten die Vorgaben schon jetzt gründlich studieren und beachten. Die Entwicklung und Einführung von Software, sei sie KI-gestützt oder nicht, ist ein zeitaufwendiger und schwer umkehrbarer Prozess, nicht nur aufgrund der betrieblichen Mitbestimmung.

• Bereits jetzt ist es ratsam Regelungen zum Umgang mit AI-gestützten Systemen zu erlassen („ChatGPT Policy“). Einige große Konzerne und Banken haben die berufliche Nutzung von Sprachgeneratoren generell verboten. Es spricht aber auch einiges dafür, die Nutzung nicht generell zu verbieten. Allerdings müssen Arbeitnehmer darauf hingewiesen werden, keine personenbezogenen Daten in das System einzugeben, und keine Copyright Verstöße zu begehen. Auch sollten sie dafür sensibilisiert werden, dass Sprachgeneratoren nicht zwingend richtige Ergebnisse hervorbringen, sondern nur etwas, was wahrscheinlich und plausibel klingt, dass also jeder Entwurf aus ChatGPT kritisch und im Detail zu prüfen ist – etwas, was der eingangs erwähnte US-amerikanische Anwalt versäumt hatte!
• Es empfiehlt sich, daher schon jetzt den risikobasierten Ansatz des „AI Act“ in den internen Bewertungen zu übernehmen. Für den HR-Bereich und das Arbeitsrecht ist also insbesondere die Einstufung von KI-gestützten Recruiting Systemen als Hochrisiko-Einsatz von Bedeutung. Die Software eines renommierten europäischen Herstellers mag hier weniger Fragen aufwerfen als ein unbekanntes US-Produkt.
• Schon jetzt ist es ratsam, vor dem Einsatz von KI ein umfassendes Compliance Risk Assessment durchzuführen und zu dokumentieren. Darin sollten die Ziele des KI-Einsatzes festgehalten werden und gegen die Interessen der Beschäftigten sowie gegen sonstige Risiken von Compliance Verstößen abgewogen werden.
• Arbeitgeber, die KI entwickeln oder anwenden, werden künftig verpflichtet sein, ihre Beschäftigten im Umgang mit KI zu schulen („shall take measures to ensure a sufficient level of AI literacy of their staff…“, Art. 4b Draft AI-Act).