KI-Kompetenz im Unternehmen – Pflicht!

Die europäische KI-Verordnung („KI-VO“) verfolgt das Ziel, spezifische Risiken zu regulieren, die sich aus der Entwicklung und dem Einsatz von künstlicher Intelligenz („KI“) ergeben. Eine zentrale Rolle spielt dabei die sogenannte KI-Kompetenz. Was genau darunter zu verstehen ist, wen die Pflicht zur Vermittlung von KI-Kompetenz betrifft und warum Arbeitgeber spätestens jetzt aktiv werden müssen, zeigt dieser Beitrag.

Was gilt wann gemäß KI-VO?

Die KI-VO ist am 1. August 2024 in Kraft getreten, ihre Vorschriften werden jedoch schrittweise wirksam. Bereits seit dem 2. Februar 2025 gelten die Bestimmungen über verbotene KI-Praktiken. Zum 2. August 2025 wurden weitere Regelungen wirksam, die vor allem öffentliche Stellen betreffen. Für Unternehmen besonders bedeutsam wird der 2. August 2026: Ab diesem Datum entfaltet der Großteil der Regelungen der KI-VO Rechtswirkung. Hierzu zählen unter anderem auch die für das Arbeitsrecht äußerst relevanten Vorschriften zu Hochrisiko-KI-Systemen im Bereich Beschäftigung und Personalmanagement. Ab diesem Zeitpunkt müssen etwa bei automatisierten Bewerbungsprozessen oder Personalentscheidungen spezielle Anforderungen und Pflichten beachtet werden, wenn KI zum Einsatz kommt. Ein Jahr später, ab dem 2. August 2027, gelten schließlich die Vorschriften für Hochrisiko-KI-Systeme, die als sicherheitsrelevante Komponenten in bestimmten regulierten Produkten eingesetzt werden oder selbst solchen Produkten entsprechen und daher einer Drittbewertung unterliegen.

Risikounabhängig und damit bereits heute für sämtliche KI-Systeme verbindlich ist Art. 4 KI-VO. Die Vorschrift verpflichtet Anbieter und Betreiber, sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen.

Zoom in Art. 4 KI-VO: Was bedeutet das für Arbeitgeber?

Die Verordnung definiert „KI-Kompetenz“ als Fähigkeiten, Kenntnisse und Verständnis, um KI-Systeme sachkundig einzusetzen sowie deren Chancen, Risiken und mögliche Schäden zu erkennen. In der Sache umfasst dies ein technisches Know-How sowie rechtliche und ethische Aspekte, beispielsweise im Hinblick auf Datenschutz- und Diskriminierungsrisiken. Die mit KI befassten Personen müssen ein hinreichendes Verständnis für Funktionsweise und Grenzen der eingesetzten Anwendungen haben, etwa bezüglich Verzerrungen durch Trainingsdaten (Biases) oder fehlerhafte Ausgaben (Halluzinationen). Wann ein ausreichendes Maß an KI-Kompetenz erreicht ist, hängt vom jeweiligen Einzelfall ab. Dabei sind sowohl die technischen und rechtlichen (Vor-)Kenntnisse als auch die Ausbildung, Erfahrung und der jeweilige Einsatzkontext zu berücksichtigen, ebenso wie die Personen oder Gruppen, auf die sich der KI-Einsatz bezieht.

Art. 4 KI-VO nimmt den Arbeitgeber in die Pflicht, da dieser regelmäßig Betreiber des KI-Systems ist. Damit trägt er die Verantwortung dafür, dass seine Arbeitnehmer im Umgang mit KI die erforderliche Kompetenz aufweisen. Dabei genügt es jedoch nicht, lediglich auf die Bedienungsanleitung eines KI-Systems zu verweisen oder auf allgemeine Datenschutzschulungen zurückzugreifen. Auch standardisierte Onboardings oder unkonkrete Hinweise im Intranet werden die Anforderungen der KI-VO nicht erfüllen können. Arbeitgeber dürften vielmehr verpflichtet sein, konkrete und zielgerichtete Maßnahmen zu ergreifen. Dazu gehören insbesondere zielgruppengerechte Schulungen, etwa für HR-Abteilungen, Führungskräfte, IT-Verantwortliche oder sonstige Beschäftigte, die mit dem Einsatz von oder der Aufsicht über KI-Systeme betraut sind.

Risiken bei fehlender Kompetenzvermittlung

Obwohl die KI-VO für Verstöße gegen Art. 4 KI-VO kein explizites Bußgeld vorsieht, handelt es sich keineswegs um eine Vorschrift mit bloßem „Appellcharakter“. Denn Art. 99 Abs. 1 KI-VO fordert die Mitgliedstaaten auf, für Verstöße gegen die Verordnung wirksame, verhältnismäßige und abschreckende Sanktionen vorzusehen. Sofern entsprechende nationale Regelungen geschaffen werden, können bei mangelnder KI-Kompetenz also durchaus rechtliche Konsequenzen drohen. Zudem besteht nach Art. 85 Abs. 1 KI-VO die Möglichkeit einer Beschwerde bei der Marktüberwachungsbehörde, wenn ein Verstoß gegen eine Bestimmung der Verordnung angenommen wird. Unabhängig von behördlichen Verfahren kann eine unzureichende KI-Kompetenz auch zivilrechtliche Haftungsrisiken mit sich bringen. Fehlt es an der erforderlichen Sachkunde im Umgang mit KI-Systemen, kann dies im Streitfall als Verletzung einer Sorgfaltspflicht oder eines Schutzgesetzes gewertet werden. Im Übrigen führen unkontrollierte Datenabflüsse aufgrund unsachgemäßer Nutzung der KI-Systeme auch zu Imagerisiken fürs Unternehmen.

Welche konkreten Maßnahmen empfehlen wir?

Um der Pflicht zur Sicherstellung von KI-Kompetenz nachzukommen, empfehlen wir folgende Maßnahmen:

• Ein zentraler Baustein sind praxisnahe Schulungen, die sich individualisiert an die jeweilige Zielgruppe richten und die wesentlichen Verpflichtungen aus KI-VO sowie DSGVO vermitteln. Dabei benötigt etwa die Personalabteilung andere Inhalte als Führungskräfte oder IT-Verantwortliche. Während in HR-Schulungen z. B. der Einsatz von KI im Bewerbungsverfahren im Fokus stehen kann, geht es bei Führungskräftetrainings um Fragen der Verantwortung beim KI-Einsatz im Team.
• Ebenso empfehlenswert ist die Entwicklung unternehmensspezifischer Richtlinien zum KI-Einsatz. Klare, schriftlich fixierte Regeln schaffen Transparenz und Handlungssicherheit im Arbeitsalltag. Dazu gehören Vorgaben, wer welche KI-Systeme zu welchem Zweck nutzen darf, wie weit der Einsatz – auch mit Blick auf vertrauliche Unternehmensdaten – gehen darf und wann zwingend menschliche Kontrolle erforderlich ist. Auch interne Hinweis- oder Beschwerdemechanismen können vorgesehen werden, um Beschäftigten die Möglichkeit zu geben, KI-bezogene Bedenken frühzeitig zu adressieren.
• Zur strategischen Begleitung des KI-Einsatzes im Unternehmen kann zudem die Einrichtung eines interdisziplinären AI Committees sinnvoll sein. Ein solches Gremium – u. a. besetzt mit Vertretern aus HR, IT, Compliance und Datenschutz – kann unter anderem den Rollout neuer Systeme begleiten und passende Schulungsmaßnahmen anstoßen sowie koordinieren. Unternehmen, die nicht direkt ein AI Committee bilden wollen, könnten alternativ einen KI-Beauftragten mit entsprechendem Aufgabengebiet ernennen.

Wir von KLIEMT begleiten Sie gerne beim KI-Einsatz im Unternehmen – von der Durchführung individualisierter Schulungen über die Entwicklung geeigneter Richtlinien bis hin zur Verhandlung von Betriebsvereinbarungen.