KI im mitbestimmten Betrieb: Wie schaffen Unternehmen Verständnis und Vertrauen?

Seitdem die EU-Kommission im April 2021 den Entwurf für den weltweit ersten Rechtsrahmen für vertrauenswürdige Künstliche Intelligenz vorgelegt hat, ist das Thema wieder in aller Munde. Die Verordnung soll den Rechtsrahmen für einen sicheren, transparenten und kontrollierbaren Einsatz von KI-Systemen schaffen. Wann und in welcher Form sie kommt, ist noch unklar. In der Zwischenzeit blicken wir in diesem Beitrag auf konkrete Fragen zum Einsatz von KI (auch aus der Perspektive der betrieblichen Mitbestimmung) und geben Best-Practice-Beispiele.

Die Suche nach einem gemeinsamen Verständnis

Die Beantwortung dieser Fragen kann nicht auf den Abschluss des EU-Gesetzgebungsverfahren warten. Dabei beschränkt sich die arbeitsrechtliche Diskussion nicht auf den Einsatz von KI bei klassischen Personal-Themen wie z.B. bei Auswahlentscheidungen in Bewerbungsverfahren. KI wird vielmehr zunehmend Grundlage oder jedenfalls Teil des Business Cases von Unternehmen. Zugleich nimmt das Tempo der technologischen Entwicklungen zu und das Risiko wächst, dass die KI-spezifischen Fragen innerhalb der Unternehmensgremien vom Betriebs- bis zum Aufsichtsrat zum Dealbreaker mutieren und so notwendige Transformationsprozesse verlangsamen.

Konzepte verstehen statt Festhalten an sich überholenden Definitionen: Künstliche Intelligenz als neuer (Rechts-)Begriff

Erste Probleme treten schon bei dem Versuch auf, künstliche Intelligenz (juristisch) zu definieren oder gar mit einfachen Worten zu erklären. Das verwundert nicht, es handelt sich schließlich um eine komplexe Thematik, die oftmals auch Informatiker an die Grenzen ihrer Artikulationsmöglichkeiten bringt. Eine starre Definition ist ohnehin bedingt geeignet, um mit der Geschwindigkeit des Fortschritts in dem Bereich mithalten zu können. Damit die rechtliche Einordnung nicht von technischer Innovation abgehängt wird, empfiehlt es sich daher, künstliche Intelligenz weniger als Begriff und mehr als Konzept zu begreifen: KI zeichnet sich dadurch aus, dass eine mathematische Maschine hergestellt wird, die menschliches Verhalten algorithmisiert. Das heißt, eine Maschine, die sich auf eine Art verhält, die wir intelligent nennen würden, wenn sich ein Mensch so verhielte.

Man unterscheidet weiter in starke und schwache KI:

• „Starke“ KI ist die Form der künstlichen Intelligenz, die die gleichen intellektuellen Fertigkeiten wie ein Mensch hat oder ihn darin sogar übertrifft. Das System findet nicht nur vorgegebene Probleme, sondern identifiziert neue selbst und entwickelt Lösungen. Die vielfach in Filmen überstrapazierte Vorstellung spielt praktisch keine Rolle, es handelt sich bislang um ein theoretisches Konzept.
• „Schwache“ KI wertet eingespeiste Daten aus und präsentiert nach einem (komplexen) Berechnungsvorgang ein spezifisches, aber vordefiniertes Ergebnis. Der KI-Teilbereich des „Machine Learnings“ und dessen Unterform des „Deep Learnings“ folgen dem gleichen Prinzip, allerdings können sie selbstständig aus Daten lernen und sich verbessern und teils auch unstrukturierte Daten auswerten.

Die Schwierigkeit liegt darin, dass durch eine Vielzahl aneinandergereihter und aufeinander aufbauender Algorithmen ein Ergebnis erzielt wird, dessen Entstehungsprozess aufgrund der Vielzahl der Verknüpfungsmöglichkeiten nur noch bedingt nachvollzogen werden kann.

Woher wir kommen: Stoßrichtung der Beteiligungsrechte des Betriebsrats

Der Einsatz von KI triggert – wie der Einsatz jeder anderen Software – häufig die Mitbestimmungsrechte des Betriebsrats, vor allem das in § 87 Abs. 1 Nr. 6 BetrVG verankerte Mitbestimmungsrecht bei Einführung und Anwendung von technischen Einrichtungen. Dessen originärer Schutzzweck ist es, Arbeitnehmer vor dem Einsatz technischer Einrichtungen zu schützen, die in der Lage sind, das (Leistungs-)Verhalten der Arbeitnehmer zu überwachen.

Aber was heißt das im Kontext intelligenter Systeme? Für die Entwicklung von KI werden zunächst Rohdaten genutzt, die aufbereitet und skaliert werden. Danach wird das Netz der Algorithmen erstellt, mit Daten trainiert und dessen Vorhersagegenauigkeit getestet. Schließlich wird das System selbst genutzt, d.h. Daten für die durch das System zu bewertenden Fallkonstellationen eingegeben und ausgewertet. Auf all diesen Stufen werden Daten genutzt. Wenn auf der ersten Ebene, also für Erstellung und Training der KI, Daten von Arbeitnehmern verwendet werden, ist das System fähig, das (Leistungs-)Verhalten der Arbeitnehmer zu analysieren und zu verarbeiten. Eine Überwachung ist auch bei der späteren Nutzung denkbar, wenn nachvollzogen werden kann, ob und wann die Arbeitnehmer das System genutzt haben, oder wenn z.B. auf Basis der eingespeisten Daten auf das individuelle zukünftige Verhalten geschlossen werden kann.

Ohne die zwingende Mitbestimmung des Betriebsrates gem. § 87 Abs. 1 Nr. 6 BetrVG kann KI in all diesen Settings daher nicht rechtssicher eingeführt und angewendet werden. Im Einzelfall kann in der Einführung von KI sogar eine Betriebsänderung i.S.d. § 111 BetrVG liegen, die zu Interessenausgleichsverhandlungen führt, wenn die Nutzung z.B. als „Einführung grundlegend neuer Arbeitsmethoden und Fertigungsverfahren“ zu bewerten ist und eine Mindestanzahl von Arbeitnehmern davon betroffen ist. Zwingend notwendig ist eine Beteiligung des Betriebsrates zudem, wenn KI in Bewerbungsverfahren eingesetzt wird und so (mittelbar) Auswahlrichtlinien i.S.d. § 95 BetrVG erstellt werden, wie seit kurzem auch § 95 Abs. 2a BetrVG klarstellt. KI, die in Bewerbungsprozessen etwa bei der Sprachanalyse oder der Auswertung von Gesichtsmimik zum Einsatz kommt, ist auch mit dem Allgemeinen Gleichbehandlungsgesetz (AGG) in Einklang zu bringen, um die Gefahr diskriminierender Auswahlentscheidungen zu reduzieren.

Neuerungen durch das Betriebsrätemodernisierungsgesetz

Die neuen Herausforderungen im Zusammenhang mit dem Einsatz von KI hat der Gesetzgeber erkannt und im Betriebsrätemodernisierungsgesetz adressiert. Der Betriebsrat hat nun z.B. stets einen Anspruch, bei der Einführung von künstlicher Intelligenz einen Sachverständigen hinzuziehen. Die Notwendigkeit eines solchen Sachverständigen muss nicht mehr dargelegt werden, sondern wird vermutet. Der Lösungsansatz ist ehrenwert, allerdings bleibt zu befürchten, dass der Pool der Sachverständigen, die mit Schnittstellenwissen im Bereich der Informatik und des Betriebsverfassungsrechts die Funktionsweise und Reichweite einer KI verständlich erklären können, vergleichsweise klein ist.

Best Practice bei Einführung und Einsatz von KI im Verhältnis zum Betriebsrat

Anstelle sich auf die kostenintensive Beratung von Sachverständigen zu verlassen, die die verwendete KI im Zweifel nicht entwickelt haben, sollten Unternehmen daher selbst vorsorgen, damit die betriebliche Mitbestimmung die Einführung und Nutzung von KI nicht blockiert.

Beim Einsatz von KI sorgt vor allem der Umstand, dass nicht jede Entscheidung im Einzelnen nachvollzogen werden und das System nicht einfach erklärt werden kann, für eine Unsicherheit und Misstrauen. Die vermeintliche Unvorhersehbarkeit oder fehlende Nachvollziehbarkeit führt jedoch nicht dazu, dass der Prozess als solcher nicht vertrauenswürdig ist. Die Implementierung klappt daher trotz der komplexen Vorgänge, wenn die folgenden Punkte beachtet werden:

• Die Unternehmen, die KI einsetzen, müssen sicherstellen, dass sie selbst als Verwender, aber auch die Nutzer und die Betriebsräte nachvollziehen können, dass die Prämissen, unter denen das System arbeitet, und die Daten, mit denen es trainiert wurde, repräsentativ, gut aufbereitet und vertrauenswürdig sind.
• Es muss eine klare Antwort darauf geben, welche Daten von welchen Arbeitnehmern zu welchen Zwecken genutzt werden, ob und inwieweit sie anonymisiert werden und welches Ergebnis sich der Arbeitgeber von der künstlichen Intelligenz verspricht. Datenschutzrechtliche Transparenz und Compliance ist Teil einer guten Vorbereitung für jede Verhandlung über Software. Der Betriebsrat ist zwar nicht der zentrale Arbeitnehmer-Datenschutzbeauftragte, allerdings wird die Denkblockade „Datenschutz“ gern ins Feld geführt, wenn hier keine Klarheit herrscht und die Diskussion komplexer wird.
• Die Vorteile des Einsatzes der KI für die Belegschaft müssen klar kommuniziert werden, um die Akzeptanz zu steigern. Letztlich ist der Einsatz von KI oftmals nicht nur für den Business Case relevant, sondern kann auch für die Arbeitnehmer eine Verbesserung der Arbeitsbedingungen darstellen und langfristig der Sicherung von Arbeitsplätzen dienen.

Was schließlich neben den Unternehmen auch deren Berater brauchen, ist ein vertiefendes Hintergrundwissen und ein breiteres, gemeinsames Verständnis. Interdisziplinäre Zusammenarbeit schult und Neugierde hilft. Und wenn man trotzdem an die Grenzen gerät: Die neu entstandene Berufsgruppe der „Explainable AI-Experten“ hat sich auf exakt solche Situationen spezialisiert.

Dieser Beitrag entstand mit der freundlichen Unterstützung von Jana Meyerhoff, wissenschaftliche Mitarbeiterin im Hamburg Büro.