Shadow AI im Unternehmen – Was Arbeitgeber jetzt regeln sollten

Generative KI gehört in den allermeisten Unternehmen zum Alltag. Beschäftigte lassen E-Mails formulieren, Präsentationen strukturieren, Excel-Formeln oder Codes erstellen sowie Texte zusammenfassen. Nicht immer geschieht dies jedoch mit den vom Arbeitgeber freigegebenen Anwendungen. Stattdessen werden häufig private Accounts oder frei zugängliche KI-Systeme genutzt – vielfach ohne Wissen des Arbeitgebers.

Dieses Phänomen wird als „Shadow AI“ bezeichnet: die Nutzung von KI-Anwendungen außerhalb der vom Unternehmen vorgesehenen oder genehmigten IT-Infrastruktur. Während sich die Diskussion bislang vor allem auf Datenschutz- und IT-Sicherheitsrisiken konzentriert hat, wirft Shadow AI zugleich zahlreiche arbeitsrechtliche Fragen auf. Arbeitgeber sollten sich deshalb nicht allein auf technische Schutzmaßnahmen verlassen, sondern klare organisatorische und arbeitsrechtliche Leitplanken schaffen.

Was ist Shadow AI genau?

Der Begriff lehnt sich an die seit Jahren bekannte „Shadow IT“ an – die Nutzung digitaler Anwendungen ohne Freigabe oder Kontrolle durch die IT-Abteilung des Arbeitgebers. Im Bereich der künstlichen Intelligenz hat das Phänomen allerdings eine neue Dimension erreicht. Während früher häufig einzelne Programme auf Dienstgeräten installiert wurden, genügen heute wenige Klicks, um über browserbasierte Anwendungen hochleistungsfähige KI-Modelle einzusetzen – ohne jede Rückverfolgbarkeit durch den Arbeitgeber.

Die Gründe liegen auf der Hand: Generative KI verspricht erhebliche Produktivitätsgewinne. Beschäftigte können Routineaufgaben schneller erledigen, Texte entwerfen oder Informationen aufbereiten. Gleichzeitig sind viele Anwendungen kostenlos verfügbar und ohne technische Hürden nutzbar. Die Versuchung ist daher groß, auch ohne ausdrückliche Genehmigung des Arbeitgebers auf entsprechende Systeme zurückzugreifen.

Warum Shadow AI Arbeitgeber betrifft?

Die Risiken beschränken sich nicht auf den Verlust vertraulicher Informationen. Der Einsatz nicht freigegebener KI-Anwendungen berührt vielmehr unterschiedliche Rechtsgebiete gleichzeitig.

Datenschutzrecht: Werden personenbezogene Daten – etwa Kunden-, Mitarbeiter- oder Geschäftsdaten – in öffentliche KI-Systeme eingegeben, liegt darin regelmäßig eine Verarbeitung personenbezogener Daten im Sinne der DSGVO, für die weder eine Rechtsgrundlage noch ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO besteht. Hinzu kommt, dass viele KI-Anbieter ihre Server in Drittstaaten betreiben; eine Datenübermittlung außerhalb des EWR ist nur unter den engen Voraussetzungen der Art. 44 ff. DSGVO zulässig. Fehlen entsprechende Garantien, drohen empfindliche Bußgelder nach Art. 83 DSGVO.

Schutz von Geschäftsgeheimnissen: Vertragsentwürfe, Kundendaten, Kalkulationen oder technische Unterlagen können Geschäftsgeheimnisse im Sinne von § 2 Nr. 1 GeschGehG darstellen. Der gesetzliche Schutz setzt nach § 2 Nr. 1 lit. b GeschGehG jedoch voraus, dass der Geheimnisinhaber angemessene Geheimhaltungsmaßnahmen getroffen hat. Unternehmen, die keinerlei Vorgaben zur KI-Nutzung machen, riskieren daher, den Schutz ihrer Geschäftsgeheimnisse zu verlieren – selbst wenn Beschäftigte ohne böse Absicht interne Daten in externe Systeme übertragen.

Urheberrecht: Werden urheberrechtlich geschützte Unterlagen des Unternehmens oder Dritter – etwa Vertragstexte, Gutachten oder Software – in KI-Systeme eingespeist, können Fragen der Vervielfältigung und des öffentlichen Zugänglichmachens aufgeworfen werden. Umgekehrt ist die urheberrechtliche Schutzfähigkeit KI-generierter Inhalte nach deutschem Recht bislang großflächig ungeklärt. Auf ein originäres Urheberrecht an KI-Outputs können sich Arbeitgeber daher im Zweifel nicht berufen.

Haftungsrisiken: Generative KI kann fehlerhafte oder frei erfundene Ergebnisse produzieren – in der Fachwelt als „Halluzinationen“ bezeichnet. Werden solche Ergebnisse ungeprüft übernommen, drohen Fehlentscheidungen mit entsprechenden Haftungsfolgen gegenüber Kunden, Vertragspartnern oder Behörden. In besonders regulierten Branchen wie dem Finanz- oder Gesundheitswesen kann dies existenzielle Bedeutung gewinnen.

Welche Pflichten treffen Beschäftigte?

Auch ohne ausdrückliche KI-Richtlinie sind Arbeitnehmer nicht frei darin, beliebige KI-Anwendungen einzusetzen.

Aus § 241 Abs. 2 BGB folgt die allgemeine Pflicht zur Rücksichtnahme auf die Rechte, Rechtsgüter und Interessen des Arbeitgebers. Hierzu gehört insbesondere der Schutz vertraulicher Unternehmensinformationen. Beschäftigte dürfen daher regelmäßig keine internen Daten in externe KI-Systeme eingeben, wenn hierdurch berechtigte Interessen des Arbeitgebers beeinträchtigt werden können. Hinzu kommen arbeitsvertragliche und gesetzliche Verschwiegenheitspflichten, deren Verletzung je nach Schwere des Einzelfalls eine Abmahnung oder sogar eine ordentliche oder außerordentliche Kündigung rechtfertigen kann.

Das Direktionsrecht nach § 106 GewO umfasst daneben auch Vorgaben zur Nutzung betrieblicher Arbeitsmittel und digitaler Anwendungen. Hat der Arbeitgeber bestimmte KI-Anwendungen untersagt oder ausschließlich freigegebene Systeme zugelassen, sind Beschäftigte hieran gebunden. Voraussetzung ist selbstredend, dass entsprechende Regelungen überhaupt existieren – und genau hierin liegt in vielen Unternehmen derzeit das Problem.

Auch dürfen Beschäftigte nicht einfach persönliche Informationen und Bilder von Kollegen z. B. zur Erstellung von Deepfakes nutzen.

Reicht ein Verbot aus?

Naheliegend erscheint zunächst ein vollständiges Verbot generativer KI. In der Praxis überzeugt dieser Ansatz jedoch selten. Browserbasierte KI-Anwendungen lassen sich kaum vollständig unterbinden, Unternehmen verschenken erhebliche Produktivitätspotenziale, und pauschale Verbote führen erfahrungsgemäß dazu, dass Beschäftigte entsprechende Anwendungen erst recht heimlich nutzen. Das eigentliche Problem wird damit lediglich ins Verborgene verlagert.

Aus arbeitsrechtlicher Sicht erscheint deshalb ein risikobasierter Ansatz vorzugswürdig. Ziel sollte nicht sein, jede KI-Nutzung zu untersagen, sondern einen rechtssicheren Rahmen für den Einsatz generativer KI zu schaffen.

Welche Regelungen sollten Arbeitgeber treffen?

Im Mittelpunkt sollte eine unternehmensweite AI Policy stehen. Diese sollte konkret und verständlich formuliert sein und typischerweise folgende Punkte regeln: Welche KI-Systeme sind freigegeben, welche ausdrücklich untersagt? Welche Datenkategorien dürfen unter keinen Umständen eingegeben werden (z. B. personenbezogene Daten, Geschäftsgeheimnisse, Finanzinformationen)? Unter welchen Voraussetzungen ist eine gesonderte Freigabe erforderlich? Wie sind KI-generierte Ergebnisse zu kennzeichnen und zu überprüfen? Wer ist bei Fragen oder im Zweifelsfall Ansprechpartner?

Ergänzend empfehlen sich Dokumentationspflichten für den KI-Einsatz bei besonders sensiblen Tätigkeiten. Dies dient nicht nur der internen Nachvollziehbarkeit, sondern kann im Streitfall auch haftungsrechtliche Bedeutung gewinnen. Die AI Policy sollte dabei nicht isoliert betrachtet werden, sondern auf bestehende Datenschutz-, Informationssicherheits- und Compliance-Richtlinien abgestimmt und angesichts der dynamischen technologischen und regulatorischen Entwicklung regelmäßig überprüft werden.

Schulung statt bloßer Richtlinie

Regelungen allein werden das Problem kaum lösen. Mit Inkrafttreten der KI-Verordnung (EU) 2024/1689 (AI Act) gewinnt zudem die sogenannte KI-Kompetenz (AI Literacy) an rechtlicher Bedeutung. Art. 4 AI Act – seit dem 2. Februar 2025 anwendbar – verpflichtet Betreiber von KI-Systemen, durch geeignete Maßnahmen sicherzustellen, dass die mit dem Betrieb von KI-Systemen befassten Personen über ein angemessenes Maß an KI-Kompetenz verfügen.

Arbeitgeber, die generative KI betrieblich einsetzen, sind daher gehalten, ihre Beschäftigten über Funktionsweise, Risiken und Grenzen dieser Systeme zu informieren. Hierzu gehören insbesondere datenschutzrechtliche Anforderungen, die Gefahr von Halluzinationen, urheberrechtliche Fragen sowie der sachgerechte Umgang mit vertraulichen Unternehmensinformationen.

Beschäftigte greifen häufig nicht aus böser Absicht auf private KI-Systeme zurück, sondern weil ihnen geeignete betriebliche Alternativen oder klare Vorgaben fehlen. Wer versteht, warum bestimmte Verhaltensweisen problematisch sind, hält sich erfahrungsgemäß eher an entsprechende Regeln. Schulungen sind daher kein Nice-to-have, sondern ein wesentlicher Baustein jeder wirksamen AI Governance.

Mitbestimmung des Betriebsrats

Auch das Betriebsverfassungsrecht sollte nicht außer Acht gelassen werden. Werden verbindliche Regelungen über die Nutzung von KI-Anwendungen eingeführt, kommen Mitbestimmungsrechte nach § 87 Abs. 1 BetrVG in Betracht – insbesondere nach Nr. 1 (Ordnung des Betriebs und Verhalten der Arbeitnehmer, siehe hierzu auch bereits unseren Blog-Beitrag v. 13.3.2024, der ausführt, wann nicht das Ordnungsverhalten, sondern das Arbeitsverhalten von Beschäftigten betroffen ist) sowie nach Nr. 6, sofern technische Einrichtungen eingesetzt werden, die geeignet sind, Verhalten oder Leistung der Beschäftigten zu überwachen, etwa durch Protokollierungsfunktionen.

Eine frühzeitige Einbindung des Betriebsrats ist daher regelmäßig sinnvoll – nicht nur aus rechtlichen Gründen, sondern auch weil eine sorgfältige Abstimmung die Akzeptanz entsprechender Regelungen im Unternehmen erhöht. Gleiches gilt für konzernweite AI Policies, die betriebliche Abläufe verbindlich regeln und damit ebenfalls mitbestimmungsrelevant sein können.

Organisatorische Verantwortung des Arbeitgebers

Shadow AI ist letztlich nicht nur ein Fehlverhalten einzelner Beschäftigter. Häufig ist sie Ausdruck fehlender Governance. Wenn Unternehmen keine freigegebenen KI-Anwendungen bereitstellen, keine klaren Vorgaben formulieren und keine Schulungen anbieten, überrascht es kaum, dass Beschäftigte auf frei verfügbare Lösungen ausweichen. Arbeitgeber sollten sich daher fragen, ob nicht gerade organisatorische Defizite die eigentliche Ursache des Problems darstellen.

Eine moderne KI-Strategie sollte technische, datenschutzrechtliche und arbeitsrechtliche Aspekte gleichermaßen berücksichtigen und durch klare Zuständigkeiten, transparente Prozesse sowie regelmäßige Überprüfung der getroffenen Maßnahmen unterlegt werden.

Fazit

Generative KI wird aus dem Arbeitsalltag nicht mehr verschwinden. Ebenso wenig lässt sich dauerhaft verhindern, dass Beschäftigte nach effizienten digitalen Werkzeugen suchen. Die arbeitsrechtliche Antwort auf Shadow AI sollte deshalb nicht in pauschalen Verboten bestehen. Erfolgversprechender ist eine ausgewogene AI Governance, die klare Regeln mit praktikablen Nutzungsmöglichkeiten verbindet.

Arbeitgeber sind gut beraten, bereits jetzt unternehmensweite Leitlinien zum Einsatz generativer KI zu entwickeln, Beschäftigte zu schulen und bestehende Compliance-Strukturen entsprechend anzupassen. Wer Shadow AI lediglich als IT-Problem betrachtet, greift zu kurz. Tatsächlich handelt es sich um ein organisations- und arbeitsrechtliches Thema, das in nahezu jedem Unternehmen an Bedeutung gewinnen wird – und auf das Arbeitgeber besser heute als morgen vorbereitet sein sollten.