Immer mehr Unternehmen beschäftigen sich mit dem Einsatz von künstlicher Intelligenz (KI) im Personalwesen. Zum Beispiel um geeignete Bewerber im Auswahlprozess herauszufiltern oder aber auch im bereits bestehenden Arbeitsverhältnis im Rahmen der Mitarbeiterentwicklung oder der Leistungsbeurteilung. Dabei können je nach Anwendungsfall verschiedene datenschutzrechtliche Risiken entstehen, die eine genauere Auseinandersetzung mit der DSGVO verlangen. Darüber hinaus ist bei der Einführung von derartigen KI-Systemen daran zu denken, dass diese als „technische Einrichtung“ i.S.d. § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig sein können.
Wie wird KI im Personalwesen eingesetzt?
KI wird im Personalwesen unter anderem bei Auswahlverfahren zur Analyse von Bewerbern eingesetzt (siehe hierzu unseren Beitrag zu Digitalen Filtern im Bewerbungsprozess). Die bislang existierende sog. schwache KI ist in der Lage, vorab definierte Aufgaben zu lösen und ist somit an den hinter ihr stehenden Algorithmus gebunden. Von Relevanz ist hier insbesondere die Sprach- und Textanalyse. Bewerber werden dabei mit Hilfe dieser Analysen auf persönliche Merkmale geprüft. Diese geschieht etwa dadurch, dass ein Bewerber bestimmte Satzkombinationen vorliest und diese Aufnahmen dann ausgewertet werden. Auch ein vom potentiellen Arbeitnehmer verfasster Text, wie etwa das Bewerbungsanschreiben, kann mit Hilfe dieser Analyseverfahren ausgewertet werden.
Der Einsatz von KI im bestehenden Arbeitsverhältnis ist noch nicht so weit verbreitet. Angesichts der rasanten technischen Entwicklung ist aber durchaus davon auszugehen, dass in naher Zukunft Tools entwickelt werden, mit deren Hilfe beispielsweise Mitarbeiter bewertet werden oder ihnen Verbesserungspotential aufgezeigt wird.
Konflikt zwischen dem Einsatz von KI und der DSGVO
Bei derartigen Vorgängen werden personenbezogene Daten automatisiert verarbeitet, um bestimmte persönliche Aspekte einer natürlichen Person zu bewerten (sog. „Profiling“, vgl. Art. 4 Nr. 4 DSGVO). Das alleinige Ausrichten des Beurteilungsprozesses auf das sog. Profiling birgt dabei datenschutzrechtliche Risiken.
Denn Art. 22 Abs. 1 DSGVO gibt der betroffenen Person das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden. Hinter der Norm steht der Gedanke, dass Entscheidungen, die das Persönlichkeitsrecht berühren nicht von Maschinen getroffen werden sollen. Sobald eine rechtlich verbindliche Entscheidung getroffen wird, darf diese Entscheidung also zumindest nicht allein auf der automatisierten Verarbeitung beruhen, sondern muss personal verantwortet werden. Die Unternehmen müssen also dafür sorgen, dass die Letztentscheidung immer durch einen Menschen getroffen wird.
Einwilligung als datenschutzrechtliche Rechtfertigung?
Auf eine Einwilligung des Bewerbers wird sich der Arbeitgeber in der Regel nicht für die Nutzung von KI im Bewerbungsverfahren berufen können. Eine solche ist nämlich nur dann wirksam, wenn sie „freiwillig“ erfolgt. Dies ist nur unter strengen Voraussetzungen der Fall und wird insbesondere in „Drucksituationen“ in der Regel verneint. Hier wäre eine solche Drucksituation wohl gegeben, da der Bewerber bei verweigerter Einwilligung befürchten müsste, dass er schon aus diesem Grunde nicht weiter im Bewerbungsprozess berücksichtigt wird.
Anders kann der Fall beim Einsatz von KI im bereits bestehenden Arbeitsverhältnis liegen. Die Freiwilligkeit der Einwilligung dürfte eher gegeben sein als im Bewerbungsverfahren. Die betroffene Person ist im bestehenden Beschäftigungsverhältnis grundsätzlich durch die bestehenden Kündigungsschutzregelungen in einer Position, die es erlaubt, eine Einwilligung zu verweigern, ohne (erhebliche) Nachteile deswegen befürchten zu müssen. Insbesondere wenn der Einsatz von KI im Zusammenhang mit potentiellen Vergünstigungen für den Arbeitnehmer erfolgt, käme eine Freiwilligkeit in Betracht. Es bedarf hier aber in jedem Fall einer sorgfältigen Prüfung im Einzelfall. Außerdem ist zu berücksichtigen, dass dem Betriebsrat bei der Einführung eines solchen Systems ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG zustehen dürfte.
Fazit
Die DSGVO schließt den Einsatz von KI im Personalwesen vor und nach Begründung des Arbeitsverhältnisses zwar nicht aus, sie setzt ihm aber bestimmte Grenzen. Die DSGVO schützt Bewerber davor, durch Profiling aus dem Bewerbungsverfahren aussortiert zu werden, ohne dass sich eine natürliche Person mit dem Bewerber beschäftigt hat. Eine Entscheidungshilfe (etwa durch Aufstellen eines vorläufigen Bewerber-Rankings) ist somit durch die Nutzung von KI möglich, die menschliche Befassung mit den Bewerbungen kann jedoch nicht durch diese ersetzt werden. Auch im bereits bestehenden Arbeitsverhältnis ist der Einsatz von KI aufgrund der Einwilligungsmöglichkeit grundsätzlich denkbar. In beiden Konstellationen ist aber in jedem Fall eine sorgfältige Prüfung im Einzelfall notwendig, um die Grenzen der Zulässigkeit auszuloten und so etwaige Bußgelder wegen Datenschutzverstößen zu vermeiden.