Mit der rasanten Entwicklung generativer KI-Systeme rücken auch im Arbeitsrecht neue Fragen und Verantwortlichkeiten in den Fokus (AI Act). Dieser zweite Teil unserer Reihe beleuchtet, welche rechtlichen Rahmenbedingungen Unternehmen jetzt beachten sollten.
Die zunehmende Verbreitung generativer AI-Tools wie ChatGPT, Microsoft Copilot & Co. wirft Fragen zur arbeitnehmerseitigen Nutzung dieser Systeme auf. Arbeitgebende können im Rahmen ihres Weisungsrechts die Nutzung solcher Tools erlauben, regulieren oder verbieten.
Eine AI-Policy kann dabei beispielsweise folgende Aspekte regeln:
- Zulässige AI-Systeme und Account-Typen
- Schutz personenbezogener Daten und Betriebs-/Geschäftsgeheimnisse
- Kennzeichnungspflicht von AI-generierten Arbeitsergebnissen
- Verfahren bei Fehlern oder Datenschutzverletzungen
- Konsequenzen bei Verstößen gegen die Policy
Ob für die Einführung einer AI-Policy zwingend eine Betriebsvereinbarung erforderlich ist, hängt von den konkreten Umständen ab. Bei bloßer Nutzungserlaubnis ohne Nutzungsverpflichtung und ohne arbeitgeberseitige Kontrollmöglichkeiten könnte gegebenenfalls auch eine einseitige Weisung ausreichen.
Automatisierte Entscheidungen im Personaleinsatz
AI-Systeme können potenziell auch Arbeitgeberfunktionen übernehmen. Die Vorteile scheinen zunächst überzeugend: Schnellere Entscheidungen auf Basis umfangreicher Datenanalysen und (vermeintlich) objektivere Beurteilungen ohne menschliche Vorurteile.
Allerdings setzen insbesondere die DSGVO und der AI Act diesem Einsatz Grenzen:
- Verbot ausschließlich automatisierter Entscheidungen gem Art 22 DSGVO: Personalentscheidungen, die rechtliche Wirkungen entfalten oder die Betroffenen erheblich beeinträchtigen, dürfen nicht ausschließlich automatisiert getroffen werden.
- Erfordernis menschlicher Aufsicht gem Art 14 AI Act: Hochrisiko-AI-Systeme müssen während ihres Einsatzes von natürlichen Personen wirksam überwacht werden können.
Die Ausnahmetatbestände des Art 22 Abs 2 DSGVO, insbesondere die Erforderlichkeit zur Vertragserfüllung, werden im arbeitsrechtlichen Kontext nur selten greifen. Vollautomatisierte Personalentscheidungen sind daher aktuell in den meisten Fällen unzulässig.
Der Einsatz von AI zur automatisierten Entscheidungsfindung kann zudem zu erheblichen Beweislastproblemen für Arbeitgebende führen. Bei Anfechtungen von Kündigungen und Entlassungen nach §§ 105, 106 ArbVG liegt die Beweislast bei den Arbeitgebenden. Wenn die Entscheidung einer AI aufgrund eines „Blackbox-Effekts“ nicht nachvollziehbar ist, kann oft nur ein nicht ausreichender Verdacht, nicht aber ein notwendiger Beweis dargelegt werden.
Die Lösung für dieses Problem kann die sogenannte „Explainable AI“ (erklärbare Künstliche Intelligenz) sein, wodurch ein AI-generiertes Ergebnis transparent dargelegt und der „Blackbox-Effekt“ beseitigt wird.
Praktische Umsetzungsschritte des AI Act für Unternehmen
Um den Anforderungen des neuen Rechtsrahmens gerecht zu werden, empfehlen sich beispielsweise folgende Maßnahmen:
- Bestandsaufnahme: Systematische Erfassung aller im Unternehmen eingesetzten AI-Anwendungen
- Risikobewertung: Einordnung der identifizierten Systeme gemäß den Risikoklassen des AI Acts
- Überprüfung verbotener Praktiken: Sofortige Einstellung des Betriebs von AI-Systemen, die unter die Verbotstatbestände des Art 5 AI Act fallen
- Implementierung von AI-Kompetenztatbeständen: Schulungskonzept für betroffene Mitarbeitende
- Entwicklung einer AI-Policy: Klare Richtlinien für den Umgang mit AI-Systemen
- Frühzeitige Einbindung des Betriebsrats: Verhandlung erforderlicher Betriebsvereinbarungen
- Dokumentation: Aufbau eines Compliance-Systems zur Nachweisführung
AI Act | Fazit und Ausblick
Der AI Act markiert den Beginn einer neuen Ära in der Regulierung von AI-Systemen. Für Arbeitgebende bedeutet das einerseits rechtliche und organisatorische Herausforderungen, andererseits aber auch die Chance, den Umgang mit AI-Technologien auf eine solide und rechtskonforme Basis zu stellen.
Die kommenden Jahre werden zeigen, wie sich die praktische Anwendung des AI Acts entwickelt und welche Auslegungen die Aufsichtsbehörden und Gerichte vornehmen werden. Unternehmen, die frühzeitig auf Rechtskonformität und einen verantwortungsvollen AI-Einsatz setzen, können nicht nur rechtliche Risiken minimieren, sondern sich auch als vertrauenswürdige und zukunftsorientierte Akteure positionieren.
Der Einsatz von AI im Arbeitsrecht wird ein dauerhaft relevantes Thema bleiben, das kontinuierliche Anpassungen und Weiterentwicklungen erfordert – sowohl auf rechtlicher als auch auf technischer und organisatorischer Ebene.
AI im Arbeitsrecht | Rechtliche Herausforderungen und Handlungsempfehlungen – Teil 2 (AI Act)
⇒ Arbeits-Recht
