Die KI-Verordnung in der betrieblichen Mitbestimmung
TBS-Berater Niklas Hoves über ein neues Handlungsfeld für Betriebsrat, Personalrat & Co.
Im Sommer trat die europäische Verordnung über künstliche Intelligenz (KI-VO) in Kraft. Sie schreibt vor, dass KI-Systeme im zivilen Bereich sicher, transparent, nachvollziehbar, nicht-diskriminierend und umweltfreundlich betrieben werden sollen. Es schützt damit auch die Grundrechte und Interessen der Beschäftigten. Ein neues Handlungsfeld für Betriebs- und Personalräte.
Produktsicherheit und Haftung: Was die KI-VO regelt
Die KI-VO gilt sowohl für Hersteller als auch für Betreiber von KI-Anwendungen und definiert Standards der Produktsicherheit. Betreiber, die ihre erworbenen KI-Modelle eigenständig weiterentwickeln, haften hierbei in der Rolle als Hersteller. Das Gesetz unterscheidet zwischen minimalen, begrenzten, hohen und unannehmbaren Risiken. Zu den unannehmbaren Risiken zählt das sogenannte Social Scoring, bei dem das soziale Verhalten von Menschen bewertet wird. Ebenso auf dem Index stehen etwa die Verarbeitung ethnischer Merkmale oder die Emotionserkennung am Arbeitsplatz. Diese Verbote gelten ab Februar 2025. Ab August 2026 finden dann vor allem jene Teile der Verordnung Anwendung, die die Arbeit der Aufsichtsbehörden regeln. Diese werden insbesondere den Einsatz von Hochrisiko-Systemen kontrollieren.
Hochrisiko-KI-Systeme:
Auswirkungen auf die Arbeitswelt
Zu den Hochrisiko-Systemen gehören KI-Anwendungen, die Bewerber für eine Vorauswahl klassifizieren, Mitarbeitende in Personalsystemen bewerten oder Empfehlungen für Qualifizierungsmaßnahmen aussprechen. Denn dies alles birgt hohe Risiken für die berufliche Zukunft von Beschäftigten. Ab August 2027 haben Betreiber solcher Systeme umfangreichen Rechenschaftspflichten nachzukommen. Insbesondere müssen sie eine Grundrechte-Folgenabschätzung durchführen, um Risiken für die Rechte und Freiheiten der Betroffenen zu bewerten und entsprechende Maßnahmen zu ergreifen.
Mitbestimmung und Kontrolle: Die Rolle der Betriebs- und Personalräte
Die Grundrechte-Folgenabschätzung kann damit auch den betrieblichen Interessenvertretungen relevante Informationen über die Funktionsweise der Systeme, den Grad der Gefahren, die Ernsthaftigkeit der Maßnahmen sowie den Qualifizierungsstand der zuständigen Kolleg*innen bieten. Betriebs- und Personalräte haben eine entscheidende Rolle bei der Überwachung der KI-VO. Sie stellen sicher, dass die Verordnung eingehalten wird, und bestimmen aktiv mit, wenn es um den Einsatz dieser Software geht. Außerdem ist bei automatisierten Entscheidungsprozessen zu prüfen, ob ein Verstoß gegen Artikel 22 DSGVO vorliegt. Wichtig bleibt: Auch wenn ein KI-Produkt gemäß der KI-VO zulässig ist, kann es im konkreten betrieblichen Einsatz eingeschränkt oder untersagt werden, wenn dies im Interesse der Beschäftigten liegt.
Online-Seminar am 4. Dezember 2024 von 9 bis 12 Uhr mit Niklas Hoves und Roman Achmatow
