Positionen zur KI-Verordnung der Europäischen Union

Am 21. Mai 2024 wurde die KI-Verordnung im Rat der Europäischen Union beschlossen. Sie stellt einen bedeutenden Schritt in der europäischen Regulierung dar, um die sichere Nutzung der Technologie zu steuern und die Rechte der Vielen zu schützen. Das Büro für digitale Agenden hat die finale Fassung der Verordnung zum Thema Arbeit und Beschäftigung bewertet.

Schutz der Grundrechte
Die KI-VO ist eine Produktsicherheitsmaßnahme. Das bedeutet, dass sie arbeitsrechtliche oder sozialpolitische Aspekte bei der Anwendung von künstlicher Intelligenz nicht regelt. Sie enthält Gebote und Vorgaben für die Hersteller und Betreiber u.a. hinsichtlich Datennutzung, Risikomanagement, menschlicher Aufsicht, Dokumentation und Transparenz von KI-Systemen, und verbietet einige als besonders risikoreich eingestufte Anwendungen. Außergewöhnlich an der KI-VO ist, dass neben Gesundheit und Sicherheit der Bürger:innen auch Grundrechte, Demokratie und Rechtsstaatlichkeit zu ihren Schutzzwecken gehören, aufgrund der potenziell breiten gesellschaftlichen Auswirkungen von KI-Systemen.

Beschäftigung und Arbeitswelt in der KI-VO
Auf Forderung von AN-Vertreter:innen wurden im Vergleich zum Vorschlag der Europäischen Kommission verschiedene Änderungen aufgenommen, die zur besseren Berücksichtigung von (nationalen) Arbeitnehmer:innenschutzrechten, Schutz vulnerabler Personen und mehr Transparenz und Information der Bürger:innen beitragen. Das bedeutet in Bezug auf Beschäftigung zum Beispiel:

Verbotene Anwendungen: KI-Systeme zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen sind verboten.
Hochrisiko-KI-Systeme: Im Bereich Beschäftigung, Arbeitnehmer:innenmanagement und berufliche Bildung (u.a. Bewer-bungssysteme und automatisierte Entscheidungen im Arbeitsverhältnis wie Leistungsbeurteilung und Verhaltensbeobachtung) gelten strenge Vorgaben für die Entwicklung und Nutzung von KI.
Transparenz: Vor der Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz müssen Arbeitgeber:innen (d.h. die Betreiber) die betroffenen Arbeitnehmer:innen darüber informieren, dass sie Gegenstand des Einsatzes eines Hochrisiko-KI-Systems sein werden.
KI-Kompetenzen: Betreiber von Hochrisiko-KI-Systemen haben sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen.

Herausforderungen und Lücken
Die KI-VO ist ein Rahmen, der mittels technischer Normen und Standards konkretisiert werden muss. Außerdem bleiben Bereiche, die nicht als hochriskant eingestuft werden, weitgehend unreguliert, was potenzielle Schutzlücken für die Arbeitnehmer:innen darstellt. Dies ist problematisch hinsichtlich der Zunahme von KI-gestützten Managementsystemen: Laufend kommen Produkte auf den Markt, die massive Mengen an Daten generieren oder aus verschiedenen Anwendungen zusammenführen, die eine Beobachtung und Kontrolle, eine automatisierte Zuweisung von Arbeit und damit Eingriffe in die Menschenwürde mit sich bringen. Angesichts der raschen Entwicklung neuer Technologien ist es entscheidend, die weitere Ausgestaltung der technischen Vorgaben genau zu beobachten und sicherzustellen, dass KI menschenzentriert und aus der Perspektive der Arbeitnehmer:innen gestaltet wird.

Die AK fordert...

Starke Behörden mit ausreichend Personal zur Durchsetzung der Regulierungen und klare Regeln für den Einsatz von KI auch für jene Bereiche, die nicht als hochriskant eingestuft werden (z.B. algorithmisches Management).
Sicherstellung der Zustimmungs- und Mitwirkungsrechte der Arbeitnehmer:innen sowie ihrer (über)betrieblichen Interessenvertretungen.
Einbeziehung von Stakeholdern bei der Gestaltung der Technologien, um sicherzustellen, dass alle Perspektiven berücksichtigt werden. Die Normungs- und Kodifizierungsprozesse müssen AN-Vertretungen einschließen, um nicht (noch mehr) die regulierten Anbieter und Betreiber zu privilegieren.
Konkrete Maßnahmen zur Qualifizierung der Beschäftigten und zur Sensibilisierung aller Bürger:innen über ihre Rechte und die Risiken, die mit KI verbunden sind.