EU-Verordnung zur KI in Kraft

Mit 2. Februar 2025 sind die ersten Bestimmungen der Verordnung zur Künstlichen Intelligenz (AI-Act) innerhalb der Europäischen Union – und damit auch in Österreich – in Kraft getreten.

Diese Bestimmungen beinhalten Verbote für KI-Systeme mit unannehmbaren Risiken und sehen für Unternehmen die Verpflichtung zur Schulung ihrer Mitarbeiter:innen vor.

Wie wirkt sich das auf Arbeitnehmer:innen aus?

KI-Systeme zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen sind verboten, es sei denn, die Verwendung eines solchen KI-Systems erfolgt nachweislich aus medizinischen Gründen oder aus Sicherheitsgründen.

Weitere Verbote besonders schädlicher Anwendungen beziehen sich u.a. auf manipulative oder täuschende Techniken und die Ausnutzung von schwachen oder schutzbedürftigen Personen.

Auch verboten sind etwa das Social Scoring, die biometrische Kategorisierung auf der Grundlage sensibler Merkmale sowie das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken.

Hochrisiko-KI-Systeme

Ein besonderes Augenmerk gilt nunmehr den sogenannten „Hochrisiko-KI-Systemen“. Dabei handelt es sich um Systeme, die auf Grund ihrer umfassenden technischen Möglichkeiten ein besonderes Risiko für individuelle und öffentliche Interessen darstellen können – insbesondere Persönlichkeitsrechte und Datenschutz (siehe Auflistung in den Anhängen I und II des AI-Acts).

Betreiber und Anbieter von solchen KI-Systemen haben sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dabei müssen sowohl technische Kenntnisse und der Kontext, in dem die KI-Systeme eingesetzt werden, als auch die betroffenen Personen(gruppen) berücksichtigt werden. Damit diese Pflichten aus der KI-Verordnung umgesetzt werden können, müssen betroffene Beschäftigtengruppen in jedem Betrieb nunmehr umfassend geschult und für die Tücken von KI-Anwendungen sensibilisiert werden.

Info

Die Verordnung ist in Österreich grundsätzlich seit 1. August 2024 in Kraft, die konkreten Bestimmungen treten stufenweise in Kraft. Gleichzeitig ist der Gesetzgeber gefordert, den Inhalt der Verordnung in der österreichischen Arbeitswelt praxistauglich abzubilden.

AK Forderungen

Die AK fordert in diesem Zusammenhang:

Eine grundrechtskonforme Ausgestaltung der KI-Verordnung sowie den Ausbau von Arbeitnehmer:innenschutzrechten, etwa zur Wahrung des Persönlichkeitsrechts, Datenschutzrechts und zur Sicherstellung des Schutzes vor unverhältnismäßiger Überwachung am Arbeitsplatz.
Sicherstellung von Zustimmungs- und Mitwirkungsrechten der Arbeitnehmer:innen sowie ihrer (über)betrieblichen Interessenvertretungen (auch in Bereichen, die nicht von der KI-VO erfasst sind).
Sensibilisierung in Bezug auf die durch KI entstehenden Gefahren und Schäden.
Förderung der KI-Kompetenz auf allen Ebenen.
Klarstellung der Kostenübernahme durch die bzw. den Arbeitgeber:in für Beiziehung von speziellem (Informationstechnologie-)Fachwissen.
Förderung der (betrieblichen) Qualifizierungsprogramme.