Algorithmen in der Entscheidungsfindung

Lukas Daniel Klausner (FH St. Pölten) und Angelika Adensamer (VICESSE, Vienna Centre for Societal Security) haben im Rahmen eines Digifonds-Projekts einen Leitfaden zu Verantwortlichkeit und Rechenschaft im Umgang mit Algorithmen vorgelegt. Zusätzliche Hilfestellung bietet auch das Online-Tool »VᴇʀA«.

Ein aktuelles Beispiel

Einerseits haben Algorithmen als Entscheidungssysteme viel Potenzial, andererseits können sie aber gerade für Arbeitnehmer*innen Probleme bereiten. Das haben viele Menschen nicht zuletzt durch die Diskussionen um den heftig kritisierten AMS-Algorithmus mitbekommen, der als »Arbeitsmarkt-Chancen-Assistenzsystem« ab 2021 auf Basis von Statistiken vergangener Jahre die zukünftigen Chancen von Arbeitssuchenden am Arbeitsmarkt berechnen soll. Alles nicht unproblematisch, wie eine Studie der Österreichischen Akademie der Wissenschaften kürzlich zeigte.

Leitfaden für Algorithmen und Verantwortung

Algorithmenunterstützte und algorithmische Entscheidungsfindung (kurz ADS) kommt in den letzten Jahren mehr und mehr zum Einsatz. Ihre Verwendung wirft Fragen und potenzielle Probleme in vielen Bereichen auf. Der Fokus des entwickelten Leitfadens liegt auf Fragen der Verantwortlichkeit und Rechenschaft, also dazu, wer beim Einsatz von Algorithmen zur Entscheidungsfindung oder -unterstützung im Falle von Fehleinschätzungen oder ungerechtfertigten negativen Konsequenzen für Betroffene die Verantwortung trägt.

Ein algorithmisches System muss grundlegende Voraussetzungen, wie Verständlichkeit und Transparenz des Systems oder die Zuteilung der erforderlichen Berechtigungen und Zugriffsmöglichkeiten an relevante Personenkreise, erfüllen, damit Verantwortlichkeit und Rechenschaft geklärt werden können. Der Einsatz algorithmischer Systeme im Betrieb bedingt unterschiedliche Aufgaben- und Verantwortungsbereiche, mit denen auch verschiedene Verantwortlichkeiten und Rechenschaftspflichten korrespondieren. Diese Aufgabenbereiche umfassen die Entscheidung über den Einsatz, die Implementierung, die Entwicklung, die Anwendung, die Evaluierung und die Datenverwaltung. Auch ein Feedback- und/oder Beschwerdesystem kann zum reibungslose Funktionieren des ADS-Systems beitragen.

Außerdem ist auf drei Bereiche des Datenschutzes, die im Leitfaden erklärt werden, besonders zu achten: die datenschutzrechtliche Verantwortlichkeit, die Betroffenenrechte und die besonderen Bestimmungen zu automatisierten Entscheidungen. Auch auf notwendige technische Anforderungen wird im Leitfaden eingegangen: Neben der Verständlichkeit und Transparenz des Systems sind auch die umfassende Dokumentation, die Möglichkeit zu Fehlerbehebung und die grundlegende IT-Sicherheit wichtige Voraussetzungen für die Einführung eines ADS-Systems.

Darauf folgen zwei praxisfokussierte Abschnitte: Im ersten Abschnitt helfen Leitfragen dabei, bei der Konzeption und geplanten Einführung eines ADS-Systems frühzeitig über Probleme aus dem Bereich Verantwortung und Rechenschaft zu reflektieren. Der zweite Abschnitt enthält Erläuterungen zur Verwendung des gemeinsam mit diesem Leitfaden veröffentlichten digitalen Werkzeugs VᴇʀA, welches insbesondere Aspekte der persönlichen Zuständigkeit zu überlegen helfen soll (und dabei etwa mögliche Interessenskonflikte oder Probleme in der Hierarchiestruktur einer Organisation aufzuzeigen hilft).