Beitragsbild: Pat Whelen unter der Unsplash-Lizenz
Dieser Beitrag fasst den Workshop „Automatisierte Verwaltungsleistungen – Präventive Maßnahmen, um Risiken und Diskriminierungen vorzubeugen und Vertrauen zu schaffen“ zusammen.
Wie können Behörden vermeiden, dass automatisierte Verfahren diskriminieren und die Rechte Betroffener beschneiden? Können Prozesse von Beginn an so gestaltet werden, dass sie die Rechte Einzelner und das Gemeinwohl stärken?
15 Teilnehmer:innen diskutierten diese Frage bei der Piazza-Konferenz 2022. Die Gruppe setzte sich aus Personen zusammen, die sich in ihrer Arbeit sowohl strategisch und analytisch mit dem Thema befassen, als auch in der Praxis an Automatisierungsprozessen arbeiten – etwa Software zu entwickeln, um vollautomatisiert Bescheide einer Landesbehörde zu erteilen. Vorwissen zur Automatisierung in der öffentlichen Verwaltung war bei vielen Teilnehmer:innen daher gegeben, aber direkte Erfahrungen mit konkreten Anwendungsbeispielen noch relativ selten.
Geeignete Bereiche für die Automatisierung
Zum Auftakt tauschten sich die Teilnehmer:innen sowohl über Risiken und Herausforderungen beim Einsatz von Systemen des automatisierten Entscheidens (ADM-Systeme) in der Verwaltung als auch über „prädestinierte“ Bereiche für Automatisierungsprozesse aus.
Während einerseits typischen Risiken beim Einsatz von ADM-Systemen, wie Diskriminierungsrisiken, diskutiert wurden, ging es andererseits vor allem auch um verwaltungsspezifische Probleme, etwa den Mangel an breitem Wissen und Kompetenz, um mithilfe von Technologie passende Lösungen zu entwickeln. Als prädestiniert für die Automatisierung identifiziert wurden Leistungen, in denen keine Einzelfallbeurteilungen vorgenommen werden müssen, Massenantragsverfahren und Prozesse ohne Ermessensspielraum.
Wie kann Automatisierung in der Verwaltung gelingen?
Nina Bewig von der Berliner Senatsverwaltung für Justiz, Verbraucherschutz und Antidiskriminierung stellte die Pläne der Senatsverwaltung dafür vor, die Berliner Verwaltung dafür zu sensibilisieren, ADM-Systeme diskriminierungssensibel und diversity-gerecht zu entwickeln und einzusetzen. In dem Zusammenhang sei der Senatsbeschluss zur Berliner Strategie „Gemeinsam Digital: Berlin“ zukunftsweisend dafür, konkrete Maßnahmen umzusetzen.
In der anschließenden Diskussion standen konkrete Ideen und Prozesse dazu im Mittelpunkt, wie das Risiko minimiert werden kann, wenn ADM-Systeme in bisherige Verwaltungsprozesse eingebettet werden, außerdem rechtliche Fragen (v.a. in Bezug auf das Vergaberecht). Insbesondere die Frage danach, welche Faktoren zum Gelingen beitragen, führte zu Diskussionen im Plenum:
Tools zur Folgenabschätzung als Prüfmethode
Im zweiten Teil des Workshops stellte Matthias Spielkamp (AlgorithmWatch) ein Instrument vor, mit dem die Folgen von ADM-Systemen in der öffentlichen Verwaltung eingeschätzt werden können. Dieses „Impact Assessment“ zeichnet sich dadurch aus, dass es zweistufig erfolgt. Zuerst wird geprüft, ob überhaupt Risiken vom Einsatz des Systems ausgehen. Nur, wenn das der Fall ist, muss ein detaillierter Fragenkatalog beantwortet werden; die Antworten werden in einem Transparenzbericht veröffentlicht. Er stellte allerdings klar: Grundsätzlich sollte es bei der Folgenabschätzung nicht darum gehen, ob ein System eingesetzt werden darf – denn die Grundlage dafür sei der gesetzliche Rahmen. Es gehe eher darum, Risiken frühzeitig abschätzen und beilegen zu können, um einen guten Einsatz und Vertrauen in die automatisierten Prozesse zu ermöglichen.
In der folgenden Diskussion brachten die Teilnehmer:innen Ideen ein, welche Bedingungen für den Einsatz eines solchen Tools in der Verwaltung erfüllt sein müssten. Konkret ging es um Kompetenzen, Prozessorganisation und -begleitung. Als besonders wichtig wurde erachtet, dass viele Verwaltungsmitarbeiter:innen ein technisches Grundverständnis haben, damit sie bestehende Kompetenzen an relevanter Stelle einbringen können (z. B. durch Gleichstellungsbeauftragte), aber auch ihre Grenzen anzuerkennen, etwa bei Datenschutzbeauftragten. Darüber hinaus sprach sich die Gruppe zwar für eine koordinierte Prozessbegleitung aus, sah die Verantwortung dafür aber vor allem auf interner Ebene vor.
Taskforce für die Unterstützung der Verwaltung
In einer Abschlussdiskussion sprachen sich die Teilnehmer:innen dafür aus, Spielräume in der Verwaltung zu nutzen. Ein Teilnehmer sagte: „Ressourcenmangel ist nicht wirklich das Problem, sondern wie wir Ressourcen einsetzen“. Damit seien auch personelle und infrastrukturelle Ressourcen gemeint. Das weitere Stimmungsbild ergab aber, dass gerade zu Beginn Unterstützung auch durch externe Dienstleister möglich sein muss, und dass in der internen Organisation verschiedene Stellen in einer Art „Task-Force“ koordinierend beteiligt sein sollten. Konsens war zum Abschluss der Diskussion, dass, über Unterstützungstools hinaus, Strukturen für eine erfolgreiche Umsetzung entwickelt werden sollten.
