Anliegen und Aufgabenstellung
Die Entwicklung und der Einsatz von automatisierten Entscheidungssystemen (kurz: ADM-Systeme) in der öffentlichen Verwaltung ist notwendig und überfällig, aber auch komplex: Risiken für Grundrechte, Datenschutz und IT-Sicherheit, sowie eine Fülle an weiteren Aspekten müssen gründlich erfasst und abgewogen werden.
Gleichzeitig erwarten wir die europäische KI-Verordnung (AI Act), die absehbar ein europaweites KI-Transparenzregister für Behörden einführen wird. In der Umsetzung werden dabei vielfältige Aspekte national und sektoral konkretisiert und ergänzt werden müssen.
In diesem Workshop stellen wir uns den Herausforderungen einer ganzheitlichen KI-Regulierung und betrachten drei zentrale Themen in Ihrem Zusammenhang:
Risikobewertung anhand einer strukturierten Folgenabschätzung: Wie können wir die Risikobewertung in Einführungs- bzw. Anwendungsprozesse von ADM-Systemen in der öffentlichen Verwaltung so integrieren, dass alle Beteiligten sie nicht als zusätzliche und überflüssige Bürokratie empfinden, sondern davon profitieren? Anhand von Beispielen wollen wir ein mögliches praktisches Vorgehen gemeinsam näher betrachten.
Es soll dabei deutlich werden, dass eine strukturierte Risikobetrachtung einen integralen Teil der Einführung und Anwendung von ADM-Systemen darstellt und Unsicherheiten für Anwender:innen vermindern kann, so dass im Ergebnis die Systeme besser werden.
Einem strukturierten Vorgehen folgend, bietet sie einen Mehrwert für alle beteiligten Akteure – vom Entwicklungsteam, über Anwender:innen bis zu den Endnutzer:innen. Denn die Informationen, die wir aus der Risikobewertung gewinnen, können und sollen in ein KI-Transparenzregister einfließen. Sowohl Anwender:innen als auch Endnutzer:innen erhalten Einblicke in Prinzipien und Kernergebnisse eines Prüfprozesses.
Sowohl im KI-Entwicklungs- und Anwendungsprozess als auch in der Umsetzung des KI-Rechtsakts und des KI-Transparenzregisters sind wir mit dem konfrontiert, was der deutsche Ethikrat eine „Multiakteursverantwortung“ nennt. Diesen Begriff wollen wir in seiner Bedeutung für die Praxis diskutieren und konkrete Ideen dazu entwickeln, welche Kompetenzen erforderlich sind und welche Akteure den Prozess begleiten sollten. Welche Akteure übernehmen an welchen Stellen Verantwortung? Welche Aufgaben werden bereits durch wen übernommen und an welchen Stellen bräuchte es Personen, die im Sinne einer „Task Force“ den Prüfprozess beratend bzw. unterstützend begleiten?
Im Ergebnis wollen wir Erkenntnisse aus dem Workshop für Verwaltungspraktiker:innen aufbereiten und diesen und weiteren Interessierten zur Verfügung stellen.