NEGZ-StudieKI in der öffentlichen Verwaltung

Basierend auf einer Kurzstudie hat das Nationale E-Government Kompetenzzentrum (NEGZ) sieben Gestaltungsempfehlungen zum Einsatz künstlicher Intelligenz (KI) in der öffentlichen Verwaltung erarbeitet. Die öffentliche Verwaltung spielt aus NEGZ-Sicht eine Schlüsselrolle für den staatlichen Einfluss auf die KI. Der Staat sollte der öffentlichen Verwaltung deshalb einen wichtigen Platz einräumen und aktiv handeln. So könne er nicht nur die Entwicklung fördern, sondern auch die Adoption und Umsetzung der Technologie voranbringen und dadurch die ganze Technologieentwicklung positiv beeinflussen. KI sollte im öffentlichen Diskurs nicht vermieden, dafür aber klar konturiert werden. KI sei ein Forschungsbereich, der durch folgende Frage definiert wird: Können wir Systeme schaffen, die selbstständig und effizient komplexe Probleme lösen können?
KI muss laut NEGZ außerdem differenziert betrachtet werden. Als Querschnittstechnologie habe sie keinen exklusiven Zweck. Chancen und Risiken liegen folglich immer in der Gestaltung der Technik. Bei den heute üblichen Systemen stünden sich insbesondere Effizienz und Effektivität auf der einen Seite, mangelnde Nachvollziehbarkeit und mögliche Diskriminierungen auf der anderen Seite gegenüber. Die Verwaltung braucht laut NEGZ außerdem rechtssichere Experimentierräume. Nur auf der Basis konkreter Erfahrungen können Entscheidungen über Einführung und Gestaltungen von KI getroffen werden. Außerdem empfiehlt das Kompetenzzentrum, ein Ökosystem für eine erfolgreiche Verwaltungsdigitalisierung und die gute Gestaltung künstlicher Intelligenz zu schaffen und zu fördern. Dazu gehören laut NEGZ Mitarbeiter mit entsprechenden Fähigkeiten und Einheiten, die wiederum Räume zum Experimentieren haben. Ferner seien eine effektive Wissensorganisation und entsprechende Leitbilder wie das des offenen Regierungs- und Verwaltungshandelns notwendig.
Bei der Erarbeitung eines möglichen Schlagworts für KI in Deutschland ist aus Sicht des NEGZ darauf zu achten, dass es alle wichtigen Akteure einschließt. Das Kompetenzzentrum weist außerdem darauf hin, dass das Recht auch Gestaltungsmittel für KI in der öffentlichen Verwaltung sein kann. Diese Funktion sollte insbesondere der Gesetzgeber im Auge behalten. Demnach sollte der Gesetzgeber in § 35a Verwaltungsverfahrensgesetz seine Gestaltungserwartungen an automatisierte Entscheidungen klar kommunizieren und Gestaltungsgrundsätze sowie -prinzipien kodifizieren. Die Gestaltung von Entscheidungsassistenz, Realhandeln und Datenhaltung sollte ebenfalls geregelt und auch weitere allgemeine und spezielle Experimentierklauseln sollten geschaffen werden. Die Experimente sollten rechtskonforme Gestaltung fördern und Erkenntnisse in den Gesetzgebungsprozess zurückspielen. Sie könnten § 35a VwVfG ersetzen, so das NEGZ abschließend.