Künstliche IntelligenzDie Grenzen der Assistenzen

In den vergangenen Jahren war das größte Problem bei der Umsetzung des Onlinezugangsgesetzes (OZG), dass die Digitalisierung immer noch analog gedacht wurde. Man digitalisierte das Formular und glaubte, damit auch den Vorgang digitalisiert zu haben. Dabei wurde aus dem Papier lediglich eine Online-Maske, eine PDF, die am Ende oft manuell ins Fachverfahren übertragen werden musste.

Gemäß § 24 des Verwaltungsverfahrensgesetzes (VwVfG) ermittelt eine Behörde von Amts wegen den für ihre Entscheidung maßgeblichen Sachverhalt. Ein Antrag kann formal vollständig sein und für die Entscheidung dennoch unbrauchbar. Wenn ein digitales Verfahren den Sachverhalt nicht von Anfang an strukturiert, wird die Arbeit lediglich in den Posteingang verlagert. Dort liegt dann kein entscheidungsreifer Antrag vor, sondern ein Rätsel mit Anlagen. Genau hier liegt die Chance von KI – und die Versuchung, ihr mehr zu übertragen, als sie darf. Folglich wird in der Verwaltung aktuell vor allem darüber diskutiert, was KI übernehmen könnte: Anträge prüfen, Bescheide entwerfen, Sachbearbeitung entlasten. Ein Rechtsstaat muss jedoch zuerst die Frage stellen: Wo überschreitet die Maschine ihre Befugnisse?

Entscheidendes Merkmal

§ 35 VwVfG definiert den Verwaltungsakt. Sein entscheidendes Merkmal ist die Regelung, also die verbindliche Rechtsfolge, mit der eine Behörde einen Fall entscheidet. Was dorthin führt, ist Vorbereitung. Gemäß § 35a ist ein vollständig automatisierter Verwaltungsakt nur zulässig, wenn eine Rechtsvorschrift dies erlaubt und weder Ermessen noch Beurteilungsspielraum besteht. Die Vorschrift lässt sich deshalb als Konstruktionsregel für KI-Werkzeuge lesen. Ihre Grenze liegt dort, wo verbindlich geregelt, abgewogen oder Ermessen ausgeübt wird – also genau das, was Sachbearbeitung ausmacht.

Diese Grenze gerät zunehmend unter Druck. Ein bayerischer Gesetzentwurf soll vollautomatisierte Ermessensentscheidungen ermöglichen; Bund und Länder wollen das Verfahrensrecht bis Ende 2027 KI-tauglich weiterentwickeln. Umso wichtiger ist die Begründung. Vergleichbares gilt in anderen Bereichen. Zwar kann KI Röntgenbilder auswerten und Diagnosen vorschlagen, über die Behandlung entscheidet jedoch nach wie vor der Arzt. Wo ein Einzelfall abgewogen werden muss, entscheidet in letzter Instanz der Mensch. Es besteht jedoch das Risiko, dass wir dem sogenannten Automation Bias erliegen und maschinellen Vorschlägen zu schnell folgen.

Eine KI-gestützte Antragsstrecke kann die Sprache der Bürgerinnen und Bürger in die Sprache der Verwaltung übersetzen. Während des Ausfüllens erkennt sie, welche Angaben und Nachweise fehlen, und fragt diese gezielt nach. Dadurch wird der Sachverhalt so strukturiert, dass die Sachbearbeitung ihn nicht erst aus Freitexten, PDFs und Anlagen zusammensetzen muss. Ein gut aufbereiteter Antrag spart Rückfragen, Nachforderungen und Übertragungsfehler, ohne der Behörde die Entscheidung aus der Hand zu nehmen.

Eigene KI-Vorannahme

Seitdem es ChatGPT und ähnliche Anwendungen gibt, bearbeiten Bürgerinnen und Bürger das Verwaltungsverfahren mit einer eigenen KI-Vorannahme. Viele haben ihren Fall bereits mit einem allgemeinen Sprachmodell besprochen, bevor sie das erste Formularfeld ausfüllen. Das Sprachmodell kennt jedoch weder die konkrete Kommune noch deren Satzungen und Zuständigkeiten. Im Zweifel beginnt es, zu raten.

Die Frage ist daher nicht mehr, ob KI aufseiten der Bürgerinnen und Bürger mitwirkt. Sie tut es bereits. Die Frage ist, ob sie in der tatsächlichen Rechtslage verankert ist. Eine antragsbegleitende Assistenz kann frühzeitig auf Hindernisse hinweisen, beispielsweise auf eine falsche Zuständigkeit, eine überschrittene Frist, einen fehlenden Nachweis oder einen nicht erfüllten Tatbestand. Wenn sie der Behörde zuzurechnen ist, unterstützt sie das, wozu § 25 VwVfG die Verwaltung ohnehin verpflichtet: sachgerechte Anträge anzuregen und über Rechte und Pflichten Auskunft zu erteilen.

Neu ist der Zeitpunkt. Die Hilfe erfolgt beim Antrag, nicht erst Wochen später durch eine Nachforderung. Wo Ermessen oder Abwägung beginnen, kann die Assistenz das Risiko benennen, ohne den Ausgang vorwegzunehmen. Eine Assistenz ist nur so gut wie ihre Quellen. Wer etwa eine Birke im eigenen Garten fällen möchte, erhält keine richtige Antwort aus allgemeinem Wissen heraus. Entscheidend ist die Baumschutzsatzung der Kommune: Welche Arten sind geschützt? Welcher Stammumfang gilt? Welche Ersatzpflanzung ist erforderlich? Ein allgemeines Modell kann da­rüber spekulieren. Die kommunale Satzung kennt die Antwort.

PDFs verfügbar machen

Dieses Wissen liegt häufig in PDFs auf kommunalen Websites: Ortsrecht, Zuständigkeiten, Verfahrenshinweise und Merkblätter. Hinzu kommen Daten aus laufenden Antragsverfahren. Nur die Kommune kann beides verlässlich zusammenführen. Wenn Bürgerinnen und Bürger ohnehin KI verwenden, wird es zur öffentlichen Aufgabe, die Entscheidungsgrundlagen zugänglich zu machen: Satzungen, Fristen, Zuständigkeiten und Tatbestände als geprüfte, strukturierte Quellen statt als schwer auffindbare PDFs.

Die Verwaltung verliert dadurch keine Kontrolle. Sie schafft eine Grundlage für Auskünfte, die sonst von allgemeinen Modellen improvisiert werden. Liegt das Ortsrecht maschinenlesbar vor, können Assistenzsysteme über offene Standards wie das Model Context Protocol auf die geprüfte Quelle der Kommune zugreifen. Die Kommune stellt dann nicht mehr nur ein Formular bereit, sondern verlässliche Informationen, an die unterschiedliche Assistenzsysteme andocken können.

Entlang dieser Linie hat das Unternehmen Civic Patches sein Produkt entwickelt. Die Lösung verwandelt kommunale Formulare in geführte Antragsstrecken und prüft Anlagen gegen die Anforderungen des Fachamts, bevor der Antrag die Behörde erreicht. An der Rechtsfolge endet die Zuständigkeit der Assistenz: Sie bereitet lediglich vor, entscheidet aber nicht selbst. Für Verantwortliche in Kommunen und Rechenzentren ergibt sich daraus eine einfache Prüffrage: Wo liegen die Grenzen ihres Werkzeugs? Wer diese Frage nicht klar beantworten kann, hat sich mit der rechtsstaatlichen Grenze nicht ausreichend auseinandergesetzt.

Fehler der vergangenen Jahre

Der Fehler der vergangenen Jahre bestand darin, lediglich das Formular zu digitalisieren, aber den Vorgang dabei aus den Augen zu verlieren. Das Ziel ist jedoch nicht ein schöneres PDF. Wenn die Grundlagen einer Kommune als strukturierte Quellen vorliegen, kann der Antrag zu einem geführten Gespräch zwischen Bürgerinnen und Bürgern, Assistenz und Verwaltung werden.

Maßstab sollte die Rentnerin sein, die heute ein PDF ausdruckt, von Hand ausfüllt und per Post verschickt, weil sie das Formular auf ihrem Smartphone nur mit großer Mühe lesen kann. Für sie ist eine Assistenz in verständlicher Sprache keine Komfortfunktion. Sie bedeutet den Unterschied zwischen Teilhabe und Ausgeschlossensein. Wenn KI in der Verwaltung an einer Stelle ihren Wert beweisen muss, dann hier.