KI-GovernanceRahmen für agentische Prozesse

IT-Verantwortliche im öffentlichen Sektor prüfen derzeit intensiv, wie sich künstliche Intelligenz kontrolliert in bestehende Verwaltungsprozesse integrieren lässt. Besonders agentenbasierte KI entwickelt sich dabei zu einem vielversprechenden Ansatz. Im Gegensatz zu Chatbots oder KI-gestützten Wissens- und Suchsystemen beschränkt sich agentische KI nicht auf einzelne Anfragen oder Eingaben, sondern übernimmt eigenständig Aufgaben, koordiniert Prozessschritte und interagiert mit unterschiedlichen Anwendungen und Datenquellen. Mit dieser zunehmenden Eigenständigkeit von KI-Lösungen rücken organisatorische Rahmenbedingungen stärker in den Mittelpunkt: Für den produktiven Einsatz agentischer KI braucht es klare Zuständigkeiten, definierte Rollenmodelle und tragfähige Governance-Verfahren.

Regeln und Datensilos

Öffentliche Verwaltungen arbeiten in klaren Zuständigkeiten, mit Dokumentationspflichten und rechtlich geregelten Entscheidungswegen. Zugleich sind viele kommunale IT-Landschaften historisch gewachsen: Fachverfahren, DMS, Register und Archive stehen oft nebeneinander, Informationen liegen verteilt in Datensilos, E-Mails, Scans, PDF-Dateien oder manuell gepflegten Vorgängen. Eingehende Dokumente, Anträge oder Bürgeranfragen werden deshalb häufig noch zwischen Verfahren weitergereicht. Das kostet Zeit und erzeugt Medienbrüche. KI-Agenten könnten hier vorsortieren, fehlende Angaben erkennen, Dokumente Fachverfahren zuordnen oder Fristen überwachen. Entscheidend ist aber nicht die einzelne KI-Funktion, sondern ihre kontrollierte Einbindung in bestehende Verwaltungsabläufe.

Governance als Kernaufgabe

Governance wird in vielen Organisationen noch immer vor allem als Compliance-Thema verstanden. Bei agentischer KI wird daraus jedoch eine operative Steuerungsaufgabe. Denn künftig müssen nicht nur menschliche Arbeitsabläufe geregelt werden, sondern auch Systeme, die Aufgaben zunehmend eigenständig ausführen. Je größer ihr Handlungsspielraum ist, desto klarer müssen Rollen, Zuständigkeiten und Grenzen definiert sein: Welche Aufgaben darf ein KI-Agent übernehmen? Auf welche Daten darf er zugreifen? Welche Aktionen bleiben freigabepflichtig? Wann muss ein Mensch eingreifen? Dafür braucht es verbindliche Regeln sowie nachvollziehbare Protokolle. Der produktive Einsatz KI-gestützter Prozesse ist deshalb keine reine Technikfrage, sondern verlangt Betriebsmodelle mit klaren Verantwortlichkeiten und einheitlichen Standards für Sicherheit, Dokumentation und Freigaben.

Mögliche Einsatz-Szenarien für agentische KI

Der Fokus vieler KI-Initiativen liegt derzeit darauf, Prozesse möglichst schnell zu automatisieren. Gerade im öffentlichen Sektor braucht es dafür eine gezielte Priorisierung, transparente Zielsetzungen und klar definierte Einsatzbereiche. Besonders geeignet sind Prozesse mit eindeutigen Abläufen, hohen Wiederholungsraten und standardisierten Dokumentenstrukturen. Auch administrative Routinetätigkeiten bieten sinnvolle Ansatzpunkte für eine schrittweise Automatisierung. Besondere Aufmerksamkeit erfordern dagegen Bereiche, in denen Ermessensentscheidungen, komplexe Einzelfallbewertungen oder politische Abwägungen eine Rolle spielen. Entscheidend ist daher, welche Prozesse automatisiert werden können und an welchen Stellen menschliche Entscheidungen eingebunden bleiben müssen. Für IT-Verantwortliche in Kommunen ist ein schrittweises Vorgehen mit klar priorisierten Anwendungsfällen oft belastbarer als umfassende Transformationsprogramme.

Datenzugriffe als kritischer Faktor

Agentische KI benötigt Zugriff auf Informationen. Genau daraus ergeben sich zentrale Anforderungen an Governance und Zugriffskontrolle. Denn öffentliche Verwaltungen arbeiten mit sensiblen personenbezogenen Daten, vertraulichen Unterlagen und rechtlich geschützten Informationen. Gleichzeitig liegen viele Inhalte unstrukturiert oder verteilt in unterschiedlichen Systemen vor. Deshalb braucht es klare Regeln dafür, dass KI-Lösungen nur auf relevante, freigegebene und kontextbezogene Informationen zugreifen. Governance umfasst damit auch die Kontrolle von Datenflüssen: Welche Inhalte dürfen genutzt werden? Welche Systeme dürfen miteinander interagieren? Wie werden Zugriffe dokumentiert und Berechtigungen verwaltet?

Dies wird besonders wichtig, wenn mehrere Fachverfahren verbunden werden – ein typischer Anwendungsfall für agentische KI, die ihren Nutzen insbesondere dort zeigt, wo Informationen aus unterschiedlichen Quellen zusammengeführt werden. Damit Prozesse aber transparent und kontrollierbar bleiben, sind verbindliche Steuerungsmechanismen zwingend erforderlich.  Fehlen solche Regeln, entsteht schnell zusätzliche (unerwünschte) Komplexität.

Human-in-the-Loop bleibt entscheidend

Mit zunehmender Automatisierung etabliert sich ein Modell, bei dem KI-Agenten unterstützende Aufgaben übernehmen, während Verantwortung und finale Entscheidungen weiterhin bei Mitarbeitenden verbleiben. Dieses Human-in-the-Loop-Prinzip ist regulatorisch relevant und organisatorisch sinnvoll. Es hilft, sensible Entscheidungen kontrollierbar zu gestalten, Risiken schrittweise zu bewerten und Mitarbeitende aktiv in neue Prozesse einzubinden. Gleichzeitig schafft es eine wichtige Grundlage, um Vertrauen in KI-gestützte Verwaltungsabläufe aufzubauen. Gerade in kommunalen Strukturen sind transparente Prozesse und klar definierte Verantwortlichkeiten entscheidend für die Akzeptanz neuer Technologien. Wird KI als nachvollziehbares Hilfsmittel eingeführt, entstehen tragfähige Voraussetzungen für eine langfristige Integration.

Governance beginnt mit den Grundlagen

Viele KI-Umsetzungsprojekte fokussieren sich derzeit sehr stark auf mögliche Modelle und Plattforme und deren technologische Möglichkeiten. Dabei rutschen die organisatorischen Grundlagen mitunter aus dem Blickfeld – obwohl deren Aufbau für dauerhaft tragfähige KI-Strategien essenziell ist. Die entscheidende Frage lautet deshalb weniger, welches KI-Modell eingesetzt werden soll, sondern ob geeignete Rahmenbedingungen vorhanden sind. Dazu zählen klare Verantwortlichkeiten, einheitliche Datenstrukturen, definierte Freigabeprozesse, belastbare Sicherheitskonzepte und nachvollziehbare Dokumentation. Ebenso wichtig ist eine abgestimmte Zusammenarbeit zwischen IT-Abteilung, Fachbereichen und Verwaltungsspitze. Erst auf dieser Grundlage lässt sich agentische KI kontrolliert einsetzen und langfristig skalieren.