Künstliche IntelligenzChancen und Risiken

Grafik „Klimts Interpretation der Auswirkungen von KI auf die Verwaltungsarbeit“.*
*Die digitale Illustration hat der Autor mithilfe von DALL-E-3 (Bing) geschaffen.
(Bildquelle: Jörn von Lucke/DALL-E-3)
Der Begriff der Künstlichen Intelligenz (KI) steht für ein Bündel an Technologien, Algorithmen und Ansätzen, die menschliche Intelligenz nachbilden, um Aufgaben eigenständig oder auf Befehl zu übernehmen. Dazu zählen etwa Maschinelles Lernen, Neuronale Netzwerke, Mustererkennung, Sprachverarbeitung, Chatbots und Robotik. KI unterstützt und automatisiert Tätigkeiten durch Muster-, Text-, Sprach-, Bild-, Gesichts- und Gestenerkennung sowie Analysen. Andere Systeme ermöglichen die Generierung von Texten, Tönen, Sprache, Bild, Videos und Räumen. All das schafft neuartige Anwendungsfelder für Wahrnehmung, Benachrichtigung, Empfehlung, Vorhersage, Vorsorge, Entscheidungen und Situationsanalysen in Echtzeit. Dies erweitert die Einsatzmöglichkeiten von IT deutlich.
Immer leistungsfähigere Hardware, lernende KI-Algorithmen, größere Datenräume, offene Standards und offene Schnittstellen tragen dazu bei, dass auch im öffentlichen Sektor neuartige Einsatzfelder und KI-basierte Anwendungen entwickelt werden. KI verfügt über das Potenzial, Aufgaben zu automatisieren, Prozesse zu beschleunigen, die Datenqualität zu verbessern und Entscheidungsträger durch fundierte datenbasierte Vorschläge zu unterstützen. Der Einsatz von KI muss aber stets im Einklang mit den rechtlichen und ethischen Vorgaben stehen.
Herausforderungen und Vorteile
KI optimiert so im öffentlichen Sektor etwa Posteingänge, Entscheidungsfindungen, Reaktionen in Krisenfällen und Bürgerdienste. Das kann auch zu recht innovativen Lösungen führen. Datenschutzbedenken, laufende Überwachungen und rechtliche Herausforderungen können bremsend wirken und Widerstände erzeugen. Chancen liegen in datengestützter Politikgestaltung, einem evidenzbasierten Verwaltungshandeln, mehr Bürgerteilhabe und höherer Kosteneffizienz. Sicherheitsrisiken, Verzerrungen, Diskriminierungen und technologische Abhängigkeiten bleiben dauerhafte Herausforderungen. Generative KI (GKI) erzeugt neue Artefakte basierend auf erlernten Mustern, beispielsweise Texte, Übersetzungen, Präsentationen, IT-Programme, Prozesse, Bilder und Videos. Das eröffnet zahlreiche Anwendungsmöglichkeiten in Wissenschaft, Forschung, Wirtschaft, Medien, Prosa, Kunst, Gesetzgebung, Verwaltung, Justiz, Sicherheitsbehörden und Militär.
GKI beeindruckt durch schnelle Reaktionen, kreative Inhalte, Anpassungsfähigkeit, Multilingualität, Lernfähigkeit, Skalierbarkeit, Geduld und Höflichkeit. Schwächen liegen in einem begrenzten kritischen Denken, Abhängigkeiten von Trainingsdaten, Halluzinationen, fehlender Sensitivität gegenüber falschen, ironischen und sarkastischen Informationen sowie Anfälligkeiten für Missbrauch. Chancen für den öffentlichen Sektor eröffnen hochwertige Texterstellungen, Übersetzungen, Analysen und Assistenzdienste. Risiken wie eine politische Manipulation, Sicherheitslücken, Diskriminierung und Kompetenzverlust erfordern Maßnahmen zur Risikominimierung.
Von der Analyse bis zur Zusammenfassung
GKI wird die Verwaltungsarbeit verändern. Sie ermöglicht eine effiziente Dokumentensuche, profitiert von raschen Analysen und der schnellen Erstellung von Textentwürfen für Anschreiben, Antworten, Begründungen, Protokolle, Berichte, Agenden, Bescheide, Gesetzentwürfe und Sitzungsvorlagen. Prompt Engineering als Methodik optimiert Anfragen an eine GKI für hochwertige Ergebnisse. Passende Visualisierungen in Präsentationen, Videos oder Bildern stärken die Kommunikation. Rechtliche Auflagen beim Datenschutz und beim Schutz sensibler Inhalte müssen von Anwendern eigenverantwortlich beachtet werden. Über eine Einbindung in die Office-Welt wird GKI bald zu den Standardwerkzeugen gehören. Die KI-basierte Generierung von Programmen entlastet die Entwickler, senkt Kosten und verändert die Softwareentwicklung. Low-Code-Ansätze ermöglichen es Fachkräften zunehmend, Lösungen selbst zu erstellen, Abläufe zu optimieren und Prozesse um neuartige Register oder Digitale Zwillinge neu aufzusetzen.
In Vorgangsbearbeitungssystemen unterstützt KI im Umgang mit Akten, etwa bei der Einhaltung von Vorschriften und Datenschutzrichtlinien, indem sie Prozesse standardisiert und Überwachungsfunktionen integriert, um die Einhaltung von Fristen und die ordnungsgemäße Behandlung von sensiblen Daten sicherzustellen. Neue Funktionen wie automatisierte Zusammenfassungen, Chatbots, Diktieren und Transkribieren sind Anzeichen weiterer Veränderungen. Beherrschen die Anwender die Erzeugung von Prompts und liefern ihnen GKIs überzeugende Textentwürfe, Grafiken und Übersetzungen, werden sie die gewonnene Zeit für andere anspruchsvollere Aufgaben nutzen. Digitale Akten- und Vorgangsbearbeitungssysteme werden mittelfristig durch KI-Module das Prozessmanagement anders als bisher beherrschen und selbstständig Teilprozesse priorisieren und steuern. Dies ermöglicht es, Entscheidungen in Echtzeit auf Basis von vordefinierten Regeln und aktuellen Daten zu treffen. KI-Systeme lassen sich sogar so konfigurieren, dass sie Teilprozesse vollständig automatisieren, steuern und Entscheidungen treffen, zum Beispiel, wenn es keine Ermessensspielräume gibt.
Ethische, rechtliche und sicherheitsrelevante Abwägungen
Bisher wurden KI-basierte Systeme im öffentlichen Sektor bei Entscheidungen überwiegend nur zur Unterstützung eingesetzt, womit die Entscheidung bei einer Person verbleibt. KI könnte Optionen in einem Entscheidungskontrollradar mit Kennzahlen und Argumenten visualisieren, Entscheidungsspielräume aufzeigen, eine erste Folgenabschätzung vornehmen und zur Qualitätssicherung auf Fehler, Missinterpretationen oder falsch herangezogene Rechtsgrundlagen hinweisen. Bearbeiter und Entscheidungsträger erhalten auf diese Weise eine fundiertere Entscheidungsgrundlage. Dies eignet sich insbesondere für massenhaft auftretende Vorgänge und Verfahren, aber auch für sehr komplexe Fälle, bei denen sich verschiedene Vorschläge generieren lassen und so weiter individuell auf den Einzelfall eingegangen werden kann.
Es sind immer Menschen, die entscheiden, wie mit einer neuen Technologie umgegangen wird – im Guten wie im Schlechten. Der Umgang mit KI in Staat und Verwaltung wirft zahlreiche ethische Fragen zu Datenschutz, Fairness und sozialen Auswirkungen auf. Die KI-Verordnung der EU setzt für Regulierung und Verbote nun die Grundlagen. Die KI-Entwicklung im öffentlichen Sektor erfordert so einige ethische, rechtliche und sicherheitsrelevante Abwägungen. Benchmarks sollten die KI-Anbieter und deren Angebote vergleichbar machen. Behörden müssen in die Lage versetzt werden, einen KI-Dienst jederzeit austauschen zu können. Sicher ist, dass KI und GKI noch wesentliche Beiträge zur digitalen Transformation von Staat und Verwaltung leisten werden. Derzeit steht die deutsche Verwaltung noch eher am Anfang ihrer Nutzung und Entwicklung.
Studie: KI in smarten Städten und Regionen
[10.09.2025] Wie Kommunen und Regionen Künstliche Intelligenz erfolgreich nutzen können, legt eine neue Studie aus der Begleitforschung der Modellprojekte Smart Cities dar. Sie geht unter anderem auf rechtliche und ethische Fragen ein und zeigt an Fallbeispielen, wie KI im kommunalen Kontext bereits eingesetzt wird. mehr...
Live-Webinar „Kommune21 im Gespräch“: Low Code und KI als Game Changer
[08.09.2025] Durch den Einsatz von Low-Code-Plattformen und Künstlicher Intelligenz kann die Entwicklung kommunaler Anwendungen beschleunigt und die IT gleichzeitig entlastet werden. Wie das in der Stadt Nettetal funktioniert, wird in der Webinar-Reihe „Kommune im Gespräch“ am 24. September 2025 gezeigt. mehr...
Rheinbach: Chatbot sucht einen Namen
[08.09.2025] Rund um die Uhr und in 95 Sprachen beantwortet der neue Chatbot der Stadt Rheinbach die Fragen der Bürgerinnen und Bürger. In dessen Entwicklung ist auch die Perspektive junger Nutzerinnen und Nutzer eingeflossen. Im nächsten Schritt können die Bürgerinnen und Bürger einen Namen für den digitalen Assistenten vorschlagen. mehr...
Emsdetten: Chatbot hilft weiter
[01.09.2025] Fragen rund um städtische Dienstleistungen beantwortet in Emsdetten ab sofort ein Chatbot. Die Künstliche Intelligenz (KI) ist mehrsprachig, die Bürgerinnen und Bürger können deren Antworten direkt bewerten. mehr...
regio iT: Souveräne Chatplattform für Kommunen
[28.08.2025] Viele Kommunen wollen das Potenzial großer Sprachmodelle nutzen – stoßen bei der Umsetzung aber auf viele Herausforderungen. regio iT hat eine Chatplattform auf LLM-Basis entwickelt, die keine Kompromisse bei Datenschutz, Datensouveränität und Betriebssicherheit eingeht. mehr...
Künstliche Intelligenz: Die Zukunft ist da
[26.08.2025] In Kommunen vollzieht sich eine stille Revolution. Denn KI-Agenten – programmierte digitale Assistenten mit spezialisierten Fähigkeiten – sind bereits in Rathäusern tätig. Dabei zeigt sich: Die KI vernichtet keine Arbeitsplätze, sie bereichert sie. mehr...
KGSt: FAQ-Portal zum EU AI Act
[25.08.2025] Auf einer Website bietet die Kommunale Gemeinschaftsstelle für Verwaltungsmanagement (KGSt) Antworten auf Frequently Asked Questions rund um den EU AI Act an. Das Angebot richtet sich an Fach- und Führungskräfte in Kommunalverwaltungen. mehr...
PwC / DFKI: Praxistaugliche KI-Lösungen für die Verwaltung
[21.08.2025] Eine Initiative für praxistaugliche Künstliche Intelligenz (KI) in der öffentlichen Verwaltung haben PwC Deutschland und das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) gestartet. Im Lab AI for Society sollen Lösungen entstehen, die speziell auf die Bedürfnisse des öffentlichen Sektors zugeschnitten sind. mehr...
Kreis Darmstadt-Dieburg: KI gestaltet Videos
[20.08.2025] Der Kreis Darmstadt-Dieburg kann Newsletterinhalte in Videosendungen umwandeln. Ein eigens entwickeltes GPT-Skript kürzt die Texte dafür auf eine sendefertige Länge von rund 100 Sekunden. Als Nachrichtensprecher dient ein digitaler Avatar. mehr...
Nettetal: Potenziale früh erkannt
[07.08.2025] Die Stadt Nettetal hat früh erste Schritte gewagt, um praktische Erfahrungen mit dem Einsatz Künstlicher Intelligenz in der Verwaltung zu sammeln – etwa bei der Nutzung eines Chatbots. Die durchdachte KI-Strategie der Kommune basiert dabei auf mehreren Säulen. mehr...
Künstliche Intelligenz: Datenschutzkonform entwickeln und nutzen
[06.08.2025] Eine Handreichung des IT-Planungsrats geht auf die Datenanonymisierung bei der Entwicklung und Nutzung von KI-Systemen ein. Sie erläutert die rechtlichen und technischen Rahmenbedingungen, gibt Tipps zur Umsetzung und zeigt Möglichkeiten der Datennutzung auf. mehr...
Kassel: KI-Chatbot antwortet rund um die Uhr
[06.08.2025] Die Stadtverwaltung Kassel setzt zunehmend auf KI-Unterstützung. Ein KI-Chatbot beantwortet ab sofort in zehn Sprachen Bürgerfragen. Außerdem hat die Stadt ein Pilotprojekt für den ersten vollständig KI-gestützten Verwaltungsprozess angeschoben. mehr...
Urban.KI: KI digitalisiert Bauakten
[06.08.2025] Einen KI-Prototyp zur Digitalisierung von Bauakten hat das Unternehmen Prosoz entwickelt und gemeinsam mit der Stadt Heiligenhaus getestet. Das Projekt ist Teil des Forschungsprojekts Urban.KI. mehr...
brainocons: Intelligente Verknüpfung mit KI-Middleware
[05.08.2025] Eine KI-Middleware des Anbieters brainocons soll Verwaltungsprozesse effizienter gestalten. Die Lösung integriert Künstliche Intelligenz in bestehende IT-Systeme und erfüllt dabei hohe Datenschutz- und Sicherheitsstandards. Vor allem Kommunen sollen von diesem Ansatz profitieren. mehr...
Kiel: Wir lernen beim Gehen
[04.08.2025] Der Grundstein für die Nutzung von Künstlicher Intelligenz (KI) in Kiel wurde mit einer Dienstvereinbarung gelegt. Kommune21 sprach mit dem Kieler CDO Jonas Dageförde über den verantwortungsvollen KI-Einsatz in einer Stadtverwaltung. mehr...