Samstag, 26. Juli 2025

Künstliche IntelligenzChancen und Risiken

[18.02.2025] Künstliche Intelligenz und generative Künstliche Intelligenz verfügen über das Potenzial, Staat und Verwaltung tiefgreifend zu verändern. Eine Analyse der Auswirkungen von KI-Technologien auf die Verwaltungsarbeit.
Mit DALL-E-3 geschaffene Grafik unter dem Titel Klimts Interpretation der Auswirkungen von KI auf die Verwaltungsarbeit.

Grafik „Klimts Interpretation der Auswirkungen von KI auf die Verwaltungsarbeit“.*

*Die digitale Illustration hat der Autor mithilfe von DALL-E-3 (Bing) geschaffen.

(Bildquelle: Jörn von Lucke/DALL-E-3)

Der Begriff der Künstlichen Intelligenz (KI) steht für ein Bündel an Technologien, Algorithmen und Ansätzen, die menschliche Intelligenz nachbilden, um Aufgaben eigenständig oder auf Befehl zu übernehmen. Dazu zählen etwa Maschinelles Lernen, Neuronale Netzwerke, Muster­erkennung, Sprachverarbeitung, Chatbots und Robotik. KI unterstützt und automatisiert Tätigkeiten durch Muster-, Text-, Sprach-, Bild-, Gesichts- und Gestenerkennung sowie Analysen. Andere Systeme ermöglichen die Generierung von Texten, Tönen, Sprache, Bild, Videos und Räumen. All das schafft neuartige Anwendungsfelder für Wahrnehmung, Benachrichtigung, Empfehlung, Vorhersage, Vorsorge, Entscheidungen und Situationsanalysen in Echtzeit. Dies erweitert die Einsatzmöglichkeiten von IT deutlich.

Immer leistungsfähigere Hardware, lernende KI-Algorithmen, größere Datenräume, offene Standards und offene Schnittstellen tragen dazu bei, dass auch im öffentlichen Sektor neuartige Einsatzfelder und KI-basierte Anwendungen entwickelt werden. KI verfügt über das Potenzial, Aufgaben zu automatisieren, Prozesse zu beschleunigen, die Datenqualität zu verbessern und Entscheidungsträger durch fundierte datenbasierte Vorschläge zu unterstützen. Der Einsatz von KI muss aber stets im Einklang mit den rechtlichen und ethischen Vorgaben stehen.

Herausforderungen und Vorteile

KI optimiert so im öffentlichen Sektor etwa Posteingänge, Entscheidungsfindungen, Reaktionen in Krisenfällen und Bürgerdienste. Das kann auch zu recht innovativen Lösungen führen. Datenschutzbedenken, laufende Überwachungen und rechtliche Herausforderungen können bremsend wirken und Widerstände erzeugen. Chancen liegen in datengestützter Politikgestaltung, einem evidenzbasierten Verwaltungshandeln, mehr Bürgerteilhabe und höherer Kosteneffizienz. Sicherheitsrisiken, Verzerrungen, Diskriminierungen und technologische Abhängigkeiten bleiben dauerhafte Herausforderungen. Generative KI (GKI) erzeugt neue Artefakte basierend auf erlernten Mustern, beispielsweise Texte, Übersetzungen, Präsentationen, IT-Programme, Prozesse, Bilder und Videos. Das eröffnet zahlreiche Anwendungsmöglichkeiten in Wissenschaft, Forschung, Wirtschaft, Medien, Prosa, Kunst, Gesetzgebung, Verwaltung, Justiz, Sicherheitsbehörden und Militär.

GKI beeindruckt durch schnelle Reaktionen, kreative Inhalte, Anpassungsfähigkeit, Multilingualität, Lernfähigkeit, Skalierbarkeit, Geduld und Höflichkeit. Schwächen liegen in einem begrenzten kritischen Denken, Abhängigkeiten von Trainingsdaten, Halluzinationen, fehlender Sensitivität gegenüber falschen, ironischen und sarkastischen Informationen sowie Anfälligkeiten für Missbrauch. Chancen für den öffentlichen Sektor eröffnen hochwertige Texterstellungen, Übersetzungen, Analysen und Assistenzdienste. Risiken wie eine politische Manipulation, Sicherheitslücken, Diskriminierung und Kompetenzverlust erfordern Maßnahmen zur Risikominimierung.

Von der Analyse bis zur Zusammenfassung

GKI wird die Verwaltungsarbeit verändern. Sie ermöglicht eine effiziente Dokumentensuche, profitiert von raschen Analysen und der schnellen Erstellung von Textentwürfen für Anschreiben, Antworten, Begründungen, Protokolle, Berichte, Agenden, Bescheide, Gesetzentwürfe und Sitzungsvorlagen. Prompt Engineering als Methodik optimiert Anfragen an eine GKI für hochwertige Ergebnisse. Passende Visualisierungen in Präsentationen, Videos oder Bildern stärken die Kommunikation. Rechtliche Auflagen beim Datenschutz und beim Schutz sensibler Inhalte müssen von Anwendern eigenverantwortlich beachtet werden. Über eine Einbindung in die Office-Welt wird GKI bald zu den Standardwerkzeugen gehören. Die KI-basierte Generierung von Programmen entlastet die Entwickler, senkt Kosten und verändert die Softwareentwicklung. Low-Code-Ansätze ermöglichen es Fachkräften zunehmend, Lösungen selbst zu erstellen, Abläufe zu optimieren und Prozesse um neuartige Register oder Digitale Zwillinge neu aufzusetzen.

In Vorgangsbearbeitungssystemen unterstützt KI im Umgang mit Akten, etwa bei der Einhaltung von Vorschriften und Datenschutzrichtlinien, indem sie Prozesse standardisiert und Überwachungsfunktionen integriert, um die Einhaltung von Fristen und die ordnungsgemäße Behandlung von sensiblen Daten sicherzustellen. Neue Funktionen wie automatisierte Zusammenfassungen, Chatbots, Diktieren und Transkribieren sind Anzeichen weiterer Veränderungen. Beherrschen die Anwender die Erzeugung von Prompts und liefern ihnen GKIs überzeugende Textentwürfe, Grafiken und Übersetzungen, werden sie die gewonnene Zeit für andere anspruchsvollere Aufgaben nutzen. Digitale Akten- und Vorgangsbearbeitungssysteme werden mittelfristig durch KI-Module das Prozessmanagement anders als bisher beherrschen und selbstständig Teilprozesse priorisieren und steuern. Dies ermöglicht es, Entscheidungen in Echtzeit auf Basis von vordefinierten Regeln und aktuellen Daten zu treffen. KI-Systeme lassen sich sogar so konfigurieren, dass sie Teilprozesse vollständig automatisieren, steuern und Entscheidungen treffen, zum Beispiel, wenn es keine Ermessensspielräume gibt.

Ethische, rechtliche und sicherheitsrelevante Abwägungen

Bisher wurden KI-basierte Systeme im öffentlichen Sektor bei Entscheidungen überwiegend nur zur Unterstützung eingesetzt, womit die Entscheidung bei einer Person verbleibt. KI könnte Optionen in einem Entscheidungskontrollradar mit Kennzahlen und Argumenten visualisieren, Entscheidungsspielräume aufzeigen, eine erste Folgenabschätzung vornehmen und zur Qualitätssicherung auf Fehler, Missinterpretationen oder falsch herangezogene Rechtsgrundlagen hinweisen. Bearbeiter und Entscheidungsträger erhalten auf diese Weise eine fundiertere Entscheidungsgrundlage. Dies eignet sich insbesondere für massenhaft auftretende Vorgänge und Verfahren, aber auch für sehr komplexe Fälle, bei denen sich verschiedene Vorschläge generieren lassen und so weiter individuell auf den Einzelfall eingegangen werden kann.

Es sind immer Menschen, die entscheiden, wie mit einer neuen Technologie umgegangen wird – im Guten wie im Schlechten. Der Umgang mit KI in Staat und Verwaltung wirft zahlreiche ethische Fragen zu Datenschutz, Fairness und sozialen Auswirkungen auf. Die KI-Verordnung der EU setzt für Regulierung und Verbote nun die Grundlagen. Die KI-Entwicklung im öffentlichen Sektor erfordert so einige ethische, rechtliche und sicherheitsrelevante Abwägungen. Benchmarks sollten die KI-Anbieter und deren Angebote vergleichbar machen. Behörden müssen in die Lage versetzt werden, einen KI-Dienst jederzeit austauschen zu können. Sicher ist, dass KI und GKI noch wesentliche Beiträge zur digitalen Transformation von Staat und Verwaltung leisten werden. Derzeit steht die deutsche Verwaltung noch eher am Anfang ihrer Nutzung und Entwicklung.

Dr. Jörn von Lucke ist Leiter von The Open Government Institute (TOGI) an der Zeppelin Universität in Friedrichshafen und dort Professor für Verwaltungs- und Wirtschaftsinformatik.




Weitere Meldungen und Beiträge aus dem Bereich: Künstliche Intelligenz

Schwalm-Eder-Kreis: KI senkt Energieverbrauch

[24.07.2025] Fünf Kommunen im Schwalm-Eder-Kreis setzen auf Künstliche Intelligenz, um den Energieverbrauch ihrer öffentlichen Gebäude deutlich zu senken. Das Land fördert das Projekt mit über einer Million Euro aus dem Programm „Starke Heimat Hessen“. mehr...

Stilisierte Darstellung eines Chatbots mit Headset, verschwommen im Hintergrund ist eine Frau zu sehen, die den Bot antippt.
bericht

Digitale Telefonassistenz: Mehr KI, weniger Wartezeit

[23.07.2025] Dank Künstlicher Intelligenz (KI) können Voicebots Kommunen am Bürgertelefon in mehrfacher Hinsicht unterstützen. Sie entlasten einerseits die Mitarbeitenden und erweitern andererseits den Bürgerservice. Damit die Bots wirklich helfen können, müssen allerdings einige Voraussetzungen erfüllt sein. mehr...

Nahaufnahme von weiblichen Händen an einer Tastatur

Niedersachsen: Kommunen können LLMoin nutzen

[21.07.2025] Der KI-basierte Verwaltungsassistent LLMoin steht ab sofort auch den Kommunen in Niedersachsen zur Verfügung. Die Landesregierung, die das Tool seit einigen Monaten pilotiert, hat ihren Rahmenvertrag entsprechend angepasst. mehr...

URBAN.KI Coverbild

Gelsenkirchen: URBAN.KI ist Innovator des Jahres

[21.07.2025] Die von der Stadt Gelsenkirchen ins Leben gerufene Initiative URBAN.KI ist von der DDW („Die Deutsche Wirtschaft“) als Top Innovator des Jahres 2025 gewürdigt worden. Die Jury lobte, das Projekt leiste einen relevanten Beitrag zur Modernisierung der kommunalen Infrastruktur. mehr...

Mehrere Personen stehen vor einem Abfallsammelfahrzeug, das per Schriftzug auf den KI-Einsatz zur Abfalltrennung hinweist.

Münster: Smarte Ressourcenschonung

[18.07.2025] Wie smarte Lösungen zum ressourcenschonenden Leben im Quartier beitragen können, soll ein aus mehreren Teilprojekten bestehendes Modellvorhaben in Münster zeigen. Beispielsweise soll Künstliche Intelligenz (KI) auf Störstoffe im Bioabfall hinweisen, sodass dieser tatsächlich weiterverwertet werden kann. mehr...

Wien Museum Außenansicht

Wien: KI zählt Museumsbesucher

[18.07.2025] Ein Zählsystem für Besucherinnen und Besucher nutzt KI-Videoanalysen, um die Planung, betriebliche Effizienz und Sicherheit des Wien Museums zu verbessern. Die Lösung wurde von den Unternehmen Isarsoft und PKE implementiert und soll etwa dazu beitragen, Warteschlangen zu vermeiden. mehr...

Maschine links im Bild, Mann und Frau rechts im Bild mit Papier in der Hand

Kreis Bergstraße: Förderung für KI

[14.07.2025] Der Kreis Bergstraße will den Einsatz von Künstlicher Intelligenz zunächst in Jobcentern vorantreiben. Das Projekt „KI_Hub Kommunal“ wird vom Digitalministerium gefördert. mehr...

Ayunis: Neue KI-Werkzeuge für die Verwaltung

[11.07.2025] Das Start-up Locaboo heißt jetzt Ayunis und will mit zwei neuen KI-Tools die Verwaltung unterstützen. Die Lösungen namens Core und Studio sollen Prozesse vereinfachen und Mitarbeitende entlasten. Entwickelt wurde die Plattform speziell für den Einsatz im öffentlichen Sektor – datenschutzkonform und offen zugänglich. mehr...

Whitepaper/Webinar: KI-Nutzung in der kommunalen Praxis

[10.07.2025] Mit dem Whitepaper „Mit KI von Daten zu Taten“ zeigt URBAN.KI, wie Kommunen Künstliche Intelligenz praxisnah einsetzen können. Es präsentiert reale Anwendungsfälle und zentrale Technologien – und macht Know-how und Software auch für andere Städte nutzbar. Am 11. Juli findet ein Webinar zum Thema statt. mehr...

Cover des Impulspapiers zu KI- Kompetenzen

ÖFIT-Impulspapier: KI braucht Kompetenzen

[10.07.2025] Standardisierte, aber sehr arbeitsintensive Prozesse kennzeichnen große Teile der Verwaltung. Generative KI-Systeme können dabei für erhebliche Entlastung sorgen. Das ÖFIT hat nun ein Impulspapier veröffentlicht, das sich mit dem Kompetenzaufbau in diesem Bereich befasst. mehr...

Hände tippen auf Computer-Keyboard (leicht unscharf), davor gerenderter Kopfumriss aus helltürkisen Punkten und Linien

Thüringen: Automatisiert zum Antrag

[03.07.2025] Als erstes Bundesland bietet Thüringen eine KI-gestützte Erstellung von Antragsverfahren für Kommunen an. Das System befindet sich aktuell in der Beta-Phase und zeigt bei strukturell einfachen und mittelkomplexen Anträgen sehr zuverlässige Ergebnisse. mehr...

Vier Personen sitzen in einem Raum Publikum gegenüber, im Hintergrund ist EMMA AI auf einem Bildschirm zu sehen.

Gelsenkirchen: KI-Assistenz für den Bürgerservice

[01.07.2025] Ab dem kommenden Jahr will Gelsenkirchen mit der Künstlichen Intelligenz EMMA AI arbeiten. Höflich, halluzinationsfrei und rechtssicher soll sie dann Bürgerfragen in zunächst sechs Bereichen beantworten. Aktuell wird die KI auf ihren Live-Einsatz trainiert. mehr...

Vektorgrafik eines Roboters, der einem Tisch einem Menschen gegenübersitzt.
bericht

Künstliche Intelligenz: Potenziale heben

[30.06.2025] Künstliche Intelligenz hält längst Einzug in kommunale Verwaltungen. Für einen erfolgreichen, effizienten Einsatz sind neben der Technik auch klare ethische Leitplanken und hochwertige, leicht zugängliche (Trainings-)Daten notwendig. mehr...

Futuristisch leuchtendes Technologienetzwerk das sich unter anderem zu einer Gehirnform verbindet.

Analyse: Wie kann KI in Fachverfahren effektiv unterstützen?

[27.06.2025] Wie Künstliche Intelligenz (KI) in digitale Verwaltungsprozesse integriert werden kann, zeigt eine Studie der Bundesdruckerei und des Beratungsunternehmens Possible. Der Report konzentriert sich auf kurzfristig umsetzbare Einsatzmöglichkeiten. Es stehen 16 Fachverfahren und drei zentrale KI-Technologien im Fokus. mehr...

Mehrere Personen stehen in einem Raum und halten ein Banner in den Händen.
bericht

Kreis Regensburg: In Bayern vorne

[25.06.2025] Bei der Digitalisierung nimmt der Kreis Regensburg in Bayern eine Vorreiterrolle ein. Neben Chatbot und Voicebot hat die Kommune auch bereits Erfahrungen mit KI und Robotic Process Automation gesammelt. Jüngst ist die Entwicklung eines eigenen LLMs gestartet. mehr...