Künstliche IntelligenzVom Leuchtturm in die Fläche

In Zeiten eines grassierenden Fachkräftemangels und einer anrollenden Pensionierungswelle auf allen Verwaltungsebenen setzt der öffentliche Sektor auf Unterstützung durch Digitalisierung, Automatisierung und Künstliche Intelligenz (KI). Verwaltungsmitarbeitende sollen von Routinearbeiten entlastet werden und bei Entscheidungen Hilfestellung erhalten. Abläufe und Prozesse sollen verschlankt und – wenn möglich – automatisiert werden, um größere Effizienz zu erzielen und freie Ressourcen für kompliziertere Anliegen zu gewinnen. In einigen Kommunen ist KI bereits in Einsatz. In der Landeshauptstadt Stuttgart nutzen 48 Prozent der Führungskräfte ChatGPT. Ein KI-Tool des Münchner Start-ups Govradar unterstützt die dortigen Behörden dabei, Leistungsbeschreibungen für Ausschreibungsunterlagen zu verfassen. Die Behördenrufnummer 115 bietet in Stuttgart eine Echtzeitübersetzung in mehreren Sprachen an, wozu ein auf KI basierender Live-Call-Translator eingesetzt wird. Die baden-württembergische Landesregierung hat mit F13 ein KI-Tool von Aleph Alpha im Einsatz, das bei der behördlichen Recherche und Textproduktion behilflich ist. In Ingolstadt steuert eine KI die Ampeln und sorgt für besseren Verkehrsfluss und verbesserte Luftqualität. Und beim Hanauer Standesamt übernimmt eine KI-Kollegin namens Emma die Erfassung von Geburtsurkunden und Familienbüchern, sodass die Standesbeamten sich auf die juristische Prüfung konzentrieren können.

IT-Dienstleister sammeln Know-how

Dies alles sind Leuchtturmprojekte, singuläre Best-Practice-Beispiele, und vom Einsatz in der Fläche weit entfernt. Wie bei der Digitalisierung geht es auch bei Künstlicher Intelligenz in Kommunen mit unterschiedlichen Geschwindigkeiten zu. Es gibt Vorreiterstädte, deren Digitalteams intelligente KI-Lösungen entwickeln und einführen. Und es gibt Kommunen, die ganz andere Probleme haben, als sich nun auch noch mit Künstlicher Intelligenz zu befassen. Ohnehin können sich KI nur die wenigsten Städte und Gemeinden leisten. KI-Systeme erfordern hohe Anfangsinvestitionen sowohl in die technische In­frastruktur als auch in die Software und deren Implementierung. Für kleine Kommunen ist das kaum zu stemmen. Umso mehr Engagement zeigen die großen kommunalen IT-Dienstleister, die sich gegenwärtig bemühen, einschlägiges Know-how aufzubauen. In allen großen Häusern werden KI-Kompetenzzentren gegründet, technische KI-Plattformen errichtet und KI-Strategien und Governance-Leitlinien für den internen Einsatz erarbeitet. Eine von der Bundesarbeitsgemeinschaft der Kommunalen IT-Dienstleister (Vitako) Ende September 2024 veranstaltete Fachkonferenz warf eine Praxisperspektive auf KI und Automatisierung in der kommunalen Verwaltung. Dort präsentierten einige IT-Dienstleister erste Arbeitsergebnisse aus ihren KI-Werkstätten. 

Einsatzfelder in Behörden

So wird beim hessischen IT-Dienstleister ekom21 die Offene Urbane Datenplattform OUDP auch für KI-Anwendungen beispielsweise im Bereich Smart Building genutzt. Eine KI wertet Nutzungsgewohnheiten von Anwohnern im Umgang mit Energie aus und passt die Gebäudesteuerung daran an. Im Bereich Smart City werden Vorhersagemodelle genutzt, um den Verkehrsfluss zu steuern und die Straßeninfrastruktur vorausschauend zu warten. Eine KI-basierte Verkehrsanalyse kommt beim Parksuchverkehr zum Einsatz, und Satelliten- und Wärmebilddaten ermöglichen die Analyse von Temperatur und Feuchtigkeit, um das Stadtgrün zu bewässern. Hier überschneiden sich KI und BI (Business Intelligence), indem Künstliche Intelligenz Entscheidungshilfen und Handlungsempfehlungen für die Chefetagen generiert.

Beim Landesdienstleister Dataport sitzt ein 42-köpfiges Team an der Entwicklung des Textassistenten LL.Moin, ein auf GPT4 basierendes Large-Language-Modell, das bislang für vier Use Cases angelegt ist: die Zusammenfassung von Texten, die Generierung von Inhalten, Rechercheassistenz und freies Prompting. Unterstützt vom InnoTecHH Fonds Hamburg und umgesetzt mithilfe von Capgemini soll LL.Moin – ganz ähnlich wie F13 in Baden-Württemberg – Behördenmitarbeiter in vielerlei Belangen behilflich sein. Eine Livedemo auf der Fachkonferenz zeigte, wie aus einer 16-seitigen Dokumentation zur Umweltverträglichkeitsprüfung einer Werkhalle eine einzige Übersichtsseite wird. Umgekehrt kann das System aus drei Stichwörtern einen kompletten Bürgerbrief entwerfen – vorausgesetzt, man beherrscht die richtigen Befehle beim Prompting. 

Datenschutz- und Urheberrecht

Eine Notwendigkeit im öffentlichen Sektor ist die besondere Sensibilität im Umgang mit Bürgerdaten. Personenbezogene Daten und öffentliche KI-Sprachmodelle wie ChatGPT schließen sich grundsätzlich aus. Kommunen wie die baden-württembergische Stadt Schorndorf, wo seit einigen Monaten ChatGPT von den Verwaltungsmitarbeitenden genutzt werden kann, haben eine Dienstanweisung verfasst, die genaue Regularien im Umgang mit KI festlegt. Etwas ähnliches haben Vitako und die KGSt mit ihrer Guideline „Generative KI in Kommunalverwaltungen“ vorgelegt. Darin werden Nutzungsszenarien von KI-Sprachmodellen vorgestellt und aufgezeigt, worauf bei der Anwendung besonders zu achten ist: den Datenschutz. Personenbezogene Daten, Adressen oder sogar Amts- und Geschäftsgeheimnisse gehören nicht in die Eingabemaske eines öffentlich zugänglichen KI-Systems. Sollen lange Texte, Tabellen und Dokumentationen zusammengefasst werden, kann dies eine Herausforderung darstellen. Denn die Dokumente müssen vorher geprüft werden, ob sie personenbezogene Daten, ­Adressangaben oder nicht-öffentliche Informationen enthalten. Bei der Erstellung von Videos und Bildern ist neben dem Datenschutzrecht zudem das Urheberrecht relevant. Die Guideline ist eine Hilfestellung beim erstmaligen Umgang mit Large-Language-Modellen in Behörden. Zusätzlich ist es sicher ratsam, die Mitarbeitenden durch Schulungen auf den Umgang mit KI vorzubereiten – so wie es in Schorndorf verpflichtend der Fall ist.

On-Premise-Systeme helfen weiter

Die Nutzung eines KI-Sprachmodells auf der Grundlage von Regeln bedeutet freilich im Umkehrschluss, dass alles, was über den sanktionierten Umgang hinausgeht, Datenschutzprobleme hervorrufen kann. Dabei wird es für die potenziellen Möglichkeiten einer KI an dieser Stelle erst richtig interessant. Will ein Verwaltungsmitarbeiter beispielsweise bei der Bearbeitung eines Bürgergeldantrags ähnlich gelagerte Fälle heranziehen, wäre es ausgesprochen hilfreich und einfach, wenn eine KI über die Entscheidungslage vorheriger Fälle Auskunft erteilen könnte. Dazu müsste sie aber zuvor mit entsprechenden personenbezogenen Daten gefüttert und trainiert werden. Proprietäre KI-Systeme wie ChatGPT fallen hier aus. Allein On-Premise-Systeme, die von Kommunen oder ihren IT-Dienstleistern im eigenen Rechenzentrum betrieben und in diesem geschützten Rahmen mit entsprechenden Daten versorgt werden, kommen infrage.

„Niemand will, dass ein ablehnender Sozialbescheid bei OpenAI oder Microsoft landet. On-Premise ist zwar keine allgemeine Notwendigkeit im kommunalen Kontext, aber die Voraussetzung für den Umgang mit personenbezogenen Daten“, sagt Lars Hoppmann, geschäftsführender Vorstand bei Vitako. „Ein Chatbot für die Bürgerkommunikation kann durchaus auf öffentliche KI-Sprachmodelle zurückgreifen. Will man aber selbstlernende Sprachmodelle mit personenbezogenen Daten füttern, damit sie brauchbare Ergebnisse liefern, muss dies in einem geschlossenen System geschehen. In dieser Hinsicht würde ich mich auch nicht auf einen europäischen Datenraum verlassen, der von Hyperscalern angeboten wird.“

KI-Einsatz auf Bundesebene

KI-Chatbots sind ein beliebtes Erprobungsfeld für Kommunen im Umgang mit Künstlicher Intelligenz. In Gelsenkirchen unterstützt ein KI-Chatbot als „fünfter Mitarbeiter“ die anderen vier Mitarbeitenden bei der Beantwortung von wiederkehrenden Bürgeranfragen. Auch auf Bundesebene sind KI-gestützte, textbasierte Dialogsysteme im Einsatz. Im Rahmen der Dienstekonsolidierung Bund wurde ein „Basisdienst Chatbot“ gemeinsam vom Bundesinnenministerium, der Generalzolldirektion und dem IT-Dienstleister des Bundes (ITZBund) entwickelt. Für den eigenen Bedarf wurde der Job-Chatbot Kira entwickelt, der Fragen zum ITZBund als Arbeitgeber beantwortet. Im nächsten Schritt soll er Matching-Funktionen übernehmen und dann zum Bewerberprofil passende Stellenangebote vorschlagen.

Vorausgegangen war ein Papier zur Datenstrategie der Bundesregierung, in deren Rahmen der Bedarf an KI-Sprachmodellen geprüft werden soll, und ein KI-Leitbild, das den Fokus auf einen chancenorientierten und verantwortungsvollen Einsatz von KI richtet. Das im Aufbau befindliche Beratungszentrum für Künstliche Intelligenz (BeKI) soll zentrale Anlaufstelle für die KI-Vorhaben in der Bundesverwaltung werden und den Aufbau von Infrastrukturen und Nutzungstechnologien koordinieren. Auf einem „Marktplatz der KI-Möglichkeiten“ sollen einmal Ministerien und Bundesbehörden Zugriff auf die neuesten KI-Entwicklungen erhalten. Hierfür wird ein ressortübergreifendes KI-Portal des ITZBund entstehen (KIPITZ), das auf Open-Source-Komponenten basiert und den Endanwendern einmal zur Verfügung stehen soll.

Europas KI-Verordnung

Auf europäischer Ebene laufen die KI-Aktivitäten des Public Sectors ebenfalls auf Hochtouren. EURITAS, die Allianz der europäischen Verwaltungs-IT-Dienstleister, fordert in einem Positionspapier einen harmonisierten Kriterienkatalog für die Umsetzung von KI-Anwendungen. Für allgemein geltende Rahmenbedingungen hat jetzt auch die europäische KI-Verordnung (EU AI Act) gesorgt, die im Mai verabschiedet wurde und nach Übergangsphasen 2026 in Kraft tritt. Der risikobasierte Ansatz der KI-Verordnung ist von der Privatwirtschaft verhalten aufgenommen worden. Befürchtet wird, dass Europa hinter die weltweiten KI-Fortschritte zurückfällt. Vom Public Sector, wo die Innovationsgeschwindigkeit grundsätzlich nicht so hoch ist, wurde die Verordnung durchaus begrüßt, wenn auch leidlich begeistert. „Die KI-Verordnung schafft einen klaren rechtlichen Rahmen für alle Teilnehmer“, sagt etwa Katrin Giebel, stellvertretende Geschäftsführerin von Vitako.

Die KI-Verordnung sieht nationale Experimentierräume für die Entwicklung und Klassifizierung von zukünftigen KI-Anwendungen vor, so genannte Reallabore. Bis August 2026 soll in jedem Mitgliedstaat ein solches eingerichtet sein. Eine zentrale Marktüberwachungsbehörde – in Deutschland wird das die Bundesnetzagentur sein – muss sicherstellen, dass alle neuen KI-Anwendungen EU-konform sind und dem AI Act entsprechen. 

IT-Dienstleister planen eigene Infrastruktur

Bislang ist vorgesehen, dass nur die Privatwirtschaft, der Mittelstand und wohl auch Start-ups Zugang zu den Reallaboren erhalten. Insofern rumort es im Public Sector. Vitako-Vorstand Lars Hoppmann fordert: „Es ist notwendig, dass auch die Kommunen und ihre IT-Dienstleister Zugang zu den Reallaboren aus dem AI Act erhalten, damit nicht wieder alles doppelt und dreifach entwickelt wird. Das entbindet die kommunalen IT-Dienstleister aber nicht davon, eine eigene Infrastruktur aufzubauen.“ Und in diese Richtung geht die Fahrt. Die großen kommunalen IT-Häuser, aber auch die beiden Genossenschaften der öffentlichen IT-Dienstleister, Provitako und Govdigital, sitzen am Thema Leistungsaustausch. „Für On-Premise-Systeme muss man zu vernünftigen und intelligenten Zusammenschlüssen finden“, erklärt Hoppmann, „um die notwendige Power zu haben. Das kann nicht jede Kommune oder ein kleiner IT-Dienstleister allein unternehmen.“ Eine KI-Infrastruktur aufzubauen und nützliche KI-Anwendungen zu entwickeln, ist dabei nur eine Seite der Medaille. Vermutlich sogar noch anspruchsvoller wird es sein, die KI-Anwendungen in die bestehenden kommunalen Strukturen zu integrieren.