InterviewKI-Entwicklung mitgestalten

Herr Dr. Neubauer, Sie waren von 2000 bis 2021 Geschäftsführer des kommunalen IT-Dienstleisters Citkomm, der mittlerweile zur Südwestfalen IT (SIT) gehört, und haben nun ein Start-up namens Gov-KI gegründet, das sich mit Künstlicher Intelligenz (KI) beschäftigt. Für wie nützlich halten Sie den Einsatz von KI in der kommunalen Verwaltung? Jeder redet momentan über KI, aber es geschieht doch tatsächlich relativ wenig Konkretes, vor allem in den Kommunen – vielleicht ein paar Großstädte ausgenommen. Es wird noch einige Zeit dauern, bis dort Fördermittel ankommen, um ein KI-Projekt zu starten. Die Politik sollte hier nicht lange zögern, wenn sie Erfolge sehen will. Large Language Modells (LLM) wie ChatGPT haben trotz des Hypes ein riesiges Potenzial. Das Hauptprodukt der Verwaltung ist ja ein Text, beispielsweise ein Bescheid. Wenn eine KI nun die Syntax prüft oder checkt, ob die Rechtsbehelfsbelehrung richtig ist, liegt darin schon eine große Unterstützungsleistung. Wir brauchen im öffentlichen Bereich aber Spezialanwendungen, die so programmiert sind, dass es sich um rechtlich korrekte Lösungen handelt, die in die heutige IT-Landschaft integriert sind. Zusätzlich müssen sie dem AI Act der EU entsprechen. Davon sind die heutigen LLMs noch weit weg. Es gibt ja bereits funktionierende KI-Transkriptionstools, die beispielsweise Ratssitzungen verschriftlichen und zusammenfassen. Das ist sicher eine gute Sache. Jedoch kann man beim manuellen Transkribieren gleich auch Inhalte glätten und Dinge so darstellen, wie man sie haben will, oder eine gewisse Intransparenz erhalten. Ich bin wirklich gespannt, wie sich das mit einer KI entwickelt. Wir haben jahrelang Dokumentenmanagementsysteme (DMS) eingesetzt, und das Schwierigste war immer die Paginierung fürs Gericht. Vom DMS würde ja stets die komplette Akte verschickt werden, nur sind da manchmal auch Dinge enthalten, die man nicht zu Gericht schicken sollte. Meiner Einschätzung nach wird das noch etwas dauern, bevor man juristisch, politisch und gesellschaftlich ausgehandelt hat, was man von einer KI erwartet. Gibt es weitere Bereiche neben der Textgenerierung, wo KI in der Verwaltung zum Einsatz kommen kann? „Wir benötigen Rechenzentren, die in der Lage sind, große KI-Maschinen bereitzustellen.“ Es gibt sicher Möglichkeiten der Künstlichen Intelligenz, die sich noch niemand vorstellen kann. Wir sitzen gerade an einem Pilotprojekt zur KI-gestützten Notfallplanung. Dabei werden Charaktere, die in einer Notfallsituation auftreten, von der KI simuliert. Das ist sehr komplex und ob das am Ende gut funktioniert, wird sich zeigen. Für den öffentlichen Sektor ist sicherlich auch das Thema Chatbot von großem Interesse. Das Problem: Wenn man einen Standard-Chatbot verwendet, hat man keine Kontrolle über die vom Anwender eingegebenen Daten. Die Behörden behelfen sich also mit einer Dienstanweisung, die die Verwendung personenbezogener Daten untersagt. Und damit ist eigentlich der Mehrwert schon weg. Denn ein Chatbot in der Bürgerberatung kann dann nur individuell beraten, wenn er mit persönlichen Daten gefüttert wird. Gibt es keine geschlossenen KI-Systeme ohne Schnittstelle nach außen? Natürlich gibt es On-Premise-KI, die speziell auf eine Fragestellung trainiert ist. Darin stecken aber zusätzlicher Aufwand und zusätzliche Kosten. Der Vorteil allerdings ist, dass man eine gut trainierte Open-Source-KI dann fünf, sechs Jahre unverändert nutzen kann, ohne jedes Mal bei technischen Veränderungen mitgehen zu müssen, die einem die großen Hersteller auferlegen. Wir sollten hier in Deutschland auch nochmal grundsätzlich über den Datenschutz nachdenken. Ich halte den AI Act für sehr gelungen, weil er sich im Wesentlichen auf die Risikobetrachtung bezieht. Die Frage ist aber, will man immer vom maximalen Risiko ausgehen oder lässt sich das – gerade bei On-Premise-Systemen – auch herunterstufen? Sind die Kommunen schon bereit für Künstliche Intelligenz? Aufgrund der Gepflogenheiten im öffentlichen Bereich müssen wir viele Dinge On-Premise gestalten und damit sind automatisch die Rechenzentren der meisten Städte raus, weil das zu teuer ist. Das können nur die öffentlichen IT-Dienstleister. Hinzu kommt, dass die meisten KI-Lösungen für den öffentlichen Bereich angepasst werden müssen. Das lohnt sich nur, wenn es Einer für Viele macht. Und drittens benötigen wir eine Integration in die Fachanwendungen. Text rein, Text raus, wie bei Open AI – das reicht nicht aus. Erst bei einer kompletten Integration kann ich kontrollieren, welche Daten in die KI gelangen, und das Ergebnis nochmal qualitätssichern. Und genau das verlangt der AI Act. Welche IT-Häuser beschäftigen sich schon mit KI? Bei allen großen öffentlichen IT-Dienstleistern laufen KI-Projekte, die vor allem der Bildung von Know-how dienen und um die Technik in den Griff zu kriegen. Momentan sind auch die großen internationalen Beratungsunternehmen auf Kooperationen aus. Wenn es später einmal um Umsetzung und Technik geht, wären die für mich nicht die idealen Partner. Stattdessen würde ich eher kleine, wendige, technologieorientierte Unternehmen wählen, vielleicht Start-ups, die eine Speziallösung entwickeln. Welche Rolle spielt Ihre Firma? Wir wollen KI-Lösungen in existierende Anwendungen integrieren und stehen mit vielen kommunalen Anbietern im Gespräch, die dabei Unterstützung benötigen. Zudem verfügen wir über das gesamte Know-how, um eine KI zu trainieren und On-Premise laufen zu lassen. Außerdem entwickeln wir selbst KI-Lösungen wie das erwähnte Notfall-Planspiel. Wie sollten sich die öffentlichen IT-Dienstleister also aufstellen? Zunächst benötigen wir Rechenzentren, die in der Lage sind, große KI-Maschinen bereitzustellen. Über govdigital gibt es bereits den Ansatz, den kleineren Häusern die Rechenkapazität der großen zur Verfügung zu stellen. Ich gehe davon aus, dass wir für On-Premise-Rechnen in den nächsten Jahren eine ähnlich gute Lösung finden werden wie bei den großen Hyperscalern. Die Frage des Trainings und Fütterns einer KI ist dann gelöst, wenn wir einen Dienst haben, der die Daten so pseudonymisieren kann, dass die Datenschutz-Grundverordnung (DSGVO) eingehalten wird. Dies ist schon absehbar. Der dritte Punkt, die Integration in Fachverfahren, stellt allerdings wirklich ein Problem dar, wenn man bedenkt, wie viele Juristen und Datenschützer dabei mitreden wollen und der Dynamik ihren Schwung nehmen. Wäre in den Kommunen also mehr Wagemut nötig? Mehr Fehlerkultur. Ich würde mich freuen, wenn man die wenigen Risiken einer souveränen KI, wie ich sie in unserem Whitepaper beschreibe, auch mal ignorieren würde, um voranzukommen. Bislang war jedes noch so kleine Risiko ein Showstopper in der Verwaltung.