HamburgKI-Textassistent LLMoin startet Betrieb

Die Hamburger Verwaltung setzt auf generative Künstliche Intelligenz, um effizienter zu werden. Im Mittelpunkt dieser Initiative steht das Projekt LLMoin – ein speziell für die Bedürfnisse der Verwaltung entwickelter Textassistent, der zwar Ähnlichkeiten mit ChatGPT aufweist, jedoch in den Bereichen Datenschutz, Sicherheit und Benutzerfreundlichkeit gezielt für den behördlichen Einsatz konzipiert wurde. Nach einer gut einjährigen Testphase hat Anfang Dezember die schrittweise Einführung in den ersten Behörden begonnen. Der Roll-out in der Hamburger Verwaltung soll bis Mitte 2025 abgeschlossen werden. Hamburg zählt nach eigenen Angaben zu den ersten Städten, die ein solches KI-Tool für den öffentlichen Sektor entwickelt haben. „Large Language Models werden Verwaltungsprozesse effizienter machen, wovon nicht nur die Beschäftigten profitieren, sondern auch die Bürgerinnen und Bürger“, sagt der CDO der Freien und Hansestadt Hamburg, Christian Pfromm.

Maßgeschneidert für die Verwaltung

Das Tool LLMoin wird verwaltungsintern für Textverarbeitungsaufgaben eingesetzt, etwa das Zusammenfassen umfangreicher Dokumente, das Verfassen von Reden sowie die Recherche in großen Textmengen. Dank seiner benutzerfreundlichen Gestaltung, die zahlreiche Hilfestellungen bietet, soll LLMoin von allen Mitarbeitenden niedrigschwellig genutzt werden können. So führt etwa ein intuitiver Nutzerdialog zu den gewünschten Ergebnissen. Durch umfassende Schulungsunterlagen und regelmäßige Nutzung von LLMoin sollen die Beschäftigten fundierte Kompetenzen im Umgang mit LLMs entwickeln – und das technologische Verständnis innerhalb der Verwaltung erweitern.

KI trifft keine Verwaltungsentscheidungen

In den Bereichen Datenschutz, Sicherheit und den erlaubten Anwendungsszenarien unterscheide sich LLMoin deutlich von kommerziellen Lösungen wie ChatGPT, betont das Amt für IT und Digitalisierung der Stadt Hamburg. So wird bei LLMoin durch entsprechende Nutzungsbedingungen und die Ausbildung der Mitarbeitenden sichergestellt, dass das Tool keinen Einfluss auf behördliche Entscheidungen hat und dass keine sensiblen Daten verarbeitet werden. Beispielsweise ist der Einsatz bei Entscheidungen über Sozialleistungen oder für die Evaluation von juristischen Argumenten untersagt. Diese bleiben weiterhin in der Verantwortung der Mitarbeitenden – LLMoin funktioniert ausschließlich als Assistenzsystem. LLMoin basiert auf den aktuellen GPT-Modellen, die über den Microsoft-Cloud-Service Azure bereitgestellt werden. Dabei verlassen die Daten den Europäischen Datenschutzraum aber nicht und werden nicht gespeichert. Stattdessen werden Daten unmittelbar nach der Verarbeitung gelöscht. Übermittelte Daten werden auch nicht zum weiteren Modelltraining verwendet.

Nachnutzung möglich

Weitere Kommunen, Bundesländer sowie öffentliche Einrichtungen und Unternehmen können von dieser Lösung profitieren. Die breite Nutzung von LLMoin würde Skaleneffekte schaffen und Synergien bei zukünftigen Weiterentwicklungen ermöglichen. Durch den Vertrieb über den öffentlichen IT-Dienstleister Dataport ist eine einfache Anpassung und schnelle Betriebsbereitschaft gewährleistet. Über das technische Produkt hinaus kann Hamburg umfangreiche Best Practices teilen. Für weitere Informationen zur Nachnutzung oder um Testaccounts für LLMoin zu erhalten, steht Dataport zur Verfügung.