regio iTSouveräne Chatplattform für Kommunen

Künstliche Intelligenz und insbesondere generative KI bietet enormes Potenzial für Kommunen – um Prozesse zu beschleunigen, Mitarbeitende zu entlasten oder die Kommunikation mit Bürgerinnen und Bürgern zu verbessern. Doch der Einsatz kommerzieller Lösungen wie ChatGPT ist oft mit Hürden verbunden: Datenschutzauflagen, fehlende Kontrolle über Datenflüsse und unpassende Abrechnungsmodalitäten stehen dem Einsatz häufig im Weg. Der IT-Dienstleister regio iT bietet nun eine Chatplattform an, die es Kommunen erlaubt, das Potenzial großer Sprachmodelle (LLMs) zu nutzen – ohne Abstriche bei Datenschutz, Datensouveränität und Betriebssicherheit machen zu müssen. „Wir haben einen geschützten Raum geschaffen, in dem Verwaltungen generative KI sicher, effizient und praxisnah testen und in ihre Prozesse integrieren können“, so Yasmeen Babar, Centerleiterin Nachhaltigkeit & Mobilität bei der regio iT.

Lokal betrieben, kommunal gedacht

Die Chatplattform basiert auf Open-Source-Technologie und wird vollständig von der regio iT in einem Kubernetes-Cluster betrieben, unter Berücksichtigung datenschutzrechtlicher Vorgaben. So ist ein Filter integriert, der personenbezogene Daten erkennt und entfernt, bevor diese an die KI-Modelle weitergegeben werden. Zum Einstieg stehen leistungsfähige GPT-Modelle bereit, die innerhalb der Europäischen Union gehostet werden. Bereits in dieser ersten Phase sollen Kommunen produktiv arbeiten können. So soll es laut regio iT etwa möglich sein, Wissensdatenbanken anzulegen, Dokumente hochzuladen und für kontextbasierte Antworten zu nutzen oder Prompts für wiederkehrende Aufgaben zu entwickeln. Auch erste Fachanwendungen oder Datenquellen können bereits über Schnittstellen angebunden werden. In einer nächsten Ausbaustufe will regio iT den Zugang zu weiteren offenen Sprachmodellen, die vollständig in Deutschland gehostet werden, für Kommunen ermöglichen. Auch die Integration neuer Werkzeuge, zusätzlicher Datenquellen oder die Entwicklung fachspezifischer KI-Agenten soll dann flexibel möglich sein.