Stadt NettetalMit dem Ampelsystem zur digitalen Souveränität

Die Stadt Nettetal gehört zu den Kommunen, die beim Einsatz von Künstlicher Intelligenz neue Wege gehen. Digitalisierungsbeauftragter Thorsten Rode hat ein praxisorientiertes Konzept entwickelt, das zeigt, wie sich große Sprachmodelle (LLMs) sicher, effizient und souverän in der Verwaltung nutzen lassen. In einem LinkedIn-Beitrag beschreibt er den hybriden LLM-Ansatz nach dem Ampelsystem, mit dem Nettetal Sicherheit, Flexibilität und Kosteneffizienz in Einklang bringt.

Das Ampelsystem teilt den Einsatz von Large Language Models in drei klar abgegrenzte Bereiche auf. In der grünen Zone betreibt die Stadt kleine und mittlere LLM-Modelle auf eigener Infrastruktur. Sämtliche Daten bleiben in kommunaler Hand, die Stadt hat die volle Kontrolle. Diese Zone ist für besonders sensible Informationen vorgesehen und bietet die höchste Sicherheitsstufe.

In der gelben Zone nutzt Nettetal Open-Source-Modelle, die über den LLM Hub von T-Systems International in der Open Telekom Cloud laufen. Sie sind DSGVO-konform, leistungsfähig und werden tokenbasiert nach tatsächlicher Nutzung abgerechnet. Das sorgt für eine ausgewogene Balance zwischen Sicherheit und Wirtschaftlichkeit.

In der roten Zone greift die Stadt auf große, kommerzielle Modelle zu, ebenfalls über den T-Systems LLM Hub. Personenbezogene Daten dürfen hier nicht verarbeitet werden. Ein gewisses Restrisiko durch den US-Cloud Act bleibt bestehen, wird aber durch Hosting in europäischen Rechenzentren minimiert.

„Durch die Kombination dieser drei Zonen erreichen wir größtmöglichen Nutzen bei kleinstmöglichem Ressourceneinsatz“, erklärt Thorsten Rode. Der hybride Ansatz ermögliche es, digitale Souveränität zu wahren, ohne auf die Innovationskraft moderner KI-Modelle zu verzichten. Besonders die bedarfsgerechte Abrechnung trage zur Effizienz bei und ermögliche eine flexible Skalierung.

Für Verwaltungen oder Unternehmen, die diesem Beispiel folgen möchten, sind laut Rode drei Punkte entscheidend: Know-how-Aufbau, Investitionen in eigene Hardware – insbesondere leistungsfähige Grafikkarten – sowie ein Datenschutzkonzept nach dem Ampelsystem. Nur so lasse sich ein souveräner und sicherer KI-Betrieb nachhaltig umsetzen.

Sein Fazit: Wir müssen uns nicht zwischen Sicherheit und Innovation entscheiden. Mit dem richtigen System können wir beides erreichen.