SMARD-GOVDatenschutzkonforme LLMs für Behörden

SMARD-GOV nennt sich ein neues Forschungsprojekt, das jetzt die Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU), die Universität Münster (UM) sowie das Software- und Beratungsunternehmen Prosoz Herten an den Start bringen. Ziel ist laut Prosoz die Erforschung datenschutzkonformer Entscheidungshilfen auf Basis von Large Language Models (LLMs) für den Einsatz in Behörden. SMARD-GOV führe dazu eine datenschutzrechtliche Untersuchung der Nutzung von LLMs in Behörden mit der Erforschung technischer und sozialwissenschaftlicher Aspekte zusammen. Im Fokus stehen Anwendungen bei Bauanträgen auf Grundlage eines domänenspezifischen LLMs.

Besonderes Augenmerk liegt laut Prosoz auf der Einhaltung der Datenschutzvorgaben. Die Verarbeitung der Daten erfolge gemäß DSGVO, wobei strenge technische und organisatorische Maßnahmen zum Schutz sensibler Informationen umgesetzt werden. Alle Projektbeteiligten bringen laut Prosoz umfangreiche Expertisen aus der IT-Sicherheit sowie dem praktischen Einsatz kommunaler Software mit, um eine sichere Datenübertragung und Verarbeitung auf hochsicheren Systemen zu gewährleisten. Mithilfe von Kommunen, die ihre Expertise und Daten zur Verfügung stellen, können realistische Ergebnisse erzielt und mögliche Datenschutzrisiken reduziert werden.

Vielseitige Expertise

Das Projekt wird von der FAU unter Leitung von Professorin Paulina Jo Pesch koordiniert. Als Expertin rund um Rechtsfragen zu Künstlicher Intelligenz (KI), LLMs und automatisierten Entscheidungen analysiere sie mit ihrem Team den rechtlichen Rahmen für den Einsatz von LLMs im Datenschutz und der KI-Regulierung. Pesch stelle als Datenschutzbeauftragte auch die Rechtskonformität der Forschungsarbeiten des Projekts sicher.

Die Arbeitsgruppe für IT-Sicherheit von Professor Rainer Böhme von der UM führe Trainings und Tests durch, die Datenschutzmaßnahmen von LLMs auf ihre Wirksamkeit überprüfen. Eine weitere Arbeitsgruppe für Digitale Information und den öffentlichen Sektor unter der Leitung von Professor Tobias Brandt untersuche den Einsatz von LLMs in Behörden empirisch. So soll laut Prosoz sichergestellt werden, dass die Forschungsarbeiten von SMARD-GOV auf die spezifischen behördlichen Anforderungen und Bedürfnisse der Verwaltungen zugeschnitten sind.

Prosoz wiederum unterstütze mit dem CDO und KI-Experten Christian Rupp und dessen KI-Team die Wissenschaftler beim Erproben ihrer LLMs. Hier spielt die Praxiserfahrung von Prosoz hinsichtlich der Kommunalsoftware für Bauanträge eine wichtige Rolle. Auch stelle das Unternehmen den Kontakt zu den Pilotkommunen sicher.

Das Projekt wird in den Jahren 2025 bis 2027 vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) gefördert.