Montag, 2. Dezember 2024

InformationsfreiheitTÜV für Algorithmen

[27.02.2019] Öffentliche Stellen sind in besonderer Weise verpflichtet, den Einsatz von Verfahren der künstlichen Intelligenz rechtmäßig zu gestalten. Ein Positionspapier von Informationsfreiheitsbeauftragten aus Bund und Ländern macht deutlich, welche Vorgaben einzuhalten sind.
Öffentliche Stellen sollten den KI-Einsatz gewissenhaft prüfen.

Öffentliche Stellen sollten den KI-Einsatz gewissenhaft prüfen.

(Bildquelle: Kenishirotie/stock.adobe.com)

Entscheidungen der öffentlichen Verwaltung werden bereits heute durch automatisierte Datenverarbeitungsvorgänge unter Zuhilfenahme von Algorithmen und künstlicher Intelligenz (KI) nicht nur automatisiert vorbereitet, sondern teilweise sogar voll automatisiert getroffen. Der Einsatz von Algorithmen und KI kann zwar Effizienzsteigerungen bewirken und Auswertungen großer Datenmengen erleichtern oder überhaupt erst ermöglichen. Die Verwaltung trägt jedoch eine hohe Verantwortung, den Einsatz von Algorithmen und KI-Verfahren insbesondere im Zusammenhang mit behördlicher Entscheidungsfindung rechtmäßig zu gestalten.

Oberstes Gebot: Transparenz herstellen

Elementar sind in diesem Zusammenhang die Beachtung der Menschenwürde und des Diskriminierungsverbots. Vor diesem Hintergrund stellt es ein großes Problem dar, dass Algorithmen und KI derzeit meist völlig intransparent funktionieren. Mit welchen Kriterien und Wertvorstellungen sie gefüttert werden und inwieweit die erzielten Ergebnisse dem Grundsatz der Gesetzmäßigkeit der Verwaltung entsprechen, ist für die Betroffenen in aller Regel nicht nachzuvollziehen. Die eingesetzten Algorithmen und KI-Verfahren müssen daher transparent gemacht werden, damit die Bürger, aber auch die Verwaltung selbst, das Zustandekommen der Entscheidungen nachvollziehen können. Neben automatisierten Entscheidungen, die Bürger unmittelbar betreffen, müssen auch Entscheidungen der Verwaltung ohne Bezug zu konkreten Personen, etwa bei der Planung von Verkehrswegen oder bei fiskalischem Handeln, nachvollziehbar sein.
Je höher das Risiko und je einschneidender die möglicherweise nachteiligen Auswirkungen für die betroffenen Menschen sein können, desto strenger muss geprüft werden, ob Algorithmen oder KI-Verfahren überhaupt grundrechtskonform eingesetzt werden können, ob die Verfahren sich ordnungsgemäß durchführen lassen und welche Folgen entstehen können. Unabdingbar für eine solche Folgenabschätzung ist die ausreichende Transparenz über die Algorithmen und Verfahren der künstlichen Intelligenz. Zudem müssen die errechneten Ergebnisse vorhersehbar und nachvollziehbar sein; gleichartige Eingaben müssen stets zu gleichartigen Ausgaben führen. Nach den Grundsätzen der Informationsfreiheit und der Verwaltungstransparenz müssen die für die Verwaltung essenziellen Informationen über die von ihr eingesetzten Algorithmen sowie KI-Verfahren zudem der Öffentlichkeit zur Verfügung gestellt werden.

Positionspapier der Informationsfreiheitsbeauftragten

Im Rahmen der 36. Konferenz der Informationsfreiheitsbeauftragten in Deutschland Mitte Oktober 2018 in Ulm haben für die Informationsfreiheit zuständige Landesdatenschutzbeauftragte sowie die damalige Bundesbeauftragte für den Datenschutz und die Informationsfreiheit daher das Positionspapier „Transparenz der Verwaltung beim Einsatz von Algorithmen für gelebten Grundrechtsschutz unabdingbar“ vorgelegt. Sie fordern darin Bundes- und Landesgesetzgeber auf, öffentliche Stellen noch konsequenter als bislang zu einem transparenten, verantwortungsvollen Einsatz von Algorithmen und KI-Verfahren zu verpflichten. Es bietet sich an, entsprechende Transparenzvorschriften in den jeweiligen Informationsfreiheits- und Transparenzgesetzen oder den einschlägigen Fachgesetzen zu verankern. Ausnahmen sollten dabei auf ein Minimum beschränkt werden.
Dem Positionspapier zufolge müssen öffentliche Stellen vor dem Einsatz von Algorithmen und KI-Verfahren etwa prüfen, inwieweit dieser grundrechtskonform überhaupt möglich ist. Bestehen nach einer sorgfältigen Prüfung Zweifel, beispielsweise wenn ausreichende Nachvollziehbarkeit, Überprüfbarkeit und Beherrschbarkeit nicht gegeben sind, muss auf den Einsatz verzichtet werden. Öffentliche Stellen sollten zudem für ausreichende Transparenz über die eingesetzten Algorithmen sorgen. Für einen beherrschbaren Einsatz der Technik müssen sie über aussagekräftige, umfassende und allgemein verständliche Informationen bezüglich der eigenen Datenverarbeitungen verfügen. Dazu gehören vor allem die Ein- und Ausgabedaten des Verfahrens, die darin enthaltene Logik, insbesondere die verwendeten Berechnungsformeln einschließlich der Gewichtung der Eingabedaten, Informationen über das zugrundeliegende Fachwissen und die individuelle Konfiguration durch die Anwender und die Tragweite der darauf basierenden Entscheidungen sowie die möglichen Auswirkungen der Verfahren. Soweit es rechtlich möglich ist, sollten diese Informationen auch veröffentlicht werden.

Vor Manipulationen schützen

Um der Verwaltung die Erfüllung dieser Pflichten zu ermöglichen, müssen die Transparenzanforderungen nach Ansicht der Autoren des Positionspapiers schon bei der Programmierung beachtet werden (Transparency by Design). Die berechneten Ausgabedaten sollten dabei jeweils um die Information ergänzt werden, welche Eingabedaten oder Bewertungen besonders relevant für das Ergebnis waren. Insbesondere bei selbstlernenden Systemen muss eine Unterstützung durch entsprechende Auswertungswerkzeuge vorgesehen sein.
Dokumentation und Protokollierung der Abläufe sowie wesentlicher Parameter sind unerlässlich, um die Sicherheit und Vertrauenswürdigkeit des Verfahrens zu schützen und etwaige Manipulationen zuverlässig erkennen zu können. Der Einsatz muss durch geeignete technische und organisatorische Maßnahmen manipulationssicher gestaltet werden. Die getroffenen Maßnahmen sind einer regelmäßigen Evaluierung und Qualitätskontrolle zu unterziehen. Um eine umfassende Überprüfbarkeit zu gewährleisten, fordert das Positionspapier, den jeweiligen öffentlichen Stellen auch den Quelltext sowie andere relevante Informationen über die Algorithmen und KI-Verfahren zur Verfügung zu stellen.
Beim KI-Einsatz müssen die öffentlichen Stellen die jeweils erforderlichen risikoadäquaten Sicherheitsmaßnahmen treffen. Abhängig vom konkreten Anwendungsfall können hierzu insbesondere auch manuelle Kontrollen, einfache Widerspruchsmöglichkeiten oder die Rückabwicklung von Entscheidungen gehören. Unter keinen Umständen darf die Datenverarbeitung mittels Algorithmen und KI-Verfahren eine diskriminierende Wirkung entfalten. Vor diesem Hintergrund sind hohe Anforderungen an die Auswahl und Entwicklung derartiger Verfahren zu stellen, beispielsweise bei der Auswahl von Trainingsdaten für selbstlernende Systeme oder für in solchen Systemen eingesetzte Bewertungsfunktionen.

Umfassender Handlungsbedarf

Beim Vorliegen von hohen Risiken für die Bürger muss vor der Entscheidung über einen Einsatz von Algorithmen und KI-Verfahren eine Folgenabschätzung durchgeführt werden, die gegebenenfalls regelmäßig zu wiederholen ist. Bei besonders sensiblen Anwendungsbereichen sollte die Zulassung der Algorithmen und KI-Verfahren zudem erst nach Überprüfung und Abnahme durch eine Art Algorithmen-TÜV möglich sein.
Sowohl der Gesetzgeber als auch die öffentlichen Stellen müssen vor dem Hintergrund der Grundrechtsbindung der Verwaltung dafür Sorge tragen, dass die in dem Positionspapier formulierten Maßstäbe für den öffentlichen Bereich verbindlich festgelegt und umgesetzt werden. Darüber hinaus ist der Gesetzgeber dazu angehalten, entsprechende Vorgaben auch für die Privatwirtschaft zu normieren.
Das vorgelegte Positionspapier macht den umfassenden Handlungsbedarf beim KI-Einsatz in der öffentlichen Verwaltung deutlich. Die Informationsfreiheitsbeauftragten aus Bund und Ländern stehen gerne bereit, um konkret zu besprechen, wie sich die Anforderungen umsetzen lassen. Auch Forschungsergebnisse zu Verfahren der künstlichen Intelligenz können hierbei künftig eine wesentliche Rolle spielen.

Marit Hansen ist Landesbeauftragte für Datenschutz Schleswig-Holstein.




Anzeige

Weitere Meldungen und Beiträge aus dem Bereich: Politik
Porträtfoto von Dr. Denis Alt.
interview

Rheinland-Pfalz: Erfolg durch Kooperation

[18.11.2024] Der digitale Wandel dient den Menschen, sagt Staatssekretär Denis Alt. Im Interview mit Kommune21 spricht der neue rheinland-pfälzische CIO und CDO über die Umsetzung der Digitalstrategie des Landes. mehr...

Melitta Kühnlein

Potsdam: Fachbereichsleiterin für E-Government bestätigt

[12.11.2024] Potsdams Stadtverordnete haben Melitta Kühnlein als neue Leiterin des Fachbereichs E-Government bestätigt. Kühnlein ist seit Anfang 2021 in leitender Funktion im IT-Bereich der Stadtverwaltung tätig. mehr...

Baden-Württemberg: Änderung der Gemeindeordnung verabschiedet

[11.11.2024] Der Landtag von Baden-Württemberg hat jetzt eine Änderung der Gemeindeordnung verabschiedet, die Kommunen in administrativen Abläufen entlastet und die finanzielle Berichterstattung vereinfacht. mehr...

Blick vom See auf das neue Rathaus Hannover, HMTG

Hannover: Fonds für digitalen Fortschritt

[30.10.2024] Hannover setzt mit einem 48-Millionen-Euro-Digitalisierungsfonds auf die umfassende Modernisierung seiner Verwaltungsprozesse. Ziel ist ein digitales Rathaus, das Bürgerinnen und Bürgern sowie Unternehmen effiziente, benutzerfreundliche Services bietet. Die IT-Strategie umfasst dazu digitale Souveränität und Kosteneffizienz. mehr...

Digitalisierung: Dresdner Forderungen 2.0

[22.10.2024] Die Fachgruppe Verwaltungsinformatik der Gesellschaft für Informatik hat 20 Thesen zum digitalen Wandel formuliert. Die Forderungen zielen darauf ab, die Verwaltung effizienter, zukunftssicherer und bürgerfreundlicher zu machen. mehr...

bericht

Liechtenstein: Mit Pragmatismus und Agilität

[14.10.2024] Liechtenstein hat auf dem Weg zum Smart Country bereits eine beeindruckende Entwicklung zurückgelegt. Das ist nicht zuletzt vielen mutigen Entscheidungen und einer gehörigen Portion Pragmatismus geschuldet. mehr...

Holger Klötzner, Dezernent für Digitalisierung und Bildung der Stadt Darmstadt; Maral Koohestanian, Leiterin des Dezernats für Smart City, Europa und Ordnung der Stadt Wiesbaden; Eileen O’Sullivan, Dezernentin für Bürger:innen, Digitales und Internationales der Stadt Frankfurt am Main
interview

Smartes Rhein Main 2030: Gemeinsame Vision

[02.10.2024] Eine gemeinsame Vision für ein smartes Rhein-Main-Gebiet haben die Städte Frankfurt am Main, Wiesbaden und Darmstadt erarbeitet. Im Interview erklären die CIOs Eileen O’Sullivan, Maral Koohestanian und Holger Klötzner, was konkret geplant ist. mehr...

Landrat Achim Brötel ist neuer Präsident des Deutschen Landkreistages.

Deutscher Landkreistag: Achim Brötel ist neuer Präsident

[11.09.2024] Der Deutsche Landkreistag (DLT) hat einen neuen Präsidenten gewählt: Achim Brötel, Landrat des Neckar-Odenwald-Kreises, tritt die Nachfolge von Reinhard Sager an, der das Amt zuvor zehn Jahre lang innehatte. mehr...

Charta Digitale Ethik setzt die Rahmenbedingungen für den Einsatz digitaler Technologien in der Essener Stadtverwaltung.

Essen: Charta Digitale Ethik verabschiedet

[04.09.2024] In ihrer Charta Digitale Ethik hat die Stadt Essen die Rahmenbedingungen für den Einsatz digitaler Technologien in der Stadtverwaltung festgelegt. Das soll insbesondere für einen ethisch verantwortungsvollen Umgang mit Künstlicher Intelligenz sorgen. mehr...

Scheckübergabe an die Gewinner des Wettbewerbs um den Ulmer Lederhof.

Ulm: Innovationsmotor gestartet

[23.08.2024] Um ihre Digitale Agenda mit kreativen Köpfen aus der Region umzusetzen, hat die Stadt Ulm den Innovationsmotor gestartet – einen Ideenwettbewerb insbesondere für junge Unternehmen. Runde eins hat der digitale Begleiter für Angsträume gewonnen. mehr...

Markt Postbauer-Heng: Digitalisierung ist kein Privileg der Metropolen

[08.08.2024] Auch kleine Kommunen sind in der Lage, bürgernahe digitale Lösungen zu implementieren, wie das Beispiel des Marktes Postbauer-Heng zeigt. Um die Entstehung digitaler Insellösungen zu vermeiden, wurde die Zukunftskommission #Digitales Bayern 5.0 ins Leben gerufen. mehr...

Kick-off zur Digitalisierungsstrategie der Stadt Petershagen
.

Petershagen: Mit OWL-IT in die digitale Zukunft

[02.08.2024] Gemeinsam mit dem IT-Dienstleister OWL-IT hat die Stadt Petershagen nun den Startschuss für die Erarbeitung einer umfassenden Digitalstrategie gegeben. mehr...

In Bayern soll nach dem Willen von Digitalminister Fabian Mehring der „Digitalisierungsturbo“ gezündet werden.

Bayern: Land unterstützt Digitalisierung der Kommunen

[16.07.2024] Bayerns Digitalminister sieht die konsequente Digitalisierung der Verwaltung als wichtige Möglichkeit, um den künftigen Ruhestand der Babyboomer-Generation und den dadurch entstehenden Fachkräftemangel zu kompensieren. Es gelte, die Potenziale von Standardisierung, Zentralisierung und KI zu nutzen. mehr...

Essen-CDO Peter Adelskamp

Interview: Wir brauchen eine Dachmarke

[15.07.2024] Peter Adelskamp ist Chief Digital Officer (CDO) in Essen und dort zugleich Fachbereichsleiter Digitale Verwaltung. Im Gespräch mit Kommune21 berichtet er von seiner Arbeit in Essen und dem dortigen Stand der Digitalisierung. mehr...

Laut dem jüngsten eGovernment-Benchmark-Report haben die europäischen Staaten bei der Bereitstellung digitaler Behördendienste stetige Fortschritte gemacht.

eGovernment Benchmark 2024: Nutzerzentrierung ist der Schlüssel

[08.07.2024] Laut dem jüngsten eGovernment-Benchmark-Report der Europäischen Kommission haben die europäischen Staaten bei der Bereitstellung digitaler Behördendienste stetige Fortschritte gemacht. Raum für Optimierungen gibt es insbesondere bei grenzüberschreitenden Diensten und bei Dienstleistungen, die von regionalen und kommunalen Behörden erbracht werden. mehr...