Informationsfreiheit:
TÜV für Algorithmen


[27.2.2019] Öffentliche Stellen sind in besonderer Weise verpflichtet, den Einsatz von Verfahren der künstlichen Intelligenz rechtmäßig zu gestalten. Ein Positionspapier von Informationsfreiheitsbeauftragten aus Bund und Ländern macht deutlich, welche Vorgaben einzuhalten sind.

Öffentliche Stellen sollten den KI-Einsatz gewissenhaft prüfen. Entscheidungen der öffentlichen Verwaltung werden bereits heute durch automatisierte Datenverarbeitungsvorgänge unter Zuhilfenahme von Algorithmen und künstlicher Intelligenz (KI) nicht nur automatisiert vorbereitet, sondern teilweise sogar voll automatisiert getroffen. Der Einsatz von Algorithmen und KI kann zwar Effizienzsteigerungen bewirken und Auswertungen großer Datenmengen erleichtern oder überhaupt erst ermöglichen. Die Verwaltung trägt jedoch eine hohe Verantwortung, den Einsatz von Algorithmen und KI-Verfahren insbesondere im Zusammenhang mit behördlicher Entscheidungsfindung rechtmäßig zu gestalten.

Oberstes Gebot: Transparenz herstellen

Elementar sind in diesem Zusammenhang die Beachtung der Menschenwürde und des Diskriminierungsverbots. Vor diesem Hintergrund stellt es ein großes Problem dar, dass Algorithmen und KI derzeit meist völlig intransparent funktionieren. Mit welchen Kriterien und Wertvorstellungen sie gefüttert werden und inwieweit die erzielten Ergebnisse dem Grundsatz der Gesetzmäßigkeit der Verwaltung entsprechen, ist für die Betroffenen in aller Regel nicht nachzuvollziehen. Die eingesetzten Algorithmen und KI-Verfahren müssen daher transparent gemacht werden, damit die Bürger, aber auch die Verwaltung selbst, das Zustandekommen der Entscheidungen nachvollziehen können. Neben automatisierten Entscheidungen, die Bürger unmittelbar betreffen, müssen auch Entscheidungen der Verwaltung ohne Bezug zu konkreten Personen, etwa bei der Planung von Verkehrswegen oder bei fiskalischem Handeln, nachvollziehbar sein.
Je höher das Risiko und je einschneidender die möglicherweise nachteiligen Auswirkungen für die betroffenen Menschen sein können, desto strenger muss geprüft werden, ob Algorithmen oder KI-Verfahren überhaupt grundrechtskonform eingesetzt werden können, ob die Verfahren sich ordnungsgemäß durchführen lassen und welche Folgen entstehen können. Unabdingbar für eine solche Folgenabschätzung ist die ausreichende Transparenz über die Algorithmen und Verfahren der künstlichen Intelligenz. Zudem müssen die errechneten Ergebnisse vorhersehbar und nachvollziehbar sein; gleichartige Eingaben müssen stets zu gleichartigen Ausgaben führen. Nach den Grundsätzen der Informationsfreiheit und der Verwaltungstransparenz müssen die für die Verwaltung essenziellen Informationen über die von ihr eingesetzten Algorithmen sowie KI-Verfahren zudem der Öffentlichkeit zur Verfügung gestellt werden.

Positionspapier der Informationsfreiheitsbeauftragten

Im Rahmen der 36. Konferenz der Informationsfreiheitsbeauftragten in Deutschland Mitte Oktober 2018 in Ulm haben für die Informationsfreiheit zuständige Landesdatenschutzbeauftragte sowie die damalige Bundesbeauftragte für den Datenschutz und die Informationsfreiheit daher das Positionspapier „Transparenz der Verwaltung beim Einsatz von Algorithmen für gelebten Grundrechtsschutz unabdingbar“ vorgelegt. Sie fordern darin Bundes- und Landesgesetzgeber auf, öffentliche Stellen noch konsequenter als bislang zu einem transparenten, verantwortungsvollen Einsatz von Algorithmen und KI-Verfahren zu verpflichten. Es bietet sich an, entsprechende Transparenzvorschriften in den jeweiligen Informationsfreiheits- und Transparenzgesetzen oder den einschlägigen Fachgesetzen zu verankern. Ausnahmen sollten dabei auf ein Minimum beschränkt werden.
Dem Positionspapier zufolge müssen öffentliche Stellen vor dem Einsatz von Algorithmen und KI-Verfahren etwa prüfen, inwieweit dieser grundrechtskonform überhaupt möglich ist. Bestehen nach einer sorgfältigen Prüfung Zweifel, beispielsweise wenn ausreichende Nachvollziehbarkeit, Überprüfbarkeit und Beherrschbarkeit nicht gegeben sind, muss auf den Einsatz verzichtet werden. Öffentliche Stellen sollten zudem für ausreichende Transparenz über die eingesetzten Algorithmen sorgen. Für einen beherrschbaren Einsatz der Technik müssen sie über aussagekräftige, umfassende und allgemein verständliche Informationen bezüglich der eigenen Datenverarbeitungen verfügen. Dazu gehören vor allem die Ein- und Ausgabedaten des Verfahrens, die darin enthaltene Logik, insbesondere die verwendeten Berechnungsformeln einschließlich der Gewichtung der Eingabedaten, Informationen über das zugrundeliegende Fachwissen und die individuelle Konfiguration durch die Anwender und die Tragweite der darauf basierenden Entscheidungen sowie die möglichen Auswirkungen der Verfahren. Soweit es rechtlich möglich ist, sollten diese Informationen auch veröffentlicht werden.

Vor Manipulationen schützen

Um der Verwaltung die Erfüllung dieser Pflichten zu ermöglichen, müssen die Transparenzanforderungen nach Ansicht der Autoren des Positionspapiers schon bei der Programmierung beachtet werden (Transparency by Design). Die berechneten Ausgabedaten sollten dabei jeweils um die Information ergänzt werden, welche Eingabedaten oder Bewertungen besonders relevant für das Ergebnis waren. Insbesondere bei selbstlernenden Systemen muss eine Unterstützung durch entsprechende Auswertungswerkzeuge vorgesehen sein.
Dokumentation und Protokollierung der Abläufe sowie wesentlicher Parameter sind unerlässlich, um die Sicherheit und Vertrauenswürdigkeit des Verfahrens zu schützen und etwaige Manipulationen zuverlässig erkennen zu können. Der Einsatz muss durch geeignete technische und organisatorische Maßnahmen manipulationssicher gestaltet werden. Die getroffenen Maßnahmen sind einer regelmäßigen Evaluierung und Qualitätskontrolle zu unterziehen. Um eine umfassende Überprüfbarkeit zu gewährleisten, fordert das Positionspapier, den jeweiligen öffentlichen Stellen auch den Quelltext sowie andere relevante Informationen über die Algorithmen und KI-Verfahren zur Verfügung zu stellen.
Beim KI-Einsatz müssen die öffentlichen Stellen die jeweils erforderlichen risikoadäquaten Sicherheitsmaßnahmen treffen. Abhängig vom konkreten Anwendungsfall können hierzu insbesondere auch manuelle Kontrollen, einfache Widerspruchsmöglichkeiten oder die Rückabwicklung von Entscheidungen gehören. Unter keinen Umständen darf die Datenverarbeitung mittels Algorithmen und KI-Verfahren eine diskriminierende Wirkung entfalten. Vor diesem Hintergrund sind hohe Anforderungen an die Auswahl und Entwicklung derartiger Verfahren zu stellen, beispielsweise bei der Auswahl von Trainingsdaten für selbstlernende Systeme oder für in solchen Systemen eingesetzte Bewertungsfunktionen.

Umfassender Handlungsbedarf

Beim Vorliegen von hohen Risiken für die Bürger muss vor der Entscheidung über einen Einsatz von Algorithmen und KI-Verfahren eine Folgenabschätzung durchgeführt werden, die gegebenenfalls regelmäßig zu wiederholen ist. Bei besonders sensiblen Anwendungsbereichen sollte die Zulassung der Algorithmen und KI-Verfahren zudem erst nach Überprüfung und Abnahme durch eine Art Algorithmen-TÜV möglich sein.
Sowohl der Gesetzgeber als auch die öffentlichen Stellen müssen vor dem Hintergrund der Grundrechtsbindung der Verwaltung dafür Sorge tragen, dass die in dem Positionspapier formulierten Maßstäbe für den öffentlichen Bereich verbindlich festgelegt und umgesetzt werden. Darüber hinaus ist der Gesetzgeber dazu angehalten, entsprechende Vorgaben auch für die Privatwirtschaft zu normieren.
Das vorgelegte Positionspapier macht den umfassenden Handlungsbedarf beim KI-Einsatz in der öffentlichen Verwaltung deutlich. Die Informationsfreiheitsbeauftragten aus Bund und Ländern stehen gerne bereit, um konkret zu besprechen, wie sich die Anforderungen umsetzen lassen. Auch Forschungsergebnisse zu Verfahren der künstlichen Intelligenz können hierbei künftig eine wesentliche Rolle spielen.

Marit Hansen ist Landesbeauftragte für Datenschutz Schleswig-Holstein.

Dieser Beitrag ist in der Ausgabe Februar 2019 von Kommune21 im Schwerpunkt Künstliche Intelligenz erschienen. Hier können Sie ein Exemplar bestellen oder die Zeitschrift abonnieren. (Deep Link)

Stichwörter: Politik, künstliche Intelligenz (KI), Automatisierung, Informationsfreiheit

Bildquelle: Kenishirotie/stock.adobe.com

Druckversion    PDF     Link mailen


Weitere Meldungen und Beiträge aus dem Bereich Politik
DO.IT Stuttgart: Katalysator für Digitalisierung Interview
[19.9.2022] Das OZG ist eine Sackgasse für Deutschland, sagt Thomas Bönig im Kommune21-Interview. Der neue Leiter des Amts für Digitalisierung, Organisation und IT (DO.IT) in Stuttgart plädiert für echte digitale Services und erläutert seine Pläne für die Landeshauptstadt. mehr...
Thomas Bönig
Deutscher Landkreistag: Verbandsspitze gewählt
[15.9.2022] Reinhard Sager, Landrat des Kreises Ostholstein, bleibt auch in den kommenden zwei Jahren Präsident des Deutschen Landkreistags (DLT). Im Rahmen der Mitgliederversammlung wurde er einstimmig wiedergewählt. mehr...
Hiddenhausen: Verwaltung wird digitaler
[14.9.2022] Innerhalb von fünf Monaten hat Hiddenhausen eine Digitalisierungsstrategie für die Verwaltung erarbeitet. Insbesondere der demografische Wandel und zunehmende Fachkräftemangel gaben dazu Anlass. Unterstützt wurde die Gemeinde vom Kommunalen Rechenzentrum Minden-Ravensberg/Lippe (krz). mehr...
Übergabe des Strategiehandbuchs Hiddenhausen.
Hamburg: Digitale Souveränität gesetzlich verankert
[12.9.2022] Der Hamburger Senat hat einen Gesetzentwurf verabschiedet, der die öffentliche Verwaltung verpflichtet, IT-Aufträge ausschließlich an Unternehmen der öffentlichen Hand zu vergeben. Mit diesem neuen IT-Souveränitätsgesetz will die Stadt ihre digitale Unabhängigkeit stärken. mehr...
Bremen: Henning Lühr begleitet digitalen Umbau
[9.9.2022] Das Bremer Bürgeramt sieht sich aktuell mit einer Vielzahl an Herausforderungen konfrontiert. Abhilfe schaffen könnte eine massive Digitalisierung der Dienstleistungen und eine Optimierung des Termin-Management. IT-Verwaltungsexperte Henning Lühr wird der Freien Hansestadt hierbei als Berater zur Seite stehen. mehr...
Weitere FirmennewsAnzeige

DigitalPakt Schule 2.0: Standards für mehr Tempo in der digitalen Bildung
[30.9.2022] Mit verbesserten Förderstrukturen wäre eine Neuauflage des DigitalPakts 2.0 eine große Chance für die Beschleunigung der Digitalisierung an Schulen. In seiner aktuellen Form erschweren aufwändige Ausschreibungsverfahren, dass Schulen die Fördermittel nachhaltig einsetzen können. Welchen Vorteil hätten einheitliche Standards? mehr...

3-Way-Match in der Rechnungsprüfung: Der Weg zur No-Touch-Buchung
[26.9.2022] Die Messe Stuttgart hat sich gleich nach ihrem Wechsel auf S/4HANA eines weiteren wichtigen Themas angenommen: der Einrichtung einer ganzheitlichen und SAP-integrierten P2P-Lösung. mehr...
Suchen...

 Anzeige



Aktuelle Information des Verlags


In Zeiten der Corona-Pandemie werden wir aktuelle Ausgaben von Kommune21 allen Interessierten bis auf weiteres kostenfrei digital zur Verfügung stellen. Weisen Sie bitte auch Ihre Kolleginnen und Kollegen im Homeoffice auf diese Möglichkeit hin.

Wir haben an dieser Stelle eine Bitte an Sie:
Die gegenwärtige Situation macht einmal mehr deutlich, wie wichtig das Thema Digitalisierung auch in Ihrer Verwaltung, Behörde oder Schule ist. Kommune21 berichtet seit 20 Jahren über alle wichtigen Themen der IT-gestützten Verwaltungsmodernisierung und hilft, die Digitalisierung im Public Sector transparent und besser zu gestalten. Bitte prüfen Sie über Ihre Buchhaltung, ob Sie bereits ein reguläres Abonnement von Kommune21 haben. Wenn nicht, dann freuen wir uns, wenn Sie gerade in diesen Zeiten ein Abonnement in Betracht ziehen. Danke!

Kommune21, Ausgabe 10/2022
Kommune21, Ausgabe 09/2022
Kommune21, Ausgabe 08/2022
Kommune21, Ausgabe 07/2022
Kommune21, Ausgabe 06/2022
Kommune21, Ausgabe 05/2022

Aboverwaltung


Abbonement kuendigen

Abbonement kuendigen
H+H Software GmbH
37073 Göttingen
H+H Software GmbH
ISGUS GmbH
78054 Villingen-Schwenningen
ISGUS GmbH
S-Public Services GmbH
88699 Frickingen
S-Public Services GmbH
MACH AG
23558 Lübeck
MACH AG
Aktuelle Meldungen