[6.2.2018] Der Staat wendet Technologie nicht nur an, sondern setzt ihr Rahmenbedingungen und leitet ihre Entwicklung. Auch die künstliche Intelligenz sollte durch rechtliche Vorgaben sowie die Gestaltung von Verfahren und Technik positiv gesteuert werden.

Künstliche Intelligenz (KI) zeigt heute schon sehr große Wirkung. Das gilt auch für die öffentliche Verwaltung. Seit den 1940er-Jahren haben es sich Forscher zur Aufgabe gemacht, Probleme durch Maschinen automatisch lösen zu lassen. In den vergangenen zehn Jahren hat die auch zuvor stetige Entwicklung durch die Verbesserung so genannter künstlicher neuronaler Netze einen erheblichen Schub erfahren. Was Anwendungen künstlicher Intelligenz leisten können, kann man bereits an einigen Stellen in der Verwaltung sehen.
Chatbots helfen dem Bürger, Formulare zu finden und auszufüllen; das Easy-Pass-System übernimmt am Flughafen die Passkontrolle; intelligente Verkehrssysteme erfassen Wetter, Temperatur und Verkehr und errechnen daraus, ob Geschwindigkeitsbegrenzungen oder Überholverbote angeordnet werden sollen. Daneben werden Algorithmen in der Steuerverwaltung bei der Einkommensprüfung oder beim Zoll eingesetzt. Technisch ist aber bereits heute schon viel mehr möglich. Das zeigen insbesondere Smart-City- und Smart-Village-Konzepte: Es gibt viele Automatisierungsmöglichkeiten, die noch nicht angewendet werden.

Die Entwicklung lenken

Gleichzeitig wird auf der ganzen Welt viel in die Forschung in diesem Bereich investiert. Das stellt Regierung und Verwaltung vor eine besondere Herausforderung: Denn der Staat wendet Technologie nicht nur an, sondern setzt ihr Rahmenbedingungen und leitet ihre Entwicklung. Dies geschieht durch Recht, aber auch durch Strategien, Organisation und die Gestaltung von Verfahren und von Technik selbst. In diesen verschiedenen Formen kann der Staat Leitlinien für die Technologieentwicklung setzen. Im Falle von künstlicher Intelligenz stellt sich allerdings die Frage, wie man die Entwicklung einer Technologie lenken soll, die gerade erst am Anfang ihrer Möglichkeiten zu stehen scheint. Hinzu kommt, dass es sich bei künstlicher Intelligenz um eine Basistechnologie handelt, die vergleichbar ist mit der Erfindung des Eisens. Eisen lässt sich in unterschiedliche Formen gießen: Man kann Schwerter daraus machen oder Pflugscharen. Umso wichtiger ist der positive Einfluss in einem frühen Entwicklungsstadium.

Recht setzt Grenzen und gestaltet

Das Recht ist vielleicht die unmittelbarste Art der Techniksteuerung, es begrenzt Technik aber nicht nur. Im Verhältnis zur Technik kann es die Funktion von Grund, Grenze und Gestaltung haben. Und das gilt auch für künstliche Intelligenz. In seiner Funktion als Grund kann das Recht Regierung und Verwaltung zur Adaption von Technik motivieren und sogar verpflichten. So enthält etwa die Behindertenrechtskonvention der Vereinten Nationen für den Staat eine Verpflichtung, die Forschung, Entwicklung, Verfügbarkeit sowie die Nutzungsmöglichkeiten neuer Technologien zu fördern, die Behinderte unterstützen (Art. 4 (g)). KI-Anwendungen haben in diesem Bereich einige neue Möglichkeiten eröffnet. So können sich blinde Menschen von ihrem Smartphone Kameraausschnitte beschreiben lassen. Eine App erkennt nicht nur Menschen, sondern kann auch ihr ungefähres Alter und Geschlecht bestimmen und ihren Gesichtsausdruck interpretieren.
Das Recht kann aber auch Grenze für Technologie sein. Solche Grenzen ergeben sich zum Beispiel aus dem Datenschutz- oder dem IT-Sicherheitsrecht. Während sich der Datenschutz für Verwaltungen ab Mai 2018 aus dem neuen Bundesdatenschutzgesetz und der EU-Datenschutz-Grundverordnung ergeben wird, finden sich IT-Sicherheitspflichten an verschiedenen Stellen wie etwa in Art. 11 des Bayerischen E-Government-Gesetzes. Durch Grenzen wahrt das Recht öffentliche Interessen und die Rechte der Bürger.
Eine Funktion des Rechts, die bislang noch relativ wenig Aufmerksamkeit erfährt, ist seine Gestaltungsfunktion. In dieser gibt das Recht Prämissen für die Entwicklung der Technik vor, die dann inkrementell berücksichtigt werden. In Art. 25 der EU-Datenschutz-Grundverordnung findet sich etwa die Verpflichtung zu einem datenschutzfreundlichen Technikdesign. KI-Anwendungen sind selbst beliebte Mittel zur datenschutzfreundlichen Gestaltung. So können KI-Systeme in der kameragestützten Parkraumüberwachung Kennzeichen und Gesichter unkenntlich machen, sodass diese weder erkenn- noch rekonstruierbar sind.

TÜV für Algorithmen?

KI-Systeme und ihre Anwendung können aber auch jenseits des Rechts beeinflusst werden. Besonders die Organisation von Regierung und Verwaltung spielt bei der Entwicklung und Anwendung von KI-Systemen eine große Rolle. Die Technologie wird auch dadurch beeinflusst, welche Behörde auf welche Weise auf sie einwirkt. Wenn nach einer verbreiteten Forderung der Berufsstand der Algorithmisten beziehungsweise Algorithmiker geschaffen wird, werden diese ebenso in der Verwaltung gebraucht. Die Funktionen von Förderung, Gestaltung und Überwachung der Technik müssen dabei auch organisatorisch abgebildet werden. Auf europäischer Ebene kursieren in dieser Hinsicht gerade verschiedene Vorschläge. Der französische Präsident Emmanuel Macron etwa hat bei seiner Rede an der Sorbonne eine Europäische Agentur für disruptive Innovationen gefordert und in diesem Zusammenhang künstliche Intelligenz als einzige Technologie erwähnt. In einer Deklaration hat das Europäische Parlament auf Grundlage des Delvaux-Berichts eine Agentur für künstliche Intelligenz und Robotik gefordert, die Entscheidungsträgern zuarbeitet. Im Wahlkampf zur Bundestagswahl 2017 ist zudem die Forderung nach einem so genannten „Algorithmen TÜV“ erhoben worden.

Leitbilder formulieren

Die Entwicklung der Technologie im Kontext von Regierung und Verwaltung kann auch durch Strategien beeinflusst werden. Insbesondere im Kontext von Smart Cities, also planerischen Konzepten, finden oft Technologien und das mit ihnen verbundene Potenzial Erwähnung. Eine Strategie setzt ein Ziel voraus. Hinter solchen Zielen stehen oft Leitbilder, die einen großen Einfluss auf die Technologie ausüben. So steht etwa die Bewahrung der Umwelt als Leitbild hinter dem Konzept der Smart City. Gerade eine Technologie, die wie die künstliche Intelligenz in vielen verschiedenen Kontexten und auf viele verschiedene Arten verwendet werden kann, kann durch ein Leitbild wesentlich beeinflusst werden. Ein solches Leitbild müssen wir in Deutschland nicht neu entwickeln, es geht vielmehr darum, die Grundsätze unseres Zusammenlebens – also unserer Verfassung – so zu formulieren, dass sie das Neue in seinem Werden beeinflussen können. Einen frühen Versuch sieht man in der Verfassung Bremens, die bereits 1947 im ersten Absatz von Art. 12 formulierte: „Der Mensch steht höher als Technik und Maschine.“

Aufruf zur Studienteilnahme

Im Auftrag des Nationalen E-Government Kompetenzzentrums (NEGZ) führt Christian Djeffal in Zusammenarbeit mit Professor Wolfgang Maass eine Studie zum Thema „eGovernment und künstliche Intelligenz“ durch. Durch rechtliche Beratung von Automatisierungsprojekten, Workshops und Experteninterviews sollen Kriterien für eine gute Verwaltungsautomatisierung herausgearbeitet werden. Wenn Sie dazu beitragen wollen, können Sie sich per E-Mail an die Autoren wenden.

Christian Djeffal ist KI-Forscher und Projektleiter „Digitale Öffentliche Verwaltung“ am Alexander von Humboldt Institut für Internet und Gesellschaft, Berlin.

E-Mail an Studienleiter Christian Djeffal
Dieser Beitrag ist in der Februar-Ausgabe von Kommune21 im Schwerpunkt Künstliche Intelligenz erschienen. Hier können Sie ein Exemplar bestellen oder die Zeitschrift abonnieren.  (Deep Link)

Stichwörter: IT-Infrastruktur, Künstliche Intelligenz, Automatisierung

Bildquelle: jozefmicic/Fotolia.com