InterviewKI ist kein Selbstzweck

Herr Pfromm, der Senat der Freien und Hansestadt Hamburg hat eine Strategie für eine Digitale Stadt entwickelt. Welche Schwerpunkte setzt diese?

Grundaussage der Strategie aus dem Jahr 2015 ist, dass Hamburg die Chancen des technologischen Fortschritts zur Steigerung von Lebensqualität und Wirtschaftskraft nutzen und aktiv gestalten möchte. Hamburgs erste umfassende Digitalstrategie hatte den Anspruch, die Digitalisierung aller Bereiche des gesellschaftlichen Lebens in den Blick zu nehmen. Bei den Vorhaben unseres Amts für IT und Digitalisierung liegt der Fokus also nicht allein auf der Digitalisierung der Verwaltung, vielmehr muss die Stadt diese Entwicklung in allen Lebensbereichen begleiten. Greifbar wird dies etwa an der Strategie zu Intelligenten Transportsystemen (ITS), die mit Blick auf den ITS-Weltkongress in Hamburg 2021 aktuell mit Nachdruck verfolgt wird.

Sieht die Strategie künftig auch den Einsatz von Algorithmen und künstlicher Intelligenz (KI) vor?

Das Thema KI zeigt, mit welcher Geschwindigkeit sich das Thema Digitalisierung immer wieder verändert, und wieso es einen peniblen Masterplan nicht geben kann. Wir müssen vielmehr in der Lage sein, neue Themen schnell zu identifizieren und aufzunehmen. Selbstverständlich ist KI mittlerweile in vielen Fachbereichen und Projekten der Verwaltung Teil der Überlegungen und wird bereits in einigen Anwendungen erprobt. Sie ist aber kein Selbstzweck, und es muss stets im Einzelfall geprüft werden, ob ihr Einsatz einen Mehrwert in der digitalen Stadt schafft.

Welche Chancen sehen Sie generell im Einsatz solcher Technologien in der öffentlichen Verwaltung?

Für die öffentliche Verwaltung als Arbeitgeberin und Dienstleisterin sehen wir große Potenziale. Auf diese sind wir schon allein aufgrund des demografischen Wandels und dem daraus folgenden Ausscheiden von etwa 30 Prozent unserer Beschäftigten bis zum Jahr 2028 angewiesen. Um die berechtigten Erwartungen der Bürger an die Leistungen der Verwaltung auch in Zukunft erfüllen zu können, werden wir digitale Hilfsmittel benötigen und experimentieren daher auf ausgewählten Feldern bereits mit künstlicher Intelligenz. Im Zuge des Projekts „Digitale Bauleitplanung“ testen wir den Einsatz von KI, die Sachbearbeiter bei der Vorsortierung und Beschaffung relevanter Informationen in der Bauleitplanung unterstützen soll. Dies ist ein Beispiel dafür, wie digitale Hilfsmittel unsere Beschäftigten von Routinetätigkeiten entlasten würden und somit mehr Zeit für andere Aufgaben zur Verfügung stehen könnte.

„Es muss stets im Einzelfall geprüft werden, ob der Einsatz von KI einen Mehrwert in der digitalen Stadt schafft.“
Was gilt es beim Einsatz von KI zu beachten?

Wie bei jeder Software muss zunächst für Akzeptanz geworben werden. Auch müssen die eigenen Beschäftigten befähigt werden, mit solchen Programmen professionell umzugehen. Noch wichtiger ist es aber, schon im Schritt davor zu bedenken, dass Algorithmen die Gefahr von Intransparenz bergen. Die KI wird immer nur so gute Entscheidungen treffen, wie die eingefütterten Datensätze und Programmierungen es vorsehen. Es muss daher gewährleistet sein, dass der KI-Einsatz nicht ungewollt zu einer Benachteiligung einzelner Bevölkerungsgruppen führt und das Ergebnis der KI rechtmäßig ist. Das gilt für uns als Verwaltung aufgrund der Bindung an das Rechtsstaatsgebot des Grundgesetzes umso schärfer. Unser Handeln muss sich immer an dieses Gebot halten und somit konsequenterweise auch durch die Verwaltungsgerichtsbarkeit überprüfbar sein. Daher hat die Senatskanzlei Hamburg gemeinsam mit weiteren Institutionen im Oktober 2018 mit 40 Experten über die künftige Rolle von KI in öffentlicher Verwaltung und Gerichtsbarkeit diskutiert. Die auf der Veranstaltung gewonnenen Erkenntnisse sollen wissenschaftlich aufbereitet und daraus Hamburger Thesen abgeleitet werden.

Wie weit ist dieses Projekt gediehen?

Die Hauptveranstalter, der Rechtsstandort Hamburg e.V. und das Hans-Bredow-Institut für Medienforschung, haben ihre Thesen bereits veröffentlicht. Für die Teilnehmer der Veranstaltung und andere Interessierte aus dem Wissenschaftsbereich geht es nun darum, sich in ihren jeweiligen Forschungs- und Anwendungsfeldern der drängenden Problemstellungen anzunehmen und den Erkenntnisgewinn voranzutreiben. Eine auf der Tagung besprochene Idee war beispielsweise das Sandboxing. Bei dieser Methode könnten neue Regulierungsideen in einem isolierten Testfeld erprobt werden, etwa durch einen fingierten Verwaltungsprozess zu einem KI-Sachverhalt vor einem nachgebildeten gerichtlichen Spruchkörper.

Wie lauten die wichtigsten Erkenntnisse der Veranstaltung?

In der Gesamtschau scheint es mir so, dass die veröffentlichten Thesen die Chancen und Risiken von KI im Verwaltungskontext ausgewogen aufgreifen. Aus meiner Sicht als Hamburgs CDO ist es natürlich besonders spannend, wie wir das Thema bei der Digitalisierung der Verwaltungsleistungen konkret mitdenken müssen. Beispielsweise ist uns nochmal verstärkt vor Augen geführt worden, dass wir schon bei der Ausgestaltung unserer eigenen Prozesse die Verwaltungsgerichtsbarkeit nicht aus dem Blick verlieren dürfen. Wir müssen immer schon einen Schritt weiter denken und prüfen, inwiefern der KI-Einsatz potenziell von einem Verwaltungsgericht überprüft werden könnte. Das nennt man Rule of Law by Design.

Inwiefern sollen die Thesen in die digitale Strategie Hamburgs einfließen?

Unmittelbar zunächst nicht. Es sind Thesen unabhängiger Wissenschaftler. Aber selbstverständlich haben wir uns als Mitveranstalter und Partner der Tagung solche Impulse und Denkanstöße erhofft. Die Diskussion werden wir selbstverständlich weiter verfolgen und in den jeweiligen Bereich der Strategie Digitale Stadt einfließen lassen – etwa bei Justiz, Wirtschaft und digitaler Verwaltung. Politik und Verwaltung müssen über den Tellerrand schauen und mit Wissenschaft, Wirtschaft und der Stadtgesellschaft in den Dialog kommen, um digitale Zukunftsthemen gemeinsam anzugehen.

Welchen Nutzen könnten andere Kommunen oder der Bund aus den Hamburger Thesen ziehen?

Ich denke, es ist nicht mehr die Frage, ob KI zukünftig im Bund oder den Kommunen genutzt wird, sondern eher wann und wie. Dementsprechend würden wir uns natürlich freuen, wenn die Thesen auch andernorts als Impulse für eigene Problemstellungen und Anwendungsfelder verstanden werden. Wir können generell alle sehr davon profitieren, wenn wir unsere Erfahrungen austauschen und dort, wo es sinnvoll ist, Sy­nergien heben. Eine solche umfassende Zusammenarbeit haben wir bereits beim Onlinezugangsgesetz (OZG). Genauso müssen wir beim Thema KI am Ende der Bevölkerung vermitteln, dass wir alles im Griff haben und die Chancen die Risiken überwiegen werden.