KIAuswirkungen auf Staat und Gesellschaft

Vier Zukunftsszenarien, wie sich der Einsatz künstlicher Intelligenz (KI) auf das klassische Verwaltungshandeln auswirken könnte, hat das Kompetenzzentrum Öffentliche IT (ÖFIT) entworfen. Wie das Kompetenzzentrum mitteilt, hat sich dafür ein interdisziplinäres Expertenteam unter Leitung des Fraunhofer-Instituts für System- und Innovationsforschung ISI mit relevanten Einflussfaktoren und alternativen Entwicklungsmöglichkeiten von KI in der öffentlichen Verwaltung bis zum Jahr 2030 auseinandergesetzt. Orientiert habe man sich dabei an den derzeitigen Entwicklungen im Bereich des Maschinenlernens, bei denen lernende, sich selbst optimierende Algorithmen Problemstellungen in konkreten, eng abgesteckten Anwendungsfällen bearbeiten. Die Szenarien werden von Sequenzen ergänzt, welche die Perspektiven typischer Akteure aus Verwaltung, Politik und Gesellschaft darlegen sollen. Alle vier Szenarien gehen davon aus, dass KI-Systeme Einzug in die öffentliche Verwaltung erhalten, allerdings in unterschiedlicher Intensität. Im ersten der vorliegenden Szenarien wird die KI beispielsweise umfassend in der gesamten Verwaltung eingesetzt und führt dort zu Effizienz- und Effektivitätssteigerungen. In kritischen Bereichen entscheidet die KI autonom, Verwaltungsmitarbeiter überprüfen nur. KI ist in diesem Szenario Teil der Verwaltungsausbildung, die Verwaltungsmitarbeiter konzentrieren sich bei konstanter Belegschaft im Servicebereich. Eine Pflicht zur Datenoffenlegung gewährt der Verwaltung zudem umfassenden Zugang.

KI-Einsatz in der Verwaltung erleichtern

Das zweite Szenario geht von einer Krisensituation Deutschlands aus, in der die Verwaltung mithilfe der KI Dienstleistungen aufrechterhält. KI federt also als Rationalisierungsmaßnahme die Sparzwänge in der Verwaltung ab. Künstliche Intelligenz gibt hier formal Empfehlungen, denen Sachbearbeitende meistens folgen. Die Verwaltung setzt KI nach Wirtschaftlichkeit ein. KI-Experten gibt es in diesem Szenario in den Verwaltungen kaum, da die Behörden ihnen keine attraktiven Bedingungen bieten können. Der Datenzugang ist verwaltungsintern vereinfacht und extern über Plattformanbieter möglich. Durch den KI-Einsatz ist die Zahl der Verwaltungsmitarbeiter stark reduziert worden.
Im dritten Szenario zielen die Entwicklung und der Einsatz von KI darauf ab, die staatliche Handlungsfähigkeit zu erweitern. Es überzeugt hier eine staatszentrierte künstliche Intelligenz durch Leistung und soziale Verträglichkeit. Mensch oder Maschine entscheiden je nach Anwendungsbereich. KI wird nach und nach in ausgewählten Verwaltungsbereichen eingesetzt. In der Verwaltung herrscht eine hohe KI-Kompetenz. Während der Datenzugang für die Wirtschaft streng reguliert ist, hat der Staat weitreichende Rechte. Die Zahl der Verwaltungsmitarbeiter bleibt auf hohem Niveau.
Im vierten Szenario sind zwar die Voraussetzungen für KI in der öffentlichen Verwaltung geschaffen, allerdings wird sie von Technik und Gesellschaft ausgebremst. So erhöht die KI in manchen Bereichen die Effizienz, hat aber keine tiefgreifenden organisatorischen oder gesellschaftlichen Veränderungen bewirkt. Sie hat lediglich eine unterstützende Funktion und dient nur als Spezialwerkzeug in wenigen Verwaltungsbereichen. Fachkräfte sind rar, weshalb die Verwaltung auch nur über eine geringe KI-Kompetenz verfügt. Der öffentliche Dienst ist in diesem Szenario von KI weitgehend unberührt.
Die Szenarien zeigen unter anderem Rahmenbedingungen auf, die den Einsatz der künstlichen Intelligenz in der öffentlichen Verwaltung erschweren. Das ÖFIT gibt deshalb Anregungen, wie Datenverfügbarkeit gewährleistet werden kann, was gegen Unsicherheiten beim und im KI-Einsatz getan werden kann und wie sich hinreichende Akzeptanz schaffen lässt.
Abschließend werden in der ÖFIT-Publikation kritische Punkte und politische Implikationen mit Blick auf die künstliche Intelligenz diskutiert. Sie reichen von der Rolle des Staates über die Qualitätssicherung, Grenzen und Ziele sowie Bildung und Kompetenzaufbau bis hin zur Sicherheit und Haftung.

Deutsche sehen eher Risiken

Die Bürger stehen der künstlichen Intelligenz hierzulande eher skeptisch gegenüber. Zu diesem Ergebnis kommt eine Umfrage des Marktforschungs- und Beratungsinstituts YouGov, für die 2.000 Personen ab 18 Jahren befragt worden sind. Demnach nimmt jeder zweite ein ausgeglichenes Nutzen-Risiko-Verhältnis wahr, ein Viertel bewertet das Risiko höher, 15 Prozent stufen den Nutzen höher ein. Mit dem Alter steigt laut YouGov der Anteil der Skeptiker. Große Ablehnung gegenüber KI herrscht in Bereichen, in denen Menschen bewertet werden, etwa bei Vorstellungsgesprächen oder der Bewerberauswahl. „Beim Einsatz von künstlicher Intelligenz ist es wichtig, den Menschen den Nutzen klar zu kommunizieren“, erklärt Frieder Schmid, Senior Consultant Custom Research bei YouGov. „Vor allem in Bereichen, in denen Gerechtigkeit eine Rolle spielt, sind die Deutschen deutlich skeptisch.“ Durch eine klare Kommunikation und Transparenz könne diese Skepsis ein Stück weit abgeschwächt werden. „Dies sieht man beispielsweise beim Thema selbstfahrende Autos. Durch die rege multimediale Berichterstattung rund um das Thema ist die Technologie und deren potenzieller Nutzen den Verbrauchern bekannt und die Zustimmungswerte entsprechend hoch.“ (ve)