Künstliche IntelligenzChancen und Risiken

Der Begriff der Künstlichen Intelligenz (KI) steht für ein Bündel an Technologien, Algorithmen und Ansätzen, die menschliche Intelligenz nachbilden, um Aufgaben eigenständig oder auf Befehl zu übernehmen. Dazu zählen etwa Maschinelles Lernen, Neuronale Netzwerke, Muster­erkennung, Sprachverarbeitung, Chatbots und Robotik. KI unterstützt und automatisiert Tätigkeiten durch Muster-, Text-, Sprach-, Bild-, Gesichts- und Gestenerkennung sowie Analysen. Andere Systeme ermöglichen die Generierung von Texten, Tönen, Sprache, Bild, Videos und Räumen. All das schafft neuartige Anwendungsfelder für Wahrnehmung, Benachrichtigung, Empfehlung, Vorhersage, Vorsorge, Entscheidungen und Situationsanalysen in Echtzeit. Dies erweitert die Einsatzmöglichkeiten von IT deutlich.

Immer leistungsfähigere Hardware, lernende KI-Algorithmen, größere Datenräume, offene Standards und offene Schnittstellen tragen dazu bei, dass auch im öffentlichen Sektor neuartige Einsatzfelder und KI-basierte Anwendungen entwickelt werden. KI verfügt über das Potenzial, Aufgaben zu automatisieren, Prozesse zu beschleunigen, die Datenqualität zu verbessern und Entscheidungsträger durch fundierte datenbasierte Vorschläge zu unterstützen. Der Einsatz von KI muss aber stets im Einklang mit den rechtlichen und ethischen Vorgaben stehen.

Herausforderungen und Vorteile

KI optimiert so im öffentlichen Sektor etwa Posteingänge, Entscheidungsfindungen, Reaktionen in Krisenfällen und Bürgerdienste. Das kann auch zu recht innovativen Lösungen führen. Datenschutzbedenken, laufende Überwachungen und rechtliche Herausforderungen können bremsend wirken und Widerstände erzeugen. Chancen liegen in datengestützter Politikgestaltung, einem evidenzbasierten Verwaltungshandeln, mehr Bürgerteilhabe und höherer Kosteneffizienz. Sicherheitsrisiken, Verzerrungen, Diskriminierungen und technologische Abhängigkeiten bleiben dauerhafte Herausforderungen. Generative KI (GKI) erzeugt neue Artefakte basierend auf erlernten Mustern, beispielsweise Texte, Übersetzungen, Präsentationen, IT-Programme, Prozesse, Bilder und Videos. Das eröffnet zahlreiche Anwendungsmöglichkeiten in Wissenschaft, Forschung, Wirtschaft, Medien, Prosa, Kunst, Gesetzgebung, Verwaltung, Justiz, Sicherheitsbehörden und Militär.

GKI beeindruckt durch schnelle Reaktionen, kreative Inhalte, Anpassungsfähigkeit, Multilingualität, Lernfähigkeit, Skalierbarkeit, Geduld und Höflichkeit. Schwächen liegen in einem begrenzten kritischen Denken, Abhängigkeiten von Trainingsdaten, Halluzinationen, fehlender Sensitivität gegenüber falschen, ironischen und sarkastischen Informationen sowie Anfälligkeiten für Missbrauch. Chancen für den öffentlichen Sektor eröffnen hochwertige Texterstellungen, Übersetzungen, Analysen und Assistenzdienste. Risiken wie eine politische Manipulation, Sicherheitslücken, Diskriminierung und Kompetenzverlust erfordern Maßnahmen zur Risikominimierung.

Von der Analyse bis zur Zusammenfassung

GKI wird die Verwaltungsarbeit verändern. Sie ermöglicht eine effiziente Dokumentensuche, profitiert von raschen Analysen und der schnellen Erstellung von Textentwürfen für Anschreiben, Antworten, Begründungen, Protokolle, Berichte, Agenden, Bescheide, Gesetzentwürfe und Sitzungsvorlagen. Prompt Engineering als Methodik optimiert Anfragen an eine GKI für hochwertige Ergebnisse. Passende Visualisierungen in Präsentationen, Videos oder Bildern stärken die Kommunikation. Rechtliche Auflagen beim Datenschutz und beim Schutz sensibler Inhalte müssen von Anwendern eigenverantwortlich beachtet werden. Über eine Einbindung in die Office-Welt wird GKI bald zu den Standardwerkzeugen gehören. Die KI-basierte Generierung von Programmen entlastet die Entwickler, senkt Kosten und verändert die Softwareentwicklung. Low-Code-Ansätze ermöglichen es Fachkräften zunehmend, Lösungen selbst zu erstellen, Abläufe zu optimieren und Prozesse um neuartige Register oder Digitale Zwillinge neu aufzusetzen.

In Vorgangsbearbeitungssystemen unterstützt KI im Umgang mit Akten, etwa bei der Einhaltung von Vorschriften und Datenschutzrichtlinien, indem sie Prozesse standardisiert und Überwachungsfunktionen integriert, um die Einhaltung von Fristen und die ordnungsgemäße Behandlung von sensiblen Daten sicherzustellen. Neue Funktionen wie automatisierte Zusammenfassungen, Chatbots, Diktieren und Transkribieren sind Anzeichen weiterer Veränderungen. Beherrschen die Anwender die Erzeugung von Prompts und liefern ihnen GKIs überzeugende Textentwürfe, Grafiken und Übersetzungen, werden sie die gewonnene Zeit für andere anspruchsvollere Aufgaben nutzen. Digitale Akten- und Vorgangsbearbeitungssysteme werden mittelfristig durch KI-Module das Prozessmanagement anders als bisher beherrschen und selbstständig Teilprozesse priorisieren und steuern. Dies ermöglicht es, Entscheidungen in Echtzeit auf Basis von vordefinierten Regeln und aktuellen Daten zu treffen. KI-Systeme lassen sich sogar so konfigurieren, dass sie Teilprozesse vollständig automatisieren, steuern und Entscheidungen treffen, zum Beispiel, wenn es keine Ermessensspielräume gibt.

Ethische, rechtliche und sicherheitsrelevante Abwägungen

Bisher wurden KI-basierte Systeme im öffentlichen Sektor bei Entscheidungen überwiegend nur zur Unterstützung eingesetzt, womit die Entscheidung bei einer Person verbleibt. KI könnte Optionen in einem Entscheidungskontrollradar mit Kennzahlen und Argumenten visualisieren, Entscheidungsspielräume aufzeigen, eine erste Folgenabschätzung vornehmen und zur Qualitätssicherung auf Fehler, Missinterpretationen oder falsch herangezogene Rechtsgrundlagen hinweisen. Bearbeiter und Entscheidungsträger erhalten auf diese Weise eine fundiertere Entscheidungsgrundlage. Dies eignet sich insbesondere für massenhaft auftretende Vorgänge und Verfahren, aber auch für sehr komplexe Fälle, bei denen sich verschiedene Vorschläge generieren lassen und so weiter individuell auf den Einzelfall eingegangen werden kann.

Es sind immer Menschen, die entscheiden, wie mit einer neuen Technologie umgegangen wird – im Guten wie im Schlechten. Der Umgang mit KI in Staat und Verwaltung wirft zahlreiche ethische Fragen zu Datenschutz, Fairness und sozialen Auswirkungen auf. Die KI-Verordnung der EU setzt für Regulierung und Verbote nun die Grundlagen. Die KI-Entwicklung im öffentlichen Sektor erfordert so einige ethische, rechtliche und sicherheitsrelevante Abwägungen. Benchmarks sollten die KI-Anbieter und deren Angebote vergleichbar machen. Behörden müssen in die Lage versetzt werden, einen KI-Dienst jederzeit austauschen zu können. Sicher ist, dass KI und GKI noch wesentliche Beiträge zur digitalen Transformation von Staat und Verwaltung leisten werden. Derzeit steht die deutsche Verwaltung noch eher am Anfang ihrer Nutzung und Entwicklung.