Leitfaden:
Sichere KI-Systeme entwickeln

[6.12.2023] Gemeinsam mit den Cyber-Sicherheitsbehörden aus dem Vereinigten Königreich (UK) und den USA hat das BSI einen Leitfaden zur Entwicklung sicherer KI-Systeme erarbeitet.

Künstliche Intelligenz (KI) kann zahlreiche Vorteile bieten. Dazu müssen die Systeme jedoch nicht nur sicher geplant und entwickelt, sondern auch sicher eingeführt und betrieben werden. Die Cyber-Sicherheitsbehörden aus dem Vereinigten Königreich (UK) und den USA haben deshalb jetzt die „Guidelines for Secure AI System Development“ veröffentlicht. An dem Leitfaden zur Entwicklung sicherer KI-Systeme hat auch das Bundesamt für Sicherheit in der Informationstechnik (BSI) mitgewirkt, insgesamt wird der Leitfaden von 23 internationalen Cyber-Sicherheitsbehörden aus 18 Ländern unterstützt.
Wie das BSI berichtet, sollen die Guidelines Betreibern helfen, KI-Systeme zu entwickeln, die wichtige Anforderungen erfüllen: Die Systeme müssen jederzeit bei Bedarf verfügbar sein und dabei erwartungsgemäß und zuverlässig arbeiten. Außerdem dürfen sie keine sensiblen Daten preisgeben.
Indem es bei der Entwicklung von KI-Systemen die Cyber-Sicherheit von Anfang an mitgestalte, könne das BSI sicherstellen, dass die Potenziale dieser Schlüsseltechnologie für die Digitalisierung Deutschlands sicher genutzt und Risiken transparent kommuniziert würden, erklärte dazu BSI-Präsidentin Claudia Plattner. Die gemeinsame internationale Veröffentlichung verdeutlicht aus Sicht des BSI, dass Fragen der Sicherheit von KI-Systemen nur im Verbund mit gleichgesinnten internationalen Partnern gelöst werden können. Sie unterstreiche zudem die Bedeutung des Themas und den dringenden Handlungsbedarf. (bw)

https://www.bsi.bund.de

Stichwörter: IT-Sicherheit, BSI, Künstliche Intelligenz

Interview: Wertvolle Lehren gezogen Interview
[14.8.2024] Nach dem umfassenden Cyberangriff arbeitet der IT-Dienstleister Südwestfalen-IT an einer strategischen Neuausrichtung. Im Kommune21-Interview berichtet Geschäftsführer Mirco Pinske, wie die Aufarbeitung vorangeht und welche Konsequenzen bereits gezogen wurden mehr...

München: Hauptabteilung für IT-Sicherheit
[2.8.2024] Die bayerische Landeshauptstadt München misst der IT-Sicherheit einen hohen Stellenwert bei. Um dies zu verdeutlichen, wurde im IT-Referat jetzt eine neue Hauptabteilung für Cybersecurity gegründet. Geleitet wird sie von Chief Information Security Officer Thomas Reeg. mehr...

ITEBO: OpenR@thaus-Vorfall aufgearbeitet
[23.7.2024] Mit seinem Verwaltungsportal OpenR@thaus liefert ITEBO zahlreichen Kommunen eine Basisinfrastruktur, um Leistungen, wie vom OZG vorgesehen, digital anbieten zu können. Im Juni war die Lösung aus Sicherheitsgründen offline gestellt worden. Nun berichtet ITEBO im Detail über den Vorfall und dessen Aufarbeitung. mehr...

Crowdstrike-Panne: Geringe Störungen bei Kommunalverwaltungen
[22.7.2024] Das Update des Sicherheitsdienstleisters Crowdstrike, das am Freitag globale IT-Ausfälle auslöste, hat auch dazu geführt, dass der kommunale IT-Dienstleister SIT seine Systeme sicherheitshalber abgeschaltet hat. Die Auswirkungen auf Kommunen waren aber lediglich geringfügig. mehr...

Weitere FirmennewsAnzeige

SCCON vernetzt Politik, Verwaltung und Digitalwirtschaft: Drei Tage Fokus auf die Digitalisierung des öffentlichen Sektors auf der Smart Country Convention Berlin
[1.9.2024] Bürokratiebändiger, Digitalisierungsfans und Smart City Enthusiasten – sie alle kommen vom 15. – 17. Oktober 2024 auf der Smart Country Convention in Berlin zusammen. Ob Leitlinien für den Einsatz von KI in der Verwaltung, digitaler Zwilling in der Smart City oder personalisierte Verwaltung auf dem Smartphone – es gibt bereits heute zahlreiche innovative Lösungen für die Digitalisierung von Städten, Gemeinden und Behören. Spitzenvertreterinnen und -vertreter aus Verwaltung, Politik und Wissenschaft, Pioniere der Digitalwirtschaft, Hidden Champions und lokale Branchenköpfe zeigen auf der Smart Country Convention 2024, wie wir die Herausforderungen der Digitalisierung gemeinsam bewältigen können. mehr...

Dokumentenmanagement: Zukunftsweisende Rechnungsbearbeitung mit SAP
[21.8.2024] Rechnungen treffen in Unternehmen in allen Formaten und auf unterschiedlichen Wegen ein: im Papierformat, per E-Mail als PDF oder bereits als E-Rechnung im XML-Format. Letzteres Format ist im Public Sector schon gesetzt, im B2B wird es nun zum 1.1.2025 verpflichtend. Für die Rechnungsverarbeitung in SAP gibt es bereits erprobte Lösungen am Markt. Wichtig ist, dass diese auch mit der neuen Produktgeneration S/4HANA in ihren verschiedenen Ausprägungen funktionieren. mehr...

12. Kölner Vergabetage: Aktuelle Trends, Best Practices und vergaberechtliche Entwicklungen im Fokus
[12.8.2024] Die Kölner Vergabetage sind das jährliche Highlight für alle, die sich mit den neuesten Entwicklungen, Trends und (EU-)Gesetzgebungen im Vergaberecht und deren praktischen Auswirkungen befassen. Unter dem Motto „Tagen. Treffen. Testen.“ bildet die Jahres-Veranstaltung eine Plattform für Wissenstransfer, direkten Austausch und praxisorientierte Einblicke. mehr...

Suchen...