Donnerstag, 17. Juli 2025

LeitfadenSichere KI-Systeme entwickeln

[06.12.2023] Gemeinsam mit den Cyber-Sicherheitsbehörden aus dem Vereinigten Königreich (UK) und den USA hat das BSI einen Leitfaden zur Entwicklung sicherer KI-Systeme erarbeitet.

Künstliche Intelligenz (KI) kann zahlreiche Vorteile bieten. Dazu müssen die Systeme jedoch nicht nur sicher geplant und entwickelt, sondern auch sicher eingeführt und betrieben werden. Die Cyber-Sicherheitsbehörden aus dem Vereinigten Königreich (UK) und den USA haben deshalb jetzt die „Guidelines for Secure AI System Development“ veröffentlicht. An dem Leitfaden zur Entwicklung sicherer KI-Systeme hat auch das Bundesamt für Sicherheit in der Informationstechnik (BSI) mitgewirkt, insgesamt wird der Leitfaden von 23 internationalen Cyber-Sicherheitsbehörden aus 18 Ländern unterstützt.
Wie das BSI berichtet, sollen die Guidelines Betreibern helfen, KI-Systeme zu entwickeln, die wichtige Anforderungen erfüllen: Die Systeme müssen jederzeit bei Bedarf verfügbar sein und dabei erwartungsgemäß und zuverlässig arbeiten. Außerdem dürfen sie keine sensiblen Daten preisgeben.
Indem es bei der Entwicklung von KI-Systemen die Cyber-Sicherheit von Anfang an mitgestalte, könne das BSI sicherstellen, dass die Potenziale dieser Schlüsseltechnologie für die Digitalisierung Deutschlands sicher genutzt und Risiken transparent kommuniziert würden, erklärte dazu BSI-Präsidentin Claudia Plattner. Die gemeinsame internationale Veröffentlichung verdeutlicht aus Sicht des BSI, dass Fragen der Sicherheit von KI-Systemen nur im Verbund mit gleichgesinnten internationalen Partnern gelöst werden können. Sie unterstreiche zudem die Bedeutung des Themas und den dringenden Handlungsbedarf.





Weitere Meldungen und Beiträge aus dem Bereich: IT-Sicherheit
Eine Reihe von roten und blauen Bauklötzen oder Dominosteinen, die blauen Steine sind im Begriff, umzufallen.

Dataport: Red Team für Cybersicherheit

[10.07.2025] Dataport setzt künftig auf Red Teaming – umfassende Angriffssimulationen, welche die IT-Sicherheitsmechanismen realistisch auf die Probe stellen. Der IT-Dienstleister will damit das eigene Sicherheitsniveau und die Sicherheit der Kunden und Trägerländer erhöhen. mehr...

Blick ins Auditorium Fachveranstaltung "Cyberangriffe auf Kommunen"

Fachtagung: Auf Cyberangriffe vorbereitet

[30.06.2025] Über 160 Teilnehmende aus saarländischen Städten, Gemeinden und Landkreisen tauschten sich auf der Fachveranstaltung „Cyberangriffe auf Kommunen“ über die akute Bedrohung durch Cyberkriminalität und praxistaugliche Schutzmaßnahmen aus. mehr...

Symbolbild IT-Sicherheit: Leicht unscharfes, kontrastarmes Foto eines überladenen schreibtischs mit Brille, Tablet, Kaffeetasse und Papieren, darübergelegt Icon eines Vorhängeschlosses und Platinen-ähnliche Muster.

LSI Bayern: Neues Sicherheitssiegel für Kommunen

[11.06.2025] Das LSI Bayern hat Version 4.0 des IT-Sicherheits-Siegels für Kommunen veröffentlicht. Neu sind Vorgaben zu KI, mobiler Sicherheit und Online-Backups. Der ergänzende Baustein IT-Resilienz hilft Kommunen bei der systematischen Selbsteinschätzung. mehr...

Kreis Regensburg: 17 Kommunen erhalten Siegel für IT-Sicherheit

[10.06.2025] 17 Kommunen im Zweckverband Realsteuerstelle Regensburg sind jetzt vom bayerischen Landesamt für Sicherheit in der Informationstechnik (LSI) mit dem Siegel „Kommunale IT-Sicherheit“ ausgezeichnet worden. mehr...

Print-Ausgabe des CSBW-Jahresberichts 2024, die schräg auf einer grauen Oberfläche liegt.

Baden-Württemberg: Jahresbericht zur Cybersicherheit 2024

[22.05.2025] Die CSBW hat 2024 rund 30 Prozent mehr IT-Sicherheitsvorfälle bearbeitet. Kommunen wurden ähnlich häufig unterstützt wie im Vorjahr, neue Präventionsangebote, Notfallübungen und ein Schwachstellenscan richten sich teils gezielt an sie. mehr...

Datenschutz: Hilfestellung für Behörden

[12.05.2025] In der kommunalen Praxis gibt es beim Thema Datenschutz noch immer Rechtsunsicherheiten. Die Konferenz der Datenschutzaufsichtsbehörden von Bund und Ländern hat eine Orientierungshilfe für Behörden erarbeitet, die (EfA-)Onlinedienste betreiben oder nutzen. mehr...

Marktgemeinde Röhrnbach mit LSI-Siegel ausgezeichnet

Röhrnbach: Siegel für IT-Sicherheit

[06.05.2025] Die niederbayerische Marktgemeinde Röhrnbach hat für nachhaltige IT-Sicherheit gesorgt und ist dafür vom Landesamt für Sicherheit in der Informationstechnik (LSI) ausgezeichnet worden. mehr...

Die IT-Notfallausrüstung ausgepackt auf dem Transportkoffer.

CSBW: Schnell handlungsfähig im IT-Notfall

[22.04.2025] Ohne funktionierende IT-Ausstattung ist die Bewältigung eines Cyberangriffs kaum zu schaffen. Um die Handlungs- und technische Kommunikationsfähigkeit von Verwaltungen zu sichern, bietet die Cybersicherheitsagentur Baden-Württemberg (CSBW) nun eine mobile IT-Notfall-Ausrüstung an. mehr...

Nordrhein-Westfalen: IT-Notfallhilfe für Kommunen

[17.04.2025] Nach IT-Angriffen sollen nordrhein-westfälische Kommunen schnell und unkompliziert Incident-Response-Dienstleistungen in Anspruch nehmen können. Ein Rahmenvertrag zwischen Land und spezialisierten Dienstleistern sichert das Angebot ab. mehr...

Smartphone-Screen mit Logo der Allianz für Cyber-Sicherheit

Hanau: Allianz für Cyber-Sicherheit beigetreten

[02.04.2025] Die Stadt Hanau rüstet sich weiter gegen Cyber-Bedrohungen: Die BeteiligungsHolding Hanau ist der bundesweiten Allianz für Cyber-Sicherheit des BSI beigetreten und arbeitet aktiv im Arbeitskreis Kommunale CyberSicherheit des Landes Hessens mit. mehr...

Märkischer Kreis: Digitaler Neustart nach Cyberangriff

[26.02.2025] Der Stand der Wiederherstellung und die Kosten nach dem Cyberangriff auf die Südwestfalen-IT waren Themen im Ausschuss für Digitalisierung und E-Government im Lüdenscheider Kreishaus. Auch neue Projekte und Herausforderungen für die Verwaltungs-IT des Märkischen Kreises kamen zur Sprache. mehr...

Einbeck: nerdbridge sucht IT-Schwachstellen

[05.02.2025] Der Verein nerdbridge soll die niedersächsische Stadt Einbeck dabei unterstützen, Sicherheitslücken in ihrer IT-Infrastruktur zu finden. mehr...

IT-Grundschutz-Tag: Praxisnahe Einblicke

[31.01.2025] Am 4. Februar findet in Magdeburg der IT-Grundschutz-Tag statt, zu dem Sachsen-Anhalts Infrastrukturministerin Lydia Hüsken und BSI-Präsidentin Claudia Plattner einladen. Die Veranstaltung widmet sich unter anderem dem IT-Grundschutz, dem Business Continuity Management und der Umsetzung der NIS2-Richtlinie in Verwaltung und Landesbehörden. mehr...

Rathaus der Freien und Hansestadt Bremen, mit Arkaden und drei markanten Stufengiebeln, Deutschlandflagge wehtt, blauer Himmel.

Bremen: Umsetzung der NIS2-Richtlinie

[20.01.2025] Der Senat der Freien Hansestadt Bremen hat sich auf Maßnahmen zur Umsetzung der NIS2-Richtlinie geeinigt. Vorgesehen ist, die Rolle der Zentralstelle Cybersicherheit zu stärken, etwa durch ein Notfallteam, das Bedrohungen frühzeitig erkennt und koordinierte Reaktionen ermöglicht. mehr...

Brustbild von Roman Poseck in dunklem Anzugjackett und violettem Schlips.

Hessen: Sicherheitsprogramm für Kommunen

[10.01.2025] Hybride Bedrohungen und Cyberangriffe bleiben eine Herausforderung. Um die Cyberresilienz hessischer Kommunen zu stärken, wurde das Aktionsprogramm Kommunale Cybersicherheit um Maßnahmen wie etwa Pentests und Incident Response Services erweitert. mehr...