Wie geht das Bundesamt für Cybersicherheit mit Vorfällen um, die durch die Fehlfunktion von KI-Systemen verursacht werden?

ShortId
24.3626
Id
20243626
Updated
27.09.2024 13:45
Language
de
Title
Wie geht das Bundesamt für Cybersicherheit mit Vorfällen um, die durch die Fehlfunktion von KI-Systemen verursacht werden?
AdditionalIndexing
34;09;04;1236
1
PriorityCouncil1
Nationalrat
Texts
  • <div><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">Zu 1 und 2) Dem Bundesamt für Cybersicherheit (BACS, ehemals das Nationale Zentrum für Cybersicherheit) wurden über die letzten Jahre keine Sicherheitsvorfälle gemeldet, die auf eine Funktionsstörung von künstlicher Intelligenz (KI) zurückzuführen sind. Entsprechend wird auch keine Zunahme solcher Vorfälle verzeichnet.</span></p><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">Die im OECD-Monitor veröffentlichten Zahlen basieren auf Meldungen in internationalen Medien. Die meisten der erfassten Meldungen beschreiben allgemeine Bedrohungen und keine konkreten Vorfälle. </span></p><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial; -aw-import:ignore">&#xa0;</span></p><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">Zu 3) Das BACS sensibilisiert zu Cyberbedrohungen. Dazu gehören auch Bedrohungen, die durch die Anwendung neuer Technologien entstehen. Technische und organisatorische Schutzmassnahmen müssen gegen alle Arten von Angriffen wirksam sein. Deshalb ist die Frage, ob eine Cyberbedrohung durch Cyberangreifer oder durch dysfunktionale Systeme entsteht, für die Stärkung der Prävention nicht entscheidend. Das BACS hat bisher keine Sensibilisierungskampagnen speziell zu dysfunktionalen KI-Anwendungen durchgeführt. Der Bundesrat wird im Bericht zum Po. 23.3861 Andrey «Chancen und Risiken von KI-Systemen in der Cybersicherheit» darlegen, welche Chancen und Risiken sich aus der Anwendung von KI für die Cybersicherheit ergeben.</span><span style="font-family:Arial; -aw-import:spaces">&#xa0; </span></p></div>
  • <p>Das am 1. Januar 2024 geschaffene Bundesamt für Cybersicherheit (BACS) hat unter anderem die Aufgabe, Meldungen über Cybervorfälle entgegenzunehmen und die Betreiberinnen kritischer Infrastrukturen bei der Bewältigung solcher Vorfälle zu unterstützen. Bis zum 31. Dezember 2023 nahm das Nationale Zentrum für Cybersicherheit (NCSC) diese Aufgabe war.</p><p>&nbsp;</p><p>Der letzte Halbjahresbericht des BACS, der am 6. Mai 2024 veröffentlicht wurde, zeigt, dass die Zahl der Meldungen über Betrugsversuche, bei denen künstliche Intelligenz (KI) zum Einsatz kam, steigt. Bei den Meldungen geht es insbesondere um Vorfälle von Sextortion mit KI-generierten Bildern sowie um Telefonanrufe und um Anlagebetrug im Namen von bekannten Personen.&nbsp;</p><p>&nbsp;</p><p>KI-Anwendungen können eine Gefahr für die Bevölkerung darstellen, wenn sie für betrügerische Zwecke eingesetzt werden. Sie können aber auch als solche ohne menschliches Zutun ein Sicherheitsrisiko darstellen, wenn sie nicht richtig funktionieren (Datenlecks, Gefährdung der Funktionsfähigkeit einer kritischen Infrastruktur usw.). Der OECD AI Incidents Monitor (AIM) zeigt zudem, dass die Zahl der Vorfälle, die durch Fehlfunktionen von KI-Systemen ohne menschliches Zutun verursacht wurden, in den letzten Jahren deutlich zugenommen hat.</p><p>&nbsp;</p><p>1. Wie viele Vorfälle, die durch Fehlfunktionen von KI-Systemen ohne menschliches Zutun verursacht wurden, wurden dem BACS (bzw. dem NCSC) in den letzten drei Jahren gemeldet? Nehmen Vorfälle dieser Art in der Schweiz zu?</p><p>&nbsp;</p><p>2. Was hat das BACS nach solchen Meldungen unternommen? Welche Massnahmen wurden getroffen?</p><p>&nbsp;</p><p>3. Leistet das BACS insbesondere gegenüber den Betreiberinnen kritischer Infrastrukturen, die unter das Informationssicherheitsgesetz fallen, Aufklärungs- und Präventionsarbeit zu den Risiken, die KI-Systeme selbst ohne menschliches Zutun darstellen können?</p>
  • Wie geht das Bundesamt für Cybersicherheit mit Vorfällen um, die durch die Fehlfunktion von KI-Systemen verursacht werden?
State
Erledigt
Related Affairs
Drafts
  • Index
    0
    Texts
    • <div><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">Zu 1 und 2) Dem Bundesamt für Cybersicherheit (BACS, ehemals das Nationale Zentrum für Cybersicherheit) wurden über die letzten Jahre keine Sicherheitsvorfälle gemeldet, die auf eine Funktionsstörung von künstlicher Intelligenz (KI) zurückzuführen sind. Entsprechend wird auch keine Zunahme solcher Vorfälle verzeichnet.</span></p><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">Die im OECD-Monitor veröffentlichten Zahlen basieren auf Meldungen in internationalen Medien. Die meisten der erfassten Meldungen beschreiben allgemeine Bedrohungen und keine konkreten Vorfälle. </span></p><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial; -aw-import:ignore">&#xa0;</span></p><p style="margin-top:0pt; margin-bottom:0pt; line-height:150%; widows:0; orphans:0; font-size:11pt"><span style="font-family:Arial">Zu 3) Das BACS sensibilisiert zu Cyberbedrohungen. Dazu gehören auch Bedrohungen, die durch die Anwendung neuer Technologien entstehen. Technische und organisatorische Schutzmassnahmen müssen gegen alle Arten von Angriffen wirksam sein. Deshalb ist die Frage, ob eine Cyberbedrohung durch Cyberangreifer oder durch dysfunktionale Systeme entsteht, für die Stärkung der Prävention nicht entscheidend. Das BACS hat bisher keine Sensibilisierungskampagnen speziell zu dysfunktionalen KI-Anwendungen durchgeführt. Der Bundesrat wird im Bericht zum Po. 23.3861 Andrey «Chancen und Risiken von KI-Systemen in der Cybersicherheit» darlegen, welche Chancen und Risiken sich aus der Anwendung von KI für die Cybersicherheit ergeben.</span><span style="font-family:Arial; -aw-import:spaces">&#xa0; </span></p></div>
    • <p>Das am 1. Januar 2024 geschaffene Bundesamt für Cybersicherheit (BACS) hat unter anderem die Aufgabe, Meldungen über Cybervorfälle entgegenzunehmen und die Betreiberinnen kritischer Infrastrukturen bei der Bewältigung solcher Vorfälle zu unterstützen. Bis zum 31. Dezember 2023 nahm das Nationale Zentrum für Cybersicherheit (NCSC) diese Aufgabe war.</p><p>&nbsp;</p><p>Der letzte Halbjahresbericht des BACS, der am 6. Mai 2024 veröffentlicht wurde, zeigt, dass die Zahl der Meldungen über Betrugsversuche, bei denen künstliche Intelligenz (KI) zum Einsatz kam, steigt. Bei den Meldungen geht es insbesondere um Vorfälle von Sextortion mit KI-generierten Bildern sowie um Telefonanrufe und um Anlagebetrug im Namen von bekannten Personen.&nbsp;</p><p>&nbsp;</p><p>KI-Anwendungen können eine Gefahr für die Bevölkerung darstellen, wenn sie für betrügerische Zwecke eingesetzt werden. Sie können aber auch als solche ohne menschliches Zutun ein Sicherheitsrisiko darstellen, wenn sie nicht richtig funktionieren (Datenlecks, Gefährdung der Funktionsfähigkeit einer kritischen Infrastruktur usw.). Der OECD AI Incidents Monitor (AIM) zeigt zudem, dass die Zahl der Vorfälle, die durch Fehlfunktionen von KI-Systemen ohne menschliches Zutun verursacht wurden, in den letzten Jahren deutlich zugenommen hat.</p><p>&nbsp;</p><p>1. Wie viele Vorfälle, die durch Fehlfunktionen von KI-Systemen ohne menschliches Zutun verursacht wurden, wurden dem BACS (bzw. dem NCSC) in den letzten drei Jahren gemeldet? Nehmen Vorfälle dieser Art in der Schweiz zu?</p><p>&nbsp;</p><p>2. Was hat das BACS nach solchen Meldungen unternommen? Welche Massnahmen wurden getroffen?</p><p>&nbsp;</p><p>3. Leistet das BACS insbesondere gegenüber den Betreiberinnen kritischer Infrastrukturen, die unter das Informationssicherheitsgesetz fallen, Aufklärungs- und Präventionsarbeit zu den Risiken, die KI-Systeme selbst ohne menschliches Zutun darstellen können?</p>
    • Wie geht das Bundesamt für Cybersicherheit mit Vorfällen um, die durch die Fehlfunktion von KI-Systemen verursacht werden?

Back to List