Vollständigkeit des Transparenzregisters für den Einsatz von künstlicher Intelligenz durch die Bundesverwaltung sicherstellen

ShortId
23.3566
Id
20233566
Updated
18.09.2023 09:40
Language
de
Title
Vollständigkeit des Transparenzregisters für den Einsatz von künstlicher Intelligenz durch die Bundesverwaltung sicherstellen
AdditionalIndexing
04;34;1236;28
1
PriorityCouncil1
Nationalrat
Texts
  • <p>Algorithmenbasierte Entscheidungssysteme sind wichtige Instrumente für effiziente Verfahren in der Verwaltung, gleichzeitig bergen sie Risiken, denen man aktiv begegnen muss. Im Bericht zur Zukunft der Datenbearbeitung und Datensicherheit hält der Bundesrat fest, dass unter anderem Transparenz über Algorithmen geschaffen werden muss (vgl. Massnahme&nbsp;50). Dies gilt besonders für den Einsatz künstlicher Intelligenz, die besonders mächtige, aber auch nicht immer einfach verständliche Algorithmen resp. statistische Verfahren darstellen.&nbsp;</p><p>In der Antwort auf die Motion Schlatter (21.4508) verweist der Bundesrat darauf, dass ein Verzeichnis der Einsätze von künstlicher Intelligenz durch Bundesstellen in der Minimalversion einer öffentlichen Liste auf der Website des CNAI (<a href="http://www.cnai.swiss">www.cnai.swiss</a>) verfügbar sei. Allerdings besteht keine Pflicht, dass sämtliche Einsätze von KI innerhalb der Verwaltung hier gemeldet werden müssen. Problematisch ist zudem, dass die Liste heute nur als PDF vorliegt, statt in Form einer durchsuchbaren Datenbank.</p>
  • <p>1. Der Bundesrat setzt sich seit längerem für Transparenz im Bereich der künstlichen Intelligenz (KI) ein. 2018 hat er den Schlussbericht der Expertengruppe "Zukunft der Datenbearbeitung und Datensicherheit" zur Kenntnis genommen. Dieser empfiehlt, dass der Bund für ausreichende Transparenz bei digitalen Prozessen und Algorithmen sorgen soll. 2019 hat der Bundesrat Leitlinien zur künstlichen Intelligenz verabschiedet und 2021 das Kompetenznetzwerk für künstliche Intelligenz (CNAI) geschaffen.</p><p>Das CNAI hat unter anderem den Auftrag, eine Datenbank der KI-Projekte in der Bundesverwaltung zu führen. Die KI-Projekte werden dem CNAI auf freiwilliger Basis gemeldet. Mit der regelmässig aktualisierten Liste wird gegenüber der breiten&nbsp;Öffentlichkeit Transparenz über Projekte des Bundes geschaffen. Beschrieben werden jeweils das Projektziel, der Kontext, die verantwortlichen Ämter und die Komponenten des maschinellen Lernens. Wie der Bundesrat bereits in der Antwort auf die Motion 21.4508 Schlatter ausgeführt hat, trägt auch das neue Datenschutzgesetz, das am 1. September 2023 in Kraft tritt, zur Verbesserung der Transparenz bei der Bearbeitung von Personendaten bei.&nbsp;</p><p>Dem Bundesrat soll bis Ende März 2024 eine Evaluation des CNAI unterbreitet werden. Im Rahmen dieser Evaluation wird eine Bestandsaufnahme der Projekterfassung insbesondere hinsichtlich der Vollständigkeit durchgeführt und geprüft, ob eine Meldeplicht für KI-Projekte des Bundes angestrebt werden soll.&nbsp;</p><p>Wie bereits im Postulat 23.3201 Dobler ausgeführt erfolgt gleichzeitig eine Analyse bis Ende 2024 zu weiteren Massnahmen vor dem Hintergrund der europäischen Regulierung zu KI (AI Act). Im europäischen Ansatz ist eine Meldepflicht für Hochrisiko-KI-Systeme angedacht, die beispielsweise in kritischen Infrastrukturen eingesetzt werden. Dieses Instrument ist entsprechend, jedoch nicht auf die Verwaltung limitiert.</p><p>Angesichts der Lage der Bundesfinanzen und der für die Jahre 2025ff. prognostizierten Defizite, wird jede allfällige neue Massnahme einer gründlichen Kosten-Nutzen-Analyse unterzogen und in einen grösseren Zusammenhang gestellt (Überprüfung der Prioritäten und Planungen anderer Projekte, eventuell Aufgabenverzicht usw.).</p><p>2. Die regelmäßig aktualisierte Liste der KI-Projekte wird auf der CNAI-Website als Projektkatalog im PDF-Format veröffentlicht. In Kürze wird sie auch in maschinenlesbarer Form auf der SAIROP-Plattform verfügbar sein.</p>
  • <p>Der Bundesrat wird beauftragt zu prüfen, </p><p>1. wie er sicherstellen kann, dass ein öffentliches Transparenzregister über den Einsatz von Künstlicher Intelligenz (KI) in der Bundesverwaltung sämtliche Einsätze von KI in der Bundesverwaltung enthält </p><p>2. wie diese Information in Form einer auch maschinenlesbaren Datenbank zur Verfügung gestellt werden kann</p>
  • Vollständigkeit des Transparenzregisters für den Einsatz von künstlicher Intelligenz durch die Bundesverwaltung sicherstellen
State
Stellungnahme zum Vorstoss liegt vor
Related Affairs
Drafts
  • Index
    0
    Texts
    • <p>Algorithmenbasierte Entscheidungssysteme sind wichtige Instrumente für effiziente Verfahren in der Verwaltung, gleichzeitig bergen sie Risiken, denen man aktiv begegnen muss. Im Bericht zur Zukunft der Datenbearbeitung und Datensicherheit hält der Bundesrat fest, dass unter anderem Transparenz über Algorithmen geschaffen werden muss (vgl. Massnahme&nbsp;50). Dies gilt besonders für den Einsatz künstlicher Intelligenz, die besonders mächtige, aber auch nicht immer einfach verständliche Algorithmen resp. statistische Verfahren darstellen.&nbsp;</p><p>In der Antwort auf die Motion Schlatter (21.4508) verweist der Bundesrat darauf, dass ein Verzeichnis der Einsätze von künstlicher Intelligenz durch Bundesstellen in der Minimalversion einer öffentlichen Liste auf der Website des CNAI (<a href="http://www.cnai.swiss">www.cnai.swiss</a>) verfügbar sei. Allerdings besteht keine Pflicht, dass sämtliche Einsätze von KI innerhalb der Verwaltung hier gemeldet werden müssen. Problematisch ist zudem, dass die Liste heute nur als PDF vorliegt, statt in Form einer durchsuchbaren Datenbank.</p>
    • <p>1. Der Bundesrat setzt sich seit längerem für Transparenz im Bereich der künstlichen Intelligenz (KI) ein. 2018 hat er den Schlussbericht der Expertengruppe "Zukunft der Datenbearbeitung und Datensicherheit" zur Kenntnis genommen. Dieser empfiehlt, dass der Bund für ausreichende Transparenz bei digitalen Prozessen und Algorithmen sorgen soll. 2019 hat der Bundesrat Leitlinien zur künstlichen Intelligenz verabschiedet und 2021 das Kompetenznetzwerk für künstliche Intelligenz (CNAI) geschaffen.</p><p>Das CNAI hat unter anderem den Auftrag, eine Datenbank der KI-Projekte in der Bundesverwaltung zu führen. Die KI-Projekte werden dem CNAI auf freiwilliger Basis gemeldet. Mit der regelmässig aktualisierten Liste wird gegenüber der breiten&nbsp;Öffentlichkeit Transparenz über Projekte des Bundes geschaffen. Beschrieben werden jeweils das Projektziel, der Kontext, die verantwortlichen Ämter und die Komponenten des maschinellen Lernens. Wie der Bundesrat bereits in der Antwort auf die Motion 21.4508 Schlatter ausgeführt hat, trägt auch das neue Datenschutzgesetz, das am 1. September 2023 in Kraft tritt, zur Verbesserung der Transparenz bei der Bearbeitung von Personendaten bei.&nbsp;</p><p>Dem Bundesrat soll bis Ende März 2024 eine Evaluation des CNAI unterbreitet werden. Im Rahmen dieser Evaluation wird eine Bestandsaufnahme der Projekterfassung insbesondere hinsichtlich der Vollständigkeit durchgeführt und geprüft, ob eine Meldeplicht für KI-Projekte des Bundes angestrebt werden soll.&nbsp;</p><p>Wie bereits im Postulat 23.3201 Dobler ausgeführt erfolgt gleichzeitig eine Analyse bis Ende 2024 zu weiteren Massnahmen vor dem Hintergrund der europäischen Regulierung zu KI (AI Act). Im europäischen Ansatz ist eine Meldepflicht für Hochrisiko-KI-Systeme angedacht, die beispielsweise in kritischen Infrastrukturen eingesetzt werden. Dieses Instrument ist entsprechend, jedoch nicht auf die Verwaltung limitiert.</p><p>Angesichts der Lage der Bundesfinanzen und der für die Jahre 2025ff. prognostizierten Defizite, wird jede allfällige neue Massnahme einer gründlichen Kosten-Nutzen-Analyse unterzogen und in einen grösseren Zusammenhang gestellt (Überprüfung der Prioritäten und Planungen anderer Projekte, eventuell Aufgabenverzicht usw.).</p><p>2. Die regelmäßig aktualisierte Liste der KI-Projekte wird auf der CNAI-Website als Projektkatalog im PDF-Format veröffentlicht. In Kürze wird sie auch in maschinenlesbarer Form auf der SAIROP-Plattform verfügbar sein.</p>
    • <p>Der Bundesrat wird beauftragt zu prüfen, </p><p>1. wie er sicherstellen kann, dass ein öffentliches Transparenzregister über den Einsatz von Künstlicher Intelligenz (KI) in der Bundesverwaltung sämtliche Einsätze von KI in der Bundesverwaltung enthält </p><p>2. wie diese Information in Form einer auch maschinenlesbaren Datenbank zur Verfügung gestellt werden kann</p>
    • Vollständigkeit des Transparenzregisters für den Einsatz von künstlicher Intelligenz durch die Bundesverwaltung sicherstellen

Back to List