Grundsätzliches oder vorläufiges Verbot von bestimmten Plattformen der künstlichen Intelligenz

ShortId
23.3516
Id
20233516
Updated
26.03.2024 21:54
Language
de
Title
Grundsätzliches oder vorläufiges Verbot von bestimmten Plattformen der künstlichen Intelligenz
AdditionalIndexing
34;1236;28
1
PriorityCouncil1
Nationalrat
Texts
  • <p>Fragen&nbsp;1 und&nbsp;3: Der Bundesrat ist sich der grossen Tragweite der Entwicklungen im Bereich der künstlichen Intelligenz (KI) bewusst. Neu entstehende KI-Anwendungen bergen sowohl grosse Chancen als auch grosse Risiken. KI-Systeme stehen dabei meist nicht für sich alleine, sondern sind Elemente von oft komplexeren Anwendungen. Anstatt diese Erscheinungsformen von KI einfach zu verbieten, will der Bundesrat vielmehr einen Rahmen dafür schaffen. Wichtig in diesem Zusammenhang ist es zu betonen, dass der bestehende nationale und internationale Rechtsrahmen auch für Anwendungen, die KI-Systeme enthalten, anwendbar ist. Insbesondere das neue Bundesgesetz über den Datenschutz (DSG; SR 235.1), das am 1.&nbsp;September&nbsp;2023 in Kraft tritt, setzt klare Leitplanken. Beispielsweise könnte der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) eine Anwendung verbieten, die den neuen gesetzlichen Anforderungen nicht genügt. Für den Einsatz von KI durch öffentliche Organe ist eine formelle Rechtsgrundlage erforderlich, wenn die Gefahr einer schwerwiegenden Verletzung der Grundrechte besteht. Bei automatisierten Einzelentscheidungen, auch bei solchen, die sich in der Privatwirtschaft ergeben, werden durch das neue Gesetz zudem die Rechte der betroffenen Personen gestärkt. Auf internationaler Ebene sind derzeit Arbeiten im Gange, Lücken im Rechtsrahmen zu schliessen, unter anderem durch die Arbeit des Europarates an einem globalen KI-Abkommen. Auch die Reglementierung der Europäischen Union (EU) ist noch in Arbeit.&nbsp;</p><p>Es gilt weiter zu vermeiden, dass die Schweiz durch unausgegorene Verbote wichtige Innovationschancen verpasst. Der Bund will den Ausgang der Debatten in der EU oder im Europarat nicht untätig abwarten. Derzeit prüfen verschiedene Bundesstellen gemeinsam, inwiefern eine pragmatische und rasche Klärung der Fragen im Zusammenhang mit KI die Rechtssicherheit erhöhen und gegebenenfalls einen Wettbewerbsvorteil für die Schweiz schaffen könnte.</p><p>Frage&nbsp;2: Der Bundesrat hat bereits verschiedene Massnahmen ergriffen, um einen verantwortungsvollen und ethischen Ansatz zur Nutzung von KI sicherzustellen. Auch verfolgt er die internationalen Entwicklungen der Reglementierung in diesem Bereich aufmerksam.&nbsp;Auf der Grundlage des 2019 erschienenen Berichts der interdepartementalen Arbeitsgruppe «Künstliche Intelligenz» (IDAG) hat er im Jahr&nbsp;2020&nbsp;<a href="https://www.sbfi.admin.ch/dam/sbfi/de/dokumente/2020/11/leitlinie_ki.pdf.download.pdf/Leitlinien%20K%C3%BCnstliche%20Intelligenz%20-%20DE.pdf">Leitlinien</a> für den Umgang mit KI in der Bundesverwaltung entwickelt und&nbsp;2022 das Kompetenznetzwerk für künstliche Intelligenz im Bund (CNAI) errichtet. Das CNAI soll zudem mit einer Fachstelle für Rechtsfragen («Knotenpunkt Recht») ergänzt werden. Die Ende&nbsp;2022 durchgeführte Überprüfung der KI-Leitlinien durch das Bundesamt für Kommunikation (BAKOM) und das CNAI hat ergeben, dass die Leitlinien angewandt werden und immer noch aktuell sind. Die Schweiz ist im Bereich KI sehr aktiv; sie hat die Arbeiten der OECD, des Europarates, der UNESCO sowie der ITU geprägt und will sie auch in Zukunft mitgestalten. Der Bundesrat wird die Analyse der Entwicklungen im Bereich KI sowie der für die Schweiz relevanten europäischen Regelwerke im Rahmen der genannten Gefässe (insb. IK EU-Digitalpolitik, KI-Leitlinien-Monitoring, Plateforme Tripartite und CNAI) und zusammen mit den für die betroffenen Rechtsbereiche zuständigen Bundesstellen weiterführen. Als Nicht-EU-Mitglied kann sich die Schweiz nur indirekt am Gesetzgebungsverfahren der Union beteiligen. Wie weiter oben ausgeführt, erachtet es der Bundesrat als sinnvoll, die Ergebnisse der Arbeiten in der EU und im Europarat abzuwarten, bevor neue sektorenübergreifende Vorschriften zur KI in Erwägung gezogen werden. Gegebenenfalls wären die rechtlichen Grundlagen in der Schweiz anzupassen.&nbsp;</p>
  • <p>Wie jede Erfindung ist die künstliche Intelligenz (KI) nicht per se schlecht. Sie kann positive Effekte haben, bringt jedoch auch grosse Risiken mit sich. Im Folgenden einige Beispiele:</p><p>- Auch wenn die KI zu wissenschaftlichen Zwecken verwendet wird, so basiert sie auf Algorithmen, die durch eine Ansammlung von Daten gespeist werden. Das heisst aber nicht zwingend, dass die Daten exakt und die daraus resultierenden Informationen korrekt sind.</p><p>- ChatGPT und andere leicht zugängliche Plattformen stellen eine mögliche Quelle für Betrug und Fakenews dar, die das Wissen und die Demokratien gefährden können.</p><p>Es versteht sich von selbst, dass die KI-Technologie reguliert werden muss, wenn möglich auf internationaler Ebene, um eine gewisse Wirksamkeit zu gewährleisten. So hat am 30. April 2023 auch die G7 angekündigt, dass sie eine risikobasierte Regulierung der KI anstrebt.</p><p>Was das Europäische Parlament betrifft, so bereitet es sich darauf vor, das Gesetz über künstliche Intelligenz anzunehmen, der die Nutzung und die Vermarktung von KI-Anwendungen regeln soll. Einige davon werden grundsätzlich verboten sein, etwa Systeme, die das soziale Verhalten von Individuen auswerten. Andere werden vorläufig verboten und bedürfen einer Zulassung, beispielsweise in den Bereichen der robotergestützten Chirurgie oder der Bildung. Auch ChatGPT fällt in diese Kategorie. </p><p>Gemäss seiner Antwort vom 26. April 2023 auf die Interpellation 23.3147 Bendahan scheint der Bundesrat keine Massnahmen zu den Herausforderungen im Zusammenhang mit der KI zu ergreifen. Im Anschluss daran empfiehlt er sogar, das Postulat 23.3201 Dobler abzulehnen, welches lediglich verlangt, die Unsicherheiten zu klären. Der Bundesrat möchte bis Ende 2024 nur den Handlungsbedarf aufzeigen, welcher als Grundlage für weitere Diskussionen im Parlament und der Öffentlichkeiten dienen kann.</p><p>1. Das Europäische Parlament bereitet sich bereits darauf vor, ein grundsätzliches oder vorläufiges Verbot bestimmter KI-Plattformen zu erlassen - lässt der Bundesrat angesichts dessen nicht einen Attentismus erkennen, der in keinem Verhältnis zu den Risiken steht?</p><p>2. Müsste der Bundesrat nicht einen Gesetzesentwurf erarbeiten, der sich an der europäischen Regulierung orientiert, sobald diese vom Europäischen Parlament angenommen worden ist?</p><p>3. Müsste man sich nicht an dem, was auf europäischer Ebene vorgesehen ist, ein Beispiel nehmen und bestimmte KI-Plattformen sofort verbieten, während andere Anwendungen einem vorgängigen Zulassungsverfahren unterworfen werden?</p>
  • Grundsätzliches oder vorläufiges Verbot von bestimmten Plattformen der künstlichen Intelligenz
State
Erledigt
Related Affairs
Drafts
  • Index
    0
    Texts
    • <p>Fragen&nbsp;1 und&nbsp;3: Der Bundesrat ist sich der grossen Tragweite der Entwicklungen im Bereich der künstlichen Intelligenz (KI) bewusst. Neu entstehende KI-Anwendungen bergen sowohl grosse Chancen als auch grosse Risiken. KI-Systeme stehen dabei meist nicht für sich alleine, sondern sind Elemente von oft komplexeren Anwendungen. Anstatt diese Erscheinungsformen von KI einfach zu verbieten, will der Bundesrat vielmehr einen Rahmen dafür schaffen. Wichtig in diesem Zusammenhang ist es zu betonen, dass der bestehende nationale und internationale Rechtsrahmen auch für Anwendungen, die KI-Systeme enthalten, anwendbar ist. Insbesondere das neue Bundesgesetz über den Datenschutz (DSG; SR 235.1), das am 1.&nbsp;September&nbsp;2023 in Kraft tritt, setzt klare Leitplanken. Beispielsweise könnte der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) eine Anwendung verbieten, die den neuen gesetzlichen Anforderungen nicht genügt. Für den Einsatz von KI durch öffentliche Organe ist eine formelle Rechtsgrundlage erforderlich, wenn die Gefahr einer schwerwiegenden Verletzung der Grundrechte besteht. Bei automatisierten Einzelentscheidungen, auch bei solchen, die sich in der Privatwirtschaft ergeben, werden durch das neue Gesetz zudem die Rechte der betroffenen Personen gestärkt. Auf internationaler Ebene sind derzeit Arbeiten im Gange, Lücken im Rechtsrahmen zu schliessen, unter anderem durch die Arbeit des Europarates an einem globalen KI-Abkommen. Auch die Reglementierung der Europäischen Union (EU) ist noch in Arbeit.&nbsp;</p><p>Es gilt weiter zu vermeiden, dass die Schweiz durch unausgegorene Verbote wichtige Innovationschancen verpasst. Der Bund will den Ausgang der Debatten in der EU oder im Europarat nicht untätig abwarten. Derzeit prüfen verschiedene Bundesstellen gemeinsam, inwiefern eine pragmatische und rasche Klärung der Fragen im Zusammenhang mit KI die Rechtssicherheit erhöhen und gegebenenfalls einen Wettbewerbsvorteil für die Schweiz schaffen könnte.</p><p>Frage&nbsp;2: Der Bundesrat hat bereits verschiedene Massnahmen ergriffen, um einen verantwortungsvollen und ethischen Ansatz zur Nutzung von KI sicherzustellen. Auch verfolgt er die internationalen Entwicklungen der Reglementierung in diesem Bereich aufmerksam.&nbsp;Auf der Grundlage des 2019 erschienenen Berichts der interdepartementalen Arbeitsgruppe «Künstliche Intelligenz» (IDAG) hat er im Jahr&nbsp;2020&nbsp;<a href="https://www.sbfi.admin.ch/dam/sbfi/de/dokumente/2020/11/leitlinie_ki.pdf.download.pdf/Leitlinien%20K%C3%BCnstliche%20Intelligenz%20-%20DE.pdf">Leitlinien</a> für den Umgang mit KI in der Bundesverwaltung entwickelt und&nbsp;2022 das Kompetenznetzwerk für künstliche Intelligenz im Bund (CNAI) errichtet. Das CNAI soll zudem mit einer Fachstelle für Rechtsfragen («Knotenpunkt Recht») ergänzt werden. Die Ende&nbsp;2022 durchgeführte Überprüfung der KI-Leitlinien durch das Bundesamt für Kommunikation (BAKOM) und das CNAI hat ergeben, dass die Leitlinien angewandt werden und immer noch aktuell sind. Die Schweiz ist im Bereich KI sehr aktiv; sie hat die Arbeiten der OECD, des Europarates, der UNESCO sowie der ITU geprägt und will sie auch in Zukunft mitgestalten. Der Bundesrat wird die Analyse der Entwicklungen im Bereich KI sowie der für die Schweiz relevanten europäischen Regelwerke im Rahmen der genannten Gefässe (insb. IK EU-Digitalpolitik, KI-Leitlinien-Monitoring, Plateforme Tripartite und CNAI) und zusammen mit den für die betroffenen Rechtsbereiche zuständigen Bundesstellen weiterführen. Als Nicht-EU-Mitglied kann sich die Schweiz nur indirekt am Gesetzgebungsverfahren der Union beteiligen. Wie weiter oben ausgeführt, erachtet es der Bundesrat als sinnvoll, die Ergebnisse der Arbeiten in der EU und im Europarat abzuwarten, bevor neue sektorenübergreifende Vorschriften zur KI in Erwägung gezogen werden. Gegebenenfalls wären die rechtlichen Grundlagen in der Schweiz anzupassen.&nbsp;</p>
    • <p>Wie jede Erfindung ist die künstliche Intelligenz (KI) nicht per se schlecht. Sie kann positive Effekte haben, bringt jedoch auch grosse Risiken mit sich. Im Folgenden einige Beispiele:</p><p>- Auch wenn die KI zu wissenschaftlichen Zwecken verwendet wird, so basiert sie auf Algorithmen, die durch eine Ansammlung von Daten gespeist werden. Das heisst aber nicht zwingend, dass die Daten exakt und die daraus resultierenden Informationen korrekt sind.</p><p>- ChatGPT und andere leicht zugängliche Plattformen stellen eine mögliche Quelle für Betrug und Fakenews dar, die das Wissen und die Demokratien gefährden können.</p><p>Es versteht sich von selbst, dass die KI-Technologie reguliert werden muss, wenn möglich auf internationaler Ebene, um eine gewisse Wirksamkeit zu gewährleisten. So hat am 30. April 2023 auch die G7 angekündigt, dass sie eine risikobasierte Regulierung der KI anstrebt.</p><p>Was das Europäische Parlament betrifft, so bereitet es sich darauf vor, das Gesetz über künstliche Intelligenz anzunehmen, der die Nutzung und die Vermarktung von KI-Anwendungen regeln soll. Einige davon werden grundsätzlich verboten sein, etwa Systeme, die das soziale Verhalten von Individuen auswerten. Andere werden vorläufig verboten und bedürfen einer Zulassung, beispielsweise in den Bereichen der robotergestützten Chirurgie oder der Bildung. Auch ChatGPT fällt in diese Kategorie. </p><p>Gemäss seiner Antwort vom 26. April 2023 auf die Interpellation 23.3147 Bendahan scheint der Bundesrat keine Massnahmen zu den Herausforderungen im Zusammenhang mit der KI zu ergreifen. Im Anschluss daran empfiehlt er sogar, das Postulat 23.3201 Dobler abzulehnen, welches lediglich verlangt, die Unsicherheiten zu klären. Der Bundesrat möchte bis Ende 2024 nur den Handlungsbedarf aufzeigen, welcher als Grundlage für weitere Diskussionen im Parlament und der Öffentlichkeiten dienen kann.</p><p>1. Das Europäische Parlament bereitet sich bereits darauf vor, ein grundsätzliches oder vorläufiges Verbot bestimmter KI-Plattformen zu erlassen - lässt der Bundesrat angesichts dessen nicht einen Attentismus erkennen, der in keinem Verhältnis zu den Risiken steht?</p><p>2. Müsste der Bundesrat nicht einen Gesetzesentwurf erarbeiten, der sich an der europäischen Regulierung orientiert, sobald diese vom Europäischen Parlament angenommen worden ist?</p><p>3. Müsste man sich nicht an dem, was auf europäischer Ebene vorgesehen ist, ein Beispiel nehmen und bestimmte KI-Plattformen sofort verbieten, während andere Anwendungen einem vorgängigen Zulassungsverfahren unterworfen werden?</p>
    • Grundsätzliches oder vorläufiges Verbot von bestimmten Plattformen der künstlichen Intelligenz

Back to List