Förderung erklärbarer und vertrauenswürdiger künstlicher Intelligenz in der Schweiz

ShortId

23.3860

Id

20233860

Updated

26.09.2023 08:33

Language

Title

Förderung erklärbarer und vertrauenswürdiger künstlicher Intelligenz in der Schweiz

AdditionalIndexing

34;36;24

1

PriorityCouncil1

Nationalrat

Texts

KI erweist sich als eine der grossen Chancen der nächsten Jahre, aber sie birgt auch eine Reihe von Risiken. Die Schweiz muss bei der Nutzung von KI für das Gemeinwohl eine Vorreiterrolle übernehmen. Eine grundlegende Herausforderung ist, dass die KI erklärbar, oder allgemeiner gesagt vertrauenswürdig ist (Trustworthy Al).Ein Grossteil der KI basiert heute auf der Analyse und Wiedergabe grosser Datenmengen und auf Lernen. Je nachdem, wie eine KI konzipiert ist, kann es für Menschen leider schwierig bis unmöglich sein, genau zu verstehen, wie sie funktioniert und warum sie zu einem bestimmten Ergebnis gelangt. Dies widerspricht einem der wichtigen Grundsätze, die gelten müssen, wenn man die Kontrolle über diese Technologie behalten will: Transparenz.Bei der vertrauenswürdigen KI (Trustworthy Al) geht es darum, KI-Systeme zu entwickeln, die nicht undurchsichtig sind und deren Parameter und Informationsquellen erklärt werden können und bei denen man die Risiken verstehen kann. Es geht also darum, über verständliche Systeme zu verfügen, damit bei der Nutzung von KI Vertrauen, Verantwortung und Ethik gewährleistet sind. In anderen Ländern ist man sich dessen bereits bewusst. Es gibt viele Ansätze, die in Betracht gezogen werden, aber es besteht noch Forschungs- und Entwicklungsbedarf. Das Vereinigte Königreich hat beispielsweise allein zu diesem Zweck 1 Milliarde Franken in Rechenleistung investiert.
Die Forderung, dass künstliche Intelligenz (KI) nachvollziehbar und verlässlich sein muss, ist weit verbreitet. Die Erfüllung dieser Forderung ist jedoch mit verschiedenen technischen, rechtlichen und gesellschaftlichen Herausforderungen verbunden. Auf internationaler Ebene wird derzeit daran gearbeitet, angemessene Anforderungen in Bezug auf die Nachvollziehbarkeit und Zuverlässigkeit von KI zu definieren. Der Bundesrat verfolgt die verschiedenen Initiativen mit grosser Aufmerksamkeit. Die Schweiz ist mit einer Delegation im Ausschuss für künstliche Intelligenz (Committee on Artificial Intelligence, CAI) des Europarates vertreten, der gegenwärtig das erste internationale Übereinkommen über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit aushandelt. Mit diesem Übereinkommen soll unter anderem eine erklärbare und vertrauenswürdige KI gefördert werden. Im Hinblick auf die Erreichung der darin festgelegten Ziele wird auch über eine internationale Zusammenarbeit auf dem Gebiet der KI diskutiert. Im Zusammenhang mit der Förderung von Forschung und Innovation und insbesondere mit der gesamtschweizerischen hochschulpolitischen Koordination 2025–2028 ist KI in die strategische Planung von swissuniversities, der Dachorganisation der Schweizer Hochschulen, aufgenommen worden. Forschende und Innovierende können nach dem bottom-up Prinzip um Unterstützung für Projekte beim Schweizer Nationalfonds sowie bei der Innosuisse anfragen. Die Akademien der Wissenschaften Schweiz leisten Beiträge an die Information und Sensibilisierung zu KI. So fördert die Stiftung für Technologiefolgenabschätzung TA-SWISS die gesellschaftliche Debatte und die demokratische Entscheidungsfindung, indem sie die Erkenntnisse ihrer Arbeiten zur Technologiefolgenabschätzung einer breiten Bevölkerung sowie Entscheidungsträgern zugänglich macht. Ausserdem befasst sie sich mit KI und den Herausforderungen hinsichtlich ihrer Erklärbarkeit. Auch an diversen Hochschulen sind Kompetenzzentren zur künstlichen Intelligenz geschaffen worden, welche für die in der Motion genannten Anliegen genutzt werden können. Dies gilt auch für die Rechenleistung und Infrastrukturen. Der neue Schweizer Supercomputer «Alps», den die ETH Zürich derzeit beschafft, wird den bestehenden Rechner «Piz Daint» ersetzen und erneut einer der leistungsstärksten Supercomputer der Welt sein. Er soll bereits im ersten Quartal des Jahres 2024 betriebsbereit sein. Auf Bundesebene stehen eine menschenzentrierte und vertrauenswürdige Datenwissenschaft und KI im Mittelpunkt der Datenwissenschaftsstrategie des Bundes (DSStB). Bis Ende 2023 soll ein Verhaltenskodex mit den Best Practices bezüglich Datenwissenschaft und KI erarbeitet werden. Darüber hinaus hat es sich das Kompetenzzentrum für Datenwissenschaft (DSCC), das dem Bundesamt für Statistik (BFS) angegliedert ist, zur Aufgabe gemacht, der gesamten öffentlichen Verwaltung der Schweiz im Sinne des Gemeinwohls Dienstleistungen auf dem Gebiet der Datenwissenschaft und KI anzubieten. Weiter ist auch der Erwerb von digitalen Kompetenzen zentral, um KI-basierte digitale Werkzeuge sinnvoll einsetzen zu können. Im Bildungsbereich ist es daher wichtig, dass sowohl die Lehrkräfte als auch die Jugendlichen über die dafür notwendigen Kompetenzen verfügen, wobei die Bildungshoheit bei den Kantonen liegt. So ist die Entwicklung digitaler – aber auch transversaler – Kompetenzen bereits in den Lehrplänen aller Stufen des Bildungssystems vorgesehen. Was die Frage der Regulierung für die Förderung von vertrauenswürdiger KI angeht, hat der Bundesrat in seiner Stellungnahme zum Postulat Dobler (23.3201) bereits angekündigt, eine politische Auslegeordnung mit möglichen Optionen für sektorielle und wenn nötig horizontale Regulierungsmassnahmen im Bereich der KI zu erarbeiten, sobald die entsprechenden internationalen Regelungen (insb. der «AI Act» der EU und die KI-Konvention des Europarates) vorliegen. Die Analysen werden bis Ende 2024 im Rahmen der bestehenden Gefässe (insb. der Plateforme Tripartite, der interdepartementalen Koordinationsgruppe zur EU-Digitalpolitik, des Kompetenznetzwerks für künstliche Intelligenz (CNAI) und des KI-Leitlinien-Monitorings) und unter Beteiligung aller zuständigen Bundesstellen durchgeführt.Vor diesem Hintergrund ist der Bundesrat der Ansicht, dass in der Schweiz die Strukturen und Voraussetzungen bereits vorhanden sind, um auf verschiedenen Ebenen eine vertrauenswürdige KI zu fördern.
Der Bundesrat wird aufgefordert, einen Plan vorzulegen, mit dem die erklärbare und vertrauenswürdige künstliche Intelligenz (KI) in der Schweiz gefördert wird, z. B. indem:– Forschung und Innovation in Zusammenarbeit mit Schulen und dem Privatsektor gefördert wird;– Ressourcen investiert werden und sichergestellt wird, dass die Bevölkerung von der Forschung und Entwicklung in diesem Bereich profitieren kann;– Sensibilisierungsprogramme für die Bevölkerung und die Unternehmen eingeführt werden;– in diesem Bereich proaktiv mit anderen Ländern zusammengearbeitet wird;– über Anpassungen der gesetzlichen Grundlagen nachgedacht wird, die die Entwicklung erklärbarer statt undurchsichtiger KI erleichtern könnten;– ein System zur Anerkennung der guten Praxis im Bereich der KI vorgeschlagen wird;– die Verfügbarkeit von Infrastruktur und Rechenleistung für Fragen im Zusammenhang mit KI sichergestellt wird.
Förderung erklärbarer und vertrauenswürdiger künstlicher Intelligenz in der Schweiz

State

Stellungnahme zum Vorstoss liegt vor

Related Affairs

Drafts

Index

0

Texts
- KI erweist sich als eine der grossen Chancen der nächsten Jahre, aber sie birgt auch eine Reihe von Risiken. Die Schweiz muss bei der Nutzung von KI für das Gemeinwohl eine Vorreiterrolle übernehmen. Eine grundlegende Herausforderung ist, dass die KI erklärbar, oder allgemeiner gesagt vertrauenswürdig ist (Trustworthy Al).Ein Grossteil der KI basiert heute auf der Analyse und Wiedergabe grosser Datenmengen und auf Lernen. Je nachdem, wie eine KI konzipiert ist, kann es für Menschen leider schwierig bis unmöglich sein, genau zu verstehen, wie sie funktioniert und warum sie zu einem bestimmten Ergebnis gelangt. Dies widerspricht einem der wichtigen Grundsätze, die gelten müssen, wenn man die Kontrolle über diese Technologie behalten will: Transparenz.Bei der vertrauenswürdigen KI (Trustworthy Al) geht es darum, KI-Systeme zu entwickeln, die nicht undurchsichtig sind und deren Parameter und Informationsquellen erklärt werden können und bei denen man die Risiken verstehen kann. Es geht also darum, über verständliche Systeme zu verfügen, damit bei der Nutzung von KI Vertrauen, Verantwortung und Ethik gewährleistet sind. In anderen Ländern ist man sich dessen bereits bewusst. Es gibt viele Ansätze, die in Betracht gezogen werden, aber es besteht noch Forschungs- und Entwicklungsbedarf. Das Vereinigte Königreich hat beispielsweise allein zu diesem Zweck 1 Milliarde Franken in Rechenleistung investiert.
- Die Forderung, dass künstliche Intelligenz (KI) nachvollziehbar und verlässlich sein muss, ist weit verbreitet. Die Erfüllung dieser Forderung ist jedoch mit verschiedenen technischen, rechtlichen und gesellschaftlichen Herausforderungen verbunden. Auf internationaler Ebene wird derzeit daran gearbeitet, angemessene Anforderungen in Bezug auf die Nachvollziehbarkeit und Zuverlässigkeit von KI zu definieren. Der Bundesrat verfolgt die verschiedenen Initiativen mit grosser Aufmerksamkeit. Die Schweiz ist mit einer Delegation im Ausschuss für künstliche Intelligenz (Committee on Artificial Intelligence, CAI) des Europarates vertreten, der gegenwärtig das erste internationale Übereinkommen über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit aushandelt. Mit diesem Übereinkommen soll unter anderem eine erklärbare und vertrauenswürdige KI gefördert werden. Im Hinblick auf die Erreichung der darin festgelegten Ziele wird auch über eine internationale Zusammenarbeit auf dem Gebiet der KI diskutiert. Im Zusammenhang mit der Förderung von Forschung und Innovation und insbesondere mit der gesamtschweizerischen hochschulpolitischen Koordination 2025–2028 ist KI in die strategische Planung von swissuniversities, der Dachorganisation der Schweizer Hochschulen, aufgenommen worden. Forschende und Innovierende können nach dem bottom-up Prinzip um Unterstützung für Projekte beim Schweizer Nationalfonds sowie bei der Innosuisse anfragen. Die Akademien der Wissenschaften Schweiz leisten Beiträge an die Information und Sensibilisierung zu KI. So fördert die Stiftung für Technologiefolgenabschätzung TA-SWISS die gesellschaftliche Debatte und die demokratische Entscheidungsfindung, indem sie die Erkenntnisse ihrer Arbeiten zur Technologiefolgenabschätzung einer breiten Bevölkerung sowie Entscheidungsträgern zugänglich macht. Ausserdem befasst sie sich mit KI und den Herausforderungen hinsichtlich ihrer Erklärbarkeit. Auch an diversen Hochschulen sind Kompetenzzentren zur künstlichen Intelligenz geschaffen worden, welche für die in der Motion genannten Anliegen genutzt werden können. Dies gilt auch für die Rechenleistung und Infrastrukturen. Der neue Schweizer Supercomputer «Alps», den die ETH Zürich derzeit beschafft, wird den bestehenden Rechner «Piz Daint» ersetzen und erneut einer der leistungsstärksten Supercomputer der Welt sein. Er soll bereits im ersten Quartal des Jahres 2024 betriebsbereit sein. Auf Bundesebene stehen eine menschenzentrierte und vertrauenswürdige Datenwissenschaft und KI im Mittelpunkt der Datenwissenschaftsstrategie des Bundes (DSStB). Bis Ende 2023 soll ein Verhaltenskodex mit den Best Practices bezüglich Datenwissenschaft und KI erarbeitet werden. Darüber hinaus hat es sich das Kompetenzzentrum für Datenwissenschaft (DSCC), das dem Bundesamt für Statistik (BFS) angegliedert ist, zur Aufgabe gemacht, der gesamten öffentlichen Verwaltung der Schweiz im Sinne des Gemeinwohls Dienstleistungen auf dem Gebiet der Datenwissenschaft und KI anzubieten. Weiter ist auch der Erwerb von digitalen Kompetenzen zentral, um KI-basierte digitale Werkzeuge sinnvoll einsetzen zu können. Im Bildungsbereich ist es daher wichtig, dass sowohl die Lehrkräfte als auch die Jugendlichen über die dafür notwendigen Kompetenzen verfügen, wobei die Bildungshoheit bei den Kantonen liegt. So ist die Entwicklung digitaler – aber auch transversaler – Kompetenzen bereits in den Lehrplänen aller Stufen des Bildungssystems vorgesehen. Was die Frage der Regulierung für die Förderung von vertrauenswürdiger KI angeht, hat der Bundesrat in seiner Stellungnahme zum Postulat Dobler (23.3201) bereits angekündigt, eine politische Auslegeordnung mit möglichen Optionen für sektorielle und wenn nötig horizontale Regulierungsmassnahmen im Bereich der KI zu erarbeiten, sobald die entsprechenden internationalen Regelungen (insb. der «AI Act» der EU und die KI-Konvention des Europarates) vorliegen. Die Analysen werden bis Ende 2024 im Rahmen der bestehenden Gefässe (insb. der Plateforme Tripartite, der interdepartementalen Koordinationsgruppe zur EU-Digitalpolitik, des Kompetenznetzwerks für künstliche Intelligenz (CNAI) und des KI-Leitlinien-Monitorings) und unter Beteiligung aller zuständigen Bundesstellen durchgeführt.Vor diesem Hintergrund ist der Bundesrat der Ansicht, dass in der Schweiz die Strukturen und Voraussetzungen bereits vorhanden sind, um auf verschiedenen Ebenen eine vertrauenswürdige KI zu fördern.
- Der Bundesrat wird aufgefordert, einen Plan vorzulegen, mit dem die erklärbare und vertrauenswürdige künstliche Intelligenz (KI) in der Schweiz gefördert wird, z. B. indem:– Forschung und Innovation in Zusammenarbeit mit Schulen und dem Privatsektor gefördert wird;– Ressourcen investiert werden und sichergestellt wird, dass die Bevölkerung von der Forschung und Entwicklung in diesem Bereich profitieren kann;– Sensibilisierungsprogramme für die Bevölkerung und die Unternehmen eingeführt werden;– in diesem Bereich proaktiv mit anderen Ländern zusammengearbeitet wird;– über Anpassungen der gesetzlichen Grundlagen nachgedacht wird, die die Entwicklung erklärbarer statt undurchsichtiger KI erleichtern könnten;– ein System zur Anerkennung der guten Praxis im Bereich der KI vorgeschlagen wird;– die Verfügbarkeit von Infrastruktur und Rechenleistung für Fragen im Zusammenhang mit KI sichergestellt wird.
- Förderung erklärbarer und vertrauenswürdiger künstlicher Intelligenz in der Schweiz

Back to List

Web Services of the Swiss Parliament

Förderung erklärbarer und vertrauenswürdiger künstlicher Intelligenz in der Schweiz