Algorithmen, die im Einklang mit den Grundrechten stehen

ShortId
16.4007
Id
20164007
Updated
28.07.2023 04:56
Language
de
Title
Algorithmen, die im Einklang mit den Grundrechten stehen
AdditionalIndexing
1236;04;34
1
PriorityCouncil1
Nationalrat
Texts
  • <p>Es ist abzusehen, dass Entscheide von Behörden, aber auch von Privaten immer häufiger mithilfe von Algorithmen getroffen werden. Automatisierte Entscheide sind beispielsweise bei der Gewährung oder Verweigerung von Leistungen, in Auswahl- oder Zulassungsverfahren sowie bei Vertragsabschlüssen und der Festlegung von Vertragsbedingungen denkbar. Solche Entscheide, die nicht auf dem Ermessen einer Person aus Fleisch und Blut beruhen, laufen Gefahr, willkürlich auszufallen oder direkt gewisse Grundrechte zu tangieren (wenn beispielsweise ein selbstfahrendes Auto mit dem Dilemma konfrontiert ist, entweder den Tod seines Fahrers zu verursachen oder eine Fussgängerin zu überfahren, oder wenn ein Algorithmus zu einer Rassendiskriminierung führt, auch wenn er sich auf Kriterien stützt, die per se nicht diskriminierend sind). Der Staat ist aber an die Grundrechte gebunden und muss dafür sorgen, dass sie auch unter Privaten wirksam werden (Art. 35 der Bundesverfassung).</p><p>Es besteht ausserdem das Risiko, dass für automatisierte Entscheide niemand mehr die Verantwortung übernimmt und niemand mehr die Gründe dafür kennt. Die wissenschaftliche Gemeinschaft hat daher damit angefangen, die notwendigen Voraussetzungen dafür herauszuarbeiten, dass Algorithmen im Einklang mit den Grundrechten eingesetzt werden: Verantwortung (für jedes algorithmische System muss es eine Person geben, die in der Lage ist, unerwünschten Effekten entgegenzuwirken), Erklärbarkeit (jeder Entscheid, der auf einen Algorithmus zurückgeht, sollte den betroffenen Personen erklärt werden), Exaktheit (Fehlerquellen müssen identifiziert, dokumentiert und analysiert werden), Überprüfbarkeit (die Algorithmen müssen so entwickelt werden, dass es Dritten möglich ist, ihr Verhalten zu überprüfen und anzupassen) und Gleichbehandlung (um verzerrte automatische Entscheide zu vermeiden, müssen Algorithmen, die Personen betreffen, evaluiert und in Bezug auf ihre diskriminierenden Effekte beurteilt werden; die Evaluationskriterien und die Ergebnisse sind zu erläutern und zu veröffentlichen) (vgl. beispielsweise Diakopoulos/Friedler in "MIT Technology Review", 2016). Es ist zu überprüfen, inwieweit die geltenden rechtlichen Grundlagen auf Gesetzes- oder gar Verfassungsstufe es ermöglichen, diese Prinzipien auf Algorithmen anzuwenden, oder ob allenfalls ergänzende Regelungen notwendig sind.</p>
  • <p>Der Bundesrat ist mit dem Postulanten einig, dass Algorithmen vor dem Hintergrund der digitalen Transformation bei allen Dienstleistungen eine grundlegende Rolle spielen. Um angesichts dieser Entwicklung die Chancen nachhaltig zu nutzen, muss den möglichen Risiken, welche durch Algorithmen verursacht werden und die verfassungsmässige Rechte gefährden, nachgegangen werden. Dies bezieht sich auf von Menschen programmierte Algorithmen genauso wie auf solche, die im Rahmen von künstlicher Intelligenz durch Maschinen selbst weiterentwickelt werden.</p><p>Allerdings stellen Algorithmen nur ein Glied der Datenverarbeitungskette dar. An deren Anfang und Ende stehen Daten, die schliesslich konkrete, gegebenenfalls auch schädliche Auswirkungen für den Betroffenen oder den Anwender haben können. Deshalb dürfen Algorithmen nicht isoliert betrachtet werden, sondern sind im Kontext der ganzen Funktion einer Datenverarbeitung zu verstehen. Selbst neutral arbeitende Algorithmen können aufgrund eines spezifischen Datenmaterials zu Resultaten führen, die Grundrechte verletzen. Um diesem Umstand Rechnung zu tragen und den ganzen Kontext zu berücksichtigen, hat der Bundesrat verschiedene Massnahmen ergriffen:</p><p>- Die in Umsetzung der Motion Rechsteiner Paul 13.3841, "Expertenkommission zur Zukunft der Datenbearbeitung und Datensicherheit", eingesetzte Expertengruppe geht dem Thema der Algorithmen unter verschiedenen Gesichtspunkten nach. Die Expertengruppe widmet sich einerseits Themen wie etwa der Zukunft des Persönlichkeitsschutzes, dem Verbraucherschutz sowie Algorithmen und Ethik. Andererseits nimmt sie sich der grundlegenden Frage an, inwiefern und wo die Analyse des Risikos und die Erarbeitung von entsprechenden Massnahmen auf der Ebene der Algorithmen einen Mehrwert erbringen. Der Bericht der Expertengruppe mit entsprechenden Empfehlungen wird Mitte 2018 erwartet.</p><p>- Auf Gesetzesebene berücksichtigt die laufende Revision des Datenschutzgesetzes verschiedene Konstellationen, in denen die Bearbeitung von Personendaten durch Algorithmen erfolgt. So wird eine Informations- und Anhörungspflicht der betroffenen Person eingeführt, wenn ihr gegenüber eine Entscheidung gefällt wird, die ausschliesslich auf einer automatisierten Datenbearbeitung beruht und rechtliche Wirkungen oder erhebliche Auswirkungen auf die betroffene Person hat. Mit dem Auskunftsrecht soll die betroffene Person darüber hinaus weitere Informationen über das Ergebnis, das Zustandekommen und die Auswirkungen der Entscheidung einfordern können. Die Vorlage enthält auch Massnahmen zum Profiling, das häufig auf der Verwendung von Algorithmen beruht. Schliesslich sollen die Verantwortlichen verpflichtet werden, eine Datenschutz-Folgenabschätzung zu erstellen, wenn die Bearbeitung zu einer Verletzung der Persönlichkeit der betroffenen Person oder der Grundrechte führen könnte. In diesem Rahmen müssen auch Massnahmen zum Schutz der betroffenen Person geprüft werden.</p><p>Die aufgelisteten Massnahmen zeigen, dass das Thema "Algorithmen und verfassungsmässige Rechte" erkannt und bereits in die laufenden Aktivitäten integriert ist. Dem Bundesrat erscheint eine Weiterführung und Stärkung dieser Aktivitäten der effektivste Weg, um sicherzustellen, dass Algorithmen im Einklang mit den Grundrechten eingesetzt werden.</p> Der Bundesrat beantragt die Ablehnung des Postulates.
  • <p>Der Bundesrat wird beauftragt, die Auswirkungen auf die verfassungsmässigen Rechte zu untersuchen, die der Einsatz von Algorithmen durch die öffentliche Hand und durch Private hat. Bei Bedarf soll er Massnahmen vorschlagen, die sicherstellen, dass Algorithmen transparent, verantwortungsvoll und im Einklang mit den Grundrechten eingesetzt werden.</p>
  • Algorithmen, die im Einklang mit den Grundrechten stehen
State
Erledigt
Related Affairs
Drafts
  • Index
    0
    Texts
    • <p>Es ist abzusehen, dass Entscheide von Behörden, aber auch von Privaten immer häufiger mithilfe von Algorithmen getroffen werden. Automatisierte Entscheide sind beispielsweise bei der Gewährung oder Verweigerung von Leistungen, in Auswahl- oder Zulassungsverfahren sowie bei Vertragsabschlüssen und der Festlegung von Vertragsbedingungen denkbar. Solche Entscheide, die nicht auf dem Ermessen einer Person aus Fleisch und Blut beruhen, laufen Gefahr, willkürlich auszufallen oder direkt gewisse Grundrechte zu tangieren (wenn beispielsweise ein selbstfahrendes Auto mit dem Dilemma konfrontiert ist, entweder den Tod seines Fahrers zu verursachen oder eine Fussgängerin zu überfahren, oder wenn ein Algorithmus zu einer Rassendiskriminierung führt, auch wenn er sich auf Kriterien stützt, die per se nicht diskriminierend sind). Der Staat ist aber an die Grundrechte gebunden und muss dafür sorgen, dass sie auch unter Privaten wirksam werden (Art. 35 der Bundesverfassung).</p><p>Es besteht ausserdem das Risiko, dass für automatisierte Entscheide niemand mehr die Verantwortung übernimmt und niemand mehr die Gründe dafür kennt. Die wissenschaftliche Gemeinschaft hat daher damit angefangen, die notwendigen Voraussetzungen dafür herauszuarbeiten, dass Algorithmen im Einklang mit den Grundrechten eingesetzt werden: Verantwortung (für jedes algorithmische System muss es eine Person geben, die in der Lage ist, unerwünschten Effekten entgegenzuwirken), Erklärbarkeit (jeder Entscheid, der auf einen Algorithmus zurückgeht, sollte den betroffenen Personen erklärt werden), Exaktheit (Fehlerquellen müssen identifiziert, dokumentiert und analysiert werden), Überprüfbarkeit (die Algorithmen müssen so entwickelt werden, dass es Dritten möglich ist, ihr Verhalten zu überprüfen und anzupassen) und Gleichbehandlung (um verzerrte automatische Entscheide zu vermeiden, müssen Algorithmen, die Personen betreffen, evaluiert und in Bezug auf ihre diskriminierenden Effekte beurteilt werden; die Evaluationskriterien und die Ergebnisse sind zu erläutern und zu veröffentlichen) (vgl. beispielsweise Diakopoulos/Friedler in "MIT Technology Review", 2016). Es ist zu überprüfen, inwieweit die geltenden rechtlichen Grundlagen auf Gesetzes- oder gar Verfassungsstufe es ermöglichen, diese Prinzipien auf Algorithmen anzuwenden, oder ob allenfalls ergänzende Regelungen notwendig sind.</p>
    • <p>Der Bundesrat ist mit dem Postulanten einig, dass Algorithmen vor dem Hintergrund der digitalen Transformation bei allen Dienstleistungen eine grundlegende Rolle spielen. Um angesichts dieser Entwicklung die Chancen nachhaltig zu nutzen, muss den möglichen Risiken, welche durch Algorithmen verursacht werden und die verfassungsmässige Rechte gefährden, nachgegangen werden. Dies bezieht sich auf von Menschen programmierte Algorithmen genauso wie auf solche, die im Rahmen von künstlicher Intelligenz durch Maschinen selbst weiterentwickelt werden.</p><p>Allerdings stellen Algorithmen nur ein Glied der Datenverarbeitungskette dar. An deren Anfang und Ende stehen Daten, die schliesslich konkrete, gegebenenfalls auch schädliche Auswirkungen für den Betroffenen oder den Anwender haben können. Deshalb dürfen Algorithmen nicht isoliert betrachtet werden, sondern sind im Kontext der ganzen Funktion einer Datenverarbeitung zu verstehen. Selbst neutral arbeitende Algorithmen können aufgrund eines spezifischen Datenmaterials zu Resultaten führen, die Grundrechte verletzen. Um diesem Umstand Rechnung zu tragen und den ganzen Kontext zu berücksichtigen, hat der Bundesrat verschiedene Massnahmen ergriffen:</p><p>- Die in Umsetzung der Motion Rechsteiner Paul 13.3841, "Expertenkommission zur Zukunft der Datenbearbeitung und Datensicherheit", eingesetzte Expertengruppe geht dem Thema der Algorithmen unter verschiedenen Gesichtspunkten nach. Die Expertengruppe widmet sich einerseits Themen wie etwa der Zukunft des Persönlichkeitsschutzes, dem Verbraucherschutz sowie Algorithmen und Ethik. Andererseits nimmt sie sich der grundlegenden Frage an, inwiefern und wo die Analyse des Risikos und die Erarbeitung von entsprechenden Massnahmen auf der Ebene der Algorithmen einen Mehrwert erbringen. Der Bericht der Expertengruppe mit entsprechenden Empfehlungen wird Mitte 2018 erwartet.</p><p>- Auf Gesetzesebene berücksichtigt die laufende Revision des Datenschutzgesetzes verschiedene Konstellationen, in denen die Bearbeitung von Personendaten durch Algorithmen erfolgt. So wird eine Informations- und Anhörungspflicht der betroffenen Person eingeführt, wenn ihr gegenüber eine Entscheidung gefällt wird, die ausschliesslich auf einer automatisierten Datenbearbeitung beruht und rechtliche Wirkungen oder erhebliche Auswirkungen auf die betroffene Person hat. Mit dem Auskunftsrecht soll die betroffene Person darüber hinaus weitere Informationen über das Ergebnis, das Zustandekommen und die Auswirkungen der Entscheidung einfordern können. Die Vorlage enthält auch Massnahmen zum Profiling, das häufig auf der Verwendung von Algorithmen beruht. Schliesslich sollen die Verantwortlichen verpflichtet werden, eine Datenschutz-Folgenabschätzung zu erstellen, wenn die Bearbeitung zu einer Verletzung der Persönlichkeit der betroffenen Person oder der Grundrechte führen könnte. In diesem Rahmen müssen auch Massnahmen zum Schutz der betroffenen Person geprüft werden.</p><p>Die aufgelisteten Massnahmen zeigen, dass das Thema "Algorithmen und verfassungsmässige Rechte" erkannt und bereits in die laufenden Aktivitäten integriert ist. Dem Bundesrat erscheint eine Weiterführung und Stärkung dieser Aktivitäten der effektivste Weg, um sicherzustellen, dass Algorithmen im Einklang mit den Grundrechten eingesetzt werden.</p> Der Bundesrat beantragt die Ablehnung des Postulates.
    • <p>Der Bundesrat wird beauftragt, die Auswirkungen auf die verfassungsmässigen Rechte zu untersuchen, die der Einsatz von Algorithmen durch die öffentliche Hand und durch Private hat. Bei Bedarf soll er Massnahmen vorschlagen, die sicherstellen, dass Algorithmen transparent, verantwortungsvoll und im Einklang mit den Grundrechten eingesetzt werden.</p>
    • Algorithmen, die im Einklang mit den Grundrechten stehen

Back to List