Deepfakes regulieren

ShortId

23.3563

Id

20233563

Updated

19.09.2023 13:03

Language

Title

Deepfakes regulieren

AdditionalIndexing

34;1236;04;28

1

PriorityCouncil1

Nationalrat

Texts

Der Einsatz von künstlicher Intelligenz prägt heutzutage den Alltag in vielen Bereichen des Privat- und Berufslebens. Eine der Anwendungen der künstlichen Intelligenz wirft jedoch in Bezug auf den öffentlichen Raum besondere Fragen auf, nämlich die Erzeugung von Deepfakes. So nennt man Stimm- und Bildmanipulationen, die es ermöglichen, falsche Inhalte zu generieren oder das Aussehen oder die Stimme von Personen zu verändern. Einige Arten von Deepfakes erscheinen zwar harmlos (z. B. die Verwendung im Freizeitbereich oder private Software), anderen führen aber zu ernsthaften Problemen im Zusammenhang mit der Verletzung von Bild- und Persönlichkeitsrechten und gefährden die Presse- und Meinungsfreiheit. Diese Anwendung der künstlichen Intelligenz hat beispielsweise im pornographischen Bereich von sich reden gemacht. So entstand ein Skandal, als sich herausstellte, dass mit dem Roboter «deepnude» von über 100 000 Frauen ohne deren Einwilligung Nacktbilder generiert werden konnten. Deepfake-Anwendungen ermöglichen es zudem, in grossem Stil Geld zu erschwindeln und anderweitig zu betrügen, z. B. indem man die Stimme von Vorgesetzten künstlich nachahmt, um den Angestellten eines Unternehmens falsche Anweisungen zu Geldüberweisungen zu geben. Neulich hat die deutsche Zeitschrift «Die Aktuelle» ein unechtes Interview mit dem verunfallten deutschen Formel-1-Fahrer Michael Schuhmacher publiziert, das mit Hilfe von künstlicher Intelligenz fabriziert worden war.Die heute geltenden Rechtsgrundlagen sind ungenügend. Es ist unerlässlich, dass die Verwendung von Deepfakes speziell geregelt wird. Die Schaffung einer solchen Regelung ist auch weniger anspruchsvoll, als die künstliche Intelligenz als Ganzes zu regulieren.Im Bereich des Verwaltungsrechts gilt es, festzulegen, was als Deepfake gilt, und zu regeln, welche Verwendungen erlaubt sind und welche nicht. Ausserdem sind regulatorische Instrumente zur Wahrung der Meinungsfreiheit vorzusehen, z. B. eine Pflicht zur Offenlegung jeglicher Inhalte, die Deepfakes sind.Im Bereich des Zivilrechts gilt es zu regeln, wer bei der unrechtmässigen Verwendung und Verbreitung von Deepfakes zivilrechtlich verantwortlich ist.Im Bereich des Strafrechts scheint es unerlässlich, einen oder mehrere neue Straftatbestände zu schaffen für die Erzeugung und Verbreitung von Deepfakes, die z. B. persönlichkeits- oder rufschädigend sind.
Auf internationaler Ebene bestehen mit wenigen Ausnahmen (bspw. in gewissen US-Bundesstaaten und China) keine «Deepfake»-spezifischen Regulierungen. Dies gilt auch für die Europäische Union. Es besteht nur im aktuellen Verordnungsentwurf zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI) ein expliziter Bezug zu Systemen zur Erstellung von «Deepfakes». Diese werden von der Europäischen Kommission als Systeme mit «geringem Risiko» betrachtet. Gemäss dem Verordnungsentwurf müssen «Deepfakes» grundsätzlich offengelegt werden. Der Verordnungsentwurf zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz ist innerhalb der EU noch in Verhandlung. Verschiedene andere existierende EU-Rechtsgrundlagen können auf «Deepfakes» angewendet werden, sind jedoch nicht explizit auf diese ausgerichtet. Zudem bestehen Bestrebungen der Europäischen Kommission, um den freiwilligen Verhaltenskodex gegen Desinformation um Passagen zu KI-generierten Deepfakes zu ergänzen. Es erscheint für die Schweiz derzeit nicht sinnvoll, für «Deepfakes» eine spezifische Regulierung zu erlassen. Ein Regulierungsbedarf in Bezug auf den Gesamtaspekt der Künstlichen Intelligenz ist aber künftig absehbar. Der Bundesrat verfolgt die Rechtsentwicklungen dazu insbesondere in der Europäischen Union aufmerksam.Am 5. April 2023 hat der Bundesrat dem UVEK zudem den Auftrag erteilt, bis Ende März 2024 eine Vernehmlassungsvorlage zur Regulierung von Kommunikationsplattformen vorzubereiten. Geprüft wird unter anderem eine Verpflichtung für Kommunikationsplattformen, ein Melde- und Abhilfeverfahren («notice and action») zu schaffen. Nutzende sollen dadurch die Möglichkeit erhalten, potenziell illegale Inhalte niederschwellig zu melden. Die Kommunikationsplattformen müssten die eingegangenen Meldungen prüfen und Inhalte allenfalls entfernen. Sollten mit Deepfakes illegale Inhalte erstellt werden, stünde dieses Meldeverfahren zur Verfügung.In strafrechtlicher Hinsicht ist der Bundesrat der Ansicht, dass durch den Gebrauch von Deepfake-Anwendungen keine gesetzlichen Lücken entstehen. Das schweizerische Strafgesetzbuch ist grundsätzlich technologieneutral ausgestaltet und bleibt unabhängig von der technologischen Vorgehensweise der Täterschaft anwendbar. Bedient sich die Täterschaft zum Beispiel der Deepfake-Technologie, um ein Delikt gegen die Ehre oder den Privatbereich zu begehen, sind die entsprechenden Straftatbestände (Art. 173 ff. StGB, insbesondere auch die auf den 1. September 2023 in Kraft tretende neue Bestimmung gegen Identitätsmissbrauch, Art. 179decies StGB) anwendbar. Legt die Täterschaft durch den Einsatz von Deepfakes eine weitergehende Absicht an den Tag, zum Beispiel das Erlangen eines Vermögensvorteils mittels Täuschung, sind die entsprechenden Straftatbestände aus dem Bereich des Vermögensstrafrechts anwendbar. Die Erwähnung einzelner Technologien wäre mit keinem Mehrwert verbunden, sondern würde die Vollständigkeit des geltenden Strafrechts bezüglich anderer technologischer Entwicklungen in Frage stellen.Die gleiche Feststellung gilt für das Zivilrecht: Unabhängig von der technologischen Vorgehensweise sind insbesondere die Regelung über Persönlichkeitsverletzungen (insb. Recht am eigenen Bild und an der eigenen Stimme, Recht auf Achtung der Intim- und Privatsphäre, Recht auf Ehre) und damit die entsprechenden Rechtsbehelfe (namentlich Beseitigung, Unterlassung) anwendbar. Das gilt auch bezüglich der Haftung für unerlaubte Handlungen, die ebenfalls technologieneutral ausgestaltet ist und bei Rechtsverletzungen durch den Einsatz von Deepfakes anwendbar ist, wenn die Haftungsvoraussetzungen erfüllt sind.Schliesslich ist auch der Grundsatz der Richtigkeit der Daten nach Artikel 6 Absatz 5 des neuen Datenschutzgesetzes (nDSG; SR 235.1) zu erwähnen. Demnach muss jede Person, die Personendaten bearbeitet, sich über deren Richtigkeit vergewissern.
Der Bundesrat wird beauftragt, der Bundesversammlung Gesetzesänderungen in den Bereichen des Zivil-, Straf- und Verwaltungsrechts vorzulegen, um die Verwendung von Deepfakes im öffentlichen Raum zu regulieren.
Deepfakes regulieren

State

Stellungnahme zum Vorstoss liegt vor

Related Affairs

Drafts

Index

0

Texts
- Der Einsatz von künstlicher Intelligenz prägt heutzutage den Alltag in vielen Bereichen des Privat- und Berufslebens. Eine der Anwendungen der künstlichen Intelligenz wirft jedoch in Bezug auf den öffentlichen Raum besondere Fragen auf, nämlich die Erzeugung von Deepfakes. So nennt man Stimm- und Bildmanipulationen, die es ermöglichen, falsche Inhalte zu generieren oder das Aussehen oder die Stimme von Personen zu verändern. Einige Arten von Deepfakes erscheinen zwar harmlos (z. B. die Verwendung im Freizeitbereich oder private Software), anderen führen aber zu ernsthaften Problemen im Zusammenhang mit der Verletzung von Bild- und Persönlichkeitsrechten und gefährden die Presse- und Meinungsfreiheit. Diese Anwendung der künstlichen Intelligenz hat beispielsweise im pornographischen Bereich von sich reden gemacht. So entstand ein Skandal, als sich herausstellte, dass mit dem Roboter «deepnude» von über 100 000 Frauen ohne deren Einwilligung Nacktbilder generiert werden konnten. Deepfake-Anwendungen ermöglichen es zudem, in grossem Stil Geld zu erschwindeln und anderweitig zu betrügen, z. B. indem man die Stimme von Vorgesetzten künstlich nachahmt, um den Angestellten eines Unternehmens falsche Anweisungen zu Geldüberweisungen zu geben. Neulich hat die deutsche Zeitschrift «Die Aktuelle» ein unechtes Interview mit dem verunfallten deutschen Formel-1-Fahrer Michael Schuhmacher publiziert, das mit Hilfe von künstlicher Intelligenz fabriziert worden war.Die heute geltenden Rechtsgrundlagen sind ungenügend. Es ist unerlässlich, dass die Verwendung von Deepfakes speziell geregelt wird. Die Schaffung einer solchen Regelung ist auch weniger anspruchsvoll, als die künstliche Intelligenz als Ganzes zu regulieren.Im Bereich des Verwaltungsrechts gilt es, festzulegen, was als Deepfake gilt, und zu regeln, welche Verwendungen erlaubt sind und welche nicht. Ausserdem sind regulatorische Instrumente zur Wahrung der Meinungsfreiheit vorzusehen, z. B. eine Pflicht zur Offenlegung jeglicher Inhalte, die Deepfakes sind.Im Bereich des Zivilrechts gilt es zu regeln, wer bei der unrechtmässigen Verwendung und Verbreitung von Deepfakes zivilrechtlich verantwortlich ist.Im Bereich des Strafrechts scheint es unerlässlich, einen oder mehrere neue Straftatbestände zu schaffen für die Erzeugung und Verbreitung von Deepfakes, die z. B. persönlichkeits- oder rufschädigend sind. 
- Auf internationaler Ebene bestehen mit wenigen Ausnahmen (bspw. in gewissen US-Bundesstaaten und China) keine «Deepfake»-spezifischen Regulierungen. Dies gilt auch für die Europäische Union. Es besteht nur im aktuellen Verordnungsentwurf zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI) ein expliziter Bezug zu Systemen zur Erstellung von «Deepfakes». Diese werden von der Europäischen Kommission als Systeme mit «geringem Risiko» betrachtet. Gemäss dem Verordnungsentwurf müssen «Deepfakes» grundsätzlich offengelegt werden. Der Verordnungsentwurf zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz ist innerhalb der EU noch in Verhandlung. Verschiedene andere existierende EU-Rechtsgrundlagen können auf «Deepfakes» angewendet werden, sind jedoch nicht explizit auf diese ausgerichtet. Zudem bestehen Bestrebungen der Europäischen Kommission, um den freiwilligen Verhaltenskodex gegen Desinformation um Passagen zu KI-generierten Deepfakes zu ergänzen. Es erscheint für die Schweiz derzeit nicht sinnvoll, für «Deepfakes» eine spezifische Regulierung zu erlassen. Ein Regulierungsbedarf in Bezug auf den Gesamtaspekt der Künstlichen Intelligenz ist aber künftig absehbar. Der Bundesrat verfolgt die Rechtsentwicklungen dazu insbesondere in der Europäischen Union aufmerksam.Am 5. April 2023 hat der Bundesrat dem UVEK zudem den Auftrag erteilt, bis Ende März 2024 eine Vernehmlassungsvorlage zur Regulierung von Kommunikationsplattformen vorzubereiten. Geprüft wird unter anderem eine Verpflichtung für Kommunikationsplattformen, ein Melde- und Abhilfeverfahren («notice and action») zu schaffen. Nutzende sollen dadurch die Möglichkeit erhalten, potenziell illegale Inhalte niederschwellig zu melden. Die Kommunikationsplattformen müssten die eingegangenen Meldungen prüfen und Inhalte allenfalls entfernen. Sollten mit Deepfakes illegale Inhalte erstellt werden, stünde dieses Meldeverfahren zur Verfügung.In strafrechtlicher Hinsicht ist der Bundesrat der Ansicht, dass durch den Gebrauch von Deepfake-Anwendungen keine gesetzlichen Lücken entstehen. Das schweizerische Strafgesetzbuch ist grundsätzlich technologieneutral ausgestaltet und bleibt unabhängig von der technologischen Vorgehensweise der Täterschaft anwendbar. Bedient sich die Täterschaft zum Beispiel der Deepfake-Technologie, um ein Delikt gegen die Ehre oder den Privatbereich zu begehen, sind die entsprechenden Straftatbestände (Art. 173 ff. StGB, insbesondere auch die auf den 1. September 2023 in Kraft tretende neue Bestimmung gegen Identitätsmissbrauch, Art. 179decies StGB) anwendbar. Legt die Täterschaft durch den Einsatz von Deepfakes eine weitergehende Absicht an den Tag, zum Beispiel das Erlangen eines Vermögensvorteils mittels Täuschung, sind die entsprechenden Straftatbestände aus dem Bereich des Vermögensstrafrechts anwendbar. Die Erwähnung einzelner Technologien wäre mit keinem Mehrwert verbunden, sondern würde die Vollständigkeit des geltenden Strafrechts bezüglich anderer technologischer Entwicklungen in Frage stellen.Die gleiche Feststellung gilt für das Zivilrecht: Unabhängig von der technologischen Vorgehensweise sind insbesondere die Regelung über Persönlichkeitsverletzungen (insb. Recht am eigenen Bild und an der eigenen Stimme, Recht auf Achtung der Intim- und Privatsphäre, Recht auf Ehre) und damit die entsprechenden Rechtsbehelfe (namentlich Beseitigung, Unterlassung) anwendbar. Das gilt auch bezüglich der Haftung für unerlaubte Handlungen, die ebenfalls technologieneutral ausgestaltet ist und bei Rechtsverletzungen durch den Einsatz von Deepfakes anwendbar ist, wenn die Haftungsvoraussetzungen erfüllt sind.Schliesslich ist auch der Grundsatz der Richtigkeit der Daten nach Artikel 6 Absatz 5 des neuen Datenschutzgesetzes (nDSG; SR 235.1) zu erwähnen. Demnach muss jede Person, die Personendaten bearbeitet, sich über deren Richtigkeit vergewissern.
- Der Bundesrat wird beauftragt, der Bundesversammlung Gesetzesänderungen in den Bereichen des Zivil-, Straf- und Verwaltungsrechts vorzulegen, um die Verwendung von Deepfakes im öffentlichen Raum zu regulieren.
- Deepfakes regulieren

Back to List