Verbreitung der entwürdigenden Nudify-Apps einschränken

ShortId
24.4018
Id
20244018
Updated
03.10.2024 12:11
Language
de
Title
Verbreitung der entwürdigenden Nudify-Apps einschränken
AdditionalIndexing
34;28;15
1
PriorityCouncil1
Nationalrat
Texts
  • <p>Apps, die künstliche Intelligenz verwenden, verzeichnen starkes Wachstum, leider nicht nur im positiven Sinne. Nudify-Apps, auch «Undress AI» genannt, erlauben es, sogenannte «Deep Nudes» zu erstellen, also fingierte Nacktbilder realer Personen. Ein alltägliches Bild einer Person kann mit einigen Klicks innert Sekunden zu einem Nacktbild verwandelt werden. Mit anderen digitalen Diensten können Gesichter aus Bildern getauscht werden, damit können die Gesichter beliebiger Personen in pornografische Bilder und Videos eingesetzt werden (Face Swaping).&nbsp;</p><p>Es gibt hunderte solcher Programme, die mittels einer einfachen Internetsuche auffindbar sind und auf Social Media Plattformen stark beworben werden. Oftmals bieten sie an, dass man testweise gratis ein paar Nacktbilder erstellen kann. Es ist nicht hinzunehmen, dass digitale Dienste, welche bei der Anwendung direkt zu massiven Verletzungen der Persönlichkeitsrechte führen, beworben werden und so leicht zugänglich sind. Gerade für Kinder und Jugendliche stellen solche künstlich hergestellten Nacktbilder eine grosse Gefahr dar. Für die Betroffenen ist die Weiterverbreitung eine riesige Belastung. Da die Bilder extrem realistisch aussehen, spielt ihre eigentliche Unechtheit keine Rolle. Solches Bildmaterial kann auch dazu verwendet werden, um die Betroffene zu erpressen. Mit einer scheinbaren Spielerei machen sich Kinder und Jugendliche zudem schnell strafbar.</p><p>Die Werbung auf Social Media für Nudify-Apps hat im letzten Jahr massiv zugenommen.<a href="#_ftn1">[1]</a> Dabei wird ein Produkt beworben, dessen Anwendung meist direkt zu einer Rechtsverletzung führt. Dies muss unterbunden werden.<br>&nbsp;</p><p><a href="#_ftnref1">[1]</a> <a href="https://time.com/6344068/nudify-apps-undress-photos-women-artificial-intelligence/">https://time.com/6344068/nudify-apps-undress-photos-women-artificial-intelligence/</a></p>
  • <p>Der Bundesrat wird beauftragt, dem Parlament eine gesetzliche Grundlage vorzulegen, die es erlaubt, das Bewerben, Verkaufen oder Zugänglichmachen von Apps und digitalen Diensten zu verbieten bzw. technisch zu verunmöglichen, welche mittels Künstlicher Intelligenz aus bestehenden Bildern von Kindern oder Erwachsenen Nacktbilder generieren.</p>
  • Verbreitung der entwürdigenden Nudify-Apps einschränken
State
Eingereicht
Related Affairs
Drafts
  • Index
    0
    Texts
    • <p>Apps, die künstliche Intelligenz verwenden, verzeichnen starkes Wachstum, leider nicht nur im positiven Sinne. Nudify-Apps, auch «Undress AI» genannt, erlauben es, sogenannte «Deep Nudes» zu erstellen, also fingierte Nacktbilder realer Personen. Ein alltägliches Bild einer Person kann mit einigen Klicks innert Sekunden zu einem Nacktbild verwandelt werden. Mit anderen digitalen Diensten können Gesichter aus Bildern getauscht werden, damit können die Gesichter beliebiger Personen in pornografische Bilder und Videos eingesetzt werden (Face Swaping).&nbsp;</p><p>Es gibt hunderte solcher Programme, die mittels einer einfachen Internetsuche auffindbar sind und auf Social Media Plattformen stark beworben werden. Oftmals bieten sie an, dass man testweise gratis ein paar Nacktbilder erstellen kann. Es ist nicht hinzunehmen, dass digitale Dienste, welche bei der Anwendung direkt zu massiven Verletzungen der Persönlichkeitsrechte führen, beworben werden und so leicht zugänglich sind. Gerade für Kinder und Jugendliche stellen solche künstlich hergestellten Nacktbilder eine grosse Gefahr dar. Für die Betroffenen ist die Weiterverbreitung eine riesige Belastung. Da die Bilder extrem realistisch aussehen, spielt ihre eigentliche Unechtheit keine Rolle. Solches Bildmaterial kann auch dazu verwendet werden, um die Betroffene zu erpressen. Mit einer scheinbaren Spielerei machen sich Kinder und Jugendliche zudem schnell strafbar.</p><p>Die Werbung auf Social Media für Nudify-Apps hat im letzten Jahr massiv zugenommen.<a href="#_ftn1">[1]</a> Dabei wird ein Produkt beworben, dessen Anwendung meist direkt zu einer Rechtsverletzung führt. Dies muss unterbunden werden.<br>&nbsp;</p><p><a href="#_ftnref1">[1]</a> <a href="https://time.com/6344068/nudify-apps-undress-photos-women-artificial-intelligence/">https://time.com/6344068/nudify-apps-undress-photos-women-artificial-intelligence/</a></p>
    • <p>Der Bundesrat wird beauftragt, dem Parlament eine gesetzliche Grundlage vorzulegen, die es erlaubt, das Bewerben, Verkaufen oder Zugänglichmachen von Apps und digitalen Diensten zu verbieten bzw. technisch zu verunmöglichen, welche mittels Künstlicher Intelligenz aus bestehenden Bildern von Kindern oder Erwachsenen Nacktbilder generieren.</p>
    • Verbreitung der entwürdigenden Nudify-Apps einschränken

Back to List