202634582026-04-08T14:03:25Z34;36;28Mo.5Motion3222m4327Mahaim RaphaëlMahaimFraktion GG6Grüne FraktionauthorNR1NationalratN2026-03-20T00:00:00Z5252120EJPD5Justiz- und Polizeidepartementtrue2026-03-20T00:00:00202EingereichtdeNR1NationalratN110820f10820Jaccoud JessicaJaccoudcosign10817f10817Chappuis IsabelleChappuiscosign3180f4288Schlatter MarionnaSchlattercosign2732f3999Prelicz-Huber KatharinaPrelicz-Hubercosign3211f4315Brenzikofer FlorenceBrenzikofercosign3181f4289Schneider MeretSchneider Meretcosign3170f4278Michaud Gigon SophieMichaud Gigoncosign15304f15304Chollet ClarenceCholletcosign3139m4247Baumann KilianBaumanncosign3122m4221Töngi MichaelTöngicosign3058f4184Arslan SibelArslancosign3172f4280Porchet LéonorePorchetcosign3119f4218Kälin IrèneKälincosign3003m4093Glättli BalthasarGlättlicosign3145m4253Clivaz ChristopheClivaz Christophecosign3191m4299Wettstein FelixWettsteincosign3149f4257de Quattro Jacquelinede Quattrocosign3190f4298Weichelt ManuelaWeicheltcosign16109m16109Berli RudiBerli Rudicosign3222m4327Mahaim RaphaëlMahaimFraktion GG6Grüne Fraktionauthor26.3458202Eingereicht016Begründung<p>Die in der Plattform «X» integrierte KI «Grok» machte es vor: Bilder von Frauen und Kindern wurden von der KI so verändert, dass sie die Frauen und Kinder in äusserst knapper Kleidung und in aufreizenden Posen zeigten. Die Bilder wurden über die Plattform veröffentlicht. Diese eklatante Verletzung der Persönlichkeitsrechte der betroffenen Personen darf nicht einfach hingenommen werden.&nbsp;Insbesondere bei Kindern stellen sexualisierte Deepfakes eine schwere Form sexualisierter Gewalt dar, mit potenziell gravierenden und langfristigen Folgen für die betroffenen Minderjährigen.</p><p>Wer die technischen Mittel für solche Persönlichkeitsverletzungen herstellt und zur Benutzung zur Verfügung stellt, muss verpflichtet sein, die Risiken dieser Mittel genau zu prüfen und Schutzmechanismen einzubauen.&nbsp;Es reicht nicht aus, Persönlichkeitsverletzungen erst nachträglich strafrechtlich zu verfolgen: Mit generativen KI-Tools können sexualisierte Deepfakes in grosser Zahl, mit hoher Geschwindigkeit und weltweiter Reichweite erstellt und verbreitet werden, deutlich schneller, als sie entfernt oder strafrechtlich verfolgt werden können.&nbsp;</p><p>Anbieter digitaler Dienste, welche die Nutzung generativer KI enthalten, müssen verpflichtet werden, ihre Angebote hinsichtlich der Herstellung verbotener oder persönlichkeitsverletzender Inhalte zu prüfen. Risikoabschätzungen sind einer Schweizer Prüfinstanz vorzulegen. Es sind von den Anbietern Massnahmen zu ergreifen, um die erkannten Risiken und zu erwartenden Schäden zu minimieren. Die Schweizer Prüfinstanz soll die Möglichkeit haben, die Anbieter im Fall von nicht adressierten Risiken zu sanktionieren.</p>5Eingereichter Text<p>Der Bundesrat wird beauftragt, einen Gesetzesentwurf vorzulegen, mit welchem die Anbieter von Anwendungen generativer künstlicher Intelligenz verpflichtet werden, vor der Markteinführung der Anwendungen Risiko- und Schadensabschätzungen hinsichtlich der Erstellung von sexualisierten Deepfake-Inhalten vorzunehmen sowie Schutzmassnahmen zu ergreifen, wenn ihre Anwendungen sexualisierte Deepfake-Inhalte erstellen können. Es soll eine Prüfinstanz geben, die Risikoabschätzungen und ergriffene Massnahmen prüft und gegebenenfalls die Anbieter sanktionieren kann.&nbsp;</p>1Titel des GeschäftesGrok und Sexualisierte Deepfakes : jetzt handeln!