Minderjährige vor KI-generierten intimen Bildern schützen

Der Bundesrat beantragt die Annahme der Motion.

Der Bundesrat wird beauftragt, im Rahmen der laufenden Gesetzgebungsvorhaben rechtliche Anpassungen und konkrete Umsetzungsmassnahmen vorzulegen, um Minderjährige vor ohne Einwilligung künstlich generierten intimen Bildern (sexuelle Deepfakes und «Nudifizierung») zu schützen, die rasche Entfernung solcher Bilder sicherzustellen, eine wirksame strafrechtliche Verfolgung zu ermöglichen und eine koordinierte Unterstützung für Schulen zu gewährleisten.

Das Strafrecht und das Gesetz über Kommunikationsplattformen sollen entsprechend angepasst und eine bundesweite Koordination mit den Kantonen aufgebaut werden, um die Herstellung, Verbreitung und missbräuchliche Nutzung ohne Einwilligung künstlich generierter intimer Bilder von Minderjährigen wirksam zu verhindern und zu ahnden. Dazu sind rasche Mechanismen zur Meldung solcher Bilder, zur Sicherung von Beweisen und zur Unterstützung der Opfer einzurichten.

Die Belege häufen sich, dass sexuelle Deepfakes überwiegend zu pornografischen Zwecken oder mit dem Ziel der Erniedrigung verwendet werden und Kinder grösseren Risiken ausgesetzt sind als Erwachsene. Unicef hat den Missbrauch durch Deepfakes kürzlich als eine Form von Missbrauch bezeichnet und Regierungen und die betroffene Branche dazu aufgerufen, gegen KI-generierte sexualisierte Bilder von Kindern vorzugehen.

Die öffentliche Politik reagiert zunehmend. Die Europäische Union hat eine Richtlinie verabschiedet, wonach die nicht einvernehmliche Weitergabe von intimem oder manipuliertem Material unter Strafe zu stellen ist. Das Vereinigte Königreich hat einen spezifischen Straftatbestand für die Erstellung sexuell expliziter Deepfakes geschaffen. Australien hat ein Bundesgesetz gegen sexuelle Deepfake-Inhalte erlassen. Und der «Take it down Act» der USA gibt eine strenge Frist für die Entfernung von Inhalten vor, die durch die Federal Trade Commission durchgesetzt wird. Gleichzeitig ist in den USA eine Debatte über Verfahrensgarantien und das Risiko einer übermässigen Entfernung von Inhalten aufgekommen. Davon kann die Schweiz profitieren und engere Definitionen und einen stärkeren Verfahrensschutz vorsehen.