Deepfakes. Widerstandsfähigkeit der Gesellschaft gegenüber synthetischen Inhalten stärken

Derzeit ist ein Vorentwurf zur Regulierung der künstlichen Intelligenz (KI) in Ausarbeitung. Der Bundesrat wird beauftragt, in Weiterführung und Ergänzung dieses Projekts einen Bericht über die Risiken vorzulegen, die Deepfakes und andere KI-generierte synthetische Inhalte für Privatpersonen, Unternehmen, Behörden und das Funktionieren demokratischer Institutionen bergen. Der Bericht soll zudem Massnahmen aufzeigen, mit denen die Widerstandsfähigkeit der Gesellschaft gegenüber solchen Phänomenen gestärkt werden kann.

Der Bericht soll insbesondere auf die folgenden Punkte eingehen:

- heutige und voraussichtliche zukünftige Grössenordnung des Phänomens in der Schweiz;

- Risiken betreffend Betrug, Identitätsmissbrauch, Persönlichkeitsverletzungen, Cyberkriminalität und Manipulation von Informationen;

- mögliche Auswirkungen auf das Vertrauen der Menschen in Informationen, in die Medien und in die demokratischen Institutionen;

- Präventions- und Sensibilisierungsmassnahmen, mit denen die Kompetenz der Bevölkerung zur Erkennung von manipulierten Inhalten gefördert werden soll;

- Möglichkeiten, Module zu den Themen KI, synthetische Inhalte, Überprüfung von Informationen und kritisches Denken in den Schulunterricht und in die Programme zur digitalen Bildung einzubauen.

Der Bundesrat möchte, dass die Schweiz die Konvention des Europarates über KI ratifiziert und hat das Eidgenössische Justiz- und Polizeidepartement (EJPD) beauftragt, in Zusammenarbeit mit dem Eidgenössischen Departement für Umwelt, Verkehr, Energie und Kommunikation (UVEK), dem Eidgenössischen Departement für auswärtige Angelegenheiten (EDA) und weiteren betroffenen Stellen einen Vorentwurf für die Umsetzung auszuarbeiten. Die KI-Konvention verlangt Massnahmen im Bereich der Transparenz, ohne diese jedoch zu konkretisieren. Der erläuternde Bericht nennt als Beispiel die Kennzeichnung von KI-generierten Inhalten (vgl. Antwort auf die Ip. 26.3607 Rumy). Zudem hat der Bundesrat die Annahme der Mo. 26.3458 Mahaim beantragt, die ebenfalls das Thema Deepfakes betrifft.

Der Vorentwurf zum Bundesgesetz über Kommunikationsplattformen und Suchmaschinen (VE-KomPG) enthält keine Regelungen über Deepfakes an sich, sieht jedoch vor, dass sehr grosse Anbieter relevanter Dienste über die mit ihren Diensten verbundenen systemischen Risiken Bericht jährlich erstatten, wobei Deepfakes ein solches Risiko darstellen können. Erfüllen Deepfakes bestimmte Straftatbestände, die im VE-KomPG aufgeführt sind (z. B. üble Nachrede, sexuelle Belästigungen oder Aufruf zu Hass), muss die Möglichkeit bestehen, dies zu melden (vgl. Antwort auf die Ip. 26.3607 Rumy). Die Vernehmlassung zum VE-KomPG endete am 16. Februar 2026 und wird derzeit ausgewertet.

Die Interdepartementale Arbeitsgruppe «Beeinflussungsaktivitäten und Desinformation» kann zur Sensibilisierung im Umgang mit staatlicher Desinformation inklusive Deepfakes beitragen. Zudem erarbeitet das Staatssekretariat für Bildung, Forschung und Innovation (SBFI) einen Bericht zu Desinformation, der aufzeigt, inwiefern Kinder, Jugendliche und junge Erwachsene durch politische Bildung und Medienbildung Kompetenzen erwerben können, um Informationen kritisch zu beurteilen, unter anderem im demokratischen Diskurs. Die Publikation ist für Herbst 2026 geplant. Die Auswirkungen auf die demokratischen Institutionen sind zudem Gegenstand der Mo. 26.3815 und 26.4002.

Schliesslich gelten die bestehenden Straftatbestände (z. B. Ehrverletzungen, Identitätsmissbrauch und das Sexualstrafrecht) grundsätzlich auch für Deepfakes. Laufende und künftige Strafverfahren werden eine bessere Einschätzung dazu ermöglichen, wie gross das Ausmass der Problematik ist und ob die Bestimmungen ausreichen (vgl. auch Mo. 26.3955 Amaudruz und 26.3851 Bürgin). Die Risiken im Bereich Cybersicherheit wurden auch im Bericht in Erfüllung des Po. 23.3861 Andrey behandelt.

Der Bundesrat ist der Auffassung, dass diese Thematik, die immer stärker an Bedeutung gewinnt, durch die vertieften Überlegungen im Rahmen der erwähnten Arbeiten bereits abgedeckt ist. Ein zusätzlicher Bericht erscheint daher nicht sinnvoll.

Generative KI-Tools breiten sich rasant aus, wodurch sich das digitale Umfeld grundlegend verändert. Für wenig Geld lassen sich nun gefälschte, aber äusserst echt wirkende Inhalte erstellen und flächendeckend verbreiten.

Diese Entwicklung bringt für Bürgerinnen und Bürger, Unternehmen und Behörden neue Risiken mit sich. Deepfakes können dazu genutzt werden, Betrugsdelikte zu begehen, den Ruf einer Person zu schädigen, Sicherheitsmechanismen zu umgehen oder die öffentliche Meinung zu manipulieren.

Gegenwärtig arbeitet der Bundesrat für KI rechtliche Rahmenbedingungen aus. Doch die rasante Verbreitung synthetischer Inhalte bringt ebenfalls Herausforderungen in Bezug auf Prävention, Sensibilisierung und Bildung mit sich, die besondere Aufmerksamkeit verlangen.

Im Hinblick auf das Vertrauen in Informationen und die Funktionsfähigkeit der demokratischen Institutionen wird der Kompetenz, authentische Informationen von künstlich generierten Inhalten zu unterscheiden, mittelfristig eine entscheidende Rolle zukommen. Daher scheint es sinnvoll, Massnahmen zu prüfen, mit denen die Widerstandsfähigkeit der Bevölkerung gegenüber dieser technologischen Entwicklung gestärkt werden kann. Die vom Bundesrat bereits in Angriff genommenen Arbeiten sollen entsprechend erweitert werden.