Stimmklonierung mittels künstlicher Intelligenz. Erfordert die zunehmende Verbreitung von Stimmfälschung eine eingehendere Untersuchung dieses Phänomens in der Schweiz?

In den letzten Jahren hat sich das Parlament bereits mehrfach mit den Risiken befasst, die mit Deepfakes , Phishing, dem Diebstahl digitaler Identitäten und anderen Formen der auf künstlicher Intelligenz basierenden Cyberkriminalität verbunden sind. Gleichzeitig taucht ein Phänomen auf, das sich immer schneller verbreitet und besonders beunruhigt: die sogenannte „ “ Stimmenklonierung, also die KI-generierte Nachahmung der Stimme einer Person.

Zahlreichen Fachberichten und Fällen zufolge, über die kürzlich auch in der Schweizer Presse berichtet wurde, reichen heute bereits wenige Sekunden einer Tonaufnahme – die oft leicht in den sozialen Medien oder im Internet zu finden sind – aus, um äusserst glaubwürdige Stimmimitationen zu erstellen. Diese Technologien werden für Telefonbetrug, betrügerische Aufforderungen zu Banküberweisungen, gefälschte Eilaufträge oder Manipulationen gegenüber Privatpersonen, Unternehmen und älteren Menschen genutzt. Auch das Bundesamt für Cybersicherheit (BACS) hat kürzlich einen Anstieg von Voice-Phishing-Fällen gemeldet, die durch den Einsatz künstlicher Intelligenz immer raffinierter werden.

Angesichts dieser Entwicklungen stelle ich dem Bundesrat folgende Fragen:

1. Welche bekannten oder geschätzten finanziellen Schäden sind in der Schweiz auf Fälle von „ “ Stimmklonierung oder von „ “ Voice-Phishing zurückzuführen, die auf Technologien der künstlichen Intelligenz basieren? Verfügt der Bundesrat über Einschätzungen darüber, wie sich dieses Phänomen und die damit verbundenen Schäden künftig entwickeln könnten?

    

2. Gibt es bereits Formen einer strukturierten Zusammenarbeit zwischen Bund, Kantonen, Telekommunikationsanbietern, digitalen Plattformen, Technologieanbietern, Banken und anderen Finanzintermediären, um Fälle von „ “ Stimmklonierung zu betrügerischen Zwecken aufzudecken, zu melden und zu verhindern? Falls ja, reichen sie nach Ansicht des Bundesrates aus?

    

3. Hält es der Bundesrat für notwendig, eine nationale Statistik zu Fällen von Betrug mittels Stimmklonierung einzuführen und diese von anderen Formen von Phishing oder Cyberkriminalität abzugrenzen?

    

4. Welche Sensibilisierungs- und Präventionsmassnahmen wurden bereits ergriffen oder sind geplant, um die Bevölkerung – insbesondere ältere Menschen, Unternehmen und Behörden – über die Risiken im Zusammenhang mit der betrügerischen Verwendung von KI-generierten Stimmen zu informieren?