Protection des mineurs contre les images intimes par intelligence artificielle

Le Conseil fédéral propose d'accepter la motion.

Le Conseil fédéral est chargé de soumettre, dans le cadre des projets législatifs en cours, des adaptations juridiques et des mesures de mise en œuvre concrètes afin de protéger les mineurs contre les images intimes synthétiques non consensuelles (deepfakes sexuels et “nudification”), d’assurer leur retrait rapide, de permettre une poursuite pénale efficace et de garantir un soutien coordonné aux écoles.

Il s’agit de : Adapter le droit pénal et la loi sur les plateformes, ainsi que d’instaurer une coordination fédérale avec les cantons afin de prévenir et réprimer efficacement la création, la diffusion et l’exploitation d’images intimes synthétiques non consensuelles impliquant des mineurs, avec des mécanismes rapides de signalement, de conservation des preuves et de soutien aux victimes.

Les éléments probants s’accumulent: les deepfakes sexuels sont majoritairement utilisés à des fins pornographiques ou dégradantes, et les enfants font face à des risques supérieurs à ceux des adultes.L’UNICEF a récemment qualifié les abus par deepfakes de forme d’abus et appelé les gouvernements et l’industrie à agir contre les images sexualisées générées par IA impliquant des enfants.

Les pratiques publiques convergent également. L’Union européenne a adopté une directive imposant la criminalisation du partage non consensuel de matériel intime ou manipulé. Le Royaume-Uni a annoncé une infraction spécifique de création d’images explicites par deepfake. L’Australie a adopté une loi fédérale sur les contenus sexuels deepfake. Le TAKE IT DOWN Act américain repose sur un délai strict de retrait mis en œuvre par la FTC, tout en suscitant un débat sur les garanties procédurales et le risque de sur-retrait; la Suisse peut en tirer profit en adoptant des définitions plus étroites et des protections procédurales plus robustes.