«Ces hommes sont suisses et j’habite ici, c’est effrayant», témoigne une influenceuse victime de deepfakes

La production et la diffusion de vidéos pornographiques utilisant la technologie deepfake ne constituent pas en soi une infraction pénale en Suisse. Keystone

Un dimanche soir, la vie de Franny a basculé. L'influenceuse suisse alémanique apprend qu'elle a été victime de deepfakes. D'abord l'impuissance et la tristesse. Puis la colère et le besoin de briser le silence. Interviewée par la SRF, elle revient sur l'incident et son engagement pour faire évoluer la législation suisse.

Franny, 21 ans, de son vrai nom Francesca Dougan, est une influenceuse suisse alémanique. Elle compte 2,6 millions d’abonnés sur TikTok et plus d’un million sur Instagram.

Un dimanche soir, elle reçoit un courriel du Tages-Anzeiger. Elle croit d’abord à un spam. Puis, elle comprend qu’elle est l’une des 14 influenceuses suisses victimes de deepfakes – des contenus multimédias d’apparence réaliste truqués à l’aide de l’IA – que le journal alémanique a recensé dans une enquêteLien externe.

SRF: Quelle a été votre première réaction?

Franny: Au début, j’étais simplement triste. Puis je me suis mise en colère, surtout parce que je ne peux rien y changer. C’est profondément injuste. Je me suis sentie abusée. Je n’ai jamais choisi cette situation. Je n’ai jamais voulu avoir à la subir. Et soudain, je n’avais plus le choix.

Pourquoi avoir décidé d’en parler en public? Nous, les victimes, nous nous sommes encouragées mutuellement à nous exprimer publiquement. Mais une autre raison importante était que les chances de retrouver les auteurs étaient très faibles. En même temps, grâce aux réseaux sociaux, nous touchons un large public et pouvons ainsi parler au nom de personnes qui n’ont pas de tribune. C’est ainsi que nous pouvons faire avancer les choses. J’avais presque le sentiment d’y être obligée.

Que faire face à un deepfake?

Pour Angela Müller, d’Algorithm Watch, la pornographie deepfake est l’expression d’un problème de société qui ne peut être résolu par la seule législation. La prévention, les services de soutien aux victimes et une plus grande responsabilisation des plateformes dans la conception de leurs algorithmes sont également nécessaires.

Avant toute chose, il faut documenter le contenu deepfake et le signaler aux plateformes afin qu’il soit supprimé. Si le contenu doit être retiré rapidement, Manuel Bertschi conseille d’engager une action civile.

Déposer une plainte pénale peut également être envisagé, par exemple en cas de diffamation ou d’usurpation d’identité.

>> Le sujet de la SRF:

Qu’espérez-vous obtenir?

Il est essentiel d’en parler et d’arrêter de détourner le regard. L’affaire Collien Fernandes (une actrice allemande victime de deepfakes organisés par son mari, ndlr), qui a d’ailleurs contribué à la découverte de nos propres affaires en Suisse, a mis en lumière l’ampleur des lacunes du droit actuel.

Quelles lois s’appliquent? 

La production et la diffusion de deepfakes ne constituent pas une infraction pénale distincte en Suisse. Le Conseil fédéral considère que le droit en vigueur est généralement applicable aux deepfakes.

Selon les cas, des infractions existantes peuvent être invoquées, telles que l’usurpation d’identité ou la diffamation. La transmission non autorisée de contenus intimes peut également constituer une infraction pénale.

«À mon avis, le cadre juridique actuel couvre déjà un large éventail de situations», estime Manuel Bertschi, avocat spécialisé en droit des médias et de la communication.

Le problème de l’anonymat

Selon l’avocat, le problème fondamental réside principalement dans l’application de la loi. Les personnes concernées ignorent généralement l’identité des personnes se cachant derrière les comptes anonymes diffusant des deepfakes.

Or, toute personne physique ou morale doit être tenue responsable de ce délit. «Je plaide fermement pour que la responsabilité des plateformes soit inscrite dans la loi», développe donc Manuel Bertschi. Actuellement, l’un des principaux problèmes est que les plateformes ne sont pas tenues responsables de la publication de deepfakes.

La situation juridique est floue. La pornographie générée par l’IA devrait-elle constituer une infraction pénale distincte?

Oui, absolument. Il n’existe aucune loi qui définisse et punisse clairement la pornographie truquée (deepfake). Pour les victimes, cela signifie qu’elles ont peu de recours. Parallèlement, de nombreux auteurs de ces actes restent impunis. C’est pourquoi une réglementation juridique claire est nécessaire de toute urgence. De plus, ce type d’abus reste méconnu et peu médiatisé, surtout au sein de ma génération. Apparemment, nombre des auteurs de ces actes étaient de très jeunes hommes.

Comment votre entourage a-t-il réagi? La semaine où j’ai reçu ce courriel, j’ai entendu parler de nombreux cas similaires, y compris de personnes de mon entourage. Et il ne s’agit pas d’influenceurs. Les auteurs de ce genre de contenu font parfois même partie de nos cercles sociaux. Je me demande donc pourquoi personne n’en parle.

Pour la pornographie deepfake, on n’utilise généralement pas les grands fournisseurs d’IA connus, mais des services spécialisés ou difficiles à identifier. Keystone / Christian Beutler

Vous êtes toujours présente sur les réseaux sociaux. Votre approche a-t-elle changé?

J’ai décidé de ne rien laisser entraver mon travail. Mais c’est difficile. Que ce soit lors des tournages, du montage, pour tout ce que je fais, j’y pense constamment. Il y a des choses que je n’ose plus faire. Par exemple, dans les projets sportifs, je fais attention à ne pas me montrer de dos. (…) Quand j’entends des commentaires venant d’hommes, je me demande souvent: et si c’était l’un d’eux? Une certaine méfiance s’installe. À cela s’ajoute le fait que je pourrais croiser ces hommes dans la vie de tous les jours. Ils sont suisses et j’habite ici. C’est effrayant.