Des applications d’IA destinées à la création abusive de deepfakes sexualisés devraient être interdites dans l’Union européenne à l’avenir. Des représentants des États membres et du Parlement européen se sont mis d’accord sur une adaptation correspondante du cadre légal relatif à l’IA, selon la présidence chypriote du Conseil de l’UE. Parallèlement, d’autres règles entourant l’IA seraient simplifiées afin de libérer le potentiel économique de l’Intelligence artificielle en Europe.
Avant que ces modifications ne puissent entrer en vigueur, l’accord doit encore être approuvé par le plénum du Parlement européen et par le Conseil des gouvernements des États membres. En règle générale, cela est considéré comme une simple formalité. Si la réforme passe, l’interdiction serait appliquée à partir du 2 décembre 2026, sous la conduite de l’Office de l’IA de l’UE, créé il y a deux ans.
Les deepfakes consistent, par exemple, à insérer le visage d’une personne dans une autre vidéo — comme une séquence pornographique — ou à imiter sa voix de manière artificielle, de sorte qu’il semble que cette personne fasse ou dise des choses qui n’ont en réalité jamais eu lieu. Grâce à l’essor de l’IA, la création de contenus à l’apparence trompeuse est devenue nettement plus aisée.
Les personnes queer particulièrement touchées
Une vaste étude criminologique menée en 2022 montre que les lesbiennes, les homosexuels et les personnes qu’elles identifient commeBisexuelles sont surreprésentées parmi les victimes de violence sexuelle basée sur l’image, y compris les pornos générés par deepfake. Les recherches soulignent que ce type de violence s’insère souvent dans un enchevêtrement de discriminations — les jeunes, les personnes queer et visibles en ligne se trouvent ainsi en première ligne de danger.
Il existe des cas documentés où des photos issues d’applications comme Grindr ou Instagram ont été utilisées pour réaliser de faux pornos ou pour faire du chantage. Cette pratique est qualifiée de sextortion — contraction des mots sex et extortion (extorsion). Surtout chez les hommes gays ou bisexuels, la peur d’un coming out forcé est employée comme levier d’intimidation.
La nouvelle interdiction vise aussi explicitement à viser la création de contenus qui représentent des actes sexuels sur des mineurs. L’eurodéputée FDP Svenja Hahn s’est félicitée de cet accord: « L’IA ne doit pas être un outil de violence sexuelle contre les enfants », a-t-elle déclaré à l’issue de ces négociations qui se sont poursuivies tard dans la nuit.
Scandales Grok et débat allemand sur la violence numérique
Au niveau de l’UE, la question est revenue au centre des discussions fin 2023 suite au chatbot Grok: jusqu’à ce que la société américaine derrière ce logiciel ait restreint cette fonction, des utilisateurs ont ordonné à l’IA de déshabiller des femmes sur des images qu’ils avaient choisies. Le soir du réveillon, le chatbot s’est d’ailleurs excusé lui-même d’avoir créé une image représentant deux adolescentes dans des tenues sexualisées.
En Allemagne, le débat sur la violence numérique et sexuelle envers les femmes a gagné en urgence fin mars, lorsque Collien Fernandes a porté des accusations publiques contre son ex-mari Christian Ulmen. Il ne s’agit pas ici de deepfakes. Fernandes l’accuse d’avoir créé de faux profils à son nom et d’avoir diffusé des contenus pornographiques en son nom. Ulmen est présumé innocent.
Depuis que ces accusations ont émergé, le pays connaît une large réflexion sur la violence numérique et sexuelle à l’égard des femmes et sur la couverture médiatique associée. Des milliers de personnes sont descendues dans la rue pour réclamer une meilleure protection des victimes. Dans ce contexte de débat, les deepfakes sexuels et la pornographie générée par IA ont été au cœur des discussions. Des contenus de ce type circulent sur Internet depuis plusieurs années.
Directive européenne déjà présentée en 2024
Les projets de renforcement législatif ne constituent pas les seules règles de l’UE visant à lutter contre la violence numérique. Les cadres existants prévoient déjà que la fabrication et la diffusion de représentations manipulées d’actes sexuels sans le consentement des personnes concernées soient punissables dans l’ensemble des États membres.
La directive correspondante est entrée en vigueur en mai 2024, mais l’Allemagne ne l’a pas encore transposée en droit national. Le pays dispose toutefois jusqu’à l’été prochain pour le faire. Récemment, la ministre de la Justice, Stefanie Hubig (SPD), a annoncé des renforcements du droit pénal et davantage de droits pour les victimes.
La nouvelle interdiction envisagée au niveau de l’UE — dans le cadre de la réglementation sur l’IA — vise à déplacer le point de vue de la sanction vers l’interdiction de l’outil lui-même, c’est-à-dire l’application d’IA. Toutefois, les participants aux négociations soulignent que l’interdiction ne doit pas conduire à restreindre de manière excessive la création ou la manipulation d’images.
Pour cela, la loi nouvelle doit définir exactement ce que recouvre le contenu sexualisé et ce qui n’en fait pas partie. Des images non consenties en bikini, telles qu’elles ont été créées par Grok et diffusées sur X, pourraient être autorisées selon le texte envisagé.
Obligation de filigrage pour les contenus IA reportée
À l’origine, la Commission européenne avait proposé des ajustements du cadre juridique afin d’alléger les charges pesant sur l’économie et particulièrement sur le secteur de l’IA. Les acteurs économiques réclamaient néanmoins un délai supplémentaire pour mettre en œuvre les adaptations nécessaires face à des normes plus strictes. Selon l’accord, ce délai sera accordé notamment aux prestataires de services de chat et à d’autres outils similaires.
Certaines parties du cadre qui devaient être appliquées par l’Office européen de l’IA dès août devront finalement attendre jusqu’en décembre 2026. D’ici là, les fournisseurs devront identifier clairement les contenus générés par IA, ce qui implique notamment que les images et vidéos produites par IA portent un filigrane. D’autres règles ne seront mises en œuvre par l’Office de l’IA qu’à partir de décembre 2027.
Industrie craignant une double réglementation
Du côté industriel, on demande depuis quelque temps de supprimer les effets d’une double réglementation afin de préserver la compétitivité européenne. Le chancelier fédéral Friedrich Merz (CDU) s’est d’ailleurs récemment prononcé en faveur d’une simplification des règles européennes dans ce domaine, afin que des secteurs comme l’industrie mécanique ne soient pas contraints de se conformer à plusieurs cadres européens en parallèle. Des exemptions pourraient être prévues à cet effet.
Pour le député européen CDU Axel Voss, ces changements ne vont pas assez loin: « Il nous faut un cadre qui permette l’innovation tout en garantissant la protection — et non un patchwork de règles sectorielles distinctes sur l’IA », a-t-il commenté.
