Vidéos générées par IA afin de diffuser des idées racistes et islamophobes

Le Gouvernement est activement engagé dans la lutte contre la dissémination d'hypertrucages (deepfakes) susceptibles de porter atteinte aux personnes et de contribuer à la diffusion de fausses informations en ligne. L'adoption des règlements européens sur les services numériques (DSA) et sur l'intelligence artificielle (RIA) ainsi que la promulgation de la loi visant à sécuriser et réguler l'espace numérique (SREN), en France, illustrent cette priorité politique forte de l'action gouvernementale dans le domaine numérique. Ce nouveau cadre réglementaire a introduit une responsabilisation accrue des grandes plateformes numériques dans la lutte contre la diffusion de contenus illicites ou préjudiciables sur leurs services. Le DSA fixe des obligations renforcées à la charge de ces acteurs qui doivent analyser et atténuer de manière diligente les risques systémiques qu'ils font peser sur leurs utilisateurs, notamment pour l'exercice de leurs droits fondamentaux (articles 34 et 35). Les plateformes doivent ainsi adapter leur processus de modération, renforcer leurs procédures internes et retirer rapidement les contenus illicites qui font l'objet d'un signalement, en particulier lorsqu'il s'agit de discours haineux illégaux. Elles doivent également prendre des mesures efficaces et proportionnées contre le risque de diffusion de contenus de désinformation sur leurs services, en recourant en particulier à un marquage bien visible des contenus générés ou manipulés par IA et en mettant à disposition des utilisateurs une fonctionnalité facile d'utilisation pour leur permettre de signaler ces types de contenus. Le RIA prévoit également des dispositions spécifiques pour lutter contre la manipulation de l'information par l'usage de deepfakes. D'une part, les déployeurs d'un système d'intelligence artificielle qui génère ou manipule des images ou des contenus audio ou vidéo constituant un hypertrucage, sont tenus à une obligation d'indiquer que le contenu est généré par intelligence artificielle (article 50). D'autre part, les fournisseurs de systèmes d'IA qui génèrent des contenus de synthèse de type audio, image, vidéo ou texte doivent veiller à ce que leurs sorties soient marquées par IA, d'une façon imperceptible par l'utilisateur mais détectable par la machine. Cette obligation de marquage constitue un nouvel outil important. En identifiant un contenu comme d'origine synthétique, elle permettra notamment aux utilisateurs, aux autorités, et aux vérificateurs de faits (fact-checkers) d'identifier directement les contenus concernés. Enfin, les déployeurs de modèles d'IA à usage général répondant aux seuils de modèles de risques systémiques doivent mettre en place des mesures pour répondre aux risques de leurs modèles pour les droits fondamentaux, notamment la diffusion de fausses informations (article 53). Le RIA opère ainsi ex-ante, avec des dispositions qui s'attachent au déployeur du système d'IA (qui a créé le modèle concerné), contrairement au droit actuel qui sanctionne souvent la diffusion, une fois le préjudice commis. Dans le prolongement de ces deux règlements européens, l'adoption de la loi SREN en France a permis de significativement renforcer les sanctions pour les délits d'atteintes à la représentation de la personne via le recours aux hypertrucages. L'article 15 de la loi SREN est ainsi venu modifier l'article 226-8 du code pénal, sanctionnant le partage de montages falsifiés de représentations sonores ou visuelles d'une personne réalisés sans son consentement, afin d'inclure les contenus générés par un traitement algorithmique (deepfakes), dont le partage sur les réseaux sociaux constitue une circonstance aggravante pouvant être puni de deux ans d'emprisonnement et 45 000 euros d'amende. L'article 16 de la loi SREN est également venu renforcer les sanctions pour les personnes condamnées pour cyberharcèlement (notamment via des deepfakes). Désormais, le juge peut prononcer à leur encontre une peine complémentaire dite de « bannissement numérique » qui interdit à l'auteur du délit d'utiliser le réseau social concerné pendant une période maximale de six mois (portée à un an en cas de récidive). Le juge peut également prononcer, à titre de peine complémentaire ou alternative, une obligation de stage de sensibilisation au respect des personnes dans l'espace numérique et à la prévention des infractions commises en ligne. Au-delà de cette réponse pénale, la loi SREN a également permis de renforcer les mesures de sensibilisation aux risques des outils et contenus générés par intelligence artificielle, notamment les deepfakes, à destination des élèves et de leurs représentants légaux, des étudiants de l'enseignement supérieur et des membres du personnel enseignant et d'éducation (articles 7 et 8). Ces dispositions visent à sensibiliser ce public aux risques d'atteinte à la personne, notamment le harcèlement et les violences sexistes et sexuelles dans l'espace numérique, et aux risques de manipulation de l'information.