Dérives de l'intelligence artificielle générative

Mme Léa Balage El Mariky appelle l'attention de Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle, énergétique et numérique, chargée de l'intelligence artificielle et du numérique, sur les dérives de l'intelligence artificielle générative, en particulier dans le cadre des deepfakes et des montages d'images de personnes réelles. Ces outils permettent aujourd'hui de générer, facilement et gratuitement, l'image d'une personne réelle dans une tenue ou une posture dégradante, ou dans une situation destinée à la tourner en dérision. Cette facilité d'accès en fait un instrument d'humiliation et de harcèlement à très grande échelle. Les témoignages se multiplient sur les réseaux sociaux de personnes, et très majoritairement de femmes, dont les photographies ont été détournées au moyen de ces outils pour les humilier ou les décrédibiliser. Les associations féministes alertent depuis plusieurs mois sur ce phénomène et demandent que la génération d'images représentant des êtres humains soit interdite. Ainsi, elle lui demande quelles mesures le Gouvernement entend prendre pour lutter contre ces usages, et en particulier s'il a l'intention d'encadrer, voire d'interdire, la génération d'images de personnes réelles par les systèmes d'intelligence artificielle, quelles obligations pourraient être imposées aux éditeurs de ces outils et aux plateformes de diffusion, et par quels moyens les victimes pourraient obtenir un retrait rapide des contenus.