Encadrement et gouvernance des systèmes d'IA les plus avancés

M. Hubert Brigand appelle l'attention de M. le ministre de l'économie, des finances et de la souveraineté industrielle, énergétique et numérique sur les préoccupations exprimées par les citoyens concernant le développement rapide des systèmes d'intelligence artificielle et la nécessité d'adapter les mécanismes de contrôle et de gouvernance à l'évolution de ces technologies. L'intelligence artificielle offre des perspectives considérables dans de nombreux domaines, notamment la recherche, la médecine, l'industrie et les services. Toutefois, le développement de systèmes de plus en plus performants et autonomes soulève également des interrogations importantes en matière de sécurité, de désinformation, de protection des données personnelles, de surveillance, de cybersécurité et, plus largement, de maîtrise des risques susceptibles d'être associés à ces technologies. Alors que les capacités des modèles d'intelligence artificielle progressent rapidement, certains acteurs de la société civile estiment que les dispositifs de régulation et de contrôle pourraient ne pas évoluer au même rythme. Ils appellent notamment à ce que le développement des systèmes d'IA les plus avancés soit conditionné à la démonstration préalable de garanties suffisantes en matière de sûreté et de contrôle humain. Ainsi, il lui demande quelle est la position du Gouvernement sur l'opportunité de renforcer, au niveau français et européen, les mécanismes d'évaluation préalable, de certification, de contrôle et de responsabilité applicables aux systèmes d'intelligence artificielle les plus avancés, quelles initiatives la France entend promouvoir au niveau européen et international afin de favoriser une gouvernance commune de ces technologies, notamment concernant l'évaluation des risques liés aux modèles les plus puissants, la transparence des acteurs qui les développent et la mise en place de mécanismes permettant, lorsque les garanties de sécurité ne sont pas réunies, de suspendre ou de limiter temporairement le déploiement de certains systèmes, et enfin s'il serait favorable à l'ouverture, au niveau européen ou international, d'une réflexion sur la possibilité d'instaurer une pause ciblée dans le développement ou le déploiement des systèmes d'IA présentant les risques les plus élevés, jusqu'à ce que des garanties de sûreté jugées suffisantes soient établies.