Pourquoi il faut interdire l'intelligence artificielle générative

M. le président. La parole est à M. Alexandre Basquin, auteur de la question n° 895, transmise à M. le ministre de l'économie, des finances et de la souveraineté industrielle, énergétique et numérique.

M. Alexandre Basquin. Madame la ministre, l'intelligence artificielle (IA) générative - j'insiste sur le mot « générative » - a pris une place considérable dans le débat public, alors que l'on n'en parlait absolument pas avant 2022, date de l'émergence de ChatGPT.

À coup de marketing outrancier, il nous est vendu l'idée que cette nouvelle technologie serait un futur obligé pour un mieux-être social et économique. Pourtant, les alertes sont nombreuses, notamment sur ses conséquences sociales, environnementales et cognitives. D'ailleurs, des chercheurs américains ont répertorié 777 risques liés à son usage.

L'intelligence artificielle générative a aussi un coût social énorme. Des millions de travailleurs sont exploités pour l'alimenter ; ils ne reçoivent qu'un salaire de misère et subissent de lourdes conséquences psychologiques, notamment dans le Sud global.

L'Observatoire des emplois menacés et émergents estime à 5 millions le nombre d'emplois qui seront supprimés en France dans les prochaines années à la suite de l'émergence de l'intelligence artificielle générative, laquelle nécessite en outre la mobilisation d'une puissance de calcul phénoménale, au détriment de l'intelligence artificielle que j'appelle « applicative », pourtant bien plus utile.

De plus, l'utilisation de l'intelligence artificielle générative exige de l'eau et de l'électricité en quantité supérieure à celle que notre planète peut fournir à long terme.

Aujourd'hui, de nombreux experts s'interrogent. Certains pionniers de l'IA en appellent même à un moratoire. Plus de 3 000 chercheurs français ont ainsi signé une tribune demandant l'interdiction de l'IA générative au sein de l'enseignement supérieur. Le professeur Yoshua Bengio, pourtant co-inventeur du deep learning, alerte sur les effets dévastateurs de l'IA, notamment en matière de manipulation de l'opinion publique, sujet crucial au regard des élections à venir.

Tout cela doit nous prémunir contre une forme de technophilie béate. Ce que l'on considère parfois comme un progrès peut vite devenir un recul, voire une aliénation.

Au regard de tous ces enjeux, il est impérieux qu'une réflexion poussée soit menée sur l'intelligence artificielle générative, ses usages, son utilisation par le grand public et même sa possible interdiction. Qu'en pensez-vous, madame la ministre ?

M. le président. La parole est à Mme la ministre déléguée.

Mme Maud Bregeon, ministre déléguée auprès du Premier ministre, porte-parole du Gouvernement, et ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle, énergétique et numérique, chargée de l'énergie. Monsieur le sénateur, vous nous interrogez sur les mesures que le Gouvernement compte prendre pour interdire l'usage de l'intelligence artificielle générative.

Tout d'abord, il convient de clarifier un point. Vous opposez l'IA appliquée à l'IA générative : cette dernière serait moins efficace, car fondée sur des statistiques. En réalité, toutes les formes d'intelligence artificielle reposent sur les mêmes principes : apprentissage automatique, réseau de neurones, modèles statistiques.

Ensuite, même si elle comporte des risques, l'IA ouvre aussi des opportunités majeures ; il convient donc peut-être de pondérer les discours que l'on peut tenir. Pour les entreprises, elle est un levier de productivité et d'innovation. Pour les citoyens, elle transforme déjà de nombreux domaines tels que la santé, l'éducation, l'inclusion ou encore l'énergie. C'est pourquoi le Gouvernement soutient le développement d'une IA souveraine, essentielle pour notre compétitivité et notre souveraineté.

Cela étant, vous avez raison de le souligner, l'IA générative présente aussi des risques importants, que nous prenons, toutes et tous, au sérieux.

Pour nos démocraties, d'abord : les ingérences étrangères dans les processus électoraux - vous en avez parlé - constituent une menace sérieuse et croissante au regard de ce que l'on a pu observer ces derniers mois et ces dernières années.

Pour notre environnement, ensuite, parce que l'intelligence artificielle consomme des ressources considérables en eau, en énergie et en matières premières pour faire tourner ses modèles, de manière complètement invisible pour le grand public, mais avec des effets pourtant bien réels sur notre environnement et notre planète.

Pour les plus vulnérables, enfin, parce que certains outils, comme Grok, diffusent facilement des contenus inappropriés, stigmatisants, voire haineux, que l'on a bien du mal à canaliser.

Dans ce cadre, dans la continuité des réflexions engagées par le Président de la République sur le rôle du numérique dans la démocratie, ma collègue Anne Le Hénanff a lancé une commission d'experts sur les risques et les vulnérabilités engendrés par les usages de l'intelligence artificielle générative, dont les conclusions sont attendues à la fin du mois de mai.

À ce stade, il est prévu non pas d'interdire l'IA générative, qui s'impose de toute façon, mais plutôt de l'encadrer pour qu'elle respecte nos valeurs et les objectifs que nous lui fixons, comme nous l'avons fait à l'échelon européen en adoptant le règlement sur l'intelligence artificielle.

Le Premier ministre a par ailleurs confié une mission à votre collègue Vanina Paoli-Gagin sur l'alignement des systèmes d'intelligence artificielle avec nos valeurs européennes.

Il s'agit d'un sujet très complexe, que nous prenons au sérieux. Notre approche n'est pas de l'interdire, car nous estimons cette évolution technologique s'imposera à nous de toute façon et que la bonne manière d'y faire face est de l'encadrer le mieux possible, malgré les difficultés que cela pose, que je ne nie absolument pas.