Un traité juridiquement contraignant prévoyant des interdictions et des réglementations aux systèmes d'armes autonomes et l’élaboration d’une position commune européenne sur ce sujet

Cet amendement du groupe La France insoumise vise à faire mention de l’engagement pris par la France et une trentaine d’autres pays lors du sommet de Paris sur l’Intelligence Artificielle de ne jamais utiliser de systèmes d’armes létales autonomes (SALA). La déclaration conjointe mentionne ainsi l’engagement des pays signataires à « ne jamais autoriser qu’une décision de vie ou de mort soit prise par un système d’armes autonome opérant complètement en dehors du contrôle humain et sous une chaine de commandement responsable ».
Cet engagement doit être précisé et suivi d’effets. Les signataires s’engagent ainsi à faire en sorte que « les humains restent responsables, du développement, du déploiement et de l’usage des applications de l’IA dans le domaine militaire » ; cela implique donc de réfléchir à de véritables mécanismes de contrôle et l’installation de garde-fous dès la conception des algorithmes à la base des systèmes d’armes automatisés. Les négociations autour des SALA qui pourraient débuter à la fin de l’année peuvent être l’occasion d’aborder ces enjeux.

Après l’alinéa 13, insérer l’alinéa suivant : 

« Vu la déclaration de Paris sur le maintien du contrôle humain dans les systèmes d’armes dotés d’intelligence artificielle, ».

Cet amendement du groupe La France insoumise vise à mentionner les recommandations du comité d’éthique de la défense pour un usage de l’IA éthique et proportionné publié dans la foulée du Sommet pour l’action sur l’intelligence artificielle qui s’est tenu à Paris en février 2025.
Cet avis, en apparence anodin, est en fait ambigu à plusieurs égards dans ses formulations. Dans son point 6, il préconise ainsi « une flexibilité dans l'automatisation des systèmes » et recommande de « moduler le degré d’automatisation selon les circonstances ». Cet infléchissement -relevé par Laure de Roucy-Rochegonde, directrice du Centre géopolitique des technologies de l’Institut français des relations internationales- semble transiger avec la position française antérieure qui voulait que le France n’accepte jamais d’autonomie totale des systèmes d’armes, chose qui n’est pas explicitement réfutée ici.
Si l’avis du comité d’éthique n’est pas celui officiellement porté par le gouvernement français, il est élaboré en concertation avec lui. La présente proposition de résolution appelant explicitement à une « clarification publique et transparente de la position française », il semble utile de rappeler les ambiguïtés contenues dans les déclarations des organismes relevant du gouvernement français.

Après l’alinéa 13, insérer l’alinéa suivant : 

« Vu les recommandations du comité d’éthique de la défense pour un usage de l’intelligence artificielle éthique et proportionné du 12 février 2025, ».

Cet amendement du groupe La France insoumise vise à inviter le Conseil de l’Union européenne à soutenir les initiatives en faveur de l’interdiction des SALA par l’élaboration d’une position commune.
Cette initiative n’est pas concurrente ni préjudiciable à la poursuite de négociations dans le cadre de la CCAC ou ailleurs ; elle pourrait au contraire les soutenir utilement en donnant du poids à une position européenne commune sur le sujet et en montrant, par effet d’entrainement, la volonté des pays Européens de réguler les SALA. D’autres initiatives dans le domaine du contrôle des armements ont ainsi été utilement soutenues par l’adoption de positions communes des chefs d’État membres de l’UE. Ainsi, la Position commune 2008/944/PESC a permis d’harmoniser les règles européennes en matière d’exportations d’équipement militaire ; son adoption a offert un cadre favorable pour les négociations ayant abouti quelques années plus tard à l’adoption du Traité sur le Commerce des Armes (TCA).

Après l’alinéa 33, insérer l’alinéa suivant : 

« Appelle le Conseil de l’Union européenne à élaborer une position commune sur le sujet ; ».

Cet amendement du groupe La France insoumise vise à souligner l’enjeu de la régulation des technologies permettant l’autonomisation croissante des systèmes d’armes actuels.
Le texte de cette PPRE dresse un parallèle avec la maitrise progressive des technologies nucléaires, en soulignant le péril qu’elles font peser sur l’existence même de l’humanité. La régulation des technologies nucléaires s’est faite progressivement, par des normes, des organes et mécanismes de contrôle, d’interdiction et d’encadrement (Agence Internationale pour l’Énergie Atomique, Traité sur la non-prolifération des armes nucléaires). La régulation des technologies d’automatisation des systèmes d’armes (et en particulier de l’intelligence artificielle) pourrait suivre le même chemin, en commençant par la question des SALA et en l’étendant à la régulation des autres systèmes d’armes intégrant de l’autonomie, et en particulier ceux impliqués directement dans des actions de combat. Cet amendement vise à rappeler cet objectif.

Après l’alinéa 22, insérer l’alinéa suivant : 

« Considérant que la régulation des systèmes d’armes létales autonomes pourrait ouvrir la voie à des négociations sur l’encadrement des technologies d’automatisation de tous les systèmes d’armes ; ».

Cet amendement du groupe La France insoumise vise à souligner la nécessité, pour une régulation effective des systèmes d’armes létaux automatisés, de penser les mécanismes et garde-fous permettant de garantir un contrôle humain effectif dès la conception des systèmes utilisés.
En effet, l’effectivité actuelle du contrôle humain sur certains systèmes automatisés est purement formelle. Lors de sa guerre génocidaire dans la bande de Gaza, Israël a déployé un système de ciblage assisté par IA - dénommé Lavander - proposant des cibles à des opérateurs humains décidant ou non d’une frappe en 20 secondes en moyenne. Si des humains restent formellement impliqués dans la décision, cet exemple montre que le contrôle qu’ils opèrent reste superficiel. Le logiciel Maven Smart de l’entreprise états-unienne Palantir fonctionne vraisemblablement selon la même logique ; les opérateurs ne font que valider formellement des décisions prises par des systèmes qui, s’ils ne sont pas formellement autonomes, échappent dans les faits au contrôle humain effectif.
Or, les déclarations de bonne volonté des gouvernements ne prennent guère en compte cette réalité ; cette dissociation entre un discours politique volontariste et les aspects techniques et pratiques qui échappent de fait au contrôle des utilisateurs des systèmes automatisés est problématique. Cet amendement vise à rappeler cet enjeu majeur.

Après l’alinéa 24, insérer l’alinéa suivant : 

« Considérant que l’automatisation croissante des systèmes d’armes et l’absence de régulation dès la conception des algorithmes qu’ils intègrent rendent de plus en plus hypothétique l’effectivité ce contrôle ; ».