rapport sur le texte adopté par la commission des affaires européennes sur la proposition de résolution européenne de M. Pierre Pribetich et plusieurs de ses collègues en faveur d’un traité juridiquement contraignant prévoyant des interdictions et des réglementations aux systèmes d'armes autonomes et de l’élaboration d’une position commune européenne sur ce sujet . (n°2939)

SOMMAIRE

Pages

1. Introduction
2. I. Le développement des systèmes d’armes létales autonomes remet en question les conditions d’application du droit international humanitaire
3. A. Les systèmes d’armes létales autonomes introduisent une rupture éthique et technologique sur le champ de bataille
4. 1. Les systèmes d’armes létales autonomes font l’objet de débats sémantiques relatifs à la notion d’autonomie et à la place du contrôle humain
5. 2. Si les systèmes d’armes létales pleinement autonomes n’existent pas encore, l’autonomisation des systèmes d’armement connaît une évolution rapide
6. 3. Le développement des SALA redéfinit les conditions du recours à la force létale
7. a. En déléguant à une machine la décision de vie ou de mort, le développement des SALA soulève des questions éthiques fondamentales
8. b. Les SALA pourraient abaisser le seuil de recours à la violence, avec des conséquences négatives sur la sécurité internationale
9. B. Faute d’encadrement juridique spécifique, Les SALA évoluent en marge du droit international humanitaire
10. 1. Les SALA soulèvent des difficultés au regard des principes fondamentaux du droit international humanitaire
11. 2. Le droit international humanitaire n’en demeure pas moins pleinement applicable aux SALA
12. 3. L’absence de cadre juridique spécifique complique l’attribution des responsabilités en cas de violation du droit international humanitaire imputable aux SALA
13. II. La proposition de résolution européenne appelle à poursuivre les négociations en vue de l’adoption d’un traité juridiquement contraignant d’interdiction et de réglementation des SALA
14. A. Les travaux menés au sein de la convention sur certaines armes classiques ont déjà permis plusieurs avancées importantes en matière de régulation des SALA
15. 1. Depuis 2013, des discussions ont été engagées dans le cadre de la convention sur certaines armes classiques en faveur d’une régulation des SALA
16. 2. Les États parties à la convention se sont accordés sur un certain nombre de principes directeurs
17. 3. L’intensité du contrôle humain, principal point de discussion des négociations
18. B. Les négociations en cours doivent se poursuivre afin de soumettre les SALA à des interdictions et des règlementations juridiquement contraignantes
19. 1. Malgré les avancées, les négociations menées dans le cadre de la CCAC restent fragiles
20. 2. Il est désormais urgent d’adopter un traité encadrant les systèmes d’armes autonomes
21. a. La prochaine conférence d’examen des États parties à la CCAC ouvre une fenêtre d’opportunité pour l’adoption d’un instrument international juridiquement contraignant
22. b. En cas d’échec des négociations, les discussions pourraient se poursuivre en dehors de la CCAC
23. 3. L’Union européenne peut exercer un effet d’entraînement en faveur d’une régulation ambitieuse des SALA
24. C. Les enrichissements apportés au texte par la commmission des affaires européennes et la commission des affaires étrangères
25. Examen en commission
26. Annexe 1 : liste des personnes auditionnées par le rapporteur
27. Annexe 2 : texte évolutif du groupe d’experts gouvernementaux sur les systèmes d’armes létales autonomes version du 5 juin 2026

Introduction

Le 17 juin 2026, la commission des affaires européennes de l’Assemblée nationale a adopté une proposition de résolution européenne (PPRE) déposée par le rapporteur sur le fondement de l’article 88-4 de la Constitution et des articles 151-4 et suivants du Règlement de l’Assemblée nationale. Conformément à l’article 151-6 du Règlement, la commission des affaires étrangères a ensuite été saisie au fond afin d’examiner cette proposition de résolution, sur la base du texte amendé par la commission des affaires européennes.

Le développement de l’intelligence artificielle (IA) dans le domaine militaire conduit à une autonomisation croissante des systèmes d’armement. Si les systèmes d’armes létales pleinement autonomes (SALA), capables de sélectionner une cible et de recourir à la force létale sans aucune intervention humaine, n’existent pas encore à ce jour, les progrès technologiques réalisés au cours des dernières années rendent cette perspective de plus en plus crédible. La guerre d’agression que mène la Russie contre l’Ukraine depuis 2022, qui a accéléré le développement et le déploiement de fonctions autonomes intégrées aux drones et à d’autres systèmes d’armes, illustre cette évolution.

L’émergence de tels systèmes est source de grandes préoccupations. La perspective d’une délégation de la décision de recourir à la force létale à une machine dépourvue de conscience morale pose de sérieuses questions éthiques. Sur le plan stratégique, l’autonomisation croissante des armements pourrait contribuer à abaisser le seuil de recours à la force, favoriser la prolifération de ces technologies, y compris au profit d’acteurs non étatiques, et accroître les risques liés à l’opacité ou aux biais des algorithmes.

Ces préoccupations sont d’autant plus importantes que les SALA ne font aujourd’hui l’objet d’aucun instrument international juridiquement contraignant. Certes, les principes fondamentaux du droit international humanitaire, notamment les principes de distinction, de proportionnalité et d’humanité, leur demeurent pleinement applicables. Toutefois, leur respect apparaît difficilement conciliable avec des systèmes susceptibles d’agir sans intervention humaine, tandis que l’autonomie décisionnelle de ces systèmes complique l’imputation de la responsabilité en cas de violation du droit international humanitaire.

Depuis 2013, les négociations engagées dans le cadre de la convention sur certaines armes classiques (CCAC) ([1]) ont permis plusieurs avancées importantes, notamment sous l’impulsion de la France, en faveur d’un encadrement international des SALA et de l’affirmation du principe d’un contrôle humain sur les décisions d’emploi de la force. Ces négociations demeurent cependant fragiles, en raison des profondes divergences qui subsistent entre les États parties, tant sur la définition des SALA que sur le contenu d’un futur instrument juridique.

Alors que la prochaine conférence d’examen des États parties à la CCAC, prévue en novembre 2026, devra se prononcer sur le renouvellement du mandat du groupe d’experts gouvernementaux (GEG) chargé des négociations, cette proposition de résolution vise à donner une nouvelle impulsion à ces travaux. Elle appelle à l’adoption d’un traité juridiquement contraignant prévoyant l’interdiction des systèmes qui ne pourraient être développés ou employés conformément au droit international humanitaire, d’une part, ainsi que la régulation des autres systèmes intégrant des fonctions d’autonomie au moyen d’un contrôle humain effectif tout au long de leur cycle de vie, d’autre part. La PPRE entend également favoriser l’émergence d’une position commune à l’échelle de l’Union européenne, afin de promouvoir une réglementation ambitieuse et cohérente des systèmes d’armes létales autonomes au niveau international.

I. Le développement des systèmes d’armes létales autonomes remet en question les conditions d’application du droit international humanitaire

A. Les systèmes d’armes létales autonomes introduisent une rupture éthique et technologique sur le champ de bataille

1. Les systèmes d’armes létales autonomes font l’objet de débats sémantiques relatifs à la notion d’autonomie et à la place du contrôle humain

Les militaires recourent de longue date à des systèmes d’armes fonctionnant selon des mécanismes automatiques, à l’image des mines ou de certains dispositifs de défense aérienne. Le développement récent de l’intelligence artificielle dans le domaine militaire ouvre toutefois une perspective nouvelle : l’émergence de systèmes d’armes létales capables d’acquérir une véritable autonomie décisionnelle, en dehors de tout contrôle humain.

Il n’existe pas de consensus sur une définition unique des SALA. De manière schématique, deux approches s’opposent :

– d’une part, les définitions extensives regroupent sous l’acronyme SALA tous les systèmes d’armes létales, quel que soit leur niveau d’autonomie : entrent ainsi dans ce champ les systèmes défensifs automatiques, tels que les mines antipersonnel, et les systèmes offensifs autonomes comme les drones de combat ([2]). Ce type de définition est notamment utilisé par les acteurs de la société civile qui militent pour une interdiction préventive des SALA, notamment dans le cadre de la campagne « Stop Killer Robots » ([3]) ;

– d’autre part, la France, rejointe par plusieurs grandes puissances militaires ainsi que par le Comité international de la Croix-Rouge (CICR) ([4]), privilégie une approche plus restrictive, fondée sur la notion d’autonomie et limitée aux « armes potentiellement capables d’identifier, d’engager et de neutraliser une cible sans aucune intervention humaine » ([5]).

La focalisation sur la notion d’autonomie ne saurait pour autant suffire à caractériser l’existence d’un SALA. En réalité, aucun système d’armes ne peut être considéré comme totalement autonome. Ainsi que le relève le comité d’éthique de la défense dans son avis de 2021 sur l’intégration de l’autonomie dans les systèmes d’armes létales, « derrière l’autonomie, il y a des automatismes ; derrière les automatismes, il y a des programmes ; derrière les programmes, il y a des humains qui fixent les règles de la machine, y compris celles autorisant cette machine à s’affranchir de ces mêmes règles » ([6]).

La question centrale réside donc moins dans l’existence d’une autonomie que dans son degré et la place conservée par l’humain dans la chaîne de décision. Comme le soulignaient les députés Claude de Ganay et Fabien Gouttefarde dans leur rapport d’information de 2020 consacré aux systèmes d’armes létales autonomes, « l’autonomie doit être appréhendée comme un continuum » ([7]), allant de « situations où l’homme prend toutes les décisions jusqu’aux situations où un grand nombre de fonctions sont déléguées au robot, l’homme conservant le plus souvent la possibilité d’intervenir » ([8]).

Cette gradation conduit à distinguer trois types d’armes, selon leur niveau d’autonomie ([9]) : les armes semi-autonomes qui peuvent se déplacer et désigner la cible mais dont la décision d’ouvrir le feu reste conditionnée à une décision humaine (« humain dans la boucle ») ; les armes autonomes supervisées qui sélectionnent la cible et engagent la force mais toujours sous la supervision d’un opérateur qui a la possibilité de suspendre la procédure (« humain sur la boucle ») ; les armes pleinement autonomes qui sélectionnent la cible et engagent la force, sans que l’humain ne puisse intervenir (« humain hors de la boucle »).

Si la plupart des experts considèrent aujourd’hui qu’il n’existe pas encore de systèmes d’armes létales pleinement autonomes, « les progrès effectués dans le domaine de l’acquisition et du traitement de l’information pourraient à terme conduire à envisager une bascule d’un rôle d’aide à la décision automatisé (« humain dans la boucle ») à un rôle de prise de décision autonome du ciblage et de l’ouverture de feu (« humain hors de la boucle ») ([10]).

C’est à partir de cette grille de lecture que la France, suivant l’avis rendu par le comité éthique de la défense de 2021, distingue les systèmes d’armes létales autonomes (SALA) des systèmes d’armes létales intégrant de l’autonomie mais demeurant sous maîtrise de l’humain (SALIA) :

– les SALA sont des systèmes d’armes pleinement autonomes, dès lors qu’il n’existe aucun lien de communication ou de contrôle entre la machine et la chaîne de commandement. Ces systèmes sont capables de remplir des tâches et de s’assigner eux-mêmes des objectifs, au-delà de leur programmation initiale et en dehors de toute supervision humaine. Leur capacité d’auto-apprentissage rend leur comportement imprévisible, ce qui justifie pour la France leur interdiction ;

– les SALIA restent quant à eux subordonnés au commandement humain et leurs fonctions de décision sont dépendantes d’un cadre d’action précis, défini et validé par l’humain ([11]). Ces systèmes ne peuvent prendre d’initiatives létales qui conduiraient à modifier leur domaine d’action. Il s’agit par exemple des munitions rôdeuses ([12]), pour lesquelles l’humain conserve la faculté de sélectionner la cible.

Cette distinction a largement inspiré les négociations conduites dans le cadre de la convention sur certaines armes classiques. Faute de consensus sur une version définitive, les États parties à cette convention se sont accordés sur une définition de travail, qui désigne les SALA comme « une combinaison d’une ou plusieurs armes et de composants technologiques fonctionnellement intégrés, capable d’identifier, de sélectionner et d’engager une cible sans intervention d’un humain opérant le système » ([13]).

2. Si les systèmes d’armes létales pleinement autonomes n’existent pas encore, l’autonomisation des systèmes d’armement connaît une évolution rapide

Le développement des SALA s’inscrit dans un processus plus large d’autonomisation progressive des systèmes d’armement lié au développement de l’IA ([14]). Sans relever des SALA au sens strict, plusieurs systèmes d’armement intègrent déjà des fonctions d’autonomie. Le système israélien de défense aérienne mobile « Iron Dome », par exemple, détecte automatiquement les menaces aériennes et peut déclencher leur interception selon des paramètres préalablement définis, sans pour autant s’affranchir du cadre fixé par l’opérateur humain. Plus largement, des munitions rôdeuses sont dotées de modes autonomes contre certains types de cibles et les drones recourent de manière croissante à l’intelligence artificielle pour l’identification des cibles et la conduite des frappes. Cette automatisation des systèmes d’armement est particulièrement visible dans le cadre de la guerre d’agression que mène la Russie contre l’Ukraine.

Source : réponses écrites du ministère de l’Europe et des affaires étrangères au questionnaire du rapporteur.

Cette évolution se traduit par un investissement croissant des États dans les applications militaires de l’intelligence artificielle. En France, la stratégie ministérielle sur l’intelligence artificielle de défense, présentée en 2024, vise à accélérer l’automatisation des armées, tandis que la ministre des armées a annoncé, le 19 juin 2026, ériger l’intelligence artificielle de défense au rang d’intérêt essentiel de sécurité ([15]). Les États-Unis ont adopté une démarche comparable en publiant en 2023 une directive encadrant le développement et l’emploi des systèmes d’armes autonomes et semi-autonomes ([16]).

L’intérêt croissant porté à ces technologies tient aux gains opérationnels qu’elles sont susceptibles de procurer. L’autonomie permet d’abord d’améliorer la protection des combattants en les éloignant des zones les plus dangereuses et en automatisant certaines tâches répétitives, pénibles ou risquées. Elle améliore ensuite les performances opérationnelles en accélérant le traitement de l’information, en optimisant les fonctions logistiques et en renforçant la précision ainsi que l’endurance des systèmes. Cette logique d’assistance à la décision demeure au cœur de la doctrine française. Selon le ministère de l’Europe et des affaires étrangères, « le développement des applications militaires de l’intelligence artificielle n’a pas vocation à remplacer le commandement humain ». Il s’agit plutôt de « l’assister et ainsi d’améliorer le processus de prise de décision dans des situations opérationnelles complexes et fortement évolutives » ([17]).

3. Le développement des SALA redéfinit les conditions du recours à la force létale

a. En déléguant à une machine la décision de vie ou de mort, le développement des SALA soulève des questions éthiques fondamentales

L’avènement des SALA laisse entrevoir la possibilité de confier la décision de vie ou de mort à des machines dépourvues de toute conscience morale ou de capacité de discernement. Ce faisant, ces systèmes introduisent une rupture éthique dans la manière de faire la guerre. Contrairement au combattant humain qui peut renoncer à l’application mécanique d’une règle au regard des circonstances, le système autonome engage la force dès lors que les conditions programmées sont réunies. Ainsi que le relève le philosophe Dominique Lambert, « une machine autonome ne peut juger, car, pour juger, il faut interpréter et aussi s’abstenir d’appliquer les règles ou même les transgresser pour sauver l’esprit des règles et des valeurs » ([18]). En définitive, « l’homme seul, et non la machine, est capable de faire preuve d’intuition, de libre arbitre, et d’initiative » ([19]).

Au-delà de cette incapacité à exercer un véritable jugement moral, les SALA nourrissent la crainte d’une déshumanisation de l’emploi de la force, en réduisant l’individu à une cible identifiée par un traitement algorithmique ([20]). Dans son encyclique Magnifica Humanitas, le pape Léon XIV relève que l’intelligence artificielle risque ainsi de rendre « plus impersonnelle la décision sur la vie et la mort » ([21]). Si l’IA peut renforcer la défense et la protection des civils, elle pourrait aussi rendre les responsabilités plus opaques et d’abaisser le seuil du recours à la force.

b. Les SALA pourraient abaisser le seuil de recours à la violence, avec des conséquences négatives sur la sécurité internationale

Outre ces considérations éthiques, les SALA sont également susceptibles d’influer négativement sur la sécurité mondiale et la stabilité des relations internationales. En réduisant le risque de pertes humaines pour l’État utilisateur, ces systèmes pourraient en effet conduire à un abaissement du seuil de déclenchement des conflits et, par conséquent, à une augmentation de leur fréquence et de leur intensité. Leur faible coût de production présente aussi un risque élevé de prolifération de la part d’acteurs non étatiques, tels que des groupes terroristes et criminels ([22]). À cela s’ajoute la possibilité d’un emploi coordonné d’un très grand nombre de SALA afin de saturer les capacités de défense de l’adversaire, selon le modèle dit « de l’essaim » (swarming). À terme, certains chercheurs estiment que ces évolutions seraient de nature à provoquer « un changement radical de la nature de la guerre, à l’instar de l’avènement du nucléaire » ([23]).

L’automatisation de la prise de décision comporte ensuite un risque de perte de contrôle. Les erreurs d’appréciation générées par les systèmes algorithmiques pourraient ne pas pouvoir être corrigées par l’être humain en raison de l’opacité des algorithmes utilisés, favorisant ainsi une escalade militaire incontrôlée. Cette problématique est illustrée par le film Point Limite (Fail Safe), réalisé par Sidney Lumet en 1964, qui met en scène un bombardier nucléaire qui, à la suite d’une défaillance d’un système de transmission des ordres, poursuit automatiquement sa mission malgré les tentatives des autorités de le rappeler. Cette fiction rappelle que, durant la guerre froide, c’est à plusieurs reprises le jugement humain qui a permis d’éviter une escalade ([24]).

Les algorithmes peuvent enfin reproduire, voire amplifier, des biais présents dans les données utilisées pour leur apprentissage. Lorsque ces données ne sont pas suffisamment représentatives de l’ensemble des populations présentes dans les zones de conflit, les systèmes d’IA risquent de produire des résultats défavorables à certains groupes, notamment les femmes, les enfants et les personnes déplacées.

La France a pris la mesure des enjeux stratégiques et éthiques soulevés par le développement des SALA. La ministre des armées a saisi le comité d’éthique de la défense en janvier 2020 d’une demande d’avis sur les systèmes d’armes létales autonomes. Le comité a rendu ses conclusions en avril 2021, dans lesquelles il rappelle que « l’emploi par les forces armées françaises de SALA serait absolument contraire au principe constitutionnel de nécessaire libre disposition de la force armée ([25]) et au principe de continuité de la chaîne de commandement » ([26]). Il identifie six principes directeurs pour l’intégration de l’autonomie dans les systèmes d’armes létales, parmi lesquels l’exigence d’un maintien d’une responsabilité humaine dans la conception, le déploiement et l’utilisation d’autonomie décisionnelle en matière d’armement.

B. Faute d’encadrement juridique spécifique, Les SALA évoluent en marge du droit international humanitaire

1. Les SALA soulèvent des difficultés au regard des principes fondamentaux du droit international humanitaire

La faculté de déclencher un tir de manière autonome pose la question de la licéité des SALA au regard des principes du droit international humanitaire (DIH). Également appelé « jus in bello », le DIH réglemente la manière dont les parties à un conflit armé peuvent conduire les hostilités ([27]). Il vise plus précisément à encadrer les moyens et les méthodes de la guerre et à protéger les personnes qui ne participent pas aux hostilités comme les populations civiles, les membres du personnel sanitaire ou d’organisations humanitaires, d’une part, et celles qui ne prennent plus part aux combats, tels que les blessés, les malades ou les prisonniers de guerre, d’autre part.

Le DIH, tel qu’il résulte de ces conventions et protocoles additionnels, se structure autour de cinq principes fondamentaux, réputés s’appliquer « en toutes circonstances à toutes les personnes protégées par ces instruments, sans aucune distinction défavorable fondée sur la nature ou l’origine du conflit armé ou sur les causes soutenues par les Parties au conflit, ou attribuées à celles-ci » ([28]) :

– le principe de distinction impose aux belligérants de distinguer les objectifs militaires, qui peuvent faire l’objet d’une attaque, des biens et populations civiles qui restent préservés de toute attaque volontaire. Ce principe résulte de l’article 48 du premier protocole additionnel aux conventions de Genève, qui prévoit qu’« en vue d’assurer le respect et la protection de la population civile et des biens de caractère civil, les Parties au conflit doivent en tout temps faire la distinction entre les populations civiles et les combattants ainsi qu’entre les biens de caractère civil et les objectifs militaires et, par conséquent, ne diriger leurs opérations que contre des objectifs militaires » ;

– le principe d’humanité vise à éviter dans la mesure du possible les maux superflus engendrés par le recours à la force. Ce principe contraint le choix des moyens et méthodes de combat, qui doivent limiter les effets néfastes de l’usage de la violence tout en respectant le DIH ;

– le principe de discrimination, ou principe de précaution, s’applique lorsqu’une opération militaire présente des risques pour les populations civiles. En vertu de l’article 57 du premier protocole additionnel aux conventions de Genève, « les opérations militaires doivent être conduites en veillant constamment à épargner la population civile, les personnes civiles et les biens de caractère civil » ;

– le principe de proportionnalité, qui exige une adéquation entre les moyens militaires mis en œuvre et l’effet militaire recherché. Ce principe résulte de l’article 51, alinéa 5b du premier protocole additionnel aux conventions de Genève, qui interdit « les attaques dont on peut attendre qu’elles causent incidemment des pertes en vies humaines dans la population civile, des blessures aux personnes civiles, des dommages aux biens de caractère civil, ou une combinaison de ces pertes et dommages, qui seraient excessifs par rapport à l’avantage militaire concret et direct attendu » ;

– le principe d’interdiction des maux superflus et des souffrances inutiles, issu de l’article 35, alinéa 3 du premier protocole additionnel aux conventions de Genève, qui interdit de causer des dommages ou des souffrances qui ne sont pas nécessaires pour atteindre des buts strictement militaires et l’affaiblissement du camp adverse.

Les SALA risquent de remettre en cause l’application de ces principes fondamentaux du DIH. En effet, ces systèmes ne disposent pas de la compréhension contextuelle ou de la capacité d’interprétation nécessaire pour distinguer un civil d’un combattant armé. De la même manière, les principes de proportionnalité et d’interdiction des maux superflus et des souffrances inutiles reposent sur des jugements et une appréciation fine du contexte, et apparaissent de ce fait peu compatibles avec une modélisation par algorithme. En l’absence d’une médiation humaine effective, il apparaît de fait difficile « de garantir qu’un système d’armement autonome puisse respecter […] les principes cardinaux du droit international humanitaire dans le contexte de conflits asymétriques dans des zones urbaines sur des terrains accidentés au sein desquels la visibilité est faible ou très réduite » ([29]).

2. Le droit international humanitaire n’en demeure pas moins pleinement applicable aux SALA

Il n’existe pas à ce jour d’instrument juridique réglementant ou interdisant les systèmes d’armes létales autonomes. Pour autant, ils n’en sont pas moins réputés se conformer aux principes du droit international humanitaire au regard des normes qui régissent l’introduction de nouvelles armes.

Dans un avis consultatif du 8 juillet 1996 relatif à la licéité de la menace ou de l’emploi d’armes nucléaires, la Cour internationale de justice (CIJ) a en effet estimé que la nouveauté d’une arme ne saurait être invoquée aux fins de déroger aux principes et règles existants du droit humanitaire applicable aux conflits armés. Selon la CIJ, « une telle conclusion méconnaîtrait la nature intrinsèquement humanitaire des principes juridiques en jeu, qui imprègnent tout le droit des conflits armés et s’appliquent à toutes les formes de guerre et à toutes les armes, celles du passé, comme celles du présent et de l’avenir » ([30]). Ce jugement s’appuie notamment sur la clause dite de Martens, qui dispose que « les personnes civiles et les combattants restent sous la sauvegarde et sous l’empire des principes du droit des gens, tels qu’ils résultent des usages établis, des principes de l’humanité et des exigences de conscience publique » ([31]).

De la même manière, l’article 36 du premier protocole additionnel aux conventions de Genève de 1949 impose aux États parties de vérifier la conformité au droit international humanitaire de tout projet de création d’armes nouvelles ([32]). Cette disposition a vocation à s’appliquer aux SALA, dont l’utilisation éventuelle devrait en théorie se confronter aux règles du droit international humanitaire en vigueur. En pratique, cet examen de licéité reste cependant délicat, en raison de l’évolution particulièrement rapide des nouvelles technologies, d’une part, et de l’absence de précision quant aux modalités pratiques de cet examen, d’autre part.

3. L’absence de cadre juridique spécifique complique l’attribution des responsabilités en cas de violation du droit international humanitaire imputable aux SALA

La force obligatoire des principes fondamentaux du droit international humanitaire repose sur la possibilité, en cas de violation, de mettre en jeu la responsabilité pénale des individus en cause. Or le cadre juridique existant se heurte sur ce point à l’impossibilité d’attribuer une responsabilité aux machines.

L’engagement de la responsabilité pénale d’un individu suppose la réunion de deux conditions cumulatives : l’existence d’un acte criminel (actus reus) et la caractérisation d’une intention de commettre cet acte (mens rea). En cas de violation du DIH par les SALA, il serait certes envisageable de démontrer l’existence d’un acte criminel. En revanche, il n’apparaît pas possible de caractériser l’existence d’un élément intentionnel, en raison de l’absence de conscience propre des SALA ([33]).

À défaut d’engager la responsabilité de la machine, les actes illicites pourraient être imputés à l’ensemble des acteurs intervenus dans la conception et l’utilisation du système, qu’il s’agisse des programmateurs, des concepteurs, des autorités militaires, des opérateurs ou encore des décideurs politiques. La France a adopté à cet égard une position constante selon laquelle « la responsabilité et la redevabilité humaines ne peuvent jamais être transférées à des machines » ([34]). Certains mécanismes traditionnels d’engagement de la responsabilité pourraient trouver à s’appliquer afin d’engager la responsabilité pénale et civile des SALA.

La responsabilité internationale de l’État pourrait d’abord être engagée dans le cas où l’emploi d’un système d’arme autonome entraînerait une violation du DIH. En vertu des projets d’articles 1er, 4 et 7 des sur la responsabilité de l’État pour fait internationalement illicite, adoptés en 2001 par la Commission du droit international des Nations unies, tout État est en effet responsable des actes commis par ses forces armées et du respect de ses obligations internationales, notamment s’agissant de l’obligation de mener des examens de licéité avant le déploiement de toute nouvelle arme ([35]).

Concernant la responsabilité pénale des militaires et des supérieurs hiérarchiques, l’article 28 du statut de Rome de la Cour pénale internationale (CPI) prévoit que les chefs militaires et autres supérieurs hiérarchiques sont responsables lorsqu’ils n’ont pas pris « toutes les mesures nécessaires et raisonnables » pour empêcher des violations graves du DIH. Cette disposition pourrait trouver à s’appliquer aux décideurs militaires en cas d’actes illicites commis par un système autonome.

Enfin, la responsabilité civile et contractuelle des fabricants ou concepteurs de systèmes d’armement serait susceptible d’être engagée en cas de défaut de fabrication, sur le fondement du principe de responsabilité du fait de produits défectueux (articles 1245 et suivants du code civil).

Pour autant, l’application de ces mécanismes aux violations du droit international humanitaire commis par les SALA risque de se heurter à plusieurs difficultés. D’une part, il existe des doutes concernant la possibilité d’engager la responsabilité de civils du fait de la violation du DIH, alors même qu’ils ne participent pas à un conflit armé. D’autre part, les critères d’identification de la responsabilité d’un SALA restent difficiles à déterminer. Cette difficulté est accentuée par l’opacité de certains algorithmes, qui complique l’établissement d’un lien clair entre une décision humaine et ses conséquences opérationnelles.

Enfin, l’absence de libre arbitre des SALA constitue un obstacle important à l’application des normes existantes. À titre d’exemple, la responsabilité pénale des supérieurs hiérarchique ne peut être engagée que s’ils « avaient ou possédaient des informations leur permettant de conclure, dans les circonstances du moment, que [le] subordonné allait commettre une […] infraction » aux conventions de Genève ou au premier protocole additionnel et « s’ils n’ont pas pris toutes les mesures pratiquement possibles en leur pouvoir pour empêcher ou réprimer cette infraction » ([36]). Cela suppose que le SALA ait communiqué ses intentions à une personne en amont de l’infraction, ce qui paraît incompatible avec le caractère autonome du système.

Le cadre juridique existant apparaît dès lors insuffisant à réguler les SALA. Pour le rapporteur, il est indispensable que la France soutienne le principe d’un texte spécifique aux armes autonomes, afin d’assurer leur conformité aux principes du DIH.

II. La proposition de résolution européenne appelle à poursuivre les négociations en vue de l’adoption d’un traité juridiquement contraignant d’interdiction et de réglementation des SALA

A. Les travaux menés au sein de la convention sur certaines armes classiques ont déjà permis plusieurs avancées importantes en matière de régulation des SALA

1. Depuis 2013, des discussions ont été engagées dans le cadre de la convention sur certaines armes classiques en faveur d’une régulation des SALA

Adoptée le 10 octobre 1980, la Convention sur l’interdiction ou la limitation de l’emploi de certaines armes classiques qui peuvent être considérées comme produisant des effets traumatiques excessifs ou comme frappant sans discrimination, dite convention sur certaines armes classiques, vise à réglementer la conduite des conflits armés et à faire respecter l’application du droit international humanitaire. Les États parties à la convention se réunissent chaque année lors d’une conférence d’examen qui vise à examiner l’état et le fonctionnement de la convention et à présenter le travail réalisé par le Groupe d’experts gouvernementaux, une équipe de spécialistes internationaux chargée par les États parties de négocier un nouveau protocole ou d’étudier une arme ou un problème spécifique.

Depuis 2013, la CCAC abrite les négociations internationales relatives aux SALA. Ainsi que l’a indiqué Mme Anne Lazar-Sury, représente permanente de la France auprès de la conférence du désarmement de Genève, lors de son audition, cette instance représente un cadre particulièrement approprié pour répondre aux enjeux juridiques et éthiques soulevés par les systèmes d’armes autonomes.

Premièrement, la CCAC s’applique à l’ensemble des conflits armés, y compris ceux qui ne revêtent pas de caractère interétatique. Si la convention-cadre et ses trois premiers protocoles additionnels ne concernaient initialement que les conflits armés internationaux, leur champ d’application a ensuite été étendu à tous les types de conflits armés à l’occasion de la deuxième conférence d’examen de 2001.

Deuxièmement, cette enceinte regroupe cent vingt-six États parties, ce qui permet d’assurer une représentation équilibrée de l’ensemble des acteurs concernés, y compris les États dotés des capacités les plus avancées sur le plan technologique. De plus, les réunions des États parties à la convention sont publiques et certaines organisations non gouvernementales telles qu’Amnesty International, Handicap International, Human Rights Watch ou le Comité international de la Croix Rouge y participent en tant qu’observatrices. Cette inclusivité et ce caractère pluraliste permettent de poursuivre, selon les autorités françaises, « un objectif d’équilibre entre les nécessités militaires et les considérations humanitaires » ([37]).

Troisièmement, la CCAC revêt un caractère évolutif en ce qu’elle offre la possibilité d’adjoindre des protocoles additionnels à la convention-cadre de 1980 pour répondre au développement de nouvelles armes ou à des changements dans la conduite de la guerre. Depuis 1980, plusieurs protocoles additionnels ont ainsi été adoptés pour réglementer l’usage de certains types d’armes particuliers. Cette flexibilité rend la CCAC particulièrement pertinente pour réguler des armes émergentes en constante évolution comme les SALA ([38]).

Source : Bureau des affaires de désarmement de l’Organisation des Nations unies (lien internet).

2. Les États parties à la convention se sont accordés sur un certain nombre de principes directeurs

La France a joué un rôle moteur dans l’ouverture des discussions relatives aux SALA au sein de la CCAC en 2013. Le lancement de ces négociations a constitué un véritable progrès, dans la mesure où plusieurs pays comme la Russie ou les États-Unis refusaient jusqu’alors de discuter des SALA dans un cadre formel.

En 2017, sous l’influence de la France, les États parties à la convention ont mandaté un groupe d’experts gouvernementaux afin d’apporter des clarifications terminologiques, d’identifier les enjeux qui accompagnent l’émergence des SALA et de proposer un instrument de régulation, juridiquement contraignant ou non. Ce groupe se réunit depuis régulièrement, et associe des délégations de près de quatre-vingt-dix États parties à la CCAC ainsi que plusieurs acteurs de la société civile.

Depuis 2017, les travaux du groupe d’experts ont permis de faire avancer les discussions, comme en témoigne l’adoption, à l’initiative de la France et de l’Allemagne, de onze principes directeurs sur les technologies émergentes dans le domaine des SALA en 2019. Ces principes rappellent notamment que le droit international humanitaire s’applique pleinement aux systèmes d’armes dotés d’autonomie et affirment que l’emploi des SALA doit toujours dépendre d’une responsabilité humaine. Endossées sur la base du consensus par les cent vingt-six États parties à la CCAC, ces orientations posent la base d’un futur instrument juridiquement contraignant.

Les travaux menés au sein du GEG portent actuellement sur un texte évolutif, présenté sous la présidence néerlandaise en novembre 2024 et qui est depuis régulièrement actualisé à l’issue de chaque réunion des États parties ([39]). Ce texte, qui synthétise les principes directeurs sur lesquels se sont accordées les États parties, reprend plusieurs revendications portées par la France lors des négociations.

C’est le cas notamment du principe de « double approche », inspiré de l’avis du comité d’éthique de la défense de 2021, et qui consiste à distinguer les SALA qui ne pourraient être développés et utilisés conformément au DIH et qui doivent être interdits ([40]), d’une part, et les autres systèmes qui doivent être régulés par la mise en œuvre de mesures appropriées tout au long du cycle de vie du système, d’autre part. La France insiste également pour exclure du champ de l’interdiction les fonctions de bas niveau dépourvues de caractère critique, notamment en ce qui concerne la navigation, la collecte d’information ou la maintenance des systèmes.

Source : annexe III au rapport final adopté suite à la réunion des Hautes Parties contractantes à la CCAC, 13 décembre 2019, CCW/MSP/2019/9, pp. 11-12 (lien internet).

3. L’intensité du contrôle humain, principal point de discussion des négociations

La question du contrôle humain constitue l’un des principaux points de divergence des négociations internationales relatives au SALA. Les discussions conduites dans le cadre de la CCAC portent notamment sur le niveau de contrôle requis et sur le seuil à partir duquel un système d’arme autonome doit être considéré comme incompatible avec le droit international.

Trois notions principales sont aujourd’hui débattues : le contrôle humain effectif, le contrôle humain significatif et le jugement humain approprié. Chacun de ces termes traduit un degré différent d’intervention de l’être humain dans le fonctionnement du système et conduit, en pratique, à définir différemment les systèmes susceptibles d’être interdits. La plupart des États favorables à une interdiction préventive des SALA retiennent la notion de « contrôle humain effectif », qui permet d’inclure les systèmes capables d’engager une action létale sans validation humaine préalable. À l’inverse, le « contrôle humain significatif » renvoie davantage à une logique de supervision générale de l’action du système. Quant au « jugement humain approprié », il vise essentiellement à garantir que le système soit utilisé conformément aux paramètres définis par l’opérateur ([41]).

La France défend une approche fonctionnelle, selon laquelle la nature et l’intensité du contrôle humain doivent être appréciées au cas par cas, en fonction des caractéristiques du système et du contexte opérationnel. Elle considère plus précisément qu’un contrôle humain suffisant suppose, d’une part, « que les êtres humains prennent des décisions éclairées sur le déploiement et l’emploi des armes » et, d’autre part, qu’ils « disposent de suffisamment d’informations pour s’assurer que la force est employée conformément au droit international, compte tenu de ce qu’ils savent de la cible potentielle, des capacités et des caractéristiques de l’arme employée et du contexte opérationnel dans lequel l’arme est déployée » ([42]). Cette position a été réaffirmée dans la déclaration de Paris sur le maintien du contrôle humain dans les systèmes d’armes dotés d’intelligence artificielle, signée le 11 février 2025 par vingt-sept États dans le cadre du sommet de Paris pour l’action sur l’intelligence artificielle ([43]).

Pour le rapporteur, il est indispensable que le futur instrument international consacre l’exigence d’un contrôle humain effectif à toutes les étapes du cycle de vie des SALA. Cette exigence d’un contrôle humain effectif poursuit un objectif fondamental : garantir que le comportement du système demeure prévisible et maîtrisable tout au long de son cycle de vie. À défaut, l’autonomie croissante des systèmes pourrait conduire à une perte de contrôle de l’autorité humaine sur les décisions d’emploi de la force ([44]).

En amont de leur déploiement, ce contrôle implique notamment la vérification de la conformité des critères d’identification des cibles avec le droit international humanitaire ainsi que l’évaluation de la fiabilité, de la prévisibilité et de la compréhension du fonctionnement des systèmes, notamment au moyen de procédures d’essai et de certification des algorithmes.

Lors de l’emploi des systèmes d’armement, l’être humain doit conserver la maîtrise des paramètres essentiels de la mission. Il lui appartient de définir les conditions d’utilisation du système, notamment les catégories de cibles pouvant être engagées, le cadre spatio-temporel de la mission ainsi que les limites de la délégation consentie à la machine. Il doit également être en mesure de modifier ces paramètres en fonction de l’évolution de la situation opérationnelle, de redéfinir les objectifs assignés au système et, à tout moment, d’interrompre ou de désactiver celui-ci.

Enfin, après l’opération, le contrôle humain doit permettre de vérifier le respect des règles du droit international humanitaire et de valider l’exploitation des données collectées par le système, lorsque celles-ci sont susceptibles de conduire à une évolution de ses paramètres ou de son cadre d’emploi.

B. Les négociations en cours doivent se poursuivre afin de soumettre les SALA à des interdictions et des règlementations juridiquement contraignantes

1. Malgré les avancées, les négociations menées dans le cadre de la CCAC restent fragiles

Malgré l’avancée des travaux sur la régulation des SALA, la communauté internationale se montre encore divisée sur le sujet. L’absence de consensus sur la définition des SALA freine une compréhension commune de l’objet en cause. Les négociations se heurtent également à la grande technicité du sujet. Plus fondamentalement, selon le rapporteur, le fonctionnement par consensus de la CCAC risque de compromettre la capacité à aboutir à un instrument juridiquement contraignant à court terme, en raison des divergences entre les États parties à la convention.

De manière schématique, les négociations opposent trois groupes d’États distincts :

– un premier groupe composé d’une vingtaine d’États se positionne en faveur d’une interdiction préventive des SALA à travers l’adoption immédiate d’un instrument juridiquement contraignant. Ce groupe réunit surtout des pays qui ne sont pas en mesure de développer des systèmes autonomes sur le plan industriel et technologique, ou qui sont attachés au désarmement. On retrouve parmi ces États le Mexique et l’Autriche. Leurs revendications rejoignent celles des organisations non gouvernementales et des associations participant à la campagne « Stop Killer Robots » ;

– le deuxième groupe est composé des États-Unis et de certains de ses partenaires, très réticents à toute forme de réglementation dans le domaine des SALA et qui refusent de contraindre leurs programmes capacitaires futurs. Ces États considèrent que le droit international humanitaire fournit un cadre suffisant à l’encadrement des SALA et ne soutiennent donc pas la négociation d’un traité interdisant les armes autonomes ([45]) ;

– un dernier groupe de pays, parmi lesquels figurent l’Allemagne, le Japon, le Royaume-Uni et la France, défend une position médiane. Ces pays promeuvent une compréhension approfondie des SALA, tout en appelant à un engagement de nature politique permettant de faire respecter les principes du droit international humanitaire.

De leur côté, les deux pays qui paraissent les plus avancés dans l’intégration de l’autonomie dans les systèmes d’armement adoptent des positionnements ambigus. Dans une position analogue à celle portée par les États-Unis, la Russie estime que le cadre fourni par le droit international humanitaire suffit actuellement, et s’oppose à tout moratoire sur le développement des SALA. Plutôt que d’opter pour une opposition frontale, la stratégie de la Russie consiste plutôt à faire obstruction à l’avancée des travaux. Elle a ainsi tenté à plusieurs reprises de limiter le nombre de jours consacrés à l’étude des SALA lors des conférences d’examen de la CCAC. En décembre 2023, elle a également voté contre une résolution de l’Assemblée générale des Nations unies relative aux SALA ([46]). La Chine affiche quant à elle une position difficilement lisible : tout en proposant d’interdire l’emploi des SALA, elle favorise les recherches permettant leur développement futur ([47]). Dans les instances internationales, la Chine s’abstient de manière systématique lors de votes portant sur la question du contrôle et de l’interdiction des SALA, aux côtés de la Turquie, de l’Inde et d’Israël ([48]).

2. Il est désormais urgent d’adopter un traité encadrant les systèmes d’armes autonomes

a. La prochaine conférence d’examen des États parties à la CCAC ouvre une fenêtre d’opportunité pour l’adoption d’un instrument international juridiquement contraignant

La dernière réunion du groupe d’experts gouvernementaux s’est tenue en avril 2026. La proposition de résolution européenne présentée par le rapporteur intervient à un moment crucial, le mandat du GEG arrivant à échéance à la fin de l’année 2026. Lors de la conférence d’examen de novembre 2026, les États parties devront ainsi se prononcer sur le texte évolutif en vue d’une éventuelle adoption, ainsi que sur le renouvellement ou non du mandat du GEG.

Pour le rapporteur, il s’agit désormais de mettre en pratique de manière opérationnelle les principes adoptés par le GEG. Aussi la proposition de résolution européenne invite-t-elle la France ainsi que les États parties à la convention sur certaines armes classiques à engager les discussions en vue de l’adoption d’un texte juridiquement contraignant, à l’occasion de la conférence des États parties prévue en novembre 2026, sur la base de la dernière version du texte évolutif adoptée le 5 juin 2026.

Source : Contribution de la France au rapport du secrétaire général des Nations unies sur les systèmes d’armes létales autonomes, op. cit., pp. 62-65.

b. En cas d’échec des négociations, les discussions pourraient se poursuivre en dehors de la CCAC

Lors de son audition, Mme Anne Lazar-Sury a indiqué au rapporteur que les négociateurs français privilégient la poursuite des négociations dans le cadre de la CCAC, en vue d’aboutir à l’adoption d’un protocole additionnel à la CCAC juridiquement contraignant. Le rapporteur estime toutefois que les négociations internationales ne sauraient se limiter à ce seul cadre. À ce jour, rien ne garantit en effet que les discussions conduites au sein de la CCAC aboutissent à un accord juridiquement contraignant.

Les discussions pourraient s’appuyer sur d’autres instances qui se sont déjà positionnées sur le sujet des SALA. C’est notamment le cas de l’Assemblée générale de l’Organisation des Nations unies (AGNU), qui a adopté plusieurs résolutions appelant à une régulation des systèmes d’armes autonomes ([49]). Dans sa résolution 79/239 intitulée « L’intelligence artificielle dans le domaine militaire et ses conséquences pour la paix et la sécurité internationales », elle réaffirme notamment la pleine applicabilité du droit international tout au long du cycle de vie de l’intelligence artificielle et encourage les États à examiner les possibilités et les défis liés à l’utilisation de l’IA dans le domaine militaire. Le secrétaire général des Nations unies a également présenté un rapport sur les possibilités et les défis posés à la paix et à la sécurité internationales par l'application de l'IA dans le domaine militaire. Dans ce rapport, il appelle à l’adoption, d’ici à 2026, d’un instrument juridiquement contraignant visant à interdire les systèmes d’armes autonomes qui fonctionnent en dehors de toute supervision humaine et qui ne peuvent être utilisés conformément aux principes du droit international humanitaire, et à réglementer les autres types de systèmes d’armes autonomes ([50]).

Pour le rapporteur, ces discussions menées au sein de l’AGNU revêtent un véritable intérêt. Elles permettent d’aborder les SALA sous un angle plus large que celui retenu par la CCAC, en intégrant notamment les enjeux de protection des droits humains et la question des systèmes d’armes autonomes non létales susceptibles d’être utilisés dans le cadre d’opérations de maintien de l’ordre ou de contrôle aux frontières ([51]). Si certains États craignent que ces initiatives parallèles ne fragmentent les négociations internationales, elles présentent néanmoins l’avantage de favoriser une participation plus large des États et de mieux articuler la réflexion sur les SALA avec d’autres enjeux du droit international.

Outre les négociations au sein de l’AGNU, l’adoption d’un traité international de régulation ad hoc reste envisageable, sur le modèle des conventions d’Ottawa de 1997 sur les mines antipersonnel ([52]) et d’Oslo de 2008 sur les armes à sous-munitions ([53]), qui ont été adoptées en marge des cadres de négociations traditionnels en matière de désarmement.

Cette solution aurait cependant vocation à être utilisée en dernier recours, les précédents en matière de désarmement invitant à la prudence. La portée de ces réglementations demeure en effet limitée, faute d’inclure les principaux pays concernés. La convention d’Oslo sur les armes à sous-munitions, adoptée en 2008, en constitue une bonne illustration : bien qu’elle compte cent neuf États parties, les principaux détenteurs d’armes à sous-munitions, parmi lesquels les États-Unis, la Russie, Israël, l’Inde ou la Chine, n’y ont pas adhéré. Les initiatives de réglementation ad hoc risquent ainsi d’exclure les États qui disposent des capacités technologiques les plus avancées et les plus réticentes à toute limitation de leurs programmes d’armement.

C’est dans cette perspective que la France, tout en ayant voté en faveur des résolutions 79/239 du 24 décembre 2024 et 80/58 du 1er décembre 2025, a souligné la nécessité de veiller à ce que les consultations informelles engagées sur leur fondement ne dupliquent ni ne fragilisent les travaux conduits dans le cadre de la CCAC ([54]). La France considère en effet que les négociations doivent être conduites dans un cadre véritablement inclusif, afin que les éventuelles contraintes applicables aux SALA s’imposent de manière comparable à l’ensemble des grandes puissances militaires, notamment les États-Unis, la Russie et la Chine.

3. L’Union européenne peut exercer un effet d’entraînement en faveur d’une régulation ambitieuse des SALA

La question de la réglementation des systèmes d’armes létales autonomes a également vocation à s’inscrire dans un cadre européen. Si la conduite des négociations internationales dans ce domaine relève principalement des États membres, l’Union européenne dispose en effet de plusieurs leviers susceptibles de favoriser l’émergence d’une approche commune à l’échelle européenne.

Le Parlement européen s’est déjà positionné sur le sujet des SALA à travers deux résolutions adoptées en 2018 et en 2021 ([55]). Il y invite les États membres et le Conseil européen à élaborer et adopter une « position commune sur les systèmes d’armes létales autonomes, qui garantisse un contrôle humain sur les fonctions critiques des systèmes d’armes, y compris pendant le déploiement, à s’exprimer d’une seule voix dans les enceintes pertinentes et à agir en conséquence ».

Cette convergence apparaît d’autant plus souhaitable que les États membres participent déjà aux travaux du groupe d’experts gouvernementaux de la CCAC, sans pour autant défendre une position commune. Dans un contexte où l’Union européenne s’est dotée d'une stratégie ambitieuse en matière de développement et de régulation de l’intelligence artificielle à travers son règlement sur l’IA adopté en 2023 ([56]), l’émergence d’un consensus européen sur les SALA renforcerait sa capacité d’influence dans les négociations internationales.

L’Union européenne peut également mobiliser ses compétences en matière commerciale pour favoriser un encadrement des SALA. Le Conseil de l’Union européenne définit notamment les règles communes applicables au contrôle des exportations de technologies et d'équipements militaires, lesquelles ont été révisées en avril 2025 ([57]). Dans sa résolution de 2021, le Parlement européen a expressément demandé que cette position commune prenne pleinement en compte les systèmes d’armes fondés sur l’intelligence artificielle et s’applique à leur exportation.

C. Les enrichissements apportés au texte par la commmission des affaires européennes et la commission des affaires étrangères

La version initiale de la proposition de résolution européenne a été examinée par la commission des affaires européennes le 17 juin 2026. Le texte a été enrichi par huit amendements, dont trois émanant du rapporteur, afin notamment de :

– faire référence à l’avis du comité d’éthique de la défense sur l’intégration de l’autonomie dans les systèmes d’armes létales du 29 avril 2021, qui pose les principes directeurs de la doctrine française en matière d’utilisation des systèmes d’armes létales autonomes ([58]) ;

– mentionner les conclusions du Conseil européen du 6 mars 2025 relatives à la défense européenne et rappeler que les réflexions relatives à l’intelligence artificielle appliquée au système de défense s’inscrivent dans un contexte marqué par le renforcement progressif de la coopération européenne en matière de sécurité et de défense ([59]) ;

– introduire la distinction opérée par la France entre les systèmes d’armes létales pleinement autonomes (SALA) dont l’utilisation est jugée inacceptable, d’une part, et les systèmes d’armes létales intégrant de l’autonomie mais demeurant sous maîtrise de l’humain (SALIA) qui peuvent être employés sous réserve d’un encadrement suffisant, d’autre part ([60]) ;

– recentrer l’appel adressé aux États européens sur ceux qui sont parties à la CCAC et mentionner la conférence des États parties qui doit se réunir en novembre 2026 et à l’occasion de laquelle une proposition de texte juridiquement contraignant pourrait être discutée ([61]) ;

– demander une clarification publique et transparente de la position française au sujet de l’intégration de l’autonomie dans les systèmes d’armes létales, afin de contribuer à améliorer la crédibilité de la parole française dans les enceintes internationales ([62]).

Le 15 juillet 2026, la commission des affaires étrangères a ensuite adopté la proposition de résolution européenne ([63]) modifiée par dix amendements. En plus des amendements de cohérence rédactionnelle et d’actualisation présentés par le rapporteur, les modifications apportées au texte visent à :

– mentionner l’avis du 14 janvier 2025 du comité d’éthique de la défense sur l’usage des technologies d’intelligence artificielle par les forces armées ainsi que la déclaration de Paris du 11 février 2025 sur le maintien d’un contrôle humain dans les systèmes d’armes dotés d’intelligence artificielle ([64]) ;

– souligner que la régulation des SALA pourrait à terme ouvrir la voie à des négociations sur un encadrement international des technologies d’automatisation de tous les systèmes d’armes ([65]) ;

– insister sur le fait que l’automatisation croissante des systèmes d’armes et l’absence de régulation dès la conception des algorithmes qu’ils intègrent rendent de plus en plus hypothétique l’effectivité d’un contrôle humain sur toute décision de recours à la force létale ([66]) ;

– appeler le Conseil de l’Union européenne à élaborer une position commune sur le sujet des SALA ([67]) ;

– circonscrire l’objet de la proposition de résolution européenne aux seuls systèmes d’armes présentant un caractère létal ([68]).

Le rapporteur se félicite que, dans le prolongement de la commission des affaires européennes, la commission des affaires étrangères se soit elle aussi prononcée sur la proposition de résolution européenne, afin d’exprimer avec davantage de clarté les attentes de la représentation nationale à l’égard d’une réglementation sur les systèmes d’armes létales autonomes.

Examen en commission

Au cours de sa réunion du mercredi 15 juillet 2026, à 10 heures, la commission a examiné la proposition de résolution européenne en faveur d’un traité juridiquement contraignant prévoyant des interdictions et des réglementations aux systèmes d’armes autonomes et de l’élaboration d’une position commune européenne sur ce sujet (n° 2939).

M. Alain David, président. Chers collègues, je vous prie d’excuser le président de notre commission, qui est allé rejoindre en Pologne, à l’invitation du président Pawel Kował, ses homologues du triangle de Weimar. Eu égard à l’importance de ces relations trilatérales, nous ne pouvons que comprendre qu’il ait répondu présent et je ne doute pas qu’il nous fera part des enseignements de la mission qu’il est parti effectuer.

La proposition de résolution européenne en faveur d’un traité juridiquement contraignant prévoyant des interdictions et des réglementations aux systèmes d’armes autonomes et de l’élaboration d’une position commune européenne sur ce sujet a été déposée sur le bureau de l’Assemblée nationale par nos collègues Pierre Pribetich et Anna Pic, le président Boris Vallaud et les membres du groupe Socialistes et apparentés le 5 mai, avant d’être adoptée par la commission des affaires européennes le 17 juin. En application de l’article 151-6 du règlement de l’Assemblée nationale, notre commission, compétente sur le fond, dispose d’un délai d’un mois à compter de l’examen de la proposition de résolution par la commission des affaires européennes pour l’examiner à son tour et adopter un texte éventuellement modifié.

La proposition de résolution traite de l’un des enjeux les plus sensibles du développement de l’intelligence artificielle dans le domaine militaire, à savoir les systèmes d’armes létales autonomes, dits « SALA ». Le texte invite l’Union européenne (UE) à promouvoir la conclusion d’un traité international juridiquement contraignant qui prévoirait des interdictions et des réglementations en la matière et à élaborer une position commune.

La problématique centrale est la capacité croissante de certains systèmes militaires à sélectionner et à engager des cibles avec un niveau d’autonomie de plus en plus élevé. Cette évolution soulève des questions majeures de droit, d’éthique et de sécurité internationale et pousse à s’interroger sur la recherche des responsabilités en cas de dommages collatéraux ou de violations du droit international humanitaire ainsi que sur le risque de délégation à des machines de décisions impliquant l’usage de la force létale. Le maintien d’un contrôle humain significatif sur les décisions de vie ou de mort est un principe fondamental qui doit être préservé.

L’examen du texte par la commission des affaires européennes a montré l’existence d’un large accord sur la nécessité d’encadrer le développement des armes autonomes. Plusieurs intervenants ont souligné que les progrès rapides de l’intelligence artificielle rendaient urgente l’adoption de règles internationales claires afin d’éviter une course aux armements se caractérisant par l’autonomie des systèmes de combat. Toutefois, des nuances sont apparues quant à la portée de l’encadrement souhaitable. Certains groupes politiques ont insisté sur la nécessité d’interdire les systèmes capables de prendre seuls des décisions létales, estimant qu’une telle délégation serait contraire aux principes du droit international humanitaire. D’autres groupes, en revanche, ont mis en garde contre une réglementation trop restrictive qui pourrait pénaliser les capacités de défense européennes ou freiner l’innovation technologique dans un contexte international marqué par la compétition stratégique et le réarmement de certaines puissances.

À l’échelle internationale, les discussions sur les systèmes d’armes autonomes se déroulent principalement dans le cadre de la convention sur certaines armes classiques (CCAC), sous l’égide d’un groupe d’experts gouvernementaux se réunissant à Genève. L’année 2026 est considérée comme décisive puisque les États parties doivent tenter de s’accorder sur les éléments d’un futur instrument international avant la conférence d’examen de la convention, prévue en novembre. Cependant, les négociations demeurent difficiles. Malgré des avancées récentes, la perspective d’un accord international complet dès 2026 demeure incertaine, même si la pression diplomatique s’accroît à mesure que les technologies concernées se diffusent sur les théâtres de conflit.

La proposition de résolution défend l’idée d’une position européenne commune pour renforcer le poids diplomatique des États membres dans les négociations. L’objectif est de permettre à l’Europe de parler d’une seule voix pour promouvoir un cadre juridique international garantissant à la fois la protection des populations civiles, le respect du droit humanitaire et la maîtrise des usages militaires de l’intelligence artificielle. En définitive, cette proposition de résolution illustre la difficulté de concilier innovation technologique, impératifs de sécurité et exigences éthiques. Elle témoigne en outre de la volonté de faire de l’Union européenne un acteur jouant un rôle moteur dans la définition des règles internationales applicables aux systèmes d’armes autonomes.

Notre collègue Pierre Pribetich va nous faire part du travail qu’il a accompli au sein de la commission des affaires européennes et de ses conclusions dans le cadre du mandat que lui a confié notre commission sur ce texte.

M. Pierre Pribetich, rapporteur. Pendant des siècles, la guerre est restée une tragédie humaine. Demain, elle pourrait aussi faire l’objet de décisions algorithmiques incontrôlables. Ce qui relevait hier encore de la science-fiction, c’est-à-dire l’usage de systèmes d’armes capables d’identifier une cible, de la sélectionner, de décider seuls et de tuer sans intervention humaine, est désormais une perspective bien réelle. L’intelligence artificielle (IA) et ses capacités de calcul assistent dès maintenant le combattant, l’accompagnent pour faciliter son travail. Demain, si nous n’y prenons pas garde, l’intelligence artificielle pourrait remplacer le combattant au moment le plus grave qui soit, celui où l’on décide ou non de donner la mort.

Les progrès réalisés en matière d’intelligence artificielle rendent crédible une telle perspective, qui relevait jusque-là de l’anticipation. En effet, les avancées technologiques réduisent progressivement l’écart entre l’aide à la décision et ce qu’on appelle en électronique et en automatique l’autonomie décisionnelle. Alors que l’IA assiste dès maintenant les opérateurs, elle pourrait concrètement remplacer l’humain dans des décisions de ciblage et d’ouverture du feu. Une levée de fonds incroyable a eu lieu avant-hier pour une start-up fondée en 2021, Helsing, qui développe des logiciels d’IA pour les forces armées et, surtout, les drones autonomes, les fameux HX-2. Cette société a levé en très peu de temps 1,6 milliard d’euros. On mesure bien l’intérêt des constructeurs, notamment, pour de tels accompagnements et facilités technologiques.

La guerre d’agression menée par la Russie contre l’Ukraine illustre aussi, hélas, cette dynamique. Le conflit a accéléré le développement et le déploiement de fonctions autonomes intégrées à des drones et à d’autres systèmes de défense, en démontrant à la fois l’intérêt opérationnel de ces technologies, leur faible coût et la rapidité à laquelle elles évoluent. La guerre menée par la Russie montre que les évolutions dans ce domaine ne sont pas que théoriques. Les drones autonomes, les fonctions d’intelligence artificielle dites embarquées et l’accélération permanente de l’innovation militaire changent totalement la manière de faire la guerre. L’asymétrie du conflit, au départ, a forcé les Ukrainiens à utiliser de nouvelles armes, dites low cost, comme les drones, et leur génie a transformé un conflit asymétrique classique en une nouvelle forme de guerre. Les coûts ont diminué et les capacités se sont accrues mais les garde-fous peinent à suivre. Comme en 1968, l’imagination est au pouvoir. La résistance du peuple ukrainien alimente sa créativité.

La question dépasse largement l’application de la technologie. Elle est d’abord profondément politique, d’où le rôle qu’il nous revient de jouer. Mais elle est surtout éthique, voire philosophique. Depuis Platon, nous savons que la force ne peut être légitime que lorsqu’elle demeure au service de la justice. Or une machine ne connaît ni la justice, ni le doute, ni la responsabilité. C’est pourquoi la décision de donner la mort ne peut jamais, à mon sens, lui être abandonnée. Le développement de ce qu’on appelle les armes autonomes létales soulève donc des interrogations majeures.

Une question éthique fondamentale se pose, car la décision de recourir à la force létale constitue l’une des responsabilités les plus graves qui peuvent incomber à un être humain. Déléguer une telle décision à une machine dépourvue de conscience morale reviendrait à franchir un seuil inédit dans l’histoire de la guerre.

Les enjeux sont également stratégiques. L’autonomisation croissante des armements pourrait contribuer à abaisser le seuil du recours à la force en réduisant le coût humain immédiat des opérations militaires. Cela risque aussi d’alimenter une course mondiale sans fin aux armements reposant sur l’intelligence artificielle tout en favorisant la prolifération de ces technologies, y compris entre les mains d’acteurs non étatiques.

Ces préoccupations sont d’autant plus fortes que les systèmes d’armes létales autonomes ne font actuellement l’objet d’aucun instrument international juridiquement contraignant qui leur serait spécifiquement consacré. Certes, les SALA, autrement appelés robots tueurs, sont réputés se conformer au droit international humanitaire issu des conventions de Genève de 1949 et de leurs protocoles additionnels. Comme l’a rappelé la Cour internationale de justice, dans un avis consultatif de 1996, la nouveauté d’une arme ne permet pas de s’affranchir des règles existantes du droit international applicable aux conflits armés. Les systèmes d’armes autonomes demeurent donc soumis au droit international humanitaire, en particulier les principes de distinction, de proportionnalité et d’humanité. Toutefois, l’effectivité de ces principes apparaît difficilement conciliable avec le développement de systèmes susceptibles d’agir sans intervention humaine. Leur autonomie décisionnelle soulève une difficulté supplémentaire : celle de l’attribution juridique de la responsabilité en cas de violation internationale du droit humanitaire.

Consciente de ces enjeux, la communauté internationale a engagé dès 2013 des discussions dans le cadre de la convention sur certaines armes classiques. Cette enceinte, qui réunit 126 États parties, constitue peut-être le cadre de négociation le plus approprié pour répondre aux questions juridiques et éthiques soulevées par les systèmes d’armes autonomes. Elle a en effet deux atouts majeurs. D’une part, elle offre une représentation équilibrée de l’ensemble des acteurs concernés, y compris les États dotés des capacités les plus avancées sur le plan technologique, comme les États-Unis, la Russie et la Chine. D’autre part, son architecture juridique permet l’adoption de protocoles additionnels à la convention-cadre de 1980.

Les négociations menées sous la conduite d’un groupe d’experts gouvernementaux ont permis plusieurs avancées importantes, auxquelles la France a largement contribué. Elles ont ainsi fait émerger progressivement un consensus autour d’un socle de principes directeurs, synthétisé dans un texte évolutif présenté lors de la conférence d’examen de novembre 2024, onze ans après le début des négociations, puis régulièrement actualisé. Ces principes réaffirment que le droit international humanitaire s’applique pleinement aux systèmes d’armes dotés d’une autonomie et que leur emploi doit toujours relever d’une responsabilité humaine. Endossées par consensus, ces orientations posent la base d’un futur instrument juridique contraignant. Toutefois, les discussions restent fragiles. Les États parties restent profondément divisés, tant sur la définition même de ce qu’on appelle les robots tueurs que sur la pertinence d’un futur traité international. Certains États plaident pour une interdiction de ces systèmes tandis que d’autres privilégient de simples lignes directrices non contraignantes, et le fonctionnement par consensus dans le cadre de la CCAC complique toute avancée rapide.

La prochaine conférence d’examen de la convention, prévue en novembre 2026, constituera une échéance déterminante. Les États parties devront notamment se prononcer sur le renouvellement du mandat du groupe d’experts gouvernementaux chargé de conduire les négociations. C’est dans cette perspective et dans le respect de la séparation des pouvoirs entre l’exécutif, le législatif et l’autorité judiciaire que s’inscrit la proposition de résolution qui nous est soumise.

Elle appelle à l’adoption d’un traité international juridiquement contraignant au sujet des robots tueurs, qui devrait interdire les systèmes ne pouvant être développés ou employés, du fait de leur nature, dans le respect du droit international humanitaire. Le traité viserait également à encadrer les systèmes dotés de fonctions d’autonomie en garantissant un contrôle humain effectif tout au long de leur cycle de vie, de leur conception à leur emploi opérationnel. Ce contrôle ne saurait être purement formel. Il suppose que l’autorité humaine conserve une compréhension suffisante du fonctionnement du système, exerce une véritable supervision et puisse arrêter son action avant tout recours à la force létale.

L’action internationale ne saurait toutefois se limiter au seul cadre offert par la CCAC. D’autres instances, qui offrent plus largement un cadre propice à une réglementation ambitieuse des systèmes d’armes autonomes, se sont en effet saisies de la question. L’Assemblée générale des Nations unies a ainsi adopté en 2024 et 2025 plusieurs résolutions qui témoignent d’une volonté de faire progresser les réflexions. L’Union européenne a aussi un rôle essentiel à jouer. Le Parlement européen s’est déjà prononcé sur les robots tueurs en 2018 et 2021. L’émergence d’une position européenne commune renforcerait considérablement la capacité de l’UE à peser dans les négociations internationales et à promouvoir une réglementation conciliant les impératifs stratégiques, le respect du droit international humanitaire et les exigences éthiques qui fondent le droit des conflits armés.

L’innovation technologique ne peut se faire au détriment de nos principes fondamentaux. Il est de notre responsabilité de législateur, dans le respect de la séparation des pouvoirs, d’anticiper les évolutions afin que le progrès scientifique demeure compatible avec les exigences du droit international humanitaire et avec les valeurs que, je crois, nous défendons tous. Je vous invite donc à adopter cette proposition de résolution européenne.

M. Alain David, président. Nous en venons aux interventions des orateurs des groupes.

M. Michel Guiniot (RN). Cette proposition de résolution européenne vise à promouvoir la conclusion d’un traité juridiquement contraignant qui prévoirait des interdictions et des réglementations au sujet des systèmes d’armes autonomes et à demander l’élaboration d’une position commune européenne en la matière.

Avec l’avènement de l’intelligence artificielle, qui devient omniprésente dans notre quotidien, il est tout à fait légitime de se demander où est et, plus encore, où sera la limite dans ce domaine. Si l’IA remplace peu à peu l’homme dans ses tâches administratives et ses corvées, est-il envisageable de l’inclure également dans les missions les plus risquées, pour se substituer à l’humain sur le champ de bataille, voire prendre l’initiative d’ôter une vie ? La première des lois de la robotique établies en 1942 par Isaac Asimov était qu’un robot ne peut porter atteinte à un être humain. L’idée qu’un robot pourrait atteindre ce degré d’autonomie relevait alors de la science-fiction, mais nous y sommes. Nous avons appris en juin 2026, par le biais de l’ambassade d’Ukraine, que ce type de robot fonctionne depuis 2024, en dehors de tout cadre juridique. La guerre menée en Ukraine se déshumanise ainsi au plus haut point.

La France s’oppose catégoriquement au développement de systèmes d’armes létales autonomes depuis 2019. En soutenant la présente proposition de résolution, le Rassemblement national ne fait que défendre cette ligne sur le plan international. Si une action létale autonome est tolérée en période de guerre, quand se posera-t-on la question pour les temps de paix ? Malgré notre soutien au texte, nous regrettons que la position de la France soit une fois encore diluée au sein d’une doctrine européenne.

M. Pierre Pribetich, rapporteur. Merci pour votre soutien à la proposition de résolution. Nous ne partageons pas, chacun le sait, certaines positions, notamment en ce qui concerne l’Europe, mais les vôtres doivent aussi être respectées.

M. Vincent Ledoux (EPR). Je tiens à saluer le travail mené par le rapporteur, qui est vraiment très éclairant à propos des enjeux et a le mérite de mettre en avant une question qui ne relève plus, cela a été dit, de la science-fiction mais de l’actualité stratégique. L’essor de l’intelligence artificielle dans le domaine militaire nous oblige à réfléchir dès aujourd’hui au cadre juridique, éthique et politique qu’il faudrait construire. Nous partageons tous, je crois, la conviction qu’aucun système d’armes ne devrait pouvoir décider seul de la vie ou de la mort d’un être humain. Le maintien d’un contrôle humain constitue un principe essentiel auquel la France est profondément attachée.

L’examen des travaux conduits depuis plusieurs années dans le cadre de la convention sur certaines armes classiques montre que notre pays, comme vous l’avez souligné, monsieur le rapporteur, joue un rôle moteur dans la réflexion internationale. Il est important que le Parlement accompagne cette dynamique et je me réjouis à cet égard que les travaux de la commission des affaires européennes aient permis de clarifier plusieurs points importants, comme la distinction entre les systèmes d’armes létales pleinement autonomes et les systèmes intégrant des fonctions d’autonomie mais demeurant sous contrôle humain.

Vous avez relevé que les négociations opposent actuellement trois blocs. Une vingtaine d’États plaident, à l’instar du Mexique et de l’Autriche, pour une interdiction immédiate. Les États-Unis jugent au contraire que le droit international humanitaire est suffisant. La France, l’Allemagne, le Royaume-Uni et le Japon défendent une position médiane, tandis que la Russie et la Chine oscillent entre obstruction et abstention. Un traité ambitieux risque donc de ne rassembler que des États déjà convaincus, ce qui pourrait conduire à une sorte d’asymétrie stratégique. Comment voyez-vous les possibilités de conciliation entre la nécessaire ambition normative et l’objectif d’universalité, également indispensable pour qu’un futur traité soit efficace ? Quels leviers diplomatiques la France et l’Union européenne pourraient-elles employer pour entraîner les grandes puissances dans leur démarche et éviter de voir émerger un cadre qui ne s’imposerait qu’à une partie des acteurs ?

M. Pierre Pribetich, rapporteur. Monsieur le député du Nord, merci pour vos propos élogieux. Le professeur d’université que je suis adresse à l’université qui l’a formé, Lille 1, ses compliments.

Beaucoup, voire une large majorité d’entre nous sont très circonspects, notamment en raison des risques de dérive concernant le contrôle humain sur les robots tueurs.

Il faut bien distinguer la position de la France dans les discussions, complexes, qui sont en cours et risquent de ne pas aboutir même si les échos sont plutôt positifs pour l’instant et la position qu’il nous revient d’exprimer en nous faisant la voix du Parlement. Bien qu’il y ait parmi nous d’anciens membres du gouvernement, nous ne faisons pas partie de l’exécutif. La question qui nous est posée porte sur ce que nous souhaitons en tant que législateur. La position adoptée par l’Assemblée nationale reviendra bien sûr à donner une indication à l’exécutif mais celui-ci n’en prendra pas ombrage dans le cadre de la séparation des pouvoirs. Nous n’avons pas un rôle de négociateur et notre position, à moins que des arguments de très bas niveau soient employés, ne pourra pas être utilisée contre la France. Il s’agit simplement d’appeler à la conclusion d’un traité international en suivant différentes étapes, notamment au niveau de l’Union européenne.

À cet égard, je crois sincèrement, pour y avoir siégé, que le Parlement européen pourra se saisir de notre position, qui jouera un rôle important si elle est largement partagée. Lui-même, compte tenu de son mode de fonctionnement, différent du nôtre, pourra adopter une position beaucoup plus forte, comme il l’a déjà fait en 2018 et 2021. Notre collègue Emmanuel Maurel y a d’ailleurs beaucoup contribué en tant que parlementaire européen.

Il faut voir sous un angle positif la démarche qui nous est proposée. Ce n’est pas un acte de défiance à l’égard de l’exécutif mais une manière d’exprimer le choix de notre Assemblée, d’une manière indépendante. Ce sera ensuite à l’exécutif d’utiliser finement cette prise de position – je n’ai pas de doute sur ce point, connaissant la qualité de nos diplomates – pour faire avancer les négociations et aboutir à un accord.

M. Aurélien Saintoul (LFI-NFP). Les trois risques associés aux systèmes d’armes létales autonomes – la perte de contrôle, la corruption du système par des biais, la dilution de la responsabilité des belligérants – sont désormais bien identifiés dans les rangs des politiques, des juristes, des militaires et des ingénieurs.

Pour ce qui est de la perte de contrôle, de nombreuses alertes ont été lancées par des ingénieurs de renom, quant au risque de voir des intelligences artificielles s’affranchir du cadre qui leur était initialement assigné, au point de menacer leurs opérateurs humains. Un tel scénario ne peut évidemment pas être accepté par une armée, pas même dans sa version la moins critique, celle d’un débordement de la planification.

Il est par ailleurs impossible d’exonérer les systèmes de tout biais, puisque les intelligences qui les conçoivent, qu’elles soient humaines ou artificielles, ne peuvent elles-mêmes être exemptes de biais.

Enfin, pour éviter la dilution de la responsabilité, il est nécessaire de garantir la présence d’un humain dans la boucle de décision, mais ce n’est pas suffisant, comme le montrent les usages de l’intelligence artificielle. Dans un article publié en mai, le chercheur israélien Ori Schwarz est revenu sur l’utilisation par l’armée israélienne de programmes de désignation de cibles appelés, avec une ironie cruelle, Lavender et Gospel, en montrant que les propositions de frappe n’étaient parfois validées qu’en vingt secondes, et que ces systèmes n’apportaient que des justifications purement formelles à des frappes massives manifestement contraires au droit international humanitaire.

De fait, c’est l’ensemble des usages militaires de l’IA qui devraient faire l’objet d’une réglementation internationale, même si les implications en matière de contrôle international seraient tellement fortes et nombreuses qu’une telle ambition peut sembler utopique. L’ouverture de négociations sur les SALA sera un point d’appui bienvenu.

Nous regardons toutefois ces négociations avec réserve, bien conscients que leur cadre, la convention sur certaines armes classiques, est idéal pour les États faussement bénévolents qui souhaiteraient enliser les discussions.

Enfin, les liens qui pourraient exister entre SALA et contrôle des armes nucléaires pourraient faire l’objet d’une réflexion conjointe et remettre autour de la table les États dotés qui, depuis trop longtemps, organisent la régression du contrôle des armements.

M. Pierre Pribetich, rapporteur. Je partage votre point de vue et vos craintes, notamment concernant la dilution de la responsabilité humaine. La question de la régulation de l’usage de l’IA dans les forces armées est un véritable problème, que la commission de la défense nationale et des forces armées doit embrasser encore et encore, car elle ne relève pas que de l’exécutif, mais aussi du législateur.

Toutes les bonnes volontés seront utiles pour mieux cadrer les choses et éviter la dilution de la responsabilité humaine – outre les articles auxquels vous faites référence, je pense aux travaux concernant les champs de bataille au Moyen-Orient qui ont montré que, faute de règles du droit international humanitaire, donc de contrôle des systèmes, toutes les dérives imaginables ont eu lieu.

J’ai été interpellé par des responsables scientifiques sur une question juridique : en cas d’infraction, qui devra être jugé responsable ? Celui qui a conçu le système d’armes létales dit autonome, celui qui l’a commandé, ou celui qui a décidé de l’employer ? Le problème se pose dans les laboratoires, les industries, chez les fournisseurs du secteur de la défense et l’on ne peut se contenter de le glisser sous le tapis. Rappelons que, dans d’autres champs, le concepteur d’un produit peut, comme c’est légitime, être jugé pénalement responsable à titre individuel des dommages que son produit cause – en effet, la responsabilité collective n’existe pas en matière pénale.

Une start-up du secteur a réussi à lever 1,6 milliard d’euros. Un tel montant révèle l’appétit, voire l’avidité, que suscitent ces systèmes et leur potentiel lucratif. Cela doit nous interpeller : en tant que législateur, nous devons fixer un cadre.

M. Jean-Louis Roumégas (EcoS). Je remercie le rapporteur pour la conviction avec laquelle il défend cette proposition de résolution européenne. Notre groupe la soutiendra. Les progrès de l’intelligence artificielle ont décuplé les possibilités de systèmes d’armes capables de sélectionner et de tirer sur une cible sans intervention humaine, mais pouvons-nous accepter qu’une machine tranche de façon autonome une question de vie ou de mort ?

Depuis 2013, la mobilisation de la société civile, des chercheurs et des organisations non gouvernementales a permis d’inscrire cette question à l’agenda des Nations unies. L’Autriche a joué un rôle précurseur, en amenant ce débat dans la convention sur certaines armes classiques et en défendant l’ouverture de négociations sur un instrument juridiquement contraignant.

Alors que l’Autriche vient d’être élue membre non permanent du Conseil de sécurité des Nations unies, la France doit l’épauler et soutenir son initiative, en tant que membre permanent et hôte du sommet pour l’action sur l’intelligence artificielle. La mobilisation est d’autant plus urgente que les usages militaires de l’IA ne relèvent pas du tout de la science-fiction. La chercheuse Amélie Férey et la coalition Stop Killer Robots ont montré les ravages causés par l’automatisation exponentielle du ciblage par l’IA, lors de la guerre à Gaza. Les systèmes Lavender, Gospel ou Where’s Daddy permettent de traiter un grand nombre de données et de désigner rapidement des cibles potentielles, en ne laissant que quelques secondes aux donneurs d’ordre pour vérifier la fiabilité des informations et les potentielles violations du droit international. Dans les procédures de ciblage à Gaza, l’IA était supposée n’apporter qu’une aide à la décision. En réalité, la confiance placée dans la technologie est telle que le travail de vérification n’est pas effectué et que les préventions éthiques sautent, a fortiori dans un contexte où la chaîne de commandement exige une cadence de frappe élevée.

La France affirme refuser les armes qui échappent à tout contrôle humain, mais sa doctrine demeure insuffisamment claire, notamment pour les cas où le degré d’automatisation des armes serait modulé en fonction des circonstances. Nous demandons donc que le travail doctrinal engagé sur l’usage de l’IA dans les armées associe plus étroitement militaires, chercheurs, parlementaires et organisations non gouvernementales (ONG), pour poser les bases de règles d’engagement communes.

Cette proposition de résolution européenne pose des principes, notamment celui de l’obligation d’un « contrôle humain effectif sur toute décision de recours à la force létale », et suggère d’interdire les systèmes qui ne les respecteraient pas. Elle fixe un cadre pour échanger sur la doctrine d’emploi de nos forces, en prenant acte collectivement des risques que fait courir l’intelligence artificielle et en posant des conditions à son développement. Pour le groupe Écologiste et social, aucune décision de tuer ne doit être abandonnée à une machine.

M. Pierre Pribetich, rapporteur. Je vous remercie d’avoir rappelé des principes qui, je l’espère, font l’unanimité dans notre assemblée. Les propositions avancées par des outils d’aide à la décision doivent faire l’objet d’un travail de vérification. Or, pour l’heure, aucune règle du droit international ne sécurise un tel travail. Il faut donc garantir un « contrôle humain effectif » ; nous reviendrons sur cette notion essentielle lors de la discussion des amendements.

Vous appelez à juste titre le législateur à définir une doctrine concernant, notamment, la modulation du degré d’autonomie des armes létales lors des engagements. La commission de la défense nationale et des forces armées a la responsabilité d’encadrer les pratiques, conformément aux règles du droit humanitaire international. En entretenant le flou, nous laisserions la part belle à toutes les dérives. Il ne suffit pas de prendre un ton mesuré ; il faut définir le droit, pour mieux contrôler les choses.

Vous avez cité à juste titre l’action de l’Autriche, dont la position diffère de celle de notre pays. Nous avons intérêt à nous saisir de ce débat, pour mieux définir le contrôle humain effectif et encadrer les pratiques.

M. Frédéric Petit (Dem). Je vous remercie d’avoir rappelé les rôles respectifs du Parlement et de l’exécutif ; c’était important.

Vous connaissez l’actualité et l’histoire de ma circonscription. Les interrogations sur l’automatisation de l’usage de la force létale ne datent pas de 2013. Elles s’imposaient déjà à l’époque du rideau de fer – de fait, il suffisait alors qu’un chauffeur d’un camion oublie de se signaler pour qu’il se fasse automatiquement descendre.

Rappelons en outre qu’une fois qu’un missile nucléaire est lancé, il n’est plus possible de revenir en arrière. Là aussi, tout se fait de manière automatique.

La deuxième notion-clé de ce débat est celle de responsabilité humaine ; or l’humain est parfois inhumain – je pense aux safaris « humains », lors desquels des soldats s’amusent à descendre des civils à 10 kilomètres avec des minidrones à fibre optique.

Qui dit responsabilité dit obligations et suivi du respect de celles-ci. C’est ici que le travail parlementaire pourra être utile.

Notre groupe se veut prudent. Nous sommes d’accord, la régulation doit être décidée dans le cadre international le plus large possible. Nous soutiendrons donc cette proposition de résolution européenne. Même si, en particulier à notre époque, le travail pour construire le droit international est lent, il est essentiel.

M. Pierre Pribetich, rapporteur. Alors que nous autres, parlementaires, travaillons bien souvent dans l’urgence, de telles questions éthiques et politiques imposent effectivement de prendre le temps du débat et de la réflexion.

Agir, c’est toujours assumer les conséquences de ses décisions. Or il serait difficile de concilier la responsabilité politique – si chère à Gramsci et à ceux qui comme moi ont une filiation socialiste – et le choix de confier une décision létale à un algorithme.

Les technologies d’aide à la décision posent problème. Les concepteurs de véhicules dits autonomes le savent, parce que, malgré tous les entraînements, un véhicule peut écraser un cycliste qui traverse de manière inattendue. Toute œuvre humaine est perfectible. Ce serait folie de penser qu’un outil bien conçu résout tous les problèmes. Nous avons donc le devoir moral de garantir un contrôle humain effectif des armes létales.

En cas d’emballement du système, qui sera responsable sur le plan juridique ? Le donneur d’ordre ? Le concepteur ? L’acheteur du système ? Celui qui a lancé le programme de recherche permettant de le concevoir ?

Vous mentionnez, à juste titre, la question du suivi. Nous espérons qu’en novembre 2026, nous aurons avancé en direction d’un traité, même si, malheureusement, rien ne le garantit. Je ne peux que partager la prudence de votre groupe et votre souci de renforcer le droit international humanitaire. Toutefois, la prudence ne doit pas retarder le débat, ni nous empêcher d’exercer notre rôle de parlementaire.

Mme Dieynaba Diop (SOC). L’intelligence artificielle transforme déjà profondément les conflits armés : elle peut assister les militaires dans l’analyse, le renseignement et la protection des forces. Toutefois, une ligne rouge ne doit jamais être franchie : celle qui consiste à laisser une machine décider de la vie ou de la mort d’un être humain. C’est précisément l’enjeu des systèmes d’armes létales autonomes. Derrière la prouesse technologique se cache un bouleversement éthique, juridique et politique majeur. Lorsque la décision de tuer est confiée à un algorithme, qui répond des erreurs ? Les conflits en Ukraine et à Gaza montrent que ces technologies ne relèvent plus de la science-fiction ; elles sont déjà utilisées. Plus nous attendons, plus il sera difficile de fixer les règles.

Nous soutenons donc cette proposition de résolution européenne, qui affirme une exigence simple : le maintien d’un « contrôle humain significatif » sur toute décision de recours à la force létale et l’ouverture de négociations internationales en vue d’aboutir à un traité « juridiquement contraignant prévoyant des interdictions et des réglementations aux systèmes d’armes autonomes ».

L’Europe a une responsabilité particulière. Elle ne peut pas se contenter d’être spectatrice d’une course mondiale aux armements guidée par la seule logique de puissance. Elle doit être une force motrice pour défendre le droit international, protéger les populations civiles et rappeler que l’innovation technologique ne peut jamais s’affranchir des principes fondamentaux de notre humanité.

M. Pierre Pribetich, rapporteur. Merci. Qui doute encore de l’unité de vue au sein du Parti socialiste ? (Sourires.)

Oui, la démarche est importante. Pour l’heure, l’humanité n’a pas encore officiellement franchi la ligne rouge qui consiste à affranchir des décisions létales de tout contrôle humain. Toutefois, si nous n’accélérons pas la construction du droit international humanitaire, cette frontière sera franchie allégrement. Pendant des décennies, la France a promu une amélioration du droit humanitaire ; poursuivons en ce sens.

Mme Charlotte Parmentier-Lecocq (HOR). Le groupe Horizons & indépendants partage pleinement la préoccupation qui anime cette proposition de résolution européenne.

La possible émergence de systèmes d’armes létales pleinement autonomes, capables de sélectionner et d’engager une cible sans intervention humaine soulève des questions éthiques, juridiques et humanitaires. La perspective que le discernement humain soit exclu d’une décision de vie ou de mort est inacceptable.

Le maintien d’un contrôle humain effectif sur l’usage de la force létale constitue une ligne rouge pour notre groupe. La France affiche cette préoccupation depuis longtemps ; c’est à son initiative que la question des systèmes d’armes létales autonomes a été inscrite à l’ordre du jour des Nations unies dès 2013, dans le cadre de la convention sur certaines armes classiques. Cette convention constitue actuellement le principal cadre multilatéral de négociations en la matière, parce qu’elle réunit les États qui développent ou sont susceptibles de développer ces technologies. Elle est l’enceinte la plus pertinente pour élaborer des règles universelles et juridiquement contraignantes.

Nous devons également éviter toute confusion. Proscrire les systèmes pleinement autonomes, qui échappent à tout contrôle humain, est une chose ; interdire indistinctement toute arme intégrant une part d’autonomie en est une autre. Les fonctions d’autonomie partielle, lorsqu’elles demeurent sous contrôle humain, apportent des avantages opérationnels essentiels, notamment pour la protection de nos militaires et l’efficacité de nos armées.

Nous serons donc particulièrement attachés à préserver l’équilibre trouvé dans la rédaction actuelle du texte. Il faut défendre un cadre juridique exigeant pour les systèmes pleinement autonomes, tout en préservant les capacités d’innovation et notre autonomie stratégique. Sous cette réserve, notre groupe votera en faveur de la présente proposition de résolution européenne.

M. Pierre Pribetich, rapporteur. Au nom de l’équilibre, vous marquez la distinction entre les SALA et les SALIA (systèmes d’armes létales intégrant de l’autonomie).

Quoi qu’il en soit, nous convergeons tous ici pour considérer que l’absence de contrôle humain sur la décision létale est une ligne rouge, qu’il ne faut pas franchir.

Bien sûr, pour négocier l’établissement de règles contraignantes dans le droit international, mieux vaut s’appuyer sur une position mesurée, maîtrisée, mais n’oublions pas non plus d’indiquer le chemin.

Je pense que nous convergerons vers une position qui correspondra entièrement ou quasi entièrement à vos souhaits.

M. Laurent Mazaury (LIOT). Nous débattons non d’une simple avancée technologique, mais de l’avenir de l’humanité. La proposition de résolution européenne qui nous est soumise n’est pas un texte parmi d’autres. C’est un cri d’alarme, un cri contre la folie d’un monde où des machines pourraient décider de la vie ou de la mort ; un cri pour l’Europe, pour la France et pour nos valeurs.

Je voterai à nouveau pour cette proposition de résolution européenne avec la fermeté de celui qui refuse de voir l’humanité s’effacer devant l’algorithme. Comment accepter que des robots tueurs remplacent le jugement humain, que des lignes de code décident du sort des vies humaines ? Les SALA ne sont pas des armes comme les autres, car elles nient l’humanité elle-même. Le droit international humanitaire exige un contrôle humain sur l’usage de la force, point final. La responsabilité morale ne peut être diluée dans des circuits électroniques. La dignité humaine ne se négocie pas. Accepter les SALA, c’est accepter l’impunité et ouvrir la porte à un monde où personne ne répondrait plus de rien. C’est absolument inacceptable.

Nous ferons tout pour que la France ne soit pas complice de cette dérive. Certains demanderont à quoi bon interdire ces armes, si d’autres ne le font pas. Je leur répondrai : à quoi bon exister, si ce n’est pas pour défendre ce en quoi nous croyons ?

L’histoire le prouve, les traités internationaux changent les règles du jeu – pensons aux mines antipersonnel et aux armes chimiques. L’Europe a le pouvoir de fixer des standards. La France, membre permanent du Conseil de sécurité des Nations unies, a un devoir : porter cette voix avec fierté et détermination.

Notre force n’est pas la course à l’armement, mais la course à la normativité. Nous ne sommes pas condamnés à subir la loi du plus fort. Nous sommes condamnés à être les plus intelligents, les plus humains, les plus déterminés. Le temps presse. Le mandat du groupe d’experts gouvernementaux expire en novembre 2026. Nous avons une base, le texte évolutif du 5 juin 2026. Nous avons une légitimité : la France et l’Europe ont toujours été en première ligne pour la paix et le droit. Nous avons une urgence : ne pas laisser le vide juridique s’installer. L’Europe doit parler d’une seule voix, une voix forte, claire, intransigeante. Le contrôle humain sur les armes létales n’est pas négociable.

Non, la France ne transigera pas. Non à la délégation de la décision de vie et de mort à une machine. Non à la dilution de la responsabilité. Non à la guerre sans âme. Les SALA ne sont pas une fatalité. Elles sont le résultat de choix politiques. Nous disons stop.

J’appelle chacun d’entre vous à en faire autant, parce que l’histoire ne retient pas les indécis. Elle retient ceux qui ont le courage de dire « assez ! ». L’Europe sera le rempart de l’humanité. Bâtissons ce rempart tous ensemble.

M. Pierre Pribetich, rapporteur. Je vous remercie pour la force de votre plaidoyer. Que l’on soit d’accord ou non avec l’action de Charles de Gaulle, je conseille à chacun d’aller au cinéma voir La Bataille de Gaulle, car ce film rappelle la détermination de cet homme et sa capacité à refuser les fausses évidences, en des temps incertains.

Contrairement à ce que certains prétendent, il n’est pas évident qu’il faille intégrer l’autonomie dans les armes. Il faut pousser un cri d’alarme au nom de nos valeurs. C’est l’honneur de la France de défendre de telles règles dans un moment de bascule ; elle est ainsi fidèle à elle-même.

La somme de 1,6 milliard d’euros levée par la start-up Helsing doit nous alerter sur la nécessité d’agir et d’éviter l’indécision, qui conduirait à un accord au rabais. Soit nous intégrons l’autonomie, soit nous ne l’intégrons pas.

M. Alain David, président. Je rappelle que le texte adopté par notre commission sera soit appelé à être débattu en séance publique, soit réputé définitivement adopté à défaut d’une demande d’inscription à l’ordre du jour de l’Assemblée lors de la conférence des présidents. Une telle demande doit être formulée dans un délai de quinze jours francs à compter de la publication du texte adopté aujourd’hui.

*

Texte de la proposition de résolution européenne

Amendement AE1 de M. Aurélien Saintoul

M. Aurélien Saintoul (LFI-NFP). Cet amendement tend à ajouter un visa. L’évocation de la position du comité d’éthique de la défense est toujours rapportée à sa première expression, or sa deuxième délibération de février 2025 marque une inflexion problématique : au lieu de s’en tenir à la position initiale, qui excluait l’autonomisation, elle introduit la distinction de l’automatisation et préconise une flexibilité dans l’automatisation des systèmes et la possibilité de moduler le degré d’automatisation selon les circonstances. Elle ouvre donc la voie à ce que les ingénieurs de l’armement appellent parfois des contrats d’autonomie, lesquels posent des problèmes très proches de ceux des SALA. C’est aussi l’objet de ce texte que d’apporter des réponses à l’ambiguïté introduite par cette nouvelle délibération.

M. Pierre Pribetich, rapporteur. Le 14 janvier 2025, le comité d’éthique de la défense a rendu un avis sur l’usage des technologies d’intelligence artificielle pour les forces armées ; s’il ne concerne pas spécifiquement les systèmes d’armes autonomes, cet avis comporte des recommandations transversales sur la manière d’intégrer l’IA dans les systèmes militaires sans compromettre les valeurs fondamentales de responsabilité et de contrôle humain.

Parmi les six principes directeurs qu’il a dégagés, le comité rappelle que les technologies d’IA utilisées dans ou pour les opérations militaires sont régies par les règles du droit international humanitaire. Il s’inscrit ainsi dans la continuité de son précédent avis de 2021 sur l’intégration de l’autonomie dans les systèmes d’armes létales – je dis bien « systèmes d’armes létales » car ce ne sont pas les systèmes qui sont létaux, ce sont les armes – sur lequel le gouvernement français s’est fondé pour élaborer sa doctrine en matière de robots tueurs, dits SALA. Il me semble pertinent de le mentionner dans les visas. Avis favorable.

La commission adopte l’amendement.

Amendement AE2 de M. Aurélien Saintoul

M. Aurélien Saintoul (LFI-NFP). J’avoue être perplexe devant la décision de vote de certains de nos collègues s’agissant d’un simple visa prenant acte d’une délibération. Je vois le degré de sectarisme qui a pu les motiver à refuser un amendement déposé par un membre de La France insoumise. Je me pourlèche déjà les babines à les voir refuser ce visa qui propose de prendre acte de la déclaration de Paris sur le maintien du contrôle humain dans les systèmes d’armes dotés d’intelligence artificielle, qui a été rendue publique à l’issue d’un sommet organisé par le président de la République sur l’intelligence artificielle. J’ai hâte de voir avec quelle cohérence ils vont défendre leur position.

M. Pierre Pribetich, rapporteur. Pour rappel, la déclaration de Paris sur le maintien d’un contrôle humain dans les systèmes d’armes dotés d’intelligence artificielle a été signée le 11 février 2025 par vingt-sept États dans le cadre du sommet de Paris pour l’action sur l’intelligence artificielle, dont le président de la République est le promoteur. À travers cette déclaration, ces États ont rappelé leur engagement à ne pas utiliser les systèmes d’armes létales fonctionnant en dehors de tout contrôle humain et d’une chaîne de commandement responsable. Ce texte réaffirme un principe simple : la responsabilité et la redevabilité humaines ne peuvent jamais être transférées à des machines. La déclaration de Paris est importante et constitue une base de consensus sur laquelle pourront s’appuyer les futurs travaux en faveur d’un traité international juridiquement contraignant. Je suis donc favorable à ce qu’il figure dans les visas de la proposition de résolution européenne.

La commission adopte l’amendement.

Amendement AE21 de M. Pierre Pribetich

M. Pierre Pribetich, rapporteur. Je propose d’harmoniser la formulation afin d’être cohérent. Ce sont les armes qui sont létales, pas les systèmes.

M. Frédéric Petit (Dem). Je suis pour. Je pense que l’amendement n’est pas rédactionnel ; il est fondamental. Comme vous l’avez dit ce sont les armes qui sont létales, pas les systèmes.

La commission adopte l’amendement.

Amendement AE3 de M. Aurélien Saintoul

M. Aurélien Saintoul (LFI-NFP). Il s’agit d’ajouter un considérant rédigé ainsi : « Considérant que la régulation des systèmes d’armes létales autonomes pourrait ouvrir la voie à des négociations sur l’encadrement des technologies d’automatisation de tous les systèmes d’armes ; ». Il me semble opportun de montrer que la régulation des SALA pourrait être un premier pas vers des négociations plus larges, notamment dans le domaine de la maîtrise des armes nucléaires ; ce serait, à mon sens, un point de convergence possible entre les États dotés. Chacun est en mesure de comprendre la gravité d’une éventuelle automatisation de ces systèmes, qui nous ferait régresser vers les heures les plus incertaines de la guerre froide.

M. Pierre Pribetich, rapporteur. Avis favorable, compte tenu des arguments exposés par notre collègue.

La commission adopte l’amendement.

Amendement AE4 de M. Aurélien Saintoul

M. Aurélien Saintoul (LFI-NFP). Il vise à ajouter un considérant supplémentaire. Le fait que les algorithmes contribuent eux-mêmes à produire de nouveaux algorithmes rend le contrôle effectif par l’humain de plus en plus hypothétique, ce qui renforce la nécessité d’un contrôle dans la chaîne de décision.

M. Pierre Pribetich, rapporteur. Nous n’avons encore rien vu sur les capacités de calcul des ordinateurs quantiques : si l’on fait le parallèle avec les ordinateurs, c’est l’équivalent de ce que nous possédons par rapport à ce qui a été mis sur Apollo 11. Avis favorable.

La commission adopte l’amendement.

Amendement AE19 de M. Pierre Pribetich

M. Pierre Pribetich, rapporteur. L’amendement vise à déplacer, par cohérence, l’alinéa suivant : « Considérant que le développement d’une autonomie stratégique européenne et le renforcement des capacités de défense de l’Union européenne constituent des objectifs essentiels pour la sécurité du continent, et qu’ils doivent s’accompagner d’une réflexion commune sur l’intégration de l’intelligence artificielle dans les systèmes de défense, dans le respect des responsabilités souveraines des États membres ; ». Je rejoins ici les propos de notre collègue Frédéric Petit.

La commission adopte l’amendement.

Amendement AE18 de M. Pierre Pribetich

M. Pierre Pribetich (SOC). L’amendement vise à actualiser la référence au texte évolutif du groupe d’experts gouvernementaux en mentionnant la version du 5 juin 2026.

La commission adopte l’amendement.

Suivant l’avis du rapporteur, elle adopte l’amendement AE5 de M. Aurélien Saintoul.

Elle adopte l’amendement AE22 du rapporteur.

Elle adopte l’article unique modifié.

Titre

Amendements identiques AE20 de M. Pierre Pribetich et AE17 de Mme Yaël Ménaché

M. Pierre Pribetich, rapporteur. Avant de présenter mon amendement, permettez-moi de revenir sur l’un des amendements non soutenus de notre collègue Jean-Paul Lecoq, car il y a des notions qui ont besoin d’être précisées.

L’amendement AE10 fait référence à une notion, appropriate human oversight en langue anglaise, c’est-à-dire « contrôle humain approprié ». J’y étais défavorable. J’ai employé, pour ma part, l’expression « contrôle humain effectif », qui signifie qu’un être humain exerce un contrôle réel, concret, sur un système ou une décision, et non un contrôle simplement symbolique ou formel.

Dans le contexte de l’intelligence artificielle, un contrôle humain est considéré comme effectif lorsque la personne comprend suffisamment le fonctionnement et les limites du système, peut surveiller ses résultats et détecter ses erreurs, dispose – c’est un élément important – du temps et des moyens nécessaires pour intervenir et possède le pouvoir de modifier, d’ignorer ou d’arrêter les décisions ou actions du système. Pourquoi y faire référence ? Parce que c’est un concept essentiel. Le règlement européen sur l’IA, l’AI Act, exige que certains systèmes d’IA à haut risque soient conçus de manière à permettre leur supervision humaine effective. Cela signifie que ce règlement prévoit déjà la séparation entre ce que l’on appelle appropriate human oversight et le contrôle effectif. Dans le débat concernant les robots tueurs, nous devons retenir le contrôle humain effectif, et non « approprié », c’est-à-dire l’effectivité réelle de la décision de commande électronique.

Concernant le titre, je propose la même chose que nos collègues car, je ne sais pourquoi, le terme létal en a disparu. Cette précision permet de ne pas embrasser trop large. Comme dit le proverbe, qui trop embrasse mal étreint.

M. Michel Guiniot (RN). Cet amendement essentiellement rédactionnel, mais qui revêt une grande importance, vise à préciser l’objet de la proposition de résolution en circonscrivant le champ du traité international que nous appelons de nos vœux aux seuls systèmes d’armes létales autonomes, conformément à la terminologie retenue dans les enceintes internationales.

Le fait d’inclure le terme « létales » dans le titre permettra de limiter l’application du traité en excluant les équipements militaires à usage de soutien, lesquels peuvent disposer d’une autonomie dans la collecte des données ou dans les actions d’appui menées en territoire hostile, en zone blanche ou en soutien d’unités infiltrées en coupant tout lien technique avec le commandement. De fait, ce simple mot permettra de soutenir notre effort diplomatique et industriel tout en insistant pour que l’homme, et seulement lui, soit en mesure d’ordonner une action létale de la part d’une machine. Nous avons encore beaucoup à découvrir et à développer pour soutenir nos troupes engagées et notre crédibilité opérationnelle et nos ingénieurs sont tout à fait capables de nous surprendre. Nous nous positionnons clairement de leur côté par cette modification.

La commission adopte les amendements.

Puis la commission adopte l’ensemble de la proposition de résolution européenne modifiée.

M. Pierre Pribetich, rapporteur. Je vous remercie pour cette adoption à l’unanimité des votes exprimés. J’espère que nous avons fait œuvre utile et que le débat pourra prospérer dans l’hémicycle. C’est une réflexion nécessaire pour la société.

Annexe 1 : liste des personnes auditionnées par le rapporteur

Ministère de l’Europe et des affaires étrangères

– Mme Claire Raulin, directrice des affaires stratégiques, de sécurité et du désarmement ;

– Mme Pascale Vincent, sous-directrice du contrôle des armements et de l’Organisation pour la sécurité et la coopération en Europe (OSCE) ;

– Mme Lucile Robin, rédactrice à la direction des affaires stratégiques, de sécurité et du désarmement.

Représentation permanente de la République française auprès de la Conférence du désarmement à Genève

– Mme Anne Lazar-Sury, ambassadrice, représentante permanente.

Annexe 2 : texte évolutif du groupe d’experts gouvernementaux sur les systèmes d’armes létales autonomes version du 5 juin 2026

For the purposes of the work of the GGE ([69]) and with the understanding that nothing has reached consensus until everything has reached consensus, the Group provisionally found consensus on the following formulations for the purpose of advancing its work on a set of elements of an instrument, without prejudging its nature, and other possible measures, in accordance with the Group’s mandate.

Within the scope of the application of the CCW ([70]), a lethal autonomous weapon system can be characterized as a combination of one or more weapons and functionally integrated technological components that can identify, select, and engage a target, without intervention by a human operating the system.

The fact that a human being designs, programs, or otherwise determines a set of potential targets or characteristics thereof does not exclude the system from this characterization. A system is not included in this characterization when the personnel planning, deciding upon, or carrying out the attack determines the specific target or group of targets to be engaged by the system.

The fact that a LAWS ([71]) can be used in a way that does not result in loss of life, such as to damage or destroy objects or to cause injury, does not exclude it from this characterization.

The above description is without prejudice to any future understanding and the potential modification of this characterization, as well as the exclusion or inclusion of certain types of systems.

The right of the parties to an armed conflict to choose methods or means of warfare is not unlimited.

IHL ([72]) applies to armed conflict, whether international or non-international, and governs the use of all weapons, means and methods of warfare, those of the past, those of the present, and those of the future, and is, consequently, applicable regardless of the technology used.

IHL imposes obligations on States, parties to armed conflict and individuals, not on machines.

IHL applies fully to the development and use of LAWS.

In cases not covered by the CCW and its annexed Protocols or by other international agreements, the civilian population and the combatants at all times remain under the protection and authority of the principles of international law derived from established custom, from the principles of humanity and from the dictates of public conscience.

It is prohibited in all circumstances to use LAWS which are of a nature to cause superfluous injury or unnecessary suffering, which are inherently indiscriminate, or which are otherwise incapable of being used in compliance with IHL.

It is prohibited to use LAWS if their effects in attack cannot be anticipated and limited, as required by IHL in the circumstances of their use.

It is prohibited to make the civilian population as such, as well as individual civilians and civilian objects protected as such in accordance with IHL, the object of an attack by LAWS.

States shall refrain from manufacturing, otherwise acquiring, stockpiling, or transferring LAWS that cannot be used in compliance with IHL.

LAWS must only be used in accordance with applicable IHL, including the principles and requirements of distinction, proportionality, and precautions in attack.

To uphold compliance with international law, in particular IHL, including the principles and requirements of distinction, proportionality, and precautions in attack, human judgement and control with regard to LAWS are needed. This does not imply constant direct human control. Rather, in determining the appropriate level of human judgement and control needed, a range of factors should be considered, including the operational context and the characteristics and capabilities of the weapon system as a whole, and implemented through, inter alia, the following measures:

That LAWS are operated under a responsible chain of command and control, including ensuring assessment of legal obligations by a human, in particular with regard to the effects of the identification, selection, and engagement functions, as well as taking into account ethical considerations;

That those responsible for the use of LAWS can limit their effects, including, inter alia, by restricting the scale of the operation, the types of targets, duration, geographical scope, and the number of engagements that LAWS can undertake autonomously;

That LAWS' target and mission parameters, while active in an operational context, cannot be substantially modified unless such modification is executed or authorized by a human;

That LAWS can be deactivated or neutralized in a timely manner.

The formulated elements should be taken into account in the design, development, and use of LAWS.

States must, as appropriate, across the life cycle of LAWS, and in accordance with their obligations under international law:

Conduct legal reviews to determine whether the employment of LAWS would, in some or all circumstances, be prohibited by international law. In this context, the voluntary exchange of relevant practices between States is encouraged, bearing in mind national security considerations and commercial restrictions on proprietary information.

Ensure that any further development of, or modifications to, existing LAWS that have a substantial impact on the operational functioning of their target identification, selection, and engagement functions, or on their anticipated effects, are reviewed to ensure compliance with IHL.

States should, as appropriate, across the life cycle of LAWS, ensure that the capabilities and limitations of LAWS in their expected use and their anticipated effects in different circumstances are understood by:

Conducting testing and evaluation, including realistic simulations of their use in variable operational environments;

Ensuring appropriate guidance, training, and instructions for those in the responsible chain of command and control of LAWS;

Ensuring that LAWS, in their identification, selection, and engagement functions, are adequately predictable and reliable in operation, and that their functioning and effects are traceable and explainable to those responsible for their development and use.

States should implement measures to prevent and mitigate, as much as possible, unintended bias, including bias in data sets and artificial intelligence models.

States should implement measures to prevent and mitigate, as much as possible, automation bias.

States, parties to armed conflict and individuals remain at all times responsible under applicable international law and accountable for their decisions with regard to LAWS since responsibility cannot be transferred to machines. This should be considered across the entire life cycle of the weapon system.

States must ensure individual accountability for the means or methods of warfare involving the use of LAWS, in accordance with their obligations under IHL, including through the operation of such systems within a responsible chain of human command and control.

To promote human responsibility and accountability in the use of LAWS and to mitigate the risk of unintended engagements, States should provide:

Understandable human-machine interfaces;

Guidance and instructions (e.g., rules of engagement, policies, doctrine, and procedures), consistent with applicable IHL, for personnel regarding the use of LAWS;

Training of personnel to understand such guidance and instructions and the capabilities and limitations of the autonomous functions of LAWS in the anticipated circumstances of their use.

States must take all appropriate steps to prevent and suppress violations of international law, including IHL, relating to LAWS by persons or on territory under their jurisdiction.

States must ensure effective internal mechanisms for the investigation, reporting, and appropriate action in response to incidents involving the use of LAWS that may involve violations of IHL.

([1]) Convention sur l’interdiction ou la limitation de l’emploi de certaines armes classiques qui peuvent être considérées comme produisant des effets traumatiques excessifs ou comme frappant sans discrimination, signée à Genève le 10 octobre 1980 (lien internet).

([2]) Ce type de définition extensive est privilégiée par les groupes d’actions souhaitent limiter, voire interdire le développement des SALA.

([3]) La campagne « Stop Killer Robots », lancée en 2013, réunit plus de 270 organisations non gouvernementales présentes dans soixante-dix pays, dont Human Rights Watch et Amnesty International (lien internet).

([4]) Laura Bruun, « Les systèmes d’armes autonomes : ce que le droit dit – et ne dit pas – sur le rôle de l’être humain dans l’usage de la force », Comité international de la Croix-Rouge, 18 janvier 2022 (lien internet).

([5]) Ministère de l’Europe et des affaires étrangères, 11 principes sur les systèmes d’armes létaux autonomes, mai 2025 (lien internet).

([6]) Comité d’éthique de la défense, avis sur l’intégration de l’autonomie dans les systèmes d’armes létaux, 29 avril 2021, p. 3 (lien internet).

([7]) Rapport d’information n° 3248 du 22 juillet 2020 en conclusion des travaux d’une mission d’information sur les systèmes d’armes létaux autonomes, présenté par M. Claude de Ganay et M. Fabien Gouttefarde (lien internet).

([8]) Catherine Teissier, « Autonomie des robots : enjeux et perspectives » in Romain Doaré, Didier Danet, Gérard de Boisboissel (dir.), Drones et killer robots : faut-il les interdire ?, Presses universitaires de Rennes, 2015.

([9]) Jean-Baptiste Jeangène Vilmer, « Terminator Ethics : faut-il interdire les « robots tueurs » ? », Politique étrangère, 2014/4, pp. 151-167.

([10]) Document de travail présenté par la France lors de la troisième réunion d’experts sur les SALA du 11 au 15 avril établissant une cartographie des développements techniques, cité dans le rapport d’information n° 3248 du 22 juillet 2020, op. cit., p. 52.

([11]) Discours de la France à l’occasion de la réunion du Groupe d’experts gouvernementaux sur les systèmes d’armes létales autonomes à Genève, du 3 au 13 août 2021, sur le point 5 b de l’agenda (lien internet).

([12]) Les munitions rôdeuses, ou munitions téléopérées (MTO), sont conçues pour voler au-dessus du champ de bataille, identifier des cibles potentielles puis les frapper. Plus connus sous le nom de drones suicides ou drones d’attaque, ces systèmes sont de plus en plus utilisés sur les théâtres d’opération comme en Ukraine ou au Proche-Orient.

([13]) Groupe d’experts gouvernementaux sur les systèmes d’armes létales autonomes, texte évolutif, version du 5 juin 2026 (lien internet). Voir le texte en annexe.

([14]) Voir en particulier la cartographie établie par le Stockholm International Peace Research Institute : Vincent Boulanin et Maaike Verbruggen, Mapping the Development of Autonomy in Weapon Systems, Stockholm International Peace Research Institute, novembre 2017 (lien internet).

([15]) Ministère des armées et des anciens combattants, « La France désigne l’intelligence artificielle de défense comme intérêt essentiel de sécurité pour la nation », communiqué de presse du 19 juin 2026 (lien internet).

([16]) Département de la défense des États-Unis d’Amérique, Autonomy in Weapon Systems, directive 3000.09, 25 janvier 2023 (lien internet).

([17]) Ministère de l’Europe et des affaires étrangères, Systèmes d’armes létales autonomes : l’action de la France, 2026 (lien internet).

([18]) Dominique Lambert, « Éthique et autonomie : la place irréductible de l’humain », Revue Défense Nationale, n° 820, mai 2019, pp. 162-167.

([19]) Brice Erbland, « Robots tueurs ». Que seront les soldats de demain ?, Armand Colin, 2018.

([20]) Jean-Christophe Noël, « Intelligence artificielle : vers une nouvelle révolution militaire ? », Études de l’IFRI, focus stratégique n° 84 (lien internet).

([21]) Lettre encyclique Magnifica Humanitas du pape Léon XIV sur la protection de la personne humaine à l’ère de l’intelligence artificielle, 15 mai 2026 (lien internet).

([22]) Félicité Barrier, « Les systèmes armés létaux autonomes (SALA) : vers une nouvelle course à l’armement ? », Revue Défense Nationale, n° 810, mai 2018, pp. 19-24.

([23]) Noel Sharkey, « Autonomous warfare. Ensuring meaningful human control over killer machines is vital to global security », Scientific American, n° 2, février 2020, pp. 52-57.

([24]) Jean-Baptiste Jengène Vilmer, « Diplomatie des armes autonomes : les débats de Genève », Politique étrangère, 2016/3, pp. 119-130.

([25]) Ce principe constitutionnel, qui résulte de la combinaison des articles 5, 15, 20 et 21 de la Constitution, a été reconnu par le Conseil constitutionnel dans ses décisions n° 2014-432 QPC du 28 novembre 2014 et n° 2014-450 QPC du 27 février 2015.

([26]) Comité d’éthique de la défense, op. cit., p. 6.

([27]) Le droit international humanitaire doit être distingué du « jus ad bellum » résultant des principes du droit international public énoncés par la Charte des Nations unies, qui détermine quant à lui les conditions de licéité du recours à la force armée entre les États.

([28]) Préambule du premier protocole additionnel aux conventions de Genève.

([29]) Julien Ancelin, « Les systèmes d’armes létaux autonomes (SALA) : Enjeux juridiques de l’émergence d’un moyen de combat déshumanisé. Droit international humanitaire et droit du désarmement », La Revue des droits de l’homme, Actualités Droits-Libertés, 2016 (lien internet).

([30]) Cour internationale de justice, avis consultatif du 8 juillet 1996 relatif à la licéité de la menace ou de l’emploi d’armes nucléaires, Rec. CIH, 1996, §86, pp. 37-38.

([31]) Cette clause a été énoncée pour la première fois par Frédéric de Martens, délégué russe à la conférence de La Haye de 1899. Elle figure désormais dans de nombreuses conventions internationales, en particulier dans le préambule de la convention (IV) de La Haye du 18 octobre 1907 concernant les lois et les coutumes de la guerre sur terre (lien internet).

([32]) Protocole additionnel (I) aux conventions de Genève du 12 août 1949 relatif à la protection des victimes de conflits armés internationaux, signé à Genève le 8 juin 1977, article 36.

([33]) Almodis Peyre, « Les systèmes d’armes létaux autonomes face au droit international, une illicéité déjà constatée ? », Le journal du Centre de droit international, n° 16, 2018, pp. 19-21.

([34]) Voir notamment l’avis du comité d’éthique de la défense du 29 avril 2021 et la déclaration de Paris de 2025 sur le maintien d’un contrôle humain adoptée à la suite du sommet de Paris pour l’action sur l’intelligence artificielle.

([35]) Projet d’articles sur la responsabilité de l’État pour fait internationalement illicite, annexé à la résolution 56/83 de l’Assemblée générale des Nations unies du 12 décembre 2001 (lien internet).

([36]) Protocole additionnel (I) aux conventions de Genève du 12 août 1949 relatif à la protection des victimes de conflits armés internationaux, signé à Genève le 8 juin 1977, article 86-2.

([37]) Réponse du ministre de l’Europe et des affaires étrangères à la question écrite n° 8402 de M. Jean-Paul Lecoq sur le cadre normatif international des armes autonomes, publiée au Journal officiel de la République française du 2 septembre 2025, p. 7540 (lien internet).

([38]) Ibid.

([39]) Voir la dernière version du texte évolutif, issu de la réunion du GEG de juin 2026, en annexe.

([40]) Il s’agit en particulier des systèmes qui revêtent un caractère intrinsèquement indiscriminé, ceux dont les effets ne peuvent être limités, anticipés et contrôlés, ainsi que les systèmes de nature à causer des blessures superflues ou des souffrances inutiles.

([41]) Julien Ancelin, « Les systèmes d’armes létaux autonomes (SALA) : Enjeux juridiques de l’émergence d’un moyen de combat déshumanisé », op. cit.

([42]) Contribution de la France au rapport du secrétaire général des Nations unies sur les systèmes d’armes létales autonomes, op. cit., p. 63.

([43]) Présidence de la République française, déclaration de Paris sur le maintien d’un contrôle humain dans les systèmes d’armes dotés d’intelligence artificielle, signée le 11 février 2025 (lien internet).

([44]) Cette crainte a été illustrée par la figure fictive de HAL 9000, l’intelligence artificielle du film de Stanley Kubrick 2001, l’Odyssée de l’espace (1968), qui déclare au commandant du vaisseau : « Cette mission est trop importante pour moi, je ne puis tolérer que vous la mettiez en péril. » Si cette référence relève de la fiction, elle traduit le risque que le processus décisionnel échappe progressivement au contrôle humain.

([45]) Assemblée générale des Nations unies, résolution A/RES/78/241 du 22 décembre 2023 sur les systèmes d’armes autonomes, contribution des États-Unis d’Amérique, p. 14 (lien internet).

([46]) Assemblée générale des Nations unies, résolution A/RES/78/241 du 22 décembre 2023 sur les systèmes d’armes autonomes (lien internet).

([47]) Michael C. Loftus, « Machines in the Alleyways: China’s Bet on Autonomous Urban Warfare », The Diplomat, 3 février 2026 (lien internet).

([48]) Sharath Kumar Kolipaka, « Regulating Lethal Autonomous Weapons Systems (LAWS) in a Fractured Multipolar Order », USANAS Foundation, 4 janvier 2026 (lien internet).

([49]) Assemblée générale des Nations unies, résolution A/RES/79/239 du 24 décembre 2024 sur l’intelligence artificielle dans le domaine militaire et ses conséquences pour la paix et la sécurité internationales (lien internet) ; résolution A/RES/80/58 du 1er décembre 2025 sur l’intelligence artificielle dans le domaine militaire et ses conséquences pour la paix et la sécurité internationales (lien internet).

([50]) Rapport du secrétaire général des Nations unies, Système d’armes létales autonomes (A/79/88), 1er juillet 2024.

([51]) À l’inverse, les travaux conduits dans le cadre de la CCAC se rapportent exclusivement à l’usage de l’intelligence artificielle dans le domaine de la défense.

([52]) Convention sur l’interdiction de l’emploi, du stockage, de la production et du transfert des mines antipersonnel et sur leur destruction, signée à Oslo le 18 septembre 1997 (lien internet).

([53]) Convention sur les armes à sous-munitions, signée à Oslo le 3 décembre 2008 (lien internet).

([54]) Réponse du ministre de l’Europe et des affaires étrangères à la question écrite n° 8402 de M. Jean-Paul Lecoq, op. cit.

([55]) Résolution du Parlement européen (2018/2752(RSP)) du 12 septembre 2018 sur les systèmes d’armes autonomes (lien internet) ; résolution du Parlement européen (2020/2013(INI)) du 20 janvier 2021 sur l’intelligence artificielle : questions relatives à l’interprétation et à l’application du droit international dans la mesure où l’Union est concernée dans les domaines des utilisations civiles et militaires ainsi qu’à l’autorité de l’État en dehors du champ d’application de la justice pénale (lien internet).

([56]) Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle (lien internet). Il convient toutefois de relever que les armes de guerre et le domaine militaire ont été exclus du champ d’application de ce règlement.

([57]) Décision (PESC) 2025/779 du Conseil du 14 avril 2025 modifiant la position commune 2008/944/PESC définissant des règles communes régissant le contrôle des exportations de technologie et d’équipements militaires (lien internet).

([58]) Amendement n° 14 du rapporteur.

([59]) Amendements n° 10 et n° 11 de Mme Constance Le Grip et plusieurs de ses collègues.

([60]) Amendement n° 1 de Mme Constance Le Grip et plusieurs de ses collègues.

([61]) Amendement n° 16 du rapporteur.

([62]) Amendement n° 17 du rapporteur.

([63]) L’ensemble des groupes politiques s’est prononcé en faveur de l’adoption de la proposition de résolution européenne, à l’exception du groupe Rassemblement national qui s’est abstenu.

([64]) Amendements n° AE1 et n° AE2 de M. Aurélien Saintoul et plusieurs de ses collègues.

([65]) Amendement n° AE3 de M. Aurélien Saintoul et plusieurs de ses collègues.

([66]) Amendement n° AE4 de M. Aurélien Saintoul et plusieurs de ses collègues.

([67]) Amendement n° AE5 de M. Aurélien Saintoul et plusieurs de ses collègues.

([68]) Amendement n° AE20 du rapporteur.

([69]) Group of Governmental Experts on Lethal Autonomous Weapons Systems.

([70]) Convention on Certain Conventional Weapons.

([71]) Lethal Autonomous Weapons Systems.

([72]) International Humanitarian Law.