Amendement n° AE2 · Article unique

Après l’alinéa 13, insérer l’alinéa suivant : 

« Vu la déclaration de Paris sur le maintien du contrôle humain dans les systèmes d’armes dotés d’intelligence artificielle, ».

Cet amendement du groupe La France insoumise vise à faire mention de l’engagement pris par la France et une trentaine d’autres pays lors du sommet de Paris sur l’Intelligence Artificielle de ne jamais utiliser de systèmes d’armes létales autonomes (SALA). La déclaration conjointe mentionne ainsi l’engagement des pays signataires à « ne jamais autoriser qu’une décision de vie ou de mort soit prise par un système d’armes autonome opérant complètement en dehors du contrôle humain et sous une chaine de commandement responsable ».
Cet engagement doit être précisé et suivi d’effets. Les signataires s’engagent ainsi à faire en sorte que « les humains restent responsables, du développement, du déploiement et de l’usage des applications de l’IA dans le domaine militaire » ; cela implique donc de réfléchir à de véritables mécanismes de contrôle et l’installation de garde-fous dès la conception des algorithmes à la base des systèmes d’armes automatisés. Les négociations autour des SALA qui pourraient débuter à la fin de l’année peuvent être l’occasion d’aborder ces enjeux.