Source: The Conversation – in French – By Nicolas Minvielle, Docteur en économie, spécialiste des questions d’innovation et de défense, Audencia
L’ESSENTIEL
-
Du 16 au 20 novembre, l’ONU tient une conférence sur l’encadrement des armes autonomes.
-
L’autonomie militaire existe déjà à toutes les étapes de la chaîne d’engagement : observation, identification, sélection et frappe des cibles.
-
L’enjeu est de préserver le contrôle humain sur les décisions létales. L’automatisation accélère les opérations, mais augmente les risques d’erreur et de frappes illégales, notamment dans les situations ambiguës.
En 2017, un court-métrage intitulé Slaughterbots met en scène une présentation commerciale glaçante : un minuscule drone, un dispositif de reconnaissance faciale, une charge explosive, et un mannequin qui explose. Présentée avec le chercheur Stuart Russell, cette fiction militante du Future of Life Institute — institution controversée en raison de sa proximité avec certains oligarques de la tech américaine — imagine la diffusion de ces armes et leur emploi contre des civils. Elle permet de poser une question hautement politique : que devient la violence lorsque des machines peuvent rechercher et tuer des personnes sans intervention humaine ?
En septembre 2026, l’interrogation paraît moins futuriste. Le ministère ukrainien de la défense annonce des essais de drones capables de détecter, de suivre puis de frapper un véhicule en mouvement, et ce sans pilotage pendant l’approche finale. La décision de frapper, cependant, semble rester humaine : seule la phase finale s’effectue sans pilote. Cette limite doit nous pousser à garder une certaine distance face aux images de ces nouveaux robots tueurs qui circulent, et à distinguer armes sans pilote et armes autonomes. Les démonstrations ne nous disent en effet pas qui a choisi la cible, ou autorisé le tir, exagérant l’impression d’autonomie de ces armes.
Pour comprendre à partir de quel stade on pourrait parler d’armes totalement autonomes, la boucle fonctionnelle (boucle qui permet de représenter la totalité de la « kill chain » de la chaîne d’engagement militaire) OODA offre une grille utile. Développée par le colonel américain John Boyd, elle articule quatre fonctions : observer, orienter, décider, agir. La fonction Observer consiste à recueillir l’information ; Orienter, à l’interpréter ; Décider consiste à choisir l’action ; et enfin Agir à l’exécuter et en éprouver les effets. Une arme totalement autonome devrait, en théorie, être capable d’accomplir l’ensemble de cette boucle fonctionnelle par elle-même, sans instructions en temps réel ni pilotage.
Observer et orienter, deux fonctions déjà largement automatisées sur le terrain
La fonction Observer est déjà totalement automatisable. Des logiciels sont en mesure de détecter des formes, de suivre des objets et de rapprocher les images captées de catégories apprises. En août 2026, les autorités ukrainiennes décrivent ainsi des outils de vision artificielle employés par des soldats pour la navigation, la reconnaissance d’objets et le guidage terminal.
Il faut noter qu’évidemment, ces technologies sont performantes mais fortement dépendantes du contexte. Surtout, dans un cadre militaire, les adversaires utiliseront toutes les capacités à leur disposition pour leurrer et polluer ces capacités d’observation.
La fonction Orienter semble pouvoir aussi être rendue autonome. Les systèmes contemporains peuvent reconnaître des objets, mais aussi fusionner de multiples sources de renseignement pour inférer des comportements, des affiliations ou des relations entre individus. Le tout dans le but de catégoriser des personnes et des objets — une population civile sur le territoire de laquelle s’exerce l’action militaire, par exemple. Les systèmes israéliens Habsora et Lavender illustrent cette évolution, en automatisant une partie importante du traitement et du croisement de l’information nécessaire à l’identification de cibles potentielles (ici, les membres d’organisations palestiniennes armées) au sein de cette population.
Leur usage a d’ailleurs fait couler beaucoup d’encre tant ils fournissent de cibles, qui seront ensuite fournies à des dispositifs cinétiques (dit autrement, des armes). Les délais de validation par les humains deviennent alors très courts face à la masse de cibles à traiter (de quelques secondes à quelques minutes par cible). De ce point de vue, cette « industrialisation » du renseignement interroge réellement. Comment un état-major peut-il réellement analyser et traiter des recommandations de cibles qui sont continues, et qui peuvent dépasser le millier, voire la dizaine de milliers ?
À lire aussi :
L’IA au cœur de la stratégie israélienne à Gaza
Ce constat nous permet de faire dès ici la distinction entre automatisation de la collecte d’information et du choix des cibles, et jugement final quant à l’opportunité de frapper. La détermination de la probabilité d’appartenance à une organisation armée, l’identification d’un comportement caractéristique ou le suivi de la localisation géographique d’un individu (autant d’indices sur lesquels se basent notamment ces systèmes) peuvent être automatisés mais ne déterminent pas, à eux seuls, qu’une attaque contre cette personne soit licite au moment considéré au sens du droit de la guerre.
On peut ainsi imaginer que la personne cible soit en train de se rendre, ou qu’elle soit hors de combat, deux cas dans lesquels tout usage de la force létale est prohibé. Les circonstances entourant une cible modifient donc l’appréciation de l’opportunité d’une frappe, replantant finalement l’arbitrage humain au cœur des arbitrages à mener.
Des armes automatiques sans autre validation humaine que l’allumage existent déjà
La fonction Décider, quant à elle, exige de préciser ce qui est délégué à la machine. L’humain peut désigner en amont une cible particulière, puis laisser l’engin la poursuivre. Il peut aussi définir un profil de cible et un périmètre dans lesquels la machine sélectionnera ce qu’elle attaque. Ou l’humain peut décider de tout déléguer à la machine, et de la laisser libre de frapper une cible de son choix. De ce point de vue, la définition du Comité international de la Croix-Rouge (CICR) pour les systèmes d’armes autonomes nous parle de la sélection et l’engagement de cibles sans intervention humaine comme critère pour pouvoir employer ce terme.
Son exécution sans pilotage permanent est en fait déjà une réalité dans certains systèmes. Un rapport de l’Institut international de recherche sur la paix de Stockholm (SIPRI) documentait en 2017 des fonctions autonomes de navigation et d’engagement, notamment dans les missiles de type « tire et oublie » (un humain lance un missile et ce dernier travaille ensuite sans supervision humaine), ou la défense rapprochée de navires. Des systèmes comme le Phalanx (un canon qui défend qui les approches de certains navires) peuvent ainsi automatiser une séquence allant de la détection à l’engagement d’une menace. Une boucle fonctionnelle complète, de la détection à la frappe de la cible, peut donc depuis longtemps être fermée sans validation humaine autre que la mise en marche du système.
Derrière le robot tueur, l’ombre de la décision humaine
Étendre cette fonction d’action autonome à des cibles nouvelles ou à un milieu plus ambigu est cependant plus complexe. Si utiliser un canon de manière autonome pour traiter un drone qui vole et a une trajectoire directe vers un bateau militaire semble tout à fait réalisable dès aujourd’hui, la même arme devient beaucoup plus difficile à utiliser dans un contexte de surveillance d’une embarcation qui s’approcherait du navire et dont il faudrait analyser la dangerosité avant d’ouvrir le feu. Entre le pirate et le pêcheur, quels indicateurs de preuves est susceptible de mobiliser la machine ?
En résumé, on peut certainement dire que l’autonomie des robots militaire existe déjà à chacune des étapes de la boucle fonctionnelle, et donc potentiellement sur toute la chaîne pour un acteur souhaitant le faire. Si chaque jour qui passe semble amener une désinhibition toujours plus grande à ce sujet, véhiculant l’idée d’une autonomie toujours en développement, il est nécessaire de comprendre que cette autonomie ne se définit pas par le vide – avec ou sans humains – mais bien par fonctions et par contextes : que délègue l’humain, et quand.
Reprenons l’exemple de la défense d’un navire de guerre grâce à un canon autonome : si ce n’est pas un humain qui fera lui-même la différence au cas par cas entre un pêcheur et un pirate avant d’ouvrir le feu, ce sera bien lui qui déterminera les facteurs de sélection pour que la machine les applique ensuite avec toujours donc des arbitrages humains. Ce n’est ainsi pas parce que l’arme n’a pas besoin qu’un humain appuie sur un bouton pour valider son action que le contrôle humain est absent, ce contrôle s’effectuant aussi par les règles d’engagement fixées à la machine… par des humains.
Des armes de plus en plus autonomes, mais pour quoi faire ?
Finalement, la vraie question de fond est la suivante : pourquoi déléguer davantage à la machine ? Les réponses sont nombreuses. Donner davantage d’autonomie aux machine permet ainsi de réagir plus vite, d’alléger la charge des opérateurs ou de continuer à fonctionner lorsque les communications sont coupées. Le guidage terminal par intelligence artificielle des drones vise par exemple à poursuivre une attaque malgré le brouillage des communications à distance. La survie des systèmes militaires et des forces armées pousserait donc à déléguer à la machine des étapes de plus en plus importantes.
Pour autant, le fait que cela soit possible et réponde à une tendance en cours chez les acteurs du monde de la défense ne prouve pas que toute délégation supplémentaire soit avantageuse. Réagir rapidement à un projectile et interpréter une scène ambiguë ne relèvent pas du même arbitrage, comme on l’a vu dans le cas de la défense d’un navire de guerre. Accélérer la prise de décision peut ici réduire le temps disponible pour vérifier une identification par exemple, et potentiellement conduire à un drame, comme dans le cas de la destruction du vol civil iranien attaqué par le navire américain USS Vincennes en 1988, qui avait causé la mort de 290 personnes, avec un software d’engagement des cibles qui était en mode « réponse autonome », et dont le choix de tir n’a pas été remis en cause par les officiers présents.
De ce point de vue, l’argument « l’adversaire le fera, nous devons donc nous aligner » décrit certes une forme de pression concurrentielle, mais il ne démontre ni la fiabilité des systèmes autonomes ni machine ni la pertinence de leur emploi dans un cas précis.
Dans un article de 2018, deux chercheurs esquissaient deux règles visant à guider le développement des armes autonomes : le système doit pouvoir rester sensible aux raisons et intentions humaines si elles sont pertinentes, et son fonctionnement doit pouvoir être analysé par des humains qui en comprennent les capacités. Dit autrement, les humains doivent pouvoir faire évoluer les choix des machines, et ils doivent pouvoir comprendre comment elle en arrive à telle ou telle décision.
![]()
Nicolas Minvielle est membre du comité d’orientation de la Fabrique de la Cité, il a été animateur de la Red Team Défense et est LCL (R) auprès du Commandement du Combat Futur de l’Armée de terre. Il est aussi cofondateur de Making Tomorrow et investisseur dans Command AI.
– ref. Robots tueurs autonomes, où en sommes-nous vraiment ? – https://theconversation.com/robots-tueurs-autonomes-ou-en-sommes-nous-vraiment-292695
Original source: https://submissions.mil-osi.com/2026/11/16/robots-tueurs-autonomes-ou-en-sommes-nous-vraiment-292695/
