La guerre de l’IA est là : la vraie question est de savoir qui appuie sur la détente

L’expression la plus dangereuse dans le débat sur les armes intégrant l’IA est peut-être « supervision humaine ». Elle semble rassurante, mais peut désigner aussi bien une personne approuvant chaque frappe qu’un opérateur supervisant un système qui choisit des cibles plus vite que quiconque ne peut le comprendre. La dernière mise en garde des Nations unies est importante, car cette ambiguïté n’a plus rien de théorique: l’IA est intégrée aux systèmes militaires et les décisions se rapprochent du point d’attaque.

L’ONU et le Comité international de la Croix-Rouge ont renouvelé, le 25 août 2026, leur appel à encadrer les systèmes d’armes autonomes. Comme l’a rapporté UN News, les deux organisations ont averti que les progrès de l’IA pourraient réduire le contrôle humain sur l’usage de la force. L’appel de l’ONU était particulièrement direct: le monde est « dangereusement proche de franchir une ligne rouge morale: le ciblage autonome d’êtres humains par des machines ».

Cette mise en garde mérite mieux que l’image habituelle du « robot tueur » futuriste. L’urgence ne tient pas à l’apparence humaine d’une machine, ni à son fonctionnement autonome dans toutes les situations imaginables. La vraie question est de savoir si un système peut sélectionner et engager une cible sans véritable jugement humain — et si quelqu’un peut encore être tenu pour responsable lorsqu’il se trompe.

Le champ de bataille n’est pas un jeu de données propre

Les partisans des armes autonomes peuvent invoquer une logique militaire compréhensible. Les machines peuvent traiter rapidement les informations, réduire l’exposition des soldats et éventuellement identifier les cibles avec davantage de constance que des humains épuisés. Ce sont des arguments sérieux, pas de la science-fiction.

Mais c’est précisément à la guerre que les conditions claires et stables disparaissent. Le Comité international de la Croix-Rouge souligne qu’un combattant peut se rendre ou être blessé, tandis que des civils peuvent entrer dans une zone d’opérations après l’activation d’un système. Une cible légitime quelques instants plus tôt peut ne plus l’être. Le problème n’est pas simplement de savoir si un algorithme peut reconnaître un objet. Il s’agit de déterminer s’il peut comprendre une situation humaine changeante suffisamment bien pour appliquer les principes de distinction, de proportionnalité et de précaution.

C’est pourquoi l’argument selon lequel l’IA pourrait réduire l’erreur humaine est incomplet. Elle peut réduire certaines erreurs tout en en créant d’autres, plus rapides, plus difficiles à détecter et plus faciles à répéter à grande échelle. Une décision humaine erronée peut être terrible. Un processus automatisé défaillant peut transformer une hypothèse fausse en schéma de destruction avant même qu’un opérateur ait le temps d’intervenir. De notre point de vue, la vitesse n’est pas un avantage neutre lorsque la décision accélérée consiste à déterminer si quelqu’un va vivre ou mourir.

« L’humain dans la boucle » n’est pas une formule magique

La question centrale des politiques publiques devrait donc être plus exigeante que « Un humain se trouvait-il quelque part dans la chaîne ? ». Il faudrait demander: que contrôlait réellement cette personne, quelles informations a-t-elle reçues et pouvait-elle véritablement empêcher l’attaque ?

Les systèmes peuvent se situer sur un spectre. Dans certains cas, l’IA peut aider à la navigation ou suggérer des cibles, tandis qu’un opérateur autorise la frappe. Dans d’autres, un opérateur peut superviser un système tout en conservant la possibilité de le neutraliser. À l’inverse, les systèmes entièrement autonomes peuvent identifier et engager des cibles selon des règles programmées et des conditions changeantes, sans intervention directe au moment de l’attaque. Les frontières ne sont pas toujours nettes, notamment pour les munitions rôdeuses et les systèmes coordonnés de drones.

Cette ambiguïté est politiquement commode. Elle permet aux gouvernements de promettre un contrôle humain tout en conservant des systèmes dans lesquels l’attention humaine se réduit à approuver une recommandation, à surveiller trop de machines à la fois ou à accepter une décision impossible à expliquer à temps. Un contrôle véritable doit être opérationnel, pas cérémoniel. Il faut des limites claires à l’autonomie, des moyens fiables d’annuler une action et des enregistrements permettant aux enquêteurs de reconstituer les événements.

La question de la responsabilité est encore plus difficile. Les machines ne peuvent pas être punies pour avoir violé le droit international. La responsabilité doit rester celle des personnes et des institutions qui les conçoivent, les autorisent, les déploient et les supervisent. Si un système d’IA est opaque ou se comporte de manière imprévisible, il devient plus difficile de prouver une négligence ou une intention. Ce n’est pas un détail technique: cela peut créer un vide de responsabilité dans lequel les préjudices sont évidents, mais la responsabilité est répartie entre tant d’acteurs que personne ne peut être tenu pour responsable.

Le droit doit fixer les limites avant le déploiement

L’ONU et la Croix-Rouge demandent aux États de négocier des règles juridiquement contraignantes, et le moment est important. Reuters a rapporté que les deux organisations appelaient à entamer d’urgence des négociations sur un instrument prévoyant des interdictions et des restrictions claires.

Il existe déjà un cadre juridique applicable aux conflits armés. Le droit international humanitaire s’applique aux armes et aux méthodes de guerre, y compris aux systèmes intégrant l’IA. La question non résolue est de savoir si les principes existants suffisent lorsque le système qui prend la décision de ciblage est difficile à prévoir, à inspecter ou à arrêter. Attendre un incident catastrophique pour trancher cette question serait un échec de la gouvernance, et non une preuve de prudence technologique.

C’est également là que le débat public devient souvent trop binaire. Le choix ne se résume pas nécessairement à interdire tout usage militaire de l’IA ou à autoriser une autonomie sans limites. L’IA peut aider à la logistique, à l’analyse ou à des fonctions défensives sans recevoir le pouvoir de décider qui doit être tué. La ligne rouge devrait concerner la délégation de décisions de ciblage qui engagent la vie ou la mort à des systèmes dépourvus de jugement et de contrôle humains véritables.

La mise en garde de l’ONU est utile parce qu’elle déplace le débat, de l’autonomie digne du cinéma vers la responsabilité institutionnelle. Qui a autorisé le système ? Qui en comprenait les limites ? Qui pouvait l’arrêter ? Qui enquête lorsqu’il échoue ? Si ces questions ne peuvent pas recevoir de réponse avant le déploiement, elles ne deviendront pas plus faciles après que des civils auront été victimes de leurs défaillances.

Notre verdict est simple: l’IA peut aider les forces armées à traiter des informations, mais elle ne doit pas devenir la partie responsable d’une décision létale. Les États doivent négocier dès maintenant des interdictions contraignantes et des contrôles applicables, tant que le jugement humain peut encore être intégré à la chaîne de commandement plutôt que reconstitué après que les machines auront déjà appuyé sur la détente.