La guerra con IA ya está aquí: la verdadera pregunta es quién aprieta el gatillo

La expresión más peligrosa del debate sobre las armas con IA puede ser «supervisión humana». Suena tranquilizadora, pero puede significar desde que una persona apruebe cada ataque hasta que un operador supervise un sistema que elige objetivos más rápido de lo que nadie puede comprender. La última advertencia de Naciones Unidas es importante porque esa ambigüedad ya no es teórica: la IA se está integrando en sistemas militares y las decisiones se acercan al punto de ataque.

La ONU y el Comité Internacional de la Cruz Roja renovaron el 25 de agosto de 2026 su llamamiento a restringir los sistemas de armas autónomas. Como informó UN News, ambas organizaciones advirtieron de que los avances en IA podrían reducir el control humano sobre el uso de la fuerza. El llamamiento de la ONU fue especialmente contundente: el mundo está «peligrosamente cerca de cruzar una línea roja moral: que las máquinas seleccionen objetivos humanos de forma autónoma».

Esta advertencia merece algo más que la habitual imagen de un «robot asesino» futurista. La cuestión urgente no es si una máquina parece humana ni si funciona de forma independiente en cualquier situación posible. La cuestión es si un sistema puede seleccionar y atacar un objetivo sin un criterio humano significativo, y si alguien puede seguir rindiendo cuentas cuando se equivoca en esa decisión.

El campo de batalla no es un conjunto de datos limpio

Quienes apoyan las armas autónomas pueden esgrimir una lógica militar comprensible. Las máquinas pueden procesar información rápidamente, reducir la exposición de las tropas y, potencialmente, identificar objetivos con más coherencia que personas exhaustas. Son argumentos serios, no ciencia ficción.

Pero la guerra es precisamente el lugar donde desaparecen las condiciones limpias y estables. El Comité Internacional de la Cruz Roja ha subrayado que un combatiente puede rendirse o resultar herido, mientras que civiles pueden entrar en una zona de operaciones después de que se haya activado un sistema. Un objetivo que era legítimo unos instantes antes puede dejar de serlo. El problema no es simplemente si un algoritmo puede reconocer un objeto. Es si puede comprender una situación humana cambiante lo bastante bien como para aplicar los principios de distinción, proporcionalidad y precaución.

Por eso, el argumento de que la IA podría reducir el error humano es incompleto. Puede reducir algunos errores y crear otros más rápidos, difíciles de detectar y fáciles de repetir a gran escala. Una decisión humana errónea puede ser terrible. Un proceso automatizado equivocado puede convertir una suposición incorrecta en un patrón de daños antes de que un operador tenga tiempo de intervenir. En nuestra opinión, la velocidad no es una ventaja neutral cuando la decisión que se acelera es si alguien vive o muere.

«Humano dentro del circuito» no es una frase mágica

Por tanto, la cuestión política central debería ser más exigente que «¿había una persona en algún punto de la cadena?». Debería ser: ¿qué controlaba realmente esa persona, qué información recibió y podía detener el ataque de forma significativa?

Los sistemas pueden situarse en un espectro. En algunos, la IA puede ayudar con la navegación o sugerir objetivos mientras un operador autoriza el ataque. En otros, un operador puede supervisar el sistema y conservar la posibilidad de anularlo. En cambio, los sistemas totalmente autónomos pueden identificar y atacar objetivos según reglas programadas y condiciones cambiantes sin intervención directa en el momento del ataque. Los límites no siempre están claros, especialmente en el caso de las municiones merodeadoras y los sistemas coordinados de drones.

Esa ambigüedad resulta políticamente conveniente. Permite a los Gobiernos prometer control humano mientras preservan sistemas en los que la intervención humana se reduce a aprobar una recomendación, supervisar demasiadas máquinas a la vez o aceptar una decisión que no puede explicarse a tiempo. El control significativo debe ser operativo, no ceremonial. Necesita límites claros sobre dónde se permite la autonomía, formas fiables de cancelar una acción y registros que permitan a los investigadores reconstruir lo ocurrido.

La cuestión de la rendición de cuentas es aún más difícil. Las máquinas no pueden ser castigadas por infringir el derecho internacional. La responsabilidad debe seguir recayendo en las personas y las instituciones que las diseñan, autorizan, despliegan y supervisan. Si un sistema de IA es opaco o se comporta de forma impredecible, demostrar negligencia o intencionalidad resulta más difícil. No es una nota técnica al pie: puede crear un vacío de responsabilidad en el que el daño sea evidente, pero la responsabilidad se reparta entre tantos actores que nadie tenga que rendir cuentas.

La ley debe fijar los límites antes de que los fije el despliegue

La ONU y la Cruz Roja piden a los Estados que negocien normas jurídicamente vinculantes, y el momento es importante. Reuters informó de que ambas organizaciones reclamaron que se inicien urgentemente las negociaciones sobre un instrumento con prohibiciones y restricciones claras.

Ya existe un marco jurídico para los conflictos armados. El derecho internacional humanitario se aplica a las armas y los métodos de guerra, incluidos los sistemas que incorporan IA. La cuestión pendiente es si los principios existentes bastan cuando el sistema que decide la selección de objetivos resulta difícil de predecir, inspeccionar o detener. Esperar a que un incidente catastrófico aclare esa cuestión sería un fracaso de la gobernanza, no una muestra de prudencia tecnológica.

Este es también el punto en el que el debate público suele volverse demasiado binario. La elección no tiene por qué ser entre prohibir cualquier uso militar de la IA y permitir una autonomía sin límites. La IA puede ayudar con la logística, el análisis o las funciones defensivas sin recibir autoridad para decidir a quién se debe matar. La línea roja debería centrarse en delegar decisiones de selección de objetivos de vida o muerte en sistemas que carecen de un criterio y un control humanos significativos.

La advertencia de la ONU es valiosa porque desplaza el debate de la autonomía cinematográfica a la responsabilidad institucional. ¿Quién autorizó el sistema? ¿Quién comprendía sus límites? ¿Quién podía detenerlo? ¿Quién investiga cuando falla? Si esas preguntas no pueden responderse antes del despliegue, no serán más fáciles después de que los civiles hayan sufrido daños.

Nuestro veredicto es sencillo: la IA puede ayudar a los ejércitos a procesar información, pero no debe convertirse en la parte que debe rendir cuentas por una decisión letal. Los Estados deben negociar ahora prohibiciones vinculantes y controles exigibles, mientras el criterio humano todavía puede incorporarse a la cadena de mando en lugar de reconstruirse después de que las máquinas ya hayan apretado el gatillo.