A guerra com IA chegou: a questão é quem puxa o gatilho

A expressão mais perigosa no debate sobre armas com IA talvez seja “supervisão humana”. Ela parece tranquilizadora, mas pode significar desde uma pessoa aprovando cada ataque até um operador supervisionando um sistema que escolhe alvos mais rápido do que qualquer pessoa consegue entender. O alerta mais recente das Nações Unidas importa porque essa ambiguidade já não é teórica: a IA está sendo incorporada a sistemas militares, e as decisões estão se aproximando do ponto de ataque.

A ONU e o Comitê Internacional da Cruz Vermelha renovaram, em 25 de agosto de 2026, o apelo por restrições aos sistemas de armas autônomas. Como informou o UN News, as organizações alertaram que os avanços da IA podem reduzir o controle humano sobre o uso da força. O apelo da ONU foi especialmente direto: o mundo está “perigosamente perto de cruzar uma linha moral: a seleção autônoma de seres humanos como alvos por máquinas”.

Esse alerta merece mais do que a habitual imagem de um “robô assassino” futurista. A questão urgente não é saber se uma máquina se parece com um ser humano ou se opera de forma independente em todas as situações possíveis. É saber se um sistema pode selecionar e atacar um alvo sem um julgamento humano significativo — e se alguém ainda poderá ser responsabilizado quando essa decisão der errado.

O campo de batalha não é um conjunto de dados limpo

Os defensores das armas autônomas podem apresentar uma lógica militar compreensível. As máquinas talvez processem informações rapidamente, reduzam a exposição das tropas e potencialmente identifiquem alvos com mais consistência do que seres humanos exaustos. São argumentos sérios, não ficção científica.

Mas a guerra é justamente o ambiente em que desaparecem as condições estáveis e previsíveis. O Comitê Internacional da Cruz Vermelha destaca que um combatente pode se render ou ficar ferido, enquanto civis podem entrar em uma área de operações depois que um sistema foi ativado. Um alvo que era legítimo momentos antes pode deixar de ser. O problema não é simplesmente saber se um algoritmo consegue reconhecer um objeto. É saber se ele consegue entender uma situação humana em transformação o suficiente para aplicar os princípios de distinção, proporcionalidade e precaução.

Por isso, o argumento de que a IA pode reduzir o erro humano é incompleto. Ela pode reduzir alguns erros e, ao mesmo tempo, criar outros que acontecem mais rápido, são mais difíceis de detectar e podem se repetir com facilidade em escala. Uma decisão humana equivocada pode ser terrível. Um processo automatizado equivocado pode transformar uma suposição errada em um padrão de danos antes que um operador tenha tempo de intervir. Na nossa visão, velocidade não é uma vantagem neutra quando a decisão acelerada é saber se alguém vai viver ou morrer.

“Humano no circuito” não é uma fórmula mágica

A questão central de política pública deveria ser, portanto, mais exigente do que “Havia um ser humano em algum ponto da cadeia?”. Ela deveria ser: o que essa pessoa controlava de fato, que informações recebeu e se poderia interromper o ataque de maneira significativa?

Os sistemas podem ocupar diferentes pontos de um espectro. Em alguns, a IA pode ajudar na navegação ou sugerir alvos, enquanto um operador autoriza o ataque. Em outros, um operador pode supervisionar um sistema e manter a possibilidade de assumir o controle. Sistemas totalmente autônomos, por outro lado, podem identificar e atacar alvos de acordo com regras programadas e condições variáveis, sem intervenção direta no momento do ataque. As fronteiras nem sempre são claras, especialmente no caso de munições de permanência e sistemas coordenados de drones.

Essa ambiguidade é politicamente conveniente. Ela permite que governos prometam controle humano enquanto preservam sistemas nos quais a atenção humana se reduz a aprovar uma recomendação, monitorar máquinas demais ao mesmo tempo ou aceitar uma decisão que não pode ser explicada a tempo. O controle significativo precisa ser operacional, não cerimonial. Deve incluir limites claros sobre onde a autonomia é permitida, formas confiáveis de cancelar uma ação e registros que permitam aos investigadores reconstruir o que aconteceu.

A questão da responsabilização é ainda mais difícil. Máquinas não podem ser punidas por violar o direito internacional. A responsabilidade precisa continuar com as pessoas e instituições que projetam, autorizam, implantam e supervisionam esses sistemas. Se um sistema de IA for opaco ou se comportar de maneira imprevisível, será mais difícil provar negligência ou intenção. Isso não é uma nota de rodapé técnica: pode criar uma lacuna de responsabilização na qual o dano é evidente, mas a responsabilidade se distribui entre tantos atores que ninguém responde por ele.

A lei deve estabelecer os limites antes que a implantação o faça

A ONU e a Cruz Vermelha estão pedindo aos Estados que negociem regras juridicamente vinculantes, e o momento é importante. A Reuters informou que as organizações pediram o início urgente das negociações de um instrumento com proibições claras e controles passíveis de aplicação.

Já existe uma estrutura jurídica para conflitos armados. O direito internacional humanitário se aplica a armas e métodos de guerra, incluindo sistemas que usam IA. A questão ainda sem resposta é se os princípios existentes são suficientes quando o sistema que toma a decisão de seleção de alvos é difícil de prever, inspecionar ou interromper. Esperar um incidente catastrófico para esclarecer essa questão seria uma falha de governança, não uma demonstração de cautela tecnológica.

É também nesse ponto que o debate público costuma ficar binário demais. A escolha não precisa ser entre proibir todo uso militar da IA e permitir autonomia irrestrita. A IA pode ajudar na logística, na análise ou em funções defensivas sem receber autoridade para decidir quem deve morrer. A linha vermelha deve se concentrar na delegação de decisões de seleção de alvos que envolvam vida ou morte a sistemas sem julgamento e controle humanos significativos.

O alerta da ONU é valioso porque desloca o debate da autonomia cinematográfica para a responsabilidade institucional. Quem autorizou o sistema? Quem compreendia seus limites? Quem poderia interrompê-lo? Quem investiga quando ele falha? Se essas perguntas não puderem ser respondidas antes da implantação, não ficarão mais fáceis depois que civis forem feridos.

Nosso veredito é direto: a IA pode ajudar forças militares a processar informações, mas não deve se tornar a parte responsável por uma decisão letal. Os Estados devem negociar agora proibições vinculantes e controles passíveis de aplicação, enquanto o julgamento humano ainda pode ser incorporado à cadeia de comando — em vez de ser reconstruído depois que as máquinas já tiverem puxado o gatilho.