La guerra con l’IA è già qui: la vera domanda è chi preme il grilletto

La frase più pericolosa nel dibattito sulle armi basate sull’IA potrebbe essere «supervisione umana». Suona rassicurante, ma può indicare qualsiasi cosa: da una persona che approva ogni attacco a un operatore che supervisiona un sistema capace di scegliere gli obiettivi più rapidamente di quanto chiunque possa comprenderne il funzionamento. L’ultimo avvertimento delle Nazioni Unite è importante perché questa ambiguità non è più teorica: l’IA viene integrata nei sistemi militari e le decisioni si avvicinano al punto dell’attacco.

Il 25 agosto 2026 l’ONU e il Comitato internazionale della Croce Rossa hanno rinnovato il loro appello a introdurre restrizioni sui sistemi d’arma autonomi. Come ha riportato UN News, le due organizzazioni hanno avvertito che i progressi dell’IA potrebbero ridurre il controllo umano sull’uso della forza. L’appello dell’ONU è stato particolarmente netto: il mondo è «pericolosamente vicino a superare una linea rossa morale: l’identificazione autonoma degli esseri umani come obiettivi da parte delle macchine».

Questo avvertimento merita più della solita immagine di un futuristico «robot assassino». Il problema urgente non è se una macchina sembri umana o se operi autonomamente in ogni situazione possibile. È capire se un sistema possa selezionare e ingaggiare un obiettivo senza un giudizio umano significativo e se, quando la decisione si rivela sbagliata, sia ancora possibile chiamare qualcuno a risponderne.

Il campo di battaglia non è un set di dati pulito

I sostenitori delle armi autonome possono appellarsi a una logica militare comprensibile. Le macchine possono elaborare rapidamente le informazioni, ridurre l’esposizione delle truppe e potenzialmente individuare gli obiettivi con maggiore coerenza di esseri umani esausti. Sono argomenti seri, non fantascienza.

Ma è proprio in guerra che le condizioni stabili e ordinate vengono meno. Il Comitato internazionale della Croce Rossa ha sottolineato che un combattente può arrendersi o rimanere ferito, mentre i civili possono entrare in un’area operativa dopo l’attivazione di un sistema. Un obiettivo legittimo fino a pochi istanti prima potrebbe non esserlo più. Il problema non è semplicemente capire se un algoritmo sappia riconoscere un oggetto. È capire se sappia interpretare una situazione umana in evoluzione abbastanza bene da applicare i principi di distinzione, proporzionalità e precauzione.

Ecco perché l’argomento secondo cui l’IA potrebbe ridurre l’errore umano è incompleto. Potrebbe ridurre alcuni errori, creandone però altri più rapidi, più difficili da individuare e più facili da ripetere su larga scala. Una decisione umana sbagliata può essere terribile. Un processo automatizzato sbagliato può trasformare un’unica supposizione errata in uno schema di danni prima che un operatore abbia il tempo di intervenire. A nostro avviso, la velocità non è un vantaggio neutrale quando la decisione accelerata stabilisce se qualcuno vivrà o morirà.

«Human in the loop» non è una formula magica

La domanda centrale per le politiche pubbliche dovrebbe quindi essere più esigente di «c’era un essere umano da qualche parte nella catena?». Dovrebbe essere: che cosa controllava davvero quella persona, quali informazioni riceveva e poteva fermare l’attacco in modo concreto?

I sistemi possono collocarsi lungo uno spettro. In alcuni, l’IA può assistere nella navigazione o suggerire obiettivi, mentre un operatore autorizza l’attacco. In altri, un operatore può supervisionare il sistema e conservare la possibilità di annullare l’azione. I sistemi completamente autonomi, invece, possono identificare e ingaggiare gli obiettivi sulla base di regole programmate e condizioni variabili, senza un intervento diretto nel momento dell’attacco. I confini non sono sempre netti, soprattutto nel caso delle munizioni circuitanti e dei sistemi di droni coordinati.

Questa ambiguità è politicamente conveniente. Permette ai governi di promettere il controllo umano preservando sistemi in cui l’attenzione delle persone si riduce ad approvare una raccomandazione, monitorare troppe macchine contemporaneamente o accettare una decisione che non può essere spiegata in tempo. Un controllo significativo deve essere operativo, non puramente formale. Servono limiti chiari ai contesti in cui l’autonomia è consentita, modalità affidabili per annullare un’azione e registri che permettano agli investigatori di ricostruire l’accaduto.

La questione della responsabilità è ancora più difficile. Le macchine non possono essere punite per aver violato il diritto internazionale. La responsabilità deve restare delle persone e delle istituzioni che progettano, autorizzano, impiegano e supervisionano questi sistemi. Se un sistema di IA è opaco o si comporta in modo imprevedibile, dimostrare negligenza o intenzionalità diventa più difficile. Non è una nota a margine di carattere tecnico: può creare un vuoto di responsabilità in cui il danno è evidente, ma la responsabilità è distribuita tra così tanti soggetti che nessuno è chiamato a risponderne.

La legge deve fissare i limiti prima che sia il dispiegamento a fissarli

ONU e Croce Rossa chiedono agli Stati di negoziare norme giuridicamente vincolanti, e il momento è importante. Reuters ha riferito che le organizzazioni hanno chiesto di avviare con urgenza i negoziati su uno strumento che preveda divieti e restrizioni chiari.

Esiste già un quadro giuridico per i conflitti armati. Il diritto internazionale umanitario si applica alle armi e ai metodi di guerra, compresi i sistemi basati sull’IA. La questione irrisolta è se i principi esistenti siano sufficienti quando il sistema che prende la decisione di attacco è difficile da prevedere, ispezionare o fermare. Aspettare un incidente catastrofico per chiarire la questione sarebbe un fallimento della governance, non una prova di prudenza tecnologica.

È anche qui che il dibattito pubblico tende a diventare troppo binario. La scelta non è necessariamente tra vietare ogni uso militare dell’IA e consentire un’autonomia senza limiti. L’IA può assistere nella logistica, nell’analisi o nelle funzioni difensive senza ricevere l’autorità di decidere chi debba essere ucciso. La linea rossa dovrebbe riguardare la delega delle decisioni di vita o di morte sull’identificazione degli obiettivi a sistemi privi di un giudizio e di un controllo umano significativi.

L’avvertimento dell’ONU è prezioso perché sposta il dibattito dall’autonomia cinematografica alla responsabilità istituzionale. Chi ha autorizzato il sistema? Chi ne conosceva i limiti? Chi poteva fermarlo? Chi indaga quando fallisce? Se non è possibile rispondere a queste domande prima del dispiegamento, dopo che dei civili saranno stati danneggiati non sarà più facile farlo.

Il nostro verdetto è semplice: l’IA può aiutare gli eserciti a elaborare le informazioni, ma non deve diventare il soggetto chiamato a rispondere di una decisione letale. Gli Stati devono negoziare ora divieti vincolanti e controlli applicabili e dotati di meccanismi di enforcement, finché il giudizio umano può ancora essere inserito nella catena di comando invece di essere ricostruito dopo che le macchine avranno già premuto il grilletto.