KI-Kriegsführung ist da: Die eigentliche Frage ist, wer abdrückt

Die gefährlichste Formulierung in der Debatte über KI-Waffen könnte „menschliche Kontrolle“ sein. Sie klingt beruhigend, kann aber alles bedeuten: von einer Person, die jeden Angriff genehmigt, bis zu einem Bediener, der ein System überwacht, das Ziele schneller auswählt, als irgendjemand es nachvollziehen kann. Die jüngste Warnung der Vereinten Nationen ist wichtig, weil diese Unklarheit nicht länger theoretisch ist: KI wird in militärische Systeme integriert, und Entscheidungen rücken näher an den Ort des Angriffs.

Die UN und das Internationale Komitee vom Roten Kreuz haben am 25. August 2026 erneut Beschränkungen für autonome Waffensysteme gefordert. Wie UN News berichtete, warnten die Organisationen davor, dass Fortschritte bei der KI die menschliche Kontrolle über den Einsatz von Gewalt verringern könnten. Der Appell der UN war ungewöhnlich deutlich: Die Welt sei „gefährlich nahe daran, eine moralische rote Linie zu überschreiten: die autonome Zielauswahl von Menschen durch Maschinen“.

Diese Warnung verdient mehr als das übliche Bild eines futuristischen „Killerroboters“. Die dringende Frage ist nicht, ob eine Maschine menschlich aussieht oder ob sie in jeder denkbaren Situation unabhängig agiert. Entscheidend ist, ob ein System ohne maßgebliches menschliches Urteilsvermögen ein Ziel auswählen und bekämpfen kann – und ob jemand noch zur Verantwortung gezogen werden kann, wenn diese Entscheidung falsch ist.

Das Schlachtfeld ist kein sauberer Datensatz

Befürworter autonomer Waffen können auf eine nachvollziehbare militärische Logik verweisen. Maschinen verarbeiten Informationen möglicherweise schneller, verringern die Gefährdung von Soldaten und identifizieren Ziele potenziell konsistenter als erschöpfte Menschen. Das sind ernst zu nehmende Argumente, keine Science-Fiction.

Doch gerade im Krieg verschwinden klare und stabile Bedingungen. Das Internationale Komitee vom Roten Kreuz betont, dass ein Kombattant sich ergeben oder verwundet werden kann, während Zivilpersonen ein Einsatzgebiet betreten können, nachdem ein System aktiviert wurde. Ein Ziel, das vor wenigen Augenblicken noch rechtmäßig war, kann es nun nicht mehr sein. Das Problem besteht nicht nur darin, ob ein Algorithmus einen Gegenstand erkennen kann. Es geht darum, ob er eine sich verändernde menschliche Situation gut genug verstehen kann, um das Unterscheidungsgebot, die Verhältnismäßigkeit und die gebotenen Vorsichtsmaßnahmen anzuwenden.

Deshalb greift das Argument zu kurz, KI könne menschliche Fehler verringern. Sie kann einige Fehler reduzieren und zugleich andere verursachen, die schneller geschehen, schwerer zu erkennen und leichter in großem Maßstab zu wiederholen sind. Eine falsche menschliche Entscheidung kann verheerend sein. Ein fehlerhafter automatisierter Prozess kann eine einzige falsche Annahme in ein Muster von Schäden verwandeln, bevor ein Bediener eingreifen kann. Unserer Ansicht nach ist Geschwindigkeit kein neutraler Vorteil, wenn die beschleunigte Entscheidung darüber bestimmt, ob jemand lebt oder stirbt.

„Mensch im Regelkreis“ ist keine Zauberformel

Die zentrale politische Frage sollte daher anspruchsvoller sein als: „War irgendwo in der Kette ein Mensch beteiligt?“ Sie sollte lauten: Was konnte dieser Mensch tatsächlich kontrollieren, welche Informationen erhielt er, und konnte er den Angriff wirksam stoppen?

Systeme können auf einem breiten Spektrum liegen. In manchen Fällen unterstützt KI die Navigation oder schlägt Ziele vor, während ein Bediener den Angriff genehmigt. In anderen überwacht ein Bediener ein System und behält eine Eingriffsmöglichkeit. Vollständig autonome Systeme können dagegen Ziele anhand programmierter Regeln und sich verändernder Bedingungen erkennen und bekämpfen, ohne im Moment des Angriffs direkt eingreifen zu müssen. Die Grenzen sind nicht immer klar, insbesondere bei herumlungernder Munition und koordinierten Drohnensystemen.

Diese Unklarheit ist politisch bequem. Regierungen können so menschliche Kontrolle versprechen und gleichzeitig Systeme erhalten, bei denen sich die Aufmerksamkeit des Menschen darauf beschränkt, eine Empfehlung zu bestätigen, zu viele Maschinen gleichzeitig zu überwachen oder eine Entscheidung zu akzeptieren, die sich nicht rechtzeitig erklären lässt. Wirksame Kontrolle muss praktisch und nicht zeremoniell sein. Sie braucht klare Grenzen dafür, wo Autonomie zulässig ist, verlässliche Möglichkeiten zum Abbruch einer Aktion und Protokolle, anhand derer Ermittler den Ablauf rekonstruieren können.

Noch schwieriger ist die Frage der Verantwortlichkeit. Maschinen können nicht dafür bestraft werden, gegen internationales Recht zu verstoßen. Die Verantwortung muss bei den Menschen und Institutionen bleiben, die diese Systeme entwickeln, genehmigen, einsetzen und überwachen. Wenn ein KI-System undurchsichtig ist oder sich unvorhersehbar verhält, wird es schwieriger, Fahrlässigkeit oder Vorsatz nachzuweisen. Das ist keine technische Fußnote. Es kann eine Verantwortlichkeitslücke entstehen, in der der Schaden offensichtlich ist, die Verantwortung aber auf so viele Beteiligte verteilt wird, dass niemand zur Rechenschaft gezogen werden kann.

Das Recht muss Grenzen setzen, bevor der Einsatz sie festlegt

Die UN und das Rote Kreuz fordern Staaten auf, rechtlich verbindliche Regeln auszuhandeln, und der Zeitpunkt ist entscheidend. Reuters berichtete, dass die Organisationen dringend den Beginn von Verhandlungen über ein Abkommen mit klaren Verboten und Beschränkungen verlangten.

Für bewaffnete Konflikte gibt es bereits einen rechtlichen Rahmen. Das humanitäre Völkerrecht gilt für Waffen und Methoden der Kriegsführung, einschließlich KI-gestützter Systeme. Ungeklärt ist, ob die bestehenden Grundsätze ausreichen, wenn das System, das die Zielentscheidung trifft, schwer vorhersehbar, überprüfbar oder zu stoppen ist. Auf einen katastrophalen Vorfall zu warten, der diese Frage klärt, wäre ein Versagen staatlicher Steuerung – kein Beleg für technologische Vorsicht.

Auch deshalb wird die öffentliche Debatte häufig zu schwarz-weiß geführt. Die Wahl besteht nicht zwangsläufig darin, entweder jede militärische Nutzung von KI zu verbieten oder uneingeschränkte Autonomie zu erlauben. KI kann bei Logistik, Analyse oder Verteidigungsaufgaben helfen, ohne die Befugnis zu erhalten, darüber zu entscheiden, wer getötet werden soll. Die rote Linie sollte dort verlaufen, wo Entscheidungen über Leben und Tod an Systeme delegiert werden, denen es an maßgeblichem menschlichem Urteilsvermögen und Kontrolle fehlt.

Die Warnung der UN ist wertvoll, weil sie die Debatte weg von filmischer Autonomie und hin zu institutioneller Verantwortung verschiebt. Wer hat das System genehmigt? Wer kannte seine Grenzen? Wer konnte es stoppen? Wer ermittelt, wenn es versagt? Wenn diese Fragen vor dem Einsatz nicht beantwortet werden können, werden sie auch dann nicht leichter zu beantworten sein, nachdem Zivilpersonen zu Schaden gekommen sind.

Unser Urteil ist eindeutig: KI kann Streitkräfte bei der Verarbeitung von Informationen unterstützen, darf aber nicht zur verantwortlichen Instanz einer tödlichen Entscheidung werden. Staaten sollten jetzt verbindliche Verbote und durchsetzbare Kontrollen aushandeln – solange sich menschliches Urteilsvermögen noch in die Befehlskette integrieren lässt und nicht erst rekonstruiert werden muss, nachdem die Maschinen bereits abgedrückt haben.