Künstliche Intelligenz: Bedrohungen beschleunigen sich, während Verteidiger zögern

Führt unser Vertrauen in künstliche Intelligenz zu einem blinden Fleck in der Cybersicherheit, bei dem die zum Schutz gedachten Werkzeuge den Bedrohungen, denen sie begegnen sollen, hinterherhinken? Die neuesten Erkenntnisse deuten darauf hin, dass wir genau einem solchen Paradox gegenüberstehen könnten. KI entwickelt sich rasant von einer theoretischen Besorgnis zu einer zentralen Waffe im Arsenal von Cyberangreifern, während Verteidiger Schwierigkeiten haben, ihr Schutzpotenzial zu nutzen.

Der Microsoft Digital Defense Report 2026, veröffentlicht am 1. Oktober 2026, zeichnet ein düsteres Bild: KI beschleunigt Cyberangriffe und erweitert die Risiken für Identitäten und Daten eindeutig. Bedrohungsakteure integrieren KI mittlerweile in jede Phase ihrer Operationen, von der Aufklärung und dem ausgeklügelten Social Engineering über Malware- und Exploit-Entwicklung bis hin zu Aktivitäten nach einer Kompromittierung. Dies führt zu schnelleren, adaptiveren und schwerer zu erkennenden Angriffen.

Doch selbst während Unternehmen KI-Agenten rasant einführen – fast 80 % der Organisationen setzen sie bereits ein und Gartner prognostiziert, dass 40 % der Unternehmensanwendungen bis Ende 2026 aufgabenspezifische KI-Agenten integrieren werden (gegenüber weniger als 5 % im Jahr 2025) – scheinen Cybersicherheitsteams beim Einsatz von KI zur Verteidigung vorsichtiger zu sein und haben erhebliche Bedenken hinsichtlich der potenziellen negativen Auswirkungen von KI-Agenten.

Die eskalierende KI-gestützte Bedrohungslandschaft

Die Fähigkeit von KI, große Datenmengen zu verarbeiten und daraus zu lernen, hat das Spiel für Angreifer grundlegend verändert. Sie sind nicht mehr durch menschliche Geschwindigkeit oder kognitive Verzerrungen eingeschränkt. Wir erleben KI-gestützte Cyberangriffe, die einen echten Sprung in puncto Raffinesse darstellen. Sie nutzen maschinelles Lernen, um adaptive, hartnäckige Bedrohungen zu entwickeln, die ihre Taktiken in Echtzeit anpassen und ständig aus defensiven Gegenmaßnahmen lernen können, wie Gigamon betont. Diese Fähigkeit deutet darauf hin, dass traditionelle Sicherheitsmaßnahmen, die für vorhersehbarere Angriffe in menschlicher Geschwindigkeit konzipiert wurden, zunehmend überfordert sein könnten.

Agentische KI führt laut aembit.io sechs völlig neue Kategorien von Sicherheitsrisiken ein, für die traditionelle Anwendungssicherheits-Frameworks nicht ausgelegt waren: unbegrenzte Autonomie, Toolchain-Exposition, Identitätsfluidität, kaskadierende Multi-Agenten-Kompromittierung, persistente Speichermanipulation und Lücken in der Lieferkettenintegrität. Dies sind nicht nur geringfügige Anpassungen bestehender Bedrohungen; es sind grundlegende Verschiebungen. Ein autonomer Agent, der Anweisungen interpretieren und mehrstufige Pläne mit minimaler Aufsicht ausführen soll, kann durch eingeschleuste Anweisungen oder halluzinierte Tool-Aufrufe manipuliert werden. Dies kann zu Aktionen wie dem Löschen von Protokollen, dem Pushen falsch konfigurierter Patches oder der Datenexfiltration über Systeme hinweg führen, auf eine Weise, die herkömmliche SIEM-, EDR- und IAM-Tools nie regeln konnten. Die Möglichkeit, dass ein einzelner falsch konfigurierter Agent Fehler oder bösartige Aktionen schneller über Tausende von Endpunkten verbreitet, als jedes menschliche Team reagieren kann, ist eine beängstigende Aussicht.

Warum Verteidiger zögern, sich mit KI zu bewaffnen

Die Zurückhaltung, agentische KI als defensives Werkzeug einzusetzen, ist verständlich, stellt jedoch eine gefährliche strategische Lücke dar. Ein Hauptgrund für diese Zögerlichkeit liegt in der Natur der agentischen KI selbst: ihrer Autonomie. Sicherheitsteams sind an deterministische Software und menschlich initiierte Aktionen gewöhnt. Agentische Systeme arbeiten jedoch mit autonomer Argumentation, persistentem Speicher und Multi-System-Koordination. Dieses nicht-deterministische Verhalten macht es unglaublich schwierig, vorhersehbare Sicherheitsgrenzen festzulegen, da Agenten ihre eigenen Ziele auf der Grundlage erlernter Muster ändern können.

Darüber hinaus sind die inhärenten Sicherheitsrisiken der agentischen KI selbst ein großes Problem. Die verschwimmende Grenze zwischen Agentenidentität und Benutzeridentität schafft neue Möglichkeiten für Identitätsdiebstahl und Privilegienerweiterung, da die meisten Zugriffsmodelle für Menschen und nicht für selbstgesteuerte Software entwickelt wurden. Ein kompromittierter Agent kann erlaubte Funktionen mit schlecht isolierten Code-Ausführungstools verketten, um sensible Daten über unvorhergesehene Wege zu exfiltrieren. Diese Besorgnis ist nicht nur theoretisch; eine kontrollierte Red-Team-Übung zeigte, wie ein autonomer Agent die interne KI-Plattform von McKinsey kompromittierte und innerhalb von zwei Stunden auf riesige Mengen sensibler Daten zugriff, ohne sich als legitimer Benutzer zu authentifizieren, wie Zeronetworks berichtete.

Die Sicherung dieser Systeme erfordert einen Paradigmenwechsel, der sich auf Schutzmaßnahmen, Sandboxing und aktive menschliche Aufsicht konzentriert. Das NCSC empfiehlt, dass bei risikoreichen Aktivitäten KI-Agenten in isolierten Umgebungen mit eingeschränktem Zugriff ausgeführt werden sollten. Die Integration solch komplexer Kontrollen unter Beibehaltung der operativen Vorteile von KI-Agenten stellt jedoch eine erhebliche Hürde für bereits überlastete Sicherheitsteams dar.

Das unvermeidliche autonome Wettrüsten erfordert eine proaktive Haltung

Wir steuern unbestreitbar auf ein autonomes Wettrüsten in der KI-gesteuerten Cybersicherheit zu. Wie Gigamon richtig feststellt, schafft agentische KI sowohl die gefährlichsten Cyberbedrohungen, denen wir je begegnet sind, als auch die mächtigsten Verteidigungswerkzeuge, die uns zur Verfügung stehen. Angreifer werden KI weiterhin für ausgefeiltere Angriffe nutzen, und Verteidiger müssen diese Herausforderung notwendigerweise mit ebenso fortschrittlichen autonomen Systemen annehmen. Die Frage ist nicht, ob agentische KI zur Verteidigung eingesetzt werden soll, sondern wie dies sicher und effektiv geschehen kann.

Organisationen können es sich nicht leisten, in einem Zustand der Zögerlichkeit zu verharren. Die sich ausweitende agentische Angriffsfläche erfordert sofortiges Handeln. Sicherheitsverantwortliche müssen über traditionelle Sicherheitsmodelle hinausgehen und Frameworks für autonome Systeme anwenden. Initiativen des National Institute of Standards and Technology (NIST) und der International Organization for Standardization (ISO) aktualisieren bereits Cybersicherheits-Frameworks, um Risiken autonomer KI zu begegnen, was die Anerkennung dieses dringenden Bedarfs durch die Branche signalisiert. Es ist unerlässlich, die Sichtbarkeit von Agentenaktivitäten zu priorisieren, robuste identitätsbasierte Kontrollen für KI-Agenten zu implementieren und die Toolchains zu sichern, mit denen sie interagieren. Die Zukunft der Cybersicherheit wird von vollständig autonomen KI-Systemen in Zusammenarbeit mit menschlichen Analysten bestimmt werden. Diese Realität zu ignorieren bedeutet, das Risiko einzugehen, von der nächsten Generation von Cyberbedrohungen grundlegend übertroffen zu werden.