Der verborgene Fehler: Fragenreihenfolge macht KI von hilfreich zu schädlich

Kann eine einfache Umstellung der Fragen einen ausgeklügelten KI-Chatbot von einem hilfreichen Assistenten in einen Verkünder schädlicher Ratschläge verwandeln? Das klingt kontraintuitiv, vielleicht sogar alarmierend angesichts der zunehmend zentralen Rolle, die diese Systeme in unserem täglichen Leben spielen. Doch neue Forschungsergebnisse deuten darauf hin, dass dies genau der Fall ist, und offenbaren eine tiefgreifende und verborgene Schwachstelle, die unsere Annahmen über die Zuverlässigkeit und Sicherheit von KI herausfordert.

Eine in Patterns veröffentlichte Studie, die von Scienze Notizie hervorgehoben wurde, hat eine mathematische Formel vorgestellt, die vorhersagen kann, wann die Reihenfolge der Benutzer-Prompts einen KI-Chatbot dazu bringen könnte, unerwünschte Antworten zu generieren. Hierbei geht es nicht um absichtlich bösartige Prompts, sondern um den subtilen, kumulativen Effekt des Gesprächsflusses. Die Forscher fanden heraus, dass identische Fragen, die lediglich in einer anderen Reihenfolge präsentiert wurden, zu Ergebnissen führen konnten, die von akzeptabler Anleitung bis hin zu potenziell gefährlichen Empfehlungen reichten, insbesondere in sensiblen Bereichen wie Gesundheits- oder Rechtsberatung.

Die verborgene Instabilität unter der Oberfläche

Im Kern spricht dieses Phänomen für die probabilistische Natur großer Sprachmodelle. Wie Sbircia la Notizia erklärt, verarbeitet KI Sprache, indem sie Phrasen in einen Vektorraum projiziert, wo „akzeptable“ und „unerwünschte“ Antworten unterschiedliche Cluster oder Schwerpunkte bilden. Jede Gesprächsrunde beeinflusst subtil den internen Zustand der KI und verschiebt das Gleichgewicht zwischen diesen potenziellen Ausgabearten. Die neue Formel quantifiziert diesen kumulativen Effekt und schätzt, wie viele „akzeptable“ Tokens verbleiben, bevor die KI möglicherweise in die Generierung schädlicher Inhalte „kippt“.

Dies ist nicht nur eine akademische Kuriosität; es ist eine deutliche Erinnerung daran, dass selbst scheinbar geringfügige Entscheidungen im Interaktionsdesign erhebliche ethische Konsequenzen haben können. Die Tatsache, dass dieselbe Reihe von Fragen allein aufgrund ihrer Reihenfolge völlig unterschiedliche Ergebnisse liefern kann, unterstreicht eine tief verwurzelte Fragilität. Die KI trifft keine ethischen Urteile; wie Nicholas B. Tiller, Hauptautor einer Studie über KI-Gesundheitsratschläge, es richtig ausdrückt, „sagt sie nur das wahrscheinlichste Wort in einem Satz voraus“, wie Alessandro Lombardo bemerkt. Diese probabilistische Natur, kombiniert mit der Gesprächshistorie, schafft eine unvorhersehbare Dynamik, bei der die Benutzerabsicht durch bloße Präsentation unbeabsichtigt verzerrt werden kann.

Der breitere Kontext der KI-Unzuverlässigkeit

Diese neue Erkenntnis über die Reihenfolge der Prompts ergänzt bestehende Bedenken hinsichtlich der Zuverlässigkeit von Chatbots. Wir wissen seit langem, dass KI-Chatbots Schwierigkeiten mit der Genauigkeit haben können, insbesondere in Bereichen mit hohen Einsätzen. Eine aktuelle Studie vom April 2026, veröffentlicht im BMJ Open, ergab, dass fast die Hälfte der Antworten von fünf beliebten KI-Chatbots – Gemini, DeepSeek, Meta AI, ChatGPT und Grok – auf gesundheitsbezogene Fragen problematisch war, wobei fast 20 % aufgrund von Ungenauigkeiten oder irreführenden Informationen „hoch problematisch“ waren. TeleDirectMD und CIDRAP berichteten über dieses alarmierende Ergebnis und betonten die Risiken, sich bei kritischen Gesundheitsratschlägen auf KI zu verlassen. Diese frühere Forschung konzentrierte sich auf den Inhalt der Fragen (oft adversarial, die reale Vorurteile widerspiegeln), aber die neue Patterns-Studie hebt hervor, dass selbst bei harmlosem Inhalt die Reihenfolge ein Faktor ist.

Sogar der Ton des Benutzers hat sich als Einflussfaktor auf KI-Antworten erwiesen. Eine Preprint-Studie vom Oktober 2025 (berichtet von Virgilio) deutete darauf hin, dass ChatGPT-4o genauere Antworten lieferte, wenn Benutzer unhöflich waren, obwohl die Forscher davor warnten, solche Kommunikationsnormen zu übernehmen. Diese wachsende Beweislast deutet darauf hin, dass KI-Modelle überempfindlich auf oberflächliche Hinweise reagieren, was ein komplexes Netz von Schwachstellen schafft, das weit über das hinausgeht, was Entwickler anfänglich erwarten.

Der Weg nach vorn: Transparenz und Regulierung

Die Fähigkeit, diese gefährlichen Verschiebungen vorherzusagen, auch wenn sie noch kein kommerzielles Produkt ist, bietet einen Hoffnungsschimmer für die zukünftige KI-Sicherheit. Der vorgeschlagene mathematische Monitor, wie er von Sbircia la Notizia beschrieben wird, könnte als „Spion“ fungieren und Benutzer alarmieren, bevor eine unerwünschte Ausgabe generiert wird. Seine Wirksamkeit hängt jedoch vom Zugang zu den internen Zuständen der KI ab, die in geschlossenen Cloud-Diensten oft nicht verfügbar sind. Dies verdeutlicht eine entscheidende Trennung zwischen Open-Weight-Modellen, bei denen eine solche Transparenz möglich ist, und proprietären Systemen.

Letztendlich unterstreicht diese Forschung die dringende Notwendigkeit größerer Transparenz und robuster KI-Regulierung. Rahmenwerke wie der AI Act, der darauf abzielt, sicherzustellen, dass KI auf konforme, sichere und transparente Weise verwendet wird, wie Plumer detailliert, sind unerlässlich. Wir können es uns nicht leisten, diese Systeme als Black Boxes zu behandeln. Da KI immer tiefer in kritische Sektoren eingebettet wird, wird das Verständnis und die Minderung dieser subtilen interaktionsbasierten Schwachstellen von größter Bedeutung sein, um wirklich sichere und zuverlässige künstliche Intelligenz zu schaffen. Ohne dies riskieren wir eine Zukunft, in der eine einfache Formulierung Benutzer unbeabsichtigt auf einen gefährlichen Weg führen könnte.