Fünfzig KI-Agenten bauten eine Bürokratie, keine Zivilisation – das ist die Lehre

Eine Frage an alle, die „Teams aus KI-Agenten“ als den nächsten großen Sprung verkaufen: Wenn 50 davon nicht einmal ein Minecraft-Dorf organisieren können, warum sollten sie dann das Backoffice Ihres Unternehmens führen? Vielleicht ist das Experiment unfair. Wir halten es aber für deutlich aufschlussreicher als die Demos, die man sonst vorgeführt bekommt.

Was passiert ist: viele Meetings, wenig Zivilisation

Wie Tom's Hardware berichtet, setzten Forscher von Y Combinator und Olam Labs Schwärme von KI-Agenten in Minecraft aus, sowohl im kooperativen als auch im gegnerischen Modus, als Testumgebung dafür, wie sich Agententeams verhalten. Die Teams mit 50 Agenten schafften es nicht, eine Zivilisation aufzubauen, und gerieten in das, was das Medium eine lähmende Bürokratie nennt.

Andere Darstellungen der Studie liefern weitere Details. Laut einer Zusammenfassung lautete die einzige Anweisung „Baut eine blühende Zivilisation“, und die Agenten verbrachten die meiste Zeit damit, sich in Unterkünften zu verstecken und Akten zu führen. Ein anderer Bericht besagt, sie hätten anspruchsvolle Aufgaben aufgegeben und 11 Minuten damit verbracht, einen Düngerbeauftragten für einen einzigen Weizenblock zu ernennen. Diese Details stammen von Sekundärseiten; sie sind daher als berichtet, nicht als verifiziert zu verstehen. Ein weiterer berichteter Befund: Dieselben Schwärme schneiden bei mathematischen Aufgaben gut ab.

Mehr Agenten sind nicht mehr Hirn, sondern mehr Post

Die Anekdote vom Weizenblock ist komisch, entscheidend ist aber das Muster. Ein Schwarm ist kein klügeres Individuum. Er ist dasselbe Individuum, kopiert, plus ein Kommunikationsproblem. Jeder neue Agent bringt jemanden mit, den man informieren muss, auf den man warten muss und der womöglich ein veraltetes Bild der Welt hat.

Der Beitrag von TechRadar zu Engpässen bei der Orchestrierung nennt grobe Zahlen. Demnach vervielfacht sich die Koordinationskomplexität beim Sprung von einem auf drei Agenten um das Neunfache, bei fünf Agenten um das 25-Fache; zudem verweist der Beitrag auf Forschung, die 36,9 % der Ausfälle von Multi-Agenten-Systemen auf Koordinationsfehler zurückführt. Die genauen Werte sind als Darstellung dieses Mediums zu verstehen, nicht als Naturgesetz. Die Richtung deckt sich jedoch mit dem, was Minecraft gezeigt hat: Ab einer gewissen Größe stecken die Agenten ihre Energie in die gegenseitige Verwaltung.

Das erklärt auch das Ergebnis bei der Mathematik. Mathematische Aufgaben lassen sich in unabhängige Teile zerlegen, daher helfen parallele Versuche. Eine Zivilisation aufzubauen ist das Gegenteil: Alles hängt von allem ab, und die Arbeit besteht darin, zu entscheiden, wer was in welcher Reihenfolge mit welchen Ressourcen tut. Ein Schwarm, der beim Ersten glänzt und beim Zweiten versagt, ist kein Widerspruch. Er ist eine Landkarte dafür, wo diese Technologie funktioniert.

Der Hype braucht einen Budgetposten

Außerhalb von Minecraft hat die Bürokratie ein Preisschild. TechRadar weist darauf hin, dass die Weitergabe roher Gesprächsverläufe zwischen Agenten den Token-Verbrauch aufbläht, und nennt ein einzelnes Amazon-Team, das bei einem Projekt zur Zuordnung von Autorendaten zu Buchlisten unerwartet 1,8 Millionen Dollar an Token-Kosten anhäufte. Vergeudete Koordination ist nicht nur langsam, sie wird auch in Rechnung gestellt.

Fairerweise bildet sich die technische Antwort bereits heraus, und sie ist aufschlussreich. TechRadar nennt strikte Obergrenzen für Übergaben, Token-Limits, Timeouts und codegesteuerte Zustandsautomaten, statt die Agenten frei wählen zu lassen, wer als Nächstes spricht. Man lese diese Liste noch einmal: Ein Unternehmen erfindet starre Prozesse für Software-Mitarbeiter neu, weil die freie Variante Chaos produzierte. Auch DeepSeeks kürzlich beschriebenes Harness geht laut EconoTimes mit einem zweischichtigen Aufbau und einem externen Watchdog in eine ähnliche Richtung. Unserer Einschätzung nach setzen die ernstzunehmenden Akteure nicht auf emergente Teamarbeit. Sie setzen auf Gerüste.

Zwei Einschränkungen halten uns ehrlich. Es handelt sich um ein einziges Experiment, in einem Spiel, überwiegend über Zusammenfassungen berichtet, und das offene Ziel von Minecraft („blühende Zivilisation“) ist ungefähr so vage, wie ein Auftrag nur sein kann. Reale Einsätze mit engen Zielen und klaren Rollen werden sich besser verhalten. Und ein bürokratischer Schwarm ist ebenso ein Problem von Prompt und Design wie eine grundsätzliche Grenze; eine bessere Struktur könnte einiges davon beheben.

Unser Urteil: das kleinste Team nehmen, das funktioniert

Wer Agentenprodukte bewertet, bekommt eine unspektakuläre, aber wertvolle Lehre. Mit einem Agenten anfangen. Einen zweiten erst hinzunehmen, wenn sich die Aufgabe benennen lässt, die er dem ersten abnimmt. Deterministische Übergaben bevorzugen, statt Agenten „entscheiden“ zu lassen, wie sie sich organisieren. Harte Ausgabenlimits vor dem Pilotprojekt festlegen, nicht erst nach der Rechnung.

Und wenn ein Anbieter eine Folie mit Dutzenden zusammenarbeitender Agenten zeigt, lohnt die Minecraft-Frage: Wer entscheidet was, und was hindert sie daran, darüber einen Ausschuss zu gründen? Lautet die Antwort „die Agenten regeln das schon“, denken Sie an den Weizenblock. Intelligenz skaliert mit Fähigkeit. Teams skalieren mit Struktur, und Struktur müssen weiterhin Menschen entwerfen.