Cinquante agents IA ont bâti une bureaucratie, pas une civilisation, et c’est là la leçon

Une question pour tous ceux qui vendent des « équipes d’agents IA » comme le prochain grand bond en avant: si 50 d’entre eux ne parviennent même pas à organiser un village dans Minecraft, pourquoi géreraient-ils le back-office de votre entreprise ? L’expérience est peut-être injuste. Mais nous la trouvons bien plus instructive que les démos auxquelles nous avons droit d’habitude.

Ce qui s’est passé: beaucoup de réunions, peu de civilisation

Comme le rapporte Tom's Hardware, des chercheurs de Y Combinator et d’Olam Labs ont lâché des essaims d’agents IA dans Minecraft, en mode coopératif comme en mode adversarial, pour en faire un bac à sable d’étude du comportement des équipes d’agents. Les équipes de 50 agents n’ont pas réussi à bâtir une civilisation et ont sombré dans ce que le site appelle une bureaucratie paralysante.

D’autres comptes rendus de l’étude apportent des détails. Selon l’un d’eux, la seule consigne était « Construisez une civilisation prospère », et les agents ont passé le plus clair de leur temps à se cacher dans des abris et à tenir des registres. Un autre récit affirme qu’ils ont abandonné les tâches ambitieuses et passé 11 minutes à nommer un responsable de l’engrais pour un seul bloc de blé. Ces détails proviennent de pages secondaires: à prendre comme rapportés, non vérifiés. Autre résultat rapporté: ces mêmes essaims se débrouillent bien sur les problèmes mathématiques.

Plus d’agents, ce n’est pas plus de cerveau, c’est plus de courrier

L’anecdote du bloc de blé est drôle, mais c’est le schéma qui compte. Un essaim n’est pas un individu plus intelligent. C’est le même individu, copié, plus un problème de communication. Chaque nouvel agent ajoute quelqu’un à informer, quelqu’un à attendre et quelqu’un qui a peut-être une image périmée du monde.

L’article de TechRadar sur les goulets d’étranglement de l’orchestration avance des ordres de grandeur. Selon lui, passer d’un à trois agents multiplie la complexité de coordination par 9, et à cinq agents par 25, et il cite des recherches attribuant 36,9 % des défaillances des systèmes multi-agents à un défaut d’alignement de la coordination. Ces chiffres exacts relèvent du cadrage de ce média, pas d’une loi de la nature. La tendance, elle, correspond à ce qu’a montré Minecraft: au-delà d’une certaine taille, les agents dépensent leur énergie à se gérer les uns les autres.

Cela explique aussi le résultat en mathématiques. Les problèmes mathématiques se découpent en morceaux indépendants, si bien que les tentatives en parallèle aident. Bâtir une civilisation, c’est l’inverse: tout dépend de tout, et le travail consiste à décider qui fait quoi, dans quel ordre, avec quelles ressources. Un essaim excellent dans le premier cas et désespérant dans le second n’a rien de contradictoire. C’est une carte des endroits où cette technologie fonctionne.

Le battage a besoin d’une ligne budgétaire

En dehors de Minecraft, la bureaucratie a un prix. TechRadar note que transmettre des historiques de conversation bruts d’un agent à l’autre gonfle la consommation de tokens, et cite une seule équipe d’Amazon qui a vu s’accumuler de façon inattendue 1,8 million de dollars de coûts de tokens sur un projet associant des données d’auteurs à des fiches de livres. Une coordination gaspillée n’est pas seulement lente: elle est facturable.

Pour être juste, la réponse des ingénieurs est déjà en train de se dessiner, et elle est parlante. Les correctifs listés par TechRadar sont des limites strictes de passages de relais, des plafonds de tokens, des délais d’expiration et des machines à états pilotées par le code, plutôt que de laisser les agents choisir librement qui parle ensuite. Relisez cette liste: c’est une industrie qui réinvente un processus rigide pour des employés logiciels parce que la version libre a produit du chaos. Le Harness de DeepSeek, décrit récemment par EconoTimes, va dans un sens voisin, avec une conception à deux couches et un Watchdog externe. À notre avis, les acteurs sérieux ne parient pas sur un travail d’équipe émergent. Ils parient sur l’échafaudage.

Deux réserves nous gardent honnêtes. Il s’agit d’une seule expérience, dans un jeu, rapportée surtout par des résumés, et l’objectif ouvert de Minecraft (« civilisation prospère ») est à peu près aussi vague qu’une commande peut l’être. Les déploiements réels, avec des objectifs précis et des rôles clairs, se comporteront mieux. Et un essaim bureaucratique relève autant d’un problème de consigne et de conception que d’une limite fondamentale; une meilleure structure pourrait en corriger une partie.

Notre verdict: prenez la plus petite équipe qui fonctionne

Si vous évaluez des produits d’agents, la leçon est banale et précieuse. Commencez par un agent. N’en ajoutez un deuxième que lorsque vous pouvez nommer la tâche qu’il retire au premier. Préférez les passages de relais déterministes à des agents qui « décident » de leur organisation. Fixez des plafonds de dépenses avant le pilote, pas après la facture.

Et quand un fournisseur vous montre une diapositive avec des dizaines d’agents qui collaborent, posez-lui la question de Minecraft: qui décide de quoi, et qu’est-ce qui les empêche d’en faire un comité ? Si la réponse est « les agents se débrouillent », repensez au bloc de blé. L’intelligence évolue avec la capacité. Les équipes évoluent avec la structure, et la structure, ce sont encore les humains qui doivent la concevoir.