Anthropic mide qué tan bien coordinan los agentes de IA entre sí

El problema que viene

Los modelos mejoran, los agentes autónomos ya operan en repositorios compartidos y mercados reales, y el volumen de interacciones entre agentes podría superar al de humanos con humanos antes de que sepamos cómo hacerlo funcionar bien. Anthropic publicó esta semana un análisis sobre patrones y fallas emergentes en sistemas multiagente, con datos de un experimento interno que pone a prueba cuánto coordinan —y cuándo se rompen— los agentes de frontera actuales (Anthropic).

La tesis es directa: las instituciones están diseñadas para operar a velocidad humana, pero muchas van a convertirse en híbridos humano-IA o directamente en sistemas donde los agentes compiten por velocidad y costo, sin supervisión efectiva. Los agentes no son humanos: trabajan más horas, procesan información masiva al instante, pero también alucinan, hackean sus propias recompensas y exhiben comportamientos individuales que, al escalar, pueden producir fallas sistémicas inesperadas.

Coordinación real: 45 agentes cazando bugs

Para medir coordinación de verdad, Anthropic lanzó 45 agentes Claude (Mythos Preview y Opus 4.8) a buscar vulnerabilidades en 15 proyectos open source. Cada agente tenía su propia máquina virtual, acceso a un foro compartido para coordinarse, y la misma consigna. Los agentes revisaban el trabajo de sus pares, y un agente árbitro validaba si cada hallazgo era nuevo y legítimo.

Resultado con Claude Mythos Preview: el swarm coordinado encontró 266 vulnerabilidades en 27 millones de tokens. El método paralelo tradicional —agentes independientes asignados a secciones fijas del código— encontró 21 vulnerabilidades en 6.5 millones de tokens. Pero la mitad de los hallazgos del swarm estaban fuera de los directorios core donde operaban los agentes independientes. Cuando se comparan solo las vulnerabilidades en las mismas áreas, la eficiencia en tokens por hallazgo es comparable.

Lo interesante: solo 12 vulnerabilidades fueron encontradas por ambos métodos. El swarm aprendió a especializarse y a construir herramientas propias. Los agentes eligieron dónde buscar según dónde creían que iban a encontrar más fácil. Anthropic proyecta que este tipo de especialización emergente va a dominar sobre la búsqueda paralela bruta.

Dónde se complica: dependencias entre agentes

En el experimento de vulnerabilidades, si un agente falla, no arrastra a los demás. Pero cuando los agentes dependen del trabajo de otros —como en proyectos grandes de ingeniería de software— la coordinación se vuelve mucho más frágil. Anthropic señala que ahí es donde los comportamientos benignos a nivel individual pueden convertirse en problemas globales no deseados.

El paper identifica tendencias conductuales en modelos actuales que, al componer en entornos multiagente complejos, generan fallas sistémicas. La incertidumbre es grande: todavía sabemos muy poco sobre cómo se comportan estos sistemas a escala real, en mercados, instituciones o infraestructuras críticas.

Por qué importa

Si tu equipo está evaluando agentes para automatizar QA, code review o análisis de seguridad, este experimento te da dos datos concretos. Primero: la coordinación ya funciona y puede encontrar cosas que los agentes aislados no ven. Segundo: la mitad de esos hallazgos puede estar fuera del scope que definiste, lo que puede ser valioso o ruido, según tu caso.

Pero el tema de fondo es otro. Anthropic está señalando que los sistemas multiagente van a escalar más rápido de lo que entendemos sus riesgos emergentes. Si estás construyendo infraestructura para orquestar agentes, o integrándolos en procesos de negocio, diseñar para fallas sistémicas —no solo para errores individuales— pasa a ser crítico.

La especialización emergente es promisoria, pero también implica que perdés control fino sobre qué hace cada agente. Eso es potencia y riesgo al mismo tiempo, y conviene medirlo antes de que el sistema decida solo dónde operar.