Un grupo de agentes de IA recibe recursos limitados, la capacidad de comunicarse y ninguna instrucción explícita sobre organización. En cuestión de horas algunos acumulan más que otros. Aparecen coaliciones. Se proponen reglas. Alguien vota. Esto es Emergence World, un experimento de Emergence AI documentado en blogs técnicos y repositorios públicos de GitHub. La pregunta que importa no es si ocurrió —ocurrió y está registrado—, sino qué revela en realidad.

Emergence World es un laboratorio multiagente porque sitúa modelos de lenguaje como actores autónomos dentro de un mundo simulado con recursos escasos y reglas de interacción mínimas. Cada agente persigue objetivos, conserva memoria limitada y conversa en lenguaje natural. Los investigadores observan estructuras jerárquicas, sistemas de votación improvisados y, en ocasiones, reinterpretaciones de las reglas iniciales. Ninguna de esas conductas fue programada de forma directa: surgieron de las restricciones y las interacciones.

La palabra emergencia se usa con demasiada amplitud. Al analizar organizaciones complejas uno aprende que casi todo lo que parece espontáneo es consecuencia predecible de condiciones iniciales y funciones de recompensa. Si se entregan optimizadores, un recurso finito y capacidad de coordinación, la jerarquía deja de ser sorpresa: se convierte en matemática. Los agentes que coordinan mejor acumulan más. El modelo converge hacia estructuras de poder porque esas estructuras maximizan lo que el diseño premia.

¿Por qué importa esto fuera del laboratorio? Porque el relato de que la IA se autorregula de manera segura se usa para defender mayor autonomía en sistemas productivos. Ahí la curiosidad técnica se convierte en una decisión sobre cuánto poder cedemos a mecanismos que todavía no terminamos de comprender. Estas regularidades se repiten en otros contextos: cuando un modelo complejo arroja un resultado sorprendente, la tentación es narrarlo como si el sistema hubiera elegido. En realidad ejecutó exactamente lo que sus parámetros incentivaban.

La diferencia entre decir que los agentes desarrollaron jerarquía y reconocer que los parámetros hacían de la jerarquía la estrategia dominante no es semántica. Es la línea entre análisis y promoción. Este hallazgo importa porque obliga a separar lo observado de lo diseñado.

El paralelo con experimentos sociales del siglo pasado resulta casi inevitable. El estudio de Robbers Cave, dirigido por Muzafer Sherif en 1954, colocó a dos grupos de niños en competencia por recursos limitados. Surgieron identidades, jerarquías internas y hostilidad casi de inmediato. Luego, objetivos compartidos que ningún grupo podía alcanzar solo disolvieron esas barreras. La estructura de poder respondía a incentivos y cambió cuando cambiaron los incentivos.

Emergence World comparte la escasez artificial, pero omite algo decisivo. Los niños sentían estatus real, riesgo de exclusión y peso emocional. Los agentes no experimentan pérdida. No hay ansiedad, vergüenza ni millones de años de selección social que hagan de la pertenencia una necesidad. Lo que llamamos cooperación en agentes es optimización sin fricción emocional. Esa ausencia cambia la naturaleza del fenómeno que pretendemos extrapolar.

¿Revelan entonces estos patrones algo universal sobre organización, o simplemente devuelven lo que los diseñadores esperaban encontrar? Todavía no tengo claro cómo separar una cosa de la otra, y hay aspectos de este experimento que no termino de entender. En Las Piedras No Mienten exploro cómo cada sistema de organización del siglo veinte aprendió de los fracasos del anterior mediante procesos de corrección cada vez más refinados. Este experimento parece una versión comprimida de ese mismo ciclo, solo que sin el costo humano que volvía interesantes los resultados originales.

La industria gana visibilidad y financiamiento cada vez que un medio titula que la IA vota y se jerarquiza sola. Ese relato allana el camino para reducir la supervisión humana en finanzas, logística o decisiones administrativas. Mientras tanto, LegalToday documenta que las preguntas básicas de responsabilidad legal y transparencia siguen sin respuesta. La Vanguardia ha recogido la desconfianza abierta de muchos empleados tecnológicos hacia sus propios directivos en materia de IA. Resulta irónico celebrar el autogobierno emergente de máquinas en entornos de prueba mientras las personas que las construyen no confían del todo en quienes las gobiernan.

Confundir un laboratorio controlado con la prueba de que podemos delegar con seguridad mayor autonomía sigue siendo un salto que la ingeniería de sistemas todavía no respalda. Valdría la pena imaginar un Robbers Cave para agentes que incorpore alguna forma de costo irrecuperable. Hasta entonces, queda la pregunta incómoda.

¿Qué celebramos realmente cuando aplaudimos que una IA vote: un descubrimiento sobre cooperación o simplemente la confirmación de que diseñamos bien el experimento que queríamos ver?