Más de mil personas que trabajan en laboratorios de inteligencia artificial firmaron una carta llamada "Pacing the Frontier". Pacing the Frontier es un llamado internacional a crear herramientas de pausa: la preocupación es que los modelos capaces de mejorar a otros modelos aceleren más allá de nuestra capacidad de entenderlos o regularlos. No piden detener la carrera. Piden la opción de elegir el ritmo cuando haga falta.
Esta petición sale de dentro. Entre los firmantes están Jack Clark y Chris Olah, de Anthropic, junto con científicos jefe de OpenAI, Meta, Google DeepMind y Thinking Machines. Quienes construyen estos sistemas ahora piden formas de limitarlos.
¿Por qué pedir frenos mientras se compite por avanzar más rápido?
La respuesta revela tensiones reales dentro de los laboratorios que lideran la carrera. Hace algún tiempo Anthropic ya había explorado los riesgos de la mejora autónoma. Esta carta amplía esa idea con el apoyo de casi una docena de organizaciones y el respaldo público de OpenAI y Anthropic.
Lo distinto acá es el origen. Las alertas solían venir de académicos externos o de exempleados sin nada que perder. Esta vez la voz surge de gente con acciones, bonos y carreras activas dentro de la industria. OpenAI declaró que el mundo necesitará pautar el ritmo del avance en algún momento futuro. Ese condicional dice más de lo que parece.
¿Quién decide cuándo hace falta pausar?
Los mismos laboratorios que competirían por ignorar la pausa se reservan esa definición. Ahí aparece un conflicto estructural: el árbitro también es jugador. Esta dinámica aparece descrita en The Generosity in the Doorway. Cuando quienes causan el problema también diseñan el remedio, los incentivos tienden a alinearse de formas predecibles.
No hablo de mala fe. Las estructuras importan más que las intenciones. Hay además un ángulo entre potencias: si solo Estados Unidos y sus laboratorios definen estas herramientas, China y las economías emergentes quedan fuera de la mesa donde se deciden las reglas. Un acuerdo sin verificación real entre rivales no frena nada. Solo redistribuye la velocidad.
Todavía no tengo claro si esta carta nace de alarma genuina, de posicionamiento estratégico, o de ambas cosas a la vez. El riesgo técnico de modelos que se mejoran solos está bien documentado. Sin embargo, la carta evita detalles sobre auditorías externas, poder de veto o qué pasa cuando un laboratorio decide que su caso particular no aplica.
Vi tensiones parecidas en otras organizaciones. Cuando un grupo pide ser regulado, conviene mirar quién queda fuera de esa regulación y quién puede decir "todavía no". Esta carta no responde ninguna de las dos preguntas. Propone un esfuerzo internacional sin mecanismos claros de rendición de cuentas.
Merece reconocimiento que tantas personas dentro de estos laboratorios hayan firmado algo público. Eso no ocurre por accidente: sugiere una fricción genuina entre lo que exige la competencia y lo que parece prudente. Los frenos efectivos requieren una separación clara entre quien construye y quien vigila. Esta propuesta, con toda su buena voluntad aparente, todavía no ofrece esa distancia.
Las piedras no mienten. Pero, ¿pueden quienes lideran la carrera escribir reglas que realmente los frenen a ellos mismos?
Sources
1. Carta abierta "Pacing the Frontier", firmada por empleados de OpenAI, Anthropic, Google DeepMind, Meta y Thinking Machines
2. Declaraciones públicas de OpenAI y Anthropic en X sobre el ritmo del avance de la IA
3. Reporte técnico de Anthropic sobre IA automejorada
4. Yves Laurent, The Generosity in the Doorway
