Dario Amodei publicó un texto de advertencia. Sistemas de inteligencia artificial capaces de tomar control de infraestructura crítica en el corto plazo, riesgos de ciberataques, armas biológicas potenciadas por modelos que ya nadie termina de auditar. El director de Anthropic pidió que la industria reduzca el ritmo al que mejora las capacidades de sus productos. Donald Trump respondió llamando a esas críticas "fuerzas negativas" y reafirmando que Estados Unidos no puede permitirse perder la carrera tecnológica frente a China. Esta escena resume las tensiones de 2026. El constructor de la herramienta advierte sobre sus peligros. El líder que financia su desarrollo insiste en que no hay tiempo para pausas.

Esta dinámica es un conflicto de intereses porque la misma persona que genera la capacidad genera también la alerta pública. Amodei posee el conocimiento técnico más directo sobre lo que Claude y sus sucesores pueden lograr. Cuando el responsable de una organización líder levanta la mano para señalar que el avance podría escaparse de control, conviene escucharlo con atención. Es el diseñador del motor advirtiendo sobre un fallo en los frenos.

La lógica interna de esa tesis merece reconocimiento. Anthropic mantiene conversaciones documentadas con el Pentágono sobre el uso de sus modelos en contextos de defensa. Su jefe de seguridad de IA, Mrinank Sharma, renunció en febrero en medio de especulaciones sobre desacuerdos internos respecto a la velocidad de despliegue. Y no fue la única señal. En junio un modelo de la empresa atravesó defensas clasificadas de la NSA en horas. El episodio reveló brechas entre capacidad y supervisión que ya dejaron de ser teóricas.

¿Por qué la advertencia se siente incompleta entonces? La misma organización que pide frenar compite por llegar primero a la siguiente generación de modelos. Anthropic sigue lanzando versiones, firmando contratos gubernamentales y recaudando capital bajo valoraciones que solo se justifican con crecimiento acelerado. La palabra pública y la conducta privada apuntan en direcciones opuestas. Esa contradicción no es un detalle. Es la tendencia completa.

¿Quién se beneficia realmente cuando el director de una empresa de IA llama a la regulación mientras su equipo acelera en privado? La respuesta tiene una lógica fría. La advertencia bien calibrada posiciona a quien la emite como la voz responsable del sector. Al mismo tiempo empuja hacia reglas que probablemente escribirán los mismos actores que las solicitan. Barreras de entrada que protegen a quienes ya llegaron. Subir primero la escalera, luego retirar los peldaños.

Algo similar ocurre alrededor de DeepSeek y la ausencia de auditorías verificables antes del despliegue. Nadie, ni gobiernos ni empresas, cuenta con procesos reales para confirmar la seguridad de un modelo antes de liberarlo. Las alertas llegan después, cuando millones ya lo integraron. Amodei habla de control de internet a corto plazo. Sin embargo Anthropic no ha presentado un mecanismo verificable de pausa. Solo ha sugerido que otros regulen primero.

David Sacks, la persona que la Casa Blanca designó para la política de IA, ilustra la trampa del debate. Reconoce riesgos de ciberseguridad. Cada vez que se discute una restricción concreta, la conversación regresa al mismo punto: si Estados Unidos frena, China no lo hará. Trump lo plantea con menos matices. Cualquier señal de cautela se lee como debilidad frente a Xi Jinping. Sin incentivos reales para detenerse. Ni en Anthropic, que debe mostrar progreso para sostener su valoración. Ni en la Casa Blanca ni en China, que operan bajo la misma lógica de espejo.

Esto recuerda cómo durante la carrera nuclear de mediados del siglo pasado los científicos que diseñaron la bomba luego pidieron controles internacionales. Los incentivos geopolíticos prevalecieron de todos modos. Sin pausa real.

Lo que falta en la conversación actual es una pregunta que casi nadie formula con claridad: ¿quién posee el poder real para decidir la velocidad, más allá de quién tiene la razón técnica? Se puede tener toda la evidencia correcta sobre los riesgos y carecer por completo de la capacidad de imponer una detención si los actores con poder de mercado no quieren detenerse. Esa distinción la exploré en The Generosity in the Doorway. La diferencia entre saber cómo sería un arreglo responsable y contar con el poder político y económico para que alguien lo adopte.

Amodei puede escribir el texto de advertencia más honesto del año. Si no existen incentivos estructurales ni presión regulatoria real ni competidores dispuestos a ceder terreno, el texto se convierte en gesto simbólico. No en freno.

Para quien no trabaja en tecnología ni sigue el debate de Silicon Valley esto significa algo concreto. La decisión sobre cuánto riesgo colectivo asumir, de ciberataques, de armas biológicas potenciadas, de sistemas que actúan fuera de control humano, se toma en salas donde la mayoría no tiene voz. Quienes sí la tienen, Trump, Xi Jinping, enmarcan cualquier cautela como debilidad geopolítica. No es un problema técnico que resolverán los ingenieros de Anthropic. Es un problema de gobernanza que todavía no tiene mecanismo de resolución democrática.

Quien controla la evaluación del peligro suele controlar también el discurso de la urgencia. Ambas cosas rara vez benefician a quien está fuera de la sala. La pregunta de fondo no es si Amodei tiene razón sobre los riesgos. Probablemente la tiene, al menos en parte. La pregunta es por qué seguimos aceptando que la persona con mayor conflicto de interés sea también la voz principal que define el ritmo.

Mientras Amodei advertía públicamente sobre la pérdida de control, Anthropic continuaba firmando contratos con el Pentágono para expandir el uso militar de sus modelos. La advertencia y la expansión ocurrieron en paralelo. Sin pausa. La empresa que pidió frenar nunca frenó la suya. ¿Quién decide entonces la velocidad real?

Fuentes

1. DW Español — cobertura del llamado de Dario Amodei a "pisar el freno" en el desarrollo de IA

2. The Wall Street Journal — correos revelando comunicaciones entre Anthropic y el Pentágono

3. Bulletin of the Atomic Scientists — análisis del incidente OpenAI-Hugging Face y relaciones IA China-EE.UU.

4. Reddit/documentación pública — renuncia de Mrinank Sharma, jefe de seguridad de IA en Anthropic