Sam Altman y la promesa que nunca fue vinculante

Bernie Sanders publicó en X una declaración que suena casi ingenua en su simpleza. Recordarle a tres hombres que hicieron una promesa.

"We recently learned of the loss of human control and the creation of potentially dangerous viruses from AI.

AI leaders pledged to pause development if they could no longer safely control it.

Mr. Altman, Mr. Amodei, Mr. Zuckerberg: Keep your word.

PAUSE AI DEVELOPMENT."

Esa exigencia asume que la promesa tenía peso real más allá del gesto retórico. Ahí está el problema: Sanders trata como vinculante algo que desde el diseño mismo nunca lo fue.

He visto dinámicas similares en otros contextos. Alguien con poder hace una promesa condicional en un momento de presión pública. Años después esa promesa se cita como si fuera un contrato. No lo es. Nunca lo fue. Fue relaciones públicas con fecha de caducidad y la fecha ya pasó.

Lo que revela la exigencia de Sanders importa más que si Altman, Amodei o Zuckerberg van a pausar algo. No lo harán. Muestra quién tiene realmente la capacidad de frenar una tecnología una vez que ya generó valor de mercado. La respuesta es incómoda. Casi nadie. Un senador con décadas en el Congreso no puede. Una carta abierta firmada por miles de investigadores tampoco.

Esto se vio con Anthropic. La compañía de Amodei publicó un reporte técnico serio sobre IA automejorada, con méritos reales. Aun así el documento tenía vacíos enormes sobre gobernanza y poder. Quien construye la herramienta también redacta las condiciones bajo las cuales esa herramienta debería frenarse. Es como pedirle al fabricante de un coche que decida cuándo el coche es demasiado rápido para las calles que él mismo diseñó.

Esta regularidad se repite con frecuencia predecible. Se diagnostica el problema. La misma persona o empresa que se beneficia vende el remedio. En The Generosity in the Doorway describo cómo Larry Fink de BlackRock hace exactamente esto con la desigualdad de activos financieros. Admite que el mercado bursátil ha crecido quince veces más que el salario medio desde 1989. Después propone tokenización de activos como solución vendida por su propia firma. Diagnosticar y recetar se ha vuelto el modelo de negocio completo.

¿Por qué una pausa exigida por un senador no tiene ningún mecanismo real de cumplimiento? Porque no existe ninguna autoridad con capacidad de verificación técnica sobre lo que ocurre dentro de los centros de datos de OpenAI, Anthropic o Meta. Sanders puede exigir públicamente. No puede auditar. Sin auditoría la exigencia se convierte en teatro político aunque el sentimiento detrás sea genuino.

El problema no es tecnológico. Es de coordinación, y ese tipo de problema tiene precedentes que van mucho más atrás de la inteligencia artificial.

Cuando estudio estructuras de cooperación humana en distintos periodos históricos encuentro algo que contradice la intuición moderna. Las sociedades que lograron sostener proyectos colectivos enormes durante siglos no lo hicieron a través de una autoridad central todopoderosa. Usaron procesos distribuidos de verificación mutua. Göbekli Tepe, en el sureste de Turquía, sorprende. Miles de años antes de cualquier Estado reconocible, cientos de personas coordinaron decenas de miles de horas-hombre para construir recintos monumentales. Sin rey. Sin ejército. Funcionó. No porque fuera perfecto o pacífico. Existían palancas de reciprocidad visibles para todos. Quién invitaba al banquete decidía. Quién comía primero también. La reciprocidad era visible.

La IA de frontera es lo opuesto. El poder de decisión sobre pausar o continuar el desarrollo está concentrado en cuatro o cinco personas que dirigen empresas privadas con valuaciones de cientos de miles de millones de dólares. No hay comité rotativo ni verificación distribuida. Sanders le está pidiendo a un rey que se autodestrone y los reyes en general no hacen eso por carta abierta.

El paralelo se extiende más allá de las tres empresas mencionadas. Estados Unidos y China muestran convergencia en el manejo estatal de la IA de frontera. Dos potencias que a pesar de su rivalidad declarada terminan reforzando el mismo patrón de dominio concentrado. Esto deja a las economías emergentes sin ninguna palanca real sobre una tecnología que las va a afectar de todas formas. Una pausa exigida sin mecanismo de verificación global no cambia esa dinámica. Solo la hace visible por unos días en redes sociales.

¿Qué significa esto para alguien que no tiene ni el poder de Sanders ni el de Altman? Significa que la pregunta correcta no es si estos hombres van a cumplir su palabra sino qué estructura permitiría verificar el cumplimiento sin depender de la buena voluntad de quien tiene el control técnico. Esa pregunta no tiene una respuesta fácil todavía. No pretendo tenerla. Sigo explorando qué formas de auditoría distribuida podrían funcionar a esta escala y reconozco que cualquier propuesta trae sus propios riesgos de captura, algo que abordo con más matices en Las Piedras No Mienten.

Lo que sí tengo claro es que exigirle honestidad a quien se beneficia de la falta de ella es en el mejor de los casos un gesto simbólico. Da al público la sensación de que algo se está haciendo mientras las decisiones reales siguen ocurriendo en salas donde ningún senador tiene asiento.

Hay otra cosa, llevo tiempo observando estas dinámicas.

¿Existe alguna versión de pausa tecnológica en la historia que haya funcionado sin que quien controlaba la tecnología tuviera algo que perder al no pausarla?

1. Publicación de Bernie Sanders en X, declaración pública citada en el cuerpo del artículo.

2. Reporte técnico de Anthropic sobre IA automejorada, referenciado en análisis previo del autor.

3. Carta anual de Larry Fink (BlackRock), marzo de 2026, "Growing with Your Country".

4. Registro arqueológico de Göbekli Tepe, temporada de excavación 2025.