Hay una escena que se repite en el mundo financiero desde hace décadas. Una industria avanza más rápido que los reguladores y decide crear sus propias normas para evitar imposiciones externas. Así nació FINRA, el organismo que supervisa corredores de bolsa en Estados Unidos sin ser parte formal del gobierno. Demis Hassabis, desde Google DeepMind, propone ahora un enfoque similar para la inteligencia artificial.

Un organismo de vigilancia de IA es una entidad que revisa modelos antes de su lanzamiento público, porque busca detectar capacidades peligrosas —engaño, creación de bioarmas, hackeo malicioso— antes de que lleguen a millones de usuarios. Esa es la propuesta de Hassabis: un cuerpo modelado en FINRA donde la industria se supervisa a sí misma bajo la sombra estatal. Los laboratorios de frontera someterían voluntariamente sus modelos a revisión treinta días antes del lanzamiento. La cobertura dependería de la capacidad del sistema, no de su ubicación ni de quién tiene acceso.

Hassabis quiere que este organismo funcione este mismo año. Le dijo a Axios que las capacidades de código abierto podrían alcanzar territorio peligroso en dieciocho meses. No es una alerta vaga sobre un futuro lejano. Es un plazo concreto con un reloj corriendo.

¿Por qué FINRA y no la FDA o la Comisión de Valores? Por velocidad. El campo de la IA exige adaptación casi instantánea, incluida la posibilidad de coordinar una desaceleración entre laboratorios si hace falta. Que Hassabis contemple pedir una pausa colectiva a DeepMind, OpenAI y Anthropic ya dice bastante sobre el tamaño del problema que intenta resolver.

¿Qué pasa cuando los incentivos de mercado superan los acuerdos voluntarios? La historia sugiere que las pausas se disuelven en cuanto un competidor acelera. Por eso el escepticismo aparece de inmediato.

He visto dinámicas parecidas en otros contextos: estructuras de autorregulación que revelan las mismas tensiones apenas se las presiona. Los registros de antiguas asociaciones mercantiles muestran algo constante: el interés compartido entre vigilantes y vigilados termina diluyendo los controles. Esto no acusa mala fe. Solo confirma que los incentivos moldean los resultados, tanto en el siglo diecinueve como ahora.

FINRA no detuvo a Bernie Madoff durante años ni previno la crisis de dos mil ocho. Tiene autoridad real, pero sus fallas ilustran los límites de la autorregulación: regulador y regulado comparten redes, eventos y personal que rota constantemente entre ambos lados. ¿Puede un ente financiado por las empresas que evalúa realmente frenar algo cuando el mercado premia la rapidez?

Esta tensión también aparece en la gobernanza climática. Iniciativas como SPGET sortearon bloqueos de estructuras centralizadas formando coaliciones propias. Pero hay una diferencia clave: cuando las empresas proponen el marco de su propia supervisión, el origen cambia todo. No es lo mismo diseñar la jaula uno mismo que aceptar una impuesta desde afuera.

The Generosity in the Doorway traza una tendencia similar en la economía de la IA: quien construye la infraestructura termina administrando los remedios a sus propios riesgos, casi por inercia. Cuando la velocidad define quién gana el mercado, una pausa de treinta días es una desventaja temporal difícil de sostener.

¿Y quienes deciden no unirse al esquema? Un laboratorio que evita la etiqueta de frontera, o que opera desde jurisdicciones lejanas, queda fuera del alcance. Esto repite las objeciones de las economías emergentes, donde bloques como BRICS exigen transparencia distribuida porque desconfían de autorregulaciones lideradas desde Estados Unidos. Un organismo con sede allí y criterios definidos localmente construye confianza doméstica que después espera extenderse por inercia de mercado. No siempre funciona así.

Lo más valioso de la propuesta es su franqueza sobre el código abierto. Hassabis fija un horizonte de dieciocho meses para cuando las capacidades abiertas podrían cruzar umbrales críticos en bioarmas o ciberseguridad. Esa concreción contrasta con el hábito del sector de hablar de riesgos lejanos, y se agradece.

No tengo una solución clara para esto. Los mecanismos de autorregulación impulsados por miedo a una legislación más estricta pueden funcionar un tiempo, antes de que la fatiga los vacíe. Un FINRA para la IA supera a la ausencia de cualquier control. Pero mejor que nada dista mucho de ser suficiente. Ese espacio intermedio —el mismo que aparece en estudios como el de Marienthal— es donde se van a definir las negociaciones reales entre laboratorios, gobiernos y un público que ni siquiera tiene asiento en la mesa.

¿Qué pasa el día en que este organismo, financiado y poblado por las empresas que supervisa, tenga que elegir entre frenar el lanzamiento de su principal financista o conformarse con una advertencia leve?

Fuentes:

1. Axios, entrevista con Demis Hassabis sobre propuesta de organismo de vigilancia de IA.

2. FINRA (Financial Industry Regulatory Authority), estructura y mandato regulatorio.

3. Yves Laurent, The Generosity in the Doorway (Amazon, B0H6RT5Y32).

4. Cobertura previa sobre Anthropic y colaboración con el Departamento de Defensa de EE.UU.

5. Análisis previo sobre SPGET y gobernanza climática distribuida.