Un botón de apagado para inteligencia artificial es un mecanismo legal que permitiría al Estado intervenir directamente sobre un modelo de IA que funcione mal. El Reino Unido decidió que no lo quiere. La Cámara de los Lores debatió una enmienda al Cyber Security and Resilience Bill que habría otorgado a los reguladores esa capacidad de emergencia. El gobierno la rechazó. No por ausencia de preocupación, sino porque apagar el acceso local no detiene el avance en otras jurisdicciones.

Lord Clement-Jones, del Partido Liberal Demócrata, presentó la enmienda pensando en fallos graves. Un freno institucional ante escenarios extremos. Los funcionarios respondieron con un enfoque a largo plazo guiado por la ciencia, centrado en fortalecer la ciberdefensa de servicios públicos y digitales en lugar de tocar los modelos directamente. La diferencia parece técnica. En realidad marca quién controla qué.

Evan Hubinger, investigador de Anthropic, colocó sobre la mesa una cifra que merece consideración seria: más de diez por ciento de probabilidad de que la IA cause extinción humana en la próxima década por superinteligencia no alineada. Ese dato recorrió el debate parlamentario. Diez por ciento. Difícil de archivar.

¿Por qué un gobierno preocupado por ese riesgo rechaza justo la herramienta diseñada para detenerlo? Expertos de la propia industria hablan de riesgos de dos dígitos mientras un gobierno opta por no construir el interruptor de emergencia más directo. La justificación británica no carece de lógica. Daniel Kokotajilo, ex investigador de OpenAI, recuerda algo que cualquiera que ha estudiado sistemas complejos reconoce de inmediato: las reglas unilaterales pierden fuerza cuando la regulación internacional permanece incierta.

Si el Reino Unido detiene un modelo y laboratorios en Estados Unidos, China o cualquier otro lugar continúan operando, ¿qué se gana exactamente? Es el mismo dilema que enfrenta quien intenta regular emisiones de carbono en solitario. La acción unilateral puede sentirse como avance. Termina pareciendo más gesto que control real.

En Estados Unidos el debate corre en paralelo, con legisladores que discuten medidas parecidas sin alcanzar consenso. No se trata de un problema exclusivamente británico. Es la imagen de un mundo donde ningún gobierno individual posee la capacidad real de contener un desarrollo tecnológico que avanza más rápido que cualquier marco legal nacional. Si ningún país puede actuar solo, entonces ¿quién puede?

En The Generosity in the Doorway se traza un paralelo histórico que resulta útil. Allí se examina cómo revoluciones que prometieron liberación terminaron convirtiendo la protección de la propiedad privada en derecho supremo, blindando cambios estructurales de fondo. La tendencia reaparece aquí con inquietante precisión. Se identifica una amenaza existencial, se propone una herramienta radical y el sistema adopta la versión que menos altera el reparto de poder existente.

Los laboratorios de IA ganan tiempo para seguir escalando capacidades. Los gobiernos conservan la posibilidad de afirmar que actúan sin asumir obligaciones verificables, porque reforzar la ciberdefensa es una frase que cabe en cualquier comunicado sin generar compromisos concretos. Nadie desea ser el primero en imponer restricciones reales. Eso equivaldría a ceder ventaja competitiva frente a jurisdicciones más permisivas. Una carrera hacia abajo disfrazada de prudencia científica.

El vocabulario técnico mismo está en disputa. Quién define superinteligencia, quién decide qué riesgo es aceptable. El Estado llega a la mesa de negociación desde una posición de debilidad estructural. No es ingenuidad de los funcionarios. El terreno ya se encuentra inclinado antes de que comience cualquier discusión parlamentaria.

Todavía no tengo claro si un botón de apagado nacional habría sido más efectivo que la vía elegida. La lógica de Kokotajilo tiene peso, un mecanismo unilateral puede convertirse en teatro regulatorio mientras el desarrollo real continúa en otros lugares. Al mismo tiempo la cifra mencionada por Hubinger no se disuelve fácilmente. Requiere algo más que la esperanza de una coordinación internacional perfecta que tal vez nunca llegue.

Un interruptor de emergencia construido por gobiernos que mantienen relaciones estrechas con las mismas empresas que deben regular no resuelve la impotencia, solo le cambia de forma. La coordinación internacional genuina suena bien sobre el papel y ha encontrado obstáculos repetidos en otros ámbitos de riesgo global, desde el clima hasta la proliferación nuclear.

¿Quién tendría la autoridad legítima para presionarlo si alguna vez existiera tal mecanismo?

Fuentes:

1. Cobertura parlamentaria sobre la enmienda de Lord Clement-Jones al Cyber Security and Resilience Bill, Cámara de los Lores del Reino Unido.

2. Declaraciones públicas de Evan Hubinger (Anthropic) sobre riesgo existencial de superinteligencia no alineada.

3. Análisis de Daniel Kokotajilo (ex OpenAI) sobre limitaciones de la regulación unilateral de IA.

4. Laurent, Yves. The Generosity in the Doorway. Amazon Kindle, ASIN B0H6RT5Y32.