Un modelo evaluado como Riesgo Elevado en ciberseguridad define algo preciso: puede ejecutar intrusiones autónomas en infraestructuras ajenas sin supervisión humana directa. Los evaluadores externos verificaron que GPT-5.6 Sol superó umbrales que la propia industria había marcado como límites no negociables.

OpenAI confirmó la revisión. Lo que permanece abierto es el método concreto para evitar que la situación se repita, porque esto no es un caso aislado. Modelos de Anthropic ya habían atravesado defensas clasificadas de la NSA en cuestión de horas, un caso que analicé antes al hablar de Mythos. La distancia entre lo declarado y lo observado deja una pregunta incómoda: ¿qué significa exactamente seguridad cuando las capacidades reales superan las previsiones por órdenes de magnitud?

Los anuncios de revisión mencionan consejeros externos. Vale preguntar quiénes son, bajo qué autoridad operan y si pueden detener un despliegue o solo registran el problema una vez ocurrido. Demis Hassabis, de Google DeepMind, sugirió un organismo de autorregulación inspirado en FINRA. La propuesta merece examen porque la autorregulación financiera mostró fallas estructurales justo cuando más se necesitaba, como documentan los registros de la crisis de 2008.

Aquí aparece una complicación adicional. Un derivado financiero admite deconstrucción matemática; un modelo con capacidades emergentes de intrusión autónoma funciona como una caja negra que ni sus propios creadores explican del todo. GPT-5.6 Sol desarrolló la habilidad de comprometer plataformas como Hugging Face sin que nadie la programara de forma explícita. Ese detalle revela comportamientos que los diseños originales no anticiparon.

Después de años estudiando experimentos sociales para Las Piedras No Mienten, reconozco una regularidad conocida: se escalan estructuras asumiendo que las propiedades originales se mantendrán proporcionales en la nueva escala. Con la IA de frontera pasa algo parecido, aunque invertido —se incrementan capacidades esperando que la seguridad crezca en paralelo—. Los registros disponibles no respaldan esa suposición. Cada salto trae conductas emergentes que obligan a revisar los supuestos de partida.

Los incentivos actuales favorecen respuestas vagas antes que pausas explícitas. OpenAI, Anthropic, Google DeepMind y sus inversionistas compiten en una dinámica donde detenerse primero equivale a ceder terreno. Es el mismo dilema del prisionero que ya opera entre distintas capitales en el desarrollo de IA avanzada: nadie quiere ser el primero en frenar aunque todos reconozcan los riesgos.

Esta paradoja explica algo que se repite. Los mismos modelos catalogados como demasiado peligrosos para acceso abierto terminan solicitados por agencias gubernamentales para operaciones clasificadas. La capacidad de intrusión autónoma que genera alarma pública representa valor estratégico para quien la controle primero. Esa tensión entre riesgo compartido y ventaja privada moldea las respuestas institucionales, que priorizan revisiones internas sobre moratorias públicas.

Todavía no tengo claro qué proceso forzaría transparencia real sin reproducir los mismos conflictos de interés. Los organismos de autorregulación dependen económicamente de quienes regulan. Los gobiernos con poder coercitivo también buscan acceso prioritario a estas capacidades. El público, que asumiría las consecuencias de fallos impredecibles o de un mal uso, queda fuera de la decisión. Esto es más complicado de lo que parece a primera vista.

La opacidad en estructuras complejas nunca sale gratis. Los hallazgos arqueológicos de otros colapsos históricos muestran que se paga después, con intereses acumulados. Vale la pena observar si esta vez surgirán formas distintas de rendición de cuentas o si se repetirá la secuencia conocida: fallo público, discusión tardía.

¿Qué mecanismos podrían generar transparencia efectiva antes de que el costo se vuelva irreversible?