Veinte años. Por entrenar el algoritmo equivocado. La Ban Artificial Superintelligence Act presentada por Bernie Sanders y Greg Casar busca prohibir de forma permanente el desarrollo o despliegue de sistemas de superinteligencia artificial en Estados Unidos. La propuesta establece una pausa en el avance de IA de frontera mientras se construyen reglas federales de seguridad. Crea además una agencia de nivel gabinete y contempla sanciones que llegan a lo que el texto mismo denomina "pena de muerte corporativa" para las empresas que la violen.
La superinteligencia es cualquier sistema que iguala o supera el desempeño cognitivo humano en un rango amplio de dominios, o que posee la capacidad de planear y ejecutar el desempoderamiento de la humanidad. Esta segunda cláusula hace que el proyecto se lea como tratado de no proliferación nuclear. La legislación instruye a Washington a buscar acuerdos bilaterales y multilaterales para impedir que tales sistemas surjan fuera de sus fronteras. Un paralelismo directo con el control de armas atómicas.
El vacío regulatorio ya produjo hallazgos concretos. Un modelo de Anthropic atravesó defensas clasificadas de la Agencia de Seguridad Nacional en cuestión de horas. Ni siquiera el gobierno con mayor sofisticación en ciberseguridad logró contenerlo. Sanders y Casar responden a hechos que ya ocurrieron.
El marco regulatorio actual en Estados Unidos sigue siendo un mosaico de intenciones voluntarias sin dientes. Compromisos corporativos. Órdenes ejecutivas reversibles en una tarde. No existe entidad con autoridad real para detener el entrenamiento de un modelo cuando este representa riesgo sistémico. La Department of Artificial Intelligence que propone el proyecto llenaría ese hueco. Diseñaría normas, monitoreo y procesos de revisión antes de que las empresas sigan escalando capacidades.
¿Quién decide qué cuenta como superinteligencia y quién audita esa decisión? Las empresas que construyen los modelos son hoy las mismas que evalúan sus riesgos. Publican sus propios reportes de seguridad. Deciden cuándo un sistema está listo. Esta dinámica apareció también con la alerta de Amazon sobre Anthropic, empresa en la que había invertido miles de millones. El inversionista advirtiendo sobre su propia apuesta, mientras compite por moldear la regulación del sector entero.
Jeff Bezos reunió doce mil millones de dólares para Prometheus con el fin de reemplazar roles completos de ingeniería industrial. Al mismo tiempo el discurso público minimiza el desplazamiento laboral que esa misma tecnología producirá. No se trata de mentiras abiertas. El relato dominante sobre la IA lo escriben quienes tienen mayor incentivo para que ciertas preguntas incómodas queden fuera de la mesa. Cui bono. Quién se beneficia de que la regulación llegue tarde o sea escrita por los regulados.
Los defensores del proyecto sostienen que la analogía nuclear no es exagerada. Un arma nuclear requiere uranio enriquecido, centrifugadoras e instalaciones visibles desde satélite. Un modelo de IA de frontera requiere chips, datos y capital, recursos que circulan con mucha mayor libertad. Esto complica cualquier intento de contención al estilo de la Guerra Fría. La ley impulsa acuerdos internacionales. Queda sin resolver cómo verificarlos sin la red de inspecciones que tomó décadas construir en el ámbito nuclear.
¿Qué nivel técnico tendrá realmente esa nueva agencia? Los reguladores rara vez igualan el talento de las empresas que buscan supervisar. Con el tiempo esto abre camino a la captura regulatoria. Las agencias terminan contratando a quienes antes trabajaban en la industria. Esta regularidad se repite en distintos contextos de gobernanza.
El contraste entre modelos de gobernanza algorítmica permite ver el problema desde otro ángulo. China despliega sistemas que clasifican quejas ciudadanas sin deliberación real. Eficiencia centralizada. Cybersyn en el Chile de los setenta intentó integrar retroalimentación ciudadana genuina al proceso de decisión, aunque con las limitaciones tecnológicas de su época. La cuestión de fondo para Estados Unidos no se reduce a si se pausa o no el desarrollo de IA. Se trata de quién diseña las reglas y quién vigila a quienes las diseñan. Sin esa segunda capa, la nueva agencia podría convertirse en otro punto vulnerable, solo que ahora con sello federal.
The Generosity in the Doorway explora cómo los mismos actores que levantan la infraestructura terminan también administrando el remedio a los problemas que esa infraestructura genera. No es un fenómeno exclusivo de la IA ni de esta década. Sucede cada vez que una tecnología avanza más rápido que la capacidad institucional para entenderla. Lo distinto esta vez es la escala del riesgo. No hablamos de proteger datos o corregir sesgos en crédito. Hablamos de sistemas que, según la definición legal propuesta, podrían planear su propia autonomía a costa de la humanidad.
Todavía no tengo claro si veinte años de prisión es la penalidad correcta. Ni si una pausa federal resistiría la presión del capital. Lo que sí resulta evidente es que dejar que las empresas definan su propia seguridad ya mostró límites concretos con el episodio de la NSA. Las auditorías recursivas que se discuten en Las Piedras No Mienten siguen siendo un ideal institucional distante. Ningún auditor tiene la última palabra incuestionable.
¿Podemos construir instituciones que vigilen sin terminar capturadas por lo que deben vigilar?
