Bengio audita la IA que su panel no detiene

En una sala de la ONU en Ginebra, dos voces autorizadas en tecnología y periodismo copresidieron un diálogo sobre gobernanza de inteligencia artificial. Yoshua Bengio, premio Turing y figura central en el aprendizaje profundo. Maria Ressa, premio Nobel de la Paz, que ha documentado cómo las plataformas digitales erosionan democracias. Ambos alertaron sobre riesgos catastróficos y una brecha de IA que podría excluir a economías enteras del futuro que se construye ahora.

Al final del día, ninguno cuenta con herramientas para obligar a cambios reales. No porque falte credibilidad a los participantes, que la tienen de sobra, sino porque la estructura misma asegura que esa autoridad se disuelva en comunicados en lugar de traducirse en acción verificable. Es una tendencia que reaparece en otros campos: expertos que emiten alertas urgentes y esas alertas se ignoran de forma sistemática.

El Diálogo Global sobre Gobernanza de IA en Ginebra pidió barreras universalmente aceptadas y soluciones multilaterales lideradas por la ONU. Las frases suenan bien en un comunicado. El problema es que ninguna ha tomado forma de acuerdo vinculante, con verificación o plazos de implementación. El consenso experto es de calidad indiscutible: Bengio ha analizado riesgos de sistemas avanzados con un nivel técnico que pocos pueden rebatir. Pero ese consenso queda empaquetado en una institución sin capacidad real de exigencia.

La dinámica repite algo que ya vimos durante décadas en el Panel Intergubernamental sobre Cambio Climático. Ese organismo produjo informes de rigor casi irrefutable. Su primer reporte, en 1990, ya establecía que las actividades humanas alteraban la atmósfera. Vinieron acuerdos posteriores. Las emisiones globales de CO2 no bajaron: aumentaron. El consenso científico ganó solidez y urgencia. El cumplimiento siguió siendo voluntario, sin sanciones reales para quien ignorara sus metas.

Ahora la misma constante se reproduce con inteligencia artificial en vez de carbono. Un grupo de alto prestigio documenta el riesgo, genera lenguaje apremiante y entrega la decisión final a estados soberanos y corporaciones privadas cuyos intereses inmediatos rara vez coinciden con el diagnóstico. ¿Quién gana con esta configuración? Las empresas de IA que envían representantes obtienen legitimidad reputacional sin costo. Pueden citar su participación en foros de la ONU como evidencia de responsabilidad corporativa sin modificar una sola práctica verificable. No hay auditorías externas de los pesos de sus modelos. No hay obligación de transparencia sobre datos de entrenamiento. No hay forma de comprobar si las políticas internas de seguridad se aplican realmente.

Esta dinámica se repite en otros foros: la industria asiente, comparte frases sobre ética y sale con el mismo poder intacto, solo que con mejor imagen. Los estados tampoco son neutrales en este escenario. Algunos bloques buscan marcos con fuerza porque entienden que, sin coordinación, quedarán sometidos a reglas ajenas. Las dos potencias que controlan la infraestructura de cómputo y los modelos más avanzados prefieren regulación doméstica. El poder real se negocia en restricciones de exportación de semiconductores y acuerdos bilaterales, no en salas con traducción simultánea.

La mención repetida de la brecha de IA para economías emergentes sigue el guion esperado: se documenta en cada reunión. Pero nombrar el riesgo no equivale a transferir recursos o capacidad para cerrarlo. No existen propuestas concretas de compartición de cómputo ni acceso preferencial a modelos de frontera para investigadores en esas regiones. La brecha se describe con precisión y se deja intacta con la misma precisión.

Desde una perspectiva técnica, cualquier barrera multilateral depende de una condición previa ineludible: acceso verificable a los pesos de los modelos y a la infraestructura donde se entrenan y ejecutan. Sin esa llave, cualquier compromiso se convierte en una promesa imposible de auditar. La opacidad actual de estos sistemas hace que el discurso de transparencia resulte aspiracional, no operativo. Un panel de la ONU puede recomendar apertura. No puede exigir acceso a sistemas propietarios bajo jurisdicción extranjera, ni cuenta con herramientas técnicas propias para validar lo que se le muestra.

El control verdadero reside en quien maneja las GPUs, en quien decide qué pesos se comparten y qué se retiene. Eso es infraestructura antes que diplomacia. Cualquier diseño que ignore esta diferencia no producirá gobernanza efectiva, por más premios y expertos que reúna. No tengo una solución sencilla, y sería deshonesto sugerir lo contrario. Al estudiar dinámicas de poder en distintas estructuras, algo se repite en los procesos que sí logran resultados: buscan verificación técnica independiente más allá de la autoridad moral. Vale explorar comités con rotación y auditoría real, como experimento para alinear a quien revisa con quien controla los sistemas.

Queda por ver si algún organismo internacional logrará exigir ese acceso técnico como condición real de participación, en vez de conformarse con presencia simbólica. El IPCC necesitó décadas para generar cambios medibles, y aún así los resultados siguen siendo limitados. La IA no tiene ese tiempo. Bengio lo entiende mejor que nadie, porque ayudó a construir la tecnología que ahora intenta limitar desde un panel sin poder ejecutivo. Esa tensión, más que cualquier comunicado, es la que permanece.

¿Qué sucedería si la verificación técnica independiente se volviera requisito previo en lugar de aspiración diplomática?

1. Diálogo Global de la ONU sobre Gobernanza de IA, Ginebra — declaraciones de copresidencia (Bengio, Ressa)

2. Panel Intergubernamental sobre Cambio Climático (IPCC), Primer Informe de Evaluación, 1990

3. Acuerdo de Kioto (1997) y Acuerdo de París (2015) — registros de cumplimiento de emisiones

4. Análisis previos sobre incentivos y estructuras de poder en foros internacionales