Aidan Gomez, CEO de la canadiense Cohere, planteó un punto que merece atención sostenida. Un pequeño grupo de empresas en Silicon Valley no debería asumir en solitario la responsabilidad de garantizar la seguridad de la IA. Fue más lejos. Comparó las advertencias apocalípticas de las firmas estadounidenses con un lobo bajo piel de oveja. Esa imagen captura con precisión una tendencia que se acumula desde hace tiempo.

La gobernanza de IA es el conjunto de reglas, instituciones y procesos de rendición de cuentas que determinan quién decide las capacidades permitidas a un sistema de inteligencia artificial. Sin ese marco, cualquier promesa de seguridad se reduce a mera comunicación corporativa. Gomez ubica exactamente ahí el punto débil. Si quienes construyen los modelos también definen qué cuenta como riesgo, la seguridad deja de ser compromiso y pasa a ser estrategia.

Cohere compite de frente contra OpenAI, Anthropic y Google DeepMind. Aun así, su director ejecutivo señaló públicamente que el discurso alarmista de sus competidores funciona como barrera regulatoria. Cuando una empresa afirma que su tecnología es tan peligrosa que solo ella puede vigilarla, surge una pregunta. ¿A quién beneficia realmente esa versión?

Casi siempre a la empresa que la repite. El miedo calibrado levanta murallas que los demás difícilmente pueden escalar.

The Generosity in the Doorway examina el ecosistema reciente de IA y revela un hilo recurrente. Sam Altman escribe sobre singularidad mientras negocia con gobiernos y define riesgos existenciales. Yann LeCun ha cuestionado ese mismo alarmismo desde Meta. Jensen Huang ha redibujado el concepto de AGI según conviene a Nvidia. Quien controla el vocabulario técnico suele dictar también los términos del debate regulatorio.

El caso Gomez añade una dimensión geográfica que cambia el peso del argumento. La crítica no proviene de un regulador europeo ni de un académico. Llega desde Canadá, desde otro jugador de la industria. No pide frenar la innovación. Cuestiona que la precaución definida unilateralmente por unas pocas compañías en California sea en realidad una forma de dominio de mercado.

Hay ejemplos documentados de gobernanza fallida que sostienen esta lectura. Anthropic filtró medio millón de líneas de código y lo atribuyó a error humano. El Pentágono lo etiquetó como riesgo de cadena de suministro. Una jueza federal determinó que funcionaba como represalia más que como evaluación técnica. Poder concentrado. Decisiones que se toman sin contrapesos externos.

¿Qué significa esto para quien no trabaja en tecnología ni sigue estos debates de cerca? Que cada vez que una gran firma pide más regulación con tono urgente, conviene examinar quién redactó el borrador y quién gana con el umbral propuesto. La historia de la regulación industrial registra casos donde los dominantes impulsaron reglas estrictas que solo ellos podían costear. No parece coincidencia que las compañías más grandes de IA generativa sean también las más insistentes en controles que ya cumplen o pueden pagar.

Esto confirma que la autorregulación tecnológica tiende a fallar, aunque con un matiz. Hay investigadores dentro de estas organizaciones que creen sinceramente en los riesgos que describen. La estructura es lo que decide. Sin auditoría externa independiente y sin mecanismos de rendición de cuentas fuera de su alcance, el resultado tiende a repetirse sin importar las intenciones individuales.

Reconozco estas regularidades de otros contextos. Los controles más efectivos rara vez brotan desde dentro. Requieren tensión externa, competencia genuina y supervisores que no dependan del financiamiento de quienes regulan. Gomez, sin proponérselo del todo, apunta hacia esa necesidad.

Queda una pregunta abierta que ni Gomez ni yo resolvemos aquí. ¿Quién cuenta con la capacidad técnica y la independencia política para construir ese marco externo sin que termine capturado por los mismos intereses que dice vigilar?