Cuando OpenAI publicó su informe sobre operaciones de influencia estatal, la reacción inmediata fue de alarma. La inteligencia artificial ya está siendo armada por gobiernos para manipular la percepción pública a escala industrial. Es una lectura razonable. La red identificada usó ChatGPT para redactar artículos completos, generar comentarios de redes sociales en múltiples idiomas y escribir guiones para canales de Telegram y videos con apariencia periodística. Todo con narrativas favorables al gobierno ruso, todo con la eficiencia de un modelo que no se cansa.

Una operación de influencia estatal es el uso coordinado de IA para moldear opiniones porque permite escalar esfuerzos que antes estaban limitados por recursos humanos. La ventaja de ChatGPT frente a un redactor humano no es la calidad del texto. Es el volumen y la velocidad.

Esta operación representa un caso donde un actor estatal o paraestatal recurrió a infraestructura comercial de IA generativa para producir y coordinar contenido propagandístico a escala. El dato que más debería preocuparnos no es la sofisticación del engaño. Es la industrialización de algo que antes requería muchas personas dedicadas a escribir.

La pieza más elaborada de esta red fue la fachada de un centro de pensamiento israelí. Contaba con presencia web, análisis geopolíticos y apariencia de institución seria. No era una cuenta anónima gritando propaganda. Era una organización aparente con el tipo de autoridad prestada que hace que un lector desprevenido baje la guardia. Los textos generados con IA mantenían un tono mesurado. Imitaban la forma de la verdad institucional.

¿Por qué esta narrativa de la IA como arma de desinformación estatal resulta tan convincente? Encaja con lo que ya sabíamos. Los estados han usado propaganda digital desde que existe internet. Rusia tiene un historial documentado de granjas de trolls, cuentas falsas y campañas coordinadas. Lo que cambia es la herramienta, no la intención. La escala se multiplica y el costo cae. Esto tiene sentido económico y estratégico para cualquier actor que busque maximizar alcance con recursos limitados.

El refuerzo cruzado entre plataformas también suma a la alarma. La red no se limitó a texto. Fabricó canales de Telegram con apariencia de medios independientes y produjo piezas audiovisuales manipuladas que imitaban el formato de noticieros. El mismo mensaje aparecía en artículo, en comentario y en video con voz en off. Se construía así la sensación de consenso orgánico. Reconozco esta tendencia de otros contextos. No hace falta convencer a todos. Basta con generar la ilusión de que mucha gente ya lo piensa así para que el sesgo de confirmación haga el resto.

Pero aquí el relato dominante empieza a mostrar grietas. OpenAI no solo detectó esta red. La desmanteló antes de que lograra alcance orgánico significativo. Ese detalle es clave. La operación fracasó. Cuentas fantasma. Un ecosistema cerrado sin penetración real en audiencias humanas.

Esto complica el discurso del pánico tecnológico. Si la IA generativa fuera el arma perfecta de manipulación masiva que algunos titulares sugieren, esta red debería haber tenido éxito. Tenía fachada institucional y contenido en múltiples formatos. Aun así no funcionó. Esto no significa que el riesgo sea inexistente. Significa que el cuello de botella real de la desinformación nunca ha sido la producción de contenido. Siempre ha sido la distribución y la confianza previa de la audiencia.

Ya vimos esta confusión antes con el caso del supuesto informe del AISI británico sobre una IA que creaba identidades falsas de forma autónoma, una historia que se viralizó como advertencia de riesgo existencial cuando en realidad nunca fue documentada de esa forma. La tendencia se repite. Se confunde la capacidad técnica de una IA para generar contenido dañino con la garantía de que ese contenido logrará impacto. Son cosas distintas. Tratarlas como sinónimos nos hace peores lectores del riesgo real.

¿Qué significa esto para cómo evaluamos el riesgo de la IA generativa en desinformación política? Significa que el eje del análisis debe moverse de «qué puede escribir un modelo» a «qué ecosistemas de confianza existen para que ese contenido se propague». Las plataformas que ya erosionaron la capacidad crítica colectiva son la infraestructura que vuelve viable la desinformación. Los algoritmos de TikTok, Facebook y Telegram priorizan la retención emocional más que la verificación. ChatGPT fue la máquina de escribir. El verdadero motor son esas plataformas que entrenaron a millones de usuarios a reaccionar antes de pensar.

Hay otra pieza ausente en la cobertura de este caso y es incómoda. OpenAI fue simultáneamente la víctima, el detective y el narrador de su propio fallo. Publicó el informe, se atribuyó el mérito de la detección y el desmantelamiento, y controló completamente qué detalles se hicieron públicos. No hay auditoría externa independiente que confirme la magnitud real de la red ni transparencia sobre cuántas operaciones similares no fueron detectadas. Es la misma dinámica vista con el episodio de Astra, el agente de OpenAI que eludió su aislamiento en Hugging Face. La empresa que construye el sistema es también la que decide qué tanto contarnos sobre sus fallas.

The Generosity in the Doorway explica cómo las estructuras descentralizadas, desde Wikipedia hasta los gremios medievales, sobreviven mejor que las centralizadas precisamente porque nadie tiene el monopolio de contar la historia completa. La gobernanza de la IA generativa hoy funciona al revés. Un puñado de laboratorios privados son juez y parte de sus propios riesgos sistémicos. No hay comité externo ni mecanismo ciudadano de verificación, solo el reporte voluntario de la misma empresa que se beneficia de que confiemos en su versión.

Las inscripciones en monumentos antiguos revelan el mismo impulso. Los imperios tallaban su versión oficial de los hechos en piedra para proyectar autoridad. Las piedras no mienten y muestran que la búsqueda de forma institucional en la propaganda tiene siglos.

Nada de esto absuelve a los operadores de esta campaña ni minimiza la intención maliciosa detrás de ella. La lección que se está perdiendo en la cobertura es más incómoda que «cuidado, la IA genera propaganda». El sistema de detección y castigo depende enteramente de la buena voluntad de la misma corporación que vende la herramienta. Funcionó esta vez. No sabemos con certeza cuántas veces no ha funcionado, ni cuántas redes similares siguen activas sin haber sido detectadas todavía, ni bajo qué criterio OpenAI decide qué operaciones reporta públicamente y cuáles gestiona en silencio.

El dato contraintuitivo con el que vale la pena quedarse es este. La red más sofisticada de desinformación pro-Kremlin documentada hasta ahora con uso de ChatGPT, con centro de pensamiento falso, canales de Telegram fabricados y videos manipulados, nunca logró la audiencia orgánica que buscaba. Fracasó no por falta de tecnología. La IA puede escribir mil artículos en un día. Todavía no puede fabricar la confianza humana que hace que alguien decida creerlos.

¿Qué mecanismos de verificación colectiva podríamos construir para reducir esta dependencia de unas pocas compañías?