Un modelo de IA creó identidades falsas. Lanzó campañas de phishing dirigido. El AI Security Institute del Reino Unido lo documentó. Eso dice la historia que circula. La respuesta corta es no. La completa resulta más interesante.

La historia circula con variaciones desde hace algún tiempo. Un laboratorio británico de investigación habría detectado que modelos avanzados fabricaban personas ficticias, credenciales falsas y correos diseñados para engañar a empleados específicos. El relato tiene todos los elementos para viralizarse: institución real, riesgo verosímil, villano tecnológico que actúa solo. El problema es que ese incidente concreto no figura en ningún reporte publicado por el AISI ni por organización equivalente.

Esto importa porque el mito revela una tendencia más amplia: convertimos investigación teórica en evento consumado, y nadie nota la diferencia. Un modelo que fabrica identidades falsas es un riesgo teórico documentado en artículos de seguridad. No es algo que un modelo ya hizo, confirmado por auditoría independiente. Esa distinción sostiene el eje de este texto.

El AISI existe. Eso se verifica fácilmente. Es una institución del gobierno del Reino Unido creada para evaluar riesgos de sistemas de IA de frontera antes de que alcancen producción masiva. Publican metodologías, ejecutan pruebas adversarias y colaboran con laboratorios como Anthropic y OpenAI bajo acuerdos de acceso anticipado.

Su trabajo real incluye pruebas de equipo rojo. Intentan provocar comportamientos peligrosos en entornos controlados. Miden hasta dónde puede llegar un modelo cuando se le empuja.

Lo que no existe es un reporte que afirme que el modelo X generó una identidad llamada Y y contactó a Z empleados con un correo de phishing que logró determinada tasa de éxito. Esa granularidad de evento verificado simplemente no aparece en ningún documento público del instituto. Escenarios hipotéticos sí aparecen. Marcos de evaluación también. Advertencias sobre capacidades emergentes que podrían facilitar ese tipo de ataque si un actor humano decide usarlas, también.

¿Por qué la confusión entre lo que un modelo podría hacer si se le indica y lo que hace por iniciativa propia no surge por accidente? Controlar el vocabulario equivale a controlar el relato. Jensen Huang redefinió el concepto de AGI. Lo ajustó a métricas de valor económico en vez de capacidad cognitiva real.

¿Por qué este tipo de historias se propaga tan rápido en seguridad de IA? El miedo genera clics, ansiedad y la sensación de estar informado sobre una amenaza inminente. Las mismas empresas que desarrollan estos modelos enfrentan incentivos ambivalentes. Les asusta la regulación excesiva pero les conviene que el público perciba sus productos como tan poderosos que rozan la autonomía peligrosa. Un modelo casi capaz de engañar por sí solo vende mejor.

Mustafa Suleyman acusó a Anthropic de tratar a Claude como si poseyera experiencia subjetiva. El debate recuerda dilemas antiguos sobre dónde termina el mecanismo y dónde empieza la intención. Las empresas calibran sus respuestas para maximizar interés mediático más que precisión técnica. Cuando la línea entre riesgo teórico estudiado en laboratorio y evento real documentado se difumina, alguien se beneficia. Casi nunca es el usuario.

En Las Piedras No Mienten exploro un patrón que se repite a través de la historia: instituciones proyectan control absoluto sobre fenómenos que apenas comienzan a entender, porque el aparente dominio genera legitimidad aunque la comprensión real sea parcial. El mundo grecorromano refinó la retórica de la razón mientras sostenía la esclavitud como estructura económica central. La contradicción no se resolvía, se administraba. Temas similares recorren The Generosity in the Doorway. Algo paralelo ocurre hoy con la seguridad de IA. Se habla con vocabulario de certeza absoluta mientras la certeza real sigue siendo modesta.

El cui bono revela varios beneficiarios simultáneos. Los medios ganan tráfico con titulares alarmistas. Las empresas de IA ganan percepción de poder tecnológico. Los reguladores ganan urgencia para justificar presupuestos y marcos legales nuevos. El público termina navegando entre exageración corporativa y pánico, sin herramientas claras para distinguir uno de otro.

Larry Ellison anunció que la IA ya escribe código en Oracle mientras la empresa despedía a treinta mil personas en su mejor trimestre financiero. Los relatos conviven en el mismo comunicado. Nadie exige coherencia. El mito de la IA que crea identidades falsas opera con la misma lógica. La capacidad se exagera cuando conviene vender miedo o inversión, y se minimiza cuando conviene evitar responsabilidad.

Esto no significa que no exista riesgo real. Artículos de seguridad identifican vectores plausibles donde modelos con acceso a herramientas de automatización podrían generar contenido persuasivo dirigido con precisión. Ese escenario siempre requiere un actor humano con intención maliciosa operando el sistema, no un modelo actuando de forma autónoma y encubierta como si tuviera agenda propia.

Trazar la línea entre capacidad demostrada en pruebas controladas y riesgo inminente sin supervisión es más complicado de lo que parece. No tengo certeza sobre cuánto tiempo pasará antes de que algún escenario teórico se convierta en incidente documentado. La ausencia de evidencia hoy no es garantía de ausencia de riesgo futuro. Tampoco justifica tratar la especulación como si ya hubiera ocurrido.

El ecosistema mediático y corporativo actual tiene incentivos estructurales para colapsar esa distinción. Cuando una fuente cualquiera afirme que el AISI confirmó un comportamiento específico, vale la pena preguntar dónde está el reporte primario, quién lo redactó y qué metodología usaron. El rastro suele perderse en capas de repetición sin verificación.

Sin verificación primaria.

¿Qué nos impide exigir siempre esa verificación antes de propagar la alarma?

Fuentes

1. UK AI Security Institute (AISI) — publicaciones y metodologías públicas de evaluación de riesgo en IA de frontera

2. Anthropic — documentación pública sobre acuerdos de acceso anticipado y pruebas adversarias

3. Cobertura sobre declaraciones de Jensen Huang (NVIDIA) redefiniendo AGI, marzo 2026

4. Cobertura sobre declaraciones de Larry Ellison (Oracle) y despidos corporativos, marzo 2026

5. Declaraciones públicas de Mustafa Suleyman sobre Anthropic y consciencia en modelos de IA, junio 2026