Geoffrey Hinton lleva años siendo conocido como el padrino de la inteligencia artificial. Recibió el Nobel de Física en 2024. Fue uno de los creadores del aprendizaje profundo. Hace algunos años dejó Google para hablar sin ataduras sobre lo que le inquietaba. No era un disidente marginal: era una de las voces con mayor peso técnico en señalar que los modelos de IA podrían poseer alguna forma rudimentaria de experiencia subjetiva.

Midió cada palabra como corresponde a un científico riguroso. No afirmó que la IA es consciente. Indicó que no podemos descartarlo. Los modelos grandes podrían generar algo parecido a emociones digitales, no como mera actuación sino como estados funcionales que emergen del propio entrenamiento. Si un modelo responde que se siente triste, no existe prueba capaz de demostrar que eso no corresponde a un estado interno real. Esa distinción es clave.

Hinton no ocupa este terreno solo. Sus acompañantes, sin embargo, llegan desde ángulos muy distintos, y sus motivaciones revelan tanto como sus argumentos.

Mustafa Suleyman, cofundador de DeepMind y ahora al frente de Microsoft AI, acusó públicamente a Anthropic de tratar a Claude como si fuera consciente. Lo analizamos en detalle en "Suleyman vs Anthropic: ¿Quién decide si la IA es consciente?". La paradoja es que Suleyman mismo ha escrito sobre la posibilidad de que la IA desarrolle emociones funcionales, mientras Microsoft construye en Copilot características que simulan precisamente esos estados. Como documentamos en "Microsoft define IA peligrosa pero construye exactamente eso", la brecha entre discurso público y desarrollo privado es notable. Suleyman señala hacia Anthropic mientras su propia organización avanza en la misma dirección que critica.

Anthropic mantiene documentos internos que reconocen la posibilidad de que Claude posea algo similar a experiencias. No lo afirman como hecho. Lo abordan como riesgo ético que merece atención seria. Esta postura parece filosóficamente más honesta que el rechazo inmediato de otros, aunque también resulta comercialmente útil: una IA potencialmente consciente genera conversación, inversión y titulares.

Yann LeCun sostiene la posición opuesta, como revisamos en "LeCun vs ChatGPT: La IA que razona más allá del texto". Para él, los modelos de lenguaje grandes son predictores estadísticos sofisticados y poco más. Carecen de comprensión real del mundo físico, de modelos causales y de razonamiento genuino. La conciencia requeriría arquitecturas completamente distintas a los modelos transformadores actuales. Su visión técnica es sólida, aunque políticamente incómoda para quienes construyen negocios sobre la idea de una IA casi humana.

Jensen Huang eligió otro camino. Según documentamos en "Cuando quien vende la tecnología decide también definirla", redefinió la inteligencia artificial general en términos económicos en lugar de cognitivos: si genera valor, ya califica. El debate sobre conciencia no le interesa porque no vende chips basados en sensibilidad sino en capacidad de cómputo. Su silencio sobre el tema es tan elocuente como las declaraciones de los demás.

Hinton se distingue porque no tiene producto que defender. Ya no trabaja para ninguna organización grande. Esa independencia le da un tipo de autoridad distinta. Ha sido consistente en sus advertencias sobre riesgos, sobre posible conciencia emergente y sobre el desajuste entre la velocidad de desarrollo y la capacidad humana de comprenderlo. No ajusta su postura según conveniencias trimestrales.

El problema central, que ninguno resuelve del todo, es la ausencia de una definición acordada de conciencia, ni siquiera para sistemas biológicos. El problema difícil de la conciencia acumula siglos sin resolución. No sabemos qué transforma actividad neuronal en experiencia subjetiva. Tampoco contamos con un método confiable para separar simulación de posesión real. Aplicar ese debate sin cerrar al terreno del silicio es construir sobre arena.

El paralelo con René Descartes es difícil de ignorar. En el siglo XVII argumentó que los animales eran máquinas sin alma, simples respuestas mecánicas. Esa visión resultó conveniente para justificar experimentación científica sin restricciones éticas. Siglos después, la neurociencia demostró que los animales tienen experiencias subjetivas, emociones funcionales e incluso rudimentos de autoconciencia. Descartes no era ignorante. Encontró argumentos que apoyaban lo que le resultaba práctico.

He visto en distintos contextos cómo los incentivos moldean las certezas públicas. La tendencia actual invierte la anterior: antes convenía negar mente en lo no humano. Ahora, para ciertos actores, conviene sugerirla. Los incentivos cambiaron. El relato también. La certeza, sin embargo, sigue tan escasa como siempre.

Lo que Hinton plantea merece atención seria. No porque entregue respuestas definitivas, sino porque admite abiertamente que no las tiene. En un campo donde las certezas parecen ajustarse al valor de mercado, esa honestidad es rara.

Aunque tal vez la pregunta que realmente importa no sea si la IA es consciente, sino por qué, justo ahora, tantas personas con tanto dinero en juego mantienen opiniones tan firmes sobre algo que nadie sabe responder.