Hindou Oumarou Ibrahim se paró frente a delegados en Ginebra y planteó algo que debería resultar obvio. Sin embargo sigue sin ser norma vinculante en ningún marco internacional. Si un sistema de inteligencia artificial va a usar datos de un territorio indígena, la comunidad que vive ahí tiene que dar su consentimiento libre, previo e informado antes de que el proyecto arranque, no después de que ya esté entrenado el modelo.

Esa es la definición que importa aquí. El consentimiento libre, previo e informado es un mecanismo porque establece quién decide y en qué momento del proceso. No porque suene bien en un comunicado. Sin ese mecanismo lo que existe es consulta simbólica, una foto con líderes indígenas en el escenario mientras las decisiones técnicas ya se tomaron en otro lado.

Ibrahim, coordinadora de la Asociación de Mujeres Peuhl y Pueblos Autóctonos del Chad, lleva años en foros de la ONU insistiendo en algo específico. Los datos ambientales y territoriales que alimentan modelos de IA, desde monitoreo satelital hasta sistemas predictivos de deforestación, provienen de tierras que los pueblos indígenas gestionan, conocen y habitan desde antes de que existiera cualquier laboratorio de IA. Que ese conocimiento se use sin consulta y que los beneficios de los sistemas resultantes no regresen a esas comunidades no es un accidente de diseño. Es el diseño.

El evento fue el Diálogo Global sobre Gobernanza de la Inteligencia Artificial, celebrado en Ginebra. Uno de esos espacios donde la ONU reúne a gobiernos, empresas tecnológicas y, cada vez más al menos en el papel, representantes indígenas bajo el paraguas de iniciativas como AI for Good. El formato resulta familiar para cualquiera que haya seguido cumbres climáticas: paneles, declaraciones de buena voluntad, fotos de cierre. Lo que no hay todavía es un mecanismo de cumplimiento. Ningún tratado internacional obliga hoy a un laboratorio de IA a obtener consentimiento indígena antes de recolectar o usar datos territoriales. La demanda de Ibrahim no pide algo nuevo en el vocabulario de derechos humanos. El consentimiento libre, previo e informado existe como estándar desde el Convenio 169 de la Organización Internacional del Trabajo de 1989. Pide que ese estándar se aplique a una tecnología que en 1989 nadie imaginaba.

Aquí conviene preguntarse algo directo. ¿Por qué la inclusión discursiva en foros como Ginebra no se traduce en poder decisorio real? Estar en el panel no otorga control sobre el flujo de datos. Puedes hablar en la sesión plenaria y al mismo tiempo carecer de cualquier herramienta legal para bloquear que una empresa de monitoreo satelital procese imágenes de tu territorio, las cruce con datos ambientales y entrene un modelo predictivo que después se vende como herramienta de conservación. La participación en el debate y la propiedad sobre los datos son cosas distintas. Confundirlas permite a instituciones como la ONU mostrarse inclusivas sin ceder nada estructural.

Este patrón no nació con la IA. En 1992 se firmó el Convenio sobre Diversidad Biológica y en 2010 el Protocolo de Nagoya, ambos como respuesta a décadas de biopiratería. Empresas farmacéuticas patentando compuestos derivados de plantas medicinales usadas por pueblos indígenas durante generaciones, sin pago, sin reconocimiento, sin consulta. El caso de la cúrcuma es de manual, una patente estadounidense de 1995 reclamó como invención el uso cicatrizante de la planta, conocimiento documentado en textos ayurvédicos con siglos de antigüedad, hasta que India logró revertirla presentando esos mismos textos como prueba de "estado previo de la técnica". El neem, árbol usado en la India como insecticida y antiséptico natural, fue objeto de patentes similares en Europa durante los noventa, también revertidas después de litigios largos y costosos. Nagoya intentó cerrar ese hueco legal exigiendo acuerdos de acceso y reparto de beneficios. Tardó casi veinte años en implementarse parcialmente y el cumplimiento sigue siendo débil en la mayoría de los países firmantes. Ese es el dato incómodo. Cuando existió un marco jurídico específico para este problema funcionó a medias y con dos décadas de retraso. No hay razón para pensar que la gobernanza de IA, que ni siquiera tiene ese marco, va a moverse más rápido.

El paralelo con la extracción algorítmica actual no es metafórico. Es estructural. Antes el vehículo de extracción era la patente farmacéutica sobre una molécula derivada de una planta conocida por comunidades indígenas. Ahora es el flujo de datos. Sensores satelitales capturan imágenes de cobertura forestal, humedad del suelo, patrones migratorios de fauna sobre territorios que comunidades indígenas gestionan y monitorean con conocimiento acumulado durante generaciones. Ese conocimiento, qué señales anticipan sequía, cómo se comporta un ecosistema específico en ciclos que ningún satélite ha observado todavía, no aparece en el conjunto de datos pero sí valida silenciosamente los modelos que se entrenan con las imágenes. La comunidad queda fuera del flujo en el momento de recolección y fuera del reparto en el momento de monetización. Es la misma arquitectura de extracción sin retorno, solo que ahora corre en la nube en vez de estar registrada en una oficina de patentes.

¿Y quién se beneficia técnica y económicamente de que ese consentimiento no exista? La respuesta tiene capas. Los laboratorios de IA que entrenan modelos ambientales acceden a datos territoriales sin costos de consulta ni negociación de licencias, lo cual acelera desarrollo y reduce gasto. Las empresas de monitoreo satelital y los proveedores de modelos predictivos de deforestación o biodiversidad venden estos sistemas a gobiernos y ONG como herramientas de conservación, sin que el marco de "beneficio compartido" incluya alguna vez a las comunidades cuyo territorio y conocimiento sostienen la validez de esos modelos. Los Estados y corporaciones que definen unilateralmente qué constituye "beneficio" para una comunidad indígena retienen el poder de decidir sin negociar. A veces ese beneficio es un puesto en un panel. A veces es una mención en un informe de impacto. Y la ONU mientras tanto gana algo distinto: legitimidad simbólica. Puede mostrar que incluyó voces indígenas en Ginebra sin comprometerse a ningún mecanismo vinculante que le cueste algo a los gobiernos que la financian.

Los flujos técnicos se optimizan para lo que es medible y escalable. El consentimiento no califica. Un sensor satelital no pregunta. Un rastreador de datos ambientales no pausa para negociar términos con la comunidad que vive en la zona fotografiada. La arquitectura entera, desde la recolección hasta el entrenamiento del modelo, está diseñada asumiendo que los datos territoriales son un recurso disponible, no un bien sobre el cual alguien tiene derechos previos. Cambiar eso no es un ajuste de política de privacidad. Es rediseñar el flujo desde el primer punto de contacto con el dato.

¿Qué significaría técnicamente construir un sistema que sí requiera consentimiento? Existen ya propuestas concretas aunque ninguna resuelve el problema por sí sola. Los fideicomisos de datos, estructuras legales donde un fideicomiso gestiona el acceso a datos en nombre de una comunidad con capacidad de negociar términos y bloquear usos no autorizados, permitirían que una comunidad indígena controle quién accede a datos de su territorio y bajo qué condiciones, en vez de descubrir después de los hechos que un modelo ya fue entrenado con sus tierras. Las licencias comunitarias de datos, similares a las que ya se discuten para lenguas indígenas amazónicas, podrían exigir que cualquier uso comercial de datos territoriales pase por un acuerdo explícito con reparto de beneficios, replicando en el terreno de la IA lo que Nagoya intentó hacer con recursos genéticos. Y la gobernanza distribuida de datos, donde la decisión sobre acceso no recae en un solo actor externo sino en un comité con representación real de la comunidad afectada, es técnicamente viable hoy. No requiere tecnología nueva. Requiere voluntad institucional de ceder control.

Ninguna de estas arquitecturas es una solución fácil ni definitiva. Los fideicomisos de datos pueden ser capturados por intermediarios que terminan actuando en nombre de la comunidad sin rendirle cuentas. Las licencias comunitarias dependen de que exista capacidad legal y técnica para negociarlas, algo que muchas comunidades no tienen sin apoyo externo, y ese apoyo externo trae sus propias asimetrías de poder. La gobernanza distribuida suena bien en el papel y es difícil de sostener cuando el volumen de datos crece más rápido que la capacidad de cualquier comité de revisarlos. No hay una respuesta cerrada sobre cuál de estos mecanismos funcionaría mejor, y sospecho que nadie la tiene todavía. Esto es más complicado de lo que parece, como se explora en The Generosity in the Doorway. Datos sin contexto. Comunidades sin voz.

¿Cómo haríamos para que el consentimiento deje de ser solo una frase pronunciada en Ginebra?