En Datamorfosis creemos que la gobernanza de datos no puede quedarse en conceptos abstractos o discursos de alto nivel. Nuestra experiencia trabajando con gobiernos y organizaciones en América Latina nos ha enseñado que lo verdaderamente transformador es llevar la gobernanza a los procesos del día a día: esos en los que se toman decisiones técnicas, se organizan equipos y se documentan acciones que pueden marcar la diferencia entre un sistema confiable y uno que genera dudas.

Este trabajo lo realizamos en el marco de la Hoja de Ruta de Inteligencia Artificial Ética para América Latina y el Caribe, liderada por CAF y UNESCO. A partir de ese proceso, generamos un conjunto de recomendaciones prácticas diseñadas para ser probadas y adoptadas por países de la región, con el objetivo de fortalecer la gobernanza en una fase crítica del ciclo de vida de la IA: el entrenamiento de algoritmos.

Tres ejes para aterrizar la gobernanza

El reporte propone un marco basado en tres ejes de acción:

• Gobernanza: responsables claros, memoria institucional y mecanismos que garanticen el human in the loop.
• Gestión: herramientas para evaluar la calidad, idoneidad y seguridad de los datos antes de entrenar.
• Auditoría: mecanismos que permitan revisar, explicar y fortalecer la confianza en los modelos.

Este enfoque reconoce que los equipos públicos y privados enfrentan retos concretos —datasets incompletos, marcos legales fragmentados, recursos limitados— y que necesitan guías prácticas, no solo principios generales.

Acciones prácticas que recomendamos

Algunas de las acciones que identificamos en el reporte y que queremos compartir con nuestra comunidad son:

• Responsables a lo largo del proceso: más que un solo “equipo de gobernanza”, es necesario establecer responsables que cubran cada aspecto del entrenamiento (negocio, datos, desarrollo, ética, privacidad, ciberseguridad, documentación), asegurando siempre la supervisión humana en cada iteración del modelo.
• AI Data Readiness Inspector (AIDRIN): un cuestionario básico que ayuda a validar la calidad y representatividad de los datos antes de invertir tiempo y recursos en entrenar un modelo.
• Evaluaciones de Impacto en Protección de Datos (PIA): herramientas preventivas y ex post que permiten identificar riesgos de privacidad y aplicar medidas de mitigación como anonimización o seudonimización.
• Protocolos de transparencia para proveedores externos: cláusulas contractuales y documentación obligatoria que exijan a proveedores de servicios de entrenamiento o infraestructura en la nube cumplir con estándares claros de gobernanza y seguridad.
• Protocolos mínimos de ciberseguridad: cifrado, segmentación de accesos y monitoreo frente a intentos de manipulación de datos (data poisoning).
• Red Teaming para el bien público: ejercicios de auditoría que simulan ataques y usos maliciosos con el fin de fortalecer la resiliencia de los sistemas y documentar vulnerabilidades.

De la teoría a la práctica

Nuestro objetivo no es generar más documentos para archivar, sino herramientas que puedan ponerse en práctica desde ya. Sabemos que en la región muchos gobiernos enfrentan limitaciones en datos, capacidades y presupuesto, pero creemos que estas acciones pueden adaptarse progresivamente y servir como base para construir confianza y resiliencia.

En Datamorfosis, seguimos impulsando la idea de que la gobernanza de datos no es solo un tema de regulación, sino de procesos, personas y prácticas. Con este enfoque, buscamos acompañar a instituciones que quieran aprovechar la inteligencia artificial de forma responsable, transparente y alineada con el interés público.