- Según el alcance del proyecto
- Remoto
Transparencia y auditabilidad de proyectos de IA
Aplica a: Estatal, Multilateral, Nacional
El problema que resuelve
Tu institución está por desarrollar o contratar un sistema con inteligencia artificial, o ya tiene uno operando. En ambos casos las preguntas son las mismas: quién define su alcance y con qué fundamento, qué información lo alimenta y si esa información basta, cómo se establecen los criterios con los que decide, en qué momentos interviene una persona y quién responde si algo falla. Cuando el proyecto arranca, esas decisiones se toman sobre la marcha y nadie las escribe. Cuando ya opera, la historia vive en correos, presentaciones y en la memoria de quien lo desarrolló. El día que alguien pregunta por qué el sistema decidió lo que decidió, la institución no tiene con qué responder.
Por qué importa: Tecnología
Este driver prepara una de las tres infraestructuras que tu organización debe alinear antes de adoptar una solución tecnológica.
Qué incluye y qué no
Incluye
- Acompañamos o reconstruimos la definición del alcance del proyecto: qué resuelve, a quién afecta, qué queda fuera y con qué fundamento se decidió.
- Rastreamos cada fuente de información hasta el área o institución que la genera, y verificamos que sea suficiente, pertinente y que exista fundamento para usarla.
- Revisamos si la información que lo requiere fue anonimizada o tratada, y si ese tratamiento está documentado.
- Documentamos qué tipo de modelo opera o se prevé, cómo se definen sus criterios de decisión, quién los aprueba y qué límites se conocen.
- Identificamos las fases donde debe intervenir una persona y quién responde en cada una.
- Definimos qué ocurre si el sistema falla, quién puede corregirlo o suspenderlo y qué queda registrado.
- Construimos la explicación dirigida a las personas usuarias y su ruta de inconformidad.
- Preparamos el requerimiento de documentación que la institución envía a su proveedor y revisamos lo que recibe.
A quién va dirigido
Instituciones que están por desarrollar o contratar un sistema con IA y quieren tomar bien las decisiones de origen.
Gobiernos con un sistema de IA ya operando en un programa, trámite o servicio.
Instituciones que contrataron una solución con IA y no tienen documentación de cómo fue construida.
Áreas que deberán responder ante un órgano de control, un órgano garante de datos o una revisión de cooperación.
Organizaciones que quieren publicar cómo funciona su sistema.
Equipos que desarrollaron un sistema y necesitan dejar su documentación antes de un cambio de administración o de proveedor.
Dónde se ha instalado
Instalado en proyectos con gobiernos de +15 países
Quiero este driver
Déjanos tus datos o agenda una llamada de 30 minutos. Te explicamos cómo se instalaría este driver en tu institución.
Formulario de contacto — pendiente de conectar (CF7 / Calendly).