Procedimiento de explicabilidad de modelos (XAI)

Cómo usar este documento

• Para qué sirve. Es un procedimiento técnico base para decidir qué técnicas de explicabilidad usar según el tipo de modelo, cómo validarlas y documentarlas, y qué resultados técnicos (factores principales, códigos de razón, contrafactuales) entregar a quienes explican decisiones a personas, a supervisores, auditores y autoridades. No regula la atención de solicitudes de explicación de personas: eso corresponde a la «Política de transparencia y explicación al usuario».
• Quién debe ser su dueño. Normalmente el equipo técnico de ciencia de datos, por cuenta de los dueños de los sistemas y bajo la coordinación del responsable de IA. Indique el área en [ÁREA RESPONSABLE] y la persona en [RESPONSABLE].
• Decisiones previas. Antes de adoptarlo, decida cómo clasifica sus sistemas por nivel de explicabilidad (sección 4), qué herramientas técnicas usa el equipo, quién revisa los textos de los códigos de razón (sección 9) y qué información considera secreto comercial (sección 12).
• Campos a completar. Sustituya los textos entre corchetes, como [NOMBRE DE LA ORGANIZACIÓN], [COMITÉ DE IA], [FRECUENCIA DE REVISIÓN] y [COMPLETAR], y prepare una ficha de explicabilidad (ayuda E) por cada sistema de nivel E2 o E3.
• Variantes por país. Este documento no tiene variantes por país. El contenido mínimo y los plazos de las explicaciones que se entregan a personas cambian según la norma; se tratan en la «Política de transparencia y explicación al usuario» y en el «Procedimiento de revisión de decisiones automatizadas», que contiene las variantes por país.
• Revisión. Pida a legal y al delegado de protección de datos que revisen los textos de los códigos de razón y el tratamiento del secreto comercial, y al responsable de IA que valide la clasificación de niveles.
• Aprobación y publicación. Haga que lo apruebe [COMITÉ DE IA] o la dirección de datos, registre la aprobación en «Control de versiones» y compártalo con los equipos de ciencia de datos y con los dueños de los sistemas.

Procedimiento de explicabilidad de modelos (XAI)

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria	[ÁREA RESPONSABLE]
Responsable del procedimiento	[RESPONSABLE]
Aprobado por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión	[FRECUENCIA DE REVISIÓN]

1. Objeto

1.1 Este procedimiento establece cómo [NOMBRE DE LA ORGANIZACIÓN] selecciona, aplica, valida y documenta mecanismos de explicabilidad para sus sistemas de IA, y cómo traduce sus resultados en explicaciones útiles para cada público.

1.2 Su finalidad es que la organización pueda explicar, cuando corresponda, qué hace cada sistema, por qué produjo un resultado concreto, cómo se controla y qué puede hacer la persona afectada, sin afirmar más de lo que la técnica permite sostener.

2. Alcance

2.1 Se aplica a los sistemas de IA desarrollados, ajustados o integrados por la organización cuyos resultados:

a) se usan para tomar o apoyar decisiones sobre personas;
b) deben justificarse ante clientes, auditores, supervisores o autoridades;
c) se integran en procesos regulados, como la evaluación de solvencia, los seguros, la selección de personal o la gestión del trabajo.

2.2 Para los sistemas de terceros, la organización obtiene del proveedor la información necesaria para cumplir este procedimiento o aplica técnicas que no requieren acceso al interior del modelo.