Procedimiento de supervisión humana de sistemas de IA

Cómo usar este documento

• Para qué sirve. Es un procedimiento base para que la supervisión humana de los sistemas de IA sea real y no simbólica: define cuándo debe intervenir una persona, con qué competencias, autoridad, tiempo e información, cómo revisa los resultados (incluidos los desfavorables y los casos que la herramienta descarta), cuándo puede detener el sistema y qué evidencia se conserva.
• Quién debe ser su dueño. Normalmente el área de operaciones o el dueño del sistema que usa la IA, con el comité de IA como validador. Indique el área en [ÁREA RESPONSABLE] y la persona en [RESPONSABLE].
• Decisiones previas. Decida qué sistemas quedan dentro del alcance (sección 2), qué modalidad de supervisión se asigna a cada uno (sección 5), qué porcentaje de casos descartados o desfavorables se revisa (sección 8), quién puede detener un sistema sin aprobación previa (sección 9) y cómo se controlan los datos de entrada (sección 10) y qué indicadores revelan una supervisión meramente formal (sección 11).
• Campos a completar. Sustituya los textos entre corchetes, como [NOMBRE DE LA ORGANIZACIÓN], [COMITÉ DE IA], [FRECUENCIA DE REVISIÓN] y [COMPLETAR]. Complete una ficha de configuración (ayuda A) por cada sistema de IA. Conserve las cláusulas [OPCIONAL] solo si aplican.
• Variantes por país. Este documento no tiene variantes por país. Los criterios de las autoridades citados en la sección 4 sirven como referencia común; use la sección «Referencias normativas relacionadas» para identificar qué normas aplican a su organización y ajuste las secciones 8, 12 y 13 si alguna exige algo adicional.
• Revisión. Pida a su asesoría jurídica interna o externa que revise la versión adaptada, en especial la relación con los derechos frente a decisiones automatizadas, la información a las personas trabajadoras y sus representantes, y los plazos de conservación.
• Aprobación y publicación. Haga que lo apruebe el comité de IA o la dirección, registre la aprobación en «Control de versiones», entréguelo a cada persona supervisora junto con la formación de la ayuda G y comunique a los dueños de sistema qué fichas deben completar.

Procedimiento de supervisión humana de sistemas de IA

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria	[ÁREA RESPONSABLE]
Responsable del procedimiento	[RESPONSABLE]
Aprobado por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión	[FRECUENCIA DE REVISIÓN]
Contacto	[EMAIL DE GOBERNANZA DE IA]

1. Propósito

1.1 Este procedimiento establece cuándo, cómo y con qué evidencia interviene una persona en los procesos de [NOMBRE DE LA ORGANIZACIÓN] apoyados por sistemas de IA.

1.2 Su finalidad es que la supervisión humana sea efectiva: que las personas que supervisan tengan capacidad real para comprender, cuestionar, corregir, anular o detener los resultados de un sistema de IA, y que esa capacidad se ejerza y quede documentada.

1.3 Este procedimiento complementa la política de uso responsable de IA, la evaluación de impacto de cada sistema, el procedimiento de revisión de decisiones automatizadas a solicitud de las personas afectadas y el plan de respuesta a incidentes de IA.

2. Alcance

2.1 La supervisión humana conforme a este procedimiento es obligatoria, como mínimo, cuando un sistema de IA:

a) decide, recomienda, puntúa, clasifica o prioriza a personas en procesos de selección, contratación, evaluación, promoción, asignación de tareas, sanción o despido;
b) influye en el acceso a crédito, seguros, vivienda, educación, salud, prestaciones o servicios esenciales, o en su precio o condiciones;
c) se usa en actividades que la organización o la normativa aplicable clasifican como de riesgo alto;
d) trata datos sensibles o datos de personas en situación de vulnerabilidad, como menores;
e) puede restringir, suspender o cerrar la cuenta o el acceso de una persona a un servicio o plataforma;
f) ejecuta acciones por sí mismo (agentes de IA) con efectos sobre personas, sistemas críticos o información confidencial;
g) no tiene todavía evidencia suficiente de un rendimiento estable, o sus resultados son difíciles de explicar o de verificar a simple vista.

2.2 Para los demás sistemas de IA basta la revisión de resultados que exige la política de uso responsable de IA, salvo que el comité de IA decida aplicar este procedimiento.

2.3 Aplica a los sistemas desarrollados internamente y a los adquiridos a proveedores. Cuando el proveedor ofrece funciones de supervisión (umbrales, alertas, botón de parada, explicaciones), la organización las configura y las usa según las instrucciones de uso del proveedor; cuando no las ofrece, la organización implanta controles equivalentes en su propio proceso.