Protocolo de reversión y estado seguro de IA

Cómo usar este documento

• Para qué sirve. Es un protocolo base que define cuándo y cómo degradar, revertir, desactivar o apagar un sistema de IA para llevarlo a un estado seguro, quién puede decidirlo, cómo se ejecuta, cómo se verifica y cómo se vuelve a la operación normal.
• Quién debe ser su dueño. Normalmente operaciones o TI, con el dueño de cada sistema. Indique el área en [ÁREA RESPONSABLE] y la persona en [RESPONSABLE].
• Decisiones previas. Para cada sistema crítico, decida cuál es su estado seguro y su alternativa sin IA (sección 4 y ayuda B), qué disparadores activan cada nivel (sección 6), quién puede decidir sin aprobación previa (sección 7) y cada cuánto se prueba la reversión (sección 12).
• Campos a completar. Sustituya los textos entre corchetes y complete una ficha de estado seguro por sistema. Conserve las cláusulas [OPCIONAL] solo si aplican.
• Variantes por país. Este protocolo no tiene variantes por país. Si la organización es una entidad financiera, un operador de servicios esenciales o está sujeta a normas de ciberseguridad o continuidad, revise las obligaciones de continuidad y reporte con las normas de «Referencias normativas relacionadas».
• Revisión. Pida a los equipos técnicos que validen que cada estado seguro puede ejecutarse en el tiempo previsto, y al dueño del sistema que confirme que la alternativa manual tiene capacidad suficiente.
• Aprobación y publicación. Haga que lo apruebe la dirección de tecnología o [COMITÉ DE IA], registre la aprobación en «Control de versiones» y distribúyalo a las guardias técnicas, a los dueños de sistemas y al equipo de respuesta a incidentes.

Protocolo de reversión y estado seguro de IA

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria	[ÁREA RESPONSABLE]
Responsable del protocolo	[RESPONSABLE]
Aprobado por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión	[FRECUENCIA DE REVISIÓN]
Canal de activación	[COMPLETAR: canal de guardia o teléfono] y [EMAIL DE GOBERNANZA DE IA]

1. Propósito

1.1 Este protocolo establece cómo [NOMBRE DE LA ORGANIZACIÓN] retira o limita de forma rápida y controlada el funcionamiento de un sistema de IA cuando su comportamiento deja de ser aceptable, para reducir el daño y recuperar el control sin improvisar.

1.2 Asegura que las personas encargadas de la supervisión humana pueden detener o corregir el sistema y que cada intervención queda registrada.

2. Alcance

2.1 Se aplica a todos los sistemas de IA en producción registrados en el «Inventario de sistemas de IA». Es obligatorio contar con una ficha de estado seguro probada para los sistemas de riesgo Alto o Medio, para los que interactúan con el público, para los agentes que ejecutan acciones y para los modelos autoalojados en producción. En este protocolo, «sistema crítico» es todo sistema que debe tener esa ficha.

2.2 Cubre el modelo, sus instrucciones de sistema y configuración, las integraciones con proveedores, los datos de referencia (por ejemplo, la base de conocimiento de un asistente), los permisos de los agentes y, en los modelos autoalojados, los pesos, la plantilla de chat y el servidor de inferencia.