Plan de respuesta a incidentes de IA

Cómo usar este documento

• Para qué sirve. Es un procedimiento base para detectar, clasificar, contener, investigar, comunicar y cerrar incidentes en los que interviene un sistema de IA: fallos del modelo, sesgos, contenido dañino, ataques específicos de IA, fugas de datos a través de herramientas de IA, incidentes de proveedores e incidentes de modelos autoalojados. Su registro de incidentes (sección 10) es el registro único de incidentes de IA de la organización: los demás documentos trasladan aquí sus incidentes.
• Quién debe ser su dueño. Normalmente el responsable de seguridad de la información o de operaciones de IA, coordinado con privacidad, legal y el comité de IA. Indique el área en [ÁREA RESPONSABLE] y la persona que lidera la respuesta en [RESPONSABLE].
• Decisiones previas. Decida si este plan funciona de forma independiente o como anexo de un plan general de respuesta a incidentes (cláusula 1.3), qué tiempos de activación y escalamiento usa (sección 5), quién puede desactivar un sistema de IA sin aprobación previa (sección 7.4) y cuánto tiempo conserva registros y evidencias (sección 10).
• Campos a completar. Sustituya los textos entre corchetes, complete la tabla de notificaciones de la sección 8.1 y el directorio del equipo (ayuda F). Conserve las cláusulas [OPCIONAL] solo si aplican.
• Variantes por país. Este documento no tiene variantes por país. Los plazos, autoridades y contenidos de notificación cambian según la jurisdicción y el sector: complete la tabla 8.1 con las normas de la sección «Referencias normativas relacionadas» que apliquen a su organización y, si notifica brechas de datos personales en varios países, con el «Procedimiento de notificación de brechas de datos por país».
• Revisión. Pida a su asesoría jurídica que valide la tabla de notificaciones y las comunicaciones a personas afectadas, y a seguridad y a los equipos técnicos que validen la contención y la reversión de cada sistema crítico.
• Aprobación y publicación. Apruébelo por la dirección o el comité que corresponda, registre la aprobación en «Control de versiones», distribúyalo al equipo de respuesta, a soporte y a los dueños de sistemas de IA, y pruébelo con un ejercicio de mesa en los tres meses siguientes.

Plan de respuesta a incidentes de IA

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria	[ÁREA RESPONSABLE]
Líder de respuesta a incidentes de IA	[RESPONSABLE]
Aprobado por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión	[FRECUENCIA DE REVISIÓN]
Canal para reportar incidentes	[EMAIL DE GOBERNANZA DE IA] y [COMPLETAR] (teléfono o canal de guardia)

1. Propósito y relación con otros planes

1.1 Este plan establece cómo [NOMBRE DE LA ORGANIZACIÓN] detecta, clasifica, contiene, investiga, comunica y aprende de los incidentes en los que interviene un sistema de IA, con el fin de limitar el daño a las personas y a la organización, cumplir las obligaciones de notificación aplicables y evitar que los incidentes se repitan.

1.2 Los incidentes de IA requieren un tratamiento específico porque pueden originarse en el modelo, en los datos, en el uso que se hace de los resultados o en un proveedor, y porque su impacto puede ser ético, legal o reputacional, además de técnico.

1.3 [OPCIONAL] Este plan complementa el plan general de respuesta a incidentes de [NOMBRE DE LA ORGANIZACIÓN], versión [COMPLETAR]. Los roles, canales y herramientas del plan general se aplican en todo lo que este plan no regula de forma específica.

1.4 Este plan se aplica junto con la «Política de uso responsable de IA (incluida la IA generativa)», el «Procedimiento de notificación de brechas de datos por país» y el plan de continuidad del negocio. La contención técnica se ejecuta con el «Protocolo de reversión y estado seguro de IA» y la continuidad del servicio con el «Manual de contingencias ante fallas de IA»; este plan no repite sus pasos.

2. Alcance

2.1 Este plan aplica a todo incidente que cumpla al menos uno de estos criterios:

a) la causa raíz es un fallo, un comportamiento inesperado o una vulnerabilidad de un modelo o sistema de IA;
b) un sistema de IA expone, altera o trata indebidamente datos personales o información confidencial;
c) el comportamiento de un sistema de IA causa o puede causar un impacto relevante, ya sea operativo, ético, financiero, reputacional, legal o en la salud y seguridad de las personas, en la organización, sus clientes, su personal o terceros;
d) un ataque se dirige a componentes de IA, por ejemplo mediante envenenamiento de datos, entradas adversarias, inyección de instrucciones, robo del modelo o abuso de agentes;
e) el personal usa la IA en contra de la política de uso responsable de IA con un impacto relevante, por ejemplo introduciendo información confidencial en una herramienta no autorizada;
f) un proveedor informa de un incidente en un sistema de IA que la organización usa;
g) un incidente general tiene implicaciones específicas de IA que requieren conocimiento experto para gestionarlo;
h) en un modelo autoalojado, el hash de los pesos en producción no coincide con el aprobado, se detecta una plantilla de chat alterada o un comportamiento oculto, o el desarrollador del modelo de origen o del servidor de inferencia publica un aviso de seguridad que lo afecta.

2.2 Aplica a los sistemas de IA desarrollados internamente, adquiridos a terceros o integrados como servicio, y a todo el personal y los proveedores que participan en su operación.