Línea base de ciberseguridad para sistemas de IA

Cómo usar este documento

• Para qué sirve. Es un estándar base con los controles mínimos de seguridad para sistemas de IA: gobierno, identidad y accesos, datos e instrucciones, inyección de instrucciones, agentes, cadena de suministro de modelos, desarrollo seguro, pruebas, registro de eventos, incidentes y modelos alojados en infraestructura propia. Complementa, no reemplaza, la política general de seguridad de la información.
• Quién debe ser su dueño. Seguridad de la información, con los equipos de TI, arquitectura y ciencia de datos como encargados de aplicar los controles bajo la dirección del dueño de cada sistema. Indique el área en [ÁREA RESPONSABLE] y la persona en [RESPONSABLE].
• Decisiones previas. Decida qué perfiles de despliegue tiene (P1 a P5) y en qué nivel adopta el estándar (Básico, Estándar o Reforzado); con eso, use la «Selección de módulos» para quedarse solo con las secciones y filas que le aplican. Decida también qué herramientas usará para cada control (gestor de secretos, registro centralizado, filtros), cuánto tiempo conserva los registros (LOG-04) y quién aprueba las excepciones (sección 6).
• Campos a completar. Sustituya los textos entre corchetes, como [NOMBRE DE LA ORGANIZACIÓN], [COMITÉ DE IA], [FRECUENCIA DE REVISIÓN] y [COMPLETAR]. Conserve las cláusulas marcadas [OPCIONAL] solo si aplican.
• Variantes por país. No tiene variantes por país. Los plazos de notificación de brechas e incidentes, las normas de ciberseguridad de productos y las restricciones legales sobre modelos según su origen varían: identifíquelos en «Referencias normativas relacionadas» y conéctelos con INC-03 y con la ficha de procedencia de cada modelo.
• Revisión. Pida a TI, arquitectura y ciencia de datos que confirmen que los controles encajan en sus plataformas, y al delegado de protección de datos (o el rol equivalente del país) y a legal que validen los controles sobre datos personales, conservación y notificación.
• Aprobación y publicación. Haga que lo apruebe el responsable de IA o [COMITÉ DE IA], registre la aprobación en «Control de versiones» y publíquelo para los equipos que diseñan, integran u operan sistemas de IA.

Selección de módulos

Perfil o nivel	Qué conservar
Todos	Secciones 1 a 4, 6 a 8 y, dentro de la sección 5, las filas cuyo perfil sea «Todos» o uno de los suyos
P1 Usa IA dentro de software que compra	Filas marcadas con P1; las secciones 5.4 y 5.7 solo si además tiene P2 a P5
P2 Integra modelos por API o RAG	Filas marcadas con P2
P3 Aloja modelos, incluidos los de pesos abiertos	Filas marcadas con P3 y la sección 5.12
P4 Entrena o ajusta modelos	Filas marcadas con P4
P5 Usa agentes que actúan en sistemas	Filas marcadas con P5 y la sección 5.5
Nivel Básico	Filas sin marca de nivel
Nivel Estándar	Filas sin marca y filas [NIVEL ESTÁNDAR]
Nivel Reforzado	Todas las filas, incluidas las [NIVEL REFORZADO]

Elimine las secciones y filas que no apliquen a su organización.

Línea base de ciberseguridad para sistemas de IA

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria	[ÁREA RESPONSABLE]
Responsable del estándar	[RESPONSABLE]
Aprobado por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión	[FRECUENCIA DE REVISIÓN]
Perfiles de despliegue adoptados	[COMPLETAR: P1, P2, P3, P4, P5]
Nivel adoptado	[COMPLETAR: Básico, Estándar o Reforzado]
Contacto para consultas y excepciones	[EMAIL DE GOBERNANZA DE IA]

1. Objeto

1.1 Este estándar fija los controles mínimos de seguridad que [NOMBRE DE LA ORGANIZACIÓN] aplica a los sistemas de IA para proteger la confidencialidad, la integridad y la disponibilidad de los modelos, los pesos, los datos, las instrucciones, las integraciones y los resultados.

1.2 Atiende los riesgos propios de la IA, como la inyección de instrucciones, el envenenamiento de datos, la extracción de modelos, la fuga de información a través de las respuestas, el exceso de autonomía de los agentes, los compromisos de la cadena de suministro de modelos y los comportamientos ocultos de modelos de terceros, además de los riesgos de seguridad tradicionales.

2. Alcance

2.1 Se aplica a:

a) funciones de IA activadas en aplicaciones contratadas y asistentes de IA para el personal, en lo que la organización pueda configurar (P1);
b) integraciones con modelos o API de IA de terceros, incluidas las aplicaciones de generación aumentada por recuperación (RAG) y sus bases de conocimiento y vectoriales (P2);
c) modelos alojados en infraestructura propia o alquilada, incluidos los de pesos abiertos de cualquier origen, y sus servidores de inferencia (P3);
d) modelos entrenados o ajustados por la organización y su infraestructura de entrenamiento (P4);
e) agentes de IA que usan herramientas o ejecutan acciones en otros sistemas (P5);
f) el personal, los contratistas y los proveedores que diseñan, integran u operan estos sistemas.

2.2 Las reglas de uso de herramientas de IA por el personal están en la «Política de uso responsable de IA (incluida la IA generativa)»; este estándar se aplica a su configuración técnica.