Política de agentes de IA: autonomía, memoria y permisos

Cómo usar este documento

• Para qué sirve. Es una política base para gobernar los agentes de IA: sistemas que, además de generar texto, ejecutan acciones (enviar correos, consultar o modificar sistemas, comprar, responder a clientes, encadenar herramientas) con cierto grado de autonomía. Fija niveles de autonomía, permisos, memoria, puntos de control humano, registro de actividad y parada de emergencia.
• Quién debe ser su dueño. El responsable de IA, con aprobación del comité de IA, con seguridad de la información y TI como responsables técnicos y con la participación del delegado de protección de datos (o el rol equivalente del país), legal y los dueños de los sistemas que usan agentes. Indique el área en [ÁREA RESPONSABLE] y la persona en [RESPONSABLE].
• Decisiones previas. Antes de adoptarla, decida el nivel (básico, estándar o reforzado) y los módulos que conserva («Selección de módulos»), el nivel de autonomía máximo que admitirá la organización (sección 5), qué acciones quedan siempre reservadas a una persona (sección 6.3), quién aprueba cada agente (sección 4), cuánto tiempo se conservan los registros y la memoria (secciones 8 y 9) y quién puede activar la parada de emergencia (sección 11).
• Campos a completar. Sustituya los textos entre corchetes, como [NOMBRE DE LA ORGANIZACIÓN], [COMITÉ DE IA], [EMAIL DE GOBERNANZA DE IA], [FRECUENCIA DE REVISIÓN] y [COMPLETAR]. Las cláusulas marcadas [OPCIONAL] se conservan solo si aplican; al conservarlas, borre la marca.
• Variantes por país. No tiene variantes por país. La sección «Referencias normativas relacionadas» muestra las normas y guías vinculadas; entre ellas, las orientaciones de la Agencia Española de Protección de Datos (AEPD) sobre IA agéntica, que se han tomado como referencia de buena práctica también fuera de España.
• Relación con otros documentos. Esta política no mantiene un inventario propio: los agentes se registran en el «Inventario de sistemas de IA». Usa la escala única de riesgo de la organización y se apoya en los documentos de la ayuda H. Si no los tiene, adapte las remisiones.
• Revisión. Pida a su asesoría jurídica y a su responsable de protección de datos que revisen la versión adaptada, en especial la base jurídica de los tratamientos que realizan los agentes, los contratos con proveedores y los casos en que el agente pueda tomar decisiones con efectos sobre personas.
• Aprobación y publicación. Apruébela por el órgano que corresponda, registre la aprobación en «Control de versiones» y comuníquela a quienes diseñan, configuran, aprueban o usan agentes.

Selección de módulos

Perfil o nivel	Qué conservar
P5: agentes que actúan en sistemas (núcleo de esta política)	Todo el documento sin marca
P3: el modelo que impulsa el agente se aloja en infraestructura propia o alquilada, incluidos modelos de pesos abiertos	Sección 13.3
Nivel básico	Núcleo y contenido marcado [NIVEL BÁSICO]; elimine el marcado [NIVEL REFORZADO]
Nivel estándar	Núcleo; elimine el contenido marcado [NIVEL BÁSICO] y [NIVEL REFORZADO]
Nivel reforzado (obligatorio si algún agente es de riesgo Alto o de autonomía 3 o 4)	Núcleo y contenido marcado [NIVEL REFORZADO]

Elimine las secciones, filas y párrafos que no apliquen, junto con sus marcas.

Política de agentes de IA: autonomía, memoria y permisos

Campo	Valor
Organización	[RAZÓN SOCIAL]
Área propietaria	[ÁREA RESPONSABLE]
Responsable de la política	[RESPONSABLE]
Aprobada por	[APROBADO POR]
Fecha de entrada en vigor	[FECHA]
Frecuencia de revisión	[FRECUENCIA DE REVISIÓN]
Contacto	[EMAIL DE GOBERNANZA DE IA]

1. Propósito

[NOMBRE DE LA ORGANIZACIÓN] establece esta política para que los agentes de IA que usa o desarrolla actúen dentro de límites conocidos, con los permisos mínimos necesarios, bajo supervisión humana proporcionada al riesgo y dejando rastro suficiente para reconstruir lo que hicieron y por qué.

Un agente puede producir efectos reales sin que una persona revise cada paso. Por eso esta política parte de tres reglas: el agente no puede hacer nada que no se le haya permitido expresamente; toda acción relevante debe poder atribuirse, explicarse y deshacerse o contenerse; y siempre existe una persona responsable y un medio para detenerlo.

2. Alcance

2.1. Esta política se aplica a todo agente de IA que opere en nombre de [NOMBRE DE LA ORGANIZACIÓN] o con sus sistemas, datos o credenciales, con independencia de que:

• lo desarrolle la organización, lo configure a partir de una plataforma de terceros o venga incluido como función en un producto contratado;
• actúe hacia dentro (sistemas internos, personal) o hacia fuera (clientes, proveedores, administraciones, sitios web);
• funcione de forma continua, programada o a petición de una persona.

2.2. Se aplica a todo el personal, contratistas y proveedores que diseñen, configuren, aprueben, operen o supervisen agentes.

2.3. Quedan fuera los asistentes que solo generan texto o sugerencias que una persona copia y usa por su cuenta, sin acceso a herramientas ni capacidad de actuar. Esos usos se rigen por la «Política de uso responsable de IA (incluida la IA generativa)». Los asistentes de programación con modo agente (capaces de ejecutar comandos, modificar repositorios o desplegar) sí están incluidos y se rigen además por la «Política de asistentes de código con IA».